Vulkan-training op afgeschreven MI50’s, Qwens livevertaling en een waarschuwing voor GPU-verhuur

Een communityproject heeft een klein taalmodel via Vulkan op twee AMD MI50’s laten trainen, inclusief zelfgeschreven autograd- en shaderpad. Dat maakt oude hardware interessanter voor experimenten, maar de gerapporteerde 0,4 stap per seconde is nadrukkelijk geen alternatief voor een volwassen trainingsstack. Qwen kondigt daarnaast LiveTranslate aan: de maker meldt minder vertraging bij simultaanvertaling en functies voor meerpartijgesprekken, zonder dat er al onafhankelijke tests of open gewichten in de beschikbare context staan.

VTrain maakt Vulkan-training op MI50 concreet — maar nog heel klein

Een gebruiker heeft VTrain gepubliceerd, een eigen trainingsstack die GLSL/SPIR-V-compute-shaders via Vulkan aanstuurt. Volgens de auteur bevat die matrixvermenigvuldiging, elementwise-operaties, layernorm, softmax, autograd, gradient checks, Adam/SGD en een klein transformermodel. De demonstratie draait op twee AMD Instinct MI50’s met samen 64GB HBM2; de auteur zegt bovendien ROCm 6.4.3 te hebben aangepast voor de niet langer ondersteunde gfx906-kaarten. Project en meetlog · code

Dit is een concrete vervolgontwikkeling op de ochtendupdate van donderdag, die een breder Rust/Vulkan-trainingsproject als experimenteel alternatief behandelde: hier is een specifieke opstelling op afgeschreven AMD-datacenterkaarten, met een daadwerkelijk trainingslog. De auteur rapporteert dat een character-level model op Simple English Wikipedia daalt van ongeveer 4,3 verlies bij random initialisatie naar circa 2,6; de snelheid is ongeveer 0,4 stap per seconde.

Dat bewijst vooral dat de route technisch mogelijk is, niet dat zij al bruikbaar is voor serieuze finetuning. De stack, modellen, patches en metingen komen van één auteur; de test betreft een klein 75-teken-vocabulaire en geen moderne LLM-training. Ook ontbreken vergelijkingstests, reproduceerbare prestaties op andere AMD-generaties en een oplossing voor de beschreven multi-GPU-topologieproblemen. Voor bezitters van goedkope MI50’s is het desondanks een interessant inspecteerbaar experiment: verwacht integratiewerk, en behandel niet-ondersteunde ROCm-patches als eigen onderhoudsrisico.

Qwen LiveTranslate belooft minder wachttijd bij simultaanvertaling

Qwen heeft Qwen3.8-LiveTranslate aangekondigd, een realtime simultaanvertaalmodel op een ‘Interleave’-architectuur. De maker meldt een gemiddelde LAAL-vertraging van 2,3 seconden, tegenover 2,8 seconden, gemeten over zestig talen. Nieuw zijn volgens Qwen ook realtime speakerdiarisatie met stembehoud, een synchrone bron- en vertaalweergave en gebruik van gespreksgeschiedenis om namen en terminologie consistenter te vertalen. Aankondiging en links naar blog/cloudmodel

Voor vergaderingen, supportgesprekken en meertalige events zijn dat precies de onderdelen die verder gaan dan losse speech-to-text en vertaling: wie spreekt, welke terminologie al is gekozen en wat de ander nog hoort tellen in een doorlopende conversatie. De vertraging en kwaliteitsverbeteringen zijn echter leveranciersclaims. De beschikbare aankondiging laat geen onafhankelijke evaluatie zien per taalrichting, bij sprekeroverlap of met jargon; ook blijken er geen open modelgewichten uit. Met name talen waarbij cruciale grammaticale informatie laat komt, verdienen een eigen test voordat je de gemiddelde LAAL als gebruikservaring leest.

Verder nog

• GPU’s verhuren vraagt om harde isolatie: een gebruiker meldt dat een huurder op diens Clore.ai-host vanuit een container kwetsbaarheden zou hebben gescand en malware naar een externe goksite probeerde te sturen; de auteur zegt dat het platform het account na een abuse-melding niet wilde blokkeren. Dit is één onbevestigd gebruikersverslag, zonder reactie van Clore of onafhankelijke verificatie, dus geen vastgestelde platformbrede misstand. De praktische les staat wel: wie eigen GPU-capaciteit verhuurt, moet uitgaand verkeer, netwerksegmentatie, host-toegang en aansprakelijkheid als onderdeel van het dreigingsmodel behandelen — niet alleen de containergrens. Verslag en discussie