Codex maakt Auto-review gratis; lange Qwen-reasoning vraagt om een quant-check

Codex maakt zijn Auto-review-permissiemodus gratis voor ingelogde ChatGPT-gebruikers. Tegelijk is er een bruikbare waarschuwing voor lokale Qwen3.8-27B-gebruikers: één uitvoerig testverslag ziet uniforme GGUF-quants pas na tienduizenden reasoningtokens ontsporen, terwijl een gemengd-precisiecheckpoint dezelfde taak wel afrondt.

Verder zijn er een open beslislaag voor bestaande LLM’s, een WebGPU-experiment dat MoE-experts vanaf browseropslag leest, en een onderzoeksvoorstel om transformerpretraining zonder backpropagation te doen.

Codex biedt Auto-review gratis aan, maar de precieze autorisatiegrens blijft te testen

Volgens de aankondiging is Auto-review voortaan gratis voor iedereen die via een ChatGPT-account is ingelogd. De instelling staat onder permissions en moet het patroon vervangen waarin elke actie in de standaard-sandbox afzonderlijk bevestiging vraagt. De maker positioneert dat als minder beslissingsmoeheid dan alles handmatig accorderen, zonder meteen naar volledige toegang te gaan.

Dat is relevant voor wie Codex regelmatig op echte repositories inzet: toestemming per stap is veilig maar stroperig, terwijl brede toegang een te groot bereik kan geven. Auto-review lijkt een tussenstand, maar de beschikbare aankondiging specificeert niet welke acties automatisch doorgaan, welke context of modellen gelden, of hoe de grenzen technisch worden afgedwongen. Sommige reacties melden bovendien dat de optie nog niet zichtbaar is; dat is geen bewijs over de uitrolstatus.

Activeer zo’n modus dus niet blind op een werkmachine. Begin met een wegwerprepo, minimale credentials en een afgebakende werkmap; controleer vooral netwerktoegang, shellcommando’s, wijzigingen buiten de repository en het gedrag bij een prompt-injection in tooluitvoer. Aankondiging van Auto-review

Eén Qwen3.8-27B-test ziet lange reasoning stuklopen op uniforme GGUFs

Een communitytest meldt een opvallend verschil tussen quantformaten voor Qwen3.8-27B, een hybride model met recurrente/lineaire aandachtspaden. Op twee RTX 5060 Ti-kaarten zouden Unsloth Dynamic GGUFs op korte chat- en codetaken normaal werken, maar bij een lange reasoningopdracht niet afronden: de auteur rapporteert bij Q4 een volledig verbruikt tokenbudget zonder eindantwoord en bij Q6 herhaling in de staart. Een tweede run via vLLM met dezelfde GGUF zou eveneens niet binnen het budget convergeren.

Het controlepunt is nuttig, maar smal: op dezelfde machine en prompt zou een NVFP4-checkpoint dat attention- en recurrente lagen op FP8 houdt, wel rond 17.000 reasoningtokens een compleet antwoord produceren. De auteur vermoedt daarom cumulatieve afrondingsfouten in recurrente toestand bij een meer uniforme integerquantisatie. Dat is nadrukkelijk een hypothese, geen upstreambevestigde fout in GGUF, llama.cpp of vLLM; de test heeft weinig runs en geen BF16-baseline.

De praktische les is sterker dan de oorzaakclaim: beoordeel een quant niet uitsluitend met perplexity, een korte chat of tokens per seconde. Voeg voor reasoningmodellen een lange taak met een duidelijke stopvoorwaarde toe aan je eigen acceptatietest en log eindreden, herhaling en werkelijk antwoord. Wie dit gedrag tegenkomt, kan voorlopig een gemengd-precisievariant proberen of reasoning kort budgetteren — maar test beide op de eigen hardware en workflow. Testopzet, runs en beperkingen

AnyJev maakt een bestaande open LLM tot getypeerde beslisendpoint

Nokia Applied Research heeft AnyJev onder Apache-2.0 gepubliceerd. Het project leest voor keuze-, ja/nee- en scorevragen een beslissing met kansverdeling uit een bestaand open model, zonder vrije tekst te genereren of te parsen. De nul-labelmodus roteert antwoordopties om positievoorkeur te dempen; met 100–300 gelabelde voorbeelden per vraag kan een kleine closed-form head op hidden states worden gezet. Voor die L2-route documenteert het project een vLLM-embedserver en het inkorten van een Qwen-model tot een tussengelegen laag.

Interessant is vooral de expliciete scheiding tussen een antwoord kiezen en voldoende gekalibreerd zijn om automatisch te handelen. AnyJev laat downstreamcode een minimumniveau eisen, zodat een L0-uitkomst zonder labels niet onopgemerkt doorgaat als een beter gekalibreerde L1/L2-beslissing. De repository claimt voor eigen Qwen-tests minder dan één gewone forward pass voor L2, omdat de resterende generatielagen niet nodig zijn.

Daar zitten harde grenzen aan. De gepubliceerde accuracy is deels overeenkomst met een teacher-LLM, L2-heads zijn per vraag én per model en de auteur zegt zelf dat de evaluaties nog niet in een echte agentloop zijn gedaan. Ook kalibratie maakt een model niet kundig op een taak die het niet begrijpt. Dit is dus een interessante lokale laag voor routing of triage met gelabelde hold-outs, geen autonome beslisser voor onomkeerbare acties. Repository, implementatie en beperkingen · Reddit-discussie

LocalMind laadt MoE-experts vanaf browseropslag — bruikbaar experiment, geen native vervanger

LocalMind heeft twee WebGPU-engines toegevoegd die mixture-of-experts-gewichten tijdens generatie vanaf disk kunnen lezen. In de beschreven opzet wordt een GGUF bij de eerste start naar Chrome’s OPFS-opslag gekopieerd; dense gewichten, router en KV-cache gaan naar de GPU, terwijl experts op opslag blijven en workers ze naar een GPU-slotcache halen. De broncode staat onder MIT en de applicatie draait volgens de maker als statische webpagina zonder server of account.

De auteur meet dit op één M4 Pro met 24GB: Gemma 4 26B-A4B zou met een 4GB-expertcache 23,6 tok/s decode halen, terwijl Qwen3.6-35B-A3B als 36,9GB-bestand op die machine rond 9,9 tok/s zou genereren. Voor Gemma claimt de maker op korte greedy tests grotendeels identieke output aan llama.cpp; voor het volledige Qwen-model is die pariteit nog onvolledig. De vermelde kosten maken het compromis helder: LocalMind is voor Gemma ongeveer drie keer langzamer dan llama.cpp op dezelfde Mac, en een eerste download/kopie kan minuten duren.

Dit is interessant als bewijs dat een tab grotere MoE’s kan verkennen zonder lokale serverinstallatie, niet als aanbeveling om native inference te vervangen. OPFS-capaciteit, browser- en WebGPU-gedrag, SSD-prestaties en tokenpariteit zijn nog nauwelijks buiten die ene machine getoetst. Vergelijk dus eerst zelf koude laadtijd, langetermijncontext, foutafhandeling en uitkomstkwaliteit. Project, meetdetails en code

Dust verkent transformerpretraining zonder backward pass

Q Labs beschrijft Dust, een zeroth-order-trainingsmethode die Gaussian noise aan activaties toevoegt en de resulterende verliesverandering gebruikt om een foutsignaal te schatten. Het kernidee is een ‘virtuele populatie’: doordat elke token onafhankelijk wordt geperturbeerd, zou één forward pass veel kandidaatperturbaties parallel kunnen evalueren zonder complete, gewijzigde gewichtskopieën te materialiseren.

De auteurs stellen dat Dust in hun pretrainingexperimenten competitief is met backpropagation en bij grotere populaties soms beter scoort. Ze rapporteren metingen tot één miljard tokens en vergelijken de extrapolatie met weight-space evolution strategies. Dat maakt het een interessant onderzoeksrichting voor trainingsmethoden en eventueel architecturen waarin gewone differentiatie lastig is.

Maar de auteurs schrijven zelf expliciet dat Dust vandaag niet compute-efficiënt genoeg is om backprop te vervangen. De volledige opgeslagen artikeltekst is bovendien afgekapt, en de gerapporteerde resultaten zijn van de auteurs zelf. In de HN-discussie wordt terecht betwijfeld of zeroth-order zoeken een principieel voordeel houdt wanneer eerste-ordemethoden verder verbeteren. Lees Dust daarom als een vroege methodedemo — niet als een aanstaande vervanger voor de huidige GPU-trainingsstack. Onderzoeksartikel · HN-discussie

Verder nog

• Claude is geen privédagboek: TechSpot meldt dat Anthropic na een door Claude gesignaleerde tekst en menselijke beoordeling contact opnam met de politie wegens een volgens de reviewer geloofwaardige dreiging. Het concrete voorval speelt in Florida; de bredere, technisch relevante les is beperkt maar duidelijk: volgens het artikel kan Anthropic gebruikersinformatie in beperkte noodgevallen delen om ernstig letsel of overlijden te voorkomen. Dat is geen onafhankelijke analyse van de moderatie, geen algemene uitspraak over strafbaarheid en ook geen reden om lokale modellen als veiligheidsoplossing te presenteren. Voor gevoelige maar legitieme notities betekent het vooral dat een hosted chatbot geen vertrouwelijke dagboekkluis is; controleer dataretentie en disclosurevoorwaarden van de gekozen dienst. Artikel · HN-discussie