Lokale modelgeheugens worden beschrijfbaar; Gemma krijgt een gespecialiseerde engine

ENGRAFT verkent een opmerkelijk ander pad voor tijdelijke modelkennis: feiten komen in een losse overlay op Qwen3.8 Flash Next, niet in de gewichten. Daarnaast verschijnt Gewell, een smalle Gemma-4-engine die vooral context- en cachegedrag op Blackwell wil verbeteren. Voor Qwen-Image-2.1 is er eindelijk een licentieprecisering over de output, maar een lokale M2-test houdt de hardwaregrens scherp.

ENGRAFT schrijft feiten in een losse n-gramoverlay

ENGRAFT experimenteert met het trainen van alleen rijen in de Engram/PLE-n-gramtabel van Qwen3.8 Flash Next. De basismodelgewichten en het GGUF-bestand blijven volgens de auteur ongemoeid; de uitkomst is een losse overlay van 9 MB die je kunt verwijderen om terug te keren naar het oorspronkelijke gedrag. In de gepubliceerde Quail-proef — 100 verzonnen feiten, getraind in het Italiaans — meldt de auteur 0,841 exact-answer op 841 ongeziene zinnen, tegen 0,005 voor het basismodel. Opzet, code en resultaten

Dat is interessant voor een lokale agent of toepassing die een afgebakende, vervangbare feitenlaag nodig heeft zonder een volledige finetune te beheren. De techniek heeft ook een duidelijke keerzijde: de feiten blijken in deze proef niet tussen Italiaans, Engels en Chinees over te steken, omdat de adressatie aan exacte token-n-grams hangt. Bij 100 feiten meldt de auteur bovendien meetbare afwijking op neutrale tekst; vragen met twee feiten tegelijk werkten nog onvoldoende betrouwbaar.

Dit is een vroege zelfmeting op één model en een synthetische wereld, geen bewijs dat ENGRAFT een alternatief is voor retrieval, LoRA of model-editingmethoden. Een directe vergelijking met LoRA, ROME of MEMIT ontbreekt expliciet. Wel zijn code, meetartefacten en overlays gepubliceerd, waardoor de relevante volgende stap helder is: reproduceer met eigen domeinfeiten, paraphrases en vooral negatieve regressietests.

Gewell kiest voor Gemma-cache en gemengde quantisatie

Gewell is een nieuwe, gespecialiseerde engine voor Gemma 4 op Blackwell. De maker benut een eigenschap van Gemma’s globale attention-lagen: doordat K- en V-gewichten daar gekoppeld zijn en RoPE slechts een deel van K roteert, zou de KV-cache volgens de uitleg verliesloos met factor 0,625 kunnen worden opgeslagen. De engine richt zich daarnaast op expliciete cachehints, behoud van terugkerende prefixes en gemengd-precisiequants. Aankondiging, ontwerp en metingen

Dat is vooral relevant voor workloads met meerdere beurtelings actieve agentrollen — bijvoorbeeld planner, schrijver en criticus — waar een algemene LRU-cache bruikbare prefixes kan verdringen. Gewell probeert tussentijdse checkpoints juist op te lossen en minder nuttige snapshots eerder weg te gooien. De maker noemt als doel dat Gemma 4 31B, MTP en ongeveer 250k context op een 32GB-kaart passen; vooralsnog is de engine ontwikkeld en getest op Linux met een RTX Pro 6000.

De cijfers zijn niet onafhankelijk gereproduceerd. Sampleropties zijn nog beperkt, de chattemplate staat vast en Windows- en RTX-5090-ondersteuning zijn niet beproefd. Zie Gewell daarom als een interessante, smalle runtime voor een specifiek Gemma-profiel — niet als een algemene vLLM- of llama.cpp-vervanger.

Qwen-Image-output is volgens Qwen van de gebruiker; lokaal draaien blijft duur

Er is een concrete verduidelijking sinds de namiddagupdate van gisteren, die de licentie nog als open vraag markeerde. In een door de community aangehaalde reactie zegt Qwen dat gegenereerde beelden en andere output niet tot de gelicentieerde materialen behoren en dat gebruikers de rechten op die output behouden. Licentie-discussie en aangehaalde verduidelijking

Dat maakt het onderscheid belangrijker, niet kleiner: de modelgewichten zelf vallen nog onder de Qwen Research License. De beschikbare uitspraak beantwoordt dus niet of je het model zonder aanvullende afspraak commercieel als productie-inference-service mag draaien. Wie een klantworkflow bouwt, moet de daadwerkelijke licentietekst en eventuele schriftelijke voorwaarden voor het modelpad blijven controleren.

Een aparte gebruiker laat tegelijk zien wat ‘lokaal’ op bescheiden Apple Silicon betekent: op een M2 MacBook Pro met 32GB duurt een 1024×1024-generatie met 40 stappen volgens diens test ongeveer 16 minuten. De post documenteert een Python/diffusers-installatie met MPS, maar is geen systematische snelheids- of kwaliteitsvergelijking. M2-test en installatiepad

De combinatie is praktisch: de outputclaim neemt één juridische onzekerheid weg, maar niet de licentievraag rond het model en evenmin de hardwarekosten. Test daarom zowel rechten als doorlooptijd op de resolutie, batchgrootte en editstappen van de eigen pipeline.

MCP is vooral een capabilitygrens, geen vervanger voor een shell

De HN-discussie over de vraag of MCP altijd een slecht idee was, levert een bruikbare ontwerpnuance op. Een terminalagent met onbeperkte shell- en netwerktoegang kan direct API’s aanroepen, maar verliest daarmee ook een natuurlijke plaats om externe diensten, credentials en auditlogs te begrenzen. Een reactie beschrijft juist een opzet waarin sandboxed agents uitsluitend een MCP-virtueel bestandssysteem zien; een buitenliggende orchestrator voert de echte opslagacties uit en logt ze. HN-discussie

Dat maakt MCP niet automatisch veiliger of efficiënter. In dezelfde draad staat een concreet tegenvoorbeeld: een gebruiker verving een specifieke Linear-MCP door een CLI vanwege hoog tokenverbruik, terwijl een andere gebruiker betere contextefficiëntie met goed ontworpen MCP-tools meldt. De les is dus niet ‘MCP of shell’, maar: geef een agent niet meer bevoegdheid dan nodig is, houd secrets buiten zijn context, en meet de token- en latencykosten van de toolbeschrijvingen en resultaten.

Voor een lokale coding agent kan een shell nog steeds passend zijn binnen een strakke sandbox. Voor gedeelde SaaS-accounts, interne opslag of handelingen met een auditplicht biedt een expliciete capabilitylaag echter een controlepunt dat losse API-sleutels in een agentomgeving niet geven.

Raspberry Pi zou RAM-modificaties willen weren

Een nieuwe HN-discussie meldt dat Raspberry Pi mechanismen inzet die het wisselen van RAM-chips moeten blokkeren. Volgens de besproken achtergrond zouden handelaren kleinere varianten van borden van andere RAM voorzien en die als hoger-geheugen-SKU doorverkopen, mogelijk met onbetrouwbare of afgekeurde chips. HN-discussie

Voor kopers van gebruikte of ‘geüpgradede’ boards is dat vooral een provenance-signaal: controleer of geheugenmodificaties duidelijk zijn vermeld en reken niet op fabrieksgarantie of firmwarecompatibiliteit. De discussie bevat ook een belangrijk bezwaar tegen veldblokkades, maar één reactie stelt dat het niet om het achteraf onbruikbaar maken van bestaande apparaten gaat.

De beschikbare context bevat geen primaire technische uitleg van Raspberry Pi over de precieze firmwarelogica, getroffen modellen of herstelpad. Lees dit daarom niet als bewijs dat elk RAM-upgrade-experiment onmogelijk is, maar als reden om voor productie- of hobbyprojecten alleen traceerbare hardware en ondersteunde configuraties te kopen.

Verder nog

• Yvette bundelt een lokale spraakavatar voor Windows: dit nieuwe open project combineert lokale spraakherkenning, TTS, voice cloning, een pratend hoofd, geheugen en tools. De auteur noemt Nvidia/Windows en 12GB als aanbevolen, met een krappe 8GB-route waarbij Whisper en Kokoro op de CPU draaien. In de discussie wordt ook gemeld dat lipsynchronisatie niet altijd strak is; beschouw het dus als vroeg integratieproject, niet als af product. Project en praktijknotities