llama.cpp 0.4.1 brengt serverfixes; Qwen Flash Next haalt 20 tok/s op 12GB

llama.cpp 0.4.1 is uit met nieuwe modelarchitecturen, serverfixes en enkele opties die beheerders moeten aanpassen. Tegelijk laat een nieuwe praktijkopstelling zien dat Qwen3.8 Flash Next met SSD-offload bijna 20 tok/s kan halen op een 12GB-kaart — met RAM en NVMe als harde randvoorwaarden.

llama.cpp 0.4.1: let op gewijzigde laadopties en servergedrag

De release v0.4.1 voegt CPU-ondersteuning toe voor Maple 20B-A1B, plus ondersteuning voor Tencent Hy 4 en Spark2.5. Voor lokale servers zijn vooral de fixes voor een LRU-hang bij gelijktijdige aanvragen van hetzelfde model, context-checkpoint-evictie en speculative decoding na beeldinvoer relevant. Ook zijn gestructureerde JSONL-logs toegevoegd.

Voor scripts en deployment zit de breuk in de details: de oude opties --mmap, --mlock en --direct-io zijn verwijderd ten gunste van --load-mode; ook verandert llama_sampler_chain_n() van returntype. Controleer dus wrappers en CI-configuraties vóór een upgrade. Dit concretiseert het Maple-signaal uit de einde-dagupdate van gisteren: het zit nu in een uitgebrachte versie, naast een veel bredere set runtimewijzigingen. Release notes

Qwen Flash Next op 12GB: SSD-offload brengt een bruikbare, maar smalle route

Een gebruiker beschrijft Qwen3.8 Flash Next op een RTX 4070 met 12GB VRAM, 64GB DDR5 en Gen4-NVMe. Met een 4,27-bpw-quant, lazy n-gram-offload naar SSD en recente MoE-optimalisaties meldt die circa 19,35 tok/s generatie; met een nog niet gemergde MTP-patch en compact draft-head wordt 20,65 tok/s genoemd. De auteur rapporteert daarbij 77–96% acceptatie voor die MTP-variant.

Dit is een concrete aanvulling op de namiddagupdate van gisteren, die Flash Next op 64GB-Macs behandelde: hier gaat het om een veel kleinere VRAM-kaart, maar niet om een 12GB-machine alleen. De opstelling leunt nadrukkelijk op 64GB snel systeemgeheugen en NVMe; prefill blijft met 300–350 tok/s lager dan de decode-snelheid doet vermoeden. Het is één communitymeting met specifieke quant en patches, geen algemene compatibiliteitsgarantie. Configuratie en metingen

Ubuntu 26.10 schuift naar Rust-coreutils — test scripts en images vroeg

Volgens de HN-bron heeft Ubuntu 26.10 de overgang naar de Rust-implementatie uutils coreutils voltooid. Dat raakt elementaire commando’s en is daarom meer dan een taalwissel: shellscripts, containerimages en provisioning horen tegen de beoogde release getest te worden.

De discussie bevat ook een serieuze beperking: een deelnemer toont een rm -rf-crash bij een extreem diep pad, waar GNU rm de directory wel verwijdert. Anderen wijzen erop dat 26.10 nog een interimrelease is en dus juist een testmoment biedt, maar dat maakt de compatibiliteitsmelding niet ongedaan. De discussie is geen reproduceerbare security-audit; behandel dit als reden voor eigen regressietests, niet als bewijs dat alle coreutils onveilig of incompatibel zijn. HN-discussie

dbt Charts wil agent-gegenereerde dashboards als code controleerbaar maken

De voormalige Chartio-oprichter heeft dbt Charts aangekondigd: een open-source YAML-dialect en renderer om dashboards declaratief vast te leggen, onder Apache 2.0. Het idee is vergelijkbaar met Markdown voor grafieken: een compact bestand beschrijft de visualisatie in plaats van een vrije, moeilijk te reviewen artifact uit een chat of agent.

Dat kan relevant zijn waar agents analyses of dashboards opleveren die in versiebeheer, code review en CI moeten passen. De bron maakt nog geen uitspraken over volwassenheid, compatibiliteit of productiehosting; het is een nieuwe toolaankondiging, geen bewezen vervanging voor bestaande BI-stacks. Aankondiging op HN

Verder nog

eBPF-policycache met belangrijke randvoorwaarde: een case study claimt circa 90% minder CPU door een pad-naar-policylookup te memoizen. In de HN-draad wordt terecht gewezen op een mogelijk fout- of onveilig cache-resultaat wanneer een bovenliggende directory verhuist; de maker noemt inode-evictie bij directorymoves als mogelijke oplossing. Discussie
Superlogical demonstreert een CLI voor zijn multiplexer: Mitchell Hashimoto toont automatisering vanuit editors en agentic-codingtools en stelt dat de CLI alles uit de GUI kan aansturen. Interessant als integratiehaak, maar de beschikbare post is een demo, geen onafhankelijke evaluatie of volledige technische documentatie. Demo