llama.cpp 0.6.0 verbreedt lokale serving; GPT-6 Astra en Sol krijgen volgens OpenAI een snellere standaardroute

llama.cpp 0.6.0 maakt van recente kernel- en modelondersteuning een brede nieuwe release, met gevolgen voor lokale servers én eigen integraties. Een OpenAI-medewerker meldt daarnaast dat de standaardroute voor GPT-6 Astra en GPT-6.1 Sol ongeveer 50% sneller is gemaakt in abonnementen en partners met Sign in with ChatGPT; onafhankelijke metingen en een technische verklaring ontbreken nog.

Aan de securitykant zegt GrapheneOS dat de Pixel 11 mogelijk wordt overgeslagen omdat die nog niet aan de eigen eisen voldoet. Verder zijn er een lokaal full-duplex-spraakproject, de Rust-herschrijving van mold en een nieuwe Duitse robotica-unicorn.

llama.cpp 0.6.0: nieuwe batchlaag en bredere servingroute

llama.cpp 0.6.0 is uit. De release introduceert llama_batch_ext met llama_process(), bedoeld voor batches met zowel tokens als embeddings en state-embeddings voor onder meer MTP- en deepstack-modellen. De server krijgt onder andere /v1/systemone voor decision models; /v1/embeddings kan getypeerde vision-, audio- en video-invoer aannemen.

Voor lokale inference zijn de backendwijzigingen minstens zo interessant: de release noemt een nieuwe Metal flash-attentionkernel voor F16-KV, few-row-MMA-matmul voor Apple-GPU’s, sparse flash attention voor gekwantiseerde K/V op Vulkan en een W4A4-pad voor CUDA. Ook zijn er nieuwe of uitgebreidere paden voor onder meer GLM-5.3-Flash, Clef en Qwen4Exp met MTP-speculative decoding. De ingebouwde webinterface krijgt bovendien een Hugging Face-downloadpad en geheugeninschatting voor modellen.

Dit is een concrete vervolgstap na de namiddagupdate van vandaag, die alleen de nieuwe Metal-kernels rond speculative decoding behandelde. Versie 0.6.0 maakt daar een veel bredere upgrade van: API-, sessieformaat-, server- en backendwijzigingen zitten in hetzelfde nieuwsfeit. Behandel hem dus als major upgrade: sessieformaten zijn verhoogd en eigen bindings, presets, multimodale clients en reproduceerbare inferenceruns verdienen een stagingtest. De snelheidsclaims zijn releasecijfers voor specifieke hardware, modellen en quants, geen algemene prestatiegarantie. Release notes

OpenAI-medewerker claimt snellere standaardroute voor Astra en Sol

OpenAI-medewerker Thibault Sottiaux schrijft dat de standaardrespons voor GPT-6 Astra en GPT-6.1 Sol met ongeveer 50% is versneld voor abonnementen, in OpenAI-producten en bij partners die Sign in with ChatGPT gebruiken, waaronder OpenCode, Pi, Amp en Devin. Volgens dezelfde thread zou dat ongeveer 50 tokens per seconde betekenen in plaats van 30; gebruikers hoeven volgens hem niets te wijzigen.

Dat is een concrete verandering na de ochtendupdate van vrijdag 2 oktober, waarin alleen een herstelmelding na capaciteitsproblemen en een accountreset stond. Voor gebruikers van zo’n gekoppelde coding-agent kan een kortere decode-tijd direct voelbaar zijn, vooral bij lange toolantwoorden.

De bron is wel één medewerkerspost. Er is geen technische root cause, afbakening per regio of onafhankelijke voor/na-meting beschikbaar. Reacties melden uiteenlopende ervaringen, maar vormen evenmin een betrouwbare benchmark. Meet daarom bij een belangrijk workflowpad zelf time-to-first-token, outputtempo, foutpercentage en eventuele gebruikslimieten; de claim zegt niets over modelkwaliteit of beschikbaarheid. Aankondiging op X

GrapheneOS: Pixel 11 voldoet volgens project nog niet aan securitygrens

GrapheneOS meldt in zijn forum dat de Pixel 11 nog niet aan de securitystandaarden van het project voldoet en daarom mogelijk wordt overgeslagen. Voor wie GrapheneOS als beveiligde telefoonroute inplant, is de praktische consequentie simpel: ga niet uit van ondersteuning alleen omdat een nieuwe Pixel beschikbaar komt.

De beschikbare, opgeslagen forumpagina levert helaas geen leesbare verdere technische toelichting op. Daardoor is niet vast te stellen welke eis precies ontbreekt, of en wanneer Google die alsnog kan invullen, of wat dit voor latere Pixel-varianten betekent. Ook de uitgebreide HN-discussie bevat veel niet-geverifieerde interpretatie over beveiligingsfeatures en markttoegang.

Behandel dit dus als een projectstatus, niet als een onafhankelijk vastgesteld oordeel over de Pixel 11 als geheel. Voor een aankoopbeslissing zijn GrapheneOS’ concrete compatibiliteitslijst, release notes en de feitelijke installatiestatus leidend. GrapheneOS-forumbericht · HN-discussie

Speakrail brengt lokaal full-duplex-gesprek naar één 24GB-Nvidia-kaart

Het Apache-2.0-project Speakrail bundelt een volledig lokale stemassistent die kan blijven luisteren terwijl hij spreekt. De opzet combineert Voxtral Mini 4B Realtime met een turn-taking-head, een Gemma 4 12B met LoRA voor beslissingen als spreken, luisteren of onderbreken, en Breeze TTS 2 voor uitvoer. De repository beschrijft ook ‘listening notes’ terwijl de gebruiker praat en optionele tools voor onder meer timers, notities en lokaal gehoste SearXNG-zoekopdrachten.

Dat is interessant omdat de beurtwisseling niet als simpele stilte-timer wordt behandeld. De herkenner geeft volgens de documentatie elke 80 ms een inschatting van spreken, klaar zijn, pauzeren of een backchannel; het systeem kan al een antwoord voorbereiden voordat het einde van een beurt definitief is. De maker rapporteert 0,7–0,8 seconde mediane tijd tot audio en een topscore voor open gewichten op Full-Duplex-Bench, maar dat zijn eigen metingen.

De hardware- en licentiegrenzen zijn concreet: de geteste route vraagt Linux, Docker, circa 75 GB opslag en een RTX 4090 of vergelijkbare 24GB-Nvidia-kaart; één gesprek tegelijk en Engels zijn vaste beperkingen. De standaardstem mag alleen niet-commercieel worden gebruikt, zodat commercieel gebruik een andere streaming-TTS vereist. Zie het als een reproduceerbare lokale proefopstelling, niet als bewezen alternatief voor elke cloudspraakdienst. Repository en architectuur · Reddit-discussie

mold 3.0 is de eerste Rust-release — met bootstrapprijs voor sommige distributies

De snelle linker mold 3.0.0 is de eerste release na de herschrijving van C++ naar Rust. De makers noemen 2.42.1 de laatste C++-versie, beloven voor 3.0 dezelfde command-line-opties, doelarchitecturen en ongeveer dezelfde linkperformance, en richten de 3.x-lijn op resterende compatibiliteitsgaten met GNU ld — vooral linker scripts.

Voor beheerders die zelf bouwen is dit een echte migratie: builden gaat via Cargo in plaats van CMake, vereist Rust 1.95 of hoger plus een C-compiler, en diverse CMake-opties zijn vervangen door Cargo-features. De release zegt ook dat corrupt invoerbestand niet meer tot een out-of-bounds-read en segfault moet leiden, maar tot een gecontroleerde bounds-check en panic. Daarnaast repareert de changelog een lange lijst link-, relocatie- en determinismeproblemen.

De HN-discussie maakt één concrete tegenhanger zichtbaar: een distributieonderhouder gebruikt de C-versie als vroege bootstrap-linker voor Rust en zegt daardoor een C++-fork te moeten bijhouden. Dat is geen weerlegging van de release, maar wel reden om de toolchain-volgorde mee te nemen. Test eigen bootstrapping, -r-paden, linker scripts en reproduceerbare builds voordat je een distributie- of CI-default vervangt. mold 3.0-release notes · HN-discussie

Verder nog

• RobCo boven miljard dollar gewaardeerd: de in München opgerichte industriële-roboticaspeler meldt via een secundaire aandelenverkoop met nieuwe investering een waardering boven $1 miljard, volgens het aangehaalde verslag een verdubbeling in negen maanden. RobCo wil zijn autonome industriële robot Alfie pas in 2027 commercieel lanceren; de waardering is dus geen bewijs van productierijpheid of brede uitrol. Wel is het een zichtbaar Europees financieringssignaal voor Robotics-as-a-Service en fysieke AI. Verslag · HN-discussie