llama.cpp 0.5.0 verbreedt lokale inference; Tailscale en Cloudflare pakken datapaden aan

llama.cpp 0.5.0 brengt concrete verbeteringen voor lokale inference en servergebruik, terwijl Google Antigravity nu officieel met lokale modellen laat werken. Aan de netwerkzijde bereiden Tailscale en Cloudflare wijzigingen voor die respectievelijk forwarding en content negotiation beter beheersbaar moeten maken.

llama.cpp 0.5.0: bredere modeldekking en een robuustere server

llama.cpp 0.5.0 is uit. Voor lokale inference springen vooral de nieuwe conversiepaden voor MiMo-V2.6 en HunyuanOCR eruit, naast extra parser- en architectuurfixes voor onder meer DeepSeek-, Qwen-, Gemma- en Nemotron-varianten. De release activeert ook CUDA Graphs voor MTP-drafting en bevat Metal-optimalisaties voor MoE en SSM_CONV.

Voor self-hosted endpoints zijn de minder zichtbare wijzigingen minstens zo nuttig: de server kan aan meerdere TCP-adressen en Unix-sockets binden, en de release repareert router-evictieraces en voorkomt dat router-kindprocessen log- of API-keybestanden meekrijgen. Dat maakt dit vooral een versie om op een stagingopstelling tegen eigen modellen, toolcalls en routering te testen; de lange changelog is geen belofte dat iedere backend of quant sneller wordt. Release notes

Antigravity krijgt een officiële lokale agentroute

Google voegt lokale uitvoering toe aan de Antigravity SDK. De eerste geoptimaliseerde route gebruikt Gemma 4 26B A4B via LiteRT; daarnaast noemt Google een LocalOpenAIAgentConfig voor OpenAI-compatibele lokale servers zoals Ollama, LM Studio en vLLM. Volgens de documentatie is meer dan 24GB VRAM of unified memory aanbevolen.

Het praktische verschil is dat dezelfde agentorkestratie en tools nu met een lokaal model kunnen draaien, ook offline. Google laat tevens een hybride patroon zien: een cloudmodel plant alleen op basis van bestandsnamen en taakomschrijving, terwijl lokale Gemma-instanties code inspecteren, patches maken en tests uitvoeren. Dat is een leveranciersdemo — geen onafhankelijke security- of kwaliteitsmeting — maar de scheiding maakt wel duidelijk welke informatie een team desgewenst lokaal kan houden. Controleer vooral de standaard toolrechten: het getoonde voorbeeld gebruikt expliciet allow_all(). Google-aankondiging en handleiding · Reddit-discussie

Tailscale bereidt parallelle forwarding en snellere warme starts voor

Tailscale beschrijft een reeks datapadwijzigingen. Op Linux en Android blijven kleine pakketten voortaan in de grote leesbuffer waar ze binnenkwamen, in plaats van elk naar een eigen 64KiB-buffer te kopiëren; Tailscale meldt daarvoor grofweg 5% snelheidswinst in veel configuraties. Kortere packet queues moeten daarnaast geheugen en wachttijd verminderen.

Belangrijker voor subnet routers, app connectors en exit nodes is een geplande multi-queue-route: onafhankelijke pakketstromen krijgen elk een lane, zodat verwerking over cores kan spreiden zonder pakketten binnen één stroom te herschikken. Tailscale plaatst die wijziging ná clientversie 1.104. Ook komt netmap-caching volgens de planning standaard aan in 1.104: een apparaat kan na een eerdere verbinding een lokale netwerkkaart gebruiken terwijl de control plane nog niet bereikbaar is. Dat kan warme starts onder slechte connectiviteit versnellen, maar werkt niet op een eerste verbinding en kost persistente opslag en extra schrijfwerk.

De claims komen van Tailscale zelf; de HN-discussie onderstreept dat kernel-WireGuard niet automatisch de snellere oplossing is en dat extreem hoge bandbreedte een ander datapad kan vragen. Meet dus directe én relayverbindingen, pakketgrootte en tailnetgrootte op de eigen infrastructuur. Tailscale-uitleg · HN-discussie

Cloudflare geeft Vary per cache rule een expliciete strategie

Cloudflare ondersteunt nu Vary in Cache Rules op alle plannen. Per header kun je kiezen tussen normaliseren, de ruwe waarde laten meetellen (passthrough) of caching omzeilen. Dat adresseert het klassieke probleem dat een origin bijvoorbeeld slechts drie talen serveert, terwijl Accept-Language duizenden semantisch equivalente headerwaarden kent — zonder normalisatie fragmenteert de cache dan in nauwelijks hergebruikte varianten.

Voor Accept, Accept-Language en Accept-Encoding kan Cloudflare waarden normaliseren; voor persoonlijke of onbegrensde waarden zoals Cookie en User-Agent adviseert het juist bypass. De essentiële grens blijft bij de origin: iedere cachebare respons die afhankelijk is van een requestveld moet consequent de juiste Vary-header terugsturen, ook fallback- en foutresponsen. Een fout daar kan nog steeds de verkeerde representatie isolatie laten missen.

Dit is nuttig voor content negotiation achter Cloudflare, maar geen vrijbrief om alles via headers te variëren. Test na uitrol verwachte varianten vanaf één client, controleer de inhoud én CF-Cache-Status, en purge bij beleidswijzigingen: bestaande entries verdwijnen niet vanzelf. Cloudflare-documentatie en voorbeeld · HN-discussie

Gemini 3.8 TTS brengt voice design, replicatie en twee-spreker-scripts

Google introduceert Gemini 3.8 Flash TTS en de goedkopere Flash-Lite TTS. Flash richt zich op voice design via natuurlijke taal en nauwkeurige regie per zin; Flash-Lite op hoogvolume-workloads. Google noemt meer dan honderd talen en dialecten, een bibliotheek met ruim 2.000 stemmen, twee-spreker-scripts en voice replication vanaf een audiofragment van dertig seconden.

De ingebouwde beperkingen zijn relevant: voor cloning zegt Google consent-verificatie te gebruiken; alle gegenereerde audio zou SynthID-watermarking krijgen en C2PA-credentials meekrijgen. De modellen zijn nu volgens Google beschikbaar in de Gemini API en AI Studio; de enterprise-route volgt later. De gemelde benchmarkposities komen van Google, en een HN-discussie wijst op uiteenlopende mogelijkheden per Google-product. Controleer dus API-regio, toegangslaag, uitvoerformaat en de feitelijke consentflow voordat je een voice-workflow bouwt. Google-aankondiging · HN-discussie

Verder nog

• Claude Code Cloud Sessions verlaten research preview: Anthropic-hosted sessies kunnen volgens de aankondiging doorwerken als de laptop dicht is; starten kan via web, mobiele of desktopapp en claude --cloud. Pro- en Max-abonnees krijgen eenmalig respectievelijk $100 en $250 proefcredit, los van reguliere gebruikslimieten. Dit verplaatst werk nadrukkelijk naar Anthropic-infrastructuur; beoordeel daarom repositorytoegang, secrets en dataretentie voordat je het voor een echte codebase activeert. Aankondiging