llama.cpp krijgt realtime audio; macOS-git blijft eMudhra-risico houden

llama.cpp 0.8.0 zet een brede stap naar lokale audio- en multimodale serving, met realtime- en TTS-endpoints. Unsloth bouwt zijn lokale agentomgeving verder uit met browserbesturing en batchgewijze LoRA-training. Ondertussen meldt een onafhankelijke testsite dat macOS 27.2 het eMudhra-trustprobleem in meegeleverde commandoregeltools niet repareert.

llama.cpp 0.8.0 brengt realtime audio en LFM3 naar lokale servers

llama.cpp 0.8.0 voegt ondersteuning toe voor Liquid AI’s LFM3-familie, inclusief de Audio- en Omni-modellen. De release introduceert daarnaast een experimentele streaming-audio-API in mtmd, een OpenAI-achtige /v1/realtime-endpoint voor gesprek en transcriptie, en een /tts-endpoint.

Dat maakt een lokale route mogelijk waarin een toepassing niet alleen tekst genereert, maar ook audio incrementeel verwerkt en terugstuurt. Verder bevat de release onder meer ondersteuning voor DeepSeek V4.1 Flash, een SLRU-cache voor host-residente MoE-experts, toolverbeteringen en UI-functies zoals gesprekcompactie en modelzoek/download via Hugging Face.

Dit is een concrete vervolgversie op de einde-dagupdate van maandag 5 oktober, die llama.cpp 0.6.0 behandelde. Voor bestaande integraties verdient dit een stagingtest: API’s, modelarchitecturen, servergedrag en CLI-verwachtingen veranderen tegelijk — --model of -hf is nu bijvoorbeeld verplicht. De realtime- en modelondersteuning zegt nog niets over bruikbare latency of audiokwaliteit op eigen hardware; meet die met eigen microfoon-, taal- en gelijktijdigheidsscenario’s. Release notes

Unsloth voegt browserbesturing en multi-LoRA-batches toe

Unsloth 0.1.912-beta laat lokale modellen via een schakelaar de ingebouwde browser bedienen. De release voegt ook multi-LoRA-batching toe: maximaal vier compatibele fine-tuningjobs kunnen volgens de releasenotes tegelijk op een gedeeld basismodel trainen, ieder met een eigen adapter. Unsloth rapporteert daarbij op een A100 een versnelling van 1,52× voor vier adapters tegenover één voor één trainen; dat is een eigen meting onder specifieke instellingen.

Praktisch relevanter voor agentgebruik is een veiligheidsreparatie: een lokaal model mag een toolcall die door de outputlimiet is afgebroken niet meer uitvoeren. Volgens de releasenotes kon een half gegenereerd shellcommando eerder bijvoorbeeld een bestaand bestand overschrijven. De release noemt verder snellere eerste start, sneller laden en Linux-toolcalls, plus ondersteuning voor hervatten en gestructureerde output op vLLM en SGLang.

Dit is een nieuw releasefeit na de namiddagupdate van maandag 26 oktober, die versie 0.1.911-beta en geplande prompts besprak. Browserbesturing maakt rechten en egress opnieuw belangrijk: een lokale runtime is geen autorisatiegrens. Beperk daarom toegestane websites, downloads, sessies en toolrechten, en test afgebroken generaties expliciet voordat je bestaande agentflows een upgrade geeft. Unsloth 0.1.912-beta

Testsite: macOS 27.2 lost eMudhra-pad voor Git niet op

Een onafhankelijke testsite meldt dat de door Apple meegeleverde git, curl en python3 op macOS 27.2 nog steeds certificaten uit de gecompromitteerde eMudhra-keten accepteren. De auteur schrijft ook dat de update een eerder handmatig aangepaste /etc/ssl/cert.pem terugzet. Dat zou juist het pad raken dat voor HTTPS-clones, pulls en pushes wordt gebruikt.

Dat is een concrete, maar nog niet door Apple bevestigde, ontwikkeling sinds de middagupdate van maandag 26 oktober: Apple had toen al erkend dat commandoregeltools een afzonderlijk trust-storepad volgen en een toekomstige software-update beloofd. De testsite zegt nu dat de recente macOS-update die beloofde reparatie niet bevat.

Behandel de demo als een controlepunt, niet als bewijs dat een specifieke verbinding al is onderschept. Safari en apps op Apples networkingframework vallen volgens Apple onder een ander beschermingspad. Voor ontwikkel-Macs en CI-runners is de praktische vraag daarom welke systeemtools en CA-bundels werkelijk in gebruik zijn. Hercontroleer na OS-updates eventuele tijdelijke mitigaties, en volg Apples eigen advisories voor de structurele fix. Test en technische toelichting · HN-discussie · Apple-advies

Cursor opent zijn framework voor eventgedreven agents

Cursor brengt de Agent SDK algemeen beschikbaar. Daarmee kunnen teams agents als code definiëren: prompts in Markdown, tools als TypeScript-functies, en evaluaties naast de integraties en instructies in hetzelfde project. De SDK is bedoeld voor gebeurtenissen zoals pull requests, complianceflows en incidentonderzoek; gespecialiseerde subagents en parallel werk horen volgens Cursor ook bij het model.

De interessante ontwerpkeuze is dat event replay en evals onderdeel van het framework zijn. Dat maakt het makkelijker om een agent niet alleen op een losse succesvolle demo, maar op herhaalbare gebeurtenissen te testen. Cursor kan de agent met één commando op eigen infrastructuur hosten, maar zegt ook dat elke agent als één Node-proces kan worden verpakt en op eigen infrastructuur kan draaien.

Dat verlaagt niet vanzelf het risico van een PR-agent met merge-, secret- of productionrechten. Versiebeheer van prompts en tools is nuttig, maar vereist nog steeds een testset met foutgevallen, least-privilege tokens, duidelijke approvals en logging. Cursor over Agent SDK · HN-discussie

FlashMap wil speculative decoding sneller maken zonder tokenafhankelijke drafts

De preprint FlashMap beschrijft een speculative-decodingdrafter die een heel tokenblok in één forward pass genereert, maar daarbij afhankelijkheden tussen tokens probeert mee te nemen. De auteurs zetten dit af tegen autoregressieve drafters, die een blok token voor token opbouwen, én tegen block-diffusiondrafters zoals DFlash, die volgens hen tokens in zo’n blok te onafhankelijk voorspellen.

Op Qwen3-8B claimt het paper gemiddeld 7% meer versnelling dan een gematchte DFlash-baseline en maximaal 6,1× lossless acceleration. Interessant is de combinatie van snelheid met verificatie door het doelmodel: geaccepteerde voorstellen horen de uiteindelijke output niet te wijzigen.

Dit is nog een preprint met resultaten op één model- en benchmarkopzet, geen kant-en-klare runtimefunctie. Vooral draftacceptatie, geheugenverbruik, prefill en winst bij lange agentcontexten moeten buiten de paper nog blijken. Voor inferencebouwers is het wel een nuttig signaal dat alternatieven voor autoregressieve speculative decoding snel concreter worden. FlashMap-paper · Reddit-signaal

Verder nog

• Qwenputer probeert berekening binnen modelpasses te plaatsen: een experimenteel project koppelt een 32-bit RISC-V-processor aan Qwen3.5-4B. Volgens de maker onderschept de huidige variant nog vooral bestaande toolformattering om berekeningen in de forward pass te laten uitvoeren; een variant die dit zonder expliciete toolcall inzet, vraagt nog post-training. Daardoor is dit nu eerder een onderzoeksexperiment rond tooluitvoering dan een aantoonbaar efficiënter alternatief voor een gewone sandbox. Projectdiscussie
• Pi-maker nuanceert een MCP/OAuth-keuze: Armin Ronacher schrijft in een X-discussie dat Pi CIMD ondersteunt, maar het wegens gebruiksgemak en huidige valkuilen niet standaard maakt. De draad laat vooral zien dat opslag en registratie van OAuth-clients een ontwerpkeuze met securitygevolgen zijn; het is geen securityadvies of wijziging in Pi zelf. Discussie