Muse Wonder verschijnt, Janas streamt MoE-experts vanaf SSD en Codex CLI krijgt daemonkritiek

Meta brengt Muse Wonder uit als nieuwe modelserie voor persoonlijke en professionele agents. Tegelijk laat het vroege Janas zien hoe ver SSD-streaming van MoE-experts op een 32GB-laptop kan komen — met harde stabiliteitskanttekeningen. Voor Codex CLI-gebruikers is een nieuw persistent daemonpad reden om lokale processen en updategedrag te controleren.

Muse Wonder zet geheugen en volhouden centraal, maar de onderbouwing komt van Meta

Meta heeft Muse Wonder en Muse Wonder Full aangekondigd. Wonder is beschikbaar via de Meta Model API en Muse Code; de Full-variant is volgens Meta nu voor Muse Code-abonnees beschikbaar. Meta positioneert de serie voor agenttaken waarin een model over gesprekken heen relevante informatie moet terughalen (Active Memory) en lang aan een doel moet blijven werken (Active Focus).

De aankondiging noemt evaluaties voor onder meer juridische, financiële en gezondheidsinformatie, langdurig softwarewerk en persoonlijke agenttaken. Meta zegt ook dat het model vóór belangrijke acties om bevestiging vraagt en sterker bestand is tegen adversarial instructions. Dat zijn relevante ontwerpdoelen voor agents met toegang tot documenten, agenda’s of een browser, maar vooralsnog vooral leveranciersclaims: een volledige safety-evaluatie komt volgens Meta later en de opgeslagen bron bevat geen onafhankelijke test of exacte productgrenzen.

Praktisch betekent dit dat API-gebruikers vooral moeten testen op de lastige delen die een benchmark minder zichtbaar maakt: welke herinneringen worden werkelijk bewaard, wanneer haalt het systeem de verkeerde context op, welke actie vraagt alsnog een menselijke bevestiging en welke data verlaat de eigen omgeving? De HN-discussie bevat vroege praktijkindrukken, maar die is geen representatieve kwaliteitsmeting. Meta’s aankondiging · HN-discussie

Janas laat MoE-modellen groter dan RAM draaien — met SSD als harde randvoorwaarde

Het nieuwe C-project Janas-LLM houdt MoE-gewichten op schijf, streamt per token benodigde experts vanaf NVMe en houdt terugkerende experts in een geheugen-cache. Daarmee wil het modellen draaien die groter zijn dan het fysieke geheugen. De repository meldt op één Debian-laptop met Core Ultra 9 185H, geïntegreerde Arc-GPU, 32GB RAM en een NVMe-schijf van circa 5,7GB/s bijvoorbeeld 24 tok/s zonder drafts voor Qwen3-Next-80B-A3B, waarvan het bestand 48,4GB groot is.

De vergelijking met llama.cpp is interessant maar smal. Op diezelfde machine rapporteert Janas voor dat model 62 tok/s bij promptlezen tegenover 16 en 24 tok/s bij generatie tegenover 2,8; de twee tools meten niet exact hetzelfde en voor llama.cpp waren afwijkende opties nodig om binnen het geheugen te blijven. Janas noemt daarnaast hogere snelheden met model-specifieke drafts, maar documenteert zelf dat die winst sterk afhangt van tekst en acceptatieratio.

De maker waarschuwt nadrukkelijk dat dit een experiment is: de engine vult vrij geheugen voor de expertcache, leest met directe I/O en kan een desktop naar swap drukken of onresponsief maken; eenmaal zou GPU-gebruik een driverreset hebben veroorzaakt. Bovendien is de stack vooral op die ene Intel-laptop getest. Het is dus een boeiende route voor wie een snelle NVMe en beperkte RAM heeft, niet een veilige vervanger voor een gewone runtime. Meet op eigen hardware koude en warme cache, promptverwerking, SSD-druk en vooral beschikbare ruimte voor de rest van je agentstack. Repository met benchmarkmethode en beperkingen · HN-discussie

Codex CLI zou sinds 0.157.0 standaard een blijvende, zelf-updatende daemon starten

Een GitHub-issue over Codex CLI 0.157.0 beschrijft dat een interactieve sessie een beheerde app-server-daemon start die na het sluiten van de terminal blijft draaien. Volgens de issue kopieert die daemon een pakket van circa 374MB naar ~/.codex, draait hij vanuit die kopie en start daarnaast een updater die na vijf minuten en vervolgens elk uur op updates controleert. De indiener meldt ook dat omgevingsvariabelen uit de eerste sessie, zoals een proxyconfiguratie, aan de daemon kunnen blijven hangen.

Het relevante punt is operationeel, niet alleen esthetisch: een CLI die los van de aangeroepen terminal blijft bestaan en zichzelf vervangt, verandert het verwachte proces-, update- en auditmodel. Volgens de issue kan de featureflag daemon_auto_start worden uitgezet; de indiener meldt daarnaast dat daemon stop in zijn test een updateproces liet voortbestaan. HN-reacties noemen vergelijkbare ervaringen en wijzen op extra schijfgebruik, maar zijn geen onafhankelijke bevestiging van elke genoemde bug.

Controleer daarom eerst welke Codex-versie en processen werkelijk op je machine draaien en lees de actuele documentatie of release notes voordat je workarounds automatiseert. Zeker op ontwikkelhosts met wrappers, proxies of beperkt diskbudget is het zinvol te testen of een sessie na afsluiten nog processen, kopieën en netwerkverbindingen achterlaat. Issue met versie, gedrag en gemelde workaround · HN-discussie

Paper: capability-audits kunnen een versleutelde verborgen berekening principieel missen

Een NeurIPS-geaccepteerde paper stelt een scherpe grens aan capability-audits die proberen gevaarlijk gedrag uit een model te lokken. De auteurs construeren backdoors waarin een versleuteld neuraal netwerk in de gewichten zit en pas bij een geheim triggerpatroon wordt ontsleuteld en uitgevoerd. Onder cryptografische aannames zouden zulke circuits zelfs met volledige toegang tot de gewichten moeilijk te activeren én te interpreteren zijn.

De auteurs implementeren proof-of-concepts in PyTorch en testen onder meer fine-tuning, weight noising, gradient-based trigger search en latent adversarial training. De taak is een kleine voorspeltaak voor chemische reacties, bedoeld als proxy voor CBRN-relevante capabilities. Dat maakt de conclusie beperkt maar belangrijk: een audit die niets uitlokt, is onder een actieve tegenstander geen universeel bewijs dat een model een capability niet bevat.

Dit is geen aanwijzing dat gewone open of gesloten modellen vandaag zulke verborgen circuits bevatten, en ook geen praktische exploitbeschrijving. Het is wel een argument om gewichten, provenance en reproduceerbare builds niet als bijzaak te behandelen — en om runtimegrenzen rond tools, secrets en netwerktoegang niet te laten afhangen van alleen gedragsproeven. Paperabstract · HN-discussie

Intel specificeert D270: tot 480GB LPDDR5X voor datacenter-inference

Intel heeft de GPU D270 gepresenteerd als inference-versneller voor datacenters. De productpagina noemt maximaal 480GB LPDDR5X per kaart, 32 Xe3P-cores, 256 matrix-engines, PCIe 5.0 en een luchtgekoeld vermogen van 350W. Intel richt het expliciet op lange contexten, prefill, gelijktijdige sessies en agentworkloads; het noemt PyTorch, vLLM en SGLang als relevante softwarepaden.

Die geheugencapaciteit is interessant voor workloads waar modelgewichten plus KV-cache eerder knellen dan kale rekenkracht. Maar het is geen consumentenkaart en Intel geeft in de beschikbare pagina geen prijs, leverdatum, onafhankelijke benchmark of uitgewerkte compatibiliteitsmatrix. Ook zijn uitspraken over tokens-per-watt en efficiëntere serving leverancierspositionering, geen gepubliceerde vergelijkende meting.

Behandel D270 daarom als een nieuw geheugenrijk alternatief voor serverarchitecten, niet als een onderbouwde keuze tegenover bestaande accelerators. Wacht voor een serieuze vergelijking op beschikbaarheid, softwareversies, echte latency bij lange prompts, concurrency en geheugenfragmentatie in de beoogde servingstack. Intel D270-specificaties · HN-discussie

Verder nog

• MCP-configs snel nalopen: het nieuwe Python-tool mcp-guard scant Claude Desktop-, VS Code- en tools/list-configuraties op gedeclareerde shell-exec, sudo, schrijf-/deleteacties, platte API-sleutels en netwerktoegang. De bruikbare grens staat in de eigen beschrijving: dit zijn keywordheuristieken voor snelle triage; het tool leest wat een server zegt te doen, niet wat die werkelijk uitvoert. Gebruik een resultaat dus als aanleiding voor broninspectie, minimaal toolbereik en sandboxing — niet als veiligheidsstempel. Projectaankondiging