Lokale agentstacks krijgen nieuwe proefbanken en sandboxwerk; Mellum 2.1 verschijnt

Unsloth brengt een nieuwe beta uit die lokale beslismodellen verder richting export en serving duwt, naast extra sandbox- en Desktopwerk. JetBrains zet Mellum2.1 klaar als compacte MoE voor coding, terwijl Seahaven een lokaal fundament biedt voor agent-evals met herhaalbare toestand. De gemeenschappelijke les: agentgedrag wordt pas meetbaar wanneer zowel de uitvoeringsgrens als de testwereld expliciet zijn.

Unsloth 0.1.905-beta breidt decision-serving en sandboxing uit

Unsloth 0.1.905-beta volgt op de route voor trainbare beslismodellen die in de einde-dagupdate van gisteren langskwam. De nieuwe release voegt volgens de releasenotes onder meer export naar GGUF en serving van ondersteunde decision models via llama.cpp in Studio toe. Daarmee wordt het eenvoudiger om een lokaal getraind model voor afgebakende keuzevragen ook vanuit dezelfde desktopomgeving te serveren.

De beta noemt daarnaast sandboxing met Bubblewrap op Linux, Seatbelt op macOS en MXC op Windows, met instelbare beschermingsniveaus en statusweergave. Ook zitten er fixes rond downloadbevestigingen, browsergedrag, owner-only routes en S3-datasetkeys in. Dat is praktisch voor mensen die modelgegenereerde code uitvoeren, maar een instelling of runtime op zichzelf is geen garantie dat werkmappen, netwerktoegang, credentials en toolrechten veilig zijn begrensd.

De performance- en accuracycijfers in de releasenotes zijn afkomstig van Unsloth zelf. Test een upgrade daarom met eigen decision-schema’s, onbekende gevallen en de daadwerkelijke sandboxgrenzen, niet alleen met een gelukt demovoorbeeld. Release notes

JetBrains publiceert Mellum2.1 als 12B-MoE voor coding

JetBrains heeft Mellum2.1-12B-A2.5B-Thinking en een GGUF-variant gepubliceerd. De naam wijst op 12 miljard totale parameters met 2,5 miljard actieve parameters; de beschikbare modelcollectie bevestigt die twee artefacten, maar bevat geen uitgewerkte modelkaart of onafhankelijke meetopzet.

In de bijbehorende Reddit-discussie wordt Mellum2.1 gepositioneerd als een voortzetting van Mellum2 met nadruk op agentic coding, tool calling en multi-token prediction. Daar worden ook door JetBrains aangeleverde claims genoemd over ongeveer 1,6× hogere snelheid per request met MTP en meer throughput onder belasting. Dat zijn interessante eigenschappen voor een lokaal codingmodel, maar geen voorspelling voor een bepaalde quant, GPU of agentharness.

Wie Mellum2.1 naast een bestaand lokaal model test, moet vooral pass-rate, toolcall-formaat, contextgedrag, acceptatie van MTP en wall-clock meten. Een hogere tokensnelheid helpt pas als edits, tests en herstelrondes ook kloppen. Modelcollectie · Reddit-discussie

Seahaven maakt stateful agent-evals lokaal reproduceerbaar

Het nieuwe MIT-project Seahaven richt zich op een lastig stuk van agent-evaluatie: een agent moet niet alleen tekst produceren, maar ook consistente wijzigingen aanbrengen in een wereld met toestand. Per run krijgt hij volgens de maker een eigen SQLite-database uit een fixture, met vaste klok en random seed; de evaluator kan vervolgens de gewijzigde rijen beoordelen in plaats van alleen een lange tooltrace.

De meegeleverde Stripe World illustreert de ambitie met 24 tabellen en 155 API-operaties achter MCP-achtige tools en een REST-interface. Seahaven noemt parallelle instances, state diffs en compatibiliteit met OpenEnv; via seahaven mcp kan ook een lokale modelclient met zo'n wereld werken. Dit is een bruikbare richting voor teams die prompt-, tool- of harnesswijzigingen willen vergelijken zonder productie- of stagingdata steeds opnieuw te moeten herstellen.

De belangrijke beperking is dat een realistische testwereld nog steeds eigen domeinwerk vraagt. De claim dat de Stripe-SDK ongewijzigd werkt en de schaalclaims komen van de maker; een goed resetbare simulatie bewijst evenmin dat het gedrag tegen de echte API, autorisaties en edge cases gelijk is. Seahaven · Stripe World · Reddit-post

Verder nog

• AnswerUI zet interactieve antwoorden boven een lokale OpenAI-compatibele server: het nieuwe open-sourceproject kan volgens de maker sliders, grafieken, tabellen en formulieren streamen via onder meer Ollama en LM Studio; de browserinteractie zou daarna zonder nieuwe modelcall kunnen doorwerken. De keerzijde is een instructielaag van circa 10K tokens; de maker meldt dat kleinere lokale modellen vaak de layout wel maken, maar de interactielogica niet betrouwbaar koppelen. Project · Reddit-discussie
• MiniJinja 3.0 laat Serde los als standaarddependency: maker Armin Ronacher meldt daarnaast free-threading, opgeschoonde legacycode en snelheidsverbeteringen. Voor Rust-projecten is vooral de dependencywijziging reden om lockfile, features en templategedrag op de eigen combinatie te testen; concrete benchmarks ontbreken in de beschikbare post. Aankondiging
• LittleBit-2 verfijnt sub-1-bit-quantisatie zonder extra inferencestap: de publicatie factoriseert gewichtsmatrices, binariseert de latente factoren en gebruikt lichte schalen; de opvolger voegt een optionele initialisatie met latent-geometry-alignment toe. De code ondersteunt diverse Llama-, Qwen- en Gemma-families, maar vraagt quantization-aware training en de licentie is CC BY-NC 4.0. In de kleine HN-discussie worden forse kwaliteitsverliezen en gebrek aan vergelijkingen met praktischere lage-bit-methoden genoemd; zie het dus als onderzoek en trainingscode, niet als directe vervanger voor een gangbare quant. Repository en methode · HN-discussie