Jeeves maakt beslismodellen redeneerzamer; gezichtsherkenningsproef en lokale inference vragen om scherpere metingen

Jeeves probeert de accuracy van getypeerde beslismodellen op te krikken door eerst te redeneren, maar dat maakt zo’n beslissing aanzienlijk minder snel. Tegelijk laat een Londense proef met live-gezichtsherkenning zien waarom inzet, opbrengst en proportionaliteit apart gemeten moeten worden: ruim een half miljoen scans leidden daar in zes maanden niet tot een arrestatie.

Jeeves voegt redeneren toe vóór een getypeerde beslissing

Jeeves is een nieuw open 9B-beslismodel bovenop Qwen3.5 dat vóór een ja/nee-, keuze- of scorebeslissing een reasoning-keten kan genereren. Daarna scoort een pointer head de vooraf gegeven opties; de server blijft compatibel met Jev’s /v1/systemone-interface. Het project publiceert gewichten, trainingscode, data-opbouw en een diffusion-drafter voor die redeneringsketen. Dat maakt het een interessante route voor teams die een begrensde router of classifier willen verbeteren zonder naar vrije JSON-uitvoer terug te vallen.

De winst is volgens de makers reëel maar niet gratis. Op hun eigen testdata meldt Jeeves 0,889 tegenover 0,857 voor Jev; op de publieke JevBench-tiers 0,935 tegenover 0,866. Tegelijk staat in dezelfde documentatie dat een verzoek zonder denken circa 0,3 seconde duurt, tegen 3,3 seconden mediaan en 17,1 seconden p90 bij volledige reasoning op één H100. Een HN-deelnemer meldt bovendien een eigen proef op een M5 Pro waarin 100 Duitse ironie-classificaties ruim een half uur duurden en onder Jev uitkwamen. Dat is geen representatieve benchmark, maar wel precies het risico: latency, hardware en taaksoort kunnen de makersscore overrulen.

Ook de projectdocumentatie noemt grenzen: op MMLU en MMLU-Pro blijft het achter Jev, en de redeneringstekst is niet goed interpreteerbaar. Test dus op eigen gelabelde gevallen, inclusief onbekende categorieën, en kies expliciet tussen max_think, latency en foutkosten. Project, methode en eigen resultaten · HN-discussie

Londense stationsproef: één foutpositief, geen arrestaties

Een Freedom-of-Information-document dat Liberty Investigates met The Guardian deelde, beschrijft een zes maanden durende proef van de Britse transportpolitie met live-gezichtsherkenning op Londense stations. Tussen februari en juli werden volgens het verslag meer dan 500.000 gezichten gescand bij achttien inzetten. De kosten voor apparatuurhuur en politiecapaciteit bedroegen ruim £320.000; er was één watchlist-alert, die een foutpositief bleek, en geen arrestatie rechtstreeks door de technologie.

Dat is geen algemene test van de nauwkeurigheid van gezichtsherkenning: onbekend blijven onder meer de samenstelling van de watchlist, locaties, beeldkwaliteit en hoeveel scans unieke personen betroffen. De transportpolitie zegt na de proef locaties, procedures, apparatuur en watchlistconstructie te hebben verfijnd. De proef is inmiddels met vier maanden verlengd en uitgebreid naar Underground-stations; de politie meldt daarbij drie bevestigde alerts van personen die aan opgelegde voorwaarden bleken te voldoen, niet per se gezochte personen.

Voor Europese praktijk is vooral de evaluatiegrens relevant. Een laag aantal matches kan zowel iets over de watchlist als over inzet of technologie zeggen; een foutpositief maakt tegelijk duidelijk dat proportionele inzet en menselijke controle geen bijzaak zijn. Het artikel citeert bovendien een oud-commissaris voor biometrie die benadrukt dat de politie noodzaak en proportionaliteit moet aantonen. Verslag met FOI-gegevens · HN-discussie

Een vLLM-fork haalt hoge aggregate throughput uit vier oude MI100’s

Een gebruiker beschrijft een eigen vLLM-fork voor vier AMD MI100-kaarten van elk 32 GB, onderling gekoppeld met Infinity Fabric. Volgens de post steeg Qwen 3.8 27B van circa 15 tok/s in stock vLLM naar meer dan 1.000 tok/s decode en 5.000 tok/s prefill bij concurrency 8. De belangrijke correctie uit de discussie: de 1.000 tok/s is aggregate throughput over acht requests, niet de snelheid van één antwoordstroom.

De auteur schrijft de stap toe aan nieuwe kernels en aan het repareren van ongeveer dertig numerieke- en memory-trackingproblemen in vLLM, AITER en ROCm. Dat is interessant omdat het de bruikbaarheid van gebruikte datacenterhardware niet alleen aan VRAM, maar ook aan backendondersteuning en interconnect koppelt. Hij meldt tevens maandenlang testen op hoge context en asynchrone concurrency, maar die validatie is niet onafhankelijk.

Dit is daarom een bruikbaar technisch spoor, geen koop- of performanceadvies. De fork is specifiek voor een slecht out-of-the-box ondersteunde architectuur; meet op dezelfde quant, contextlengte, kwaliteit en concurrency, en vergelijk per-stream latency naast aggregate throughput. Configuratie, claims en discussie

Geprunde Flash Next-quant ruilt expertkennis in voor 32GB-voetafdruk

ISTA’s Deep Algorithms and Systems Lab heeft GSQ/RCO-GGUFs voor Qwen3.8-Flash-Next uitgebracht, plus een Coder-variant die per laag de helft van de 512 gerouteerde experts verwijdert. Volgens de release blijft daarvan 29,6 GB resident, waarmee de variant op één 32GB-accelerator zou passen; de volledige download is 58,4 GB. De genoemde 1,89 bits per oorspronkelijke parameter is een gemiddelde die pruning en quantisatie samen uitdrukt, niet een opslagformaat van 1,89 bit per gewicht.

Dat is praktisch interessant voor wie een grotere MoE op één kaart wil testen zonder alleen verder in precisie te zakken. Maar de ruil is zichtbaar: de makers melden voor SWE-bench Verified 75,60 tegenover 82,80 voor de BF16-basis, al blijft LiveCodeBench volgens hun cijfers dichterbij. Een gebruiker meldt daarnaast dat de Coder-build bij simpele Delphi-taken niet-bestaande syntax verzon; de auteur erkent dat ondervertegenwoordigde mogelijkheden bij expertpruning sterk kunnen degraderen of verdwijnen.

Zie dit dus als een taakgerichte artefactrelease, niet als een algemene ‘kleinere Flash Next’. Test juist talen, frameworks en toolcalls die niet in de calibratiemix zaten, vóór je op de resident footprint of de eigen benchmarks vertrouwt. Release en gebruikersdiscussie

Verder nog

• Firefox 157 rolt nieuw ontwerp breed uit: Mozilla vernieuwt kleuren, iconen, thema’s, tabs, toolbar, New Tab en Private Browsing op desktop en mobiel. Voor wie vooral verticale ruimte wil, is Compact Mode terug, inclusief automatische compactmodus voor kleinere schermen; er zijn ook een nieuwe themakiezer en vaste New-Tab-snelkoppelingen. Mozilla zegt dat dit geen performancekost heeft, maar de beschikbare bron bevat geen onafhankelijke meting. Mozilla’s aankondiging · HN-discussie
• Raschka publiceert gids over tekstclassificatie en calibratie: de nieuwe, volgens de auteur praktijkgerichte uitleg behandelt RNN’s, CNN’s, transformers, accuracy/efficiency en Jev. Dit is leer- en referentiemateriaal, geen onafhankelijke nieuwe vergelijking; let bij de experimenten vooral op taaklengte, hardware en calibratie-opzet. Aankondiging op X