Agentic RAG wint op FRAMES, terwijl lokale inference en zoekarchitecturen nieuwe proefpaden krijgen

Een agentloop met herhaalde retrieval scoort in een makersbenchmark duidelijk hoger dan achttien klassieke RAG-varianten op de multi-hopset FRAMES. Tegelijk zet Turbopuffer zijn vectorindex niet langer centraal in de opslagarchitectuur — een relevante verschuiving voor zoekstacks met tekst, filters én vectoren. Een afzonderlijke meetstudie laat zien hoeveel trackers connected cars en hun apps in een Amerikaanse steekproef benaderen.

Agentic RAG scoort hoger op één multi-hopbenchmark — maar dit is geen algemene RAG-uitspraak

PipesHub vergelijkt achttien RAG-pipelines met een retrieval-agentloop op alle 824 vragen van Google FRAMES. Volgens de auteurs haalt de beste pipeline 78,9% end-to-end antwoordnauwkeurigheid; de agentloop, die zoekresultaten leest en opnieuw kan zoeken, komt op 92,7%. De score is beoordeeld door Claude Sonnet 5 en onafhankelijk nogmaals door Gemini Flash 3.8; de auteurs zeggen correcte antwoorden ook te hebben gecontroleerd op aanwezigheid in de werkelijk opgehaalde tekst.

Dat is vooral praktisch voor vragen waarbij de tweede zoekopdracht pas duidelijk wordt na een eerste document: één keer retrieven is dan een andere taak dan iteratief bewijs verzamelen. De auteurs rapporteren bovendien dat een kleine reranker op hun opzet de eindscores drukte, terwijl een grotere weinig hielp. Hun verklaring is specifiek voor multi-hopvragen: een passage met de verbindende informatie lijkt soms niet genoeg op de oorspronkelijke vraag om hoog te ranken.

De grens is minstens zo belangrijk. Dit is een benchmark van de maker van een open-sourceproduct, op één dataset, met LLM-jury’s en een setup waarin de agentloop meer stappen mag zetten. Het bewijst niet dat een agentloop voor eenvoudige vraag-antwoordsystemen goedkoper, sneller of betrouwbaarder is. Meet daarom op eigen corpus apart: retrievalrecall, antwoordcorrectheid met brononderbouwing, latency, kosten en hoeveel rondes de agent werkelijk nodig heeft. Opzet, cijfers en discussie

Turbopuffer maakt ANN-index secundair in v3

Turbopuffer werkt aan v3, waarin approximate-nearest-neighborzoektocht (ANN) niet meer de primaire opslagindeling bepaalt maar een secundaire index wordt. In de bestaande vectorgerichte opzet zijn documenten en andere indexen gekoppeld aan een ANN-adres. Als vectorclusters bij inserts of updates worden geherbalanceerd, moeten daardoor ook documentinhoud en verwijzende indexen mee verhuizen.

Volgens het bedrijf veroorzaakt dat opslag- en schrijfamplificatie, en begrenst het de blokgrootte van niet-vectorquery’s. V3 kiest daarom voor een andere primaire index, zodat vector-, tekst-, regex-, filter- en aggregatiepaden minder aan dezelfde ANN-clustergrootte vastzitten. Dat is interessant voor RAG- en zoektoepassingen waar vectoren slechts één queryprimitief zijn naast metadata, full-text en groeperingen — niet noodzakelijk voor een simpele embeddings-only index.

Er is nog geen prestatiebewijs voor de nieuwe architectuur: Turbopuffer meldt wel een CI-mijlpaal, maar zegt benchmarks pas de komende weken te publiceren en noemt productie-uitrol pas na performancepariteit. De HN-discussie plaatst het ontwerp herkenbaar naast de afweging tussen directe indexverwijzingen en een extra indirection via stabiele identifiers; dat is duiding uit reacties, geen onafhankelijke validatie van v3. Technische aankondiging · HN-discussie

Meetstudie: connected cars en bijbehorende apps benaderen vaak trackers

Onderzoekers van Northeastern University maten samen met Consumer Reports netwerkverkeer van 21 recente voertuigen van 19 merken en 30 bijbehorende iOS-apps in de VS. Zij rapporteren dat 19 van de 21 auto’s via wifi ten minste één derde partij contacteerden; zeven apps stuurden gevoelige identifiers naar advertentie- of trackingpartijen en vijf daarvan verstuurden volgens de studie zowel VIN als andere identificeerbare gegevens. De auteurs publiceren het werk als peer-reviewed IMC ’26-paper.

De methode is concreet: wifi-verkeer van auto’s liep via een eigen access point, terwijl de apptraffic via test-iPhones, rootcertificaten en mitmproxy kon worden ontsleuteld. Voor elf EV’s herhaalden de onderzoekers delen van de test in een Faraday-tent om mobiele verbindingen te blokkeren. Bij de apps accepteerden ze alle gevraagde permissies en oefenden ze beschikbare functies uit. Volgens de studie verdubbelde koppeling van de companion-app gemiddeld de blootstelling aan advertentie- en trackingpartijen; Honda zou na disclosure de omgang met precieze locatie hebben aangepast.

Dit is geen uitspraak over elk merk, elke softwareversie of Europese auto’s: de steekproef is beperkt, Amerikaans en verzameld tussen oktober 2024 en augustus 2025. Bovendien laat versleuteld voertuigverkeer bestemmingen zien, niet automatisch de inhoud. Maar voor product-, privacy- en fleetteams is het een reden om auto én app als één datagrens te inventariseren — en toestemming, telematica en accountkoppeling niet los van elkaar te beoordelen. Onderzoek, methode en dataset · HN-discussie

Slipstream probeert Flash Next vanaf SSD bruikbaar te houden op een 64GB-Mac

Een ontwikkelaar publiceert Slipstream, een C++/Metal-engine voor Qwen3.8 Flash Next op Apple Silicon. De engine streamt experts vanaf SSD, prefetches volgens de maker volgende lagen en combineert MTP met prompt-lookup speculation. In de gepubliceerde vergelijking op één M5 Pro met 64GB draait hetzelfde 95,5GiB-checkpoint gemiddeld 40,8 tegenover 23,1 tok/s in een eigen llama.cpp-fork; de auteur meldt ook 33–44 tok/s decode tot 130K context in verzamelde sessietelemetrie.

De relevante praktische belofte is niet alleen piekdecode: een model dat groter is dan het werkgeheugen blijft zo mogelijk bruikbaar voor lange, lokale agentsessies. De post zegt een OpenAI-compatibele endpoint te bieden en noemt eerste startvoorbereiding van vijf tot zeven minuten; daarna zouden starts tien tot vijftien seconden duren.

Alle cijfers komen echter van de maker en van één Mac, met eigen checkpoint, taken en cachegedrag. De post vermeldt bovendien zelf dat vrijwel alle 64GB geheugen aan de modelroute kan worden toegewezen, wat ruimte voor browser, Docker en andere lokale processen beperkt. Zie dit als een interessante engineproef, niet als een algemene Flash Next- of Mac-ranglijst; vergelijk op eigen hardware vooral koude prefill, SSD-I/O, geheugenmarge, toolcalls en uitkomstkwaliteit. Release, opzet en meetclaims

Janus verpakt llama.cpp/Vulkan in één Go-server

Janus is een nieuw MIT-project dat GGUF-modellen via een enkele Go-server aanbiedt met een OpenAI-compatibele chat-API. De lokale engine gebruikt llama.cpp via Vulkan op AMD-, Intel- en Nvidia-GPU’s, met CPU-fallback. De repository noemt automatische chattemplate-detectie uit GGUF-metadata, het splitsen van <think> naar reasoning_content en het wisselen van model zonder serverherstart.

Dat maakt het vooral een kleine integratielaag voor Windows- of Linux-gebruikers die een lokaal endpoint voor bestaande clients willen zonder Python, Docker of een aparte Ollama-installatie. De Windows-build haalt wel vooraf gebouwde llama.cpp-Vulkan-DLL’s op; ‘één binary’ betekent dus niet dat de inferencelaag zelf uit het niets komt.

Er staan geen onafhankelijke snelheids- of compatibiliteitsmetingen in de beschikbare context. Ook wijst de HN-discussie erop dat de inferencekern vermoedelijk grotendeels dezelfde prestaties levert als upstream llama.cpp. Beoordeel Janus daarom op installatie, API-gedrag, modelwissel en foutafhandeling, niet als een nieuwe performancebackend. Repository en installatie-informatie · HN-discussie

Verder nog

• M5 Ultra: één 96GB-configuratie met Flash Next: een gebruiker meldt op een M5 Ultra met 96GiB, mlx-serve, 131K context en adaptieve MTP 106–228 tok/s decode, afhankelijk van de uitvoersoort, plus een OpenCode-achtige agentreplay van 46,6 seconden. Dat is een nieuwe, concreet beschreven configuratie naast de einde-dagupdate van 21 september, maar nog altijd één zelfgerapporteerde opstelling — geen aankoopbenchmark. Meetpost
• Spanda wil onzekerheid zonder extra GPU-model schatten: een project stelt dat exacte-tekstentropie over vijf samples op gestructureerde taken bij sommige 7B–27B-modellen een goedkope hallucinatiesignalering kan zijn. De eigen resultaten zijn klein en bij een geteste 120B-modelvariant zou de methode juist falen door herhaald dezelfde foute output; gebruik dit dus hoogstens als extra escalatiesignaal, niet als factualiteitsgarantie. Projectpost en beperkingen