Decoupling Search from Reasoning: A Vendor-Agnostic Grounding Architecture for LLM Agents
Het artikel introduceert Decoupled Search Grounding (DSG), een leverancier-onafhankelijke architectuur die zoekopvraging scheidt van redeneermodellen om granulaire controle over routing en caching te bieden, waarbij een nauwelijks merkbare afwijking in nauwkeurigheid wordt bereikt terwijl de kosten en latentie over diverse LLM-workloads drastisch worden verminderd.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een briljante, deskundige assistent (de LLM) inhuurt om vragen voor je te beantwoorden. Soms moet deze assistent op het internet zoeken naar actuele feiten om je een goed antwoord te kunnen geven.
Momenteel gebruiken de meeste bedrijven een "Native Search"-aanpak. Dit is alsof je een assistent inhuurt die ook een eigen privébibliotheek en zoekmachine bezit. De assistent gaat naar de bibliotheek, pakt de boeken en brengt ze terug naar jou. Dat is handig, maar je hebt geen idee welke bibliotheek ze hebben gebruikt, hoeveel het hen heeft gekost om de boeken te halen, of hoe lang ze daarmee bezig zijn geweest. Erger nog, soms raakt de assistent zo enthousiast over de gevonden boeken dat ze lange, warrige verhalen gaan schrijven in plaats van simpelweg het antwoord te geven waar je om vroeg.
De auteurs van dit paper stellen een nieuwe methode voor genaamd Decoupled Search Grounding (DSG). Zo werkt het, met behulp van eenvoudige analogieën:
1. De "Tussenpersoon" Manager (De Gateway)
In plaats van dat de assistent de bibliotheek bezit, huur je een gespecialiseerde Manager in (de DSG gateway).
- Hoe het werkt: Wanneer de assistent informatie nodig heeft, vraagt hij het aan de Manager. De Manager gaat vervolgens op pad en kiest de beste bibliotheek om te bezoeken (misschien is de ene goedkoper, of heeft de andere recenter nieuws).
- Het voordeel: Je kunt bibliotheken direct vervangen zonder de assistent te ontslaan. Als Bibliotheek A te duur wordt, schakelt de Manager gewoon over naar Bibliotheek B. De assistent merkt de verandering niet eens op.
2. De "Strenge Butler" (Source-Aware Formatting)
Een van de grootste problemen met de "Native Search"-assistent is dat ze praatgraag zijn. Als je vraagt: "Wat is de hoofdstad van Frankrijk?", zeggen ze misschien: "Nou, ik heb het opgezocht, en op basis van de zoekresultaten heb ik gevonden dat Parijs de hoofdstad is..."
- De DSG-oplossing: De Manager fungeert als een strenge Butler. Hij neemt de ruwe informatie uit de bibliotheek, ruimt het op en overhandigt het aan de assistent in een net, gestandaardiseerd pakketje.
- Het resultaat: De assistent wordt gedwongen om precies te geven wat je vroeg (bijv. alleen "Parijs") zonder de extra praatjes. Dit is cruciaal omdat computers in de echte wereld vaak deze antwoorden automatisch moeten kunnen lezen, en extra woorden de code van de computer breken.
3. De "Slimme Archiefkast" (Caching)
Stel je voor dat je twee keer achter elkaar dezelfde vraag stelt.
- Native Search: De assistent gaat naar de bibliotheek, betaalt de vergoeding en haalt het boek opnieuw op. Je betaalt twee keer.
- DSG: De Manager heeft een Slimme Archiefkast. Als je een vraag stelt die hij eerder heeft gezien, haalt hij het antwoord direct uit de kast.
- Het resultaat: In hun tests werkte deze archiefkast zo goed dat 99,4% van de herhaalde vragen direct vanuit de kast werd beantwoord, waardoor de kosten voor het zoeken bijna tot nul werden teruggebracht en de reactie 68% sneller was.
4. De "Budgetknop" (Tunable Controls)
Bij de oude methode betaal je een vaste prijs voor de bibliotheekdienst. Met DSG krijg je een Budgetknop.
- Je kunt tegen de Manager zeggen: "Geef voor deze vraag $0,01 uit en haal 3 resultaten op." Of: "Voor deze belangrijke vraag, besteed $0,50 en haal 10 resultaten op."
- Dit stelt bedrijven in staat om enorme hoeveelheden geld te besparen door alleen te betalen voor diepgaand onderzoek wanneer dat daadwerkelijk nodig is.
Wat hebben ze gevonden?
De auteurs hebben dit nieuwe systeem getest tegen de oude "Native Search"-methode met vijf verschillende slimme assistenten en diverse soorten vragen:
- Kosten: Ze ontdekten dat ze bijna dezelfde kwaliteit van antwoorden konden krijgen als de dure native search, maar voor 91% minder geld bij standaardvragen, en meer dan 98% minder geld in hun echte e-commerce tests.
- Snelheid: Omdat van de "Slimme Archiefkast" kwamen antwoorden veel sneller terug wanneer dezelfde vragen opnieuw werden gesteld.
- Betrouwbaarheid: De "Strenge Butler"-aanpak voorkwam dat assistenten lange, rommelige paragrafen schreven wanneer een kort, simpel antwoord vereist was. Dit voorkwam fouten in systemen die afhankelijk zijn van schone data.
De Kern van het Verhaal
Het paper betoogt dat het doorzoeken van het internet geen verborgen, vastgelegde functie van een specifiek AI-bedrijf zou moeten zijn. In plaats daarvan moet het een aparte, controleerbare tool zijn die je kunt beheren, optimaliseren en wisselen. Door het "zoeken" te scheiden van het "denken", kunnen bedrijven geld besparen, sneller werken en hun antwoorden schoon en betrouwbaar houden.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.