Decoupling Search from Reasoning: A Vendor-Agnostic Grounding Architecture for LLM Agents
Das Papier stellt Decoupled Search Grounding (DSG) vor, eine herstellerunabhängige Architektur, die die Suchabfrage von den Reasoning-Modellen entkoppelt, um eine granulare Kontrolle über das Routing und Caching zu ermöglichen und dabei eine nahezu native Genauigkeit bei gleichzeitiger drastischer Reduzierung von Kosten und Latenz über diverse LLM-Workloads hinweg zu erreichen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie stellen einen brillanten, wissensreichen Assistenten (das LLM) ein, um Ihre Fragen zu beantworten. Manchmal muss dieser Assistent im Internet nach aktuellen Fakten suchen, um Ihnen eine gute Antwort geben zu können.
Derzeit verwenden die meisten Unternehmen einen „Native Search“-Ansatz. Das ist so, als würden Sie einen Assistenten einstellen, der auch seine eigene Privatbibliothek und Suchmaschine besitzt. Er geht in die Bibliothek, holt die Bücher und bringt sie zu Ihnen zurück. Das ist praktisch, aber Sie haben keine Ahnung, welche Bibliothek er besucht hat, wie viel es ihn gekostet hat, die Bücher zu holen, oder wie lange er dafür gebraucht hat. Schlimmer noch: Manchmal wird der Assistent so begeistert von den Büchern, die er gefunden hat, dass er anfängt, lange, ausschweifende Geschichten zu schreiben, anstatt einfach nur die einfache Antwort zu geben, nach der Sie gefragt haben.
Die Autoren dieser Arbeit schlagen einen neuen Weg namens Decoupled Search Grounding (DSG) vor. So funktioniert es, unter Verwendung einfacher Analogien:
1. Der „Zwischenmenschliche“ Manager (Das Gateway)
Anstatt dass der Assistent die Bibliothek besitzt, stellen Sie einen spezialisierten Manager (das DSG-Gateway) ein.
- Wie es funktioniert: Wenn der Assistent Informationen benötigt, fragt er den Manager. Der Manager geht dann aus und wählt die beste Bibliothek aus, die er besuchen kann (vielleicht ist eine günstiger, vielleicht hat eine aktuellere Nachrichten).
- Der Vorteil: Sie können Bibliotheken sofort austauschen, ohne den Assistenten zu entlassen. Wenn Bibliothek A zu teuer wird, wechselt der Manager einfach zu Bibliothek B. Der Assistent merkt von der Änderung nichts einmal.
2. Der „Strenge Butler“ (Quellenbewusste Formatierung)
Eines der größten Probleme mit dem „Native Search“-Assistenten ist, dass er sehr geschwätzig wird. Wenn Sie fragen: „Was ist die Hauptstadt von Frankreich?“, antwortet er vielleicht: „Nun, ich habe nachgesehen, und basierend auf den Suchergebnissen habe ich herausgefunden, dass Paris die Hauptstadt ist...“
- Die DSG-Lösung: Der Manager fungiert wie ein strenger Butler. Er nimmt die Rohinformationen aus der Bibliothek, bereitet sie auf und übergibt sie dem Assistenten in einem ordentlichen, standardisierten Paket.
- Das Ergebnis: Der Assistent wird gezwungen, Ihnen genau das zu geben, wonach Sie gefragt haben (z. B. nur „Paris“), ohne den zusätzlichen Smalltalk. Dies ist entscheidend, da Computer in der realen Welt oft diese Antworten automatisch lesen müssen und zusätzliche Wörter den Code des Computers unterbrechen würden.
3. Der „Schlaue Aktenschrank“ (Caching)
Stellen Sie sich vor, Sie stellen dieselbe Frage zweimal hintereinander.
- Native Search: Der Assistent geht in die Bibliothek, zahlt die Gebühr und holt das Buch erneut. Sie zahlen doppelt.
- DSG: Der Manager besitzt einen Schlauen Aktenschrank. Wenn Sie eine Frage stellen, die er schon einmal gesehen hat, zieht er die Antwort sofort aus dem Aktenschrank.
- Das Ergebnis: In ihren Tests funktionierte dieser Aktenschrank so gut, dass 99,4 % der wiederholten Fragen sofort aus dem Schrank beantwortet wurden, was die Suchkosten auf fast Null senkte und die Antwort um 68 % beschleunigte.
4. Der „Budget-Regler“ (Einstellbare Steuerung)
Mit der alten Methode zahlen Sie einen festen Preis für den Bibliotheksdienst. Mit DSG erhalten Sie einen Budget-Regler.
- Sie können dem Manager sagen: „Gib für diese Frage 0,01 $ aus und hole 3 Ergebnisse.“ Oder: „Für diese wichtige Frage gib 0,50 $ aus und hole 10 Ergebnisse.“
- Dies ermöglicht es Unternehmen, enorme Geldmengen zu sparen, indem sie nur dann für tiefgehende Recherche bezahlen, wenn es tatsächlich notwendig ist.
Was haben sie herausgefunden?
Die Autoren testeten dieses neue System gegen die alte „Native Search“-Methode unter Verwendung von fünf verschiedenen smarten Assistenten und verschiedenen Arten von Fragen:
- Kosten: Sie fanden heraus, dass sie fast die gleiche Antwortqualität wie die teure Native Search erreichen konnten, aber für 91 % weniger Geld bei Standardfragen und über 98 % weniger Geld in ihren realen E-Commerce-Tests.
- Geschwindigkeit: Da es den „Schlauen Aktenschrank“ gibt, kamen Antworten viel schneller zurück, wenn dieselben Fragen erneut gestellt wurden.
- Zuverlässigkeit: Der „Strenge Butler“-Ansatz verhinderte, dass die Assistenten lange, unordentliche Absätze schrieben, wenn eine kurze, einfache Antwort erforderlich war. Dies verhinderte Fehler in Systemen, die auf sauberen Daten basieren.
Das Fazit
Die Autoren argumentieren, dass die Suche im Internet kein verstecktes, fest eingebautes Merkmal eines spezifischen KI-Unternehmens sein sollte. Stattdessen sollte es ein separates, steuerbares Werkzeug sein, das man verwalten, optimieren und austauschen kann. Durch die Trennung des „Suchens“ vom „Denken“ können Unternehmen Geld sparen, schneller werden und ihre Antworten sauber und zuverlässig halten.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.