💬 NLP

Only Ask What You Don't Know: Grounded Delta Planning for Efficient Multi-step RAG

Das Papier stellt Grounded Delta Planning RAG (GDP-RAG) vor, ein Framework, das die Effizienz und Genauigkeit bei Multi-Hop-Fragen verbessert, indem es Pläne in einer vorläufigen Abfrage verankert und die Berechnung ausschließlich auf Informationslücken konzentriert, wodurch es im Vergleich zu bestehenden Methoden eine State-of-the-Art-Leistung bei signifikant geringeren Kosten erzielt.

Ursprüngliche Autoren: Wei-Chieh Chou, Xuanjun Chen, Jian-Ren Lin, Claire Lin, Hung-yi Lee, Jyh-Shing Roger Jang

Veröffentlicht 2026-06-23

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Wei-Chieh Chou, Xuanjun Chen, Jian-Ren Lin, Claire Lin, Hung-yi Lee, Jyh-Shing Roger Jang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, ein komplexes Rätsel zu lösen, wie zum Beispiel herauszufinden, wer den Keks aus dem Glas gestohlen hat. Sie haben eine riesige Bibliothek an Büchern (das Internet), um Ihnen zu helfen, aber Sie können nicht alle Bücher auf einmal lesen.

Die meisten aktuellen KI-Systeme versuchen, dies auf eine von zwei Arten zu lösen, und beide haben Probleme:

Der „Schritt-für-Schritt“-Detektiv: Sie stellen eine Frage, lesen ein Buch, stellen eine weitere Frage, lesen ein weiteres Buch und so weiter. Das Problem dabei? Sie verlieren oft den Überblick über die schiere Menge an Papier, die sie bereits aufgestapelt haben, oder sie machen einen kleinen Fehler zu Beginn, der die gesamte Untersuchung ruiniert.
Der „Über-Planer“: Sie setzen sich hin und schreiben einen riesigen, starren Plan, bevor sie überhaupt ein einziges Buch ansehen. Sie planen vielleicht, fünf verschiedene Bücher zu prüfen, obwohl die Antwort bereits in dem ersten Buch steht, das sie in die Hand genommen haben. Das verschwendet Zeit und Geld.

Die neue Lösung: „Grounded Delta Planning“ (GDP-RAG)

Die Autoren dieser Arbeit schlagen eine intelligentere Art vor, wie ein Detektiv zu agieren ist. Sie nennen es Grounded Delta Planning. Stellen Sie es sich als eine „Erst nachsehen, dann nur fragen, was man wirklich braucht“-Strategie vor.

So funktioniert es, unter Verwendung einer einfachen Analogie:

1. Der „Kurze Blick“ (Preliminary Retrieval)

Bevor der Detektiv auch nur eine einzige Frage formuliert, führt er einen schnellen, breiten Scan durch die Bibliotheksregale durch, um ein paar relevante Bücher zu greifen.

Warum? Damit er nicht bei Null anfängt. Er weiß, welche Informationen bereits auf dem Tisch liegen.

2. Der „Lückenfinder“ (Delta Planning)

Anstatt einen Plan zu schreiben, um alles zu finden, schaut der Detektiv sich die Bücher an, die er gerade gegriffen hat, und fragt: „Was fehlt noch?“

Wenn die Bücher ihm bereits sagen: „Der Hund hat den Keks genommen“, muss er nicht mehr nach dem Hund fragen.
Er schreibt also nur Fragen für das Delta (∆) auf – also für die spezifischen Informationsstücke, die noch immer fehlen.
Das Ergebnis: Er überspringt die Fragen, die er nicht stellen muss. Das ist wie das Beschneiden eines Baumes; man schneidet die toten Äste (redundante Fragen) ab, damit der Baum schneller und stärker wachsen kann.

3. Der „Skelett-Plan“ (Skeletal Trajectory)

Der Detektiv schreibt einen sehr kurzen, schlanken Plan. Aber hier kommt der clevere Teil: Neben jeder Frage, die er tatsächlich stellt, fügt er eine kleine Notiz hinzu: „Ich weiß bereits X durch meinen kurzen Blick“.

Dies stellt sicher, dass er im Zuge der tiefergehenden Untersuchung nicht die Fakten vergisst, die er frühzeitig gefunden hat. Es hält die gesamte Geschichte zusammen.

4. Die „Doppel-Check“-Schleife

Sobald er beginnt, seine spezifischen Fragen zu stellen, vertraut er nicht einfach auf die erste Antwort. Er nutzt eine dreistufige Schleife:

Handeln (Act): Die Frage stellen und eine Antwort erhalten.
Überprüfen (Review): Die Antwort gegen neue Beweise prüfen, um sicherzustellen, dass sie wahr ist.
Aktualisieren (Update): Wenn er etwas Neues gefunden hat, passt er seinen Plan für den nächsten Schritt an.

Warum ist das eine große Sache?

Die Autoren haben diese Methode an drei schwierigen Rätsel-Datensätzen getestet (HotpotQA, 2WikiMultiHopQA und MuSiQue). Hier ist das, was sie fanden:

Smarter, nicht härter: Die neue Methode erreichte die höchste Genauigkeit (60,63 %) im Vergleich zu allen anderen Methoden. Sie löste die Rätsel besser.
Günstiger: Da sie weniger Fragen stellte und weniger unnötige Seiten las, kostete sie 22 % weniger als die nächstbeste Methode (PAR-RAG) und 68 % weniger als eine komplexe Methode namens KnowTrace.
Kein Kompromiss: Normalerweise muss man sich entscheiden, ob man entweder genau oder günstig sein will. Diese Methode schaffte es, beides zu sein: die genaueste und zugleich die effizienteste.

Zusammenfassend lässt sich sagen:
Stellen Sie sich vor, Sie kochen eine Mahlzeit.

Alte Methoden probieren entweder jede Sekunde in die Suppe, (zu langsam) oder schreiben ein Rezept für 50 Zutaten, bevor sie überhaupt in den Kühlschrank geschaut haben (verschwenderisch).
GDP-RAG schaut zuerst in den Kühlschrank, sieht, was bereits vorhanden ist, und schreibt dann ein Rezept nur für die Zutaten, die noch fehlen. Man kocht schneller, gibt weniger Geld aus und das Essen schmeckt besser.

Die Arbeit kommt zu dem Schluss, dass die KI, indem sie sich nur auf die „fehlenden Teile“ (das Delta) konzentriert und ihren Plan zuerst auf realen Beweisen gründet, komplexe, mehrstufige Probleme viel effizienter lösen kann, ohne an Genauigkeit einzubüßen.

Technisches Resümee: Grounded Delta Planning für effizientes Multi-Step RAG

Problemstellung

Multi-Hop-Fragebeantwortung (QA) bleibt eine erhebliche Herausforderung für Retrieval-Augmented Generation (RAG)-Systeme. Bestehende Ansätze lassen sich im Wesentlichen in zwei Kategorien unterteilen, die beide kritische Einschränkungen aufweisen:

Schrittweise Methoden (z. B. ReAct, Self-Ask): Diese verweben Retrieval und Argumentation dynamisch. Obwohl sie flexibel sind, leiden sie unter dem „Lost-in-the-Middle“-Problem aufgrund von Kontextüberlauf und verstärken die Fehlerfortpflanzung, bei der frühe Fehler den gesamten Prozess durch den gesamten Denkprozess nach sich ziehen.
Planbasierte Methoden (z. B. ReWOO, PlanRAG): Diese erstellen vor der Ausführung statische globale Pläne, um Teilschritte zu isolieren und kaskadierende Fehler zu reduzieren. Sie verlassen sich jedoch oft ausschließlich auf parametrisches Wissen zur Generierung von Plänen, was zu Überplanung (Generierung redundanter Sub-Queries für bereits verfügbare Informationen) oder Unterplanung (Fehlen notwendiger Abhängigkeiten) führt. Darüber hinaus führt das strikte Befolgen starrer Pläne zu Effizienzproblemen, da die Kosten jedes Ausführungsschritts erheblich werden.

Die zentrale Herausforderung besteht darin, ein Framework zu entwerfen, das Fehlerfortpflanzung und Kontextüberlauf vermeidet und gleichzeitig die Rechenkosten minimiert, indem redundante Denkprozesse eliminiert und sichergestellt wird, dass keine kritischen Informationen fehlen.

Methodik: Grounded Delta Planning RAG (GDP-RAG)

Die Autoren schlagen GDP-RAG vor, ein planbasiertes Framework, das das Planungsparadigma von der Generierung einer vollständigen Argumentationskette hin zur gezielten Adressierung des Informations-Deltas ( $\Delta$ ) verschiebt – also des spezifischen Wissens, das nach einem initialen Retrieval fehlt. Das Framework operiert durch drei distinkte Phasen:

1. Planungsphase (Grounded Delta Planning)

Anstatt eine Anfrage allein mittels parametrischen Wissens zu dekomponieren, führt GDP-RAG zuerst ein vorläufiges Retrieval durch, um eine Menge relevanter Dokumente ( $D_{rel}$ ) zu sammeln. Der Planer generiert daraufhin eine skelettartige Trajektorie ( $T_{skel}$ ) basierend auf drei Designentscheidungen:

Grounding (Verankerung): Der Planer ist auf $D_{rel}$ konditioniert, um zu verstehen, welche Informationen bereits verfügbar sind.
Gap-aware Query Decomposition (Lückenbewusste Abfrage-Dekomposition): Der Prompt weist den Planer an, die in $D_{rel}$ vorhandenen Informationen zu identifizieren und Sub-Queries nur für die verbleibenden Lücken ( $\Delta$ ) zu generieren.
Struktur der skelettartigen Trajektorie: Das Ergebnis ist eine Sequenz von Tupeln $\langle (\theta_i, q_i) \rangle$ , wobei $q_i$ eine Sub-Query für fehlende Informationen ist und $\theta_i$ (Thought/Gedanke) die aus $D_{rel}$ relevanten Evidenzen für diesen Schritt erfasst. Dies bewahrt die Evidenz über die gesamte Trajektorie hinweg und verhindert Informationsverlust während der Ausführung.

Dieser Ansatz liefert drei strukturelle Vorteile:

Komprimierung der Argumentationsschritte: Schritte, die für das Abrufen von Fakten erforderlich gewesen wären, die bereits in $D_{rel}$ enthalten sind, werden übersprungen.
Pruning der Überplanung: Redundante Sub-Queries basierend auf hallucinierten Bedürfnissen werden eliminiert, da der Planer Annahmen gegen die tatsächlich abgerufenen Dokumente verifiziert.
Verfeinerung der Unterplanung: Die breitere Semantik des initialen Retrievals hilft dabei, Abhängigkeiten zu rekonstruieren, die engere, zielgerichtete Sub-Queries möglicherweise übersehen würden.

2. Trajektorien-Generierungsphase

Die skelettartige Planung wird über einen iterativen Act-Review-Update-Zyklus (adaptiert von PAR-RAG) ausgeführt:

Act (Handeln): Ruft Dokumente für die spezifische Sub-Query $q_t$ ab und generiert eine provisorische Antwort $\hat{a}_t$ , unter Angabe der stützenden Evidenz.
Review (Überprüfung): Erstellt eine Verifizierungs-Query, um ein sekundäres Retrieval durchzuführen und $\hat{a}_t$ gegen neue Evidenzen abzugleichen, um faktische Inkonsistenzen zu korrigieren.
Update (Aktualisierung): Schreibt das verifizierte Tupel $(\theta_t, q_t, d_t, a_t)$ in den Trajectory Memory und verfeinert die nächste Sub-Query $q_{t+1}$ basierend auf der akkumulierten Evidenz, um die Laufzeit-Adaptivität zu gewährleisten.

3. Antwortphase

Das System synthetisiert die finale Antwort $A$ , indem es die Anfrage $Q$ mit der vollständig verankerten und verifizierten Trajektorie $T$ integriert, wodurch sichergestellt wird, dass die Antwort logisch konsistent ist und strikt durch die abgerufenen Dokumente gestützt wird.

Kernbeiträge

Framework-Vorschlag: GDP-RAG ist ein trainingsfreies, planbasiertes Multi-Step-RAG-Framework, das zuerst abruft und nur für das Informations-Delta plant, was prägnante Argumentations-Trajektorien ohne Einbußen bei der Antwortqualität liefert.
Performance: Umfangreiche Experimente zeigen, dass GDP-RAG die höchste Genauigkeit unter den verglichenen Systemen erreicht und dabei signifikant geringere Rechenkosten verursacht.
Ablationsanalyse: Die Autoren bestätigen, dass jede Designentscheidung (vorläufiges Retrieval, lückenbewusste Instruktionen und skelettartige Trajektorie) einzigartig zu Schritt-Effizienz, Kostenreduktion und Antwortgenauigkeit beiträgt.

Experimentelle Ergebnisse

Das Framework wurde auf drei Multi-Hop-QA-Benchmarks evaluiert: HotpotQA, 2WikiMultiHopQA und MuSiQue, unter Verwendung von GPT-4.1-mini für die Generierung.

Genauigkeit: GDP-Ragen erreichte die höchste Gesamtgenauigkeit von 60,63 % und übertraf damit den stärksten Baseline-Ansatz, PAR-RAG (58,20 %), um 2,43 Prozentpunkte. Es übertraf PAR-RAG auch auf HotpotQA (64,75 % vs. 62,79 %) und MuSique (44,53 % vs. 42,70 %).
Effizienz (Cost-of-Pass): Die primäre Metrik, cost-of-pass (erwartete Kosten zur Erzeugung einer korrekten Antwort), lag bei 0,51 für GDP-RAG. Dies ist 22 % niedriger als bei PAR-RAG (0,65) und 68 % niedriger als bei KnowTrace (1,57).
Pareto-Optimalität: GDP-RAG besetzt die „hohe Genauigkeit, niedrige Kosten“-Ecke des Leistungsraums. Keine andere Methode erreichte sowohl eine höhere Genauigkeit als auch niedrigere Kosten. Günstigere Methoden (z. B. Standard RAG, IRCoT) lagen um 10–23 Genauigkeitspunkte zurück.
Schritt-Reduktion: Das Grounded Delta Planning reduzierte die validen Argumentationsschritte um 61,0 % (von 3.561 auf 1.388) und eliminierte 77,0 % der redundanten Schritte im Vergleich zum Direct Planning.

Bedeutung und Behauptungen

Das Paper behauptet, dass GDP-RAG die grundlegenden Ineffizienzen aktueller Multi-Hop-RAG-Systeme adressiert, indem es den Planungsprozess grundlegend verändert. Durch die Verankerung des Planers in einem vorläufigen Retrieval vermeidet das System die „blinde“ Generierung von Argumentationsschritten, die sowohl die schrittweise Fehlerfortpflation als auch die Überplanung bei planbasierten Ansätzen charakterisiert.

Die Autoren betonen, dass ihr Ansatz prägnante, zuverlässige Argumentations-Trajektorien liefert, indem er die Berechnung ausschließlich auf ungelöste Lücken konzentriert. Die Ergebnisse legen nahe, dass „Grounded Delta Planning“ es Systemen ermöglicht, sich an die Aufgabenkomplexität anzupassen, die Kosten zusätzlicher Hops zu amortisieren und gleichzeitig eine hohe Abdeckung der notwendigen Informationen zu gewährleisten. Das Framework wird als robuste, trainingsfreie Lösung präsentiert, die sowohl die ökonomische Effizienz als auch die faktische Zuverlässigkeit der mehrstufigen Argumentation in LLMs verbessert.