🤖 machine learning

Hierarchical Abstract Tree for Cross-Document Retrieval-Augmented Generation

Dieser Beitrag stellt $\Psi$ -RAG vor, ein neuartiges baumbasiertes Retrieval-Augmented-Generation-Framework, das einen adaptiven hierarchischen abstrakten Baumindex und einen Multi-Granularitäts-Retrieval-Agenten einsetzt, um die Grenzen bestehender Methoden bei der Bewältigung von cross-dokumentaren Multi-Hop-Fragen zu überwinden und auf relevanten Benchmarks State-of-the-Art-Leistung zu erzielen.

Ursprüngliche Autoren: Ziwen Zhao, Menglin Yang

Veröffentlicht 2026-05-04

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Ziwen Zhao, Menglin Yang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie besitzen eine riesige Bibliothek mit Millionen von Büchern, Artikeln und Dokumenten. Sie möchten eine komplexe Frage stellen, die es erfordert, Verbindungen über viele verschiedene Seiten hinweg herzustellen, wie zum Beispiel: „Wer ist die Frau des Mannes, der die Dokumentation über die Sängerin produziert hat, die Beyoncé inspiriert hat?"

Herkömmliche Suchmaschinen (der „alte Weg") sind wie ein Bibliothekar, der einfach ein paar zufällige Seiten greift, die die Wörter „Beyoncé" oder „Dokumentation" enthalten. Oft übersehen sie den entscheidenden Zusammenhang zu dem spezifischen Mann, den Sie meinen, weil sie die Geschichte, die sie verbindet, nicht verstehen.

Andere fortschrittliche Systeme versuchen, diese Bücher in einen Baum zu organisieren (eine Hierarchie, bei der große Zusammenfassungen oben über kleineren Details sitzen). Das Papier argumentiert jedoch, dass bestehende Baum-Systeme drei gravierende Mängel aufweisen:

Sie zwingen einen quadratischen Pflock in ein rundes Loch: Sie gehen davon aus, dass alle Informationen gleichmäßig verteilt sind, was nicht der Fall ist. Dies verwirrt das System, wenn einige Themen selten und andere häufig sind.
Sie sind isolierte Inseln: Die Äste des Baumes sprechen nicht gut miteinander. Wenn die Antwort erfordert, von einem Ast zum anderen zu springen, gerät das System in eine Sackgasse.
Sie sind zu vage: Die „Zusammenfassung" an der Spitze des Baumes ist so allgemein, dass sie die spezifischen Details vergisst, die benötigt werden, um eine präzise Frage zu beantworten.

Die Lösung: Ψ-RAG (Psi-RAG)

Die Autoren schlagen ein neues System namens Ψ-RAG vor. Stellen Sie es sich als einen superintelligenten, adaptiven Bibliothekar vor, der nicht nur Bücher organisiert, sondern aktiv nachdenkt, wie er die Antwort findet.

So funktioniert es, aufgeteilt in zwei Hauptteile:

1. Der „Merging and Collapsing"-Baum (Die Neuorganisation der Bibliothek)

Anstatt Bücher in starre, vordefinierte Kategorien (wie „Sport" oder „Geschichte") zu zwingen, erstellt Ψ-RAG seine eigene Karte basierend darauf, wie ähnlich sich die Texte tatsächlich sind.

Die Analogie: Stellen Sie sich einen Haufen durcheinandergeratener LEGO-Steine vor. Anstatt sie zuerst nach Farbe zu sortieren, fangen Sie an, ähnliche Steine zusammenzustecken. Wenn Sie zwei Steine finden, die perfekt zusammenpassen, kleben Sie sie zusammen. Wenn Sie einen kleinen Cluster finden, der unter einen größeren Cluster passt, hängen Sie ihn dort an.
Das Ergebnis: Dies erzeugt einen „Hierarchischen Abstrakten Baum". Die unterste Schicht enthält die eigentlichen Textabschnitte. Die Schichten darüber sind Zusammenfassungen (Abstrakte) der Schichten darunter.
Warum es besser ist: Im Gegensatz zu anderen Systemen, die versuchen, jeden Ast gleich groß zu machen (was seltene Themen durcheinanderbringt), lässt Ψ-RAG den Baum natürlich wachsen. Wenn ein Thema selten ist, erhält es seinen eigenen kleinen, distincten Ast. Wenn ein Thema riesig ist, erhält es einen großen Ast. Dies bewahrt die „Form" der Informationen.

2. Die „Multi-Granular Agentic Retrieval" (Der Detektiv-Agent)

Dies ist das Gehirn der Operation. Es ist nicht nur eine Suchleiste; es ist ein KI-Detektiv, der mit der Bibliothek sprechen kann.

Die Aufgabe des Detektivs: Wenn Sie eine Frage stellen, schaut der Agent nicht nur einmal hin. Er betrachtet die Spitze des Baumes (die großen Zusammenfassungen), um die allgemeine Idee zu bekommen. Wenn die Antwort dort nicht zu finden ist, fragt er sich: „Welches spezifische Detail fehlt mir noch?"
Neuorganisation der Anfrage: Wenn der Agent merkt, dass er feststeckt, schreibt er Ihre Frage um, um sie spezifischer zu machen.
- Originalfrage: „Wer ist die Frau des Mannes, der die Dokumentation produziert hat...?"
- Vom Agenten umgeschriebene Frage: „Wer ist die Frau von David Gest?" (Nachdem er in einem ersten Schritt den Namen des Mannes herausgefunden hat).
Die Hybridsuche: Der Agent nutzt gleichzeitig zwei Werkzeuge:
1. Der Baum: Um das große Ganze zu verstehen und dem logischen Pfad zu folgen.
2. Eine Schlüsselwortsuche (Sparse Index): Um genaue Namen und Fakten zu finden, die in einer breiten Zusammenfassung verloren gehen könnten.
Die Schleife: Der Agent fragt immer wieder: „Habe ich genug Informationen?" Wenn nicht, gräbt er tiefer, schreibt die Frage um und sucht erneut, bis er die ganze Geschichte hat.

Warum das wichtig ist (laut dem Papier)

Das Papier testete dieses System an schwierigen Fragen, die „Multi-Hop"-Schlussfolgerungen erfordern (Verbinden von A zu B, dann B zu C, dann C zur Antwort).

Geschwindigkeit vs. Genauigkeit: Andere Baum-Systeme waren schnell, aber bei großen Datensätzen ungenau. Graph-basierte Systeme (die Beziehungen wie ein U-Bahn-Netzwerk abbilden) waren genau, aber sehr langsam zu erstellen.
Der Gewinner: Ψ-RAG war 25,9 % genauer als das bisher beste Baum-System (RAPTOR) und 7,4 % genauer als das führende Graph-System (HippoRAG 2).
Effizienz: Es erstellte seinen Index 6,5-mal schneller als RAPTOR und war deutlich schneller als die Graph-Systeme, was es für große Dokumentensammlungen praktikabel macht.

In Kürze

Ψ-RAG ist eine neue Art, enorme Textmengen zu organisieren und zu durchsuchen. Es erstellt eine flexible Karte, die der natürlichen Struktur der Daten Respekt zollt, und nutzt einen KI-„Detektiv", um diese Karte zu navigieren, Folgefragen zu stellen und breite Zusammenfassungen mit spezifischen Fakten zu kombinieren, um komplexe Rätsel zu lösen, die andere Systeme übersehen.

1. Problemstellung

Retrieval-Augmented Generation (RAG) erweitert Large Language Models (LLMs) um externes Wissen. Während Tree-RAG-Methoden (z. B. RAPTOR) Dokumente in hierarchische Indizes organisieren, um Abfragen mit mehreren Granularitäten zu unterstützen, stoßen sie bei der Skalierung auf cross-document Multi-Hop-Fragen an kritische Grenzen:

Schlechte Anpassungsfähigkeit an Verteilungen: Bestehende Methoden verlassen sich auf $k$ -Means-ähnliche Clustering-Verfahren (z. B. Gaußsche Mischmodelle). Diese Algorithmen gehen von sphärischen Datenverteilungen aus und leiden unter dem „Uniform-Effekt", der Cluster zu einheitlicher Größe zwingt. Dies führt durch das Zusammenführen kleiner, schief verteilter Themen in große Cluster zu Rauschen, wodurch der Retriever Nischeninformationen übersieht.
Strukturelle Isolation: Baumindizes verfügen typischerweise über keine expliziten Verbindungen zwischen Blattknoten verschiedener Äste. Im Gegensatz zu Graph-RAG, das über Kanten zwischen Entitäten springt, sind Baumblätter isoliert. Dies verhindert, dass der Retriever die für Multi-Hop-Reasoning erforderlichen impliziten kausalen Abhängigkeiten erfasst.
Grobe Abstraktion: Standard-Baumabstraktionen erzeugen oft hochrangige Zusammenfassungen, die feingranulare Details verschleiern. Das Dichte-Vektor-Matching hat Schwierigkeiten, spezifische Entitäten in einer Benutzerabfrage mit diesen abstrakten Konzepten zu verknüpfen, was zu Retrieval-Fehlern bei faktischen, token-level-Fragen führt.

2. Methodik: Ψ-RAG

Die Autoren schlagen Ψ-RAG vor, ein Framework, das aus zwei Kernkomponenten besteht: einem Hierarchical Abstract Tree Index und einem Multi-granular Agentic Retriever.

A. Hierarchical Abstract Tree Indexing

Anstelle von $k$ -Means-Clustering verwendet Ψ-RAG einen iterativen „Merging and Collapse"-Prozess, der vom Agglomerative Hierarchical Clustering (AHC) inspiriert ist, jedoch ohne a-priori-Verteilungsannahmen auskommt.

Similarity Ranking: Alle Dokumenten-Chunks werden in dichte Vektoren kodiert, und paarweise Ähnlichkeiten werden berechnet und sortiert.
Merging & Collapse:
- Merging: Das ähnlichste Paar von Chunks (oder Knoten) wird unter einem neuen abstrakten Knoten verknüpft.
  Leaf Node Collapse: Wenn ein Knoten bereits mit einem Elternknoten verknüpft ist, wird der isolierte Knoten an denselben Elternknoten angehängt.
- Abstract Node Collapse: Wenn zwei Knoten zu unterschiedlichen Eltern auf derselben Tiefe gehören, werden ihre Wurzeln unter einem neuen Knoten zusammengeführt. Bei unterschiedlichen Tiefen wird die flachere Wurzel auf den Pfad des tieferen Knotens verlinkt, um den Baum auszugleichen.
Abstraktion: Ein LLM-Agent generiert zwei Arten von Abstrakten für jeden Nicht-Blattknoten:
- Summative Abstract: Ein kohärenter Absatz, der Logik und Entitätsbeziehungen zusammenfasst.
- Keyword Abstract: Hochdichte Schlüsselwörter/Phrasen, die das gemeinsame Vorkommen von Entitäten bewahren.
Rebalancing: Knoten mit übermäßig vielen Kindern werden aufgespalten, um sicherzustellen, dass das Kontextfenster des Abstraktions-Agenten nicht überschritten wird.

B. Multi-granular Agentic Retrieval

Um strukturelle Isolation und grobe Abstraktion zu adressieren, setzt Ψ-RAG einen Retrieval and Answering (R&A) Agent ein, der mit einem Multi-granular Hybrid Index (Baum + Sparse Keyword Index) interagiert.

Iteratives Reasoning: Der Agent bewertet, ob die aktuellen Informationen ausreichen. Wenn nicht, generiert er eine reorganisierte Abfrage (angereichert mit Kontext, z. B. durch Hinzufügen beschreibender Appositionen) und löst einen neuen Retrieval-Schritt aus.
Hybrid Retrieval:
- Tree Retrieval: Eine Top-Down-Suche mit dichten Vektoren, die von der Wurzel zur Blattebene führt.
- Sparse Retrieval: Eine keyword-basierte Suche auf BM25-Basis.
- Fusion: Ergebnisse werden über einen Reranker (parametrisch) oder Reciprocal Rank Fusion (nicht-parametrisch) kombiniert.
Query Reorganization: Der Agent schreibt Abfragen dynamisch um, um thematische Schlüsselwörter einzufügen, was sowohl dem Sparse-Retriever (Finden spezifischer Entitäten) als auch dem Tree-Retriever (Lokalisieren relevanter hochrangiger Abstraktionen) hilft.

3. Hauptbeiträge

Anpassungsfähigkeit an Verteilungen: Ψ-RAG beweist theoretisch (mittels Dasgupta-Kostenanalyse), dass sein hierarchischer Merging-Prozess den „Uniform-Effekt" von $k$ -Means vermeidet. Er bewahrt schief verteilte Datenverteilungen adaptiv, sodass kleine Cluster distinkt bleiben und nicht von großen absorbiert werden.
Erster Cross-Document Tree-RAG: Es ist das erste Tree-RAG-Framework, das corpusweite, cross-document Multi-Hop-Retrieval bewältigen kann und dabei die Fähigkeiten von Graph-RAG mit der Effizienz von Baumstrukturen kombiniert.
Hybrides Agentic Framework: Es löst den Konflikt zwischen grober Abstraktion und feingranularem Retrieval, indem es einen Sparse-Keyword-Index und einen iterativen Agenten integriert, der Abfragen basierend auf Reasoning-Bedürfnissen reorganisiert.
Flexibilität: Das Framework basiert vollständig auf Open-Source-LLMs und ist modular aufgebaut, sodass Komponenten (Embedding, Abstraktion, Agent, Reranker) ohne Nachtraining ausgetauscht werden können.

4. Experimentelle Ergebnisse

Die Autoren evaluierten Ψ-RAG auf diversen Benchmarks, darunter Single-Hop/Multi-Hop-QA (HotpotQA, 2Wiki, MuSiQue, MultiHop-RAG), narrative QA (NarrativeQA) und Zusammenfassung (QMSum, WCEP).

Leistungssteigerungen:
- Auf cross-document Multi-Hop-QA-Benchmarks übertrifft Ψ-RAG RAPTOR im durchschnittlichen F1-Score um 25,9 %.
- Es übertrifft den State-of-the-Art HippoRAG 2 (eine Graph-RAG-Methode) im durchschnittlichen F1-Score um 7,4 %.
- Es erzielt signifikante Verbesserungen bei Retrieval-Metriken (Recall@5) über alle Datensätze hinweg.
Effizienz:
- Indexierung: Ψ-RAG baut einen corpusweiten Baum 10-mal schneller als OpenIE-basiertes Graph-RAG (z. B. GraphRAG) und 6,5-mal schneller als RAPTOR.
- Retrieval: Die Top-Down-Suche bietet eine Komplexität von $O(\log n)$ , was zu einer geringeren Latenz als der Traversal von Graph-RAG führt.
Ablationsstudien:
- Das Entfernen des R&A-Agenten führt zu einem Leistungsabfall von ca. 20 % bei Multi-Hop-Aufgaben.
- Das Entfernen des Sparse-Retrievers beeinträchtigt die Leistung bei faktischen Abfragen erheblich (z. B. -21,8 % auf PopQA).
- Die Query-Reorganisation durch den Agenten ist entscheidend für den Erfolg bei Multi-Hop-Aufgaben.

5. Bedeutung

Überbrückung der Lücke: Ψ-RAG überbrückt erfolgreich die Lücke zwischen der Effizienz von Tree-RAG und der Reasoning-Kraft von Graph-RAG und beweist, dass hierarchische Strukturen komplexe Multi-Hop-Reasoning-Aufgaben effektiv bewältigen können, ohne den hohen Overhead der Graph-Konstruktion.
Skalierbarkeit: Durch die Vermeidung des „Uniform-Effekts" und die Nutzung effizienter Merging-Algorithmen skaliert es effektiv auf große, schief verteilte Korpora, bei denen traditionelles Clustering versagt.
Praktikabilität: Das Framework zeigt, dass Open-Source-Modelle State-of-the-Art-Leistung in strukturiertem RAG erreichen können, wodurch fortschrittliches Multi-Hop-Reasoning ohne proprietäre APIs oder umfangreiches Fine-Tuning zugänglich wird.
Zukunftsrichtung: Es setzt einen neuen Standard für das Handling von Cross-Document-Retrieval und legt nahe, dass hierarchisches Indexing in Kombination mit agentic Reasoning ein gangbarer und überlegener Weg für RAG-Systeme der nächsten Generation ist.