🤖 machine learning

Hierarchical Abstract Tree for Cross-Document Retrieval-Augmented Generation

Dit artikel introduceert $\Psi$ -RAG, een nieuw boomgebaseerd retrieval-augmented generation-framework dat een adaptieve hiërarchische abstracte boomindex en een multi-granulaire retrieval-agent inzet om de beperkingen van bestaande methoden bij het behandelen van cross-document multi-hop-vragen te overwinnen, en dat state-of-the-art prestaties behaalt op relevante benchmarks.

Oorspronkelijke auteurs: Ziwen Zhao, Menglin Yang

Gepubliceerd 2026-05-04

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Ziwen Zhao, Menglin Yang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een enorme bibliotheek voor met miljoenen boeken, artikelen en documenten. Je wilt een complexe vraag stellen die vereist dat je verbanden legt over veel verschillende pagina's heen, zoals: "Wie is de vrouw van de man die de documentaire maakte over de zangeres die Beyoncé inspireerde?"

Traditionele zoekmachines (de "oude manier") zijn als een bibliothecaris die slechts een paar willekeurige pagina's pakt die de woorden "Beyoncé" of "documentaire" bevatten. Ze missen vaak de cruciale link naar de specifieke man waar je naar vraagt, omdat ze het verhaal dat hen verbindt niet begrijpen.

Andere geavanceerde systemen proberen deze boeken te organiseren in een Boom (een hiërarchie waarbij grote samenvattingen boven kleinere details staan). De paper stelt echter dat bestaande boomsystemen drie grote gebreken hebben:

Ze dwingen een vierkante pen in een rond gat: Ze gaan ervan uit dat alle informatie gelijkmatig verdeeld is, wat niet waar is. Dit verwart het systeem wanneer sommige onderwerpen zeldzaam zijn en andere veelvoorkomend.
Ze zijn geïsoleerde eilanden: De takken van de boom communiceren niet goed met elkaar. Als het antwoord vereist dat je van de ene tak naar de andere springt, blijft het systeem steken.
Ze zijn te vaag: De "samenvatting" bovenaan de boom is zo breed dat ze de specifieke details vergeet die nodig zijn om een precieze vraag te beantwoorden.

De Oplossing: Ψ-RAG (Psi-RAG)

De auteurs stellen een nieuw systeem voor genaamd Ψ-RAG. Denk hierbij aan een superslimme, adaptieve bibliothecaris die niet alleen boeken organiseert; ze denken actief na over hoe ze het antwoord moeten vinden.

Hier is hoe het werkt, opgesplitst in twee hoofdonderdelen:

1. De "Samenvoegende en Ineenstortende" Boom (De Bibliotheekherindeling)

In plaats van boeken in starre, vooraf gedefinieerde categorieën te dwingen (zoals "Sport" of "Geschiedenis"), bouwt Ψ-RAG zijn eigen kaart op basis van hoe vergelijkbaar de teksten daadwerkelijk zijn.

De Analogie: Stel je een stapel door elkaar gehaalde LEGO-blokjes voor. In plaats van ze eerst op kleur te sorteren, begin je met het aan elkaar klikken van vergelijkbare blokjes. Als je twee blokjes vindt die perfect passen, lijm je ze vast. Als je een klein cluster vindt dat onder een groter cluster past, bevestig je het daar.
Het Resultaat: Dit creëert een "Hiërarchische Abstracte Boom". De onderste laag bevat de daadwerkelijke tekstfragmenten. De lagen erboven zijn samenvattingen (abstracten) van de lagen eronder.
Waarom het beter is: In tegenstelling tot andere systemen die proberen elke tak even groot te maken (wat zeldzame onderwerpen verstoort), laat Ψ-RAG de boom op natuurlijke wijze groeien. Als een onderwerp zeldzaam is, krijgt het zijn eigen kleine, onderscheidende tak. Als een onderwerp enorm is, krijgt het een grote tak. Dit behoudt de "vorm" van de informatie.

2. De "Multi-Granulaire Agente Retrieval" (De Detective-Agent)

Dit is de hersenen van de operatie. Het is niet zomaar een zoekbalk; het is een AI-detective die met de bibliotheek kan praten.

De Taak van de Detective: Wanneer je een vraag stelt, kijkt de agent niet slechts één keer. Hij kijkt naar de top van de boom (de grote samenvattingen) om het algemene idee te krijgen. Als het antwoord daar niet staat, vraagt hij zichzelf: "Welk specifiek detail mis ik?"
Herschikking van de Vraag: Als de agent beseft dat hij vastzit, herschrijft hij je vraag om deze specifieker te maken.
- Originele Vraag: "Wie is de vrouw van de man die de documentaire maakte...?"
- Hersschreven Vraag van de Agent: "Wie is de vrouw van David Gest?" (Nadat hij de naam van de man in de eerste stap heeft achterhaald).
De Hybride Zoeking: De agent gebruikt twee hulpmiddelen tegelijk:
1. De Boom: Om het grote plaatje te begrijpen en het logische pad te volgen.
2. Een Trefwoordzoekopdracht (Sparce Index): Om exacte namen en feiten te vinden die in een brede samenvatting verloren kunnen gaan.
De Lus: De agent blijft vragen: "Heb ik genoeg informatie?" Zo niet, dan graaft hij dieper, herschrijft hij de vraag en zoekt hij opnieuw totdat hij het volledige verhaal heeft.

Waarom Dit Belangrijk Is (Volgens de Paper)

De paper testte dit systeem op moeilijke vragen die "multi-hop" redenering vereisen (A verbinden met B, dan B met C, en vervolgens C met het antwoord).

Snelheid versus Nauwkeurigheid: Andere boomsystemen waren snel maar onnauwkeurig op grote datasets. Grafische systemen (die relaties in kaart brengen als een metrokaart) waren nauwkeurig maar zeer traag om te bouwen.
De Winnaar: Ψ-RAG was 25,9% nauwkeuriger dan het vorige beste boomsysteem (RAPTOR) en 7,4% nauwkeuriger dan het topgrafische systeem (HippoRAG 2).
Efficiëntie: Het bouwde zijn index 6,5 keer sneller dan RAPTOR en was veel sneller dan de grafische systemen, waardoor het praktisch toepasbaar is voor grote verzamelingen documenten.

In het Kort

Ψ-RAG is een nieuwe manier om enorme hoeveelheden tekst te organiseren en te doorzoeken. Het bouwt een flexibele kaart die de natuurlijke structuur van de data respecteert en gebruikt een AI-"detective" om die kaart te navigeren, vervolgvragen stelt en brede samenvattingen combineert met specifieke feiten om complexe puzzels op te lossen die andere systemen missen.

1. Probleemstelling

Retrieval-Augmented Generation (RAG) verrijkt Large Language Models (LLM's) met externe kennis. Hoewel Tree-RAG-methoden (bijv. RAPTOR) documenten organiseren in hiërarchische indexen om queries met meerdere granulariteiten te ondersteunen, ondervinden ze kritieke beperkingen bij schaling naar cross-document multi-hop vragen:

Slechte Aanpasbaarheid aan Verdelingen: Bestaande methoden vertrouwen op $k$ -means-achtige clustering (bijv. Gaussische Mengmodellen). Deze algoritmen gaan uit van bolvormige data-verdelingen en lijden onder het "uniformiteitseffect", waardoor clusters gedwongen worden om een uniforme grootte te hebben. Dit introduceert ruis door kleine, scheve onderwerpen samen te voegen in grote clusters, waardoor de retriever niche-informatie over het hoofd ziet.
Structurele Isolatie: Tree-indexen missen doorgaans expliciete verbindingen tussen bladknooppunten over verschillende takken heen. In tegenstelling tot Graph-RAG, dat via randen tussen entiteiten springt, zijn boombladen geïsoleerd. Dit verhindert dat de retriever impliciete causale afhankelijkheden vastlegt die nodig zijn voor multi-hop redenering.
Grove Abstractie: Standaard boom-abstractie creëert vaak hoog-niveau samenvattingen die fijne details verduisteren. Dichte vector-matching heeft moeite om specifieke entiteiten in een gebruikersquery te koppelen aan deze abstracte concepten, wat leidt tot retrieval-falen bij feitelijke vragen op token-niveau.

2. Methodologie: Ψ-RAG

De auteurs stellen Ψ-RAG voor, een raamwerk bestaande uit twee kerncomponenten: een Hiërarchische Abstracte Boomindex en een Multi-granulaire Agente Retrieval.

A. Hiërarchische Abstracte Boomindexering

In plaats van $k$ -means-clustering gebruikt Ψ-RAG een iteratief **"samenvoegings- en ineenstortings"**proces, geïnspireerd op Agglomeratieve Hiërarchische Clustering (AHC), maar zonder a priori verdelingsaannames.

Similariteitsranking: Alle documentchunks worden gecodeerd tot dichte vectoren, en paarsgewijze similariteiten worden berekend en gesorteerd.
Samenvoegen & Ineenstorten:
- Samenvoegen: Het meest vergelijkbare paar chunks (of knooppunten) wordt gekoppeld onder een nieuw abstract knooppunt.
- Ineenstorten van Bladknooppunten: Als één knooppunt al verbonden is met een ouder, wordt het geïsoleerde knooppunt aan datzelfde ouderknooppunt gekoppeld.
- Ineenstorten van Abstracte Knooppunten: Als twee knooppunten tot verschillende ouders behoren op dezelfde diepte, worden hun wortels samengevoegd onder een nieuw knooppunt. Als de diepten verschillen, wordt de ondiepere wortel gekoppeld aan het pad van het diepere knooppunt om de boom in balans te brengen.
Abstractie: Een LLM-agent genereert twee soorten abstracties voor elk niet-bladknooppunt:
- Summative Abstract: Een samenhangend alinea dat logica en entiteitsrelaties samenvat.
- Keyword Abstract: Hoogdichthoudende trefwoorden/zinnen die het voorkomen van entiteiten behouden.
Herbalancering: Knooppunten met excessieve kinderen worden gesplitst om ervoor te zorgen dat het contextvenster van de abstractie-agent niet wordt overschreden.

B. Multi-granulaire Agente Retrieval

Om structurele isolatie en grove abstractie aan te pakken, maakt Ψ-RAG gebruik van een Retrieval and Answering (R&A) Agent die communiceert met een Multi-granulaire Hybride Index (Boom + Spaarzame Trefwoorden-index).

Iteratief Redeneren: De agent beoordeelt of de huidige informatie voldoende is. Zo niet, dan genereert hij een herorganiseerde query (verrijkt met context, bijv. door het toevoegen van beschrijvende apposities) en triggert een nieuwe retrieval-stap.
Hybride Retrieval:
- Boom-retrieval: Een top-down zoekopdracht met dichte vectoren, beginnend bij de wortel tot de bladlaag.
- Spaarzame Retrieval: Een op BM25 gebaseerde trefwoordzoekopdracht.
- Fusie: Resultaten worden gecombineerd via een reranker (parametrisch) of Reciprocal Rank Fusion (niet-parametrisch).
Query-herorganisatie: De agent herschrijft queries dynamisch om thematische trefwoorden op te nemen, wat zowel de spaarzame retriever (bij het vinden van specifieke entiteiten) als de boom-retriever (bij het lokaliseren van relevante hoog-niveau abstracties) helpt.

3. Belangrijkste Bijdragen

Aanpasbaarheid aan Verdelingen: Ψ-RAG bewijst theoretisch (via Dasgupta's kostenanalyse) dat zijn hiërarchische samenvoegingsproces het "uniformiteitseffect" van $k$ -means vermijdt. Het behoudt adaptief scheve data-verdelingen, waardoor kleine clusters distinct blijven in plaats van opgeslokt te worden door grote.
Eerste Cross-Document Tree-RAG: Het is het eerste Tree-RAG-raamwerk dat corpus-niveau, cross-document multi-hop retrieval aankan, met de mogelijkheden van Graph-RAG vergelijkbaar, terwijl het de efficiëntie van boomstructuren behoudt.
Hybride Agente Raamwerk: Het lost het conflict op tussen grove abstractie en fijne-granulaire retrieval door een spaarzame trefwoorden-index en een iteratieve agent te integreren die queries herorganiseert op basis van redeneerbehoeften.
Flexibiliteit: Het raamwerk is volledig gebouwd op open-source LLM's en is modulair, waardoor componenten (embedding, abstractie, agent, reranker) kunnen worden vervangen zonder hertraining.

4. Experimentele Resultaten

De auteurs hebben Ψ-RAG geëvalueerd op diverse benchmarks, waaronder single-hop/multi-hop QA (HotpotQA, 2Wiki, MuSiQue, MultiHop-RAG), narratieve QA (NarrativeQA) en samenvatting (QMSum, WCEP).

Prestatiewinst:
- Op cross-document multi-hop QA-benchmarks presteert Ψ-RAG 25,9% beter dan RAPTOR in gemiddelde F1-score.
- Het overtreft de state-of-the-art HippoRAG 2 (een Graph-RAG-methode) met 7,4% in gemiddelde F1.
- Het behaalt significante winsten in retrieval-metrics (Recall@5) over alle datasets.
Efficiëntie:
- Indexering: Ψ-RAG bouwt een corpus-niveau boom 10x sneller dan OpenIE-gebaseerde Graph-RAG (bijv. GraphRAG) en 6,5x sneller dan RAPTOR.
- Retrieval: De top-down zoekopdracht biedt een complexiteit van $O(\log n)$ , wat resulteert in lagere latentie dan de traversie van Graph-RAG.
Ablatiestudies:
- Het verwijderen van de R&A-agent veroorzaakt een daling van ongeveer 20% in multi-hop-prestaties.
- Het verwijderen van de spaarzame retriever schaadt de prestaties aanzienlijk bij feitelijke queries (bijv. -21,8% op PopQA).
- Query-herorganisatie door de agent is cruciaal voor succes bij multi-hop.

5. Betekenis

Overbrugging van de Kloof: Ψ-RAG slaagt erin de kloof te overbruggen tussen de efficiëntie van Tree-RAG en het redeneervermogen van Graph-RAG, en bewijst dat hiërarchische structuren complexe multi-hop redenering effectief kunnen hanteren zonder de zware overhead van graafconstructie.
Schaalbaarheid: Door het "uniformiteitseffect" te vermijden en efficiënte samenvoegingsalgoritmen te gebruiken, schaalt het effectief naar grote, scheve corpora waar traditionele clustering faalt.
Praktijktoepasbaarheid: Het raamwerk toont aan dat open-source modellen state-of-the-art prestaties kunnen behalen in gestructureerde RAG, waardoor geavanceerde multi-hop redenering toegankelijk wordt zonder propriëtaire API's of uitgebreide fine-tuning.
Toekomstige Richting: Het stelt een nieuwe standaard voor cross-document retrieval, wat suggereert dat hiërarchische indexering gecombineerd met agente redenering een levensvatbare en superieure weg is voor RAG-systemen van de volgende generatie.