A Unified Framework for Context-Aware and Relation-Aware Graph Retrieval-Augmented Generation

Technische Samenvatting: Een Verenigd Framework voor Contextbewuste en Relatiebewuste Graph Retrieval-Augmented Generation

Probleemstelling
Retrieval-Augmented Generation (RAG) verbetert Large Language Models (LLMs) met externe kennis, maar bestaande graafgebaseerde methoden lijden aan een fundamentele beperking: ze opereren op representaties die verankerd zijn aan de oorspronkelijke tekst zonder werkelijke kennisfusie te bereiken. Huidige benaderingen vallen uiteen in twee categorieën, die beide onvoldoende zijn voor complexe queries die zowel context als logisch redeneren vereisen:

1. Entiteit-gecentreerde methoden (bijv. GraphRAG, HippoRAG) blinken uit in multi-hop redeneren door relationele paden te doorlopen, maar verliezen vaak waardevolle contextuele informatie tijdens entiteitsextractie, wat leidt tot onderprestatie bij feitelijke QA.
2. Chunk-gecentreerde methoden (bijv. RAPTOR, EraRAG) behouden volledige contextuele informatie via hiërarchische samenvattingen, maar falen in het vastleggen van expliciete relaties tussen entiteiten die verspreid zijn over verschillende chunks, waardoor ze ineffectief zijn voor taken die logisch redeneren vereisen.

Het simpelweg combineren van deze representaties in een hybride graaf lost het probleem niet op, aangezien de twee aspecten afzonderlijk worden geraadpleegd via similarity search, waarbij de "emergent understanding" die voortkomt uit de synthese van relationele logica met achtergrondcontext wordt gemist.

Methodologie: HyGRAG
De auteurs stellen HyGRAG voor, een hiërarchisch graph RAG-framework dat ontworpen is om brondocumenten te overstijgen door drie kernuitdagingen aan te pakken: het construeren van werkelijk geïntegreerde samenvattingen, het benutten van gesynthetiseerde representaties voor retrieval, en het efficiënt updaten van dynamische corpora.

1. Constructie van de Hiërarchische Indexstructuur (Offline Fase):

   • Hybride Graafconstructie: Het systeem construeert een hybride kennisgraaf die twee typen nodes bevat (tekstchunks en entiteiten) en drie typen edges (chunk-naar-chunk, entiteit-naar-entiteit, en cross-layer membership edges). Chunk-nodes zijn verbonden op basis van gedeelde entiteiten in plaats van oppervlakkige embedding-gelijkenis.
   • Hiërarchische Clustering: Met behulp van Cleora voor structuurbewuste embeddings en Locality-Sensitive Hashing (LSH), clustert het systeem nodes in gemeenschappen.
   • Knowledge Fusion Summarization: Voor elke gemeenschap genereert een LLM een samenvatting die zowel de contextuele informatie uit de chunks als de relationele logica van de entiteiten expliciet synthetiseert. Dit creëert een nieuwe kennisrepresentatie die de oorspronkelijke tekst overstijgt.
   • Recursieve Abstractie: Dit proces wordt recursief toegepast om een multi-layered tree index ($L_0$ tot $L_L$) te creëren, waarbij leaf nodes de oorspronkelijke graaf-elementen zijn en de bovenliggende lagen steeds abstractere community-samenvattingen bevatten.

2. Context- en Relatiebewuste Retrieval (Online Fase):

   • Bi-Level Retrieval: Het systeem hanteert een duale strategie:
     • Contextbewuste Retrieval: Zoekt over alle hiërarchie-niveaus (communities, chunks, entiteiten) naar de inhoud die het meest relevant is voor de query op basis van semantische gelijkenis.
     • Relatiebewuste Retrieval: Breidt resultaten uit door entiteiten uit de opgehaalde communities te verzamelen, hun bijbehorende triplets te extraheren en deze te filteren op basis van relevantie.
   • Geïntegreerde Strategie: De uiteindelijke retrieval-set combineert community-samenvattingen (voor hoogwaardig begrip), chunks (voor gedetailleerde context), entiteiten (voor kernconcepten) en relationele triplets (voor logische verbindingen).

3. Dynamische Kennisupdate:

   • Om continue updates van het corpus af te handelen zonder volledige reconstructie, gebruikt HyGRAG een attachment-gebaseerd algoritme. Nieuwe inhoud wordt gekoppeld aan de meest gelijkaardige community op het passende abstractieniveau.
   • Bij aankoppeling wordt alleen het beïnvloede pad naar de root opnieuw samengevat, waardoor de stabiliteit van ongerelateerde delen van de hiërarchie behouden blijft.

Belangrijkste Bijdragen

• Verenigde Hiërarchische Indexering: Het paper introduceert een graph RAG-indexeringsmethode die contextuele en relationele informatie verenigt via multi-level abstractie, wat retrieval over verschillende granulariteiten mogelijk maakt.
• Dual-Strategy Retrieval Mechanisme: Een retrieval-mechanisme dat contextbewuste en relatiebewuste strategieën combineert, waarbij gebruik wordt gemaakt van community-structuren om informatie te vinden die platte benaderingen missen.
• Efficiënte Dynamische Updates: Een attachment-gebaseerd algoritme dat incrementele kennisintegratie mogelijk maakt met slechts lokale her-samenvatting, waardoor de computationele kosten van volledige graafreconstructie worden vermeden.

Experimentele Resultaten
De auteurs evalueerden HyGRAG op vijf statische QA-datasets (PopQA, MuSiQue, HotpotQA, MultiHop-RAG, QuALITY) met behulp van Llama-3.1-8B-Instruct en Qwen3-8B.

• Prestaties: HyGRAG behaalde de beste of bijna-beste prestaties over alle taken.
  • Multi-Hop Redeneren: Het verbeterde de gemiddelde nauwkeurigheid met 9,7% vergeleken met baselines. Specifiek behaalde het een verbetering van 6,2% in Factual Accuracy (PopQA) en een stijging van 9,7% in Multi-Hop Reasoning (HotpotQA/MuSiQue), met winsten die opliepen tot 12,2% op HotpotQA.
  • Robuustheid: Het framework behield competitieve resultaten, zelfs toen het basis-LLM werd gewijzigd naar Qwen3-8B, terwijl contextbewuste baselines een daling in prestaties lieten zien op reasoning-taken.
• Efficiëntie: Hoewel HyGRAG hogere kosten met zich meebrengt dan pure contextbewuste methoden vanwege multi-level retrieval, vertoont het een significante tijd- en token-efficiëntie vergeleken met andere relatiebewuste methoden.
• Dynamische Updates: Experimenten op corpus-expansie toonden aan dat incrementele insertie slechts leidt tot een minimale afname (1–2%) in community-kwaliteit, wat de capaciteit van het systeem bevestigt om effectief om te gaan met scenario's van continu leren.

Betekenis en Claims
Het paper claimt dat HyGRAG de fundamentele trade-off tussen contextbewuste en relatiebewuste retrieval aanpakt. Door hybrid nodes te clusteren en samenvattingen te genereren die contextuele en relationele informatie werkelijk integreren, creëert het framework representaties die een "emergent understanding" bieden die niet aanwezig is in enig enkel brondocument. De auteurs stellen dat deze verenigde aanpak LLM's in staat stelt om inzichten te verkrijgen die noch entiteit-gecentreerde, noch chunk-gecentreerde methoden onafhankelijk van elkaar zouden kunnen bereiken, wat resulteert in significante prestatiewinsten bij complexe redeneertaken terwijl een redelijke efficiëntie voor dynamische corpora behouden blijft.