Hierarchical Abstract Tree for Cross-Document Retrieval-Augmented Generation

1. Enunciazione del Problema

La Generazione Potenziata dal Recupero (RAG) potenzia i Modelli Linguistici di Grande Dimensione (LLM) con conoscenze esterne. Sebbene i metodi Tree-RAG (ad esempio, RAPTOR) organizzino i documenti in indici gerarchici per supportare query a più granularità, affrontano limitazioni critiche quando si scalano a domande multi-hop cross-documento:

1. Scarsa Adattabilità alla Distribuzione: I metodi esistenti si basano su clustering di tipo $k$-means (ad esempio, Modelli a Mixture Gaussiana). Questi algoritmi assumono distribuzioni di dati sferiche e soffrono dell'"effetto uniformità", costringendo i cluster ad avere dimensioni uniformi. Ciò introduce rumore fondendo argomenti minori e distorti in cluster principali, causando al recuperatore di trascurare informazioni di nicchia.
2. Isolamento Strutturale: Gli indici ad albero tipicamente mancano di connessioni esplicite tra i nodi foglia di rami diversi. A differenza di Graph-RAG, che salta tra entità tramite archi, le foglie dell'albero sono isolate. Ciò impedisce al recuperatore di catturare le dipendenze causali implicite necessarie per il ragionamento multi-hop.
3. Astruzione Grossolana: L'astrazione standard dell'albero crea spesso riassunti di alto livello che oscurano i dettagli fini. La corrispondenza di vettori densi fatica ad associare entità specifiche in una query utente a questi concetti astratti, portando a fallimenti nel recupero su domande fattuali a livello di token.

2. Metodologia: Ψ-RAG

Gli autori propongono Ψ-RAG, un framework composto da due componenti principali: un Indice ad Albero Astratto Gerarchico e un Recuperatore Agente a Multi-Granularità.

A. Indicizzazione ad Albero Astratto Gerarchico

Invece del clustering $k$-means, Ψ-RAG utilizza un processo iterativo di "fusione e collasso" ispirato al Clustering Gerarchico Agglomerativo (AHC) ma senza assunzioni a priori sulla distribuzione.

• Classificazione della Similarità: Tutti i frammenti di documento sono codificati in vettori densi e le similarità pairwise sono calcolate e ordinate.
• Fusione e Collasso:
  • Fusione: La coppia più simile di frammenti (o nodi) viene collegata sotto un nuovo nodo astratto.
  • Collasso del Nodo Foglia: Se un nodo è già collegato a un genitore, il nodo isolato viene attaccato allo stesso genitore.
  • Collasso del Nodo Astratto: Se due nodi appartengono a genitori diversi alla stessa profondità, le loro radici vengono fuse sotto un nuovo nodo. Se le profondità differiscono, la radice più superficiale viene collegata sul percorso del nodo più profondo per bilanciare l'albero.
• Astrazione: Un agente LLM genera due tipi di astrazioni per ogni nodo non foglia:
  • Astrazione Sommativa: Un paragrafo coerente che riassume logica e relazioni tra entità.
  • Astrazione per Parole Chiave: Parole chiave/frasi ad alta densità che preservano la co-occorrenza delle entità.
• Ribilanciamento: I nodi con troppi figli vengono divisi per garantire che la finestra di contesto dell'agente di astrazione non venga superata.

B. Recupero Agente a Multi-Granularità

Per affrontare l'isolamento strutturale e l'astrazione grossolana, Ψ-RAG impiega un Agente di Recupero e Risposta (R&A) che interagisce con un Indice Ibrido a Multi-Granularità (Albero + Indice di Parole Chiave Sparse).

• Ragionamento Iterativo: L'agente valuta se le informazioni attuali sono sufficienti. In caso contrario, genera una query riorganizzata (arricchita con contesto, ad esempio aggiungendo apposizioni descrittive) e attiva un nuovo passo di recupero.
• Recupero Ibrido:
  • Recupero ad Albero: Una ricerca top-down con vettori densi che parte dalla radice fino al livello foglia.
  • Recupero Sparso: Una ricerca per parole chiave basata su BM25.
  • Fusione: I risultati sono combinati tramite un riclassificatore (parametrico) o Reciprocal Rank Fusion (non parametrico).
• Riorganizzazione della Query: L'agente riscrive dinamicamente le query per includere parole chiave tematiche, aiutando sia il recuperatore sparso (trovare entità specifiche) sia il recuperatore ad albero (localizzare astrazioni di alto livello pertinenti).

3. Contributi Chiave

1. Adattabilità alla Distribuzione: Ψ-RAG dimostra teoricamente (tramite l'analisi dei costi di Dasgupta) che il suo processo di fusione gerarchica evita l'"effetto uniformità" di $k$-means. Preserva adattivamente le distribuzioni di dati distorte, assicurando che i cluster minori rimangano distinti invece di essere assorbiti da quelli principali.
2. Primo Tree-RAG Cross-Documento: È il primo framework Tree-RAG in grado di gestire il recupero multi-hop a livello di corpus e cross-documento, eguagliando le capacità di Graph-RAG mantenendo l'efficienza delle strutture ad albero.
3. Framework Agente Ibrido: Risolve il conflitto tra astrazione grossolana e recupero fine-granulare integrando un indice di parole chiave sparse e un agente iterativo che riorganizza le query in base alle esigenze di ragionamento.
4. Flessibilità: Il framework è costruito interamente su LLM open-source ed è modulare, permettendo di scambiare componenti (embedding, astrazione, agente, riclassificatore) senza riaddestramento.

4. Risultati Sperimentali

Gli autori hanno valutato Ψ-RAG su benchmark diversificati inclusi QA a singolo/multi-hop (HotpotQA, 2Wiki, MuSiQue, MultiHop-RAG), QA narrativo (NarrativeQA) e riassunto (QMSum, WCEP).

• Miglioramenti delle Prestazioni:
  • Sui benchmark QA multi-hop cross-documento, Ψ-RAG supera RAPTOR del 25,9% nel punteggio F1 medio.
  • Supera lo stato dell'arte HippoRAG 2 (un metodo Graph-RAG) del 7,4% nel punteggio F1 medio.
  • Ottiene guadagni significativi nelle metriche di recupero (Recall@5) su tutti i dataset.
• Efficienza:
  • Indicizzazione: Ψ-RAG costruisce un albero a livello di corpus 10 volte più velocemente di Graph-RAG basato su OpenIE (ad esempio, GraphRAG) e 6,5 volte più velocemente di RAPTOR.
  • Recupero: La ricerca top-down offre una complessità $O(\log n)$, risultando in una latenza inferiore rispetto alla traversata di Graph-RAG.
• Studi di Ablazione:
  • Rimuovere l'agente R&A causa un calo di circa il 20% nelle prestazioni multi-hop.
  • Rimuovere il recuperatore sparso danneggia significativamente le prestazioni su query fattuali (ad esempio, -21,8% su PopQA).
  • La riorganizzazione della query da parte dell'agente è critica per il successo multi-hop.

5. Significato

• Colmare il Divario: Ψ-RAG colma con successo il divario tra l'efficienza di Tree-RAG e il potere di ragionamento di Graph-RAG, dimostrando che le strutture gerarchiche possono gestire efficacemente ragionamenti multi-hop complessi senza il pesante sovraccarico della costruzione di grafi.
• Scalabilità: Evitando l'"effetto uniformità" e utilizzando algoritmi di fusione efficienti, scala efficacemente a grandi corpora distorti dove il clustering tradizionale fallisce.
• Praticità: Il framework dimostra che i modelli open-source possono raggiungere prestazioni all'avanguardia nel RAG strutturato, rendendo accessibile il ragionamento multi-hop avanzato senza API proprietarie o esteso fine-tuning.
• Direzione Futura: Fissa un nuovo standard per la gestione del recupero cross-documento, suggerendo che l'indicizzazione gerarchica combinata con il ragionamento agente è un percorso vitale e superiore per i sistemi RAG di prossima generazione.