Graphs RAG at Scale: Beyond Retrieval-Augmented Generation With Labeled Property Graphs and Resource Description Framework for Complex and Unknown Search Spaces

Questo articolo presenta un innovativo framework Graph RAG che combina grafi a proprietà etichettati (LPG) e RDF per superare i limiti dei metodi tradizionali, consentendo il recupero dinamico di documenti, l'integrazione efficiente di dati semi-strutturati e una traduzione ad alta precisione da testo a Cypher, ottenendo prestazioni superiori in termini di accuratezza e ragionamento per compiti complessi.

L'essenziale

Immagina di avere un bibliotecario geniale (l'Intelligenza Artificiale) che sa rispondere a qualsiasi domanda, ma che ha un grosso problema: ha memoria corta e tende a inventare le cose (le cosiddette "allucinazioni"). Se gli chiedi qualcosa di molto specifico o recente, potrebbe confondersi o dire bugie che sembrano vere.

Per risolvere questo, gli scienziati hanno creato il sistema RAG (Retrieval-Augmented Generation), che è come dare al bibliotecario una cassetta degli attrezzi piena di documenti da consultare prima di rispondere.

Il problema? I metodi tradizionali funzionano bene solo se sai esattamente cosa cercare. Ma se la domanda è complessa, o se i dati sono organizzati in modo strano (come tabelle o liste di valori), il bibliotecario si perde. È come cercare un ago in un pagliaio senza sapere dove sia l'ago.

La Soluzione: Trasformare il Pagliaio in una Mappa

Gli autori di questo studio (del gruppo Capital Group) dicono: "Non cerchiamo più gli aghi nel pagliaio. Costruiamo una mappa".

Hanno creato due nuovi modi per trasformare i dati in mappe, chiamati Graph RAG. Immagina che invece di leggere pagine di testo, l'IA veda una rete di strade e incroci.

1. Il Metodo RDF (La Mappa dei Collegamenti Logici)

Immagina di prendere ogni dato (ad esempio, il nome di un fondo di investimento, il suo rendimento, il suo tipo) e trasformarlo in una tripla logica:

• Chi? (Il Fondo)
• Fa cosa? (Ha un rendimento)
• Quanto? (5%)

È come se ogni informazione fosse un tassello di un puzzle che si incastra perfettamente con gli altri. Quando l'utente fa una domanda, il sistema non "legge" tutto il testo, ma segue i collegamenti logici (i fili del puzzle) per trovare esattamente la risposta. È preciso, veloce e non perde pezzi.

2. Il Metodo LPG (La Città con le Strade Intelligente)

Questo è il metodo che ha funzionato meglio. Immagina di costruire una città digitale.

• Ogni fondo di investimento è un edificio (un nodo).
• Le caratteristiche (come "è un ETF" o "ha un manager specifico") sono strade che collegano gli edifici.
• Le strade hanno dei cartelli (etichette) che dicono esattamente dove portano.

Invece di chiedere al bibliotecario di leggere mille pagine, gli dai una mappa della città e gli dici: "Vai dall'edificio 'AMCAP', prendi la strada 'Manager' e dimmi chi c'è alla fine".
Il sistema usa una lingua speciale (Cypher) per chiedere alla mappa: "Trovami tutti gli edifici collegati a questa strada". È come avere un GPS che ti porta direttamente alla risposta, senza fermarsi a guardare case sbagliate.

Perché è meglio dei metodi vecchi?

Nel metodo vecchio (chiamato "Agentic RAG"), l'IA deve indovinare quanti documenti cercare. È come se il bibliotecario dovesse decidere: "Devo leggere 5 pagine o 50?".

• Se ne legge pochissime, potrebbe perdere un dettaglio importante.
• Se ne legge troppe, si confonde tra informazioni inutili e rumori di fondo.

Con le Mappe (Graph RAG), non serve indovinare. La struttura stessa della mappa ti dice dove andare. Non importa se la domanda è semplice ("Qual è il nome di questo fondo?") o complessa ("Quali fondi gestisce il signor Rossi e hanno un rendimento superiore al 5%?"). La mappa ti porta dritto al punto.

I Risultati: Chi ha vinto?

Gli scienziati hanno fatto una prova con 200 domande difficili su fondi di investimento.

• Il vecchio metodo (che leggeva testi) ha fallito spesso, perdendo dettagli o inventando cose.
• Il metodo RDF (le triple logiche) è stato molto bravo.
• Il metodo LPG (la città con le strade) è stato il campione assoluto. Ha risposto correttamente quasi a tutte le domande, anche quelle più complicate che richiedevano di collegare più informazioni.

In sintesi

Questo studio ci dice che per fare domande complesse a un'intelligenza artificiale, non basta dargli più libri da leggere. Bisogna organizzare le informazioni come una rete connessa.

Pensa alla differenza tra cercare una parola in un dizionario gigante (metodo vecchio) e usare Google Maps per trovare un indirizzo specifico (metodo Graph RAG). Il secondo è infinitamente più veloce, preciso e affidabile, specialmente quando si tratta di dati complessi come quelli finanziari.

La morale della favola: Per un'intelligenza artificiale intelligente, la struttura è tutto. Una mappa ben disegnata vale più di mille pagine di testo disordinate.

Sommario tecnico

1. Il Problema

Gli attuali sistemi di Retrieval-Augmented Generation (RAG) basati su modelli di linguaggio (LLM) tradizionali affrontano sfide significative quando operano in spazi di ricerca sconosciuti o quando i dati sono semi-strutturati (es. JSON annidati) o strutturati.

• Limiti del RAG Tradizionale: I metodi basati su embedding vettoriale e ricerca di similarità presuppongono uno spazio di ricerca ben definito e richiedono spesso di pre-specificare il numero di documenti da recuperare ($k$). Questo porta a inefficienze, rumore nei risultati e alla necessità di modelli di reranking complessi.
• Gestione dei Dati Strutturati: I dati finanziari (come i fondi comuni di investimento) sono spesso rappresentati come oggetti JSON complessi e annidati. Convertire questi dati in testo non strutturato per il RAG tradizionale porta a perdita di contesto, omissioni di informazioni critiche e allucinazioni da parte dell'LLM.
• Scalabilità: Le tecniche di conversione "JSON-to-Story" tramite LLM sono computazionalmente costose, lente e non scalabili per dataset in continuo aggiornamento.

2. Metodologia

Gli autori propongono un framework Graph RAG end-to-end che supera i limiti del RAG tradizionale sfruttando due architetture di grafi: Labeled Property Graph (LPG) e Resource Description Framework (RDF).

A. Preparazione dei Dati

• Dataset: Utilizzato un dataset di 1.104 fondi (mutual funds, ETF, PPS) strutturati in JSON con attributi annidati fino a 3-4 livelli.
• Conversione RDF: Ogni oggetto JSON viene convertito deterministicamente in triple (Soggetto, Predicato, Oggetto). L'attributo abbreviatedName funge da soggetto univoco. Questo processo genera oltre 650.000 triple uniche, preservando l'integrità dei dati senza allucinazioni.
• Modellazione LPG: I dati JSON vengono mappati in un grafo con proprietà etichettate (LPG) utilizzando openCypher. Viene progettato uno schema rigoroso dove entità come "Fondo", "Tipo di Prodotto" e "Benchmark" sono nodi distinti collegati da relazioni esplicite, permettendo traversazioni multi-hop efficienti.

B. Pipeline di Retrieval

1. Pipeline RDF:
   • I nodi e le relazioni vengono indicizzati e vettorializzati (usando il modello BGE-m3).
   • Un agente seleziona i nodi rilevanti (fondi) e le relazioni basandosi su classificazione supervisionata e matching di embedding.
   • La query viene eseguita su Amazon Neptune utilizzando SPARQL per recuperare le triple pertinenti.
2. Pipeline LPG (Text-to-Cypher):
   • Viene sviluppato un modulo Text-to-Cypher che traduce le query testuali dell'utente in query Cypher eseguibili in tempo reale.
   • Il modello LLM viene potenziato con lo schema completo del grafo (etichette, proprietà, tipi di relazione) per garantire accuratezza sintattica e semantica.
   • La precisione della traduzione testo-Cypher supera il 90%.
3. Pipeline Agentic RAG (Baseline):
   • Viene confrontato con un approccio tradizionale che converte i JSON in testo narrativo (RAG1, scartato per scarsità) e un approccio basato su chunking e embedding (RAG2/Agentic), che utilizza modelli di reranking (BGE-reranker) per ordinare i documenti recuperati.

3. Contributi Chiave

1. Framework Graph RAG Ibrido: Introduzione di un sistema che integra nativamente sia RDF che LPG per gestire dati semi-strutturati complessi, eliminando la necessità di pre-definire il numero di documenti da recuperare.
2. Metodo di Conversione JSON-RDF: Un approccio deterministico e veloce per trasformare oggetti JSON annidati in triple RDF, preservando la gerarchia e la completezza dei dati.
3. Motore Text-to-Cypher ad Alta Precisione: Sviluppo di un sistema che traduce query naturali in Cypher con oltre il 90% di accuratezza, abilitando interrogazioni in tempo reale su grafi complessi.
4. Valutazione Empirica Comparativa: Una valutazione rigorosa che dimostra come le soluzioni basate su grafi superino sistematicamente il RAG basato su embedding in termini di accuratezza, qualità della risposta e capacità di ragionamento.

4. Risultati

L'esperimento è stato condotto su 200 domande di varia difficoltà, categorizzate per intento: Search/Listing, Compare, Detail e Other.

• Punteggi Totali (su 200 punti):
  • RAG LPG: 185.5 (Migliore performance)
  • RAG RDF: 172.5
  • Agentic RAG (RAG2): 116
• Analisi per Intento:
  • Search/Listing: Il metodo LPG ha ottenuto 93/100, superando nettamente RDF (80/100) e Agentic RAG (38.5/100). La capacità di traversare il grafo in modo deterministico è cruciale per trovare tutti gli elementi pertinenti senza limiti di $k$.
  • Compare e Detail: LPG e RDF hanno mostrato prestazioni simili e superiori (circa 41-43.5/45), mentre l'Agentic RAG ha faticato (34.5-35/45).
• Limiti dell'Agentic RAG: Il RAG basato su embedding ha fallito principalmente nella gestione di spazi di ricerca sconosciuti (non si sa quanti documenti recuperare) e nella distinzione fine tra entità simili (es. confusione tra codici di fondi), portando a contesti rumorosi o incompleti.

5. Significato e Conclusione

Il paper dimostra che per domini complessi e strutturati (come la finanza), Graph RAG non è solo un'alternativa, ma una necessità evolutiva rispetto al RAG tradizionale basato su vettori.

• Affidabilità: L'approccio basato su grafi riduce drasticamente le allucinazioni e garantisce la completezza delle risposte, specialmente per query che richiedono l'aggregazione di informazioni da più entità collegate.
• Scalabilità: La modellazione LPG con uno schema ben progettato permette traversazioni efficienti e scalabili, evitando i colli di bottiglia del reranking e della selezione di documenti arbitraria.
• Impatto: Questi risultati stabiliscono il Graph RAG come una soluzione trasformativa per i sistemi di recupero informazioni di prossima generazione, particolarmente efficace quando i dati sono semi-strutturati e le relazioni tra le entità sono complesse e non predefinite.

In sintesi, la ricerca suggerisce che l'integrazione di modelli di grafo (in particolare LPG con Text-to-Cypher) rappresenta lo stato dell'arte per l'elaborazione di dati finanziari complessi, superando i limiti intrinseci dei metodi basati puramente su embedding vettoriale.