TigerVector: Supporting Vector Search in Graph Databases for Advanced RAGs

Il paper presenta TigerVector, un sistema integrato nel database nativo MPP TigerGraph che unisce ricerca vettoriale e query su grafi per abilitare RAG avanzati, offrendo prestazioni superiori rispetto ad altre soluzioni specializzate.

L'essenziale

Ecco una spiegazione del paper su TigerVector, raccontata come se fosse una storia, usando metafore semplici e quotidiane.

🦁 La Storia di TigerVector: Il Super-Eroe che unisce Memoria e Relazioni

Immagina di avere due tipi di biblioteche diverse nel tuo cervello:

1. La Biblioteca delle Relazioni (Grafico): Qui sai che "Mario" è amico di "Luigi", che "Luigi" ha comprato una "Pizza" e che la "Pizza" è stata mangiata a "Roma". Sai chi è con chi e dove.
2. La Biblioteca dei Significati (Vettori): Qui non ci sono nomi, ma "sensazioni". Sai che la parola "cane" suona simile a "cucciolotto" e che "auto" è vicina a "macchina", anche se le parole sono diverse. Questa biblioteca è ottima per trovare cose che sembrano simili, anche se non sono identiche.

Il Problema:
Fino a poco tempo fa, se volevi fare una domanda complessa a un'intelligenza artificiale (come un Chatbot), dovevi usare due biblioteche separate.

• Se chiedevi "Chi ha scritto recensioni positive su questo ristorante?", dovevi consultare la biblioteca delle relazioni.
• Se chiedevi "Cerca recensioni che parlano di 'cibo delizioso'", dovevi consultare la biblioteca dei significati.

Il problema è che tenere due biblioteche separate è lento, costoso e crea confusione. È come se dovessi correre da un edificio all'altro ogni volta che vuoi un'informazione. Inoltre, spesso le due biblioteche non si parlano bene: la biblioteca dei significati non capisce che "Mario" è l'autore della recensione, e quella delle relazioni non capisce che "delizioso" è simile a "buonissimo".

La Soluzione: TigerVector
Gli autori di questo paper hanno creato TigerVector, un sistema che fonde queste due biblioteche in un unico edificio magico. Immagina di costruire un unico palazzo enorme dove ogni stanza (un "nodo" del grafico) ha due cassetti:

1. Un cassetto per i dati normali (nome, età, indirizzo).
2. Un cassetto speciale per i "significati" (le rappresentazioni matematiche del testo o delle immagini).

🛠️ Come funziona? (Le Metafore)

Ecco i trucchi principali che TigerVector usa per essere così veloce:

1. Il Cassetto Separato (Storage Decoupled)

Immagina che i dati normali siano libri di carta leggeri, mentre i "significati" (i vettori) siano pesanti blocchi di marmo. Se li metti tutti insieme nello stesso scaffale, lo scaffale si piega e diventa lento da cercare.
TigerVector dice: "Ok, teniamo i libri leggeri sugli scaffali normali, ma per i blocchi di marmo (i vettori), costruiamo un magazzino speciale accanto, collegato direttamente alla stanza."
In questo modo, quando cerchi un significato, non devi spostare i libri pesanti; vai direttamente nel magazzino specializzato. Questo rende la ricerca velocissima.

2. La Squadra di Pompieri (MPP - Massively Parallel Processing)

Quando devi cercare un libro in una biblioteca gigante, un solo bibliotecario ci metterebbe ore. TigerVector usa una squadra di centinaia di pompieri (processori) che lavorano tutti insieme.
Invece di cercare in tutto il palazzo, dividono il palazzo in piccoli pezzi. Ogni pompiere controlla il suo pezzo in parallelo. Se cerchi "cane", 100 pompieri cercano contemporaneamente in 100 stanze diverse e si riuniscono subito con i risultati. È come avere 100 persone che leggono 100 pagine diverse dello stesso libro allo stesso tempo.

3. Il Linguaggio Unico (GSQL)

Prima, per usare le due biblioteche, dovevi parlare due lingue diverse (una per i grafici, una per i vettori). Con TigerVector, tutto si fa con una sola lingua, chiamata GSQL.
È come se potessi dire al bibliotecario: "Dammi tutti i libri scritti da Mario (grafico) che parlano di 'avventura' (significato), e poi dimmi chi sono i suoi amici che hanno letto la stessa cosa."
Il sistema capisce tutto in un colpo solo, senza farti correre avanti e indietro.

4. Aggiornamenti in Tempo Reale (Aggiornamenti Atomici)

Se cambi un dato (es. Mario cambia il suo nome), il sistema aggiorna tutto istantaneamente e in modo sicuro. Non succede che tu veda il nome vecchio mentre il vettore è già nuovo. È come se aggiornassi il tuo profilo social: il nome e la foto cambiano nello stesso millisecondo, per tutti.

🏆 I Risultati: Chi vince la gara?

Gli autori hanno fatto delle gare (esperimenti) contro i migliori concorrenti:

• Contro Neo4j e Amazon Neptune: Questi sono come biblioteche tradizionali che hanno aggiunto un piccolo reparto "significati" in fretta e furia. TigerVector è stato molto più veloce (fino a 5 volte più veloce) e ha trovato risultati più precisi.
• Contro Milvus: Milvus è una biblioteca specializzata solo nei significati, molto veloce ma che non capisce le relazioni. Sorprendentemente, TigerVector è stato quasi veloce quanto Milvus, pur facendo anche il lavoro di capire le relazioni!

💡 Perché è importante per il futuro? (RAG Avanzato)

Oggi usiamo l'Intelligenza Artificiale (come ChatGPT) per rispondere alle domande. Per farlo bene, l'AI deve "guardare" i tuoi dati.

• Se usi solo la ricerca per significato, l'AI potrebbe confondersi.
• Se usi TigerVector, l'AI può dire: "Ho trovato questo documento che parla di 'pandemia' (ricerca per significato), e so che è stato scritto dal Dottor Rossi (ricerca per relazione), che a sua volta ha lavorato con l'Organizzazione Mondiale della Sanità."

Questo permette di creare risposte molto più intelligenti, precise e utili, riducendo gli errori e i costi.

In sintesi

TigerVector è come un super-architetto che ha ristrutturato una vecchia biblioteca trasformandola in un moderno centro polifunzionale. Non devi più correre tra edifici diversi per trovare informazioni. Tutto è lì, ordinato, veloce e collegato. Che tu stia cercando un amico, un libro o un concetto astratto, TigerVector lo trova per te in un batter d'occhio.

Sommario tecnico

Ecco un riassunto tecnico dettagliato del paper "TigerVector: Supporting Vector Search in Graph Databases for Advanced RAGs", presentato in italiano.

Titolo

TigerVector: Supporto alla Ricerca Vettoriale nei Database a Grafo per RAG Avanzati

1. Il Problema

L'articolo affronta le limitazioni delle attuali architetture di Retrieval-Augmented Generation (RAG) basate esclusivamente su database vettoriali. Sebbene efficaci per la semantica, i sistemi puramente vettoriali falliscono spesso in scenari complessi dove è cruciale comprendere le relazioni precise tra gli oggetti dati (es. recensioni di un cliente specifico o impatti economici globali), portando a tassi di successo dei prompt (prompt hit rates) bassi e a costi computazionali elevati dovuti a iterazioni multiple.

La soluzione proposta, GraphRAG, utilizza database a grafo per memorizzare le conoscenze, ma le implementazioni attuali (come Neo4j o Amazon Neptune) presentano gravi carenze quando si integra la ricerca vettoriale:

• Prestazioni inferiori: Non riescono a competere con database vettoriali specializzati (es. Milvus).
• Limiti funzionali: Mancano di supporto per ricerche vettoriali avanzate (filtrate, ibride) e aggiornamenti atomici ed efficienti.
• Gestione dei dati: L'approccio comune di usare due database separati (uno vettoriale e uno a grafo) crea silos di dati, problemi di consistenza e costi di movimento dati.

2. Metodologia e Architettura

Il paper introduce TigerVector, un sistema integrato nativamente in TigerGraph (un database a grafo distribuito MPP - Massively Parallel Processing) che unifica la gestione di dati strutturati (grafo) e non strutturati (vettori).

Componenti Chiave del Design:

• Nuovo Tipo di Dato embedding:
  • Viene introdotto un tipo di dato specifico per gestire i vettori, separato dai semplici array di float.
  • Gestisce metadati essenziali: dimensionalità, modello ML utilizzato, tipo di dato e metrica di similarità.
  • Supporta Embedding Space, permettendo di definire spazi vettoriali comuni per diversi tipi di vertici (es. Post e Commenti generati dallo stesso modello GPT-4).
• Architettura di Storage Decoupled (Disaccoppiata):
  • I vettori sono archiviati in segmenti di embedding separati dai segmenti dei vertici del grafo.
  • Questo permette di costruire indici vettoriali nativi per ogni segmento senza duplicare i dati o rallentare le operazioni di aggiornamento del grafo.
  • Gli indici sono costruiti localmente su ogni segmento per minimizzare la comunicazione di rete durante le query distribuite.
• Indicizzazione e Aggiornamenti Incrementali:
  • Utilizza l'algoritmo HNSW (Hierarchical Navigable Small World), lo standard nei database vettoriali moderni.
  • Implementa un meccanismo MVCC (Multi-Version Concurrency Control) per gli aggiornamenti vettoriali. Le modifiche (delta) vengono accumulate in memoria e poi "aspirate" (vacuum) in due fasi distinte: fusione dei delta su disco e aggiornamento dell'indice, garantendo transazioni atomiche e consistenza ACID.
• Integrazione con GSQL:
  • La ricerca vettoriale è integrata nel linguaggio di query GSQL di TigerGraph.
  • Supporta query dichiarative (es. ORDER BY VECTOR_DIST) e procedure complesse.
  • Abilita la composizione di query: un blocco di ricerca vettoriale può essere filtrato da pattern di grafo o viceversa.
  • Include una funzione flessibile VectorSearch() che accetta variabili di insiemi di vertici come input/output, permettendo di combinare ricerca vettoriale, algoritmi di grafo (es. rilevamento comunità) e join di similarità.

3. Contributi Principali

1. Sistema Unificato: TigerVector è il primo sistema che integra nativamente ricerca vettoriale ad alte prestazioni in un database a grafo distribuito, eliminando la necessità di sistemi ibridi separati.
2. Prestazioni MPP: Sfrutta l'architettura MPP di TigerGraph per eseguire ricerche vettoriali parallele su segmenti distribuiti, superando i limiti di scalabilità delle soluzioni monolitiche.
3. Query Ibride Avanzate: Supporta nativamente scenari complessi come:
   • Filtered Vector Search: Ricerca vettoriale filtrata da attributi del grafo.
   • Vector Search on Graph Patterns: Ricerca vettoriale su vertici selezionati da pattern di grafo multi-hop.
   • Vector Similarity Join: Trovare le coppie di nodi più simili all'interno di un pattern di grafo specifico.
4. Gestione degli Aggiornamenti: Risolve il problema degli aggiornamenti atomici e transazionali dei vettori, un punto debole di soluzioni concorrenti come Amazon Neptune.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su dataset standard (SIFT100M, Deep100M, SIFT1B, Deep1B) e su un benchmark ibrido basato su LDBC-SNB.

• Confronto con Database a Grafo (Neo4j, Amazon Neptune):
  • TigerVector supera Neo4j di 3.77x - 5.19x in termini di throughput (QPS) e del 23-26% in termini di recall.
  • Rispetto ad Amazon Neptune, TigerVector ottiene un throughput 1.93x - 2.7x superiore con costi hardware 22.42x inferiori (a parità di recall), dimostrando un'efficienza superiore nonostante l'hardware di Neptune sia più potente.
• Confronto con Database Vettoriale Specializzato (Milvus):
  • TigerVector raggiunge prestazioni comparabili o superiori a Milvus (database vettoriale ottimizzato), con un throughput fino a 1.61x superiore. Questo è attribuito all'uso efficace del parallelismo multi-core e all'implementazione in C++.
• Scalabilità:
  • Il sistema mostra una scalabilità quasi lineare all'aumentare del numero di nodi e della dimensione del dataset (fino a 1 miliardo di vettori).
• Aggiornamenti:
  • La costruzione dell'indice è 5.2x - 6.8x più veloce rispetto a Neo4j e 1.86x - 2.16x più veloce rispetto a Milvus.
  • Gli aggiornamenti incrementali sono efficienti fino a una soglia del 20% di dati modificati, oltre la quale è preferibile la ricostruzione.

5. Significato e Impatto

TigerVector rappresenta un passo fondamentale verso l'adozione di VectorGraphRAG, un approccio ibrido che combina la potenza semantica dei vettori con la capacità relazionale dei grafi.

• Per l'Industria: Offre un'infrastruttura dati unificata per i LLM, riducendo la complessità operativa, migliorando la consistenza dei dati e abilitando applicazioni RAG avanzate che richiedono ragionamento su relazioni complesse (es. analisi di sentenze legali, percorsi di pazienti, catene di fornitura).
• Per la Ricerca: Dimostra che è possibile integrare la ricerca vettoriale ad alte prestazioni all'interno di database a grafo senza sacrificare le prestazioni, sfidando la necessità di architetture multi-database frammentate.

Il sistema è stato integrato nella versione 4.2 di TigerGraph (rilasciata a dicembre 2024) ed è disponibile per la comunità.