Semantic XPath: Structured Agentic Memory Access for Conversational AI

1. Il Problema

Gli agenti di Intelligenza Artificiale Conversazionale (ConvAI) stanno diventando sempre più complessi, richiedendo di gestire interazioni a lungo termine e orientate a compiti specifici (es. pianificazione viaggi, gestione liste di cose da fare). Attualmente, esistono due approcci principali per la gestione della memoria, entrambi con limiti significativi:

• Approccio "In-Context" (Memoria contestuale): Appende l'intera cronologia della conversazione all'input del modello.
  • Limiti: Scalabilità scarsa a causa dei limiti della finestra contestuale, costi elevati in token, latenza aumentata e tendenza a generare allucinazioni o ragionamenti errati man mano che il contesto cresce. Gli esperimenti mostrano che questo metodo fallisce nel soddisfare la metà delle richieste utente dopo soli 5 turni di interazione.
• Approccio RAG (Retrieval-Augmented Generation) "Flat": Recupera informazioni rilevanti da una collezione piatta di dati.
  • Limiti: Ignora la struttura gerarchica naturale dei dati. Ad esempio, in un itinerario di viaggio, un sistema "flat" potrebbe recuperare attività dalla giornata sbagliata se non comprende la relazione gerarchica tra "Giorno" e "Attività", portando a risposte non contestuali.

2. Metodologia: Semantic XPath

Gli autori propongono Semantic XPath, un modulo di memoria strutturata ad albero che combina la potenza linguistica di XPath con la comprensione semantica dei modelli LLM.

Modello dei Dati

La memoria conversazionale è rappresentata come un albero radicato $T = (V, E, r)$, dove:

• Ogni nodo rappresenta un'unità di stato conversazionale.
• Esiste una gerarchia definita da uno schema (es. Itinerario → Versione → Giorno → Punto di Interesse).
• Questo approccio favorisce le gerarchie composizionali (dove i livelli superiori organizzano strutturalmente le informazioni, non solo riassumendole) rispetto alle gerarchie astrattive.

Linguaggio di Query (Semantic XPath)

Il sistema utilizza un linguaggio di query ispirato a XPath ma arricchito con operatori semantici. Una query è composta da:

1. Navigatore dell'asse: Definisce come attraversare l'albero (/ per figli, // per discendenti).
2. Selettore di nodo: Specifica il tipo di nodo (es. Day, POI) o usa un wildcard.
3. Selettore posizionale: (Opzionale) Seleziona nodi basandosi sulla posizione (es. [3] per il terzo giorno).
4. Operatore di rilevanza semantica: (Opzionale) Assegna un punteggio di rilevanza semantica ai nodi corrispondenti. Include operatori locali (similitudine stringa/nodo) e di aggregazione (media, massimo, minimo) per valutare gruppi di nodi.

Esempio di Esecuzione

Per la richiesta "Aggiungi una pausa caffè nel giorno più carico di sessioni conferenziali":

1. La richiesta viene tradotta in una query: //Day[avg(/POI[node~="conference"])].
2. Il sistema attraversa tutti i nodi Day.
3. Per ogni giorno, calcola la media della rilevanza semantica dei suoi figli POI che contengono la parola "conference".
4. Seleziona il giorno con il punteggio medio più alto (es. Giorno 2) per l'inserimento dell'attività.

Sistema Demo: SemanticXPath Chat

È stato sviluppato un sistema end-to-end che visualizza:

• Vista Conversazione: La cronologia chat.
• Vista Memoria: L'albero strutturato con i percorsi rilevanti evidenziati.
• Vista Esecuzione: I dettagli passo-passo della query, inclusi i punteggi di rilevanza semantica per ogni nodo candidato.

3. Risultati Sperimentali

Il lavoro è stato valutato su tre domini (Itinerari di viaggio, Liste di cose da fare, Raccomandazione di kit pasti) confrontando Semantic XPath con l'approccio In-Context e il Flat RAG.

• Performance (Pass Rate):
  • Semantic XPath supera i baseline Flat RAG del 176,7% in termini di tasso di successo (pass rate).
  • Raggiunge una performance comparabile al metodo In-Context, ma con costi computazionali drasticamente inferiori.
• Efficienza (Token Usage):
  • Semantic XPath utilizza solo il 9,1% dei token richiesti dall'approccio In-Context.
  • Mentre l'approccio In-Context mostra un aumento costante dei token man mano che i turni di conversazione aumentano, Semantic XPath mantiene un consumo di token stabile filtrando i dati irrilevanti.
• Robustezza Multi-turno:
  • In scenari multi-turno che richiedono l'accesso alla cronologia delle revisioni, Semantic XPath mantiene un tasso di successo elevato, mentre l'approccio In-Context degrada rapidamente a causa della confusione nel contesto esteso.

4. Contributi Chiave

1. Proposta di Semantic XPath: Un modulo di memoria ad albero che utilizza un linguaggio di query stile XPath con consapevolezza semantica per accedere e aggiornare efficientemente la memoria strutturata.
2. Evidenza Empirica: Dimostrazione che l'approccio strutturato migliora le prestazioni rispetto al RAG piatto e riduce i costi dei token rispetto all'in-context memory, rendendolo scalabile per interazioni a lungo termine.
3. Sistema Demo Interattivo: Introduzione di SemanticXPath Chat, un sistema che rende trasparente il processo di recupero e aggiornamento della memoria, visualizzando la struttura dei dati e l'esecuzione delle query.

5. Significato e Implicazioni

Questo lavoro rappresenta un passo fondamentale verso la prossima generazione di sistemi ConvAI orientati ai compiti.

• Scalabilità: Risolve il collo di bottiglia dei token e della finestra contestuale, permettendo agli agenti di operare indefinitamente senza degradazione delle prestazioni.
• Precisione Strutturale: Introduce un paradigma in cui la struttura dei dati (gerarchie) è esplicitamente sfruttata per il ragionamento, superando i limiti delle ricerche vettoriali piatte che spesso perdono il contesto temporale o gerarchico.
• Applicabilità: Fornisce un framework pratico per sviluppatori che necessitano di sistemi di memoria "consapevoli della struttura" per applicazioni complesse come la pianificazione di viaggi, la gestione di progetti o la cura di assistenti personali a lungo termine.

In sintesi, Semantic XPath dimostra che combinare la struttura rigida degli alberi di dati con la flessibilità semantica degli LLM è la chiave per creare agenti conversazionali efficienti, affidabili e capaci di gestire compiti complessi nel tempo.