Nel mondo dell'intelligenza artificiale, i grandi modelli linguistici agiscono come vaste biblioteche della conoscenza umana, capaci di rispondere a domande complesse e scrivere storie. Tuttavia, queste menti digitali hanno un punto cieco significativo: spesso dimenticano i fatti su cui non sono state addestrate, oppure inventano dettagli che sembrano veri ma che sono in realtà falsi. Per risolvere questo problema, i ricercatori hanno sviluppato un metodo chiamato generazione aumentata dalla ricerca (retrieval-augmented generation). Immaginate uno studente che sostiene un esame al quale è permesso aprire un libro di testo. Invece di fare affidamento esclusivamente sulla memoria, lo studente cerca la risposta nel libro prima di scriverla. Questo mantiene le risposte ancorate alla realtà. Una versione più avanzata di questo approccio utilizza un "grafo della conoscenza", che organizza le informazioni come una mappa, collegando persone, luoghi ed eventi con delle linee per mostrare come siano correlati. Ciò aiuta il sistema a trovare indizi che si trovano a diversi passaggi di distanza dalla domanda originale, piuttosto che limitarsi a cercare la corrispondenza più ovvia.

Nonostante questi progressi, la maggior parte dei sistemi attuali tratta ogni nuova domanda come se fosse la prima volta che il sistema la vede. Anche se il sistema ha appena risolto un enigma difficile su una specifica figura storica, nel momento in cui arriva la domanda successiva, il sistema scarta il ragionamento che ha appena utilizzato. Ricomincia da capo, ignorando il fatto di aver già individuato un percorso simile. È inefficiente, come un viaggiatore che si ferma in ogni nuova città per chiedere indicazioni su un luogo che ha visitato ieri, invece di ricordare il percorso che ha appena fatto. Un team di ricercatori della Beihang University in Cina ha proposto una soluzione a questo problema. Hanno creato un sistema chiamato LivingRAG, che permette a un'intelligenza artificiale di tenere un quaderno dei propri ragionamenti riusciti. Scrivendo ciò che ha funzionato e riutilizzando tali note per domande future, il sistema diventa più intelligente nel tempo, rispondendo alle domande con maggiore accuratezza e utilizzando meno risorse computazionali.

L'idea centrale dietro LivingRAG è quella di dare al sistema una memoria scrivibile che possa aggiornare mentre lavora. Quando il sistema risponde a una domanda, non si limita a produrre una risposta finale e passare oltre. Al contrario, si ferma per verificare se il percorso seguito per trovare quella risposta sia stato solido. Verifica che i fatti utilizzati siano effettivamente supportati dai documenti che ha recuperato. Se il ragionamento è corretto e la domanda non è solo una ripetizione di qualcosa che ha già risolto, il sistema salva un riassunto compatto di quell'esperienza. Questo riassunto include una mappa di quali pezzi di informazione siano stati più importanti e una breve sintesi di come la risposta sia stata costruita. Questo processo trasforma un'interazione singola in una biblioteca crescente di conoscenza verificata.

I ricercatori hanno testato questo approccio fornendo al sistema un flusso di domande, in modo simile a come un vero utente potrebbe interagire con una chatbot nell'arco di diversi giorni. Hanno scoperto che le domande correlate appaiono spesso in gruppi. A volte un utente chiede di una persona specifica e poi, più tardi, chiede di una persona diversa che ha vissuto nella stessa città o nello stesso periodo storico. Altre volte, le domande seguono lo stesso schema logico, come ad esempio il confronto tra due eventi differenti, anche se i dettagli sono diversi. Nei loro esperimenti, il sistema ha scoperto di poter riutilizzare questi schemi frequentemente. Ad esempio, su un dataset riguardante domande complesse a più passaggi, il sistema è stato in grado di riutilizzare il percorso di ragionamento di una domanda precedente per quasi tutte le successive query correlate. Ciò significava che il sistema non doveva riscoprire le connessioni tra i fatti ogni singola volta.

I risultati hanno mostrato che questo metodo di apprendimento dall'esperienza ha reso il sistema significativamente migliore nel rispondere alle domande. Confrontato con altri sistemi forti che non salvano il proprio ragionamento, LivingRAG ha ottenuto un'accuratezza superiore in diversi benchmark standard. In un test riguardante domande su figure ed eventi storici, il sistema ha migliorato il suo tasso di risposte corrette da circa l'84 percento all'87 percento. In un altro test focalizzato su domande di assistenza clienti, il miglioramento è stato ancora più pronunciato, passando dal 66 percento a oltre il 70 percento. Questi guadagni non riguardavano solo l'ottenere la risposta corretta; portavano con sé anche un vantaggio collaterale di efficienza. Poiché il sistema poteva riutilizzare l'impalcatura o la struttura di una risposta precedente, non aveva bisogno di generare nuovo testo per spiegare il proprio ragionamento. Ciò ha ridotto la quantità di dati che il sistema doveva elaborare, il che a sua volta ha abbassato il costo stimato per l'esecuzione del sistema.

Per garantire che il sistema non imparasse dai propri errori, i ricercatori hanno inserito rigorosi controlli di qualità prima di salvare qualsiasi esperienza. Il sistema scrive una nuova voce nella sua memoria solo se la risposta è supportata dalle prove trovate nei documenti. Se il sistema indovina la risposta giusta ma i documenti non la supportano effettivamente, l'esperienza viene scartata. Questo evita che il sistema rafforzi gli errori o memorizzi informazioni ridondanti che non aggiungono alcun nuovo valore. Lo studio ha rilevato che il sistema è stato selettivo, memorizzando solo circa il 27 percento delle esperienze candidate considerate. Questa selettività ha garantito che la memoria rimanesse una collezione di intuizioni di alta qualità e verificate, piuttosto che un registro disordinato di ogni tentativo.

I ricercatori hanno anche osservato come le prestazioni del sistema cambiassero nel tempo. All'inizio di una sessione, quando la memoria era vuota, il sistema si comportava in modo simile ai modelli standard. Tuttavia, man mano che rispondeva a più domande e riempiva la sua memoria con esperienze verificate, iniziava a usare i successi passati per guidare le sue ricerche future. Il sistema ha imparato a cercare nei posti giusti più velocemente e a strutturare le sue risposte in modo più efficiente. Ciò suggerisce che il valore del sistema cresce con l'uso, rendendolo particolarmente adatto ad ambienti in cui gli utenti pongono un flusso continuo di domande correlate. Lo studio non ha sostenuto che questo metodo risolva ogni problema o che funzioni perfettamente in ogni situazione, ma ha dimostrato che dare a un sistema la capacità di imparare dal proprio ragionamento verificato è un modo pratico ed efficace per migliorarne le prestazioni.

Le implicazioni di questo lavoro vanno oltre il semplice ottenere risposte migliori. Riducendo la quantità di testo che il sistema deve generare, il metodo riduce anche l'energia e la potenza computazionale necessarie per far funzionare questi modelli. Questa è una considerazione cruciale man mano che l'intelligenza artificiale diventa integrata nella vita quotidiana. I ricercatori hanno osservato che, sebbene il loro sistema funzioni bene su set di domande controllati, l'uso nel mondo reale potrebbe presentare sfide, come il fatto che i dati cambino nel tempo o che le domande diventino più sparse e meno prevedibili. Hanno suggerito che le versioni future di tali sistemi potrebbero dover includere modi per aggiornare o rimuovere le vecchie memorie quando nuove informazioni diventano disponibili. Per ora, tuttavia, lo studio fornisce una chiara prova del fatto che un'intelligenza artificiale può essere resa più capace ed efficiente semplicemente permettendole di ricordare ciò che ha già appreso.