L'intelligenza artificiale moderna ha raggiunto un punto in cui può guardare una fotografia e descriverla, o leggere un grafico e riassumerne le tendenze. Questi sistemi, noti come modelli linguistici di grandi dimensioni multimodali, sono straordinariamente bravi nella percezione. Tuttavia, quando viene chiesto loro di risolvere un problema scientifico complesso o un enigma matematico difficile, spesso inciampano. Possono vedere i pezzi del puzzle, ma faticano ad assemblarli in una soluzione coerente. Il modo standard per risolvere il problema è riaddestrare il modello, fornendogli migliaia di esempi affinché apprenda i pattern corretti. Ma questo approccio presenta un difetto maggiore: richiede l'accesso al codice interno del modello, che è spesso protetto da sistemi proprietari o semplicemente troppo grande per essere eseguito su dispositivi personali. Inoltre, se un modello risolve un problema oggi, un processo di riaddestramento standard non garantisce che ricorderà quella lezione domani; ogni nuova domanda viene trattata come se fosse la prima volta che il modello la vede.

Per colmare questa lacuna, i ricercatori stanno esplorando una strategia diversa: dare all'IA una memoria esterna. Invece di cambiare il cervello del modello, gli attaccano un taccuino da cui il modello può leggere. La sfida risiede in cosa scrivere in quel taccuino. Se il taccuino è solo un elenco di problemi passati e delle loro soluzioni, il modello potrebbe confondersi a causa di troppi dettagli specifici. Se il taccuolo è solo un elenco di regole generali, potrebbe mancare dei concreti esempi necessari per comprendere una situazione nuova e sconosciuta. I sistemi di memoria umana più efficaci sembrano bilanciare queste due esigenze, conservando sia le esperienze specifiche che i principi generali derivati da esse. Un nuovo framework chiamato DG-Mem tenta di replicare questo equilibrio per gli agenti artificiali, permettendo loro di imparare dai problemi passati senza dover essere riaddestrati da zero.

I ricercatori dietro questo lavoro, basati presso l'UC Merced e la Shanghai Jiao Tong University, hanno costruito un sistema che lavora con un modello congelato (frozen), ovvero uno che non può essere modificato o aggiornato. Hanno creato una banca di memoria che viene costruita una sola volta utilizzando un set di problemi di addestramento e viene poi consultata ogni volta che il modello affronta una nuova sfida. Questa memoria è divisa in due parti distinte, proprio come un essere umano potrebbe tenere sia un diario di eventi specifici che un manuale di consigli generali. La prima parte è una "memoria degli esemplari" (exemplar memory), che conserva esempi specifici e risolti. Questi non sono semplici copie grezze di vecchie domande; sono registrazioni distillate che catturano la strategia passo dopo passo utilizzata per risolvere un particolare tipo di problema e gli errori specifici da evitare. La seconda parte è una "memoria dello schema" (schema memory), che contiene regole generali, scritte come semplici istruzioni "se-allora". Queste regole descrivono la logica sottostante di una categoria di problemi, come ad esempio come contare oggetti in una specifica disposizione visiva o come interpretare un grafico di dati, senza perdersi nei dettagli di un singolo caso.

Una scelta progettuale cruciale in questo sistema riguarda il modo in cui questi due tipi di memoria vengono creati. I ricercatori si sono assicurati che le regole generali non siano mai scritte guardando direttamente agli esempi specifici. Invece, il sistema genera prima una riflessione astratta e temporanea di un problema risolto. È solo da questa riflessione astratta che le regole generali vengono sintetizzate. Ciò impedisce al sistema di memorizzare accidentalmente numeri o nomi specifici di un singolo problema e di applicarli erroneamente come legge universale. Per esempio, se un problema riguarda il conteggio di blocchi gialli, il sistema apprende la regola "conta tutti gli oggetti di un colore specifico" piuttosto che "conta i blocchi gialli". Questa separazione permette al modello di applicare un principio generale a una nuova situazione che coinvolge blocchi rossi, anche se non ha mai visto blocchi rossi prima d'ora.

Per far sì che questo sistema funzioni efficacementmente, i ricercatori hanno anche dovuto risolvere il problema di come organizzare la memoria. In passato, i sistemi si affidavano spesso a un elenco fisso di categorie, come "geometria" o "algebra", che potevano essere troppo ampie o troppo strette. Il nuovo sistema utilizza un categorizzatore online che costruisce il proprio elenco di categorie man mano che procede. Mentre il sistema elabora nuovi problemi, li raggruppa in categorie emergenti basate sui loro concetti sottostanti, permettendo alla memoria di crescere e adattarsi ai tipi specifici di problemi che incontra senza la necessità di una mappa predefinita.

L'aspetto più innovativo di questo lavoro è come il sistema decide quali pezzi di memoria siano effettivamente utili. Quando il modello recupera un set di regole per aiutare a risolvere un problema, spesso ne ottiene diverse che sembrano rilevanti. I ricercatori hanno sviluppato un metodo per capire esattamente quale regola abbia contribuito alla risposta corretta. Trattano le regole come giocatori in un gioco di squadra, testando diverse combinazioni di regole per vedere quali portano al successo. Analizzando quanto ogni regola migliori il risultato quando aggiunta a un gruppo, il sistema assegna un "punteggio di utilità" a ogni regola. Questo punteggio non si basa su quanto la regola somigli alla domanda attuale, ma su quanto spesso ha storicamente aiutato il modello a ottenere la risposta giusta. Quando il modello affronta un nuovo problema, utilizza questo punteggio per dare priorità alle regole più utili, imparando efficacemente a quali consigli prestare fiducia.

Il team ha testato questo framework su quattro diversi modelli di IA, che spaziano dai sistemi open-source a quelli proprietari più potenti, e lo ha valutato su tre benchmark impegnativi riguardanti il ragionamento matematico e scientifico. I risultati hanno mostrato un miglioramento costante. I modelli dotati di questa memoria a doppio livello hanno risolto significativamente più problemi correttamente rispetto agli stessi modelli senza alcuna memoria. Hanno inoltre superato altri sistemi di memoria che si affidavano a un solo tipo di archiviazione o che non avevano un modo per classificare l'utilità delle loro regole. In alcuni casi, il miglioramento è stato sostanziale, con il sistema che risolve oltre il dodici per cento di problemi in più in determinati test difficili.

Lo studio ha anche rivelato che i due tipi di memoria servono a scopi diversi. Quando i ricercatori hanno rimosso gli esempi specifici, il sistema ha avuto difficoltà con problemi che richiedevano dettagli visivi, come distinguere tra un cerchio completo e una fetta di cerchio. Quando hanno rimosso le regole generali, il sistema è fallito in problemi che richiedevano l'applicazione di una strategia ampia a una nuova configurazione visiva. La combinazione di entrambi era essenziale, dimostrando che il sistema aveva bisogno sia della base concreta degli esempi specifici sia della flessibilità astratta delle regole generali per avere successo.

Questo approccio offre una via pratica per migliorare l'intelligenza artificiale senza il costo massiccio del riaddestramento. Poiché il sistema non richiede alcuna modifica ai pesi interni del modello, può essere implementato su sistemi chiusi o persino su dispositivi personali dove la privacy e l'efficienza sono fondamentali. I ricercatori riconoscono che il sistema ha dei limiti, in particolare nel gestire la casualità dei calcoli informatici durante l'assegnazione dei punteggi alle regole, ma i risultati dimostrano che una memoria strutturata a due livelli può migliorare significativamente la capacità di ragionamento di un'IA. Separando le esperienze specifiche dai principi generali e utilizzando un metodo per pesare il valore di ogni consiglio, questo framework fornisce un modo robusto affinché gli agenti artificiali possano imparare, evolversi e risolvere problemi complessi in modo più efficace.