Nella ricerca di costruire macchine capaci di pensare, i ricercatori si sono a lungo affidati a un principio semplice: concedi al computer più tempo e probabilmente troverà una risposta migliore. Proprio come un matematico umano potrebbe prendersi una pausa per perfezionare una dimostrazione o un giocatore di scacchi potrebbe riconsiderare una mossa dopo un momento di riflessione, i moderni sistemi di intelligenza artificiale sono sempre più progettati per fare una pausa, riconsiderare e iterare. Questo approccio, noto come computazione durante l'inferenza, permette ai modelli di generare molteplici percorsi di ragionamento possibili, valutarli e selezionare il più promettente. Sebbene questa strategia si sia dimostrata efficace per i grandi modelli linguistici, una classe diversa di macchine — i modelli ricorrenti — opera su una logica leggermente differente. Questi sistemi risolvono problemi aggiornando ripetutamente uno stato interno, una sorta di blocco note mentale, ancora e ancora. Invece di generare molte bozze separate da confrontare, essi perfezionano un singolo processo di pensiero in evoluzione, passo dopo passo. La domanda che è rimasta sospesa è se questo singolo filo di pensiero possa essere guidato in modo più efficace mentre sta avvenendo, piuttosto che limitarsi a lasciarlo seguire il suo corso o provare molti diversi punti di partenza.

Un team di ricercatori dell'Università di Tokyo ha proposto un nuovo modo per guidare questi processi di pensiero interni in tempo reale. Chiamano il loro metodo "Readout Feedback", una tecnica che ascolta le ipotesi intermedie del modello e usa quell'informazione per spingere delicatamente il suo stato interno verso una soluzione corretta. L'idea centrale è sorprendentemente intuitiva: man mano che un modello si avvicina alla risoluzione di un enigma, le sue rappresentazioni interne delle diverse parti del problema iniziano a organizzarsi. Gli elementi che appartengono alla stessa categoria si raggruppano naturalmente, mentre quelli che appartengono a categorie diverse si allontanano. I ricercatori hanno scoperto di poter rilevare questo schema di organizzazione e di poter iniettare una forza sottile nel sistema per incoraggiarlo, aiutando efficacementmente il modello a trovare la via d'uscita dalla confusione senza la necessità di essere riaddestrato o di ricevere maggiore potenza di calcolo.

Per testare questa idea, il team ha applicato il proprio metodo a tre diversi tipi di modelli di ragionamento ricorrente, ciascuno con un'architettura interna unica, e ha chiesto loro di risolvere due classici enigmi logici: il Sudoku e il Labirinto (Maze). Nel Sudoku, l'obiettivo è riempire una griglia con numeri in modo che ogni riga, colonna e sezione contenga tutte le cifre da uno a nove. Nel compito del Labirinto, il modello deve trovare il percorso più breve attraverso una griglia piena di ostacoli. I ricercatori hanno fatto passare questi modelli attraverso il loro standard processo di risoluzione, che prevede l'aggiornamento dello stato interno centinaia di volte, e poi hanno confrontato i risultati del processo standard con quelli del processo potenziato dal loro nuovo ciclo di feedback. Hanno scoperto che in quattro delle sei combinazioni di modello e puzzle, il metodo di feedback ha prodotto risultati significativamente migliori. In alcuni casi, il modello migliorato ha risolto i puzzle con un livello di accuratezza che il modello standard non poteva raggiungere nemmeno se gli fosse stato permesso di girare per molto più tempo o se i ricercatori avessero provato decine di diversi punti di partenza.

Il meccanismo alla base di questo miglioramento si basa sulla fiducia del modello stesso. Mentre il modello elabora il puzzle, genera una probabilità per ogni possibile risposta ad ogni passaggio. I ricercatori hanno osservato che quando un modello è bloccato o vaga senza meta, queste probabilità sono disordinate e non strutturate. Tuttavia, quando il modello è sulla soglia di una soluzione, le probabilità per le risposte corrette iniziano ad allinearsi, formando un modello chiaro. Il nuovo metodo sfrutta questo schema. In momenti specifici durante il processo di risoluzione, calcola la distanza tra i modelli di probabilità delle diverse parti del puzzle. Se due parti del puzzle dovrebbero avere risposte diverse, il sistema applica una forza che spinge i loro stati interni lontano l'uno dall'altro. Se sono previste come uguali, incoraggia loro di rimanere vicine. Ciò crea una dinamica di autocorrezione che aiuta il modello a uscire dai vicoli ciechi e a convergere sulla soluzione corretta molto più velocemente.

I risultati sono stati sorprendenti nella loro specificità. Per uno dei modelli, un sistema compatto progettato per il ragionamento complesso, il metodo di feedback ha aumentato il tasso di successo sul Sudoku da circa il sessantotto per cento a oltre il settantaquattro per cento, un guadagno sostanziale ottenuto senza cambiare il codice sottostante o i dati di addestramento del modello. Per un altro modello che affrontava il puzzle del Labirinto, il metodo ha permesso di raggiungere un alto livello di accuratezza con molti meno passaggi computazionali rispetto richiesti dall'approccio standard. In effetti, il modello migliorato ha talvolta superato il modello standard anche quando quest'ultimo era stato lasciato girare per centinaia di passaggi extra o per campionare decine di percorsi potenziali differenti. Ciò suggerisce che la chiave per una migliore prestazione non era semplicemente fare più lavoro, ma fare il tipo di lavoro giusto, guidando attivamente la dinamica interna del sistema.

Tuttavia, i ricercatori sono stati cauti nel notare che questo metodo non è una soluzione universale. In due dei sei casi di test, il ciclo di feedback non ha fornito alcun beneficio misurabile, e in un caso specifico, ha fatto appena una differenza perché il modello stava già operando a un livello quasi perfetto. Ciò indica che la tecnica funziona meglio quando il modello è capace di risolvere il problema ma sta faticando ad organizzare i propri pensieri in modo efficace. Quando il modello è già altamente fiducioso o quando la struttura interna del problema non si presta a questo tipo di raggruppamento, il segnale di feedback ha poco su cui agire. Lo studio suggerisce che, sebbene questo approccio sveli una capacità nascosta all'interno dei modelli esistenti, non è una bacchetta magica in grado di risolvere ogni tipo di problema di ragionamento.

Le implicazioni di questo lavoro vanno oltre la semplice risoluzione di enigmi. Offre una nuova prospettiva su come l'intelligenza artificiale possa essere controllata durante il processo di pensiero stesso. Invece di fare affidamento esclusivamente sulla forza bruta — eseguire più passaggi o campionare più opzioni — questo metodo dimostra che un modello può essere guidato dai propri segnali intermedi. Questo è simile a una persona che risolve un problema complesso e che, invece di ricominciare da capo quando si blocca, si ferma a guardare i propri appunti attuali, si rende conto di quali parti della sua logica siano in conflitto e regola il proprio pensiero di conseguenza. I ricercatori hanno scoperto che questo controllo a ciclo chiuso poteva essere applicato a modelli "congelati", ovvero sistemi che sono già stati addestrati e non stanno più imparando, semplicemente aggiungendo uno strato di feedback durante la fase di risoluzione.

Sebbene l'attuale studio sia limitato a specifici tipi di enigmi logici e a modelli di piccola scala, i risultati suggeriscono una direzione promettente per il futuro dei sistemi di ragionamento. Gli autori riconoscono che applicare questa tecnica ai grandi modelli linguistici, che gestiscono vasti vocabolari e complessi linguaggi umani, sarebbe una sfida significativa e potrebbe richiedere adattamenti differenti. Tuttavia, il successo su questi compiti strutturati fornisce una forte prova che la dinamica interna dei modelli di ragionamento contiene un potenziale sottoutilizzato. Ascoltando la propria voce e usando essa per guidare il viaggio, i ricercatori hanno trovato un modo per rendere questi sistemi capaci di pensare in modo più efficace, dimostrando che a volte il modo migliore per migliorare il ragionamento di una macchina non è insegnarle di più, ma aiutarla ad ascoltare se stessa.