Immagina di essere seduto in una stanza affollata, mentre ascolti la storia di due amici, Alex e Jamie. Tu conosci tutta la verità: hai visto Jamie nascondere un biscotto in un barattolo, e poi hai guardato Alex scivolare in entrata e spostare quel biscotto in una scatola. Ma ecco la parte difficile: la domanda non riguarda ciò che tu sai. La domanda è: "Dove cercherà il biscotto Alex?". Per rispondere correttamente, devi fare qualcosa che gli esseri umani fanno naturalmente ma che è sorprendentemente difficile per i computer: devi fingere di non sapere ciò che sai. Devi calarti nei panni di Alex, dimenticare la scatola e ricordare solo il barattolo. Questo superpotere mentale si chiama "Teoria della Mente". È la capacità di capire che le altre persone hanno i propri pensieri, credenze e segreti che possono essere diversi dai propri.

Per molto tempo, gli scienziati hanno cercato di insegnare all'Intelligenza Artificiale (specificamente ai Large Language Models o LLM) come fare questo. Questi modelli di IA sono come studenti super intelligenti che hanno letto quasi tutto su internet, ma quando si tratta di indovinare cosa stia pensando un altro, spesso sbagliano. Tendono a rispondere basandosi sulla verità "reale" (il biscotto è nella scatola) invece che sulla credenza "falsa" del personaggio (il biscotto è nel barattolo). Il documento che stai per leggere affronta questo problema cercando un nuovo modo per aiutare questi modelli di IA a evitare di usare la verità reale e iniziare a pensare come un personaggio di una storia.

Il Problema: La trappola del "Nascondino"

In passato, i ricercatori hanno cercato di risolvere questo problema dell'IA giocando a una partita di "Nascondino" con la storia. Dicevano all'IA: "Ok, prima di rispondere alla domanda, cancella ogni frase della storia che il personaggio non ha visto". Se il personaggio lasciava la stanza, l'IA doveva cancellare tutto ciò che era accaduto mentre era via. Questo è chiamato "occultamento degli eventi" (event hiding).

Pensa a questo come a un insegnante che toglie un compito a uno studente e dice: "Non guardare questa pagina, contiene la risposta che devi ignorare". L'idea era che se l'IA non poteva vedere la verità, non sarebbe stata tentata di usarla. Ma questo approccio aveva un grande difetto. Costringeva l'IA a seguire regole molto rigide, come scrivere i propri pensieri in un codice specifico o in un elenco rigido. Era come dire a uno scrittore creativo: "Puoi scrivere la tua storia solo usando elenchi puntati e senza aggettivi". Questa rigidità spesso confondeva l'IA, portandola a commettere errori solo perché stava cercando troppo duramente di seguire le regole di formattazione. A volte, l'IA cancellava accidentalmente la frase sbagliata o rimaneva bloccata nel tentativo di far rientrare i propri pensieri in una scatola troppo piccola.

La Nuova Idea: "Rivela, non Nascondere"

Gli autori di questo articolo, Eojin Jeon e SangKeun Lee, hanno deciso di provare un approccio completamente diverso. Invece di nascondere la verità all'IA, hanno deciso di lasciare che l'IA vedesse tutto, ma poi le hanno chiesto di dichiarare esplicitamente ciò che il personaggio non sa.

Immagina di giocare a un gioco in cui devi indovinare cosa sta pensando un tuo amico. Invece di coprire gli occhi del tuo amico affinché non possa vedere gli indizi, dici al tuo amico: "Io so che il biscotto è nella scatola, ma tu non lo sai. Tu sai solo che è nel barattolo". Dicendolo ad alta voce, ricordi al tuo amico di ignorare la scatola.

I ricercatori chiamano il loro nuovo metodo PICTURE. Sta per "Perspective-taking with Generated Lack of Knowledge in Chain-of-Thought Reasoning" (Assunzione di prospettiva con generazione di mancanza di conoscenza nel ragionamento a catena di pensiero). È un nome complicato, quindi scomponiamolo:

1. Nessun Occultamento: L'IA riceve l'intera storia, con tutti i segreti e i movimenti inclusi.
2. Il passaggio della "Mancanza di Conoscenza": Prima di rispondere, all'IA viene chiesto di scrivere una spiegazione a testo libero (come una normale conversazione) in cui elenca esattamente ciò che il personaggio sa e, cosa cruciale, ciò che il personaggio non sa.
3. Il segnale di "Stop": Scrivendo "Liam non sa che Owen ha spostato il ravanello", l'IA crea un segnale di "Stop" mentale. Dice a se stessa: "Ok, vedo questo evento, ma Liam non lo vede, quindi non posso usarlo per rispondere alla domanda".

Cosa hanno scoperto

Il team ha testato questa idea su diversi tipi di enigmi narrativi, inclusi quelli in cui i personaggi spostano oggetti, lasciano stanze o hanno conversazioni. Hanno confrontato il loro nuovo metodo "PICTURE" con i vecchi metodi "Hide and Seek" e con alcuni trucchi standard dell'IA.

I risultati sono stati piuttosto promettenti. In media, l'IA che utilizza PICTURE ha risolto correttamente il 7,3% in più di domande sui puzzle di "falsa credenza" (quelli in cui il personaggio ha una visione errata della realtà) rispetto ai vecchi metodi. Questo è un grande passo avanti nel mondo della ricerca sull'IA.

Ancere importante, il documento suggerisce che questo funziona perché insegna all'IA una capacità chiamata "controllo inibitorio". In psicologia, questa è la capacità di impedire a se stessi di reagire a qualcosa che si ha proprio davanti agli occhi ma che non dovrebbe essere usato. Ad esempio, in un famoso test, se vedi la parola "ROSSO" scritta in inchiostro blu e ti viene chiesto di dire il colore dell'inchiostro, devi fermarti prima di leggere la parola "ROSSO". Il documento mostra che, dichiarando esplicitamente ciò che un personaggio non sa, l'IA impara a inibire l'impulso di usare la risposta "reale" e invece aderisce alla prospettiva del personaggio.

Perché è importante

Questo articolo suggerisce che non abbiamo bisogno di accecare l'IA alla verità per renderla più intelligente nel comprendere le persone. Anzi, nascondere la verità potrebbe peggiorare le cose, costringendo l'IA in formati rigidi e confusi. Invece, lasciando che l'IA veda tutto e chiedendole poi di articolare chiaramente le lacune nella conoscenza di un personaggio, la aiutiamo a imparare a filtrare le informazioni da sola.

Gli autori hanno scoperto che questo metodo funziona bene su diversi tipi di modelli di IA, dai più piccoli open-source ai più massicci e potenti. Sebbene l'IA commetta ancora errori (specialmente in storie molto complesse con molti personaggi), il metodo PICTURE sembra essere un passo significativo in avanti. Dimostra che, a volte, il modo migliore per insegnare a una macchina a comprendere le menti umane è lasciarle vedere l'intero quadro, e poi ricordarle gentilmente ciò che a ciascuna persona in quel quadro manca.