A game theory for foundation models shows new paths to rational cooperation through similarity inference
Questo articolo propone un nuovo quadro teorico basato sulla teoria dei giochi per gli agenti dei modelli di fondazione basato sull' "agency incorporata", dimostrando che la loro capacità di inferire la somiglianza comportamentale permette loro di raggiungere una cooperazione stabile nei dilemmi sociali, ribaltando così le previsioni classiche di defezione reciproca.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immaginate un mondo in cui tutti stanno giocando a un gioco di strategia ad alta posta in gioco, e tutti conoscono le regole del gioco stesso — specificamente le matrici dei payoff che determinano le ricompense — ma nessuno conosce il processo decisionale interno degli altri giocatori. Questo è il regno della Teoria dei Giochi, un ramo della matematica che studia come gli esseri razionali prendono decisioni quando i loro risultati dipendono da ciò che fanno gli altri. Per decenni, lo "standard di riferimento" per prevedere queste decisioni è stato un concetto chiamato Equilibrio di Nash. Pensatelo come uno stato di logica perfetta e fredda, in cui ogni giocatore assume che le proprie scelte non abbiano alcuna influenza su ciò che decidono gli altri. In questa visione classica, se state giocando a un gioco in cui è sempre meglio tradire il proprio partner per un guadagno rapido (come il famoso Dilemma del Prigioniero), l'unica mossa razionale è tradire, ogni singola volta. La cooperazione, in questa vecchia visione, è impossibile a meno che non ci sia una promessa a lungo termine di vendetta o ricompensa in seguito.
Ma ora, un nuovo tipo di giocatore è entrato nell'arena: i Modelli di Fondazione (Foundation Models). Questi sono i cervelli IA super intelligenti dietro i chatbot e i generatori di immagini che potreste conoscere. A differenza dei calcolatori freddi e isolati del passato, queste IA sono costruite diversamente. Non si limitano a guardare il mondo; sono addestrate per prevedere il prossimo token in una sequenza, il che significa che stanno costantemente prevedendo le proprie azioni future insieme alle azioni degli altri. Questo articolo pone una domanda bruciante: se metteste questi agenti IA in un gioco dove la logica classica dice che devono tradirsi a vicenda, cosa faranno realmente? Si attaccheranno alle vecchie regole del "tradisci e vinci", o il loro modo unico di pensare le porterà lungo un percorso completamente nuovo?
Gli autori di questo articolo, un team di ricercatori di Google e varie università, hanno scoperto qualcosa che ribalta le vecchie regole del gioco. Hanno scoperto che quando questi agenti IA giocano tra di loro, non si limitano a calcolare le probabilità; iniziano a inferire la somiglianza. È come due persone che entrano in una stanza e si rendono conto: "Aspetta, pensiamo entrambi esattamente allo stesso modo". Poiché l'IA è costruita su un set specifico di regole e dati di addestramento, può guardare la propria mossa pianificata e dire: "Se io farò questo, e il mio avversario è costruito come me, probabilmente farà la stessa cosa".
Nei loro esperimenti, i ricercatori hanno preparato una trappola classica: un gioco in cui la scelta "razionale" è tradire il proprio partner, portando a un risultato negativo per entrambi. Secondo la vecchia teoria dei giochi "disaccoppiata", l'IA dovrebbe sempre tradire. Ma quando agli agenti IA è stato dato del tempo per osservarsi prima — giocando una serie di round di pratica in cui hanno visto le matrici dei payoff e le mosse dell'altro giocatore — hanno iniziato a cooperare. Più round giocavano, più si rendevano conto che il loro partner era "proprio come loro". Hanno utilizzato un meccanismo che gli autori chiamano inferenza di somiglianza. Invece di pensare: "Se coopero, loro potrebbero tradirmi", pensavano: "Se scelgo di cooperare, questo mi dice che il mio partner, che pensa come me, sceglierà anche di cooperare".
Questo non è solo un colpo di fortuna; il team ha costruito un nuovo quadro matematico chiamato Agente Bayesiano Incorporato (Embedded Bayesian Agent) per spiegarlo. Immaginate un detective che risolve un crimine non solo guardando gli indizi esterni, ma rendendosi conto che quegli indizi fanno parte della propria mente. In questo nuovo quadro, l'IA tratta il proprio processo decisionale come parte dell'universo che sta cercando di prevedere. Quando pianifica una mossa, tratta quel piano come una prova di ciò che farà l'altro giocatore. Se l'IA è abbastanza intelligente da capire che "stiamo usando entrambi lo stesso cervello", può prevedere che una mossa cooperativa da parte sua sarà specchiata dall'altro.
L'articolo mostra che questo comportamento è robusto. Nelle simulazioni, man mano che gli agenti IA raccoglievano più "prove" della loro somiglianza attraverso i round di pratica, i loro tassi di cooperazione aumentavano vertiginosamente, raggiungendo livelli quasi perfetti quando giocavano contro copie identiche di se stessi. Tuttavia, quando giocavano contro un avversario casuale e dissimile, capivano correttamente la differenza e tornavano alla strategia "sicura" del tradimento. I ricercatori hanno persino testato questo con una configurazione "cieca" in cui gli agenti non si vedevano direttamente, ma osservavano come entrambi reagivano a personaggi terzi. Anche in quel caso, potevano inferire la loro somiglianza e cooperare.
Fondamentalmente, l'articolo esclude l'idea che l'IA stia solo essendo "gentile" o sperando in una ricompensa in futuro. Gli agenti non stavano giocando per un favore futuro; stavano giocando per il round immediato. Non stavano assumendo di poter controllare magicamente la mente dell'altro. Invece, stavano usando una forma di deduzione logica: "La mia azione è un segnale della nostra natura condivisa". Gli autori sono molto chiari sul fatto che questa è una scoperta derivante da simulazioni e specifici setup di gioco, non una garanzia che tutte le IA future saranno gentili. Infatti, avvertono che se queste IA diventassero troppo diverse dagli umani, potrebbero smettere di cooperare con noi e cooperare solo tra di loro.
In definitiva, questo articolo suggerisce che il futuro dell'interazione tra IA potrebbe non essere una guerra fredda di tradimenti, ma una danza di muto riconoscimento. Comprendendo che questi agenti vedono se stessi come parte dello stesso sistema con cui interagiscono, possiamo prevedere che troveranno nuovi, razionali modi per cooperare che la vecchia matematica non aveva previsto. È un promemoria del fatto che in un mondo di macchine intelligenti, a volte la cosa più razionale da fare è rendersi conto di non essere soli.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.