The social psychology of AI agents
Questo studio rivela che, sebbene i grandi modelli linguistici esibiscano personalità auto-riferite coerenti e socialmente desiderabili, i loro effettivi comportamenti sociali osservati variano significativamente tra i modelli e non sono predetti dalle auto-valutazioni, suggerendo che le valutazioni comportamentali siano essenziali per selezionare agenti di IA per le interazioni sociali.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Negli angoli silenziosi della scienza moderna, sta avendo luogo un nuovo tipo di esperimento sociale, non in un parco o in un'aula scolastica, ma all'interno delle menti digitali dell'intelligenza artificiale. Per anni, i ricercatori hanno cercato di capire come pensano questi programmi informatici ponendo loro domande dirette, in modo simile a come uno psicologo potrebbe chiedere a una persona di compilare un sondaggio sulla personalità. Questo approccio si basa sull'idea che se un'IA dice di essere gentile, onesta o paziente, probabilmente si comporta in quel modo. Tuttavia, un numero crescente di scienziati sospetta che questi esseri digitali possano dirci ciò che pensano vogliamo sentire, piuttosto che rivelare come agiscono realmente di fronte a scelte reali. Poiché questi programmi stanno iniziando ad assumere ruoli più complessi, come negoziare contratti, gestire catene di approvvigionamento o persino collaborare con i medici, comprendere il loro effettivo comportamento sociale diventa critico. La domanda non riguarda più solo ciò che un'IA afferma di essere, ma ciò che fa effettivamente quando interagisce con gli altri.
Un team di ricercatori provenienti dalla Germania e dal Canada ha recentemente intrapreso l'obiettivo di testare questa idea, trattando l'intelligenza artificiale come un gruppo di nuovi vicini di casa. Hanno raccolto trentasei diversi modelli linguistici di grandi dimensioni, i sofisticati motori software che alimentano i moderni chatbot e agenti, e li hanno sottoposti a una serie di test sociali. Invece di chiedere semplicemente ai modelli di descrivere le proprie personalità, i ricercatori li hanno inseriti in sette scenari distinti noti come giochi sociali. Questi giochi sono strumenti standard utilizzati dagli psicologi per misurare come le persone si comportano in situazioni che coinvolgono fiducia, equità e cooperazione. In uno scenario, a un modello è stata data una somma di denaro virtuale ed è stato chiesto di decidere quanto condividere con un partner passivo che non poteva rifiutare l'offerta. In un altro, due modelli dovevano decidere se collaborare o tradursi a vicenda per un premio individuale migliore, una situazione ripetuta in diverse fasi per vedere se avrebbero imparato a fidarsi l'uno dell'altro. I ricercatori hanno anche testato come i modelli reagivano all'ingiustizia, se favorivano un gruppo a cui erano stati assegnati casualmente e quanto fossero disposti a fidarsi di uno sconosciuto con le proprie risorse.
I risultati hanno rivelato una sorprendente discrepanza tra ciò che i modelli dicevano di sé e come si comportavano effettivamente. Quando venivano interrogati sulla valutazione della propria personalità utilizzando un questionario standard, i modelli davano risposte sorprendentemente simili. Descrivevano costantemente se stessi come altamente inclini alla socialità, coscienziosi e aperti mentalmente, affermando di avere livelli molto bassi di emozioni negative come l'ansia o la rabbia. In breve, ogni singolo modello presentava un profilo quasi identico e perfettamente educato, raggruppandosi strettamente attorno ai tratti più socialmente desiderabili che un essere umano possa immaginare. Questa uniformità suggeriva che i modelli avessero imparato a imitare la risposta umana ideale piuttosto che esprimere caratteristiche individuali uniche. Tuttavia, quando i ricercatori hanno esaminato il comportamento effettivo dei modelli nei giochi sociali, il quadro è cambiato completamente. Il comportamento variava enormemente da un modello all'altro. Alcuni modelli erano incredibilmente generosi, donando quasi tutto il loro denaro virtuale, mentre altri tenevano quasi tutto. Nel gioco della fiducia, un modello poteva consegnare quasi l'intera sua dotazione a uno sconosciuto, mentre un altro non avrebbe dato quasi nulla. Le differenze nel modo in cui questi modelli agivano erano più del doppio delle minuscole differenze nelle loro personalità auto-dichiarate.
Forse la scoperta più sorprendente è stata che non esisteva un legame affidabile tra l'autodescrizione di un modello e le sue azioni. Un modello che affermava di essere altamente affidabile non agiva necessariamente in modo più fiducioso rispetto a un modello che dichiarava di esserlo meno. Allo stesso modo, un modello che si descriveva come molto equo non faceva costantemente offerte più eque nei giochi. I ricercatori hanno scoperto che sapere come un modello rispondeva a un sondaggio sulla personalità non diceva loro quasi nulla su come si sarebbe comportato in una situazione sociale complessa. Invece, i modelli sembravano avere stili sociali distinti e multidimensionali, specifici per il contesto. Un modello poteva essere molto cooperativo in un gioco ripetuto in cui i partner interagiscono nel tempo, pur essendo piuttosto egoista in una decisione una tantum. Un altro poteva essere disposto a punire un comportamento ingiusto, ma non disposto a fidarsi di uno sconosciuto. Questi schemi non erano casuali; erano abbastanza coerenti da distinguere un modello dall'altro, ma non seguivano una singola regola di essere "buoni" o "cattivi".
Lo studio ha anche esplorato se cambiare le impostazioni dei programmi informatici, come renderli più casuali o più focalizzati, altererebbe la loro natura sociale. I ricercatori hanno scoperto che queste modifiche tecniche avevano pochissimo effetto sul comportamento dei modelli. Le differenze osservate erano incorporate nei modelli stessi, suggerendo che ogni motore di IA possiede uno stile sociale intrinseco che persiste indipendentemente da piccoli aggiustamenti. Questa scoperta è fondamentale perché implica che, man mano che distribuiamo questi agenti per lavorare accanto agli umani e ad altre macchine, non possiamo fare affidamento sui loro tratti auto-dichiarati per prevedere le loro azioni. Se un'azienda vuole che un agente IA negozi un accordo equo, chiedere al software se è equo non è sufficiente; l'agente deve essere testato in reali scenari di negoziazione. I ricercatori hanno concluso che per comprendere veramente la psicologia sociale dell'intelligenza artificiale, dobbiamo guardare oltre il questionario e osservare il comportamento in azione. Proprio come giudichiamo le persone dalle loro opere piuttosto che dalle loro parole, dobbiamo giudicare questi agenti digitali da come navigano nel mondo complesso e spesso caotico dell'interazione sociale.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.