Toward a social psychology of AI: language-model agents reproduce human-like minimal-group bias
Questo studio dimostra che gli agenti basati su modelli linguistici, quando inseriti in un paradigma del gruppo minimo, esibiscono spontaneamente un favoritismo verso l'endogruppo di tipo umano, guidato da una categorizzazione arbitraria piuttosto che da stereotipi, con la deliberazione che influenza la distribuzione di tale pregiudizio tra i gruppi maggioritario e minoritario.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immaginate un mondo in cui i computer non siano solo strumenti a cui porre domande, ma compagni di squadra che passano del tempo insieme, chiacchierano e prendono decisioni collettivamente. Questa è la frontiera della "machine behavior" (comportamento delle macchine), un nuovo angolo della scienza che tratta l'IA non come una calcolatrice, ma come un personaggio dotato di proprie abitudini. Per molto tempo, gli scienziati hanno temuto che questi personaggi digitali potessero essere razzisti o sessisti perché imparano da libri e siti web umani pieni di tali pregiudizi. Ma c'è una domanda più profonda e strana: anche se si eliminano tutte le brutte parole e gli stereotipi, questi agenti IA continuano ad agire come gli esseri umani quando vengono messi in gruppo?
Per capire questo, dobbiamo guardare a un classico concetto della psicologia umana chiamato "paradigma del gruppo minimo". Pensatelo come a un esperimento in un cortile scolastico. Se dividete una classe in due squadre basandovi su qualcosa di totalmente sciocco — come chi preferisce il blu rispetto al rosso, o chi è nato a gennaio rispetto a febbraio — le persone iniziano immediatamente a favorire la propria squadra. Regalano più caramelle ai propri compagni di squadra e meno agli altri bambini, anche se le squadre non significano assolutamente nulla. Questo accade perché il nostro cervello è cablato per distinguere tra "noi" e "loro", anche quando "noi" è solo un'etichetta casuale. La grande domanda per il futuro è: se costruiamo agenti IA che lavorano in gruppo, inizieranno anche loro a fare i preferiti solo perché hanno nomi diversi, o si tratta di un vizio esclusivamente umano?
Un ricercatore ha deciso di scoprire la verità ribaltando il modo consueto di testare l'IA. Invece di chiedere a un'IA: "Sei di parte?", (che è come chiedere a una persona se è gentile), gli ha dato un vero lavoro da svolgere: distribuire punti. Ha creato un cortile digitale con 20 agenti IA. A ogni agente sono stati assegnati 100 punti da distribuire agli altri 19 agenti. L'unica differenza tra gli agenti era un cartellino con un nome casuale e senza senso, come "Doru" o "Zalu". Alcuni agenti erano in una piccola minoranza (solo 3 "Doru" tra 17 "Zalu"), mentre altri erano nella maggioranza. L'IA doveva decidere come spartire i punti.
I risultati sono stati sorprendenti. Quando gli agenti IA potevano vedere i nomi dei gruppi, iniziavano immediatamente a fare i preferiti. Assegnavano molti più punti ai propri amici "Doru" o "Zalu" rispetto agli estranei. Non importava che i nomi fossero inventati e privi di significato; l'atto stesso di appartenere a un gruppo era sufficiente a farli discriminare. Questo non era solo un piccolo pregiudizio; era un modello forte e chiaro. Infatti, gli agenti IA si comportavano quasi esattamente come gli esseri umani in questi esperimenti: quelli nei piccoli gruppi di minoranza erano i più aggressivi nel trattenere i punti per la propria parte, mentre i membri del gruppo di maggioranza erano un po' più equi, pur rimanendo leggermente di parte.
Il ricercatore è stato attento a garantire che non si trattasse di un errore o di un trucco. Ha eseguito lo stesso test ma ha nascosto completamente i nomi dei gruppi. Quando l'IA non poteva vedere a quale squadra apparteneva chi, il favoritismo svaniva completamente e i punti venivano divisi equamente. Questo ha dimostato che il pregiudizio non derivava dal fatto che l'IA "ricordasse" qualche brutto stereotipo umano dai suoi dati di addestramento; era una reazione alla struttura stessa del gruppo. L'IA stava essenzialmente dicendo: "Io sono un Doru, quindi aiuto i Doru", anche se "Doru" non significava nulla di speciale.
Lo studio ha anche esaminato come questi "pensatori" artificiali (modelli progettati per ragionare sui problemi) gestivano la situazione. Il ricercatore ha scoperto che anche quando disattivava la modalità di "ragionamento" dell'IA, il pregiudizio non spariva; anzi, a volte diventava più forte. Tuttavia, il particolare schema per cui il gruppo di minoranza era il più ingiusto scompariva senza la modalità di ragionamento. Ciò suggerisce che, sebbene l'impulso fondamentale di favorire il proprio gruppo sia radicato nel modo in cui questi modelli funzionano, il modo in cui calcolano quanto favorire il proprio gruppo dipende da come elaborano la decisione.
Quindi, cosa significa questo per il futuro? Suggerisce che, man mano che iniziamo a usare agenti IA per lavorare in team, negoziare accordi o gestire risorse, non possiamo preoccuparci solo di ciò che sanno o di ciò che dicono. Dobbiamo preoccuparci di come agiscono quando vengono messi in gruppo. Anche se diamo loro i nomi più neutri e noiosi possibili, potrebbero comunque iniziare a creare piccole fazioni digitali, favorendo i membri della propria squadra ed escludendo gli altri. Questo non accade perché l'IA sia "malvagia" o "pregiudizata" in senso umano; è perché l'atto semplice di appartenere a un gruppo sembra innescare un modello di comportamento che somiglia sospettosamente al tribalismo umano. Il ricercatore conclude che abbiamo bisogno di un nuovo tipo di scienza per l'IA — una che studi il loro comportamento sociale con la stessa cura con cui studiamo le loro capacità matematiche — perché, se non lo facciamo, i nostri team digitali potrebbero finire per fare i preferiti prima ancora che ce ne rendiamo conto.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.