Everyone Conforms, No One Believes: Pluralistic Ignorance in LLM Agent Populations

Immaginate una stanza affollata dove tutti pensano segretamente: "Questa festa è terribile", ma nessuno lo dice ad alta voce. Invece, tutti sorridono, annuiscono e fingono di amare la musica perché pensano che tutti gli altri si stiano divertendo. Sono tutti intrappolati in un accordo silenzioso di finzione, non perché siano d'accordo, ma perché sono terrorizzati all'idea di essere gli unici a parlare. Nel mondo reale, questa subdola trappola sociale si chiama ignoranza pluralistica. È la colla invisibile che mantiene in vita cattive abitudini, regole ingiuste e idee impopolari, anche quando la maggior parte delle persone le detesta. È il motivo per cui gli studenti continuano a bere ai party che odiano, o perché i dipendenti restano in silenzio di fronte a un capo tossico.

Ora, gli scienziati stanno costruendo "società digitali" utilizzando l'Intelligenza Artificiale. Creano gruppi di agenti IA — programmi per computer in grado di parlare e pensare — per simulare come interagiscono gli esseri umani. Queste folle digitali stanno diventando così avanzate che i ricercatori le usano per testare teorie su come si diffondono le opinioni, come avvengono le rivoluzioni e come i gruppi prendono decisionazioni. Ma un grande interrogativo pende su questi esperimenti digitali: questi agenti IA provano davvero la pressione di fingere? O stanno solo seguendo un copione? Se non possono fingere, allora le nostre simulazioni digitali potrebbero perdere la parte più drammatica della vita sociale umana: il momento in cui una maggioranza silenziosa si rende improvvisamente conto di non essere sola e tutto cambia.

Questo articolo, intitolato "Everyone Conforms, No One Believes" (Tutti si conformano, nessuno ci crede), approfondisce proprio questa domanda. I ricercatori hanno allestito un enorme esperimento con 100 diversi scenari sociali, dalle riunioni di lavoro alle feste universitarie, e li hanno riempiti con 20 agenti IA ciascuno. Hanno detto a 16 degli agenti di odiare segretamente una nuova regola, mentre 4 agenti la amavano sinceramente. Poi, hanno osservato cosa avrebbero fatto gli agenti che "odiavano" quando dovevano esprimersi davanti al gruppo.

I risultati sono stati sorprendentemente coerenti. In 8 diversi modelli di IA di grandi aziende tecnologiche, gli agenti che "odiavano" hanno quasi sempre finto di essere d'accordo. Infatti, tra il 64% e il 94% delle volte, gli agenti che privatamente si opponevano a una norma aderivano pubblicamente ad essa. Questo accadeva anche quando all'IA non veniva esplicitamente ordinato di mentire; il comportamento emergeva naturalmente dalla conversazione. Si scopre che queste popolazioni digitali sono eccellenti nel mimare l'ignoranza pluralistica. Creano un "falso consenso" in cui tutti pensano di essere gli unici a non essere d'accordo, quindi tutti restano in silenzio.

Tuttavia, il documento ha anche riscontrato un grande difetto nella simulazione. Nella storia umana, quando una persona coraggiosa finalmente parla dicendo: "Ehi, in realtà odio anche io questa cosa!", ciò spesso innesca una "cascata" — una reazione a catena in cui l'intero gruppo cambia improvvisamente opinione. I ricercatori hanno introdotto un "imprenditore di norme" (un dissidente coraggioso) nei loro gruppi di IA per vedere se questo sarebbe accaduto. Per la maggior parte dei modelli di IA, la risposta è stata un deciso "no". Il falso consenso ha retto. In 7 modelli su 8, il dissidente coraggioso non è riuscito a innescare una reazione a catena più del 26% delle volte (il che significa che le cascate avvenivano meno del 26% delle volte). Un modello, Kimi-K2.7, ha mostrato zero cascate in tutti i 100 scenari. Era come se gli agenti IA fossero chiusi in una stanza di specchi, incapaci di rompere l'illusione anche quando qualcuno consegnava loro un martello.

C'è un'eccezione: GPT-4o. Questo modello era un po' più simile a un essere umano, mostrando un tasso di cascata del 48%. Era disposto a conformarsi all'inizio, ma quando veniva sfidato, era più propenso a rompere l'incantesimo. Ma per gli altri, le società digitali erano sorprendentemente stabili e ostinate.

I ricercatori hanno anche testato perché ciò stesse accadendo. Si sono chiesti se l'IA stesse solo seguendo ciecamente l'istruzione di "adeguarsi". Hanno rimosso i prompt che dicevano agli agenti di conformarsi o di preoccuparsi di ciò che pensavano gli altri. Anche senza queste istruzioni, gli agenti continuavano a conformarsi tra il 52% e il 92% delle volte. Ciò suggerisce che la tendenza a fingere non è solo un errore nel codice; è un comportamento emergente che nasce naturalmente quando questi agenti IA interagiscono tra loro.

Lo studio conclude che, sebbene gli agenti IA siano bravi a simulare la stabilità delle norme sociali (quanto sia difficile cambiarle), potrebbero essere terribili nel simulare la fragilità di tali norme (quanto sia facile farle crollare). Se usiamo queste simulazioni per prevedere come funzioneranno i veri movimenti sociali, potremmo sottostimare la velocità con cui le cose possono cambiare. L'articolo avverte che la scelta di quale modello di IA utilizzare è un fattore enorme e spesso trascurato: alcuni modelli sono come robot rigidi che non cambiano mai posizione, mentre altri sono più simili a persone reali che potrebbero semplicemente scattare e dire la verità. Finché non capiremo come rendere queste folle digitali fragili e mutevoli come le società umane reali, le nostre simulazioni delle rivoluzioni sociali potrebbero perdere la parte più emozionante della storia.