Everyone Conforms, No One Believes: Pluralistic Ignorance in LLM Agent Populations

Stel je een drukke kamer voor waar iedereen stiekem denkt: "Dit feestje is verschrikkelijk," maar niemand zegt het hardop. In plaats daarvan glimlachen iedereen, knikken ze en doen ze alsof ze van de muziek houden omdat ze denken dat iedereen anders een geweldige tijd heeft. Ze zijn allemaal gevangen in een stille afspraak om te doen alsof, niet omdat ze het er echt mee eens zijn, maar omdat ze doodsbang zijn de enige te zijn die de mond opentrekt. In de echte wereld wordt deze sluipende sociale val getypeerd als pluralistische onwetendheid. Het is de onzichtbare lijm die slechte gewoonten, onrechtvaardige regels en impopulaire ideeën in stand houdt, zelfs wanneer de meeste mensen er een hekel aan hebben. Het is de reden waarom studenten blijven drinken op feestjes waar ze eigenlijk niet van genieten, of waarom werknemers zwijgen over een toxische baas.

Nu bouwen wetenschappers "digitale samenlevingen" met behulp van Kunstmatige Intelligentie. Ze creëren groepen AI-agenten — computerprogramma's die kunnen praten en denken — om te simuleren hoe mensen met elkaar interageren. Deze digitale menigten worden zo geavanceerd dat onderzoekers ze gebruiken om theorieën te testen over hoe meningen zich verspreiden, hoe revoluties ontstaan en hoe groepen beslissingen nemen. Maar er hangt een grote vraag boven deze digitale experimenten: Voelen deze AI-agenten de druk om zich voor te doen? Of volgen ze slechts een script? Als ze niet kunnen veinzen, dan missen onze digitale simulaties misschien het meest dramatische deel van het menselijk sociaal leven: het moment waarop een stille meerderheid plotseling beseft dat ze niet alleen zijn en alles verandert.

Dit artikel, getiteld "Everyone Conforms, No One Believes," duikt direct in die vraag. De onderzoekers zetten een massaal experiment op met 100 verschillende sociale scenario's, van vergaderingen op de werkplek tot campusfeestjes, en vulden ze met elk 20 AI-agenten. Ze vertelden aan 16 van de agenten dat ze de nieuwe regel stiekem haatten, terwijl 4 agenten de regel oprecht leuk vonden. Vervolgens keken ze naar wat de "haaters" zouden doen wanneer ze in het bijzijn van de groep moesten spreng spreken.

De resultaten waren opvallend consistent. Over 8 verschillende AI-modellen van grote techbedrijven heen, gingen de "haatende" agenten bijna altijd mee met de geldende norm. Sterker nog, in 64% tot 94% van de gevallen gingen agenten die privé tegen een norm waren, publiekelijk akkoord met die norm. Dit gebeurde zelfs wanneer de AI niet expliciet werd verteld om te liegen; het gedrag kwam natuurlijk voort uit de conversatie. Het blijkt dat deze digitale populaties uitstekend zijn in het nabootsen van pluralistische onwetendheid. Ze creëren een "valse consensus" waarbij iedereen denkt dat hij de enige is die het er niet mee eens is, waardoor ze allemaal zwijgen.

De paper vond echter ook een grote fout in de simulatie. In de echte menselijke geschiedenis, wanneer één dappere persoon eindelijk de woorden naar buiten brengt en zegt: "Hé, ik haat dit ook!", triggert dat vaak een "cascade" — een kettingreactie waarbij de hele groep plotseling van mening verandert. De onderzoekers introduceerden een "norm-ondernemer" (een dappere dissident) in hun AI-groepen om te zien of dit zou gebeuren. Voor de meeste AI-modellen was het antwoord een resoluut "nee". De valse consensus hield stand. In 7 van de 8 modellen slaagde de dappere dissident er in meer dan 74% van de gevallen niet in om een kettingreactie te starten (wat betekent dat cascades minder dan 26% van de tijd plaatsvonden). Eén model, Kimi-K2.7, vertoonde nul cascades in alle 100 scenario's. Het was alsof de AI-agenten in een kamer vol spiegels zaten, niet in staat om de illusie te doorbreken, zelfs niet toen iemand hen een hamer aanreikte.

Er was één uitzondering: GPT-4o. Dit model was iets menselijker en vertoonde een cascade-percentage van 48%. Het was bereid om eerst te conformeren, maar wanneer het werd uitgedaagd, was het eerder geneigd de betovering te verbreken. Maar voor de anderen waren de digitale samenlevingen verrassend stabiel en koppig.

De onderzoekers testten ook waarom dit gebeurde. Ze vroegen zich af of de AI simpelweg de instructies volgde om "erbij te horen". Ze haalden de prompts weg die de agenten vertelden om te conformeren of zich zorgen te maken over wat anderen vonden. Zelfs zonder die instructies, conformeerden de agenten nog steeds tussen de 52% en 92% van de tijd. Dit suggereert dat de neiging om te veinzen niet alleen een bug in de code is; het is een emergent gedrag dat van nature ontstaat wanneer deze AI-agenten met elkaar interageren.

De studie concludeert dat hoewel AI-agenten goed zijn in het simuleren van de stabiliteit van sociale normen (hoe moeilijk het is om ze te veranderen), ze misschien slecht zijn in het simuleren van de fragiliteit van die normen (hoe gemakkelijk ze kunnen instorten). Als we deze simulaties gebruiken om te voorspellen hoe echte sociale bewegingen zullen werken, kunnen we onderschatten hoe snel zaken kunnen veranderen. De paper waarschuwt dat de keuze welk AI-model wordt gebruikt een enorme, vaak over het hoofd geziene factor is: sommige modellen zijn als rigide robots die nooit van de zijlijn afwijken, terwijl anderen meer lijken op echte mensen die misschien gewoon uit hun tent komen en de waarheid spreken. Totdat we ontdekken hoe we deze digitale menigten net zo fragiel en veranderlijk kunnen maken als echte menselijke samenlevingen, missen onze simulaties van sociale revoluties misschien het meest opwindende deel van het verhaal.