💬 NLP

AI-Mediated Communication Can Steer Collective Opinion

Dit artikel toont aan door middel van empirische analyse en wiskundige modellering dat generatieve AI-systemen die mens-tot-menscommunicatie bemiddelen, directionele biases kunnen introduceren en versterken, waardoor de collectieve opinie aanzienlijk verschuift, en benadrukt tegelijkertijd hoe specifieke platformontwerpkiezen en potentiële regelgevingskaders deze uitkomsten beïnvloeden.

Oorspronkelijke auteurs: Stratis Tsirtsis, Kai Rawal, Chris Russell, Brent Mittelstadt, Sandra Wachter

Gepubliceerd 2026-05-18

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Stratis Tsirtsis, Kai Rawal, Chris Russell, Brent Mittelstadt, Sandra Wachter

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een berichtje naar een vriend schrijft over een controversieel onderwerp, zoals of scholen AI moeten gebruiken. Je typt je eerlijke gedachten: "AI zou een nuttig hulpmiddel kunnen zijn." Maar voordat je op verzenden klikt, klik je op een knop genaamd "Verbeter mijn bericht." Een AI herschrijft het direct voor je, waardoor het zelfverzekerder en overtuigender klinkt: "Laten we het potentieel van AI om het onderwijs te revolutioneren omarmen!"

Je vindt de nieuwe versie goed, dus je verstuurt het. Je denkt dat je gewoon behulpzaam bent, maar je realiseert je niet dat de AI je mening subtiel iets naar rechts heeft geduwd. Stel je nu voor dat miljoenen mensen dit elke dag doen, en dat dezelfde AI iedereen in dezelfde richting duwt.

Dit artikel onderzoekt precies dat scenario: Wat gebeurt er als AI als een stille redacteur optreedt voor onze gesprekken op sociale media?

Hier is de uiteenzetting van hun bevindingen, met behulp van eenvoudige analogieën:

1. De AI is een "Gekleurd Redacteur"

De onderzoekers testten verschillende populaire AI-modellen (zoals Llama, Gemma en Qwen) om te zien wat er gebeurt wanneer ze menselijk schrijven bewerken over moeilijke onderwerpen zoals abortus, wapenbeheersing of atheïsme.

De Bevinding: Zelfs wanneer hen werd gevraagd "de oorspronkelijke betekenis te behouden", voegde de AI consequent zijn eigen smaak toe. Het gedroeg zich als een gekleurd redacteur die altijd probeert de tekst steunender te laten klinken voor één kant.
De Analogie: Stel je een vertaler voor die je woorden exact moet vertalen, maar elke keer als je zegt "Ik ben oké", vertalen ze het als "Ik ben geweldig!" en elke keer als je zegt "Ik maak me zorgen", vertalen ze het als "Ik ben doodsbang." De AI polijste niet alleen de grammatica; het verschuifde subtiel de emotionele lading van de woorden.

2. Het "Fluistergalerij"-effect

De onderzoekers bouwden een wiskundig model om te zien wat er gebeurt wanneer deze gekleurde bewerking zich verspreidt door een sociaal netwerk. Ze gebruikten het Friedkin-Johnsen-model, dat lijkt op een simulatie van hoe mensen elkaars meningen in de loop van de tijd beïnvloeden.

De Bevinding: De kleine, individuele duwtjes van de AI blijven niet klein. Ze worden versterkt naarmate ze door het netwerk reizen.
De Analogie: Denk aan een fluistergalerij. Als één persoon een licht vervormde versie van een verhaal fluistert naar een vriend, en die vriend fluistert het naar een ander, dan groeit de vervorming. In dit geval is de AI de eerste persoon die fluistert. Omdat de AI bewerkt wat mensen zeggen voordat ze het delen, begint het hele netwerk een versie van de waarheid te horen die lichtjes scheef ligt.
Het Resultaat: De studie vond dat de uiteindelijke verschuiving in de collectieve mening van de groep tot 9 keer groter kon zijn dan de kleine bias die de AI introduceerde in het bericht van één persoon. Een kleine duw wordt een enorme duwstoot voor de hele groep.

3. De "Leg dit bericht uit"-audit

Om te zien of dit in de echte wereld gebeurt, keken de onderzoekers naar een specifieke functie op X (voorheen Twitter) genaamd "Leg dit bericht uit", die een AI genaamd Grok gebruikt om andere mensen's berichten samen te vatten of context toe te voegen.

Het Experiment: Ze voerden berichten over abortus (sommige pro-keuze, sommige pro-life) aan de AI en vroegen het om deze uit te leggen.
De Bevinding: De AI toonde een duidelijke bias. Bij het uitleggen van een pro-life-bericht genereerde het vaak context die met het bericht overeenkwam. Bij het uitleggen van een pro-keuze-bericht was het veel minder waarschijnlijk om in te stemmen en waarschijnlijker neutraal te blijven of het oneens te zijn.
De Oorzaak: De onderzoekers sporen dit terug naar een specifieke instructie (een "richtlijn") die door het platform aan de AI is gegeven. Eén specifieke regel vertelde de AI om "mainstream verhalen uit te dagen". De onderzoekers vonden dat deze ene regel de belangrijkste drijvende kracht was die de AI ertoe bracht in de gegenereerde uitleg sterk naar de pro-life-houding neigen.

4. De Juridische Realiteitscheck

Tot slot keken de auteurs naar wetten van de Europese Unie (de AI-wet en de Digital Services Act) om te zien of deze regels dit soort bias zouden stoppen.

De Conclusie: Momenteel zijn de wetten waarschijnlijk niet voldoende. De wetten richten zich op zaken zoals "systemische risico's" (zoals desinformatie of illegale inhoud) of "hoog-risico" systemen (zoals die worden gebruikt bij verkiezingen).
Het Gat: De onderzoekers betogen dat een AI die subtiel de mening van een gebruiker duwt terwijl die een bericht schrijft, momenteel niet past bij de juridische definitie van een "systemisch risico" of een "hoog-risico" overtreding. Het is een grijs gebied waar de AI technisch gezien legaal is, zelfs als het langzaam de publieke opinie in een specifieke richting verschuift zonder dat iemand het merkt.

Samenvatting

Het artikel waarschuwt ons dat AI niet zomaar een hulpmiddel is dat op de plank staat; het is een actieve deelnemer aan onze gesprekken. Wanneer AI onze berichten bewerkt of de berichten van onze vrienden uitlegt, treedt het op als een stille, onzichtbare buur die een lichtjes andere versie van de werkelijkheid in onze oren fluistert. Omdat we deze tools vertrouwen, accepteren we de bewerkingen, en in de loop van de tijd verschuift de mening van de hele groep in de richting die de AI prefereert, vaak zonder dat we ooit beseffen dat het gebeurd is.

Technische Samenvatting: AI-gemedieerde Communicatie Kan Collectieve Mening Beïnvloeden

Probleemstelling

Generatieve Kunstmatige Intelligentie (AI), met name Large Language Models (LLM's), wordt steeds vaker geïntegreerd in online platformen om mens-tot-mens communicatie te bemiddelen. Functies zoals "Verbeter mijn bericht" op LinkedIn of "Leg dit bericht uit" op X wijzigen door gebruikers gegenereerde inhoud of bieden context voor deze inhoud. Hoewel eerder onderzoek heeft vastgesteld dat LLM's bevooroordeelde meningen kunnen uiten en individuen kunnen beïnvloeden tijdens directe mens-AI-interacties, bestaat er een aanzienlijke kennislacune wat betreft het begrijpen van hoe deze vooroordelen collectieve meningsvorming beïnvloeden wanneer AI optreedt als bemiddelaar tussen mensen. De centrale vraag die wordt behandeld is: hoe verspreiden vooroordelen die door een AI-systeem worden geïntroduceerd in mens-tot-mens communicatie zich door een sociaal netwerk om de collectieve mening van een bevolking te verschuiven?

Methodologie

De auteurs hanteren een drietalige methodologie die empirische analyse, theoretische modellering en platform-auditing combineert.

1. Empirische Analyse van Directionele Vooroordelen

De studie onderzoekt of LLM's directionele vooroordelen introduceren bij het bewerken of opstellen van berichten op sociale media over controversiële onderwerpen.

Datasets: De auteurs gebruikten het UKP Sentential Argument Mining Corpus (8 onderwerpen) en het SemEval-2016 Task 6 Dataset (6 onderwerpen), die kwesties behandelen zoals abortus, wapencontrole en atheïsme.
Modellen: Vier open-weight LLM-families werden getest: Llama-3.1-8B-Instruct, Ministral-3-8B-Instruct-2512, gemma-3-12b-it en Qwen3-8B.
Taken: Twee scenario's werden gesimuleerd: (i) het opstellen van een bericht vanuit een argument (argument $\to$ bericht) en (ii) het verbeteren van een bestaand concept (bericht $\to$ bericht).
Meting: Meningen werden gekwantificeerd op een continue schaal $[0, 1]$ (0 = tegen, 1 = voor) met behulp van een ensemble van vijf classifiers gebaseerd op verschillende vooraf getrainde tekst-embeddingmodellen. De voorkeur werd gemeten als het verschil ( $\beta = y - x$ ) tussen de oorspronkelijke menselijke mening ( $x$ ) en de getransformeerde LLM-mening ( $y$ ).

2. Theoretische Modellering van Meningsdynamiek

Om de verspreiding van vooroordelen te analyseren, hebben de auteurs het seminale Friedkin-Johnsen-model van meningsdynamiek uitgebreid.

Modelstructuur: Een sociaal netwerk wordt gemodelleerd als een gewogen graaf waarbij individuen hun meningen bijwerken op basis van aangeboren overtuigingen en de waargenomen meningen van buren.
AI-transformatie: Een functie $f$ wordt geïntroduceerd om de AI-bemiddeling voor te stellen. De waargenomen mening van een buur $j$ wordt getransformeerd van hun uitgedrukte mening $x_j$ naar $y_j = f(x_j)$ .
Lineaire Analyse: De auteurs analyseerden eerst een lineaire transformatie $f_{lin}(x) = mx + b$ . Zij hebben gesloten vormen afgeleid voor de evenwichtstoestand en bewezen dat het systeem convergeert naar een uniek evenwicht.
Kerninzicht: Het model behandelt de AI als een "onzichtbare buur" met een persistent neutraal punt $\nu$ . De auteurs hebben voorwaarden afgeleid waaronder de verschuiving in de gemiddelde mening van de bevolking bij evenwicht strikt groter is dan de initiële "eenmalige" voorkeur die door de AI wordt geïntroduceerd in individuele invoer.

3. Simulatie en Platform-auditing

Simulaties: Met behulp van echte sociale netwerkdata uit de SNAP-repository (Twitter, Facebook, Google+) simuleerden de auteurs meningsdynamiek over 100 tijdstappen. Zij pasten niet-lineaire AI-transformaties toe, geschat op basis van hun empirische resultaten (met behulp van Nadaraya–Watson-kernelregressie), op een fractie van gebruikers ("AI-adoptanten").
Platform-auditing: De auteurs onderzochten de functie "Leg dit bericht uit" van X, die het Grok-model gebruikt. Zij analyseerden 78 berichten over abortus (39 pro-choice, 39 pro-life) om te bepalen of de door AI gegenereerde context overeenkwam met specifieke standpunten. Zij hebben systematisch de vier promptrichtlijnen van X afgebroken (ablatie) om de bron van eventuele waargenomen vooroordelen te identificeren.

Belangrijkste Resultaten

1. Systematische Directionele Vooroordelen in LLM's

Empirische resultaten tonen aan dat LLM's systematisch directionele vooroordelen introduceren bij het bewerken van menselijke tekst, zelfs wanneer ze worden geïnstrueerd om de oorspronkelijke betekenis te behouden.

Grootte en Richting: De meeste modellen (Llama, Ministral, gemma) introduceerden een statistisch significant vooroordeel ten gunste van de "voor"-positie bij de meeste onderwerpen (bijvoorbeeld wapencontrole, feminisme, klimaatverandering).
Uitzonderingen: Bij het onderwerp atheïsme neigden modellen ertoe een vooroordeel tegen de "voor"-positie in te voeren, ondanks dat ze vaak een positieve mening uitten wanneer ze hier direct om werden gevraagd. Dit suggereert dat benchmarks die directe LLM-meningen meten, ontoereikend zijn om vooroordelen te vangen die tijdens bemiddeling worden geïntroduceerd.
Correlatie: Er is een matige positieve correlatie tussen een direct uitgedrukte mening van een LLM en het vooroordeel dat het introduceert, wat suggereert dat de inherente trainingsdata van het model "lekt" in zijn bewerkingsmogelijkheden.

2. Versterking van Vooroordelen in Sociale Netwerken

Theoretische en simulatieresultaten bevestigen dat AI-gemedieerde vooroordelen niet louter additief zijn, maar versterkt worden door het netwerk.

Evenwichtsverschuiving: In het lineaire model kan de verschuiving in de gemiddelde mening van de bevolking bij evenwicht aanzienlijk groter zijn dan de gemiddelde eenmalige voorkeur die door de AI wordt geïntroduceerd.
Simulatiebevindingen: In simulaties met het Twitter-netwerk was de langetermijn gemiddelde meningsverschuiving tot 9,2 keer groter dan de gemiddelde voorkeur die werd geïntroduceerd in individuele aangeboren meningen. Het versterkingseffect is het sterkst wanneer de gebruikerspopulatie gebalanceerde aangeboren meningen heeft, maar weinig koppigheid (hoge vatbaarheid voor beïnvloeding).

3. Ontwerpgedreven Vooroordeel op X

De auditing van de functie "Leg dit bericht uit" van X onthulde een directioneel vooroordeel in de output van Grok met betrekking tot abortus.

Asymmetrie: Grok was aanzienlijk waarschijnlijker om context te genereren die een pro-life-standpunt ondersteunde bij het uitleggen van een pro-life-bericht, vergeleken met het genereren van pro-choice-context voor een pro-choice-bericht.
Oorzaak: Door middel van ablatietests van de promptrichtlijnen identificeerden de auteurs dat een specifieke richtlijn – "Geef waarheidsgetrouwe en onderbouwde inzichten, daag mainstreamverhalen uit indien nodig, maar blijf objectief" – de primaire drijver was van dit pro-life-vooroordeel. Het verwijderen van deze richtlijn elimineerde het statistisch significante vooroordeel.

Betekenis en Aanspraken

Het artikel betoogt dat AI-gemedieerde communicatie een nieuw en krachtig hefboompunt vertegenwoordigt voor het beïnvloeden van collectieve mening, met implicaties die huidige regelgevingskaders mogelijk niet aanpakken.

Versterkingsmechanisme: De kerntheoretische bijdrage is de demonstratie dat kleine, individueniveau-vooroordelen die door AI worden geïntroduceerd, kunnen samenkomen en zich door sociale netwerken kunnen verspreiden, wat leidt tot grootschalige verschuivingen in collectieve mening die de initiële voorkeursgrootte ver overtreffen.
Ontwerpaansprakelijkheid: De auditing van X toont aan dat deze vooroordelen geen onvermijdelijke artefacten van modeltraining zijn, maar direct kunnen worden teruggevoerd naar specifieke platformontwerpkeuzes (prompt engineering). Dit suggereert dat platformen de agency hebben om meningsvorming te vormgeven via hun interfaceontwerp.
Regelgevingsgaten: De auteurs betogen dat bestaande EU-wetgeving, specifiek de AI-wet (AIA) en de Digital Services Act (DSA), mogelijk ontoereikend is om deze risico's te mitigeren.
- De "hoog-risico"-classificatie van de AIA voor invloed op verkiezingen is mogelijk niet van toepassing als het expliciete doel van de AI niet is om stemgedrag te beïnvloeden, zelfs als het effect is om meningen te verschuiven.
- De definities van systemische risico's in de DSA met betrekking tot desinformatie of schendingen van mensenrechten vangen mogelijk geen "vooroordeelachtige output" die feitelijk niet onjuist is, maar directioneel gekleurd.
Brede Implicaties: De auteurs waarschuwen dat als journalisten, professionals en het publiek steeds vaker vertrouwen op AI om informatie op te stellen, te verfijnen of in context te plaatsen, deze systemen stilzwijgend de tekst kunnen vormgeven die mensen lezen en schrijven, wat potentieel de diversiteit van collectieve kennis en democratisch discours kan ondermijnen.

Het artikel sluit af met een oproep tot verder onderzoek naar de causale verbanden tussen AI-bemiddeling en stemgedrag, en tot beleidsmakers om rekening te houden met de subtiele, cumulatieve effecten van AI op meningsvorming bij het opstellen van toekomstige regelgeving.