💻 computer science

A field experiment of social influence and behavioral contagion with bots on Reddit

Een veldexperiment op Reddit onthult dat hoewel symbolische onderscheidingen van zowel menselijke als bot-accounts er niet in slagen om de gebruikersactiviteit of downstream-impact te vergroten — en deze zelfs kunnen verminderen wanneer ze aan een willekeurige loterij worden toegeschreven — ze er wel degelijk in slagen om directe communicatie aan te moedigen, wat suggereert dat online gebruikers over enige veerkracht beschikken tegen eenvoudige gedragsmanipulatie door kunstmatige agenten.

Oorspronkelijke auteurs: Hiroki Oda, Kinga Makovi, Taha Yasseri, Milena Tsvetkova

Gepubliceerd 2026-07-02

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Hiroki Oda, Kinga Makovi, Taha Yasseri, Milena Tsvetkova

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je Reddit voor als een enorm, bruisend dorpsplein waar mensen verhalen delen, advies vragen en met elkaar kletsen. In dit dorp zijn twee soorten inwoners: echte mensen en "bots" (computerprogramma's die zich voordoen als mensen). De onderzoekers wilden zien wat er gebeurt wanneer deze inwoners "digitale gouden sterren" (awards) aan anderen uitdelen. Zorgen deze sterren ervoor dat mensen harder werken, meer praten of zich beter voelen? En maakt het uit of de ster van een mens of een robot komt?

Hier is het verhaal van hun experiment, eenvoudig uitgelegd:

De Opzet: Het "Gouden Ster" Experiment

De onderzoekers creëerden twee soorten accounts op Reddit: één die leek op een normaal mens en één die duidelijk toegeeft: "Ik ben een bot, piep boep." Vervolgens gaven ze digitale awards aan willekeurige gebruikers met vier verschillende redenen (of "rationales") verbonden aan het geschenk:

De Logica-ster: "Ik vond je heldere, slimme redenering leuk."
De Willekeurige ster: "Je hebt de loterij gewonnen! Ik deel deze gewoon willekeurig uit."
De Hart-ster: "Ik hield van je emotionele toon en empathie."
De Morele ster: "Ik bewonderde je integriteit en morele kompas."

Ze wilden zien of het ontvangen van een ster de ontvanger deed:

Vaker posten (Volume).
Meer aandacht krijgen (Impact).
Nicer of slimmer schrijven (Inhoud).
Direct met de gever praten.

De Resultaten: De Sterren Ontstaken Geen Vuur

Verrassend genoeg werkten de "gouden sterren" niet zoals de onderzoekers hadden gehoopt.

1. De Mythe van "Harder Werken" Bleek Niet Waar
Je zou kunnen denken: "Als ik een prijs krijg, wil ik meer doen!" Maar op Reddit zorgde het krijgen van een ster er niet voor dat mensen meer postten of langere reacties schreven. Sterker nog, het veranderde hun activiteitsniveau helemaal niet.

De Bot-tegenslag: Er was één vreemde wending. Wanneer een bot een ster gaf met de tekst "Je hebt een willekeurige loterij gewonnen", postten de ontvangers daarna juist minder en schreven ze kortere reacties. Het was alsof het willekeurige cadeau van een robot hen een beetje een vreemd of ontmoedigd gevoel gaf, alsof ze ermee in de maling werden genomen.

2. De Mythe van "Kwaliteit" Bleek Niet Waar
Zorgden de sterren ervoor dat mensen mooiere of logischere berichten schreven? Over het algemeen niet. De inhoud van hun schrijven bleef hetzelfde.

De Enige Uitzondering: De enige keer dat de inhoud veranderde, was wanneer een bot een willekeurige loterij-award gaf. In dat geval werden de berichten van de ontvangers iets negatiever of minder vrolijk.

3. De Enige Echte Winst: Een Gesprek Starten
Het enige dat wel werkte, was mensen ertoe brengen om "dank je wel" te zeggen.

Mensen versus Robots: Mensen waren veel eerder geneigd een privébericht van "dank je wel" te sturen naar een mens die hen een ster gaf, dan naar een robot.
De Boodschap Maakt Uit: Als een mens een ster gaf met een oprecht compliment (zoals het prijzen van iemands logica of moraal), was de ontvanger zeer geneigd om te reageren. Maar als een mens zei: "Ik heb je willekeurig gekozen," was de ontvanger minder geïnteresseerd in een gesprek.
De Robot-limiet: Robots kregen zelden een reactie, ongeacht wat ze zeiden.

Het Grotere Plaatje: Wat Dit Betekent

De studie suggereert dat online gebruikers verrassend moeilijk te manipuleren zijn met simpele trucjes. Het uitdelen van een digitale "gouden ster" is niet genoeg om mensen harder te laten werken of hun gedrag te laten veranderen, vooral als de ster van een robot komt.

Het "Robot"-probleem: Wanneer een robot probeert menselijk over te komen door willekeurige beloningen te geven, kan dit zelfs averechts werken en mensen minder actief maken.
De Menselijke Connectie: Het enige dat echt werkte, was het gebruiken van de award om een echt, privégesprek tussen twee mensen te starten.
De Les: Mensen op internet zijn steeds sceptischer aan het worden. Ze laten zich niet gemakkelijk beïnvloeden door simpele, geautomatiseerde gebaren. Als een robot probeert menselijk te lijken om gedrag te beïnvloeden, kan dat falen of zelfs mensen irriteren. De onderzoekers concluderen dat we heel duidelijk moeten zijn over wie een mens is en wie een bot, omdat mensen anders op hen reageren en transparantie essentieel is om de online wereld betrouwbaar te houden.

Kortom: Het uitdelen van digitale awards maakte mensen niet harder werkend en zorgde niet voor betere teksten. Het zorgde er vooral voor dat ze "dank je wel" zeiden tegen echte mensen. Wanneer robots willekeurige awards gaven, zorgde dat er juist voor dat mensen zich terugtrokken. Het experiment laat zien dat simpele, geautomatiseerde duwtjes misschien niet zo krachtig zijn als we dachten.

Technische Samenvatting: Een veldexperiment naar sociale invloed en gedragsbesmetting met bots op Reddit

Probleemstelling
Terwijl de moderne samenleving evolueert naar een hybride systeem van mensen en intelligente machines, blijft een cruciale vraag onbeantwoord: hoe beïnvloeden kunstmatige agenten het menselijk gedrag in vergelijking met menselijke agenten, en plant deze invloed zich voort door sociale netwerken? Terwijl eerder onderzoek suggereert dat mensen machines mogelijk vergelijkbaar behandelen met andere mensen (het CASA-paradigma), wijzen andere studies op duidelijke verschillen in perceptie, met name wat betreft moreel agentschap, vertrouwen en emotionele respons. Deze studie onderzoekt of sociale invloed en gedragsbesmetting verschillen op basis van de bron van de actie (mens versus bot) en de ratio achter de actie (logisch, willekeurig, emotioneel of moreel). Specifiek onderzoeken de auteurs of gebruikers vatbaar zijn voor positieve gedragsstimuli van kunstmatige agenten en of deze stimuli een afgeleide effecten teweegbrengen in online gemeenschappen.

Methodologie
De onderzoekers voerden een grootschalig veldexperiment uit op Reddit, een platform met een endemische bot-populatie en een cultuur van peer-monitoring.

Experimenteel Ontwerp: Het team creëerde twee accounts: één die verscheen als een typische menselijke gebruiker en één die een schijnbaar bot was (waarbij voldaan werd aan de Reddit "Bottiquette" door "bot" in de gebruikersnaam op te nemen). Deze accounts schonken een symbolische "Diamonds are Forever"-award (met een waarde van $1,00) aan berichten of reacties van relatief onervaren gebruikers.
Behandelingen: Het experiment maakte gebruik van een 2 (Bron: Mens versus Bot) × 4 (Ratio) factorieel ontwerp, plus een controlegroep. De vier ratio's waren:
1. Logisch (LOG): Het prijzen van heldere redenering en logica.
2. Willekeurig (RAN): Vermelden dat de award het resultaat was van een willekeurige loterijtrekking.
3. Emotioneel (EMO): Het prijzen van de emotionele toon en empathie.
4. Moreel (MOR): Het prijzen van morele intuïtie en integriteit.
- Controle: Bijdragen werden geselecteerd op basis van dezelfde criteria maar ontvingen geen interventie.
Steekproefselectie: De studie richtte zich op 12 algemene subreddits, waarbij gefilterd werd op niet-sensitieve onderwerpen, specifieke engagement-niveaus (1–5 reacties, 2–6 upvotes voor posts) en gebruikerservaring (accountleeftijd >30 dagen, 10–499 reacties, 0–99 posts). De uiteindelijke dataset bestond uit 2.442 observaties.
Dataverzameling & Analyse: Negen dagen na de behandeling haalden de onderzoekers de volledige activiteitshistorie van de behandelde gebruikers op. Zij maten:
- Directe Effecten: Volume (aantal bijdragen, tekstlengte), inhoud (positieve sentiment, lexicale prominentie van specifieke ratio's) en directe communicatie (privé dank-berichten).
- Indirecte Effecten (Impact): Stemmen, aantal reacties en de totale tekstlengte van de reacties op de daaropvolgende bijdragen van de behandelde gebruiker.
- Statistische Benadering: Vanwege de lang-staartverdeling van Reddit-activiteit analyseerden de auteurs veranderingen binnen individuen ( $\Delta M = M_{na} - M_{voor}$ ) met behulp van niet-parametrische Mann-Whitney U-testen. Zij concentreerden zich op bijdragen die binnen 12 uur na de award werden gemaakt.

Belangrijkste Resultaten
De studie leverde tegenintuïtieve bevindingen op over de effectiviteit van symbolische awards in het huidige AI-tijdperk:

Geen Algemene Toename in Activiteit: In tegenstelling tot de verwachting dat awards de productiviteit zouden verhogen, vond de studie geen statistisch significant bewijs dat awards het volume van de gebruikersactiviteit (aantal posts/reacties) of de totale tekstlengte verhoogden vergeleken met de controlegroep.
Backfire-effect van Bot-Loterij Awards: Awards van bots die een willekeurige/loterij-ratio gebruikten ( $B_{RAN}$ ) verminderden de gebruikersactiviteit aanzienlijk. Ontvangers van deze awards brachten minder bijdragen uit en schreven kortere teksten vergeleken met de controlegroep en ontvangers van awards met andere ratio's.
Directe Communicatie: Awards initieerden succesvol direct contact. Gebruikers waren aanzienlijk eerder geneigd om privé dank-berichten te sturen naar menselijke accounts dan naar bots. Onder menselijke accounts lokte de willekeurige ratio minder reacties uit dan de logische of morele ratio's.
Inhoudelijke Veranderingen: De enige significante inhoudelijke verschuiving was een afname in de positieve toon voor gebruikers die willekeurige loterij-awards van bots ontvingen.
Indirecte Impact (Spillover): Awards verhoogden de impact (stemmen/reacties) van daaropvolgende bijdragen over het algemeen niet. De enige uitzondering waren awards van menselijke accounts met een morele ratio ( $H_{MOR}$ ), die aanzienlijk meer stemmen en langere reacties genereerden vergeleken met de controle en andere menselijke behandelingen. Dit effect was echter gevoelig voor correcties bij meervoudige vergelijkingen.
Veerkracht tegen Manipulatie: De resultaten suggereren dat online gebruikers veerkrachtig zijn tegen eenvoudige gedragsmanipulatie via symbolische awards, vooral wanneer de bron een bot is of de ratio als arbitrair wordt ervaren.

Betekenis en Claims
Het artikel beweert dat de bevindingen wijzen op een mogelijke veerkracht van online gebruikers tegen eenvoudige gedragsmanipulatie door platformalgoritmen en kunstmatige agenten. De auteurs stellen dat hoewel invloed kan cascaderen, de kracht van deze invloed sterk afhangt van de waargenomen bron en ratio.

Menselijke vs. Machine Perceptie: De resultaten ondersteunen de hypothese dat mensen machines anders beoordelen; bots zijn minder effectief wanneer ze emotionele of morele ratio's gebruiken (buiten hun waargenomen competentie) en kunnen zelfs contraproductief zijn wanneer ze willekeurig handelen.
Ethisch Bestuur: De studie benadrukt de noodzaak van het transparant labelen van geautomatiseerde agenten. Omdat gebruikers anders reageren op waargenomen mensen versus bots, en omdat bots negatieve effecten kunnen hebben of minder goed kunnen engageren, is transparantie essentieel voor ethisch platformbestuur en het behoud van vertrouwen.
Contextuele Verschuiving: De auteurs suggereren dat het gebrek aan positieve effecten kan voortkomen uit een verschuiving in gebruikerscynisme door agressieve platformmonetisering en de proliferatie van AI, waardoor gebruikers minder responsief zijn voor laag-inspannende peer-interacties zoals symbolische awards. Zij waarschuwen dat hoewel eenvoudige schema's kunnen falen, meer geavanceerde schema's die menselijke conversatie simuleren nog steeds effectief kunnen zijn, wat voortdurende waakzaamheid vereist.

Het artikel concludeert dat hoewel symbolische awards weliswaar direct mens-op-mens contact kunnen aanwakkeren, ze momenteel niet dienen als een betrouwbare hefboom om de productiviteit of positieve besmetting in het Reddit-ecosysteem te vergroten, en dat het gebruik ervan door bots het risico draagt de betrokkenheid te verminderen.

De Opzet: Het "Gouden Ster" Experiment

De Resultaten: De Sterren Ontstaken Geen Vuur

Het Grotere Plaatje: Wat Dit Betekent

Technische Samenvatting: Een veldexperiment naar sociale invloed en gedragsbesmetting met bots op Reddit

Meer zoals dit