Predicting, Evaluating, and Explaining Top Misinformation Spreaders via Archetypal User Behavior
Dit artikel stelt een raamwerk voor het voorspellen, evalueren en verklaren van de belangrijkste verspreiders van misinformatie door drie verschillende gebruikersarchetypen (versterkers, superverspreiders en gecoördineerde accounts) te modelleren, waarbij wordt aangetoond dat superverspreider-eigenschappen de hoogste ranglijsten domineren terwijl temporele dynamiek en uitlegbare AI de voorspellende nauwkeurigheid en interpreteerbaarheid verbeteren voor proactieve contentmoderatie.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Op sociale media reist informatie met de snelheid van een gedachte, maar niet iedereen die het deelt vervult dezelfde rol. Sommige mensen creëren de oorspronkelijke verhalen, terwijl anderen ze simpelweg doorgeven, en een enkeling werkt samen om ervoor te zorgen dat een boodschap zoveel mogelijk ogen bereikt. Wanneer valse informatie zich verspreidt, is dat zelden de schuld van één persoon; het is in plaats daarvan het resultieve van een complex web van gedragingen waarbij verschillende soorten gebruikers narratieven versterken, coördineren en lanceren. Het begrijpen van wie deze mensen zijn en hoe zij opereren is cruciaal, omdat valse verhalen de publieke opinie kunnen vervormen, het vertrouwen in de wetenschap kunnen ondermijnen en echte schade in de echte wereld kunnen veroorzaken. De uitdaging voor platforms is dat tegen de tijd dat een vals verhaal is gemarkeerd en verwijderd, het vaak al te ver is gereisd om nog te worden gestopt. Om de verspreiding te stoppen voordat het momentum krijgt, hebben onderzoekers een manier nodig om de specifieke accounts te identificeren die de meeste schade kunnen aanrichten, niet door hun intenties te raden, maar door te kijken naar hoe ze daadwerkelijk handelen.
Een team van onderzoekers zette zich scharpe om dit probleem op te lossen door te kijken naar de digitale voetafdrukken die gebruikers achterlaten die content met een lage geloofwaardigheid verspreiden. Ze richtten zich op drie verschillende patronen van gedrag, of "archetypen", die deze gebruikers de neiging hebben te volgen. De eerste groep, die zij "amplifiers" (versterkers) noemen, creëert zelden eigen berichten. In plaats daarvan fungeren zij als een megafoon, waarbij ze constant content die door anderen is gemaakt delen om de reikwijdte ervan te vergroten. De tweede groep, bekend als "super-spreaders" (superverspreiders), zijn de oorspronkelijke makers van virale content. Zij schrijven berichten die consequent duizenden keren worden gedeeld en fungeren als de vonk die een vuur ontsteekt. De derde groep bestaat uit gecoördineerde accounts, wat groepen gebruikers zijn die synchroon samenwerken om dezelfde boodschap op hetzelfde moment te pushen, waardoor een illusie van brede publieke instemming wordt gecreëerd. De onderzoekers realiseerden zich dat deze rollen niet altijd gescheiden zijn; een enkele gebruiker kan een super-spreader zijn voor het ene verhaal en een amplifier voor een ander, of een groep kan haar acties coördineren om een enkele invloedrijke stem na te bootsen.
Om te testen hoe goed zij konden voorspellen wie de volgende keer misinformatie zou verspreiden, analyseerden de onderzoekers twee enorme collecties gegevens van Twitter tijdens de pandemie. Eén dataset bevatte gesprekken uit Italië, terwijl de andere een wereldwijde collectie van berichten in vele talen was. Ze labelden de content eerst op basis van de betrouwbaarheid van de websites die in de berichten werden gelinkt, met behulp van een systeem dat domeinen voor nieuws een score geeft van nul tot honderd. Vervolgens bouwden ze verschillende wiskundige modellen om gebruikers te rangschikken op basis van de drie gedragsarchetypen. Sommige modellen telden hoe vaak een gebruiker valse verhalen deelde, terwijl andere keken naar hoe vroeg een gebruiker een verhaal deelde nadat het was geplaatst, of hoe nauw de activiteit van een gebruiker overeenkwam met die van anderen in een gecoördineerde groep. Ze creëerden ook een nieuwe, tijdsgevoelige versie van een klassieke invloedsscore die rekening houdt met hoe de activiteit van een gebruiker over dagen en weken verandert, in plaats van alleen naar een enkel momentopname te kijken.
De resultaten toonden aan dat de meest effectieve manier om de grootste probleemoplichters te vinden, was door te zoeken naar de super-spreaders. Wanneer de onderzoekers gebruikers rangschikten op basis van hun vermogen om originele content te genereren die anderen zouden delen, verschenen deze accounts consequent bovenaan de lijst. Dit zijn de individuen die verantwoordelijk zijn voor de initiële uitbarsting van viraliteit waardoor valse narratieven voet aan de grond krijgen. Echter, naarmate de onderzoekers verder naar beneden keken in de lijst van invloedrijke gebruikers, werd het beeld complexer. In de middelste en lagere rangen werd het gedrag van amplifiers en gecoördineerde groepen veel prominenter. Dit suggereert dat terwijl een paar super-spreaders het vuur starten, het de amplifiers zijn die het vuur brandend houden en de gecoördineerde groepen die de vlammen door het netwerk aanwakkeren.
Om een duidelijker beeld te krijgen van hoe deze verschillende gedragingen samenwerken, trainden het team een machine learning-model dat alle drie de archetypen combineert in één enkel systeem. Ze gebruikten vervolgens een techniek die uitlegt hoe het model zijn beslissingen neemt, waardoor ze konden zien welke gedragen het belangrijkst waren. Ze ontdekten dat het model zwaar leunde op het aantal keren dat een gebruiker content met een lage geloofwaardigheid deelde, een kenmerk dat geassocieerd wordt met de amplifiers. Dit was verrassend, omdat men zou verwachten dat de makers van virale content de belangrijkste indicator zouden zijn. In plaats daarvan toonden de gegevens aan dat de handeling van het delen (resharing) een krachtige indicator van risico is. Het model bevestigde ook dat de super-spreaders, geïdentificeerd door hun vermogen om consistente betrokkenheid te genereren, cruciaal waren, vooral onder de hoogst gerangschikte gebruikers. Naarmate de rangschikking naar beneden bewoog, nam de invloed van gecoördineerd gedrag en de frequentie van het delen toe, wat een gelaagd ecosysteem onthulde waarin verschillende soorten actoren verschillende rollen spelen in hetzelfde probleem.
De studie testte ook hoe goed deze methoden werken wanneer er zeer weinig gegevens beschikbaar zijn, waarbij een scenario werd gesimuleerd waarin een platform snel een beslissing moet nemen nadat een nieuw verhaal is verschenen. Ze ontdekten dat de tijdsgevoelige invloedsscore stabiel en accuraat bleef, zelfs met beperkte informatie, en daarmee ouderwettere methoden overtrof die geen rekening hielden met de timing van gebruikersactiviteit. Het machine learning-model had echter moeite wanneer het getraind werd op zeer kleine hoeveelheden gegevens, wat suggereert dat hoewel complexe modellen krachtig zijn, ze genoeg geschiedenis nodig hebben om patronen te leren. De onderzoekers concludeerden dat de beste aanpak voor platforms waarschijnlijk een combinatie van deze instrumenten is: het gebruik van eenvoudige, tijdsbewuste scores om de meest gevaarlijke accounts snel te identificeren, en het gebruik van meer gedetailleerde modellen om het volledige spectrum van gedragingen te begrijpen die de verspreiding van misinformatie in stand houden. Door zich te richten op deze observeerbare patronen in plaats van te proberen de intentie van een gebruiker te raden, kunnen platforms eerder ingrijpen door de specifieke accounts te targeten die de meeste schade aanrichten, voordat valse informatie onmogelijk te beheersen is.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.