Language Mutations Sustain the Persistences of Conspiracy Theories on Social Media

Technische Samenvatting: Taalmutaties handhaven de persistentie van complottheorieën op sociale media

Probleemstelling
Complottheorieën vertonen een opvallende persistentie op sociale media, waarbij ze vaak opnieuw opduiken ondanks herhaalde weerlegging. Waar eerdere onderzoek zich richtte op individuele psychologische kenmerken of de virale verspreiding van statische inhoud, blijft de rol van taalmutaties—taalkundige veranderingen die optreden tijdens de transmissie—in het handhaven van deze persistentie onderbelicht. De auteurs stellen dat complotclaims, naarmate ze circuleren, semantische en structurele modificaties (mutaties) ondergaan die informatievermoeidheid kunnen verminderen, de aandacht van het publiek kunnen vernieuwen en het mogelijk maken dat de claims zich aanpassen aan nieuwe contexten, waardoor hun levensduur wordt verlengd. De studie streeft ernaar empirisch te kwantificeren in welke mate deze mutaties de persistentie van complotclaims online voorspellen.

Methodologie
De studie maakt gebruik van een driejarig dataset (januari 2020 – november 2022) bestaande uit 446.829 COVID-19-gerelateerde complotberichten verzameld van X (voorheen Twitter). De methodologie omvat een meerstapsproces:

1. Dataverzameling en Validatie: Berichten werden opgehaald via trefwoordmatching afgeleid van 562 fact-check-artikelen, gevolgd door filtering met een fijnafgestelde GPT-4o-mini-classificator ($F_1 = 0,90$) en omgekeerde validatie door menselijke annotators.
2. Claim-matching: Om persistentie op het niveau van de "claim" te analyseren in plaats van op het niveau van individuele berichten, werden semantisch vergelijkbare berichten geclusterd met behulp van zinsinbeddingen (all-mpnet-base-v2) en een op drempelwaarden gebaseerde similariteitsgrafiek (cosinesimilariteitsdrempel = 0,88). Een claim wordt gedefinieerd als een cluster van berichten dat een kernbewering deelt die kan worden aangepakt met één fact-check.
3. Mutatiekwantificering: Mutaties werden gemeten over drie analytische schalen:
   • Semantische Drift: Gemeten als de cumulatieve cosinedistantie tussen vroege berichten (binnen 24 uur na de seed) en de seed-bericht.
   • Psycholinguïstische Eigenschappen: Geanalyseerd met LIWC22. Mutaties werden gedefinieerd als een >50% verandering in de frequentie van specifieke categorieën (bijvoorbeeld voornaamwoorden, gezondheid, cognitieve processen, risico, sociale verwijzingen) tussen opeenvolgende berichten.
   • Actor-Actie-Doel (AAD): Geëxtraheerd met LLM's (GPT-4o-mini) en geclusterd via K-Means. Mutaties werden geïdentificeerd als wijzigingen in de cluster-toewijzingen van actoren, acties of doelen binnen een claim.
4. Overlevingsanalyse: De persistentie van claims werd gemodelleerd met behulp van Kaplan-Meier-schatters en Accelerated Failure Time (AFT) Weibull-modellen. Het "event" werd gedefinieerd als het ontbreken van nieuwe berichten in een claim-cluster gedurende 30 opeenvolgende dagen. De analyse controleerde voor engagement-metrics (likes, retweets) en gebruikerskenmerken.
5. Kwalitatieve Analyse: Een subset van langdurige claims werd handmatig gecodeerd om specifieke mutatiepatronen (vereenvoudiging, assimilatie) in psycholinguïstische en AAD-elementen te identificeren.

Belangrijkste Resultaten
De studie concludeert dat taalmutaties significant geassocieerd zijn met verlengde claim-levensduren:

• Semantische Mutaties: Claims die vroege semantische drift vertonen (binnen de eerste 24 uur) hebben een 27% hogere kans om te persisten in vergelijking met niet-muterende claims ($TR = 1,27, p < 0,005$).
• Psycholinguïstische Mutaties: Claims met mutaties in specifieke categorieën overleven significant langer. Opmerkelijk genoeg verhoogden mutaties in sociale verwijzingswoorden (bijvoorbeeld "wij" versus "zij") de overlevingstijd met 122% ($TR = 2,22$), en verhoogden cognitieve procesmutaties deze met 67% ($TR = 1,67$). De grootte van de fluctuatie in gezondheidsgerelateerde taal was bijzonder voorspellend, waarbij claims met hogere variantie bijna drie keer langer overleefden.
• AAD-Mutaties: Wijzigingen in actor-, actie- of doelcategorieën correleren allemaal met langere levensduren. In multivariate modellen bleken actiemutaties de sterkste onafhankelijke voorspeller, met een levensduurverlenging van 68% ($TR = 1,68$).
• Kwalitatieve Patronen: Twee overheersende mutatiepatronen werden geïdentificeerd:
  • Vereenvoudiging: Gebruikers verminderen cognitieve complexiteit, vaak door middel van etikettering (bijvoorbeeld "hoax"), oproepen tot actie of het verminderen van redeneringswoorden.
  • Assimilatie: Gebruikers vervormen berichten om ze af te stemmen op bestaande houdingen, vaak door bedreigingen te versterken of doelen te verschuiven naar kwetsbare bevolkingsgroepen (bijvoorbeeld kinderen, armen).

Betekenis en Claims
De auteurs betogen dat deze studie het eerste empirische bewijs levert dat de effecten van semantische drift en specifieke taalkundige mutaties op de levensduur van complottheorieën kwantificeert. Door aan te tonen dat zelfs kleine semantische aanpassingen of structurele veranderingen in AAD's een claim in stand kunnen houden, breidt het paper de theorie van informatiemutaties uit naar hedendaagse online communicatiecontexten.

De bevindingen suggereren dat strategieën voor contentmoderatie moeten evolueren van het richten op statische narratieven naar het adresseren van de mutabiliteit van claims. Specifiek stellen de auteurs dat weerleggingsinspanningen zich moeten richten op "atomaire claims" (kern, vereenvoudigde beweringen) in plaats van uitgebreide narratieven, aangezien mutaties vaak vereenvoudigingspatronen volgen. Bovendien kan het begrijpen van assimilatiepatronen gepersonaliseerde weerleggingsstrategieën informeren die rekening houden met de bestaande cognitieve kaders van gebruikers. De studie concludeert dat de persistentie van complottheorieën niet louter een functie is van geloof, maar actief in stand wordt gehouden door de taalkundige aanpasbaarheid van de claims zelf.