How fake news can turn against its spreader

Titel: Hoe nepnieuws zich tegen de verspreider kan keren

Auteurs: Dorje C. Brody & Tomooki Yuasa
Datum: 28 april 2025

1. Probleemstelling

De verspreiding van desinformatie ("fake news") vormt een ernstige bedreiging voor democratische processen en de publieke opinie. Hoewel er veel onderzoek is gedaan naar de detectie en verspreiding van nepnieuws, is er minder inzicht in hoe een rationele ontvanger van informatie reageert wanneer meerdere informatiebronnen worden gecombineerd, waarvan sommige desinformatie bevatten.

Het centrale probleem dat deze studie adresseert, is het modelleren van hoe een ontvanger, die niet bewust is van de aanwezigheid van desinformatie, zijn of haar perceptie bijwerkt op basis van een stroom van informatie. De auteurs onderzoeken specifiek of er onder bepaalde voorwaarden een situatie kan ontstaan waarin de beoogde impact van desinformatie (het misleiden van de ontvanger) het tegenovergestelde effect sorteert: de desinformatie werkt dan averechts en bevestigt juist het tegenovergestelde van wat de verspreider wilde bereiken.

2. Methodologie

De auteurs hanteren een wiskundig raamwerk gebaseerd op de communicatietheorie en Bayesiaanse inferentie.

• Signal-Noise Decompositie: Informatie wordt gemodelleerd als een som van een signaal ($X$) en ruis ($\epsilon$). Een informatieve variabele $\xi$ wordt gegeven door:
  $$\xi = \sigma X + \epsilon$$
  Waarbij $\sigma$ de signaal-ruisverhouding (SNR) is en $\epsilon$ een normaal verdeelde ruisvariabele met gemiddelde 0.
• Modellering van Desinformatie: Desinformatie wordt gemodelleerd als een bias ($f$) in de ruis. De ontvangen boodschap wordt dan:
  $$\xi = \sigma X + (\epsilon + f)$$
  De ontvanger is zich niet bewust van $f$ en behandelt de boodschap alsof deze zuiver is. Dit leidt tot een verschuiving in de geschatte waarde van $X$ met $f/\sigma$.
• Bayesiaanse Update: De perceptie van de ontvanger (de posterior-kansen $\pi_k$) wordt bijgewerkt volgens de Bayes-formule, gebaseerd op de waargenomen waarde van $\xi$.
• Combinatie van Bronnen: Het model wordt uitgebreid naar twee (of meer) informatiebronnen ($\xi_1$ en $\xi_2$) met verschillende SNR's ($\sigma_1, \sigma_2$) en een correlatie ($\rho$) tussen hun ruiscomponenten. De auteurs leiden af hoe deze bronnen kunnen worden gereduceerd tot één effectieve informatieve variabele.
• Continue Tijd: Het model wordt gegeneraliseerd naar een tijdreeks (Brownse beweging) om de continue instroom van informatie te simuleren, relevant voor verkiezingscampagnes.

3. Belangrijkste Bijdragen

Het artikel introduceert twee nieuwe mechanismen waarbij desinformatie onbedoelde negatieve gevolgen heeft voor de verspreider:

1. Het Omkeer-effect (Reversal Effect) bij Broncombinatie:
   Wanneer een ontvanger informatie consumeert uit twee bronnen, waarvan één desinformatie bevat, kan de interactie tussen de signaalsterktes en de ruiscorrelatie leiden tot een omkering van het effect.

   • Als de ruis in beide bronnen positief gecorreleerd is ($\rho > 0$) en de signaalsterkte van de betrouwbare bron ($\sigma_1$) voldoende groot is ten opzichte van de bron met desinformatie ($\sigma_2$), specifiek als $\sigma_2 < \rho \sigma_1$, dan keert het effect van de desinformatie om.
   • De logica is als volgt: Als de bron met desinformatie ($\xi_2$) een extreem hoge waarde aangeeft (door de bias $f$), maar de sterke, betrouwbare bron ($\xi_1$) niet, dan concludeert de rationele ontvanger dat de ruis in $\xi_2$ extreem hoog moet zijn. Omdat de ruis in beide bronnen positief gecorreleerd is, zou de ruis in $\xi_1$ ook hoog moeten zijn. Omdat $\xi_1$ echter niet extreem is, moet het onderliggende signaal $X$ juist laag zijn. De ontvanger komt dus tot de conclusie die het tegenovergestelde is van wat de verspreider wilde.

2. Het Overshoot-effect (Overdrijf-effect):
   Dit fenomeen treedt op bij kandidaten of standpunten die zich in het midden van een spectrum bevinden (niet de uitersten).

   • Als een partij in het midden (bijv. $x_{n-1}$) te veel desinformatie verspreidt om de kiezers naar rechts te duwen, kan dit leiden tot een "overshoot".
   • Door de Bayesiaanse dynamiek en de beperkte waarschijnlijkheid van middelpunten ten opzichte van de uitersten, kunnen kiezers zo ver naar rechts worden geduwd dat ze de oorspronkelijke kandidaat ($x_{n-1}$) overslaan en kiezen voor de uiterste rechterkandidaat ($x_n$).

4. Resultaten

• Wiskundige Afleiding: De auteurs tonen aan dat de gecombineerde boodschap van twee bronnen kan worden geschreven als een enkele boodschap met een nieuwe effectieve SNR en een nieuwe bias. De bias van de gecombineerde boodschap hangt af van de correlatie $\rho$.
• Conditionele Omkering: Het is bewezen dat als $\sigma_2 < \rho \sigma_1$ (waarbij $\xi_2$ de bron met desinformatie is), de bias $f_2$ een negatieve bijdrage levert aan de geschatte waarde van $X$, in plaats van een positieve. Dit betekent dat hoe sterker de desinformatie, hoe groter de kans dat de kiezer het tegenovergestelde standpunt aanneemt.
• Strategische Implicatie: Om desinformatie te bestrijden, is het effectiever om de signaalsterkte ($\sigma_1$) van de betrouwbare informatiebron te vergroten (dus heldere, sterke feiten publiceren) dan om energie te steken in het ontkennen van de nepnieuws.
• Tijdreeks-analyse: In continue tijd wordt aangetoond dat deze effecten dynamisch zijn en dat een plotselinge injectie van desinformatie op tijdstip $\tau$ kan leiden tot een omkering van de postieure kansen, zoals geïllustreerd in de simulaties (Figuur 2).
• Overshoot: Simulaties tonen aan dat bij een te hoge bias, de waarschijnlijkheidsverdeling voor een middenkandidaat daalt terwijl die voor de uiterste kandidaat stijgt.

5. Betekenis en Conclusie

De studie biedt een fundamenteel nieuw perspectief op de strijd tegen desinformatie binnen het domein van de communicatietheorie en de informatiële geometrie.

• Nieuwe Strategie: De paper suggereert dat "fact-checking" (het achteraf ontkrachten van feiten) minder effectief kan zijn dan het actief vergroten van de signaalsterkte van betrouwbare bronnen. Als de voorwaarden voor het omkeer-effect worden vervuld, werkt de verspreider van nepnieuws zichzelf tegen.
• Statistische Kennis: De auteurs benadrukken dat zelfs zonder de specifieke waarde van de desinformatie te kennen, de kennis van de statistische verdeling ervan (de bias) voldoende kan zijn om de impact te neutraliseren.
• Beperkingen: De effectiviteit van deze strategie hangt af van de correlatie tussen de ruis in de verschillende bronnen (bijv. media en internet), wat in de praktijk moeilijk te controleren is. Bovendien werkt dit alleen voor ontvangers die alle bronnen consumeren; mensen in een "desinformatie-bubbel" die alleen de valse bron zien, worden niet beïnvloed door dit mechanisme.

Samenvattend biedt dit artikel een wiskundig onderbouwd argument dat in bepaalde scenario's de verspreiding van nepnieuws een "terugslag" (backfire) kan veroorzaken, wat een hoopgevende, maar conditionele, strategie biedt voor de verdediging van democratische processen.