🔬 physics

How fake news can turn against its spreader

Die Studie zeigt, dass Desinformation unter bestimmten Bedingungen, wie einer hohen Signal-Rausch-Verhältnis der echten Quelle und positiv korrelierten Störgrößen, bei rationalen Empfängern, die beide Quellen kombinieren, den gegenteiligen Effekt ihrer Absicht erzielen kann.

Ursprüngliche Autoren: Dorje C. Brody, Tomooki Yuasa

Veröffentlicht 2026-03-17

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Dorje C. Brody, Tomooki Yuasa

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Fake News kann sich gegen ihren eigenen Urheber wenden: Eine einfache Erklärung

Stellen Sie sich vor, Sie versuchen, ein Bild zu zeichnen, aber jemand wirft ständig Sand in Ihre Augen oder hält Ihnen eine trübe Brille vor. Das ist im Grunde das Problem mit „Fake News" (falschen Nachrichten). Normalerweise denken wir, dass Fake News die Menschen verwirren und in die falsche Richtung lenken.

Aber diese neue Studie von Dorje C. Brody und Tomooki Yuasa zeigt etwas Überraschendes: Manchmal führt Fake News genau zum gegenteiligen Ergebnis, als der Lügner es geplant hat. Es ist, als würde ein Schachspieler versuchen, den König zu schlagen, aber durch einen dummen Zug den eigenen König ins Schachmatt bringen.

Hier ist die Erklärung in einfachen Worten, mit ein paar anschaulichen Vergleichen:

1. Wie wir Informationen verarbeiten (Das Radio-Beispiel)

Stellen Sie sich vor, Sie hören Nachrichten über ein wichtiges Thema (z. B. eine Wahl).

Das Signal: Das ist die wahre Information (z. B. „Kandidat A ist gut").
Das Rauschen: Das sind die Störungen, Gerüchte und Missverständnisse, die immer dabei sind.

Wenn Sie eine Nachricht hören, versuchen Sie, das wahre Signal vom Rauschen zu trennen. Wenn die Nachricht sehr klar ist (wenig Rauschen), hören Sie gut zu. Wenn sie voller Lärm ist, sind Sie unsicher.

2. Der Trick: Wenn zwei Quellen aufeinandertreffen

Die Forscher untersuchen, was passiert, wenn Sie zwei Nachrichtenquellen gleichzeitig hören:

Quelle A: Eine ehrliche, aber etwas verrauschte Quelle (z. B. eine seriöse Zeitung).
Quelle B: Eine Quelle, die absichtlich lügt (Fake News).

Normalerweise denken wir: „Wenn Quelle B lügt, wird sie die Leute täuschen." Aber die Mathematik zeigt ein seltsames Phänomen, wenn zwei Bedingungen erfüllt sind:

Die ehrliche Quelle (A) ist sehr stark und klar (sie hat ein hohes „Signal-zu-Rausch-Verhältnis").
Die Fehler in beiden Quellen hängen irgendwie zusammen (sie sind „korreliert"). Das bedeutet, wenn in Quelle A etwas schiefgeht, passiert in Quelle B oft etwas Ähnliches.

Das passiert dann:
Wenn die Fake-News-Quelle (B) versucht, die Leute zu täuschen, indem sie die Wahrheit verdreht, passiert folgendes:
Da die ehrliche Quelle (A) so stark ist, „vertraut" das Gehirn der Zuhörer ihr mehr. Wenn die Fake-News-Quelle nun eine extreme Lüge erzählt, die nicht mit dem starken Signal der ehrlichen Quelle übereinstimmt, denkt das Gehirn der Zuhörer: „Aha! Wenn die ehrliche Quelle so klar sagt, dass X wahr ist, und diese andere Quelle so extrem behauptet, dass das Gegenteil wahr ist... dann muss diese andere Quelle wohl extrem verrückt sein!"

Die Folge: Die Lüge wirkt wie ein Spiegel. Je mehr die Fake-News-Quelle schreit, desto mehr wenden sich die Leute, die beide Quellen hören, von ihr ab. Die Lüge dreht sich gegen den Lügner.

Die Analogie: Stellen Sie sich vor, Sie stehen neben einem sehr klaren, ruhigen Lehrer (Quelle A). Ein lauter, hysterischer Schüler (Quelle B) schreit: „Der Lehrer ist ein Außerirdischer!" Da der Lehrer so ruhig und klar ist, denken die anderen Schüler nicht: „Wow, der Lehrer ist ein Außerirdischer!", sondern: „Der Schüler ist völlig durchgedreht." Die Lüge hat den Schüler nicht zum Helden gemacht, sondern zum Lächerlichen.

3. Der „Überschieß-Effekt" (Zu viel des Guten)

Es gibt noch einen zweiten Weg, wie Fake News nach hinten losgehen kann. Das nennen die Autoren den „Overshoot"-Effekt.

Stellen Sie sich eine politische Skala vor: Ganz links (extrem links), in der Mitte (gemütlich) und ganz rechts (extrem rechts).

Eine Partei in der Mitte möchte, dass die Leute etwas mehr nach rechts rücken.
Sie fängt an, extrem aggressive Fake News zu verbreiten, um die Leute zu erschrecken und nach rechts zu treiben.

Das Problem: Wenn sie es zu sehr übertreiben, springen die Leute nicht nur ein Stück nach rechts, sondern sie springen über die Partei hinweg direkt zum extremsten Kandidaten ganz rechts.

Die Analogie: Stellen Sie sich vor, Sie wollen jemanden dazu bringen, ein bisschen schneller zu laufen. Sie schreien: „Lauf! Lauf! Lauf!" Wenn Sie aber so laut schreien, dass der andere vor Angst panisch wird, rennt er nicht nur schneller, sondern sprintet davon und verlässt das Stadion komplett. Die Partei, die eigentlich nur eine kleine Verschiebung wollte, hat ihre eigenen Wähler an die Extremisten verloren.

Was bedeutet das für uns?

Die Studie gibt uns eine wichtige Hoffnung und eine Strategie:

Man muss nicht immer widerlegen: Oft versuchen wir, jede einzelne Fake News zu widerlegen (Fact-Checking). Das ist mühsam und wirkt oft zu spät.
Stärke ist besser als Widerlegung: Die beste Waffe gegen Fake News ist nicht, die Lüge zu entlarven, sondern sehr klare, starke und wahre Informationen zu verbreiten. Wenn die Wahrheit so laut und klar ist wie ein Glockenschlag, dann wirken die leisen, verzerrten Lügen der Fake-News-Verbreiter automatisch absurd – und kehren sich gegen sie.

Fazit: Fake News ist nicht immer ein unbesiegbares Monster. Wenn wir starke, ehrliche Quellen haben, kann die Lüge sich selbst in die eigene Falle locken. Wie ein Bumerang, der den Werfer selbst trifft.

Titel: Wie Falschmeldungen gegen ihren Verbreiter wirken können

Autoren: Dorje C. Brody und Tomooki Yuasa

1. Problemstellung

Die Arbeit adressiert das wachsende Problem der Desinformation („Fake News") in demokratischen Prozessen, insbesondere im Kontext von Wahlen. Während die Auswirkungen von Falschmeldungen intensiv diskutiert werden, fehlt es oft an generativen Modellen, die quantitativ beschreiben, wie rationale Empfänger auf die Kombination verschiedener Informationsquellen reagieren, von denen eine oder mehrere manipuliert sind.

Das zentrale Problem ist die Modellierung der Informationsverarbeitung unter der Annahme, dass der Empfänger die Existenz von Desinformation (einem systematischen Bias im Rauschen) nicht kennt. Die Autoren untersuchen, unter welchen Bedingungen die Kombination einer echten Informationsquelle mit einer manipulierten Quelle zu einem unerwarteten, gegenteiligen Effekt führt, der die Absicht des Desinformations-Verbreiters konterkariert.

2. Methodik

Die Autoren verwenden einen Rahmen der Kommunikationstheorie und der stochastischen Analysis, um Informationsflüsse zu modellieren.

Grundmodell (Signal-Rausch-Zerlegung):
Eine Informationsnachricht $\xi$ wird als Summe aus einem Signal $X$ (die wahre Information, z. B. die Position eines Kandidaten) und einem Rauschterm $\epsilon$ modelliert:
$\xi = \sigma X + \epsilon$
Hierbei ist $\sigma$ das Signal-zu-Rausch-Verhältnis (SNR). Der Empfänger aktualisiert seine Prior-Wahrscheinlichkeiten $p_k$ über die Alternativen $x_k$ mittels der Bayes-Formel basierend auf der Beobachtung von $\xi$ .
Modellierung von Desinformation:
Desinformation wird als ein Rausch-Bias $f$ modelliert, der dem Signal hinzugefügt wird, aber dem Empfänger unbekannt bleibt:
$\xi = \sigma X + (\epsilon + f)$
Da der Empfänger $f$ nicht kennt, interpretiert er den verzerrten Wert fälschlicherweise als reines Signal, was zu einer Verschiebung der wahrgenommenen Signalposition um $f/\sigma$ führt.
Kombination von Informationsquellen:
Der Kern der Methodik liegt in der Analyse zweier (oder mehrerer) Informationsquellen $\xi_1$ und $\xi_2$ mit unterschiedlichen SNRs ( $\sigma_1, \sigma_2$ ) und korreliertem Rauschen (Korrelation $\rho$ ).
Die Autoren zeigen mathematisch, dass zwei solche Quellen äquivalent zu einer einzigen effektiven Informationsquelle $\xi$ kombiniert werden können. Durch lineare Transformationen und die Ausnutzung der Unabhängigkeit bestimmter Rauschkomponenten wird eine effektive Verschiebung des Signals berechnet.
Zeitkontinuierliche Erweiterung:
Das Modell wird auf Zeitreihen erweitert, wobei das Rauschen als Brownsche Bewegung modelliert wird. Dies erlaubt die Analyse von kontinuierlichen Informationsflüssen (z. B. während eines Wahlkampfs).

3. Wichtige Beiträge und Ergebnisse

Das Paper identifiziert zwei Hauptphänomene, bei denen Desinformation gegen ihren Urheber wirkt:

A. Der Umkehreffekt bei der Kombination von Quellen (Reversal Effect)

Dies ist das zentrale Ergebnis der Arbeit. Wenn zwei Informationsquellen kombiniert werden, kann eine absichtliche Falschmeldung in einer Quelle ( $\xi_2$ mit Bias $f_2$ ) den Empfänger in die entgegengesetzte Richtung lenken, wenn bestimmte Bedingungen erfüllt sind.

Bedingung: Der Effekt kehrt sich um, wenn das Signal-zu-Rausch-Verhältnis der guten Quelle ( $\sigma_1$ ) groß genug ist im Verhältnis zur schlechten Quelle und der Korrelation des Rauschens ( $\rho$ ). Konkret tritt der Umkehreffekt auf, wenn:
$\sigma_2 < \rho \sigma_1$
(wobei $\rho > 0$ angenommen wird).
Mechanismus:
1. Ein Verbreiter versucht, den Empfänger zu täuschen, indem er einen großen positiven Bias $f_2$ in $\xi_2$ einfügt, um eine hohe Bewertung (z. B. Wahl eines rechten Kandidaten) zu erzwingen.
2. Der Empfänger erhält $\xi_1$ (starkes Signal, wenig Rauschen) und $\xi_2$ (schwaches Signal, manipuliert).
3. Da $\xi_1$ sehr stark ist und nicht den erwarteten hohen Wert annimmt (obwohl $\xi_2$ hoch ist), schließt der Empfänger logisch, dass das Rauschen $\epsilon_2$ in $\xi_2$ extrem hoch sein muss, um den hohen Wert zu erklären.
4. Da $\epsilon_1$ und $\epsilon_2$ positiv korreliert sind ( $\rho > 0$ ), würde ein hohes $\epsilon_2$ auch ein hohes $\epsilon_1$ implizieren.
5. Da $\xi_1$ jedoch nicht hoch ist, muss das Signal $X$ selbst sehr niedrig sein, um den hohen Rauschanteil in $\xi_1$ auszugleichen.
6. Ergebnis: Der Empfänger kommt zu dem Schluss, dass $X$ klein ist (z. B. linke Position), obwohl der Manipulator das Gegenteil wollte.

B. Der Overshoot-Effekt (Überschießen)

Dieses Phänomen tritt auf, wenn eine einzelne Quelle übermäßig viel Desinformation verbreitet.

Mechanismus: Bei einer Verteilung von Kandidaten auf einem politischen Spektrum ( $x_1 < x_2 < \dots < x_n$ ) haben extreme Positionen ( $x_1, x_n$ ) eine höhere maximale Posterior-Wahrscheinlichkeit als mittlere Positionen.
Effekt: Wenn ein mittelpositionierter Akteur (z. B. $x_{n-1}$ ) versucht, die Wähler durch massive Desinformation nach rechts zu drücken, kann die Wahrscheinlichkeit für $x_{n-1}$ sinken, sobald der Informationswert $\xi$ einen bestimmten Schwellenwert überschreitet. Die Wähler „springen" dann direkt zur extremsten Position ( $x_n$ ), anstatt bei der intendierten Position zu verweilen.
Beispiel: Die Autoren zitieren die britische Konservative Partei, deren extreme Rhetorik zur Migration dazu führte, dass Wähler zur noch extremeren „Reform UK" Partei abwanderten, anbei bei den Konservativen zu bleiben.

4. Signifikanz und Implikationen

Strategische Gegenmaßnahmen: Die Arbeit liefert einen theoretischen Beweis, dass der effektivste Weg, Desinformation zu bekämpfen, nicht unbedingt das Entlarven von Lügen (Fact-Checking) ist, sondern die Erhöhung der Signalstärke ( $\sigma_1$ ) der verlässlichen Informationsquellen. Wenn eine klare, starke Botschaft vorhanden ist und das Rauschen der Quellen korreliert ist, kann die Desinformation des Gegners automatisch kontraproduktiv wirken.
Rolle der Korrelation: Die positive Korrelation des Rauschens ( $\rho > 0$ ) ist entscheidend. Dies ist in der Realität oft der Fall, da Rauschen (Gerüchte, Missverständnisse) oft durch denselben Kommunikationskanal (Medien, Internet) fließt.
Statistische Daten vs. Einzelfall-Prüfung: Das Paper argumentiert, dass statistische Daten über die Verteilung von Desinformation (die für Fact-Checker verfügbar sind) wertvoller sind als die Überprüfung einzelner Meldungen. Wenn Empfänger die statistische Natur von Desinformation kennen, können sie deren Einfluss mathematisch eliminieren.
Grenzen: Die Strategie funktioniert nur für Empfänger, die alle Informationsquellen konsumieren. Personen in „Desinformations-Blasen", die nur die manipulierte Quelle sehen, bleiben unbeeinflusst. Zudem ist die Bedingung $\sigma_2 < \rho \sigma_1$ nicht immer garantiert.

Fazit

Die Autoren demonstrieren mathematisch, dass das Ökosystem der Informationsverbreitung so strukturiert sein kann, dass Falschmeldungen nicht nur unwirksam, sondern aktiv schädlich für ihre Urheber werden. Dies bietet einen neuen, auf der Informationstheorie basierenden Ansatz zur Verteidigung demokratischer Prozesse, der auf der Stärkung verlässlicher Signale statt auf der reaktiven Bekämpfung von Lügen beruht.