🔬 physics

How fake news can turn against its spreader

该论文指出，当真实信息的信噪比足够高且两类信息的噪声项呈正相关时，虚假信息对不知情的接收者反而会产生与其原本意图相反的效果，从而成为一种有效的反制手段。

原作者： Dorje C. Brody, Tomooki Yuasa

发布于 2026-03-17

📖 1 分钟阅读☕ 轻松阅读

原作者： Dorje C. Brody, Tomooki Yuasa

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文探讨了一个非常有趣且反直觉的现象：有时候，散布假新闻的人，最终会“搬起石头砸自己的脚”，让假新闻的效果适得其反。

作者用数学和通信理论（就像我们手机接收信号的原理）来解释这个现象。为了让你更容易理解，我们可以把“获取信息”想象成在嘈杂的房间里听人说话。

以下是这篇论文的核心内容，用简单的语言和生动的比喻来解释：

1. 核心概念：信号与噪音

想象你在听两个人谈论同一个话题（比如“谁该当总统”）。

信号（Signal）： 就是真正的事实或真相。
噪音（Noise）： 就是干扰，比如背景里的嘈杂声、听错的词、或者谣言。
假新闻（Disinformation）： 作者认为，假新闻本质上是一种带有偏见的噪音。散布者故意在噪音里加了一点“私货”（比如故意把声音调大或调小，或者加一点奇怪的杂音），试图误导听众，让他们觉得某个选项比实际情况更可信。

2. 第一个现象：假新闻的“回旋镖”效应

这是论文最精彩的部分。

场景设定：
假设有一个理性的听众，他同时听两个消息来源：

来源 A（真消息）： 信号很强，很清晰，但偶尔也有点杂音。
来源 B（假消息）： 散布者故意在这里加了假新闻（比如故意夸大某个候选人的优点），试图让听众觉得这个候选人更好。

通常的直觉：
我们会觉得，只要假消息够多、够响，就能把听众骗过去。

论文发现的“反直觉”真相：
如果满足两个条件，假新闻反而会起反作用：

真消息（来源 A）非常清晰、有力（信噪比很高）。
两个消息来源的“杂音”是有关联的（比如它们都来自同一个媒体环境，或者听众觉得这两个来源的“背景噪音”是相似的）。

用“听诊器”来比喻：
想象你在听两个医生（来源 A 和来源 B）给同一个病人（真相）诊断。

医生 A 医术高超，听诊很准（信号强）。
医生 B 是个骗子，故意在听诊器里加了点杂音，想让你觉得病人病得很重（假新闻）。
关键点： 如果医生 A 的声音非常清晰，而医生 B 的声音虽然加了杂音，但听众发现这两个医生的“背景噪音”其实是同一种（比如都在同一个嘈杂的诊室里）。

当听众把两个医生的话综合起来听时，大脑会进行逻辑推理：

“等等，医生 A 的声音很清晰，没听到什么大动静。但是医生 B 却报告说‘病得很重’。既然两个医生的背景噪音是连通的，如果医生 B 听到了那么大的动静，那医生 A 应该也能听到才对。但医生 A 没听到，这说明医生 B 听到的那个‘大动静’其实是医生 B 自己制造的假象（噪音）。”

结果：
听众不仅没被医生 B 骗到，反而因为这种逻辑矛盾，更加确信医生 B 在撒谎，甚至开始怀疑医生 B 想让他相信的那个“重病”其实是相反的——病人其实很健康。

结论：
如果你散布的假新闻太明显，而真实的新闻又太强、太清晰，且两者处于同一个“信息环境”中，你的假新闻反而会强化听众对真相的相反认知。这就是“回旋镖”效应。

3. 第二个现象：用力过猛的“过冲”效应

这是另一个让散布者倒霉的情况。

场景设定：
想象政治光谱是一条线，左边是极左，右边是极右，中间是温和派。

有一个温和派政党（比如站在中间偏右一点的位置），他们想让大家更支持“右”的立场。
于是，他们开始疯狂散布假新闻，试图把大家的观点往“极右”推。

用“推秋千”来比喻：
想象你在推一个秋千（听众的观点）。

你想让秋千停在“中间偏右”的位置。
你用力推了一下，秋千荡过去了。
但你太心急了，推得太猛、太用力（过度散布假新闻）。
结果，秋千不仅越过了你想让它停的“中间偏右”位置，直接荡到了最右边的“极右”端，甚至可能荡到了更远的地方。

结果：
原本想拉拢温和派选民，结果因为假新闻太夸张、太密集，反而把温和派选民吓跑了，或者让他们觉得“这太疯狂了”，从而直接投向了更极端的对手（比如那个本来就站在极右位置的激进政党）。

现实案例：
论文提到了英国保守党。他们为了强调移民问题，使用了非常极端的口号（如“停船”）。结果，这种过度的宣传并没有让选民停留在保守党的温和右翼立场，反而让选民觉得“太过了”，转而去支持了立场更激进的“改革英国党”。

总结：这对我们意味着什么？

对于散布假新闻的人：
- 如果你面对的是一个信息透明、真相清晰的环境，且大家能感觉到不同消息源之间的关联，那么撒谎可能会适得其反。你撒的谎越离谱，大家反而越不信，甚至产生相反的看法。
- 不要用力过猛。过度的假新闻会把中间派推向更极端的对立面，而不是把你想要的立场。
对于我们要对抗假新闻的人：
- 最好的反击不是“辟谣”，而是“加强真消息”。
- 论文建议：与其花精力去一个个解释假新闻是假的（这往往效果有限），不如发布更清晰、更强大、更可信的真实信息。只要真实信息的信号足够强，假新闻在逻辑上就会自己“崩塌”并产生反效果。
- 这就好比：与其费力去擦掉黑板上的乱画，不如把黑板擦得更亮，让乱画显得格格不入。

一句话概括：
在这个信息爆炸的时代，真相如果足够强大和清晰，假新闻不仅骗不了人，反而会成为证明假新闻是假的“证据”，甚至把散布者推向他们最不想看到的对立面。

以下是基于 Dorje C. Brody 和 Tomooki Yuasa 的论文《How fake news can turn against its spreader》（假新闻如何反噬其传播者）的详细技术总结：

1. 研究问题 (Problem)

随着虚假信息（Disinformation/Fake News）对全球民主进程和政治格局的影响日益加剧，现有的研究多集中于检测或事后分析。本文旨在从**信息论（Communication Theory）**的角度出发，构建一个生成性模型，以量化分析虚假信息如何影响理性接收者的认知。
核心问题在于：当接收者同时接触多个信息源（其中包含虚假信息）时，这些信息的交互作用会产生何种后果？特别是，是否存在某种机制，使得虚假信息的传播不仅无法误导接收者，反而产生与传播者意图完全相反的效果（即“反噬”）？

2. 方法论 (Methodology)

论文基于**信号加噪声（Signal-plus-Noise）**的通信理论框架，利用贝叶斯推断（Bayesian Inference）和随机过程理论进行建模。

基础模型：
- 设 $X$ 为待识别的信号（如候选人的政治立场，取值为 $\{x_1, ..., x_n\}$ ）。
- 设 $\epsilon$ 为噪声（均值为 0 的高斯分布）。
- 信息变量 $\xi$ 定义为： $\xi = \sigma X + \epsilon$ ，其中 $\sigma$ 为信噪比（SNR）。
- 接收者根据贝叶斯公式更新对 $X$ 的后验概率分布 $\pi_k(\xi)$ 。
虚假信息的建模：
- 虚假信息被建模为噪声中的**偏差（Bias）**项 $f$ 。
- 实际接收到的信息为 $\xi = \sigma X + (\epsilon + f)$ 。
- 接收者 unaware（不知情） $f$ 的存在，因此会错误地将偏差 $f$ 归因于信号 $X$ 的变化，导致推断偏移： $X \to X + f/\sigma$ 。
多信息源融合：
- 考虑两个信息源 $\xi_1 = \sigma_1 X + \epsilon_1$ 和 $\xi_2 = \sigma_2 X + \epsilon_2$ 。
- 假设噪声项 $\epsilon_1$ 和 $\epsilon_2$ 之间存在正相关系数 $\rho$ 。
- 通过线性变换将两个信息源合并为一个等效的单一信息源 $\xi_{total}$ ，并推导合并后的有效信噪比及偏差项。
连续时间扩展：
- 将离散模型扩展为连续时间布朗运动模型（Time Series），其中信息流随时间累积，利用 Wonham 滤波器（Wonham filter）处理动态贝叶斯更新。

3. 关键贡献 (Key Contributions)

本文提出了两个关于虚假信息传播的非预期后果（Unintended Consequences）：

虚假信息反转效应（Reversal Effect）：
- 当接收者同时接触真实信息源和虚假信息源时，如果真实信息源的信噪比足够高，且两个信息源的噪声呈正相关，虚假信息的偏差项在数学上可能产生负系数。
- 这意味着，传播者试图通过虚假信息将接收者的观点推向极端（例如向右），结果反而将其推向相反方向（向左）。
过度传播的“过冲效应”（Overshoot Effect）：
- 即使没有多源融合，仅针对单一信息源，过度的虚假信息传播也可能导致接收者的认知越过目标中间立场，直接滑向更极端的立场。
- 例如，中间派试图通过夸大事实影响选民，结果导致选民直接选择最极端的选项，从而“跳过”了中间派。

4. 主要结果 (Results)

A. 信息融合与反转机制

对于两个信息源 $\xi_1$ （真实，信噪比 $\sigma_1$ ）和 $\xi_2$ （含虚假偏差 $f_2$ ，信噪比 $\sigma_2$ ），噪声相关系数为 $\rho$ 。
合并后的等效信号偏差为：
$\text{Shift} \propto \frac{\sigma_2 - \rho \sigma_1}{\sigma^2(1-\rho^2)} f_2$

关键条件：当 $\rho > 0$ （噪声正相关，即谣言、猜测等具有共性）且 $\sigma_2 < \rho \sigma_1$ （真实信息源的强度显著大于虚假信息源，且满足特定比例）时，上述系数变为负值。
结果：如果传播者试图通过 $f_2 > 0$ 让接收者认为 $X$ 更大（更右倾），在满足上述条件时，接收者的推断反而会认为 $X$ 更小（更左倾）。
直观解释：由于 $\xi_1$ 信号强且噪声与 $\xi_2$ 正相关，当 $\xi_2$ 出现异常大值（由 $f_2$ 引起）而 $\xi_1$ 没有相应大值时，理性的接收者会推断 $\xi_2$ 的噪声项 $\epsilon_2$ 异常大。由于 $\epsilon_1$ 与 $\epsilon_2$ 正相关，接收者会认为 $\epsilon_1$ 也应该很大，但 $\xi_1$ 实际值不大，因此推断信号 $X$ 必须很小才能抵消巨大的噪声。这导致了与传播者意图相反的结论。

B. 过冲效应 (Overshoot)

在政治光谱模型中，中间立场（ $x_k, 1<k<n$ ）的后验概率峰值是有界的（ $<1$ ），而极端立场（ $x_1, x_n$ ）的后验概率在特定信号下可趋近于 1。
如果中间派散布大量虚假信息试图向右移动选民，当信号 $\xi$ 过大时，中间立场的概率 $\pi_{k}(\xi)$ 开始下降，而最右端立场 $\pi_n(\xi)$ 的概率上升。
结果：过度的虚假信息反而帮助了更极端的政党，导致中间派被“绕过”。

C. 连续时间模型验证

在连续时间布朗运动框架下，上述结论依然成立。如果存在多个信息源，只要噪声相关矩阵的逆矩阵与信噪比向量的组合导致特定信息源的权重为负，该源的虚假信息就会反噬。

5. 意义与启示 (Significance)

对抗虚假信息的策略：
- 传统的“辟谣”（Fact-checking）往往是事后的，且效果有限。
- 本文提出了一种主动防御策略：与其花费精力去否认每一条假新闻，不如释放高质量、高信噪比（High SNR）的真实信息。只要真实信息的强度足够大，且与谣言环境（噪声）存在正相关，假新闻就会自动产生反作用力，帮助澄清事实。
理论价值：
- 将通信理论中的信号处理概念（信噪比、噪声相关性）引入社会科学，为理解信息战提供了严格的数学基础。
- 揭示了“信息融合”（Information Fusion）在认知层面的非线性特征。
现实警示：
- 对于政治传播者而言，过度使用极端化的虚假信息可能导致“过冲”，不仅无法巩固中间选民，反而会将他们推向更极端的对手。
- 对于民主社会，理解噪声的相关性结构对于设计抗干扰的信息生态系统至关重要。

总结：该论文通过严谨的数学推导证明，在特定的信噪比和噪声相关性条件下，虚假信息不仅无法误导理性接收者，反而会因其自身的逻辑悖论（在融合信息时）产生反向效果，从而为应对虚假信息提供了一种基于信息论的“以正压邪”的新思路。