🔬 physics

How fake news can turn against its spreader

真の情報の信頼性が十分に高く、かつ真の情報と偽情報のノイズが正の相関を持つという条件下では、偽情報の拡散者が意図しない逆効果として、受信者が偽情報に対して反対の解釈を生み出すことが示されています。

原著者： Dorje C. Brody, Tomooki Yuasa

公開日 2026-03-17

📖 1 分で読めます☕ さくっと読める

原著者： Dorje C. Brody, Tomooki Yuasa

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

🧠 論文の核心：嘘が「逆効果」になる 2 つの魔法

この研究では、私たちが情報を得る仕組みを「ラジオ」や「料理」に例えて説明しています。

1. 「真実のラジオ」と「ノイズの多いラジオ」の掛け合わせ

まず、私たちが何かを判断する時、2 つの異なる情報源（ラジオ局）から情報を聞いていると想像してください。

局 A（真実）: 音は少し割れているが、内容は正確。
局 B（嘘）: 意図的に「右に行け！」と大音量で叫んでいるが、実はノイズ（雑音）が混じっている。

【ここがポイント！】
もし、この 2 つのラジオが**「同じようなノイズ（雑音）」を含んでいて、かつ「局 A（真実）の音が非常にクリアで強い」**場合、奇妙なことが起きます。

嘘の意図: 局 B は「右（極端な意見）に行け！」と大音量で叫びます。
実際の結果: 受信者（あなた）は、2 つの音を同時に聞きます。「局 B がすごい声で叫んでいるのに、局 A は静かだ」と感じ取ります。
- 「あ、局 B の声が大きいのは、ノイズが異常に大きいからに違いない！」と脳が判断します。
- 「ノイズが大きいなら、その声は信用できない」と判断し、逆に「左（真実）」の方へ心が傾いてしまいます。

🍳 料理の例えで言うと：

本物のスープ（真実）：味は薄いけど、材料は新鮮。
偽物のスープ（嘘）：塩を大量に入れて「これが本物だ！」とアピールしている。
状況: 2 つを混ぜて飲んだ時、もし「本物のスープ」が圧倒的に美味しい（信頼できる）場合、あなたは「偽物のスープが塩辛いのは、塩を入れすぎた失敗作だ」と判断します。
結果: 偽物のスープを作った人は、「もっと塩を入れれば味が変わる」と思いましたが、塩を入れすぎたせいで、逆に「これは不味い（嘘）」と見破られ、本物のスープの味だけが際立ってしまいます。

つまり、**「真実の情報が強ければ強いほど、嘘の情報を入れると、その嘘が逆効果になって、真実の反対側を支持してしまう」**のです。

2. 「過剰な嘘」による「行き過ぎ効果（オーバーシュート）」

もう一つ面白い現象があります。それは**「嘘を言いすぎると、目的の場所を飛び越えてしまう」**という話です。

🎯 的当てゲームの例え：

目標: 的の「真ん中（中道）」に矢を当ててほしい。
嘘つき: 「もっと右！もっと右！」と矢を右に誘導しようとして、嘘を連発します。
結果: 嘘があまりに強すぎると、受け手は「あ、この嘘つきは極端すぎるな」と感じ、「真ん中」どころか、嘘つきの意図を逆手に取って「極右」の方向へ行ってしまいます。

🇬🇧 実際の政治の例え（論文にあるイギリスの例）：

かつてイギリスの与党（保守党）は、「移民の流入は危険だ！」と大げさに宣伝しました（嘘や誇張を含めて）。
意図: 有権者を「右寄りの保守党」に引き寄せたかった。
結果: 宣伝があまりに過激だったため、有権者は「保守党じゃ足りない！もっと極端な『リフォーム UK』という政党に行こう！」と、保守党を飛び越えて、さらに右端の政党へ投票してしまいました。

これは、嘘が「強すぎる」ことで、受け手が「これは極端すぎる」と判断し、意図した場所を「オーバーシュート（行き過ぎ）」して、逆に遠ざかってしまう現象です。

💡 私たちへの教訓

この論文が伝えている最も重要なメッセージは以下の 2 点です。

嘘を否定するより、真実を強く伝える方が効果的
- 嘘つきが嘘を隠そうとしたり、否定するだけで戦っても無駄かもしれません。
- 代わりに、**「真実の情報を、より鮮明で強力に（ノイズの少ない状態で）」**届けることができれば、嘘は自動的に逆効果になり、広めた人を傷つけることになります。
嘘を言いすぎると、自滅する
- 嘘を少し混ぜるくらいならまだしも、**「嘘を嘘だとバレるほど過剰に使う」**と、受け手は「これは極端だ」と判断し、意図とは逆に最も嫌いな方向へ走ってしまいます。

🌟 まとめ

この論文は、**「嘘は、真実がしっかりしていれば、嘘をついた人自身を裏切る武器になる」**と教えてくれています。

真実が強い ＋ 嘘が混ざる ＝ 嘘が逆効果になる
嘘が過剰 ＝ 受け手が極端な方向へ走り出す

つまり、民主主義を守るためには、**「嘘を消し去ろうと必死になる」よりも、「真実をより鮮明に、より強く届けること」**が、実は最も強力な対抗策になるかもしれない、という希望ある結論です。

この論文「How fake news can turn against its spreader（フェイクニュースは拡散者を裏切る）」は、通信理論と確率論の枠組みを用いて、偽情報（disinformation）が意図とは逆の効果を生む可能性を数学的にモデル化・分析したものです。以下に、問題提起、手法、主要な貢献、結果、および意義について詳細な技術的サマリーを記述します。

1. 問題提起 (Problem)

近年、民主主義プロセスへの偽情報の影響が深刻化しています。既存の研究では、偽情報の検出や拡散メカニズムの分析が主でしたが、本論文は以下の問いに焦点を当てています。

複数の情報源（そのうち少なくとも一つに偽情報が含まれる）が受信者に伝達され、統合された場合、偽情報の影響はどのように変化するか？
特定の条件下において、偽情報の拡散者が意図した結果（例えば、特定の候補への支持増）が、逆に逆転し、自らの意図に反する結果（支持減）を招くことはあるか？

2. 手法とモデル (Methodology)

著者らは、通信理論の「信号＋ノイズ」モデルを基礎とし、ベイズ推論を用いて受信者の信念更新を記述する数理モデルを構築しました。

基本モデル:
真の信号 $X$ （例：候補者の政策位置）とノイズ $\epsilon$ を含む情報 $\xi = \sigma X + \epsilon$ を受信します。ここで $\sigma$ は信号対雑音比（SN 比）です。
偽情報は、ノイズに既知ではないバイアス $f$ を加えることでモデル化されます（ $\xi = \sigma X + \epsilon + f$ ）。受信者は $f$ の存在を知らず、ベイズ則に基づいて事後確率を更新します。
情報源の統合（Information Fusion）:
2 つの情報源 $\xi_1 = \sigma_1 X + \epsilon_1$ と $\xi_2 = \sigma_2 X + \epsilon_2$ が存在する場合、それらのノイズ $\epsilon_1, \epsilon_2$ 間に相関 $\rho$ が存在すると仮定します。
線形代数を用いて、2 つの情報源を単一の有効な情報源 $\xi = \sigma X + \epsilon$ に変換（統合）します。この際、偽情報のバイアス $f_1, f_2$ が統合後のシフト量にどのように寄与するかを導出しました。
連続時間モデル:
離散的な情報到達ではなく、ブラウン運動をノイズとして用いた連続時間モデル（ $\xi_t = \int_0^t \sigma_s ds + \epsilon_t$ ）へ拡張し、時間経過に伴う信念の動態を分析しました。
過剰効果（Overshoot Effect）の分析:
極端な偽情報の拡散が、中間的な選択肢ではなく、より極端な選択肢への支持を招く現象を、事後確率分布の形状（極端値と中間値の最大到達確率の違い）から解析しました。

3. 主要な貢献と結果 (Key Contributions & Results)

A. 偽情報の逆転効果（Reversal Effect）

最も重要な発見は、**「偽情報が拡散者を裏切る（backfire）」**という現象の条件付けです。
2 つの情報源を統合した際、偽情報 $f_2$ が含まれる情報源 $\xi_2$ の影響は、以下の条件を満たす場合に逆転します。
$\sigma_2 < \rho \sigma_1$
ここで、 $\sigma_1$ は真実（または信頼性の高い）情報源の SN 比、 $\sigma_2$ は偽情報源の SN 比、 $\rho$ は両者のノイズ間の相関係数です。

メカニズム:
受信者が両方の情報源を信じている場合、 $\xi_2$ に大きな偽情報バイアス（例：右派への誘導）が含まれていても、 $\xi_1$ の信号が強く（ $\sigma_1$ が大きい）、かつノイズが正の相関（ $\rho > 0$ ）を持つ場合、論理的な整合性から受信者は「 $\xi_2$ が異常に大きいのはノイズ $\epsilon_2$ のせいであり、 $\epsilon_1$ も同様に大きかったはずだが、 $\xi_1$ は大きくない。したがって、真の信号 $X$ は小さいはずだ」と推論します。
その結果、偽情報の意図（右派支持）とは逆に、左派（小さな $X$ ）への支持が強まるという逆転現象が発生します。

B. 過剰効果（Overshoot Effect）

偽情報源が特定の中間的な候補（例：中道右派）を支持するために極端な偽情報を流した場合、受信者の信念がその候補を「通り越して」、より極端な候補（例：極右）へシフトする現象です。
これは、極端な選択肢の事後確率が 1 に近づき得るのに対し、中間的な選択肢の事後確率には上限があるという数学的特性に起因します。偽情報が強すぎると、中間候補の確率が減少し、極端な候補の確率が支配的になります。

C. 連続時間モデルへの拡張

時間系列モデルにおいても、同様の逆転条件（ $\sigma_1 < \rho \sigma_2$ など）が成立することを示しました。これは、選挙期間中など、情報が連続的に流入する状況での戦略的意味合いを持っています。

4. 意義と示唆 (Significance)

対抗戦略の提案:
偽情報の影響を打ち消すために、事実確認（fact-checking）や否定にエネルギーを割くのではなく、**「明確で強力な真実の情報（高い SN 比を持つ情報）を放出する」**ことが、条件（ $\rho > 0$ かつ $\sigma_{true} > \sigma_{fake}/\rho$ ）が満たされれば、より効果的であるという戦略的示唆を与えます。
理論的枠組みの確立:
偽情報の影響を、単なる心理学的なバイアスではなく、通信理論と確率論に基づく「情報処理の論理的帰結」として定式化しました。これにより、偽情報の拡散がシステム的に逆効果になるメカニズムを明確にしました。
民主主義プロセスへの応用:
選挙戦略において、偽情報の濫用が自らの支持基盤を崩壊させるリスクがあることを示唆しています。特に、中道政党が極端な偽情報に反応して過剰に極端な立場へ引きずり込まれるリスク（オーバーシュート）を警告しています。

結論

本論文は、通信理論の枠組みを用いて、偽情報が特定の条件下（真実情報の信頼性が十分高く、かつ情報源間のノイズが正相関している場合）で意図とは逆の効果を生むことを数学的に証明しました。これは、偽情報対策において「否定」よりも「強力な真実の提示」が有効である可能性を示すとともに、偽情報の濫用が拡散者自身にとって致命的な結果を招きうるという重要な洞察を提供しています。