📈 economics

Endogenous Attention and the Spread of False News

この論文は、ソーシャルメディアにおける注意の内生性が真偽の判断コストと相互作用し、偽情報の信頼性低下が逆説的にその普及を招く場合や、偽情報の生産増加がユーザーの共有行動によって増幅されるなど、動的な広がりメカニズムと政策インパクトを分析している。

原著者： Tuval Danenberg, Drew Fudenberg

公開日 2026-02-27

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Tuval Danenberg, Drew Fudenberg

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

📰 タイトル：SNS と「注意力」のゲーム

〜嘘のニュースが広まるのは、私たちが「面倒くさい」から？〜

1. 基本設定：SNS は巨大な「お菓子箱」

この研究では、SNS を**「真実（美味しいお菓子）」と「嘘（まずいお菓子）」が混ざった巨大な箱**だと想像してください。
毎日、誰かが箱からお菓子（ニュース）を一つ取り出し、それが「美味しい（真実）」か「まずい（嘘）」かを見極めようとして、友達に配るか（シェアするか）決めます。

真実のお菓子： 美味しいが、少し地味な味。
嘘のお菓子： 見た目はすごく美味しそう（興味深い）だが、実はまずい。

2. 人々の行動ルール：「面倒くさい」が鍵

ここで重要なのが、人々の**「注意力」**です。

お菓子を見極めるにはコストがかかる：
本物か嘘かを見分けるには、よく噛んで味見をする（注意を払う）必要があります。でも、味見するのは**「疲れる（コストがかかる）」**ので、みんなやりたがりません。
状況による判断：
- 箱の中に「まずいお菓子」がほとんどない時：
  「まあ、大抵は美味しいだろう」と思い、味見をせず、そのまま配ってしまいます（無関心）。
- 箱の中に「まずいお菓子」が溢れている時：
  「あ、これまずいかもしれない！」と警戒心が働き、一生懸命味見をして、まずいものは捨てて、美味しいものだけ配ります（注意を払う）。

つまり、人々は「嘘のニュースが増えすぎると、逆に真実を厳しく守るようになる」という逆転現象が起きる可能性があります。

3. 驚きの発見：3 つの重要なポイント

この研究では、いくつかの意外な結論が出てきました。

① 「嘘の質」を上げすぎると、逆に広まってしまう？

もし、嘘のニュースが**「本物そっくり（信用度が高い）」**だとしたらどうなるでしょう？

直感的な考え： 「嘘がバレやすいように、もっと嘘っぽく（怪しく）すればいいのでは？」
研究の結果： 逆効果かもしれません。
嘘が本物そっくりだと、人々は「これは危険だ！」と警戒して、一生懸命味見（注意）をするようになります。
しかし、もし「少しだけ怪しい（信用度が中程度）」だと、人々は「まあ、本物だろう」と油断して、味見もせず、そのまま配ってしまいます。
→ 結論： 嘘のニュースを作る側が「完璧な嘘」を作ろうとすると、人々が警戒して広まらなくなる可能性があります。逆に、「少し怪しい嘘」の方が、油断した人々によって広まりやすいのです。

② 「拡散力」は両刃の剣

SNS の機能で「1 人がシェアすると、100 人に届く」という**「拡散力（リーチ）」**が高まるとどうなるか？

良い面： 真実のお菓子も一気に広まります。
悪い面： 嘘のお菓子も一気に広まります。
重要な分かれ目：
- 人々が**「本物と嘘を見分ける力（分別）」があれば、拡散力が上がっても「真実」の割合は増えます。**
- しかし、人々が**「見分けがつかない（無分別）」場合、拡散力が上がると「嘘」の割合が増え、SNS の質が低下します。**
- 面白い点： 最初は嘘が増えることで質が下がりますが、それが限界を超えると、人々が「もうダメだ！」と必死に味見を始めるので、ある程度で落ち着くこともあります。

③ 初期の「偶然」が未来を決める（道筋依存）

この箱のお菓子の割合は、**「最初に誰が何を選んだか」**によって、永遠に決まってしまうことがあります。

初期にたまたま「美味しいお菓子」が選ばれ続ければ、人々は油断して味見をせず、結果として「美味しいお菓子」ばかりの箱になります。
逆に、初期に「まずいお菓子」が選ばれ続ければ、人々は警戒して味見をしますが、それでも「まずいお菓子」が支配的になる未来に落ち着くかもしれません。
結論： SNS の初期の出来事（最初の数人の投稿）が、数年後のプラットフォームの質を決定づける可能性があります。

4. 私たちへのメッセージ

この研究は、**「ファクトチェック（事実確認）」**についても示唆を与えています。

一部だけチェックする危険性：
もし、プラットフォームが「嘘のニュース」の一部だけを「×」マークで警告すると、人々は**「マークされていないニュースは本物だ」と過信して、注意を払わなくなる**可能性があります。
これにより、マークされていない嘘のニュースが、逆に広まってしまうという「逆効果」が起きるかもしれません。
対策のヒント：
嘘のニュースを減らすには、プラットフォームが「全部チェックする」か「何もしない」かのどちらかの方が、中途半端にチェックするより良い場合があるかもしれません。あるいは、「嘘のニュースを作る側」を止めることの方が、すでに広まった嘘を消すことより効果的かもしれません。

🎯 まとめ

この論文は、**「人々は賢く、状況に応じて注意力を変化させる」**という視点から SNS を分析しました。

嘘がバレバレだと、人は警戒して広まらない。
嘘が少し怪しいと、人は油断して広めてしまう。
拡散力は、人々の「分別」次第で、真実を救うも、嘘を助けるもできる。

私たちが SNS を使う際、「面白いから」という理由だけでシェアする前に、少しだけ「味見（注意）」をすることが、SNS という箱の質を保つための鍵なのかもしれません。

論文「Endogenous Attention and the Spread of False News (Extended Cut)」の技術的概要

本論文は、ソーシャルメディアにおける偽情報の拡散を、**内生性のある注意（endogenous attention）**を備えた動的モデルとして分析するものです。ユーザーが真実と嘘を見分けるためにコストを払って注意を払うかどうか、そしてその注意のレベルがプラットフォーム上の情報の構成（真実と偽物の割合）にどう影響するかを研究しています。

以下に、問題設定、手法、主要な貢献、結果、および意義について詳細にまとめます。

1. 問題設定とモデルの概要

背景:
Vosoughi et al. (2018) や Pennycook et al. (2021) の実証研究は、偽情報の拡散がボットではなく人間の不注意によるものであり、ユーザーが真偽を判断する際に注意を払わないことが原因であることを示唆しています。

モデルの核心:

エージェント: 各期間、異なるユーザーがプラットフォームからランダムにストーリーを 1 つ引き、共有するかどうかを決定します。
ストーリーの特性:
- 真偽 (Veracity): 真 (T) または偽 (F)。
- 喚起性 (Evocativeness): 興味深い (I) または少し面白い (M)。偽話は真話よりも「非常に興味深い (I)」である確率が高いと仮定します。
注意とシグナル:
- ユーザーはストーリーの喚起性を見た後、注意レベル $a \in [0, 1]$ を選択し、コスト $\beta a^2$ を支払います。
- 注意を払うことで、ストーリーの真偽に関するノイズのあるシグナルを得ます。
- 偽話の信頼性 ( $\theta$ ): 偽話がどれほど本物らしく見えるかを示します。 $\theta$ が高いほど、注意を払わない限り偽物と見分けがつかなくなります。
- 注意レベル $a$ が高いほど、シグナルの精度は向上します（特に信頼性の高い偽話に対して）。
共有の決定:
- ユーザーは「真実かつ興味深い」話を共有したいと考えます。
- シグナルが「偽 (F)」と示された場合は共有しません。
- シグナルが「真 (T)」または不明な場合は、期待利得が正であれば共有します。
動的プロセス:
- 共有されたストーリーは $\rho$ 個の複製としてプラットフォームに追加されます（リーチ）。
- 外部から常に 1 つの真話と $\kappa$ 個の偽話が追加されます（生産率）。
- 時間 $n$ における真話の割合 $y_n$ がシステムの状態となります。

2. 手法論

本論文は、確率近似（Stochastic Approximation）と一般化ポリアの壺（Generalized Polya Urns, GPU）の理論を拡張して用いています。

ポリアの壺の連結 (Concatenation of GPUs):
- 通常のポリアの壺モデルでは、壺に追加されるボールの数が状態に依存しますが、ユーザーの意思決定ルール（共有するか否か、どのレベルの注意を払うか）は $y_n$ に対して不連続に変化します。
- したがって、システムは単一の GPU ではなく、異なる意思決定領域（N, I, M, S）を横断するGPU の連結として記述されます。
極限微分包含 (Limit Differential Inclusion, LDI):
- 離散的な確率過程 $y_n$ の長期挙動を、連続時間の決定論的システムである微分包含 $\frac{dy}{dt} \in F(y)$ によって近似します。
- $F(y)$ は、各領域に対応する微分方程式（ODE）を連結して構成されます。
収束性の証明:
- Benaim, Schreiber, and Tarres (2004) や Benaim, Hofbauer, and Sorin (2005) (BHS) の結果を拡張し、この連結された GPU システムが、LDI の安定な定常状態にほとんど確実に（almost surely）収束することを証明しています。
- 不安定な定常状態への収束確率は 0 であることを示しています。

3. 主要な結果と知見

A. 収束と経路依存性

システムは真話の割合 $y_n$ が収束しますが、その極限値は確率的です。
初期条件やパラメータによっては、システムが複数の異なる安定な定常状態のいずれかに収束する可能性があります。
これは経路依存性を意味します。初期の小さなショック（偽話の急増など）が、プラットフォームの長期的な質（真話の割合）を決定づける可能性があります。

B. 比較静学分析 (Comparative Statics)

偽話の信頼性 ( $\theta$ ) の非単調な効果:
- 直感的には、偽話の信頼性が上がると（見分けがつかなくなると）偽話が増えると思われがちですが、モデルは非単調な関係を示します。
- 信頼性が非常に高い場合、ユーザーはより多くの注意を払うようになります。この「注意の増加」が、信頼性上昇による直接的な悪影響を上回る場合、偽話の信頼性を下げる（事実確認をする）ことが、逆に偽話の普及を促進する可能性があります。
- 政策的含意: 事実確認（ファクトチェック）を部分的に行うだけでは、ユーザーがチェックされていない話を過信する（Implied Truth Effect）ため、逆効果になる可能性があります。
リーチ ( $\rho$ ) の効果:
- ユーザーが共有できる範囲（リーチ）が広がると、真話も偽話も拡散します。
- ユーザーが「分別ある (discerning）」場合（真話を共有する確率が偽話を共有する確率より高い）、リーチの増加は真話の割合を高め、極限では 1 に収束します。
- しかし、ユーザーが「分別がない」場合（特に非常に興味深い偽話を共有してしまう場合）、リーチの増加はプラットフォームの質を低下させます。
- ただし、質の低下はユーザーの注意を喚起させるため、ある程度までしか悪化しないという自己制限的なメカニズムも働きます。
偽話の生産率 ( $\kappa$ ) の増加:
- 偽話の生産が増えると、ユーザーが共有を完全に停止する（「ノイズ」に耐えられなくなる）可能性があります。
- 逆に、生産率が極端に高い場合でも、ユーザーの行動が適応すれば、偽話の割合が一定の水準で定着する（ゼロにならない）ケースもあります。

C. 安定な定常状態の構造

システムは、ユーザーが特定の意思決定ルール（例：「非常に興味深い話のみを共有する」など）を厳密に好む状態、または 2 つのルール間で無差別になる閾値（threshold）に収束します。
閾値における定常状態は、ユーザーが混合戦略（確率的な選択）をとる場合にのみ安定となり得ます。

4. 論文の貢献と意義

理論的貢献:
- 既存の誤情報モデルの多くは単一のストーリーの拡散や、固定された注意を仮定していますが、本論文はプラットフォーム全体の構成の進化と内生性のある注意を同時に扱っています。
- 確率近似の理論を、不連続な意思決定ルールを持つ「GPU の連結」に拡張し、その収束性を数学的に厳密に証明しました。
実証的・政策的含意:
- 注意の重要性: ユーザーの注意レベルが、偽話の信頼性やプラットフォームの質に対して非直線的な影響を与えることを示しました。
- ファクトチェックの限界: 単純な「フラグ付け」や「事実確認」の強化が、ユーザーの注意を低下させ、結果として偽話の拡散を助長する「意図せぬ結果」を招く可能性を指摘しています。
- 初期条件の重要性: プラットフォームの初期段階での出来事が、長期的な結果を決定づける経路依存性の存在を強調しており、初期の介入の重要性を説いています。
将来の展望:
- ユーザーの異質性（政治的バイアスやリテラシーの違い）や、ストーリーの固定された特性（特定の話題への偏り）をモデルに組み込むことで、より現実的な分析が可能になると述べています。

結論

本論文は、ソーシャルメディア上の偽情報の拡散が、単なるアルゴリズムやボットのせいではなく、ユーザーのコストを伴う注意配分とプラットフォーム上の情報の混在が相互作用する動的プロセスであることを示しています。特に、**「偽話の信頼性を下げる努力が、逆にその普及を招く」**という逆説的な結果は、誤情報対策の政策設計において極めて重要な示唆を与えています。