Strategies for preventing and reversing polarized online discourse

技術要約：オンラインにおける極化した言説の防止および逆転のための戦略

問題提起
政治的な極化は、現代の民主主義に重大な課題を突きつけており、社会の結束や制度への支持を脅かしている。意見動態に関する数学的・計算論的なモデルは、この現象を説明するために増殖してきたが、それらは多くの場合、社会科学者の経験的な理解から乖離した単純化された仮定に基づいている。従来のモデルは、エージェントを単一かつ安定した態度を持ち、記憶を持たず、固定されたグループ属性や静的な意見の距離に基づいて相互作用する存在として扱う傾向がある。こうした単純化は、アイデンティティが流動的で文脈依存的であり、動的な相互作用を通じて構築される現代のソーシャルメディア環境の複雑さを捉えきれていない。著者らは、現実的なプラットフォームレベルの介入が、極端な極化を防止または逆転させる能力を評価するために、より心理学的に現実的なモデルの必要性を指摘している。

手法
著者らは、オンラインの言説をシミュレートするために、社会心理学に基づいた計算論的なエージェントベースモデルを開発した。このモデルは、以下の心理学的拡張を通じて、標準的な意見動態の枠組みから脱却している。

1. 多次元的アイデンティティ： 単一の内部状態を持つモデルとは異なり、エージェントは複数の「自己側面」（アイデンティティの次元、$D$）を持つ。エージェントは、どのアイデンティティ次元が活性化しているか（例：「親」としてか、「フェミニスト」としてか）に応じて、同じトピックに対して異なる態度を持つことができる。
2. 限定的な記憶と文脈依存性： エージェントは、自身が表明した態度（自己記憶）と他者の態度（他者記憶）に関する記憶ベクトルを保持する。内集団および外集団の割り当ては固定されておらず、各ステップにおいて、エージェントの現在の態度と、最近の記憶に保持されている態度との平均的な距離に基づいて動的に決定される。これは、自己カテゴリー化理論における「メタコントラスト原理」を実装したものであり、特定の文脈における集団間の差異と集団内の差異の比率から集団の境界が創発されることを示している。
3. 効用駆動型の態度更新： エージェントは、以下の3つの力のバランスを最大化するように効用関数を用いて態度を更新する。
   • 自己整合性： 自身の最近の表明された態度との一致。
   • 内集団による引き： 動的に割り当てられた内集団の平均的な態度への適合。
   • 外集団による押し： 外集団との差別化。
     更新は、ノイズを含む近視眼的な学習を通じて行われ、エージェントは期待効用を高める摂動を確率的に受け入れる。
4. オーバートンの窓（Overton Windows）： モデルには2つの規範的制約が組み込まれている。
   • ソフト・オーバートンの窓： 集団全体の態度に基づく動的な範囲。この範囲外の意見を表明することは、コミュニティによる強制（例：ダウンボート）をシミュレートする効用コスト（$c_S$）を課される。
   • ハード・オーバートンの窓： プラットフォームのルールによって定義された固定された範囲。この範囲外の意見を表明することは、プラットフォームによるモデレーション（例：削除）をシミュレートするより高い効用コスト（$c_H$）を課される。
5. 言説構造： シミュレーションは、XやRedditのようなプラットフォームにおけるスレッド形式の会話を模倣している。エージェントは、未読の投稿に対して返信する（スレッドの深さによって減少する確率で）か、あるいは「注意バイアス」パラメータ（$\alpha$）によって特定のトピックへと議論を偏らせながら、新しいスレッドを開始するかを決定する。

主な貢献
本論文は、複雑なアイデンティティ構造、時間的記憶、および動的な集団形成を統合した計算論的フレームワークを寄与している。また、言説の結果を以下の3つの状態に系統的に分類している。

1. コンセンサス（合意）： ハード・オーバートンの窓内に制約された、極化していない言説。
2. 制約された極化： ハード・オーバートンの窓内に留まっているが、明確な態度のクラスターが存在する状態。
3. 暴走する極化（ランナウェイ・ポラリゼーション）： ハード・オーバートンの窓を逸脱し、プラットフォームの規範に違反する極端な言論を象徴する、明確なクラスターが存在する状態。

著者らはこのモデルを用いて、プラットフォームレベルで実施される4つの具体的な介入をシミュレートし、評価している。

1. コスト引き上げ（Cost Hike）： ハード・オーバートンの窓を逸脱することに対する罰則（$c_H$）を増大させる。
2. 窓の最適化（Window Optimization）： コンセンサスを最大化するために、ハード・オーバートンの窓の幅を調整する。
3. 注意の均衡（Attention Balance）： 注意バイアス（$\alpha$）をゼロに設定し、議論が少ないトピックを増幅させる。
4. 穏健なエリート（Moderate Elites）： 非極化的な言説をモデル化する影響力のある声を増幅させ、実質的に中心へと向かう「内集団による引き」を強める。

結果
シミュレーションは、極化の防止および逆転に関する明確なダイナミクスを明らかにしている。

• 防止： 規範への違反コストを高める介入（コスト引き上げ）、トピック間の注意を均衡させる介入（注意の均衡）、および穏健なエリートを増幅させる介入は、幅広いパラメータにおいて、暴走する極化を防ぐ上で非常に効果的である（有効性80〜100%）。逆に、オーバートンの窓を「最適化」しようとしてその幅を縮小する試みは、しばしばバックファイア効果を引き起こし、暴走する極化の可能性を著しく高める。
• 逆転： 一度暴走する極化が発生すると、ほとんどの介入は失敗する。コスト引き上げと穏健なエリートの介入のみが、極化を逆転させる有効性を示す。穏健なエリートの介入は最も堅牢であり、テストされたすべてのパラメータ構成において極化の逆転に成功したが、コスト引き上げの介入は、アイデンティティの次元数や介入のタイミングに対して敏感である。
• 潜在的な極端主義（Latent Extremism）： 極めて重要な発見は、介入が表明された極化を逆転させることに成功した場合でも、しばтельно 潜在的な極端主義 が生じる可能性があることである。エージェントは、オーバートンの窓内に収まる別のアイデンティティ次元に関連する態度を表明するように切り替える可能性があるが、抑制されたアイデンティティ次元における極端な態度は保持し続ける。この潜在的な極端主義は、極化の発生から介入までのタイムラグに比例して線形に増加する。
• アイデンティティの複雑性： アイデンティティの次元数（$D$）を増やすことは、本質的に極化を引き起こすわけではないが、エージェントに非極端な見解を表明するための代替的なアイデンティティ経路を提供することで、特定の介入（特にコスト引き上げ）の有効性を高める。

意義と主張
著者らは、自らの研究を、確定的な証拠ではなく、仮説生成のためのツールとして位置づけている。結論が、自己複雑性、社会的アイデンティティ、および規範知覚に関する確立された心理学理論に基づいていることを強調している。

本論文は、言説の範囲を縮小すること（オーバートンの窓を縮小すること）によって言論を制限する戦略は、極化に対処するための効果的かつ、潜在的に逆効果となる戦略であると主張している。代わりに、著者らは効果的な緩和には以下が必要であると示唆している。

1. 既存の規範の執行： プラットフォームのルールに違反することへのコストを高めること。
2. 注意のナッジ： ユーザーの注意を、議論が少ないトピックへと向けること。
3. エリートによる行動モデル： 穏健な態度を表明し、横断的な訴求力を持つ影響力のある個人を増幅させること。

しかし、著者らは重大な警告を発している。これらの介入は、極化の「表明」を防止または逆転させることはできるかもしれないが、基礎となる「態度」を排除するものではない。潜在的な極端主義の存在は、成功した介入が、根本的な分裂を解決するのではなく、単に極化の所在を異なるアイデンティティ次元へと移行させている可能性があることを示唆している。この研究は、社会的な介入の結果を正確に予測するためには、個人を文脈に敏感なアクターであり、構造化されたアイデンティティを持つ存在としてモデル化する必要があることを強調している。