✨ 要約🔬 技術概要
インターネットを、2024 年米国大統領選挙という大きなチャンピオンシップ試合の最中に、互いに絶叫し合う「レッドチーム」と「ブルーチーム」という 2 つのライバルスポーツチームがいる、巨大で混沌とした広場だと想像してみてください。
この論文は、人々が何を言っているか、そしてどれほど悪意あるか、を正確に聞き取るために、ハイテクなマイクを持って介入した審判員のようなものです。彼らが発見したことをシンプルに物語ると以下のようになります。
大きな驚き:どちらのチームが「より悪意ある」のか?
喧嘩を始めたチームが、最も多く怒鳴られるチームでもあると予想するかもしれません。しかし、データは奇妙なひねりを示しました。
レッドチーム(共和党支持層)が喧嘩を始める。 彼らが自分の投稿をする際、ブルーチームよりも多くの罵倒語、汚い言葉、攻撃的な言語を使用します。彼らが最初の一撃を浴びせているのです。
ブルーチーム(民主党支持層)が最も激しく攻撃される。 彼らが話す際は静かですが、その投稿には怒りの返信が大量に殺到します。彼らへの返信メッセージは、レッドチームへの返信メッセージよりもはるかに有害です。
比喩: レッドチームは、目にする誰にでも水風船を投げるのが好きな人々のグループだと想像してください。彼らは多くの風船を投げます(自分たちの投稿における有害性の高さ)。しかし、ブルーチームは、ただ立ち止まって看板を掲げている人々のグループのようです。彼らは何も投げていませんが、レッドチームが彼らにあまりにも多くの水風船を投げるため、ブルーチームはびしょ濡れになります。ブルーチームはより多くの風船を投げているのではありません。彼らは単に、風船の洪水に撃たれているのです。
なぜブルーチームはびしょ濡れになるのか?
研究者たちは、誰が投げているのかをより深く調査しました。そして 2 つの主な理由を見つけました。
チーム間攻撃はより悪意がある: レッドチームの誰かがブルーチームの投稿に返信する際、レッドチームの別の投稿に返信する際よりも、わずかに悪意があります。ブルーチームがレッドチームに返信する場合も同様です。つまり、「敵」と話すことは、友人と話すよりも人々をより怒らせるのです。
量の差: これが最も重要な部分です。レッドチームは、その逆よりもブルーチームを攻撃する活動がはるかに活発です。
ブルーチームの投稿 1 件に対して、レッドチームの返信が約 3 件あるのに対し、レッドチームの投稿 1 件に対するブルーチームの返信は 1 件です。
これは、スタジアムいっぱいのレッドチームのファンに、ブルーチームのファンが少数で叫び返そうとしているようなものです。ブルーチームを怒鳴りつけるレッドチームのファンの「数」そのものが、ブルーチームの体験をこれほど有害なものにしているのです。
「ファック・ユー・バイデン」要因
この論文のタイトルは、最も有害な返信で見つかった最も一般的なフレーズに由来しています。これは、敵意が特定の指導者に向けられることが多いことを示していますが、このパターンはグループ全体に当てはまります。この論文は、有害性が人々が「何を」言うかだけでなく、「誰」がそれを言い、「何人」がそれを言っているかによることを示しています。
彼らはこれをどうやって突き止めたのか?
研究者たちは、何百万ものツイートを手作業で読みませんでした(それでは永遠にかかってしまいます!)。代わりに、彼らは以下のものを使用しました。
AI 分類器: 「この人はレッドチームのファンのように聞こえる」あるいは「これはブルーチームのファンのように聞こえる」と判断する、投稿を読み取る賢いコンピュータプログラム(超高速の司書のようなもの)です。これらのロボットが正しいか確認するために、人間の判定員と照合しました。
有害性スコアリング: すべての投稿に 0 から 1 までの「悪意スコア」を与える別のツールです。
数学: これらの違いが単なる偶然ではなく、実際のパターンであることを証明するために統計学を使用しました。
結論
この論文は、オンライン上の政治的な怒りが、一方通行の喧嘩のようであると結論付けています。一方(レッド)は一般的に話す態度においてより攻撃的ですが、他方(ブルー)はその攻撃の主要な標的となるため、より多くの被害を受けます。ブルーチームの投稿で見られる「有害性」は、ブルーチームが悪意を持っているからではなく、レッドチームが彼らを攻撃するためにあまりにも大勢現れるからです。
この論文が述べていないこと:
これは Facebook や TikTok などの他のソーシャルメディアアプリでも起こるとは述べていません。
これは次の選挙や他の国でも起こるとは述べていません。
ユーザーを禁止するなど、問題を解決する具体的な方法を提案しているのではなく、有害性を理解するためには攻撃の「量」を理解する必要があることだけを指摘しています。
技術的サマリー:「F*** You Biden」:X における党派を越える選挙毒性
問題定義 ソーシャルメディア上の政治的議論、特に選挙期間中は、毒性の増大と集団間対立を特徴としています。アウトグループとの関わりが高いインタラクション量を生むことは確立されていますが、返信における毒性の具体的なダイナミクスは未解明なままです。オンライン上の政治的敵意は、主に支持者が自らのサークル内でどのようにコミュニケーションしているのか、それとも対立候補に対してどの程度攻撃的に関与しているのかを反映しているのか、その点は不明です。さらに、既存の文献では、毒性の生産と受容における左右の非対称性に関する知見が矛盾しています。本研究は、返信毒性の起源、特にそれが同党派者から来るのか、それとも対立党派から来るのかという理解のギャップを埋め、2024 年米国大統領選挙の文脈において、関与の量と敵意の強度を解きほぐすことを目指しています。
方法論 著者らは、2024 年 5 月から 11 月の間に収集された「US2024-Twitter-Elections」データセットに由来する大規模データセットを分析しました。本研究は、引用ツイートを除外して毒性の帰属を曖昧にしないよう、261,501 件のオリジナルツイートと 2,415,781 件の直接返信に焦点を当てました。
技術的パイプラインは、以下の 3 つの主要なコンポーネントで構成されていました:
政治的帰属分類 :人間が検証した大規模言語モデル(GPT-4o-mini)を用いて、オリジナル投稿と返信者の政治的傾きを「民主党系」「共和党系」「不確実」に分類しました。モデルは、投稿用 384 件、返信用 384 件のゴールドスタンダードサンプルで検証され、それぞれマクロ F1 スコアで約 0.73 および 0.81 を達成しました。ユーザーレベルの党派性は、単一の投稿者からのすべての返信における多数決によって決定されました。
毒性スコアリング :すべての投稿と返信に連続的な毒性スコア(0〜1)を割り当てるために、Perspective API を使用しました。
統計分析 :毒性分布の偏りが大きい(ほとんどのコンテンツが低毒性である)ため、著者らは t 検定の代わりにマン・ホイットニーの U 検定を使用しました。4 つの特定の比較を行いました:
民主党系と共和党系のオリジナル投稿の毒性。
民主党系と共和党系の投稿に対する返信の毒性。
民主党系投稿に対する民主党系と共和党系の返信の毒性。
共和党系投稿に対する民主党系と共和党系の返信の毒性。
主要な結果 分析は、生産されたコンテンツの毒性と受容されたコンテンツの毒性の間に顕著な非対称性 があることを明らかにしました:
生産の非対称性 :共和党系のオリジナル投稿は、民主党系の投稿よりも有意に毒性が高い(中央値毒性:0.144 対 0.129;p < 10⁻⁶)。
受容の非対称性 :逆に、民主党系の投稿は、共和党系の投稿よりも有意に毒性の多い返信を引き寄せます(中央値毒性:0.199 対 0.178;p < 10⁻⁶)。
党派を越えるダイナミクス :党派を越える返信は、どちらの方向においても、同じ党派の返信よりもわずかに、しかし有意に毒性が高いです。ただし、この差の大きさは小さいものです。
量の格差 :受容の非対称性の主な要因は、関与の量 です。共和党アカウントは、民主党コンテンツに対して 756,671 件の党派を越える返信を生成したのに対し、民主党アカウントは共和党コンテンツに対して 205,607 件しか生成しませんでした。ユニークユーザーの観点では、269,595 人の共和党アカウントが民主党の投稿に関与したのに対し、共和党の投稿に関与した民主党アカウントはわずか 74,081 人でした。
主要な貢献
投稿された毒性と受容された毒性の分離 :本研究は、最も敵対的なコンテンツを生産している側(共和党)が、最も敵対的な返信を受容している側(民主党)ではないことを実証しました。これは、毒性の生産と受容が対称的か、または直接的に相関しているという仮定に挑戦するものです。
非対称性の行動的源泉 :この論文は、民主党のコンテンツに向けられた毒性の高い返信が、民主党が独自の攻撃的な党派を越える返信を受容しているためではなく、共和党による党派を越える関与の量 そのものによるものであることを特定しました。
スケーラブルな注釈検証 :この研究は、計算社会科学における大規模な政治的スタンス検出と毒性分析のための LLM の使用を検証し、LLM がこれらのタスクにおいて人間のレベルのパフォーマンスを、その費用のわずかな割合で達成できることを確認しました。
意義と主張 著者らは、その発見が選挙期間中の X における党派毒性の作用において構造的な非対称性 を明らかにしていると主張しています。この論文は、オンライン上の政治的敵意は、オリジナルコンテンツそのものの性質よりも、党派を越える関与行動 (特に、アウトグループを標的とする量)によってよりよく説明されると仮定しています。
本研究は、「F*** You Biden」という現象(毒性の強い返信で最も頻繁に出現するフレーズ)は、特定の人口統計(共和党ユーザー)が対立側を不均衡に標的とするというこの構造的な不均衡の症状であると示唆しています。著者らは、党派を越える曝露が分極化を強化することは知られているが、本研究はそのメカニズムを明確にしていることを強調しています。すなわち、民主党に向けられた毒性を強化しているのは、共和党による民主党コンテンツとの関与の不均衡な規模 です。
限界 著者らは主張について謙虚な立場を維持し、いくつかの限界を指摘しています:
分類ノイズ :「不確実」カテゴリの精度の低さがノイズを導入する可能性があります。
API の制約 :Perspective API は、X に特有の非公式、皮肉、またはコード化された言語を完全に捉えられない可能性があります。
サンプリングバイアス :データセットは政治的キーワードに依存しており、タグ付けされていない党派を越える交換を見逃す可能性があります。
一般化可能性 :発見は 2024 年選挙サイクル中の X に固有であり、他のプラットフォームや非選挙期間には一般化されない可能性があります。
因果関係 :本研究は相関関係を確立するだけであり、因果関係を証明するものではありません。非対称性がアルゴリズムによる曝露、意図的な追求、または調整された行動に起因するかどうかを決定することはできません。
毎週最高の computer science 論文をお届け。
スタンフォード、ケンブリッジ、フランス科学アカデミーの研究者に信頼されています。
受信トレイを確認して登録を完了してください。
問題が発生しました。もう一度お試しください。
スパムなし、いつでも解除可能。
週刊ダイジェスト — 最新の研究をわかりやすく。 登録 ×