💻 computer science

Cultural Targets, Structural Frames, Binding Morals: A Cross-Lingual Audit of Online Hate in Multicultural Singapore

2025年のシンガポールのソーシャルメディア・コーパスに関するこの研究は、英語、中国語、およびマレー語のコミュニティ間で特定のヘイトの対象は異なるものの、オンライン上のヘイトにおける根底にある道徳的枠組みと脅威構造は極めて一貫していることを明らかにしており、これは言語横断的なモデレーション戦略が、文化的に固有の対象よりも、共有された道徳的および感情的なパターンを優先すべきであることを示唆している。

原著者： Emilio Ferrara

公開日 2026-06-23

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Emilio Ferrara

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

全体像：憎悪の三層ケーキ

シンガポールを、巨大で多文化な持ち寄りパーティー（ポットラック・ディナー）だと想像してみてください。人々は英語、中国語、マレー語を話す3つの異なるテーブルに座っています。彼らは皆、同じ「部外者」（例えば移民、異なる宗教グループ、あるいは中国本土の人々など）について話していますが、それぞれ自分の言語で行っています。

研究者たちが知りたかったのは、これら3つのテーブルでの憎悪は全く別物なのか、それとも隠れたパターンがあるのか？ ということです。

彼らは、オンライン上の憎悪は**「三層のケーキ」**のようなものであることを発見しました。層は上から下へ進むにつれて変化していきます。

トップレイヤー（「誰を」）： これは文化的に特化しています。メニューのようなものです。英語のテーブルでは主にイスラム教徒やLGBTQ+グループへの不満が語られます。中国語のテーブルでは、地元の中国人と言語的なつながりのある本土出身者との間の緊張に焦点が当てられます。マレー語のテーブルでは、宗教やLGBTQ+の問題に焦点が当てられます。何を憎むかは、どの言語のテーブルに座っているかに完全に依存します。
ミドルレイヤー（「どのように」）： これは共有されたものです。これは不満を伝えるための「レシピ」です。どの言語であっても、もし誰かが外国人労働者を憎むなら、それを「経済的脅威」（仕事の奪い合い）として枠組み化します。もし誰かが宗教グループを憎むなら、それを「宗教的脅威」として枠組み化します。攻撃の方法は、3つの言語すべてにおいて驚くほど似通っています。
ボトムレイヤー（「なぜ」）： これは普遍的なものです。これは道徳的な基盤です。研究者によると、憎悪は通常「公平性」（例えば「これは不公平だ」といったこと）に関するものではありません。代わりに、それはほとんど常に**「純潔性（聖性）」と「忠誠心（裏切り）」**に関するものです。「お前は汚れている」あるいは「お前は仲間ではない」という感覚です。この道徳的な文法は、英語、中国語、マレー語においてほぼ同一です。

主な教訓： 憎悪の対象はローカルで特定的なものですが、その文法（構造と道徳的な推論）は、人々がどのような言葉を使っていようとも、全員が共有している共通言語なのです。

「増幅器」問題：何が聞こえ、何が語られるのか

研究では、誰かが憎悪に満ちたコメントを投稿した後に何が起こるのかについても調査しました。人々はそれを単に無視するのか、それとも増幅（シェアや返信など）させるのでしょうか？

インターネットを巨大な音響システムだと考えてください。

制作（プロダクション）： これは、どれだけの人が何かを言うかということです。
共鳴（レゾナンス）： これは、音響システムがどれほど大きく音を鳴らすかということです。

研究者たちは奇妙な乖離を発見しました。

音響システムは「ネイティビスト（自国第一主義的）」である： 人々は多くの異なるグループに対して憎悪を投稿していますが、「音響システム」（アルゴリズムと人間のエンゲージメント）は、反移民の憎悪に対してのみボリュームを上げます。
沈黙： 宗教グループやLGBTQ+の人々に対する憎悪は投稿されますが、それほど増幅はされません。それは、ボリュームが下げられたマイクに向かって叫んでいるようなものです。
結果： コミュニティが制作するものと、コミュニティが増幅するものは同じではありません。観客は、移民に関する不満を選択的にブーストし、他の種類の憎悪は背景へと退いていくままにします。

「メジャー（巻尺）」問題：なぜ正確な数を数えられないのか

最も重要な技術的な発見の一つは、測定に関するものです。

8台の「色覚障がいのあるロボット」を使って、バスケットの中にいくつ「赤い」リンゴがあるかを数えようとしている場面を想像してください。

研究者たちは、8つの異なるAIモデルに「憎悪」を数えるよう依頼しました。
結果： ロボットたちの意見は一致しませんでした。あるロボットは、あるコメントを「憎しみ」だと判断し、別のロボットはそれが単なる「強い意見」だと判断しました。最も優れたロボット同士でさえ、難解なケースにおいて一致したのはわずか42%でした。
教訓： 「メジャー（AI）」が不安定であるため、論文は、憎悪のコメントの正確な数（例：「正確に5,000件の憎悪コメントがある」）を信頼することはできないと述べています。
解決策： 総量を数える代わりに、研究者たちはその構造に焦点を当てました。彼らはパターン（例：「グループAに対する憎悪は、常に経済的脅威として枠組み化される」）を調べました。正確なカウントは曖昧であっても、これらのパターンは明確で一貫していました。

「イベント」テスト：大きなニュースの間に憎悪は急増するのか？

最後に、研究者たちは、選挙、逮捕、宗教的緊張といったシンガポールの2025年の大きなニュースイベントの間に、憎悪が爆発したかどうかを確認しました。

予想： 大きなニュースが流れると、憎悪のコメントが波のように急増すると考えるかもしれません。
現実： 憎悪のボリュームは、一定で平坦な線でした。選挙や逮捕の際に跳ね上がることはありませんでした。
比喩： それは、一定の速度で流れる川のようなものです。大きな岩（ニュースイベント）が投げ込まれれば、水しぶきは上がるかもしれませんが、川の速度自体が変わることはありません。憎悪は、特定のニュースサイクルに対する反応ではなく、絶え間なく流れる背景ノイズなのです。

主な知見のまとめ

対象はローカルだが、憎悪の「文法」はグローバルである。（誰を憎むかは言語によって変わるが、どのように、なぜ憎むかは変わらない）。
憎悪は「公平性」ではなく、「純潔性」と「忠誠心」によって駆動される。
観客は選択的である。 彼らは移民に対する憎悪を増幅させるが、他のグループに対する憎悪は無視する。
憎悪を完璧に数えることはできない。 AIツール間の意見の相違が大きすぎるため、正確な数値を与えることはできず、代わりに憎悪のパターンに焦点を当てる必要がある。
憎悪は安定的であり、反応的ではない。 大きなニュースがあったからといって、急増するわけではない。

技術的要約：文化的標的、構造的フレーム、および結合的道徳

問題提起
オンライン上のヘイト研究は、伝統的に単一言語・単一プラットフォームの文脈に焦点を当て、主に送信者の視点からの検出を扱ってきた。これに対し、2つの重要な問いが未探索のまま残されている。(1) ヘイトの構造的構成要素（標的、脅威のフレーム、道徳的基盤）は、単一社会内に共存する言語公衆間で共有されているのか、それとも文化的に特異的なものなのか。(2) あるコミュニティが生成するヘイトは、そのオーディエンスが増幅させるヘイトと同じものなのか。さらに、この分野は方法論的な課題に直面している。アノテーターとして使用される大規模言語モデル（LLM）は、絶対的なヘイトの発生率について意見が分かれることが多く、クロスリンガルな生の発生率の比較は信頼性に欠ける。

方法論
本研究は、2025年のシンガポール中心のコーパスを利用しており、Facebook、Reddit、YouTubeにわたる3,100万件のアイテムで構成されている。データセットには、英語、簡体字中国語、マレー語による、11のシンガポールにおいて顕著なアウトグループ（例：中国籍、外国人労働者、宗教グループ、LGBTQ）に言及した176万件のコメントが含まれている。

アノテーション・パイプライン: 著者らは2段階の分類プロセスを採用している。ステージ1では、高再現率のレキシカルおよびプロトタイプ・フィルターを使用する。ステージス2では、LLMを用いた孤立したバイナリのヘイト判定を用い、発生率を不当に膨らませないために、明示的な帰無仮説（例：中立的な言及、政策批判）を設定している。確認には、独立して作成された2つのプロンプトによる合意が必要である。
モデルのベンチマーク: 8つのオープンソースLLMを、211項目の人間による判定済みの「ハード」ゴールドセットに対してベンチマーク化した。合意の天井（agreement ceiling）は低く（ $\kappa \approx 0.42$ ）、これはアノテーターレベルにおいて絶対的な発生率が定義しにくいことを示している。したがって、本研究では、独立した手動チェックにおける精度（0.95）、Cohen's $\kappa$ （0.91）、および再現率（1.00）の優れたバランスに基づき、主要なラベル付け器としてPhi-4（14Bパラメータ）を採用している。堅牢性を確保するため、すべての知見は第2の独立したモデル（Qwen2.5）を用いて再現されている。
分析: 分析は、絶対的な発生率ではなく、相対的な構造比較に焦点を当てている。Cramér's $V$ およびTotal Variation distanceを用いて、標的の顕著性（Target Salience）、脅威のフレーム（Threat Frame）、道徳的基盤（Moral Foundation）、および感情（Emotion）の4つの軸におけるクロスリンガルな相違を測定する。統計的有意性は、Benjamini–Hochberg FDR制御を用いた $\chi^2$ 検定によってテストされる。レゾナンス（増幅）は、スレッド、長さ、時間を制御した上で、Facebookにおけるスレッド内のペア比較を通じてモデル化される。

主な貢献

層状の文化的依存性: 本論文は、オンラインのヘイトは文化的依存性によって構造化されているという反証可能なテーゼを提示している。それは、何が憎まれているか（標的）から、どのようにフレーム化されているか（脅威）へ、そしてなぜ憎まれているか（道徳的基盤）へと移行するにつれて、クロスリンガルな相違が単調に減少することを実証している。
生成とレゾナンスの解離: 本研究はヘイトの受容側を前景化し、オーディエンスによる増幅は選択的にネイティビスト（自国中心主義的）であり、生成量と線形には連動しないことを示している。
測定の妥当性: 係争的な概念（ヘイトなど）において、絶対的な発生率はLLMアノテーター間で明確に定義されないこと（ $\kappa \approx 0.42$ で天井に達する）を確立した。本論文は、相対的な構造を主要な分析単位として報告し、絶対的な発生率は校正された範囲としてのみ扱うことを主張している。

結果

標的（文化的特異性）: 標的の顕著性は言語によって有意に異なる（ $V=0.25$ ）。英語の言説は幅広く（ムスリム、中国籍、LGBTQに焦ロ）、中国語の言説はローカルな中国人/中国籍の軸に集中し、マレー語の言説は宗教とLGBTQに焦点を当てている。
脅威のフレーム（構造的）: 標的は異なるものの、標的と脅威フレームの間のマッピングは強固である。宗教グループは宗教的脅威を通じてフレーム化され、移民/外国籍者は経済的、安全保障的、または置き換えの脅威を通じて、そしてローカルな中国人は政治的権力を通じてフレーム化される。反イスラムの敵意は、最も高いクロスリンガルな不変性を示す。
道徳的基盤（ほぼ普遍的）: ヘイトの道徳的文法は、言語間で高度に共有されている（ $V=0.08$ ）。ヘイトは、個別化された基盤（公正さ）よりも、主に結合的（binding）な道徳的基盤（神聖さ/55–75%、忠誠、権威）によって駆動されている。
表現: ヘイトは軽蔑に基づいたものであり（全言語で94–96%）、怒りに満ちており、脱人間化（dehumanization）が頻繁に見られる（21–25%）。それは主にアウトグループへの不満（反移民）であり、反システム的なものではない。反移民および反体制の立場は、負の相関がある。
レゾナンス（増幅）: ヘイト的なコメントは、一般に中立的な言及よりも増幅されにくい。しかし、増幅は選択的にネイティビストである。すなわち、反CECA、反中国、および反外国人労働者のヘイトは優先的に増幅されるが、宗教やLGBTQに対するヘイトは抑制される。
イベント反応性: ヘイトの量は、主要な2025年のシンガポール関連イベント（選挙、人種問題など）の前後で有意に急増することはない。これは、イベント駆動型の揮発性ではなく、安定したベースラインが存在することを示唆している。

意義と主張
本論文は、「オンラインヘイト」を単一のモノリス的な発生率として扱うことは、その層状の構造を覆い隠してしまうと主張している。中心的な知見は、ヘイトの標的は局所的に選択され文化的にも可塑的であるが、ヘイトの文法（脅威フレームと結合的道徳的基盤）はクロスリンガルに共有されているということである。

これは、クロスリンガルなコンテンツモデレーションに対して直接的な示唆を与える：

ポリシーの転用: 脅威フレームに紐付けられた検知器やポリシーは、ローカライズが必要な特定の標的に紐付けられたものよりも、言語間での転用が容易である。
モデレーションの目標: ヘイトの生成を減らすことは、その到達範囲を減らすこととは異なる。増幅は選択的にネイティビストであるため、モデレーション戦略は、オーディエンスが生成されたヘイトとは異なる形でそれをフィルタリングすることを考慮しなければならない。
方法論的厳密性: 本研究は、LLMによる絶対的なヘイト発生率の指標のみに依存することに警鐘を鳴らし、相対的な構造分析と人間によるアンカー付きの校正を推奨している。

著者らは、自身の知見がシンガポールの文脈（一つの社会、一年間）に特有であること、およびコーパスがアクターレス（ユーザーではなくコメントを分析している）であることを述べ、限定的な範囲であることを維持している。彼らは、理論的なレンズは記述的な目的で使用されており、因果関係を示すものではないことを強調している。