✨ 要約🔬 技術概要
インターネットを、巨大で騒がしい町の広場だと想像してみてください。この広場では、人々がさまざまなことを叫んでいます。怒っている人もいれば(ヘイトスピーチ)、嘘をついている人もいます(誤情報)、そしてあなたを怖がらせようとしている人もいます。この論文は、この最後のグループ、すなわち「恐怖の言説(Fear Speech)」についてのものです。
以下は、著者たちの発見を日常的な比喩を用いて分かりやすく解説したものです。
1. 問題点: 「脅し」の手口は見逃されている
著者たちは、誰もが「ヘイトスピーチ(罵詈雑言)」を阻止しようと戦っている一方で、もっと静かで、より巧妙な力が働いていることに気づきました。それが「恐怖の言説」です。
比喩: 手品師を想像してみてください。ヘイトスピーチは、手品師が赤い旗を振って「私を見ろ!」と叫んでいるようなものです。誰もがそれに気づき、警察(モデレーター)はそれを止めようとします。しかし、恐怖の言説は、手品師があなたの耳元で恐ろしい話をささやいているようなものです。それはより「文明的」で理にかなっているように聞こえるため、警察はそれを見逃してしまいます。
現実: 攻撃性が低く見えるため、恐怖の言説はヘイトスピーチよりも広く拡散し、より多くの注目を集めます。それは、「俺はお前が嫌いだ!」と叫ぶことと、「私たちは注意しなければならない、さもなければ私たちの家族に悪いことが起こるだろう」と言うことの違いです。後者の方が、人々を動かす上ではしばしばより効果的ですが、コンピュータや研究者は、それを捉えるための優れたツールをまだ構築できていません。
2. 調査: 「探偵チーム」の集結
著者たちは、この「脅しの戦術」を理解するためには、単一の眼鏡を通して見るだけでは不十分であると悟りました。恐怖とは何か、そしてそれがどのように機能するかを説明するために、異なる分野の専門家チームが必要でした。
政治学者 はこう言います:恐怖はリーダーによって使われる道具です。それは、将軍が影を指差して「あれは敵だ!門を閉ざさねばならない!」と言うようなものです(これは「安全保障化(Securitization)」と呼ばれます)。
心理学者 はこう言います:恐怖は脳内の感情です。それは、あなたの体の「戦うか逃げるか」の警報システムです。もしあなたが脅威を感じているのに、それを解決する方法が分からない場合、パニックに陥ったり、メッセージを無視したりすることがあります。
言語学者 はこう言います:恐怖は言葉によって構築されます。それは、移民を「洪水」や「波」と呼ぶような、特定のメタファー(隠喩)を使うことです。これらの言葉を使うことで、たとえ単に人々が歩いているだけだとしても、まるで水に飲み込まれそうであるかのように感じさせるのです。
コミュニケーション学者 はこう言います:恐怖はセールストークです。それは、「もしこの保険を買わなければ、あなたの家は火事で焼けてしまうだろう!」という広告のようなものです。まず人を怖がらせることで、その解決策を売り込もうとするのです。
この論文は、これらすべての視点を組み合わせ、恐怖の言説の明確な定義を作り出しています。すなわち、**「恐怖の言説とは、特定の行動や政策への支持を求めるために、特定の言葉や物語を用いて、ある集団、思想、あるいは出来事を致命的な脅威に見せかける意図的な行為である」**ということです。
3. 宝探し: 「恐怖」のデータセットを探す
コンピュータに恐怖の言説を識別させるためには、研究者には「トレーニングデータ」――つまり、「恐怖を感じさせる」とラベル付けされた何千ものテキストの例が必要です。著者たちは、これらの例を見つけるために大規模な宝探しに出かけました。
地図: 彼らは単に「恐怖の言説」という言葉を検索したわけではありません。「プロパガンダ」「フレーミング」「ポピュリズム」「謬論(誤謬)」といった関連概念を検索しました。
比喩: あなたがある特定の種類の珍しいキノコを探していると想像してください。そのキノコ自体を探すだけでなく、そのキノコが隠れている可能性がある特定の土壌、木陰、そしてそこに住む虫までも探すのです。
発見: 彼らは、恐怖の研究に使用できる37種類の異なるデータセット(テキストの集合体)を見つけ出しました。
朗報: データはたくさんあります!
悲報: データはバラバラです。
言語の格差: ほとんどのデータは英語またはドイツ語です。それ以外の世界はほとんど代表されていません。
トピックの格差: ほとんどのデータは政治や移民に関するものです。健康や地域のコミュニティ問題など、他の領域における恐怖に関するデータはほとんどありません。
「ブラックボックス」問題: これらのデータセットの多くは、鍵のかかった箱のようなものです。どのようにラベル付けされたのかが見えず、ダウンロード用のリンクが切れていることもあります。それは、地図は見つけたものの、その地図上の道がどこにも通っていないような状態です。
4. 解決策: より優れた道具箱の構築
この論文は、これらの散乱したリソースを整理するための新しい「タクソノミー(分類体系)」を提示することで締めくくられています。
比喩: 現在の研究を、異なるセットから集まったバラバラのレゴブロックの山だと考えてください。赤色があったり青色があったりしますが、それらはうまく噛み合っていません。著者たちは、これらの異なるブロックをどのように組み合わせて、強固な構造物を組み立てるかを示す、新しい取扱説明書を提案しているのです。
目標: 彼らは、コンピュータ科学のコミュニティに対し、恐怖を単なる小さな悲しい感情(「悲しみ」や「怒り」のようなもの)として扱うのではなく、コミュニケーションの主要な構成要素 として扱うよう求めています。
要約
この論文は、行動への呼びかけです。それは次のように言っています。「私たちは、デジタル上の町の広場における、静かで恐ろしいささやき声を無視してきました。なぜなら、それらは大きく激しい叫び声のようには見えないからです。私たちには、それを理解するための心理学や政治学の理論があり、研究するためのデータもあります。しかし、私たちはそれをもっと上手く整理する必要があります。もしそれができれば、私たちは、誰かが私たちの恐怖心を利用して操作しようとしている時に、それを察知する方法をようやくコンピュータに教えることができるのです。」
テクニカル・サマリー:感情から表現へ:恐怖言説(Fear Speech)の理論的基盤とリソース
問題提起
恐怖は、社会を動員し、コミュニケーションを歪め、集団的な行動を再形成する深い能力を持っているにもかかわらず、計算言語学の分野には「恐怖言説」を独立した現象として研究するための整合性のある理論的枠組みとリソース基盤が欠如している。現在、恐怖は主に感情分析や論証マイニングにおける一般的な感情として分析されており、特定の戦略的なコミュニケーション行為としては扱われていない。ヘイトスピーチには多大な注目とリソース開発が集まってきた一方で、恐怖言説は理論的に拡散しており、経験的なリソースも不足している。このギャップは極めて重要である。なぜなら、恐怖言説はしばしばヘイトスピーチよりも高いリーチとエンゲージメントを誇り、その理由の一つとして、より「丁寧」に見えるため現在のモデレーション・システムを回避できてしまうことが挙げられる。課題は、既存の研究が複数の学問領域(心理学、政治学、コミュニケーション学、言語学)にまたがっているにもかかわらず、統一された定義や統合されたデータセットの景観が存在しないという断片的な性質にある。
方法論
著者らは、理論的視点を橋渡しし、既存の経験的リソースを監査するために、学際的なアプローチを採用している。方法論は主に以下の3つのフェーズで構成される:
理論的統合: 本論文では、4つの主要な学問分野における恐怖の理論をレビューし、比較検討する:
政治学: セキュリティ化理論(Securitization Theory)に焦点を当て、エリートが異常な措置を正当化するために、問題を存亡に関わる脅威として枠付けるための言説行為をどのように用いるかを考察する。
コミュニケーション学: 恐怖への訴え(例:保護動機理論、拡張並行プロセスモデル)を、知覚された脅威と有効性に依存する説得のツールとして分析する。
心理学: 生存、評価、および生理学的反応に結びついた基本感情としての恐怖を検討する。
言語学: メタファー、ディスクール、およびフレーミングがいかにして恐怖のナラティブを構築するかを調査する。 これらの視点を(ソース、メッセージ、受容、結果)というマルチレベルのフレームワークへと統合し、公的言説における恐怖を理解する。
定義の定式化: Buyse (2014)、Saha et al. (2023)、Greipl et al. (2024a) の既存の定義に基づき、著者らは「恐怖言説」の拡張された定義を提案する。彼らは、恐怖言説を、戦略的な言語、レトリック、およびフレーミングを用いて、対象となる存在を文化的、社会的、または存亡レベルでの固有または差し迫った脅威として描く「意図的なコミュニケーション行為」と定義し、その主な目的は、態度や政策に影響を与えるために恐怖を喚起することであるとする。
リソース監査とタクソノミー(分類体系)の構築:
発見: 著者らは、学問分野間の語彙の不一致を克服するために、AIを活用したプロンプトベースの論文発見手法(Allen AIのPaper Finderを使用)を用いた。恐怖言説、プロパガンダ、フレーミング、ポピュリズム、謬論(fallacies)、および虐待的言説をカバーする27のプロンプトを生成し、810件の候補論文を得た。
スクリーニング: アクティブラーニング(ASReview)を用いて317件の論文をスクリーニングし、37件の関連データセットを特定した。論文は2つのバケットに分類された:B1 (恐怖言説に直接言及しているもの)およびB2 (恐怖の次元をコード化しているプロパガンダやフレーミングなどの隣接現象に言及しているもの)。
タクソノミー: 特定された各データセットにわたる恐怖の異なる次元(例:「恐怖への訴え」、「セキュリティ・フレーミング」、「脅威」、「危機的レトリック」)を統合するために、タクソノミーを開発した。
分析: 著者らは、4つの研究質問(RQ)に基づき、これら37のデータセットに対して構造化された分析を行った:学問的指向、データソース、概念化/ラベル付け、およびアクセシビリティ/再利用可能性。
主な貢献
本論文は、以下の3つの具体的な貢献を行う:
比較理論的概観: 政治学、コミュニケーション学、心理学、および言語学において恐怖がどのように概念化されているかを体系的に比較し、公的言論における恐怖を分析するためのマルチレベルのフレームワークを提供する。
洗練された定義: 戦略的なコミュニケーションの意図と存亡に関わる脅威の描写を統合した、恐怖言説の統合された定義を提案し、一般的な感情検出やヘイトスピーチと区別する。
リソースの景観とタクソノミー: 恐怖言説に関連するデータセットの最初の体系的な調査を提示し、37のリソースを特定する。多様なラベル(例:「恐怖の煽動」、「セキュリティ・フレーミング」)を核となる恐怖の次元にマッピングするタクソノミーを導入し、隣接分野のリソースを再利用できる可能性を明らかにする。
結果
リソースの景観の監査により、以下の重要な知見が得られた:
学問的不均衡: 恐怖に関連するデータセットは、計算言語学、コンピュータサイエンス、機械学習、AIなどのコンピュータサイエンス指向の発表の場に強く集中している(37件中32件)。社会科学的な視点からのデータセットは著しく不足している。
データソースとトピック: ニュースメディアとTwitterが支配的なデータソースである。恐怖言説のデータセットは、WhatsApp、Telegram、Gabのようなモデレーションが少ないプラットフォームから発生することが多いが、より広い景観においては、ニュースとTwitterが支配的である。トピックは移民(10データセット)と政治(8データセット)に強くクラスター化しており、気候変動や戦争などの他の領域における多様性は中程度である。
概念化: 既存のデータセットにおける最も頻繁な概念化は、「プロパガンダ」および「フレーミング」に対応している。「恐怖への訴え」や「恐怖/偏見への訴え」といったラベルは、プロパガンダ研究において一般的である。逆に、「謬論(fallacy)」や「ポピュリズム」といった現象は、恐怖の次元に関する現在のデータセットの景観において過小評価されている。
アクセシビリティと再利用可能性: 再利用における重大な障壁が存在する。監査時に有効であったアクセシブルなリンクは、26件中21件のみであった。アノテーションのガイドラインは乏しく(13のデータセットのみに存在)、アノテーター間一致度は、手動でアノテーションされた33のデータセットのうち22件でしか報告されていない。さらに、恐怖に関連するインスタンスの具体的なカウントも明記されていないことが多い。
意義
本論文は、恐怖言説が、その普及率の高さとモデレーションを回避する能力を考慮すると、ヘイトスピーチに匹敵する独自の研究対象であることを主張している。社会科学からの理論的洞察と計算リソースを橋渡しすることで、著者らは、恐怖を計算モデリングのための有効で操作可能な構成概念として確立することを目指している。
本研究の意義は、恐怖を「モジュール化」するための戦略的な出発点を提供することにある。恐怖を単一の感情として扱うのではなく、既存のNLP技術を用いて検出可能な、識別可能な言語的・修辞的信号(戦略的言語、脅威の描写、意図)へと分解することを提案している。提案されたタクソノミーと特定されたリソースの景観は、情報に基づいた協調的なデータ開発の基礎を提供する。著者らは、この作業が単に既存のリソースをカタログ化するだけでなく、計算言語学コミュニティに対し、恐怖を単なる周辺的な感情カテゴリーとしてではなく、感情、社会的影響、および言語形式を結びつける核心的な分析次元として捉えるよう促すものであることを強調している。また、著者らは「デュアルユース(両義性)」のリスクについても認め、本調査が理論的にはユーザーを恐怖によって操作するシステムの開発に使用される可能性があるとしつつも、主要な目的は、この現象を理解しモデル化するための強固な経験的基盤を構築することにあるとしている。
毎週最高の NLP 論文をお届け。
スタンフォード、ケンブリッジ、フランス科学アカデミーの研究者に信頼されています。
受信トレイを確認して登録を完了してください。
問題が発生しました。もう一度お試しください。
スパムなし、いつでも解除可能。
週刊ダイジェスト — 最新の研究をわかりやすく。 登録 ×