論文「When Hate Meets Facts: LLMs-in-the-Loop for Check-worthiness Detection in Hate Speech」の技術的サマリー

本論文は、オンライン上のヘイトスピーチ（HS）と誤情報（Misinformation）が交錯する課題に焦点を当て、特に「事実確認の価値（Check-worthiness）」を持つ主張を含むヘイトスピーチの検出と分析を行うための新たなアプローチ、データセット、および評価フレームワークを提案しています。

以下に、問題定義、手法、主要な貢献、結果、および意義について詳細にまとめます。

1. 問題定義

オンライン上のヘイトスピーチは、単なる侮辱や差別用語だけでなく、事実のように見えるが必ずしも正しくない情報（誤情報）を用いて表現されることが増えています。特に、組織的なハラスメントキャンペーンや過激派のプロパガンダにおいて、この傾向が顕著です。

• 現状の課題:
  • ヘイトスピーチと誤情報は独立して研究されがちだが、実際には密接に関連しており、両者を同時に扱わないと偏見の深化や有害なステレオタイプの強化を招く。
  • 内容モデレーターは、メッセージの「有害性」と「真実性（事実確認）」の両方を評価する必要があり、作業負荷が極めて高い。
  • 既存のヘイトスピーチデータセットの多くは、短く明示的な侮辱に依存しており、事実確認が可能な主張（Claims）を含む複雑な論理構造を備えたデータが不足している。
• 解決の鍵: ヘイトスピーチ文脈において、どの主張が事実確認の価値（Check-worthiness）を持つかを特定し、それに基づいた介入を行うことが重要である。

2. 手法とフレームワーク

2.1 提案データセット：WSF-ARG+

既存の「WSF-ARG（White Supremacy Forum Argumentative dataset）」を拡張した新しいデータセットです。

• 構成: 227 のヘイトスピーチメッセージと、294 の非ヘイトスピーチメッセージ（計 521 メッセージ）を含みます。
• 特徴:
  • 各メッセージから主張（Claims）を抽出し、主張レベルで「事実確認の価値」を注釈付けしています。
  • 主張の分類基準（ClaimBuster フレームワークに基づく）:
    1. **CFS **(Checkworthy Factual Statement): 公衆に影響を与え、事実確認が必要な主張。
    2. **UFS **(Unimportant Factual Statement): 事実を含むが、公衆の関心度が低く事実確認の必要がない主張。
    3. **NFS **(Non-Factual Statement): 意見、信念、修辞的質問など、事実主張を含まないテキスト。

2.2 LLM-in-the-Loop フレームワーク

人間の注釈作業を効率化しつつ、品質を維持するための新しいアノテーション手法を提案しています。従来の「Human-in-the-Loop（自動化後に人間が検証）」とは異なり、LLM をワークフローに統合した「補助的なアノテーター」として扱います。

• プロセス:
  1. 並列注釈: 1 人の専門家アノテーターと LLM が同時にデータセット全体にラベル付けを行います。
  2. LLM の多回推論: 各インスタンスに対して LLM は 3 回独立して推論を行い、多数決（Majority Vote）で暫定ラベルを決定します。
  3. 判定者（Judge）:
     • LLM の多数決ラベルと人間のラベルが一致しない場合、または LLM 間の 3 回推論がすべて異なる場合は、別の「判定者（Judge）」アノテーターが最終判断を下します。
     • 判定者は、どのラベルが誰（人間か LLM か）から出たかを知ることができないよう、盲検（Blind）条件で処理されます（アンカーバイアスの防止）。
• 戦略:
  • 12 種類のオープンウェイト LLM（Mistral, Llama3, Qwen2.5, Olmo2, Commander-r などの 7B〜104B パラメータモデル）をテスト。
  • Zero-shot と One-shot プロンプトを比較。
  • 予測のばらつき（Variability）を測定し、モデル選択と人間の監督によるエラー軽減策を講じました。

3. 主要な貢献

1. WSF-ARG+ データセットの公開: ヘイトスピーチと事実確認の価値（Check-worthiness）の交差点を研究するための初のデータセット。人間による「プラチナラベル」と、提案フレームワークによる「ゴールドラベル」の両方を提供。
2. LLM-in-the-Loop フレームワークの提案と検証: 主観性の高いタスク（事実確認の価値判定）において、LLM を活用することで人間の作業量を削減しつつ、人間の注釈品質を維持できることを実証しました。
3. ヘイトスピーチと事実確認の交差点に関する分析:
   • 事実確認の価値を持つ主張を含むヘイトスピーチは、含まないものよりもハラスメント性やヘイト性が高いことを統計的に示しました。
   • 事実確認ラベルを LLM の入力に組み込むことで、大規模モデルにおけるヘイトスピーチ検出の性能が向上することを示しました。

4. 実験結果

4.1 LLM の性能とアノテーション品質

• モデル選択: 12 種類のモデルをテストした結果、OLMo2-32Bが人間のアノテーターとの合意率（Percentage Agreement）と一致率（Cohen's κ）において最も高いパフォーマンスを示しました。
• 合意率: Zero-shot 設定において、OLMo2-32B は人間との合意率で 0.594（ヘイトメッセージ）、0.581（非ヘイトメッセージ）を達成。二値分類（CFS vs 非 CFS）では、非ヘイトメッセージで κ=0.516、ヘイトメッセージで κ=0.376 となり、人間同士の合意率（CheckThat! Lab 2021 の報告値など）と同等の水準に達しました。
• 安定性: 3 回の推論におけるラベルの一致率は高く、One-shot プロンプトがさらに安定性を向上させることが確認されました。
• 人間の負担削減: 全データに対して人間が注釈を行う場合と比較し、LLM-in-the-Loop フレームワークでは判定者が必要となるケースを大幅に減らしつつ、最終的なラベル品質（人間との合意率 κ=0.800）を維持しました。

4.2 ヘイトスピーチ検出への影響

• 有害性の分析: 事実確認の価値を持つ主張（CFS）を含むヘイトスピーチは、含まないものよりも統計的に有意に高い「ハラスメント（p=0.005）」と「ヘイト（p=0.038）」スコアを示しました（効果量は小さいものの傾向は明確）。
• 検出性能の向上: 12 種類の LLM を用いてヘイトスピーチ検出タスクを行った結果、大規模モデル（70B パラメータ以上）において、CFS ラベルを入力に含めることで Macro-F1 スコアが向上しました。
  • 平均的な改善: 大規模モデルで 0.154、特定のモデルでは最大 0.213 の Macro-F1 向上。
  • 例：Qwen2.5-72B は、CFS ラベルなしで 0.701 だったものが、ありで 0.766 に向上。

5. 意義と結論

• 学術的意義: ヘイトスピーチと誤情報の相互作用を定量的に分析するための基盤（WSF-ARG+）を提供し、両者の交差点における「事実確認の価値」が、メッセージの有害性を増幅させる要因であることを実証しました。
• 実用的意義:
  • モデレーション効率化: 高品質な注釈を維持しつつ、人間の作業負荷を軽減する LLM-in-the-Loop フレームワークは、コンテンツモデレーションの現場での応用可能性を示唆しています。
  • 検出精度向上: 事実確認のラベルをメタデータとして利用することで、既存の LLM ベースのヘイトスピーチ検出システムの精度を向上させることができます。
• 将来展望: 本フレームワークの他のタスクやドメインへの汎用性、および抽出された主張の真偽判定（Fact-checking）を通じた、より具体的な対抗言説（Counterspeech）生成戦略への展開が期待されます。

本論文は、単なる「有害な言葉」の検出を超え、その背後にある「誤った事実」や「操作された論理」を特定し、効果的な介入を行うための重要なステップを提供しています。