技術要約: SoftHateBench

問題定義

現在のオンライン・コンテンツ・モデレーション・システムは、主に「ハード・ヘイト・スピーチ（明示的なヘイト）」、すなわち、スラング、脅迫、露骨な毒性を特徴とする明白な虐待を検出することに最適化されています。これらのシステムは、明示的な敵意に対しては比較的良好に機能しますが、「ソフト・ヘイト・スピーチ」の検出には苦慮しています。ソフト・ヘイトは、表面上は妥当に見える言説であり、中立的なフレーミングや価値観に基づく議論（例：安全性、伝統、あるいは公平性への訴え）を利用して、特定の対象グループを排除したり非難したりする方向へと聴衆を誘導するものです。

特定された核心的な問題は、既存のベンチマークが、明示的な毒性の検出と、推論に基づいた敵意の検出との間のギャップを体系的に測定できていないことです。その結果、モデレーション・モデルは、表面上はポリシーに準拠しており（明示的なスラングを欠いている）、かつ、暗黙的な推論鎖を通じて差別的な立場を提示しているコンテンツを、フラグ立てできないまま見逃してしまう傾向があります。これは、語彙ではなく推論にエンコードされた敵意が、現在のフィルターを回避してしまうという脆弱性を生み出しています。

メソドロジー

理論的枠組み

本論文は、ソフト・ヘイトをモデル化し生成するために、2つの補完的な理論を統合しています。

1. Argumentum Model of Topics (AMT): 修正可能な推論の形式的な構造を提供します。議論は以下のように分解されます：
   • 可視的な表面 (Visible Surface): エンドクソン ($E$, 共有された信念) および ダタム ($D$, 特定の主張)。
   • 暗黙的なメカニズム (Implicit Machinery): プレミス ($P$, 中間結論)、ロカス ($L$, 抽象的な推論パターン)、マキシム ($M$, 実装された規則)、および スタンドポイント ($S$, 最終的な敵対的結論)。
     ソフト・ヘイトは、聴衆が $E$ と $D$ から $P$ と $S$ を推論することに依存しています。
2. Relevance Theory (RT): 「効果 (Effect)」を最大化しつつ「コスト (Cost)」を最小化するように生成を導きます（効果：共有された価値観を通じた説得力のあるインパクト、コスト：認知的な労力）。これにより、生成されるテキストが流暢で、妥当であり、かつ「否認可能（deniable）」であることを保証し、自然な人間の言説を模倣します。

SoftHateBench 生成パイプライン

著者らは、4段階のパイプラインによって構築された生成ベンチマークである SoftHateBench を導入しています。

1. シード抽出 (Seed Extraction): 公共コーパス（例：HateXplain, Gab Hate Corpus）から265,959件のヘイト関連投稿を集約し、それらを16,426件の高品質なインスタンスにフィルタリングします。DeepSeek-V3.1 を用いて、スタンドポイント ($S$) とターゲット・グループ ($[TG]$) を抽出します。
2. 逆向き AMT 生成 (Reverse AMT Generation): ヘイトを一から生成するのではなく、既知の敵対的なスタンドポイント ($S$) とターゲット・グループから逆方向に構築します。システムは 逆向き AMT 生成 を用いて、完全な議論の連鎖 ($E, D, P, L, M, S$) を構築します。
   • プロセスは $(S, L)$ から始まり、中間結論 ($P$) を導き出すためのマキシム ($M$) をインスタンス化し、その後、$P$ を表面的な記述 ($E, D$) へと分解します。
   • 最終的なテキストには $(E, D)$ のみが提示されます。手続き的な構成要素は潜在的なままとなります。
3. RT 指導型ビームサーチ (RT-Guided Beam Search): 生成されるテキストが説得力があり、かつポリシーに準拠することを確実にするため、著者らは関連性に基づいた報酬関数によって導かれるビームサーチを採用しています。
   • 報酬モデリング: スコアは $\text{Rel} \propto \text{Effect} / \text{Cost}$ に基づきます。
   • 効果 (Effect): プレミスと結論の間の自然言語推論 (NLI) による含意確率によって推定されます。
   • コスト (Cost): サプライザル（負の対数尤度）、予測不確実性（エントロピー）、抵抗（矛盾）、冗長性を含む複数の LLM シグナルによって推定されます。
   • サーチは、安全性の制約（明示的なスラングを含まないこと）を遵守しながら、関連性を最大化するパスを選択します。
4. 困難度拡張 (Difficulty Augmentation): 微妙な差異のスペクトラムを作成するために、ベースとなるインスタンスを2つの追加ティアへと拡張します。
   • GroupVague (SoftGV): 明示的なターゲット・グループの言及を、コード化された参照や曖昧な記述に置き換えます。
   • HostilityVague (SoftHV): テキストを、自己防衛的な免責事項、皮肉、あるいは道徳的な警告を用いて、より自然主義的なソーシャルメディアの投稿へと変換し、敵意をさらに隠蔽します。

データセット統計

最終的なベンチマークは 18,980 インスタンス で構成されています：

• 4,745 Hard Hate: オリジナルのソース・コメント。
• 4,745 SoftBase: コアとなる AMT 由来のソフト・ヘイト・インスタンス。
• 9,490 Soft Variants: コア・インスタンスの GroupVague および HostilityVague バージョン。
• カバレッジ: 7つの社会文化ドメイン（例：民族、宗教、ジェンダー）と28の特定のターゲット・グループに及びます。

主要な貢献

1. 理論に基づいたベンチマーク: SoftHateBench は、単なるパラフレーズやテンプレートベースの拡張を超え、AMT の議論構造と RT の語用論的原則に根ざすことで、ソフト・ヘイトを体系的に生成・評価する初のベンチマークです。
2. 制御可能な生成: RT 指導型ビームサーチを伴う逆向き AMT 生成 の導入により、微細なニュアンスを調整した、推論が明示的なインスタンスの構築が可能になりました。この手法は、敵対的なスタンドポイントを保持したまま、表面上は中立的なテキストを生成することを可能にし、生成プロセス自体における安全ポリシー違反の懸念に対処しています。
3. 包括的な評価: エンコーダーベースの検出器、汎用 LLM（プロプライエタリおよびオープンソース）、および安全性に配лоaligned（整合された）モデルに対し、ハードからソフトへのスペクトラム全体にわたる厳格なストレス・テストを提供します。

実験結果

パフォーマンスの低下

すべてのモデル・カテゴリにおける評価により、コンテンツがハードからソフトのティアへ移行するにつれて、検出能力が一貫して急激に低下することが明らかになりました。

• 全体平均: ヘイト成功率 (HSR) は、Hard hate の 76.8% から、SoftBase では 43.5%、SoftGV では 32.9%、そして SoftHV では 21.2% へと低下します。
• エンコーダーベースのモデル: 表面的な語彙的手がかりに依存する HateBERT や HateRoBERTa などのモデルは、SoftHV において壊滅的な失敗を喫し、平均 HSR は 6.8% まで低下しました。
• LLM および安全性モデル: LLM（例：GPT-5-mini, DeepSeek-V3.1）は Hard hate に対しては優れた性能（HSR > 87%）を示しますが、それでも SoftHV においては大幅な劣化（HSR ~21–50%）を経験します。特筆すべきは、推論指向のモデルであっても、自動的にこの問題を解決するわけではない点です。一般的な Chain-of-Thought（思考の連鎖）だけでは、ポリシーに準拠した推論による敵意を検出するには不十分です。

推論の足場 (Reasoning Scaffolds) の役割

アブレーション研究により、モデルが「ヘイトを認識できない」ために失敗しているのか、それとも「推論の連鎖を再構築できない」ために失敗しているのかを検証しました。

• 手法: モデルに対し、表面的なテキスト ($E, D$) のみ、次に表面テキストと推論されたプレミス ($P$)、最後にプレミスとマキシム ($M$) を与えてプロンプトを入力しました。
• 結果: 中間的な AMT ステップ ($P$ および $M$) を提供することで、検出能力が劇的に向上しました。例えば、Qwen3-4B* は、完全な推論の連鎖 ($E, D, P, M$) を与えたとき、SoftHV に対する HSR が 23.0%（表面のみの場合）から 94.2% へと向上しました。
• 示唆: 現在のシステムの主要な失敗モードは、「ヘイト認識」の欠如ではなく、中立的な響きのプレミスと差別的な結論を結びつける「暗黙的な推論のリンク」を再構築できないことにあります。

人間による検証

人間による評価は、ベンチマークの品質を裏付けました。

• 構造的忠実度: SoftBase インスタンスの 85.0% が、論理的に一貫した AMT チェーンとして検証されました。
• 知覚的妥当性: アノテーターは、敵対的なインスタンスと非敵対的なインスタンスを 85.7% の一致率で区別できました。
• 生態学的妥当性: ブラインド・ディスクリミネーション・タスクにおいて、アノテーターが生成されたソフト・ヘイトを現実世界の例と区別できた精度は 57.1% であり、生成されたテキストが現実のオンライン上の言説を密接に模倣していることを示しています。

意義と主張

本論文は、SoftHateBench が現在のコンテンツ・モデレーションにおける重大な盲点を露呈させていると主張しています。すなわち、表面的な毒性に最適化されたシステムは、推論による敵意に対して脆弱であるということです。著者らは、「ポリシーに準拠した」テキストと「有害な」コンテンツとの間のギャップは、語彙ではなく、推論によって埋められると論じています。

本研究の意義は、以下の点にあります：

1. 現在のモデルは脆弱である: 高度な LLM や安全性モデルであっても、ヘイトが「常識」や「価値観に基づく推論」としてフレーム化されると、ソフト・ヘイトを検出できないことが示されました。
2. 推論を考慮した検出が必要である: 中間的な推論ステップ ($P$ および $M$) を提供した際に観察された大幅な性能向上は、将来のモデレーション・システムが、単に表面的なテキストを分類するだけでなく、議論の構造を再構築できる能力を備える必要があることを示唆しています。
3. 新しいベンチマークが必要である: 既存のデータセットは、この特定の脅威ベクトルを評価するには不十分です。SoftHateBench は、制御された、理論に基づいた環境を提供し、推論を考慮したモデレーション・ツールの開発とストレス・テストを可能にします。

著者らは、推論に基づいた、ポリシーに準拠した敵意を検出する能力に対処しない限り、モデレーション・システムは進化するオンライン・ヘイトの情勢に対して無力なままであると結論付けています。