Navigating the Rabbit Hole: Emergent Biases in LLM-Generated Attack Narratives Targeting Mental Health Groups

技術要約：ラビットホール（ウサギの穴）の探索：メンタルヘルス・グループを標的としたLLM生成攻撃ナラティブにおける創発的バイアス

問題提起
大規模言語モデル（LLM）が特定のアイデンティティ・グループに対してバイアスを示すことは知られているが、「無差別な」標的型攻撃という現象については、まだ十分に解明されていない。具体的には、初期プロンプトにこれらのグループが明示的に含まれていない場合でも、LLMがいかに自律的に、メンタルヘルス・グループのようなリスクの高い集団に対する有害なナラティブをエスカレートさせるかについての理解が不足している。現在のバイアス評価は、静的な直接プロンプトによる引き出しや、単一生成のトキシシティ（毒性）チェックに依存することが多く、トキシシティがどのように展開し拡散していくかという、再帰的かつネットワーク的な性質を捉えきれていない。本論文は、LLMがコンテンツをますます有害にするよう反復的にプロンプトされる「トキシシティ・ラビットホール（TRH）」において、メンタルヘルスのアイデンティティがいかに不当に標的とされ、スティグマ化（烙印）されるかというギャップに対処するものである。

手法
本研究では、Toxicity Rabbit Hole (TRH) データセット（Dutta et al., 2024）を使用する。これは、1,266のアイデンティティ・グループを対象に10のLLMによって生成された、4億5,900万トークンの大規模コーパスである。本分析では、Mistral 7Bモデルに焦点を当て、15,401の生成チェーンと190,599の個別出力を対象とする。

手法は主に以下の3つの段階で進行する：

1. データキュレーションとエンティティ抽出：

   • 著者らはコーパスをフィルタリングし、中立的な出力やカウンター・スピーチの出力を除外して、有害な生成のみを保持した。
   • LLaMA-3.2 3Bを用いて、テキストから「被害エンティティ（攻撃の対象となるグループ）」と非参加エンティティを抽出した。
   • 形態学的および意味的に冗長なエンティティ（例：「Muslims」と「Moslems」）を統合する手動の集約プロセスを経て、最終的に24,185個のユニークな被害エンティティからなる語彙集（VictimSet）を作成した。
   • ICD-10、Wikipedia、および口語表現から派生した390のメンタルヘルス用語のレキシコン（語彙目録）を用い、VictimSetからMHSet（195個のユニークなメンタルヘルス・エンティティ）のサブセットを抽出した。

2. ネットワーク構築（ラビットホール・ネットワーク）：

   • ノードが被害エンティティを表し、エッジが同一チェーン内の連続する生成におけるエンティティ間の遷移を表す、重み付き有向グラフ $G = (V, E)$ を構築した。
   • エッジの重みは、遷移の頻度（$u \to v$）に対応する。
   • 分析は、24,184個のノードと663,433個のエッジを含む、最大の弱連結成分に焦点を当てた。

3. 分析フレームワーク：

   • ネットワーク中心性 (RQ1): 著者らは、MHSetとNon-MHSetノードについて、近接中心性、次数（重み付き/非重み付き）、PageRank、および媒介中心性を算出し、Mann-Whitney U検定を用いて有意性を検証した。
   • コミュニティ検出 (RQ2): 共同標的となったエンティティのクラスターを特定するためにLeidenアルゴリズムを適用した。また、特定のコミュニティ内におけるMHエンティティの集中度を測定するためにGini係数を算出した。
   • スティグマ化分析 (RQ3): Link & Phelan (2001) のフレームワークに基づき、初期ターゲット（$V_{init}$）から最初のメンタルヘルス・ターゲット（$V_{MH}$）が出現するまでの過程において、スティグマの構成要素（ラベル付け、ネガティブなステレオタイプ、分離、地位の喪失／差別）がいかに進化するかを分析した。LLaMA-3.2 3Bを使用してこれらの構成要素の存在をアノテーションし、チェーン内のペアサンプルに対してWilcoxon符号付順位検定を実施した。

主な貢献

1. 無差別な攻撃の明示的な評価： 本論文は、再帰的な生成チェーンにおいて、特に極めて脆弱なメンタルヘルス・グループを標的とした、LLM生成の無差別な攻撃を明示的に評価した初めての研究であり、初期プロンプトなしでもこれらのグループが標的となることを示した。
2. ネットワークベースのアプローチ： 相対的なバイアスの伝播を研究するためのネットワークベースのアプローチを導入し、有害なコンテンツがいかにエンティティ間を遷移するかをモデル化し、メンタルヘルス・エンティティが中心的なハブとして機能する構造的な「ラビットホール」を特定した。
3. 創発的スティグマ化の評価： 生成チェーンの中で発生するスティグマ化の相対的な程度を定量化し、フレーミングが初期のターゲットよりも質的に深刻になることを示した。

結果

• 中心性 (RQ1): メンタルヘルス・エンティティは、ネットワークにおいて非MHエンティティよりも有意に中心的な位置を占めている。
  • 近接中心性: MHエンティティは有意に高い平均近接性を示した（平均 = 0.71 vs. 0.63, $p = 4.06 \times 10^{-10}$）。これは、他のノードからより少ないステップで到達しやすい構造的な到達容易性を示している。
  • 次数およびPageRank: MHエンティティは、有意に高い重み付きおよび非重み付き次数中心性とPageRankスコアを示した（$p < 0.001$）。これは、これらが頻繁な焦点であり、影響力のあるクラスターに深く組み込まれていることを示唆している。
  • 媒介中心性: 有意な差は見られず、MHエンティティは、分断された領域間の架け橋（ブリッジ）としてではなく、高密度のハブとして機能していることが示唆された。
• コミュニティ構造 (RQ2): MHエンティティはランダムに分布しているのではなく、密接にクラスター化されている。
  • Gini係数は0.7であり、高い集中度を示した。
  • 全MHエンティティの75.9%が、わずか2つのコミュニティに居住している。一つは臨床的に特定の疾患（例：双極性障害、失読症）を含むものであり、もう一つは広範で社会的に構築された用語（例：「メンタルヘルス問題を持つ人々」）を含むものである。
  • さらに小さなサブセットは、交差的な標的化（例：「黒人のメンタルヘルス疾患を持つ人々」）を反映している。
• スティグマ化の進化 (RQ3): 生成チェーンが初期ターゲットからメンタルヘルス・ターゲットへと移行するにつれ、スティグマ化の深刻度はすべての構成要素において有意に増大した。
  • 地位の喪失と差別: 最も顕著な増加を示した（平均比率差 = -0.70, $p = 7.16 \times 10^{-143}$）。
  • ラベル付け: これも大幅な上昇を示した（平均比率差 = -0.47, $p = 5.44 \times 10^{-81}$）。
  • これは、一度メンタルヘルス・エンティティが呼び出されると、言説が著しく非人間的かつ差別的なものへと変化することを意味している。

意義と主張
本論文は、現在のLLMの安全性評価には決定的な盲点があることを主張している。すなわち、モデルはメンタルヘルス・グループが初期プロンプトに含まれていない場合でも、それらを不当に攻撃する可能性があるということである。著者らは、モデルの内部的な生成構造が、暗黙的なバイアスと同様に、再帰的な生成を通じて、ターゲットの再帰的な標的化と社会的スティグマの増幅を導くことを主張している。

本研究の意義は、害が単にバイアスの存在にあるのではなく、その再帰的なエスカレーションにあることを浮き彫りにした点にある。有害な軌道への単一の生成ステップが、既存の単一生成ガードレールでは捉えきれない、深く非人間的なナラティブへと螺旋的に悪化する可能性がある。著者らは、LLMの安全性パラダイムを、事後的なモデレーションから、リアルタイムで創発的な害のパターンを検出できる、プロアクティブで軌道を考慮した介入へとシフトさせる必要があると結論付けている。さらに、本研究は、将来のバイアス低減戦略が、ファインチューニングやカウンター・スティグマ介入を導くために、エンティティ間の相互作用ネットワークを利用すべきであることを示唆している。

認められた限界
著者らは、彼らの知見がTRHフレームワークとMistral 7Bモデルに特有のものであり、一般化を制限する可能性があることを述べている。加えて、ネットワーク手法は構造的な依存関係を捉えるが、アノテーションされた構成要素を超えた攻撃の強度やフレーミングのバリエーションを完全には説明できない。また、本研究は、トキシシティやスティグマの推論にLLMによるアノテーションを使用しており、これらは手動で検証されてはいるものの、依然として人間の判断のプロキシ（代理指標）である。最後に、エンティティ・リストは権威ある情報源から編纂されたが、今後の研究では、診断軸と社会的軸の間でスティグマがどのようにフレーミングされるかについてのコミュニティベースの分岐を探求することも考えられる。