技術要約：バイアスを知り、より良く行う — Know-Bias ニューロン強化による手法

問題提起

大規模言語モデル（LLM）は、社会的なバイアスを体系的に符号化および再現しており、有害なステレオタイプを強化し、安全な展開を制限している。バイアス緩和に関する広範な研究が行われてきたが、既存の手法は主に**抑制パラダイム（suppressive paradigm）**に依存している。これらのアプローチは、モデルのパラメータを変更したり、プロンプトを調整したり、あるいはバイアスのある振る舞いに関連するニューロンを抑制したりすることで、バイアスを減少させようと試みるものである。著者らは、このパラダイムには以下の3つの構造的な弱点があると主張している：

1. 脆弱な遵守性（Fragile Adherence）： プロンプトベースの防御策は、異なるタスク、言い回し、あるいはデモグラフィック（属性）に対して汎化できないことが多い。
2. データの非効率性と限定的な汎化性能： 学習や編集に基づく手法は、大量のバイアス注釈付きデータセットを必要とし、未知のバイアスの種類やデモグラフィックに対して汎化できないことが多い。
3. 一般的能力の低下（Degraded General Capability）： 社会的バイアスは高度に重ね合わせられた表現の中に分散しているため、バイアスと相関するニューロンを抑制すると、無関係な行動や一般的な推論能力に意図しない退行を引き起こす。

手法：Know-Bias ニューロン強化

本論文は、軽量でモデルに依存しないフレームワークである KnowBias を提案する。これは、補完的なパラダイムを採用している。すなわち、バイアスのある振る舞いを「抑制」するのではなく、モデルの内部にある**「バイアスに関する知識」**を活用するというものである。バイアスへの意識がバイアスのある判断への依存を減らすという認知科学の観察に基づき、著者らは、LLMは「バイアス知識」（ある記述がバイアスであることを認識する能力）を、know-bias ニューロンと呼ばれる特定の潜在的なニューロン表現として符号化していると仮定している。

KnowBias のワークフローは、以下の3つのステージで構成される：

1. バイアス知識質問のデザイン

この手法は、モデルがバイアスのある意見を認識する能力を探索するために設計された、少数の単純な yes/no 形式の質問を用いて、バイアス知識の信号を引き出す。これらの質問は、以下を組み合わせて構築される：

• バイアス概念（Bias Concepts）： 特定のステレオタイプではなく、抽象的で高レベルな社会的属性（例：問題解決能力、リーダーシップ）。
• デモグラフィック次元（Demographic Dimensions）： 幅広いカテゴリー（例：人種、性別、宗教）。
• 質問タイプ（Question Types）： バイアス知識の異なる側面を捉えるために、3つの補完的なタイプが使用される：
  • 因果的拒絶（Causal Rejection）： モデルがバイアスのある因果関係を拒絶するかを調査する（例：「人種は問題解決能力に影響を与えるか？」）。
  • バイアス認識（Bias Recognition）： 信念がバイアスであることをモデルが識別できるかを評価する。
  • 規範的判断（Normative Judgment）： バイアスのある信念が社会的・道徳的に不適切であることをモデルが認識しているかを評価する。

2. Know-Bias ニューロンの特定

寄与度に基づく分析（具体的には Integrated Gradients）を用いて、期待される「バイアス知識」の回答を予測する中間層のフィードフォワードネットワーク（FFN）におけるニューロンの貢献度を定量化する。

• ニューロンは、その寄与度スコアが最大スコアの $\tau\%$ を超え、かつ少なくとも $\beta\%$ の質問に一貫して出現する場合に選択される。
• これらの集合は、デモグラフィック次元を超えて（和集合戦略を用いて）集約され、統一された know-bias ニューロンのセットを形成する。

3. 推論時のニューロン強化

推論時、KnowBias はモデルのパラメータを再学習したり変更したりすることなく、特定されたニューロンを選択的に強化する。与えられた入力に対し、know-bias ニューロンの活性化は係数 $\lambda$ によって乗算的にスケーリングされる：
$$h_i^{(l)} \leftarrow \lambda \cdot h_i^{(l)}$$
この介入は、出力を直接抑制するのではなく、モデルの内部的なバイアス認識を増幅させることで、生成をより公平な振る舞いへと導く。

主な貢献

1. 概念的転換： 本論文は、バイアスのある振る舞いを抑制するパラダイムから、バイアスに関する知識を強化するパラダイムへの転換を導入している。モデルはすでにバイアスを識別するための知識を保持しており、目標はその知識を生成中に活性化することであると断じている。
2. データの効率性： KnowBias は、効果的なニューロンを特定するために、わずか少数の単純な質問（例：3つの次元にわたる45個の質問）のみを必要とする。これは、ファインチューニングのために数千のステレオタイプ特異的なサンプルを必要とする従来の手法とは対照的である。
3. 有用性の保持： 抽象的な「バイアス知識」ニューロンを対象とすることで、バイアスに関連する特定のニューロンを対象とする手法とは異なり、一般的な推論能力や言語能力の低下という一般的な落とし穴を回避している。
4. 汎化性能： 特定されたニューロンは、異なるバイアスの種類やデモグラフィック次元を越えて汎化する。これは、バイアス知識が、次元固有のヒューリスティックではなく、共有された内部表現として符号化されていることを示唆している。

実験結果

著者らは、3つの LLM バックボーン（Llama-3.2-3B, Llama-3.1-8B, Qwen-3-4B）を用い、5つの社会的バイアスベンチマーク（BBQ, CrowS-Pairs, StereoSet）と4つの一般的推論ベンチマーク（COPA, OpenBookQA, ARC）において KnowBias を評価した。

• デバイアス性能： KnowBias は、すべての社会的バイアスベンチマークおよびデモグラフィック次元において、最高または2番目に高い平均ランクを達成し、Self-Debiasing（プロンプトベース）、LFTF, ReGiFT（ファインチューニング）、BiasEdit（モデル編集）、FairSteer（活性化ステアリング）を含む最先端のベースラインを上回った。
• 有用性の保持： 一般的な推論精度に大幅な低下が見られた多くのベースライン（結果の表におけるアスタリスクで示されている）とは異なり、KnowBias は一般的な能力のデータセットにおいて性能を維持、あるいはわずかに向上させた。
• 汎化性能： 実験により、あるデモグラフィック次元（例：人種）に関する質問を用いて特定されたニューロンが、他の次元（例：性別）におけるバイアスをも効果的に軽減することが示された。また、抽象的な概念から特定されたニューロンは、具体的なステレオタイプにも汎化することが示された。
• データの効率性： パフォーマンスはわずか45個の質問で飽和しており、効果的なデバイアスに広範なデータ生成は不要であることを示している。

意義と主張

本論文は、KnowBias が従来のバイアス抑制アプローチに代わる、堅牢でデータ効率が高く、汎用性のある選択肢であることを主張している。バイアス緩和を、出力の抑制ではなく、潜在的な「know-bias」信号の活性化として扱うことで、この手法は良好な公平性と有用性のトレードオフを実現している。

著者らは、このアプローチが軽量（再学習不要）であり、かつ解釈可能（特定のニューロンを標的とする）であることを強調している。彼らは、LLM 内に既に符号化されているバイアス知識を活用することは、責任ある展開に向けたスケーラブルな道筋を提供するものであると結論付けている。ただし、この手法は事前学習に組み込まれた規範的判断に依存していること、および今後の課題として、より広範なデモグラフィック次元や文化横断的な公平性の定義に対処する必要があることも認めている。