技術的サマリー：誰が支持したか？言語モデルにおける専門性レベルを超えた権威バイアスの測定

問題定義

先行研究は、大規模言語モデル（LLM）が提案、ヒント、および支持の影響を受けやすいことを確立しているが、情報源の信頼性の具体的な影響は未解明のままである。バイアスに関する既存の研究は、しばしば人口統計的属性（性別、人種）または構造的バイアス（位置、長さ）に焦点を当てている。しかし、LLM が情報源の知覚された専門的地位に基づいて支持をどのように処理するかは不明である。具体的には、本論文は、モデルが自身の内部推論能力を潜在的に上書きする可能性のある、誤った情報を提供する高地位のペルソナであっても、体系的に権威バイアス（権威への依存）を示すかどうかを調査する。

手法

著者は、数学（AQUA-RAT）、法（LEXam）、医療（MedMCQA、MedQA）の推論タスクにまたがる 4 つのデータセット全体で包括的な評価を実施した。

実験デザイン

1. ペルソナと専門性の勾配: 「専門家対非専門家」という二項対立の代わりに、本研究は各ドメインに対して4 段階の専門性階層を採用した：
   • 科学: 高校生 → 学部生 → 大学院生 → 教授。
   • 医療: 1 年生 → 3 年生 → チーフレジデント → 認定医師。
   • 法: 学部生 → 3 年生 → ロー・クラーク → シニア・リーガル・カウンセル。
2. プロンプト変種: 各多肢選択問題（MCQ）に対して、9 つのプロンプト変種が生成された：
   • ベースライン: 支持なし。
   • 正しい支持: ペルソナが正解を支持する。
   • 誤った支持: ペルソナが誤った回答を支持する。
   • 支持形式は最小限（例：「[ペルソナ] は回答が [X] だと考えている」）であり、言語スタイルや正当化から情報源のアイデンティティの効果を分離した。
3. 評価されたモデル: 本研究は、推論モデル（例：DeepSeek-R1、Phi-4-Reasoning、Qwen3-4B-Thinking）と非推論モデル（例：LLaMA-3.1、Gemma-2/3、Mistral-7B）を含む 11 のモデルをテストした。
4. 指標:
   • デルタ精度（$\Delta$Acc）: ベースライン精度からの偏差。
   • デルタエントロピー（$\Delta$H）: 自信の変化（エントロピーが低い＝自信が高い）。
   • ロバスト性率（RR）: 支持にもかかわらずモデルの出力が変更されない割合。

機械的介入（ステアリングベクトル）

権威バイアスが表面的なキーワードトリガーではなく、内部にエンコードされているかどうかを判断するために、著者はステアリングベクトルを構築した。

• 構築: 彼らは、ペルソナラベルを一切含まない、最高（例：教授）および最低（例：高校生）の専門性階層の言語スタイルで書かれた事実的に正しい回答のデータセットを生成した。
• ベクトル計算: ステアリングベクトル（$v_{auth}$）は、高専門性スタイルと低専門性スタイル間の残差ストリーム活性化の平均差として計算された。
• 介入: このベクトルは、誤った支持への感受性を軽減できるかどうかをテストするために、推論中のモデルの活性化から減算された。

主要な結果

1. 階層的な感受性

結果は、情報源の専門性とモデルの行動の間に明確な単調関係を明らかにした：

• 正しい支持: 支持者の専門性レベルが上がるにつれて、精度の向上が増加する。
• 誤った支持: 誤った回答に対する精度の低下と自信は、専門性レベルが高くなるにつれて著しく増加する。
• 推論モデル: 予想に反し、連鎖思考（chain-of-thought）能力を持つモデル（例：DeepSeek-R1）は免疫を持っていない。彼らは、高権威の情報源（例：認定医師）に誤導された場合、著しい精度の低下と誤りに対する自信の増加を示す。

2. 誤りにおける自信

高専門性の誤った支持は、自信を持った誤りを引き起こす。例えば、認定医師が MedQA の誤った回答を支持した場合、DeepSeek-R1 はエントロピーの著しい低下（$\Delta H = -0.261$）を示し、モデルが誤った回答に対してより確信を持つようになったことを示した。

3. ドメインの差異

• 数学的推論: 客観的なタスクであるにもかかわらず、高い感受性を示し、最も低いロバスト性率を示した。
• 医療推論: 回答を変更することに対する抵抗性が高かった。これは、おそらく医療的慎重さに関するドメイン固有のトレーニングを反映している。

4. 機械的知見

ステアリングベクトル実験は、権威バイアスがモデルの残差ストリーム内に機械的にエンコードされていることを示した。

• 推論中に「専門性」ベクトル（$v_{auth}$）を減算することは、誤った高権威の支持に直面した際、モデルの精度をベースラインレベルに回復させることを一貫して示した。
• これは、バイアスが明示的な社会的アイデンティティマーカー（ペルソナラベル）と暗黙の言語スタイルの両方にわたって一般化する、堅牢な専門性の内部表現に結びついていることを確認する。

貢献と意義

本論文は、3 つの主要な貢献を行う：

1. 権威バイアスの詳細な分析: 二項対立的な権威の概念を超え、モデルの感受性が支持者の知覚されたランクに比例して増大する階層的パターンを実証する。
2. 推論モデルの脆弱性: 推論強化モデルが社会的操作に対して堅牢であるという仮定に挑戦し、高地位の誤った支持によって軌道から外れる可能性があることを示す。
3. 機械的緩和: 権威バイアスが残差ストリーム内で線形的にエンコードされた特徴であることを示す証拠を提供する。対応するステアリングベクトルを減算することにより、モデルはバイアスから誘導され、専門家が誤った情報を提供する場合でもパフォーマンスを向上させることができる。

意義と限界

著者は、この仕事が重要な脆弱性を明らかにしていると主張する：現在の LLM は、意味的正確性よりも情報源の信頼性を優先する。このバイアスは、敵対的な文脈（例：ソーシャルエンジニアリング攻撃）で悪用される可能性があるが、重みの修正なしに推論時の活性化ステアリングを通じて緩和することもできる。

本論文は、以下の限界を認めている：

• 実験は 32B パラメータまでのオープンソースモデルに限定されており、最先端モデルは異なる振る舞いを示す可能性がある。
• 本研究は 4 つのドメイン（数学、法、医療）のみを網羅した。
• 支持形式は簡略化（単一の記述）されており、複雑な現実世界の誤情報を考慮していなかった。
• ステアリングベクトルの層別分析は予備的なものであり、中間層での効果性を特定しているが、体系的なアブレーションまたはスパースオートエンコーダー（SAE）の特性評価は欠けている。