テクニカル・サマリー：大規模言語モデルにおける潜在的なパーソナライゼーションの特定と制御

問題提起

大規模言語モデル（LLM）は、ユーザーが自身のアイデンティティを明示的に述べていない場合でも、ダイアログに埋め込まれた人口統計学的ヒントに応じて出力（例：映画の推奨）を変化させる**潜在的なパーソナライゼーション（implicit personalization）を示します。これまでの研究では、方言の特徴がより厳しい刑事判決を誘発したり、潜在的な履歴がステレオタイプへの推奨を狭めたりといった行動の変化は記録されてきましたが、これらの行動の変化とモデルの内部活性化（internal activations）**との間のつながりは不明なままです。

既存の研究は、属性情報がデコード可能であることを確認する線形プローブや行動監査に依存することが多いですが、それらの属性が因果的に出力を駆動しているかどうかを立証するには至っていません。さらに、現実世界のインタラクションでは、複数の重なり合うアイデンティティ・キュー（例：人種と年齢が同時に存在する）が含まれることが多く、「内部表現は線形に分解されるのか」、そして「行動の変化は単なる足し算になるのか」という疑問が生じます。本論文は、潜在的なパーソナライゼーションの行動と、モデルの内部メカニズムとの間の溝を埋めることを目的としており、具体的には以下の問いを立てています。

1. パーソナライゼーションの大きさを追跡する内部信号は存在するのか？
2. 複数のキューが共起する場合、内部表現と出力はどのように結合するのか？
3. 一般的なモデルの性能を低下させることなく、特定の人口統計学的影響を因果的に抑制できるのか？

メソドロジー

データセットおよび実験設計

著者らは、5つのLLM（Llama-3-8B, Mistral-7B, Qwen3-8B, Qwen3-14B, Phi-4）を用い、$n=50$ のシナリオによるマッチドペア比較フレームワークを採用しています。

• キュー（Cues）: GPT-4oを用いて生成されたダイアログには、文献に基づいた分類法（文化的参照、趣味、スラング）に従い、3つの次元（人種：黒人、アジア人、白人、性別：男性、女性、年齢：子供、思春期、成人、高齢者）からなる潜在的な人口統計学的ヒントが含まれています。
• 条件: 各シナリオに対して、以下のものを生成します。
  • キュー付きコンテキスト（Cued contexts）: 潜在的なアイデンティティ・ヒントを含むもの。
  • ニュートラルなコンテキスト（Neutral contexts）: 同一のトピック構造を持ちつつ、アイデンティティに中立的なフィラーを用いたもの。
  • 明示的なコンテキスト（Explicit contexts）: 人口統計情報を直接記述したもの（キャリブレーション用）。
• タスク: 最終ターンでは、モデルに5つの映画を推奨させます。
• インターセクショナリティ（交差性）: 相互作用効果を分離するため、2つの次元（例：人種 $\times$ 性別）を組み合わせた実験を行い、用量一致コントロールを実施しています。

行動メトリクス

2つの補完的なメトリクスが変化を定量化します。

1. 記述のセマンティック埋め込み距離（SED-desc）: プロットの概要のコサイン類似度を用いて、キュー付きの推奨とニュートラルな推奨の間のセマンティックな変化の大きさを測定します。
2. コンテンツ・アライメント比（CAR）: 推奨されたアイテムのうち、事前に指定されたステレオタイプ分類にタグ付けされたアイテムの割合を計算することで、変化の「方向」を測定します。

内部表現量

本研究の主要な技術的貢献は、生のキュー誘発活性化コントラスト（raw cue-induced activation contrast） $\Delta A$ の定義です。
$$\Delta A^{(i)}_L = A_L(C^{(i)}_{cue}, x) - A_L(C^{(i)}_{neutral}, x)$$
これは、特定のレイヤー $L$ における、マッチしたキュー付きコンテキストとニュートラルなコンテキストの、最終クエリ・トークンにおける残差ストリームの活性化の差を表します。

• 正規化された大きさ（$s_{\Delta A}$）: このコントラストの正規化された大きさを計算し、行動の変化との相関をテストします。
• レイヤー選択（$L^\star$）: **活性化パッチング（activation patching）**を通じて、行動の変化を媒介する特定のレイヤーを特定します。

介入戦略

パーソナライゼーションを制御するために、生成中に**方向的アブレーション（directional ablation）**を適用します。特定のキュー次元に関するサンプル平均方向ベクトル（$\hat{v}_{dim}$）を計算し、他の次元に対して直交化させた後、プリフックを用いて残差ストリームから射影除去します。
$$h' = (I - \alpha \hat{v}_{dim}\hat{v}_{dim}^\top)h$$
ここで、$\alpha$ は介入の強度を制御します。これは、「人口統計を無視せよ」というプロンプトや、ランダム方向のシャム（偽の介入）と比較されます。

主な結果

1. 内部信号が行動の変化を追跡する

ターゲットとなるレイヤー（$L^\star$）における正規化された活性化コントラストの大きさ（$s_{\Delta A}$）は、サンプルごとに行動の変化と強く相関しています。

• 相関: ピアソン相関係数は、最大で $r = 0.87$ に達します（例：Llama-3-8Bにおけるアジア人キューとSED-desc）。
• スケーリング: 内部的な追跡強度は、行動の変化の大きさに比例してスケールします。行動の変化が発生しない条件（例：白人キューの条件）では、内部相関は著しく低下します。
• 有意性: これにより、キューから活性化、そして行動へと至る厳密な連鎖が確立されました。ここでは、内部信号の大きさが、それ自体が因果的ドライバーであることではなく、パーソナライゼーションの程度を示す信頼できる**追跡信号（tracking signal）**として機能しています。

2. 内部信号の線形結合 vs. 非線形な行動

複数のキューが共起する場合：

• 内部表現: 混合キューのコントラストベクトル（$\Delta A_{AB}$）は、単一キューのベクトル（$\alpha v_A + \beta v_B$）の線形結合として信頼性高く再構成可能です。平均的な再構成適合率（$\rho$）は 0.576 から 0.704 の範囲にあり、単一キューによる説明を大幅に上回っています。これは、モデルが内部的に複数のアイデンティティ方向を能動的に統合していることを示しています。
• 行動出力: 実際の行動の変化は、**厳密に劣加算的（sub-additive）**です。両方のキューが存在する場合、結果としてのパーソナライゼーションは、個々の単一キューによる変化の合計よりも 28～38% 低くなります。出力は、内部の線形な加算を単純に反映するのではなく、モデル固有の方法で効果を圧縮しています。

3. 方向的アブレーションによる因果的制御

特定のキューに関連する内部方向を射影除去することで、その影響を抑制することに成功しました。

• 有効性: 内部アブレーションは、明示的な「人口統計を無視せよ」というプロンプトよりも効果的です。Qwen3-8Bにおいて、アブレーションはプロンプトよりも最大 9.2倍 効果的でした。場合によっては、プロンプトが逆効果となり、ステレオタイプを増幅させることもありました。
• 選択性: ある次元の影響を除去しつつ、別の次元を保持する能力は、モデルおよび属性に依存します。
  • Mistral-7B: ジェンダーの方向を除去すると、ジェンダーに関連するコンテンツは0.169減少しましたが、人種に関連するコンテンツはほとんど変化しませんでした（+0.004）。
  • Qwen3-8B: 選択性は低く、人種を除去すると年齢に関連するコンテンツも減少することがありました。
• 能力の保持: 一般的な推論能力（MMLUで測定）は堅牢であり、最大介入強度（$\alpha=5$）においても、最大で 2.8ポイント の低下にとどまりました。

有意性と主張

本論文は、潜在的なパーソナライゼーションの行動と、モデルの内部表現との間の「欠けていたつながり」を確立したと主張しています。主な貢献は以下の通りです。

1. 追跡信号の特定: 特定のレイヤーにおけるキュー誘発活性化コントラストの大きさは、パーソナライゼーションの強度を示す測定可能な追跡信号として機能します。これは、それ自体が因果的ドライバーであるとは主張せず、行動の変化と強く相関しています。
2. メカニズムと行動の分離: 内部表現は線形に結合する一方で、最終的な出力行動は非線形的かつ劣加次的であるという解離を明らかにしました。
3. 標的を絞った介入: 内部方向のアブレーションによって、特定のパーソナライゼーションを因果的に制御できることを示しました。この手法はプロンプトよりも効果的な場合が多く、モデルの一般的な能力を維持できます。これは、再学習を必要とせずにLLMにおける表現上の危害を軽減するための潜在的なメカニズムを提供します。

著者らは、自らの知見がテストされたモデルおよびドメイン（主に映画の推奨）に特有のものであること、また介入の選択性がモデルによって異なることを指摘し、控えめな立場をとっています。彼らは、本研究が普遍的な、即座にデプロイ可能な公平性の解決策ではなく、診断ツールおよび抑制のための因果的メカニズムを提供するものであることを強調しています。