Predictive Memory Localization: Forecasting Selective Intervention Paths from Internal Signals

技術要約：予測的メモリ局在化 (Predictive Memory Localization: PML)

問題提起
活性化ステアリング（Activation steering）は、特定の層に局在化した内部表現を注入することで、言語モデルの挙動を制御することを可能にする。しかし、既存の文献は重大なギャップを示唆している。すなわち、局在化（localization）は情報の「所在」を特定するものの、特定の方向（direction）が「選択的な動作レジーム（selective operating regime）」を許容するかどうかまでは保証しない。ある方向は、ある介入強度においては目標とする挙動を変化させることに成功する一方で、別の強度においては意味的な隣接概念や無関係な能力を同時に損なう可能性がある。あるいは、いかなる強度においてもクリーンな効果を生み出せない可能性もある。現在の手法は、静的な局在化のエビデンスや固定強度の介入に依存することが多く、特定のレコード、方向、および層に対して、使用可能な「選択的係数（selective coefficient）」が存在するかどうかを予測できていない。核心となる問題は、介入パス全体において、レバレッジ（作用点）を提供する方向と、副次的被害を引き起こす方向をどのように区別するかである。

手法
著者らは、測定されたグリッド介入パスをメモリ局在化の予測対象として扱うフレームワークである**予測的メモリ局在化（PML）**を導入する。

1. 測定グリッド介入パス (Measured-Grid Intervention Paths):
   PMLは、事前指定された介入強度のグリッド（$\alpha$）にわたる、レコード条件付きのパスを定義する。各レコード $i$、方向 $v$、および層 $\ell$ について、システムは以下を測定する：

   • ターゲットの移動 ($\Delta T$): 望ましい挙動に対する回答マージンの変化。
   • 副次的被害 (Collateral Damage): 意味的隣接概念 ($\Delta N$) および一般的能力 ($\Delta C$) のマージンの変化。
   • ランダム較正 (Random Calibration): ランダムなガウス方向を用いて、有意なターゲット効果またはダメージを定義するための個別の95パーセンタイル閾値 ($\tau_T, \tau_N, \tau_C$) を設定する。
   • アウトカム: 保持された（held-out）より強い係数における4つのバイナリイベント（Target-any、Neighbor Damage、Capability Damage、および Clean-any［ダメージのないターゲット効果］）を記録する。

2. 予測シグナル (Predictive Signals):
   PMLは、以下の階層的なエビデンスを用いてこれらのアウトカムを予測する：

   • ベースラインおよびメタデータ ($B+M$): レコードの特性とモデル構成。
   • 静的局在化 ($L$): 介入なしでのクラス分離、投影、およびサリエンシーから得られる特徴量。
   • 教師あり幾何学 ($G$): 再帰的特徴マシン (RFM) および平均勾配外積 (AGOP) から得られる、スペクトル集中度やアライメントを含む特徴量。
   • 低用量レスポンス ($R$): 微弱な介入強度 ($|\alpha| = 0.1$) で行われる、「強度分離型（strength-disjoint）」の因果的測定。これは安価な動的診断として機能する。

3. 決定ポリシー (Decision Policy):
   リスクを考慮したセレクターは、これらの予測を用いて特定の係数を選択するか、あるいは棄却（abstain）を行う。効用関数はターゲットの移動を報酬とし、副次的なマージンの減少を罰する。このポリシーは、密な係数スキャンのコストを回避しながら、効用を最大化することを目指す。

主な貢献

• ランダム較正パスの定義: 本論文は、すべてのレコード・方向・層の組み合わせについて、ターゲットのレバレッジ、意味的隣接概念へのダメージ、能力へのダメージ、およびクリーンな係数を共同で記録する「測定グリッドパス」を定義した。
• 静的シグナルと因果的シグナルの分離: 静的な局在化と教師あり幾何学は、予測的な事前分布としては弱いことを示している。対照的に、強度分離型の低用量レスポンス ($R$) は、より強い（強度が異なる）強度の結果を予測するための支配的なシグナルとなる。
• 実行可能な予測: PMLは、予測をアクションへと結びつける。このポリシーは、係数を選択するか棄却するかを選択し、密な介入評価の計算コストを削減できることの概念実証を提供する。

実験結果
本研究では、9つのデータセットと14のドメインにわたる3,000の凍結されたレコードを評価し、30,000の異なるパスを生成した。結果は、3つの残差ノルムが一致したベースモデル（Qwen3-1.7B, Qwen3.5-2B, Ministral-3-3B）にわたって確認されている。

• 方向の性能: 学習された方向（特に層7におけるRFM/AGOP）は、ランダムコントロールを大幅に上回った。主要な研究において、RFM/AGOPは 13.1% の Target-any および 12.3% の Clean-any 発生率を達成し、ランダムなベースラインをそれぞれ3.6および3.4パーセントポイント上回った。
• 予測の階層性: 静的な局在化特徴量は、ベースラインのメタデータ以上に予測価値をほとんど加えない。$|\alpha|=0.1$ における低用量レスポンス ($R$) が、$|\alpha| \in \{0.25, 0.5\}$ におけるアウトカムの最強の予測因子である。
• モデルの堅牢性: 予測の階層性（低用量 > 静的）は、3つのベースモデルすべてで再現され、レコード保持アウトの macro AUROC スコアは 0.801 から 0.828 の範囲であった。
• 決定の効用: 予測駆動型のセレクターは、固定強度のポリシーと比較して、効用を向上させ、意味的隣接概念へのダメージを大幅に減少させた。これにより、評価の必要性を密なスキャン（26個の係数）から、約 2.55 回の評価（2回の微弱なプローブと最終的なアクション）へと削減した。

意義と主張
本論文は、PMLがメモリ局在化を、静的な主張から、マージンレベルの選択的なアウトカムに関する**検証可能な予測（falsifiable forecast）**へと変貌させるものであると主張している。中心的な知見は、小さな因果的レスポンスが、静的な局在幾何学単独よりも、後の選択的な挙動を予測する上で有用であるということである。

著者らは、局在化が直ちに制御可能性を意味するわけではないことを強調している。つまり、ある方向はよく局在化されていても、選択的な動作レジームを欠いている可能性がある。局在化を安価な因果的測定と組み合わせることで、PMLはどの方向が使用可能な係数を許容し、どの方向が棄却を必要とするかを特定する。本研究は、一般的なモデル編集を解決したり、ダウンストリームのあらゆる副作用に対する安全性を保証したりすることを目的としているのではなく、測定されたパスのトポロジーに基づいて介入強度を選択するための、厳格でリスクを考慮したフレームワークを提供することである。