テクニカル・サマリー：正しい知識、誤った回答：オープンウェイト言語モデルにおける時間的事実の衝突に対するテスト時ステアリング

1. 問題定義：パラメトリック時間的衝突 (Parametric Temporal Conflict: PTC)

複数の年にわたるコーパスで学習された大規模言語モデル（LLM）は、そのパラメトリックメモリ内に、古い事実とそれを上書きする新しい事実の両方をエンコードしていることが多い。ここで、モデルが内部的には更新された事実を保持している（時間的な手がかりによって想起可能である）にもかかわらず、標準的なプロンプティング下では古い回答をデフォルトとして選択してしまうという、明確な失敗モードが生じる。著者らはこれをパラメトリック時間的衝突 (PTC) と定式化した。

単純な知識の欠如（モデルが事実を全く持っていない状態）や、一般的な時間的想起力の低下とは異なり、PTCは以下の2つの条件によって定義される：

1. 古い事実への嗜好性: 標準的なプロンプティング下において、$P_\theta(a_{old} | q) > P_\theta(a_{new} | q)$ である。
2. 想起可能性: 時間的な手がかり（例：「2024年時点では...」）が提供されたとき、$P_\theta(a_{new} | q, c_{temp}) \gg P_\theta(a_{old} | q, c_{temp})$ となる。

継続学習（重みの更新）や検索拡張生成（RAG）といった既存のアプローチは、重みを変更したり外部からの検索を利用したりすることなく、推論時に共存する事実のバージョンを選択するというこの特定の状況に対処するものではない。

2. 手法：テンポラル・アトラクター・ステアリング (Temporal Attractor Steering: TAS)

本論文では、残差ストリームの活性化を操作することで、PTCを検出し、局在化し、解決するために設計された、3段階の、検索不要かつ再学習不要な推論時フレームワークであるテンポラル・アトラクター・ステアリング (TAS) を導入する。

ステージ 1：検出 (Detection)

軽量な線形プローブを用いて、クエリがPTCを示す可能性が高いかどうかをスコアリングする。このプローブは、検証済みのPTCポジティブ例と、それに対応する非衝突ネガティブ例を用いて訓練される。スコアが閾値 $\tau$ を超えた場合、そのクエリはステアリング段階へと進む。それ以外の場合は、非衝突クエリに対する挙動を維持するために通常通り処理される。

ステージ 2：衝突の局在化 (Conflict Localization)

因果的活性化パッチング（causal activation patching）を用いて、衝突クリティカル層 ($\ell^*$) を特定する。「時間的プロンプト」を用いたフォワードパスの隠れ状態を「標準プロンプト」を用いたフォワードパスにパッチングすることで、介入を行った際に回答反転率 (Answer-Flip Rate: AFR) を最大化する層を特定する。実験結果によれば、テストされたすべてのモデルにおいて、このクリティカル層はネットワークの上半分（例：28〜32層のモデルにおける23〜31層目）に位置している。

ステージ 3：ステアリング (Steering)

特定された層 $\ell^*$ において、事前計算されたステアリングベクトル $\Delta$ を用いて、隠れ状態を新しい事実の表現へと摂動させる：
$$h'_{\ell^*}(q) = h_{\ell^*}(q) + \alpha \cdot c \cdot \Delta$$
ここで、$\alpha$ は介入強度を制御し、$c$ は検出器のスコアである。ステアリングベクトル $\Delta$ は、時間的な手がかりがある場合の隠れ状態と標準的なプロンプトの場合の隠れ状態の差（$h_{\ell^*}(q, c_{temp}) - h_{\ell^*}(q)$）の平均をとることで構築される。著者らは、平均化の粒度として、グローバル (V1)、関係ごと (V2)、ドメインごと (V3) の3つのバリアントを提案している。V2（関係ごと） が最も効果的であることが判明した。これは、「国家元首」のような特定の関係から得られる強い信号が、ノイズの多い高ボリュームの関係によって希釈されるのを防ぐためである。

3. 主な貢献

1. 定式化とフィルタリング： 本論文はPTCを定義し、真の衝突と知識の欠如を区別するための知識回復フィルターを導入した。これにより、評価が、モデルが新しい事実を保持しているもののデフォルトではそれを想起できないケースのみに集中することを保証する。
2. テンポラル・アトラクター・ステアリング (TAS)： 重みの再学習や外部検索を行うことなく、選択的に古いパラメトリック知識を上書きするために、残差ストリームの活性化上で動作する新しいフレームワークを提供する。理論的分析により、TASが成功裏に嗜好性の不等式を反転させるための十分条件（局所的分離可能性、有界ステアリング）が示されている。
3. 検証済みのマルチモデル評価： 5つのWikidataのリレーション（例：CEO、国家元首）にわたる8,746件の検証済みベンチマークを構築し、4つのオープンウェイトモデル（Qwen-2.5-1.5B/7B, Mistral-7B-v0.3, Llama-3.1-8B）を評価した。

4. 実験結果

評価は、3つのモデルファミリーにわたる8,746件の検証済みベンチマークを用いて行われた。

• PTCの普及率： フィルタリングされたPTC率は、モデルの容量に応じて単調に増加し、Qwen-1.5Bの**4.1%からLlama-3.1-8Bの10.3%**まで変化する。古い事実への嗜好性率 (OPR) は、モデルファミリーによらず比較的一定である（約53〜54%）。
• 局在化： 単一層の活性化パッチングにより、すべてのモデルで回答反転率 (AFR) 0.72〜0.85を達成し、衝突解決回路が特定の層の上部層に局在していることが確認された。
• エンドツーエンドの性能： TASは、検証されたPTCケースの29〜57%を回復しつつ、非衝突クエリに対して85〜99%の精度（保存精度）を維持した。
  • 最高性能： Qwen-2.5-7Bは、94.8%の保存精度を伴う**56.9%**の回復率を達成した。
  • ベースラインとの比較： TASは、3つのモデルにおいて、一致させたITI (Inference-Time Intervention) ベースラインを上回った。具体的には、TASは、一般的な行動コントラストではなく検証済みの衝突インスタンスからステアリングベクトルを構築していることにより、QwenモデルにおいてITIと比較して**+0.142から+0.152**の回復向上を実現した。
• クロスモデル分析： PTCのインスタンスはモデル間で完全に一致しているわけではない。興味深いことに、MistralとLlama（異なるファミリー）の重複は、2つのQwenモデル（同じファミリー）の間の重複よりも大きかった。これは、トレーニングデータの新しさが、アーキテクチャの系統よりもPTCの整合性の強力な予測因子であることを示唆している。

5. 意義と主張

本論文は、古いパラメトリック知識を推論時に選択的に上書きする方法について、メカニズムに基づいた、検索不要な説明を提供すると主張している。

• 診断的有用性： 知識回復フィルターは、介入を試みる前に、モデルが回復可能な新しい事実を保持しているかどうかを判断するための安価な診断手段を提供する。
• 安定性： 衝突クリティカル層はファミリー固有であるが安定しており、特定のモデルファミリーに対して一度特定すれば再利用が可能である。
• 介入の有効性： 結果は、時間的衝突が測定可能であり、局在化されており、かつ解決可能であることを示している。論文は、検証済みの衝突ステアリング（TAS）が一般的に行動コントラストステアリング（ITI）よりも優れているものの、最適なステアリングベクトルの構築方法はモデルアーキテクチャによって異なる可能性がある（例：Mistral-7B-v0.3ではITIの方が良好であった）と控えめに述べている。

本研究は、PTCが知識の欠如とは分離可能な、独自の失敗モードであることを確立し、ターゲットを絞った活性化ステアリングが、再学習の計算コストや外部検索のレイテンシを伴わずに、これらの衝突を効果的に解決できることを示した。