Pattern Selectivity is Not Task-Causal Structure: A Cross-Architecture Mechanistic Study of Composed-Task Circuits in 1B-Class Language Models

技術要約：パターン選択性はタスク因果構造ではない

問題提起
本論文は、メカニスティック・インタープリタビリティにおける確立された「スクリーン・アンド・アブレーション（抽出と切除）」のレシピ——すなわち、タスク・パターン選択性によって注意ヘッドの回路を特定した後に因果的アブレーションを行う手法——が、異なるモデルファミリー間で一貫したメカニズム上の主張をもたらすかどうかを調査するものである。先行研究（Wang et al., 2023など）は、GPT-2 smallにおける間接目的語識別（IOI）のようなタスクに対して標準的な回路を確立したが、これらの特定の回路が、異なるコーパスや異なるアーキテクチャで訓練された他の1Bクラスの言語モデルにも汎化するかどうかは不明である。核心となる問いは、単一のタスク・パターンによるスクリーニングが異なるモデル間で同一の因果的回路を特定するのか、それとも構成されたタスクのメカニズム的な実装はモデル固有のものなのか、という点である。

手法
著者らは、$4 \times 3$の実証的グリッドに対して統一されたスクリーン・アンド・アブレーション・プロトコルを適用している：

• タスク: 4つの構成タスク：間接目的語識別（IOI）、Greater-Than（より大きい）、Successor Sequences（後続シーケンス）、およびVariable Binding（変数結合）。
• モデル: 異なるパイプラインを持つ3つの1Bクラスモデル：
  • Pythia 1B: デンス（Dense）アーキテクチャ、The Pileで訓練。
  • OLMo 1B: デンス（Dense）アーキテクチャ、DCLMで訓練。
  • OLMoE 1B-7B: Mixture-of-Experts（MoE）アーキテクチャ（64エキスパート、トップ8）、DCLMで訓練。
• 手順:
  1. スペクトル信号: 特化した計算を特定するために、参加比（PR）積分を用いてヘッドを事前スクリーニングする。
  2. タスク・パターン・スクリーン: 特定の注意パターン（例：prev-token、induction、name-mover、S-Inhibition）に対する選択性に基づいて、候補となるヘッドをフィルタリングする。
  3. 因果的検証: 候補となる回路のグループ・アブレーションを実行する（ヘッドの出力をバッチ平均の活性化に置き換える）。
  4. コントロール: 10個の独立したシードを用いて、同じレイヤーから同数のヘッドを重複なくランダムにサンプリングすることで、すべてのセルに対して**マッチド・ランダム・ヌル（対応するランダムな無効値）**を生成する。
• 指標: パフォーマンスは、$\Delta$top-1精度および$\Delta$logit-diff（正解のロジットとディストラクターのロジットの差）によって測定される。

主な貢献

1. 実証的グリッド: 1Bクラスの最前線における12（タスク, モデル）セルの包括的な分析を行い、手法自体は移植可能であるが、特定の因果的回路は移植できないことを示した。
2. 5カテゴリの分類法: スクリーンの結果を分類するための定量的なフレームワークを提示する：
   • 一次原因 (Primary Cause): 非飽和の最大効果を持ち、高い特異性（matched-randomに対して$\ge 3\times$）を示す。
   • 二次原因 (Secondary Cause): 有意味な効果はあるが、一次スクリーンよりも小さく、しばしば冗長な経路となる。
   • 相関関係 (Correlate): ヘッドは期待されるパターンを示すが、アブレーションが因果的な影響をほとんど、あるいは全く与えない（答えが既に上流でエンコードされている）。
   • 干渉因子 (Interferer): アブレーションによってタスクのパフォーマンスが向上する。多くの場合、タスクと競合するBOSクラス（最初のトークン）のアテンション・シンクによって引き起こされる。
   • ヌル (Null): 因果的な役割を持たない。効果の大きさはランダムなノイズと区別がつかない。
3. OLMoE Prev-Token-Primacy仮説: MoEモデルは、1Bアクティブスケールにおいて、基礎となる**prev-token位置基質（prev-token positional substrate）**の上に構成されたタスク回路を構築しているという、反証可能な主張。タスク固有の計算はこの基質の上にレイヤー化されるが、タスク構造が直接別のパターンを探索する場合（例：IOOの最終位置でのname-copying）を除く。
4. 手法の洗練:
   • 真の因果関係を「釣り（fishing expedition）」から区別するために、マッチド・ランダム・コントロールがいかに不可欠であるかを実証した。特に、L0に集中したスクリーンは、ヌル（無効値）の分散が大きいことを明らかにした。
   • **マージン・ノット・アルグマックス（margin-not-argmax）**のシグネチャーの特定：一部のモデルでは、アブレーションがトップ1の予測を変えることなく、ロジットのマージンを圧縮（確信度を低下）させる。これは、能力がゲート決定ではなく、分布的なバイアスとして実装されていることを示唆している。

主な結果

• アーキテクチャ間での回路転移の不在: $4 \times 3$グリッドのどの2つのセルも、同等の効果サイズを持つ同じ一次因果スクリーンを共有していない。
  • IOI: Pythiaはprev-tokenが一次であり、OLMoはS-Inhibitionが一次、OLMoEはname-moverが一次である。
  • Greater-Than: PythiaはGT-specificが一次であり、OLMoはマージンのみの効果を示し、OLMoEはprev-tokenが一次である。
  • Successor: Pythiaは混合型、OLMoはL0集中型（信頼できないヌル）、OLMoEはprev-tokenが一次である。
  • Variable Binding: Pythiaのナイーブなスクリーンは、干渉因子（BOS-confounds）を特定した。
• OLMoEのパターン: OLMoEにおいて、prev-token回路はGreater-Than、Successor、およびVariable Bindingの主要な因果的ドライバーである。例外はIOIであり、タスク構造（最終位置のname-copying）が直接name-mover回路を駆動する。
• BOSクラスの混同: PythiaのVariable Bindingタスクにおいて、トップのスクリーン候補は、干渉因子として機能するBOSクラスのヘッドであった。真の支持者と区別するには、個別のヘッド・アブレーションが必要であった。この診断は、BOSが支配的な領域全般に適用できる。
• 指標の感度: top-1精度のみに依存すると、重要なメカニズム上の効果を見逃す。例えば、OLMoのGreater-Thanタスクでは、GT特有のスクリーンをアブレーションすると、トップ1の予測は最小限の変化（$\Delta$-0.6）であったが、ロジットのマージンは大幅に圧縮（$\Delta$-1.98）された。

意義と主張
本論文は、「能力Xの回路は何か？」という問いは、1Bクラスの最前線においては、単一の転移可能な解を前提としている点で、問い自体が不適切であると論じている。代わりに、著者らは以下を提案する：

1. メカニズムのデカップリング（分離）: 異なるモデルは、全く異なるメカニズム的実装を通じて、同じ行動的能力を達成する。「レシピ（スクリーン・アンド・アブレート）」は有効な生成的プロセスであるが、特定の回路はモデルごとに再導出されなければならない。
2. モデルクラスの規則性: 特定の回路は異なるものの、アーキテクチャファミリー内の構造的パターンは存続する可能性がある。OLMoE prev-token-primacy仮説は、MoEアーキテクチャがルーティングのための安定した位置基質に依存しており、その上にタスク固有のロジックが構築されていることを示唆している。
3. 方法論的正当性: 著者らは、スペクトル信号だけでは不十分であることを強調している。相関関係や干渉因子を区別するためには、タスク・パターン・スクリーンと因果的検証（特にBOS支配的なレジームにおける個別のヘッド・アブレーション）が必要である。

著者らは、これらの知見をより広範な実証的プログラムへの出発点として位置づけており、OLMoEの仮説は他のMoEモデル（Mixtral, DBRXなど）での検証が必要であること、また、この12セルのグリッドは動機付けとしては十分であるが、完全なクロス・タスクの汎化を確立するものではないと述べている。