技術要約：言語モデルのメカニスティックな監査のための参照特徴アトラス（Reference Feature Atlas）

1. 問題提起

新しい言語モデル（LM）の安全性、バイアス、または隠れた目的を監査する場合、通常、新しいリリースごとに内部特徴をゼロから再学習し、再解釈する必要があります。現在のツール（Sparse Autoencoders (SAE) や Sparse Crosscoders など）は、この文脈において重大な限界を抱えています：

• 共有されたベースラインの欠如： 単一モデルの SAE は、ターゲットごとに新しい辞書を生成するため、ある特徴がモデル固有のアノマリー（異常）なのか、それともファミリーに共通する特性なのかを区別することが不可能です。
• 非効率な比較： ペアワイズ（対）Crosscoder は、2つのモデル間で解釈をアモルタイズ（償却）しますが、3つ目のモデルが登場すると再学習が必要になります。これらは、共有された辞書内での事後的なデコーダーノルム閾値処理によってターゲット固有の特徴を分離しますが、これはアーキテクチャによる分離ではなく、特徴ごとのソフトな決定に過ぎません。
• 座標系の欠如： 異なるターゲットを対等な立場で比較できる安定した座標系や、既知のモデルの「リファレンスパネル」の外側にある構造を明示的にフラグ立てするメカニズムを持つツールは存在しません。

核心となる課題は、モデルファミリーに共通する一般的なメカニズムと、隠れた目的や独自のバイアスをエンコードしている可能性のあるターゲット固有のメカニズムを、各新しいモデルに対してパイプラインを再起動することなく、どのように区別するかという点にあります。

2. 手法：参照特徴アトラス（Reference Feature Atlas）

著者らは、リファレンスパネルのモデル群に対して一度訓練され、新しいターゲットに対して再利用される疎な特徴ライブラリである参照特徴アトラスを提案しています。この手法は、特徴のアイデンティティ（その特徴が何であるか）と、特徴の使用（新しいモデルがそれをどの程度強く駆動するか）を分離します。

2.1 アトラスの訓練（ステージ1）

$k$ 個のモデルからなるリファレンスパネル $P = \{M_1, \dots, M_k\}$ を用いて、共有された疎な座標系を訓練します。

• アーキテクチャ： マルチ入力エンコーダ $E_A$ が、すべてのパネルモデルからの活性化を共有潜在空間 $z_A \in \mathbb{R}^K$ にマッピングします。
• スパース性： 異種混合の活性化スケールに伴うアーティファクトを避けるため、BatchTopK スパース性（トークンごとに最大の $k$ 個の活性化を保持する）を使用し、crosscoder 訓練における L1 スパース性に付随する問題を回避します。
• 目的関数： アトラスは、各パネルモデルの特定のデコーダ $D_i$ と共有コード $z_A$ を用いて、各モデルの活性化 $h_i$ を再構成する際の「説明されない分散の割合（Fraction of Variance Unexplained: FVU）」を最小化します：
  $$\mathcal{L}_{atlas} = \sum_{i=1}^k \text{FVU}(h_i, D_i z_A)$$
• メタデータのキュレーション： 一度訓練されると、アトラスの特徴は（LLM 生成の仮説や、高活性化プロンプトなどを通じて）解釈され、検証されます。このメタデータは固定され、将来のすべての監査において再利用されます。

2.2 ターゲットの付着（ステージ2）

新しいターゲットモデル $M_\star$ が到着した際、エンコーダやパネルデコーダを再訓練することなく、凍結されたアトラスに「付着（attach）」させます。

1. 線形デコーダの適合： 凍れるアトラスコード $z_A$ を用いて、$M_\star$ の活性化を再構成するように単一の線形ターゲットデコーダ $D_\star$ を適合させます：
   $$\hat{h}_\star = D_\star z_A$$
   このステップは計算コストが低く（中立的なコーパス上でのリッジ回帰）、**アトラス・チャネル（Atlas Channel）**を生み出します。
2. 残差チャネル（Residual Channel）： アトラスによって再構成されないターゲットの活性化部分は、残差として定義されます：
   $$r_\star = \text{sg}[h_\star - D_\star z_A]$$
   専用の 残差 SAE（Residual SAE） が $r_\star$ に対して訓練され、別の辞書を形成します。このチャネルは、パネル未カバー（panel-uncovered） の構造、すなわちリファレンスパネルには存在しないがターゲットには存在する特徴を明示的に捉えます。

2.3 監査出力

監査は、2つの補完的なビューを提供します：

• アトラス・チャネル： すでに解釈済みのパネル特徴を用いてターゲットを読み取ります。これは、ターゲットがどの共有特徴を駆動し、どの特徴を無視しているかを示す、N方向比較のための安定した座標系を提供します。
• 残差チャネル： 「リファレンスパネルの外側」にあるメカニズムのための、名前付き特徴インベントリを提示します。これらの特徴は、アーキテクチャ上の構成によって（事後的な閾値処理ではなく）別個の辞書に存在するため、共有された特徴とは明確に区別されます。

3. 主な貢献

1. 再利用可能な特徴座標系： アトラスは、リファレンスパネルに対して一度訓練された共有の座標系を提供します。新しいターゲットは線形デコーダを介して付着するため、特徴辞書を再訓練することなく、直接的な比較が可能になります。
2. パネル未カバー構造のアーキテクチャ的分離： 共有された特徴とモデル固有の特徴を一つの辞書に混在させる疎なクロスコーダーとは異なり、本手法は未構成の信号に対して別個の残差 SAE を適合させます。これにより、「パネル未カバー」の構造が、事後的な決定ではなく、固定されたアーキテクチャ上の特性となります。
3. 付着による系統横断的なシグネチャ： 付着の質（FVU や KL ダイバージェンスで測定）は、ターゲットの挙動のうち、どれだけがリファレンスパネルの外側にあるかを示すスカラー指標として機能します。これは、残差 SAE によって名前付きのインベントリへと拡張されます。

4. 実験結果

著者らは、5つの 7–9B インストラクションチューニング済みモデル（Llama-3.1, Qwen2.5, Mistral-7B, Gemma-2, OLMo-2）からなるパネルを用いて、2つの leave-one-out アトラス を訓練し、保持されたモデル（Mistral および Qwen）を監査しました。

4.1 制御された隠れた目的の監査

3つの隠れた目的（架空のデザートブランド、プトレマイオスの周転円、および空飛ぶスパゲッティモンスターへの支持）を、小さな LoRA を通じて両方の保持されたターゲットに注入しました。

• 回復： 残差チャネルは、注入されたメカニズムを、すべての6つのペア実行（3つのシード $\times$ 2つのターゲット）において、トップランクの潜在変数（平均ランク 1.0, $\sigma=0$）として回復しました。
• 因果的制御： 残差方向への実行時介入は、植え付けられた目的の発生率をゼロに抑えつつ、一致した制御用ベンチマークには影響を与えませんでした。
• ベースライン比較： Mistral ターゲットに対し、著者らはターゲットごとの SAE およびペアワイズ・クロスコーダーを再訓練して、直接比較のベンチマークを行いました。両方のベースラインは、目的をトップ特徴として回復することに失敗しましたが（ランク 12 および 9）、リファレンス・アトラスは成功しました。

4.2 パネル相対的な政治的フレーミングの発見（Qwen）

• 付着ギャップ： Qwen-2.5 は、自身が保持対象であった Atlas B に対して、パネル内での値よりも $\sim7$ 倍高い KL ダイバージェンスを示し、リファレンスパネルの外側に重要な構造があることを示しました。
• 残差の発見： 残差チャネルは、このギャップを、緊急権限の制限、混乱期におけるメディア停止のフレーミング、および個人の権利を軽視する法と秩序の正当化といった、特定の政治的な継続表現に局在化させました。これらはパネルではカバーされていませんでした。
• 介入： 残差クラスターをステアリング（操作）すると、政治的キーワードの拒絶率と法と秩序のフレーミングの割合が単調に変化しましたが、ドメイン外のコントロールには変化が見られませんでした。
• 発見の性質： 著者らは、これが パネル相対的 な発見であることを強調しています。これは、Qwen に特有の価値観についての本質的な主張ではなく、特定の西洋的な訓練を受けたリファレンスパネルではカバーできない構造を特定したものです。

5. 意義と主張

本論文は、参照特徴アトラスが、現在の最先端の手法と比較して、よりスケーラブルで効率的、かつ厳密なメカニスティック監査のフレームワークを提供すると主張しています。

• 効率性： すべての新しいモデルに対して完全な辞書を再訓練するという計算コストを回避します。
• 比較可能性： 単一モデルの SAE やペアワイズ・クロスコーダーによる「比較不能性」の問題を解決し、N方向比較のための単一の $K$ 次元システムを提供します。
• 明示的なアノマリー検出： 残差チャネルをアーキテクチャとして分離することで、共有された辞書が覆い隠してしまう可能性のある、ターゲット固有の隠れたメカニズムを明示的に浮き彫りにします。
• 謙虚な姿勢： 著者らは、発見はリファレンスパネルおよび監査コーパスに依存することを注記しています。例えば、政治的フレーミングの発見は、使用された特定のプロンプト分布とパネルに限定されたものです。異なるパネルを使用すれば、これらの特徴は共有座標の中に吸収される可能性があります。また、本手法は活性化へのアクセス（オープンウェイトモデル）を必要とし、特徴ラベルは依然として検証を要する仮説であることを前提としています。

本研究は、アトラスを単なる特徴抽出器としてではなく、共有されたファミリーの特性とターゲット固有の隠れた目的を、より高い精度と低いオーバーヘッドで区別することを可能にする、標準化された監査プロトコルとして位置付けています。