技術要約：イグニッション・インデックス（Ignition Index）

問題提起

本論文は、トランスフォーマー言語モデルにおける層ごとの情報蓄積に関する根本的な動態的問い、すなわち、グローバル・ワークスペース理論（GWT）が予測するような、層ごとの情報蓄積がイグニッション（点火）のような閾値非線形性を示すかどうかを扱っている。GWTは、グローバルなブロードキャスト・メカニズムを備えたシステムは、「全か無か」のイグニッション、つまり刺激の表現が臨界閾値を越えてグローバルに利用可能になる際の鋭い閾値非線形な遷移を生み出すと仮定している。トランスフォーマーは（残差ストリームを共有チャネルとして、アテンションをグローバルなルーティングとしてなど）、GWTと建築的な類似性を共有しているが、その表現の遷移が（イグニッションのように）急激なものか、あるいは（段階的な）グラデーション状のものかについては、未だ測定されていない。さらに、これらの動態が異なるアーキテクチャ・ファミリー（例：アテンションベース vs 状態空間モデル）や訓練フェーズによってどのように系統的に変化するのかも不明である。

手法

著者は、トランスフォーマー・モデルにおけるGWTのイグニッション予測を定式化するために検証されたスカラー指標である**イグニッション・インデックス（$I$）**を導入する。手法は主に以下の4つの段階で進行する：

1. 信号強度操作： トークンのマスキング、埋め込みノイズ、セマンティックな破損を含む制御されたトークン破損を通じて、入力信号強度（$s \in [0, 1]$）を変化させる。
2. 層ごとのプロービング： モデルの各層 $\ell$ における残差ストリームの状態（$x^{(\ell)}$）に対して線形プローブを訓練し、タスクに関連する情報（形態統語論的、意味論的、および統語論的タスク）をデコードする。
3. シグモイド・フィッティング： 固定された信号強度に対し、層ごとの精度曲線 $Acc(\ell, s)$ を4パラメータ・ロジスティック関数に適合させる：
   $$f(\ell) = y_{min} + \frac{y_{max} - y_{min}}{1 + \exp(-\beta(\ell - \ell_0))}$$
   ここで、イグニッション・インデックスは傾きパラメータ $\hat{\beta}$ として定義される。高い $\hat{\beta}$ は、急激でイグニッションのような遷移を示し、低い $\hat{\beta}$ は、緩やかで線形な蓄積を示す。
4. 検証とコントロール：
   • ラベル・シャッフル・コントロール： 指標がプローブの容量による偽の特性ではなく、真の言語構造を捉えていることを保証するために、ラベルを置換する。
   • 天井分析： 数値的な天井（$\hat{\beta}=300$）に達しているフィットが、アーキテクチャ間のギャップによるアーティファクトではないことを確認するために分析を行う。
   • 統計検定： アーキテクチャ間を比較するために、マン・ホイットニーのU検定およびブートストラップ法によるウィルコクソンの順位和検定を使用する。

このフレームワークは、5つのアーキテクチャ・ファミリー（GPT-2、Pythia、Gemma 2（フィードフォワード）、Huginn-3.5B（再帰的深度）、Mamba（状態空間モデル/SSM））にわたる12のモデルに適用された。

主な貢献

1. イグニッション・インデックス ($I$)： 層構造を持つモデルにおけるGWT的な表現遷移を定量化するための、理論に基づいた検証可能な指標。
2. 選択性の検証： 真の言語的遷移（$\hat{\beta} = 113.1$）とシャッフルされたラベルによるコントロール（$\hat{\beta} = 11.8$）の間に9.6倍のギャップがあることを示し、指標が真の構造を測定していることを確認した。
3. アーキテクチャの識別能： アテンションベースのフィードフォワード・トランスフォーマーと状態空間モデル（SSM）の間に、強固で統計的に有意なギャップ（$p < 10^{-13}$）を確立した。
4. 軸依存のイグニッション： 再帰的アーキテクチャ（Huginn-3.5B）において、イグニッションの動態が深度軸ではなく再帰／反復軸に沿って現れることを明らかにした。
5. 訓練動態： （Pythia-410Mにおいて）よく知られたインダクション・ヘッドの形成に先立つ、ステップ256での新たなフェーズ遷移を特定した。

主要な結果

1. アーキテクチャの順序付け（仮説1）

• フィードフォワード vs. SSM： アテンションベースのフィードフォワード・モデルは、状態空間モデル（$\hat{\beta}_{SSM} = 68.7$）と比較して、有意に高いイグニッション・インデックス（$\hat{\beta}_{FF} = 130.0$）を示し、89%のギャップがある。天井値への到達を除外した後でも、このギャップは2.12倍に拡大する。
• Mambaの挙動： Mambaモデルは、グローバルなブロードキャスト・メカニズムの欠如と一致する、ほぼ線形で平坦な層精度プロファイルを示している。
• Huginn-3.5B（再帰的深度）： 当初、深度軸で測定した場合、Huginnはフィードフォワードの平均を下回っていた（$\hat{\beta}_{depth} = 111.0$）。しかし、反復軸プロービングにより、より急峻な遷移（$\hat{\beta}_{iteration} = 234.8$）が明らかになった。これは2.12倍の増加である。これは、再帰的アーキテクチャが、層のスタック全体ではなく、再帰ループ内にイグニッション動態を集中させていることを示唆している。

2. スケーリング効果（仮説2）

モデルのスケールとともにイグニッションの鋭さが単調に増加するという仮説は、棄却された。代わりに、すべてのファミリーにおいて**「ピーク後の減少」という非単調なパターン**が観察された。イグニッションは中規模モデル（例：Pythia-1.4B、GPT-2 Medium）でピークに達し、より大きなモデルでは減少した。著者は、大きなモデルは重ね合わせ（superposition）を通じて表現の遷移をより多くの層に分散させ、遷移プロファイルを広げている可能性があると示唆している。

3. 信号強度の依存性（仮説3）

強い信号がより鋭い遷移を生むという仮説は、確認されなかった。多くのモデルが非単調なパターンを示し、一部のモデルでは低または中間程度の信号強度で最も高い $\hat{\beta}$ を示した。著者は、非常に低い信号強度では、情報が単一の層で閾値を越える（全か無か）ため、$\hat{\beta}$ が人工的に膨張する一方で、完全な信号では段階的なマルチレイヤー統合が可能になるためではないかと考えている。

4. 訓練動態（仮説4）

Pythia-410Mについて、訓練ステップ256において重要な変化点が検出された。ここでは $\hat{\beta}$ が67%増加した（39.57から66.02へ）。これはインダクション・ヘッドの形成ステップ（約2,000）に先行しており、イグニッションのような構造的定着が、より早い訓練フェーズで起こっていることを示唆している。Pythia-1.4Bはこのような安定した変化点を示さず、不安定な動態を示した。

意義と主張

本論文は、GWTの動態的予測と言語モデルのメカニスティックな解釈可能性との間の、初の検証された定量的架け橋を提供すると主張している。

• アーキテクチャへの洞察： 結果は、アテンションベースのグローバル・ブロードキャストが、急激なイグニッションのような表現的遷移のための重要なアーキテクチャ上の前提条件であるという見解を支持している。アテンションの欠如（Mambaにおいて）は、線形的で段階的な処理と相関している。
• 方法論的進展： イグニッション・インデックスは、「ワークスペースのような」アーキテクチャと「ワークスペースではない」アーキテクチャを区別するための原理的な識別器として機能する。また、再帰モデルにおいては、真の動態を捉えるために適切な計算軸（反復 vs 深度）に沿ってプロービングを行う必要があることを明らかにしている。
• 訓練への洞察： 初期訓練フェーズにおける変化点（ステップ256）の発見は、特定の機能的回路（インダクション・ヘッドなど）が出現する前に、基本的なイグニッションのような層構造が結晶化することを示唆している。
• 限定的な範囲： 著者は、$I(M)$ は意識の尺度ではないことを明示している。これは情報の統合（グローバルな利用可能性）の構造的動態を測定するものであり、現象的意識や自己監視については沈黙している。この指標は、現象的意識の証明ではなく、表現動態とアーキテクチャ探索のための診断ツールとして提示されている。

結論として、事前登録された4つの仮説のうち3つは予測された方向とは一致しなかったものの、強固なアーキテクチャ間のギャップと軸依存の動態の発見は、GWTの類推が人工システムにどのように適用されるかについて、重要な新しい制約を与えている。