The Ignition Is Real, and It Lives at the Readout: Latent composition, difficulty-clocked ignition, and the interface-constituted commit in a recurrent-depth reasoner

あなたは、マジシャンが超高性能なコンピュータであるマジックショーを見ていると想像してください。長い間、人々はこれらのコンピュータがどのように「考えている」のか疑問に思ってきました。彼らは、手順を書き込み、間違いを修正し、最終的な答えを見せる前にそれらを消去するような、秘密の内部ノートを持っているのでしょうか？それとも、単に答えを即座に推測しているだけで、「思考」として私たちに見えているものは、単に彼らの話し方の巧妙なトリックなのでしょうか？この問いは、人工知能の分野、特に「潜在的推論（latent reasoning）」、つまりモデルが言葉を発する前に、その隠れた層の中で複雑な作業を行っているのではないかという考えの中核に位置しています。科学者たちがこれを重視するのは、もしコンピュータが本当にステップを踏んで「考えている」のであれば、それは単に答えを推測している場合よりも賢く、信頼できる可能性があるからです。しかし、もしその「思考」が出力される答えによって作られた錯覚であるならば、私たちはこれらの機械の構築方法や信頼の置き方を再考する必要があります。

これから読む論文は、コンピュータがパズルを解く学習過程を捉えた、高速・スローモーションカメラのようなものです。研究者たちは、特定のタイプのAI（3,000万パラメータのモデル）の新しいコピーを、有名な先行研究と全く同じレシピを用いてゼロから構築しました。彼らは、コンピュータが答えを「決定」する正確な瞬間を捉えようとしました。彼らは二つのものを同時に観察しました。一つは、コンピュータが選ぶ最終的な答え（「リードアウト（出力）」）、もう一つは、コンピュータの脳内にある隠れた内部状態（「潜在状態」）です。

ここで何が見つかったのかというと、それは少し予想外の展開（プロットツイスト）です。「点火（イグニッション）」の瞬間――コンピュータが正解にロックオンする突然の跳ね上がり――は、間違いなく実在します。それは、パズルが難しくなるにつれて、時計の針が進むように、より遅い特定の時間に発生します。しかし、「秘密のノート」説は間違っています。コンピュータは、最終的な答えの中に中間ステップや「下書き」を実際に見せることはありません。代わりに、「思考」は完全な沈黙の中で行われます。コンピュータの内部の脳の状態は、目立たないところで激しく静かに動き回りますが、決定を下した瞬間に、答えを制御する部分が突然安定した位置に固定され、凍結します。それはまるで、コンピュータが暗闇の中でマラソンを走っており、私たちが目にするのは、彼がゴールラインを越えて突然立ち止まった瞬間だけであり、その時も彼の心臓（内部状態）はまだ激しく鼓動しているかのようです。

沈黙の瞬間の物語

セットアップ：双子の構築
単なるグリッチ（一時的な不具合）を見ているのではないことを確認するために、研究者たちは既存のAIモデルの新しい「双子」を育てました。彼らは、オリジナルの研究と全く同じ開始シードと指示を使用しました。彼らはその発達過程をすべて撮影し、参照モデルと全く同じように振る舞っているかをすべてのステップでチェックしました。彼らは二つのカメラを用意しました。一つは「リードアウト（出力）」、つまりコンピュータが選択可能な答えのリストを監視し、もう一つは「隠れた状態」、つまりコンピュータの脳内にある目に見えない数学的プロセスを監視するカメラです。

謎： 「ワークスペース」は実在するのか？
しばらくの間、これらのモデルには、アイデアを保持し、それらを操り、決定を下す前にそれらを見せることができる「グローバル・ワークスペース（全域的作業空間）」が存在すると考えられていました。大きな疑問はこうです。このワークスペースは、思考が行われる実在の場所なのか、それとも単なる「プリンター」（コンピュータが話す方法によって引き起こされる錯覚）なのか、あるいは「鏡」（学習した本の人間的な言語パターンを単に模倣しているもの）なのか？

発見： 点火は実在するが、沈黙している
研究者たちは、「点火（イグニッション）」が間違いなく実在することを発見しました。コンピュータが問題を解決するとき、正しい答えを選ぶまさにその瞬間に、劇的なことが起こります。

• 時計： 問題を解くのにかかる時間は、問題が難しくなるにつれて、完璧で予測可能な直線を描いて増大します。ステップが1つの問題なら短い時間がかかり、ステップが10ある問題ならより長い時間がかかります。これは、コンピュータが実際にステップを数えていることを証明しています。
• スナップ（急激な変化）： 決定の瞬間に、コンピュータの「回答マージン（正しい答えが間違った答えよりもどれだけ優れているか）」は、一瞬にして5.8から8.0ロジット（信頼度の単位）という膨大な量に跳ね上がります。これは**96%**のケースで発生します。それはまるで、ライトスイッチがパチッと入るかのようです。
• 沈黙： ここにひねりがあります。研究者たちは「中間ステップ」（コンピュータが声に出して考えたり、下書きを見せたりすること）を探しました。しかし、彼らはゼロであることを発見しました。コンピュータは語彙を通じて思考プロセスを表面化させることはありません。「ワークスペース」は沈黙しています。コンピュータは暗闇の中で答えを構成し、最後の瞬間まで、その結果だけが姿を現すのです。

決定の幾何学
研究者たちは、コンピュータの脳の状態の形状を観察しました。

• 決定の前： 脳の状態は、探索するように動き回っています。
• 決定の時： 脳の状態の方向が、新しい位置へと「スナップ（急激に移動）」します。それは鋭く、突然の転換です。
• 決定の後： 脳の状態の方向は固定され、安定します。しかし、脳の状態の「大きさ（マグニチュード）」は成長し続けます。それは、回転する独楽（こま）が、ふらつきを止める（方向は固定される）一方で、回転速度は上がり続ける（マグニチュードが増大する）ようなものであり、その動きは「リードアウト」のカメラにはさえも見ることができません。コンピュータは依然として動いていますが、答えを変えない方向へと動いているのです。

これが否定するもの
この論文は、いくつかの概念を明確に否定しています。

1. 「鏡」理論： コンピュータはこれを行うために人間の言語から学ぶ必要はありませんでした。彼らは合成された非言語的な数学パズルのみで訓練しましたが、それでもこの「点火」が発生しました。したがって、それは単に人間の習慣をコピーしているわけではありません。
2. 「ステージ・ブロードキャスト（段階的放送）」理論： コンピュータは、ステップごとに作業を見せることはしません。アイデアが放送されるような「グローバル・ワークスペース」は存在しません。思考は完全に内部的であり、最後の瞬間まで沈黙しています。
3. 「プリンター」理論： これは出力のランダムなグリッチではありません。タイミングはあまりにも完璧であり、自信の跳ね上がりは偶然にしてはあまりにも巨大です。それは実在する、法則に基づいたイベントなのです。

結論： コミットの影
著者は、私たちが見ている「ワークスペース」は、思考が行われる場所ではなく、決定の影であると結論付けています。「点火」とは、コンピュータの内部の幾何学が、答えが明確になる安定した場所にロックされる瞬間です。「思考」は、コンピュータの出力からは見ることができない、沈黙した不可視のチャネルで行われます。コンピュータは「作業を見せる」のではなく、ただ「作業を行う」のであり、作業が終わった瞬間に、答えがスナップして定まるのです。

この発見は、私たちがAIを見る視点を変えます。これは、これらのモデルが深く、静かな構成能力を持っていることを示唆していますが、彼らは考えるために「話す」必要はないのです。「決定」は、安定へと向かう突然のスナップという実在のイベントですが、そこに至るまでの道のりは、私たちがその終端しか目にすることのできない、沈黙した不可視のダンスなのです。研究者たちは現在、これがさらに大きなモデルでも起こるのか、そして人間の言語を教えることがこの「スナップ」の仕組みを変化させるのかどうかを調査する計画を立てています。今のところ、私たちは「点火」が実在し、難易度によって刻まれ、答えが現れる瞬間に存在するものであることを知っています。