技術要約：決定論的ホライゾン（The Deterministic Horizon）

1. 問題提起

本論文は、長時間の熟考（長いChain-of-Thought、またはCoT）が常に精度を向上させるという、大規模言語モデル（LLM）の推論における支配的なパラダイムに異議を唱えるものである。近年の研究（例：Wu et al., 2026）は、長い推論連鎖における性能低下を「単純性バイアス（Simplicity Bias）」（修正可能な短い出力を好む傾向）に帰しているが、本論文は、決定論的な状態追跡タスクにおいて、その失敗は行動的なものではなく、アーキテクチャに起因するものであると主張する。

決定論的なドメイン（例：ソフトウェアのデバッグ、形式検証、逐次計画）では、正誤はバイナリ（二値）である。状態追跡におけるたった一つの逸脱が、完全な失敗を意味する。著者らは、最先端の推論モデルが**状態空間デコヒーレンス（State-Space Decoherence：状態空間の離散化・崩壊）**を示すことを観察している。これは、推論の深さが増すにつれて、蓄積された誤差によってモデルの内部状態がグラウンドトゥルース（正解）から完全に乖離してしまう現象である。「概ね正しい」ことで事足りるオープンエンドな生成とは異なり、これらのタスクは正確な追跡を要求するため、デコーダーのみの注意（attention）メカニズムの根本的な限界を露呈させる。

2. 方法論および理論的枠組み

2.1 理論的貢献

著者らは、情報理論とアテンション・メカニズムに基づいた理論的枠組みを確立している。

• アテンション・ボトルネック定理： 本論文は、デコーダーのみのトランスフォーマーにおける状態追跡の情報理論的な容量限界を導出している。これは、自己回帰的なアテンションが、各ステップにおいて固定容量のチャネルを通じて過去の状態情報を圧縮しなければならないことを示唆している。容量は以下のように制限される：
  $$|S_{track}| \leq c(\delta, \rho_{max}) \cdot 2^{H \cdot \log_2(L/H) \cdot d_h^{1/2}}$$
  ここで、$H$はヘッド数、$L$はコンテキスト長、$d_h$はヘッド次元である。これは、アーキテクチャの規模とともに容量は増大するものの、正確な状態追跡に必要なステップごとの情報フローがボトルネックを生じさせることを示唆している。

• コンテキスト依存型誤差モデル： ステップごとの誤差が一定であると仮定するモデルとは対照的に、著者らはアテンションのエントロピー分散により、深さとともに増大する誤差率 $\epsilon(d)$ を提案している：
  $$\epsilon(d) = \epsilon_0 + \gamma \frac{d}{L_{eff}}$$
  ここで $L_{eff}$ は「有効デコヒーレンス長」（経験的に $\approx 10^2$ ステップであり、生のコンテキストウィンドウ $L$ よりも遥かに小さい）である。これは、精度の超指数関数的な減衰をもたらす：
  $$P(\text{correct at depth } m) \leq \exp\left(-m\epsilon_0 - \frac{\gamma m(m+1)}{2L_{eff}}\right)$$

• 決定論的ホライゾン ($d^*$)： 成功確率が目標閾値 $\alpha$ を下回る深さを解くことで、著者らは「決定論的ホライゾン」を定義する。主要なモデル群において、$d^* \in [19, 31]$ である。この深さを超えると、純粋なニューラル推論はモデルのスケールに関わらず信頼できなくなる。

• ファインチューニングの上限： 本論文は、ファインチューニングではこのアーキテクチャ上の天井を克服できないことを証明している。もし $d > d^*$ であれば、ファインチューニングされたモデルの精度は以下によって制限される：
  $$Acc_{fine-tune} \leq Acc_{baseline} + O\left(\frac{d^*}{d}\right)$$
  これにより、著者らの「デコヒーレンス」仮説が、訓練による回復可能な性能向上を予測する「単純性バイアス」と区別される。

2.2 実験設計

本研究では、12のモデル（GPT-4o、Claude-4.5、o3、DeepSeek-R1、およびオープンウェイトのLlama/Qwen派生モデルを含む）を、8つのタスクドメインで評価している。

• 合成タスク： 置換パズル、有限オートマトン（FSA）シミュレーション、算術連鎖、回路トレース、およびコード変数追跡。
• 実世界タスク： SWE-Bench（マルチファイルの状態追跡）、WebArena（セッション状態ナビゲーション）、およびSQL-Multi（マルチテーブル結合）。

条件：

1. C1: 制約なしのニューラルCoT。
2. C2: 深さ制限付きCoT（オラクル最適長）。
3. C3: ツール統合型推論（BFSのような正確なソルバーへの委譲）。
4. C4: 明示的な長さの推奨（より長い連鎖を促すプロンプト）。
5. C5: 最適長トレースによるファインチューニング。

指標：

• 状態空間ジャカード指数（SSJ）： 精度（precision）と再現率（recall）に分解し、「能力の失敗」（架空の状態へとドリフトし、両方の指標が減衰する）と「嗜好の失敗」（正しいパスを切り詰めるが、精度は高く維持される）を区別する。
• アテンション・エントロピー： オープンウェイトモデルにおいて直接測定し、アテンションのエントロピー成長と精度の減衰との相関を測定する。

3. 主要な結果

3.1 ツール委譲 vs. ニューラル推論

ツール統合型推論（C3）は、すべてのモデルとドメインにおいて、ニューラルCoT（C1）を一貫して上回る。

• 精度： ツール委譲は 86–94% の精度を達成するが、ニューラルCoTは 24–42% で停滞する。
• 効率性： ツール委譲は、制約なしのCoTと比較して、正解あたりのコストにおいて 4.2–4.7倍 の改善をもたらす。
• 普遍性： パフォーマンスの差は、汎用モデル、推論特化型モデル、およびオープンウェイトモデルの間で一貫しており、これは学習特有の問題ではなく、アーキテクチャ的な制限であることを示唆している。

3.2 嗜好操作の失敗

• プロンプティング (C4)： モデルに対して「必要なステップをいくらでも取る」よう促しても、精度の向上は無視できる程度（<2%）であり、「単純性バイアス」の仮説と矛盾する。
• ファインチューニング (C5)： 最適長トレースによるファインチューニングによる改善はわずか（具体的にはLlama-3.1-8Bで **<5%**、詳細には3.2%）であり、嗜好ベースの理論が予測する >30% の回復には遠く及ばない。この恩恵は、決定論的ホライゾン ($d^*$) を超えると完全に消失する。

3.3 デコヒーレンスの証拠

• SSJ分析： 深さが増すにつれて精度と再現率が同時に減衰しており、モデルが単に正しいパスを切り詰めているのではなく、架空の状態空間へとドリフトしていること（能力の失敗）を裏付けている。
• アテンション・エントロピー： アテンション・エントロピーと精度の間には強い負の相関（$r \approx -0.74$）が存在し、アテンションの希釈が状態のデコヒーレンスを引き起こすというメカニスティックな仮説を検証している。
• モデル間の相関： 異なる組織のモデル間で失敗パターンに高い相関（$r = 0.81–0.91$）が見られることは、共通のアーキテクチャ的制約を示している。

3.4 スケーリング則

決定論的ホライゾンはアーキテクチャのパラメータに従ってスケールする。オープンウェイトモデルを用いた実証的検証によれば、$d^* \propto \sqrt{d_h \cdot H}$ である。より大きなモデル（例：70B）はホライゾンを $d^* \approx 28$ まで延長するが、より小さなモデル（8B）は $d^* \approx 19–20$ に留まる。

4. 意義と主張

本論文は、エージェンティックなシステムにおいて、純粋なニューラル推論がハイブリッドなアプローチに譲るべき「原理的な境界」を提供すると主張している。

• アーキテクチャの限界： 主要な貢献は、デコーダーのみのトランスフォーマーが、状態追跡能力に関する情報理論的な限界に直面していることを特定したことである。これは学習の不足ではなく、自己回帰的なアテンションの根本的な制約である。
• 単純性バイアスの否定： 長い推論の失敗は、単に短い出力を好む傾向によるものではないという結果は、「単純性バイアス」の概念を論破している。モデルに強制的に長く推論させたとしても、彼らは「状態空間デコヒーレンス」によって失敗する。
• 実用的なガイドライン： 著者らは以下の展開ガイドラインを提案する：正確な状態追跡を必要とするタスク（$d^* \in [19, 31]$）については、システムはデフォルトでツール委譲を行うべきである。これは、コードエージェント、マルチステップ計画、および形式検証に適用される。
• コストと安全性： $d^*$ を超えて拡張されたニューラル推論に依存することは、非効率的であるだけでなく、計算資源と炭素の無駄でもある。さらに、安全性に関わるドメインにおいて、このホライゾンを超えてツールによる検証なしに自律的な意思決定を行うことは、安全ではないと本論文は主張している。

要約すれば、本論文は、拡張された推論が浅い決定論的タスク（$d < d^*$）には有益であるが、ホライゾンを超えると超指数関数的に劣化することを確立している。解決策は、より優れた学習やプロンプティングではなく、正確な状態追跡を扱うための外部ツールのアーキテクチャ的な統合である。