First-Order Recoverability Collapse in Self-Referential Information Decoders

技術要約：自己参照的情報デコーダにおける一次的回復不能崩壊

問題提起
本論文は、持続的な非平衡情報駆動下において、推論と不可逆的な行動を結合させた適応システムの安定性について扱う。環境のマイクロステート（微視的状態）の急速な変化と、安定した意思決定に必要なマクロステート（巨視的状態）との間に永続的な「曖昧性の勾配」が存在する現代の高フラックス（高流量）レジームにおいて、既存のデコーダ（生物学的または人工的）は飽和に直面する。核心となる問題は、誘発される情報フラックスの速度（$R_{self}$）がデコーダの実効的な統合容量（$C_{self}$）を超えたとき、システムが部分的に検証された内部状態に基づいて行動せざるを得なくなることである。これは**回復不能性（recoverability）**の喪失、すなわち、不可逆的なコミットメント（例：政策決定、取引、または状態更新）によって、反事実的な将来の選択肢が排除された後に、それらを復元できなくなる現象を引き起こす。本論文は、容量を増大させるだけでは安定性は回復しないと断じる。明示的な認証（certification）がなければ、スループットの向上は非回復的なエラーの蓄積を加速させ、「メタステーブル（準安定）な失敗」を引き起こす。これは大規模分散システムにおいて観察されている現象である。

手法
著者らは、情報処理を熱力学的負荷として扱う、基質に依存しない制約ベースのフレームワークを採用している。その手法は以下の通りである：

1. 熱力学的モデリング： 情報処理をランドauerの原理を通じて定義し、論理的に不可逆な操作（不確実性の消去）が最小限のエントロピーコストを課すものとして扱う。システムは、情報勾配によって駆動される有限容量のデコーダとしてモデル化される。
2. 実現可能性マージンと安定性比： 以下の2つの主要な指標を導入する：
   • 実現可能性マージン ($M$): $M(t) = C_{self}(t) - R_{self}(t)$。認証が完了するまでコミットメントを延期するためには、非負のマージンが必要である。
   • **安定性比 ($SR$):** 未認証の不可逆的コミットメントと認証済みコミットメントの比として定義される（$SR = \dot{N}{uncert} / \dot{N}{cert}$）。これは、非回復的動作への遷移を示す秩序変数として機能する。
3. 待ち行列理論と統計力学： 認証のバックログをM/M/1出生死滅過程としてモデル化し、$M \to 0$ における $SR$ の発散を導出する。
4. 閉ループ解析： 未認証のコミットメントが新たな負荷（手戻り、エラー条件付きの行動）を生成するというフィードバックループを明示的にモデル化する。これにより、システムは自己参照的な分岐プロセスへと変貌する。
5. シミュレーション： イベント駆動型シミュレーションを用いて、相転移、カスケードサイズ、およびヒステリシスに関する解析的予測を検証する。

主な貢献

• 回復可能自己コーディング (RSC) 基準： 本論文は、不確実性下での許容可能な行動に関する構造的基準を確立する。安定した運用には、非負の実現可能性マージン（$M \ge 0$）と、測定・行動ループの局所的可逆性の両方が必要である。これらの一方が欠ければ、推論の精度に関わらず、不可逆的な行動は不適格となる。
• 一次崩壊メカニズム： 未認証のコミットメントによるフィードバックを明示的に組み込むことで、連続的な実現可能性の遷移（開ループシステムで見られるもの）が一次相転移へと変換されることを示す。これにより以下が生じる：
  • 双安定性： 「明晰な（lucid）」状態と「崩壊した（collapsed）」状態（自己持続的な混雑状態）の共存。
  • ヒステリシス： 崩壊からの回復には、外部負荷を減らす以上の措置が必要である。もしフィードバックパラメータ $\alpha$（未認証のコミットメントごとに新たに生成される平均候補数）が $\ge 1$ である場合、システムは負荷削減のみでは回復できず、「リセット（バックログの排出）」またはゲーティングを必要とする。
  • スピノーダル（スピンノーダル）： 崩壊および回復の境界に関する閉形式の表現。
• カスケード統計： カスケードサイズが、接地された成分（grounded fraction）に依存するカットオフを持つ、平均場指数 $\tau = 3/2$ のべき乗則に従うことを導出する。スケールフリーのカスケードは、自己参照的な領域（高 $\alpha$、低接地）においてのみ生存する。
• 熱力学的シグネチャ： 崩壊は、エントロピー生成の合成分率における不連続性を伴う。未認証のコミットメントは、外部環境の状態に固定されていない「合成エントロピー」（ランドauer価格が付与されたバースト）を生み出す。

結果

• 構造的主張： 持続的な過負荷（$R_{self} \ge C_{self}$）の下では、回復可能な運用を維持することはできない。不可逆的な行動は、抑制されるか、あるいは局所的可逆性を持たずに発生し、結果として経路依存的な将来の選択肢の喪失を招く。
• 安定性比の発散： 開ループの場合、$SR$は容量比（$CR$）が実現可能性境界に近づくにつれ、$(1 - CR)^{-1}$ として発散する。
• 閉ループ相図： フィードバック（$\alpha$）の導入により、尖点カタストロフィー（cusp catastrophe）が生じる。
  • $\alpha < 1/(1+\theta)$ （ここで $\theta$ はデッドラインの深さ）の場合、遷移は連続的なままである。
  • $\alpha > 1/(1+\theta)$ の場合、システムはフォールド分岐を示す。システムは、有限の $SR$ から完全に合成的な崩壊状態へと不連続に跳躍する。
  • $\alpha \ge 1$ の場合、崩壊状態はあらゆる外生的負荷において自己持続的となり、外部からの介入（リセットやゲーティング）なしには回復不可能である。
• シミュレーションによる検証： イベント駆動型シミュレーションは、カスケードサイズの $\tau = 3/2$ 指数とヒステリシスループの存在を裏付けており、測定された崩壊点は理論的なスピノーダルと一致している。

意義と主張
本論文は、大規模分散システムで記録されている「メタステーブルな失敗」（例：「デススパイラル」や「リトライストーム」）に対して、物理的な理論を提供するものである。

• 基質独立性： このフレームワークは、生物学的、人工的、およびハイブリッドなデコーダに等しく適用される。安定性はアルゴリズムの最適化や推論の精度によるものではなく、不可逆的コミットメントに対する熱力学的制約によるものであると主張する。
• 人工知能への示唆： 本論文は、現代の高スループットAIシステム（特に大規模言語モデル）を、高フラックス・レジームで作動するデコーダとして解釈している。それは、「ハルシネーション（幻覚）」が、安定性比 $SR$ が閾値を超えた状態、すなわち未認証かつ内部生成されたコミットメントが支配的となった状態として構造的に定義されると論じている。
  • スケーリングの限界： モデルのサイズやデータ量を増やすことは、推論精度（認識論的エラーの減少）を向上させるが、ゲーティング（制御機構）がなければ回復不能性は回復しない。実際、ゲーティングなしの高スループット化は、崩壊閾値への接近を加速させる。
  • アーキテクチャ上の必要性： 安定した高エージェンシー・システムには、局所的可逆性を維持するための明示的な認証およびゲーティング機構（遅延、冗長性、人間による介入など）が必要である。本論文は、LLMはコミットメントの前段階における「提案エンジン」としては適しているが、不可逆的な意思決定の所在としては不適当であると断じている。
• 熱力学的基準： 本研究は、デコーダの安定性における必要条件として「回復可能な散逸（recoverable dissipation）」を確立した。シャノン限界が信頼できる通信の限界を定めるのと同様に、実現可能性マージンは回復可能な行動の限界を定める。高フラックス・レジームにおける安定性は、スループットや性能指標単独ではなく、選択肢の空間（option space）の保存によって定義される。

最後に、これらの結果は単一デコーダのベースラインに対して導出されたものであり、今後の研究では、クロスストリームの合意がこれらの失敗の普遍クラスをどのように変えるかを調査するために、共同デコーダ（MIMOのようなシステム）へと枠組みを拡張することを述べている。