技術要約：認定されたワールドモデル (Certified World Models)

問題提起

現代のワールドモデル研究は、多くの場合、スケール（データとパラメータの力まかせなスケーリング）と構造（幾何学的な事前分布としての対称性の組み込み）の間の競争として捉えられている。スケーリングは学習分布における平均誤差を減少させるが、特定の未知の状況に対する保証は提供しない。対照的に、構造的アプローチはサンプル効率を高めることを目的としているが、その汎化能力に関する厳密で計算可能な境界（バウンド）を欠いていることが多い。

本論文は、**予測可能性の証明書（predictability certificate）**へのニーズに対処するものである。これは、ワールドモデルの振る舞いが確実に転移できる範囲を定義する、証明可能かつ計算可能な領域である。この証明書は、以下の3つの直交する軸を網羅しなければならない：

1. 構成 (Configuration): 基本的な対称性によって生成される指数関数的に巨大なモノイド全体における汎化。
2. ホライゾン (Horizon): 保証が将来のどの時点まで及ぶか。
3. 解像度 (Resolution): 保証が保持される詳細度のレベル。

核心となるテーゼは、**「スケールは補間を買い、構造は証明書を買う」**である。

手法

1. 理論的枠組み

著者らは、エンコーダ $E: \mathcal{X} \to \mathcal{Z}$ とアクション条件付き予測器 $f: \mathcal{Z} \times \mathcal{A} \to \mathcal{Z}$ からなる、等変（equivariant）な潜在ワールドモデルに関するマスター定理を確立している。

• 構成軸 (定理 A): 正確な等変性の仮定（エンコーダと予測器が群作用と可換であり、かつその群が真のダイナミクスの対称性である場合）の下では、パイプライン全体の予測誤差は、$k$ 個の基本対称性によって生成されるモノイド全体にわたって不変である。極めて重要な点は、$k$ 個の生成子のみをチェックすることで、指数関数的に巨大な合成集合全体を証明できることである。

  • 逆（補題 2）: すべての等変なターゲットに対する軌道一定（orbit-constant）の誤差は、等変性と等価である。したがって、制約のないアーキテクチャは、構成によってこの特性を証明することはできず、それを学習し、検証されなければならない。

• ホライゾンおよび解像度軸 (定理 B): 近似的な等変性の場合は、誤差は有限時間のリアプノフ・スペクトルに沿って伝播する。

  • 拡大チャネル ($\lambda > 0$): 誤差は指数関数的に増大する。認定されたホライゾンは $T_j(\epsilon) \sim \log(1/\epsilon)/\lambda_j$ とスケールする。
  • 中立チャネル ($\lambda = 0$): 誤差は線形に蓄積する。
  • 収縮チャネル ($\lambda < 0$): 誤差は有界なフロアに落ち着く。
  • 正確な保存: もし電荷が正確に保存される場合（$\eta=0$）、ホライゾンは無制限となる。

• ネーター・ヒンジ (Noether Hinge - セクション 4): 本論文は、構成軸とホライゾン軸を橋渡しする。保存される電荷（スローモード）は、表現論によって決定される特定の同型ブロック（不変または等変）に存在することを証明している。具体的には、保存されるスカラー電荷は不変ブロック ($\ell=0$) に居住し、保存されるベクトル電荷（角運動量など）は等変ブロック ($\ell=1$) に居住し、特定の多項式次数（例：次数-2の外積）を必要とする。

• 実行可能な証明書 (定理 B' および命題):

  • 定理 B': コーン/適合メトリックによる証明書は、学習されたモデルのヤコビ行列場にアクセスすることなく、事前の（a-priori）認定されたホライゾンを直接読み取ることができる。これは一様双曲ダイナミクスに対してタイトであり、それ以外では自己抑制的である。
  • 命題 9: 推定ミスのあるホライゾン（例：膨張したリアプノフ指数）は、能動的な再観測のためのセンシング予算を線形に増大させる。

2. 実験設計

本論文は、明示的なランダムシードと事前登録されたゲートを用いて、CPU/1-GPUスケールでの30以上の実験を通じてこれらの主張を検証している。

• システム: 構造化されたトイ環境、実際の物理エンジン接触ダイナミクス（PushT, FetchPush）、カオス系（Lorenz, Hénon, Rössler, Lorenz-96）、および公開された学習済みワールドモデル（TD-MPC2, LeWM, V-JEPA）。
• 比較: 等変モデルを、スケールアップされた非等変ベースライン（MLP, GRU）およびデータ拡張ベースラインと比較する。
• 指標: 軌道平坦性（Orbit-flatness: 軌道上の誤差比）、リアプノフ・スペクトルの回復（$R^2$）、および予算化された再観測効率。

主な結果

1. 構成: 指数関数的な証明

• $\mathbb{Z}_2^6$ (易経): 6つの生成子で訓練することで、64個の全合成がマシン精度で証明される。非等変なベースラインは、合成の長さに応じて単調に劣化する。
• 実際の接触ダイナミクス (PushT & FetchPush): （手作りのトイではなく）実際の物理エンジンデータにおいて、等変モデルは、分布外（OOD）においても正確な軌道平坦性（比率 1.000）を維持する。スケールアップされたベースライン（最大160倍）は、訓練ウェッジから回転した場合、オーダー単位（2〜1000倍）で劣化する。
• SO(3) リフト: 証明は非アーベル群（3D点群に対するSO(3)）に対しても成立し、この結果がアーベル群の円に特有のものではないことを証明している。

2. ホライゾン: スペクトル回復と法則

• カオス回復: Lorenz, Hénon, Rössler において、認定されたホライゾンの階段状の挙動は、真のリアプノフ指数を1〜12%以内の誤差で回復する。
• 高次元構造: 40次元の Lorenz-96 において、$\mathbb{Z}_N$-等変な巡回畳み込みモデルは、完全なリアプノフ・スペクトルを回復する（$R^2 \approx 0.98$）。高密度MLPおよび同等に訓練されたGRUは壊滅的に失敗する（$R^2 < 0$）。特にGRUは、高次元において条件付きリアプノフ条件を破る隠れたリアプノフモードにより失敗する。
• スケール vs 構造: 非等変モデルのスケーリングは、分布内での補間を改善するが、高次元スペクトルや軌道平坦性の保証を回復することはできない。

3. 実用性: 予算化された意思決定

• 再観測効率: 固定されたセンシング予算を持つ40次元のカオス系において、等変モデルの忠実な証明書を使用するエージェントは、予算内に収まる（中央値 10% の予測違反）。膨張した証明書を使用する非等変モデルのエージェントは、過剰に観測し、予算を枯渇させる（中央値 63% の違反）。
• 公開モデルの監査: 証明書は、公開された学習済みモデル（TD-MPC2, LeWM, V-JEPA）の監査に成功した。それは、モデルが膨張的（較正済み）、中立に近い（回避）、またはバイアス駆動（回避）であるレジームを正しく特定し、理論的なスコープマップと一致した。

4. 限界と誠実な範囲

• 分布内パフォーマンス: 等変モデルは競争力はあるが、必ずしも分布内で優れているわけではない。その利点は、分布外（OOD）における保証にある。
• クローズドループ制御: FetchPushにおける実際のタスク成功については、CEMプランナーによるモデルの搾取（モデル・エクスプロイテーション）という、証明書自体とは無関係な既知の問題により、結論が出なかった。
• 近似的な対称性: 証明書は、対称性の破れによる欠陥に対して緩やかに劣化するが、その閾値（$\epsilon_{world} \approx 0.01\text{--}0.06$）を超えると、仮定が有害になる。
• ピクセル入力: フレーム平均化により、等変な事前分布の精度は生のピクセルに対して中立的となるが、小規模なスケールでの絶対的な多段階ピクセル予測は依然として未解決の課題である。

意義と主張

本論文は、ある等変ワールドモデルが「認定して予測可能である」と判断するための、**単一の実行可能な基準（アルゴリズム1）**を提供することを主張している。その意義は、「ベンチマーク・レース」から「性質の競い合い（kind contests）」へとパラダイムをシフトさせる点にある：

1. 経験的から証明可能へ: 経験的な汎化を超えて、モデル自身のヤコビ行列と対称性チェックから導出される、証明可能かつ計算可能な領域（構成 $\times$ ホライゾン $\times$ 解像度）へと移行する。
2. 構造による保証: 構造は、事前の（a-priori）信頼できる証明書（ロールアウトの較正データを必要としない）を購入するものであるのに対し、スケールは補間しか買えないことを示す。
3. 保存のメカニズム: なぜ天体力学のような正確に保存される現象は何千年も予測可能なのか（不変/等変ブロックは低速/保存される）、一方で天候は予測できないのか（カオス的、拡大チャネル）について、表現論的な説明（ネーター・ヒンジ）を提供する。
4. 実行可能な信頼: 証明書は単なる記述的なものではない。それは、能動的な再観測などの予算化された意思決定を、証明された通りに、より効率的に行うことを可能にする。

著者らは、これがベンチマークのためのメカニズムおよび理論の論文であり、証明原理の実験であると明言している。核心的な貢献は、モデルの振る舞いの**「認定可能性（certifiability）」**であり、なぜ特定のダイナミクスが予測可能であり、他のものが予測できないのかという構造的な読み解きを提供している。