🤖 machine learning

When Do Conservation Laws Survive Learned Representations? Certified Horizons for Latent World Models

本論文は、表現、読み出し、およびダイナミクスの欠陥の分解を通じて「認定ホライゾン」を抑え込むことにより、学習された潜在世界モデルが物理的不変量のレベルセット上に何ステップ留まるかを認定するための枠組みを確立しており、シンプレクティック構造のような硬い幾何学的事前分布は学習されたチャート間で汎化に失敗する可能性がある一方で、ソフトなリプシッツ整合的不変量はデコードされた物理空間における保存則をロバストに保持できることを示している。

原著者： Hongbo Wang

公開日 2026-06-25

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Hongbo Wang

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたは、振り子の動きを予測するようにロボットに教えていると想像してください。代わりに、ロボットに実際の物理学（角度や速度）を見せるのではなく、世界を理解するための独自の秘密の内部言語（潜在表現）を学習させます。ロボットは、自分自身の秘密の言語における次のステップを予測することに非常に長けていきます。

しかし、ここに問題があります。どのようにしてロボットを信頼するのか？

現実の物理世界には、振り子の揺れのように決して変わらないもの（例：全エネルギー）が存在します。もしロボットが、どこからともなく無限のエネルギーが発生したと予測したら、それは壊れていることがわかります。私たちは、ロボットが独自の秘密の言語で考えているとしても、そのロボットが依然として不変の法則を遵守していることを証明できるのでしょうか？

著者たちはこう言います。「はい、ただし、正しい箇所をチェックする場合に限ります」

核となるアイデア：「デコードされた」真実

論文では、ロボットの「内部的な」エネルギーのスコアを信頼することはできないと主張しています。ロボットは自分の秘密の「エネルギー」を一定に保つことには完璧かもしれませんが、その秘密のエネルギーは現実世界のエネルギーとは何の関係もないかもしれません。

代わりに、ロボットに秘密の思考を現実世界の座標（角度と速度）へと翻訳させ、それから現実のエネルギーが一定であるかどうかを確認しなければなりません。

間違った方法： ロボットの内部の数学が一定であるかどうかをチェックすること。（これは、スパイが任務について嘘をついているとしても、スパイの秘密のコードが一貫しているかどうかをチェックするようなものです）。
正しい方法： デコードされたメッセージ（現実世界の物理学）が一定であるかどうかをチェックすること。（これは、スパイの実際の報告が本部に正確に伝わっているかをチェックするようなものです）。

3つの「信頼レベル」

著者たちは、このアイデアを難易度が上がるにつれて、3つの異なるシナリオでテストしました。

1. 簡単なレベル（既知の座標）：
ロボットには、実際の物理学（角度と速度）が直接与えられます。

結果： もしロボットに、現実の物理学を模倣する「硬い」数学的ルール（シンプレクティック構造）を使うよう強制すれば、完璧に機能します。ロボットは正しいエネルギーの経路に沿って長く留まり続けます。
比喩： これは、ドライバーにすでに道路と完全に一致している地図を与えているようなものです。彼らがその地図のルールに従えば、道から外れることはありません。

2. 中程度のレベル（学習された座標）：
ロボットは、単純なデータから独自の秘密の言語を自分で作り出さなければなりません。

結果： 簡単なレベルでの「硬い」ルールは失敗します。ロボットは、ある種の「エネルギー」が一定であるような秘密の言語を学習しますが、それは間違ったエネルギーです。そして、現実から逸脱していきます。
解決策： 著者たちは「ソフト」なアプローチを用いました。彼らは、ロボットに一定のパターンを見つけるよう教え、次にそのパターンを現実のエネルギーへと結びつけるための架け橋（数学的なキャリブレーション）を構築しました。
比喩： ドライバーは今、自分自身の地図を作成しています。古い地図の「硬い」ルールはもう機能しません。しかし、「『青』と言ったら『北』を意味する」という翻訳機（架け橋）を作れば、まだ彼らを信頼することができます。「ソフト」なパターンは翻訳を生き残りましたが、「硬い」ルールは生き残れませんでした。

3. 難しいレベル（ピクセル画像）：
ロボットは数字ではなく、ピクセル（画像）として振り子を見ています。画像から物理学を推測しなければなりません。

結果： これは非常にノイズが多い状態です。ロボットの「デコーダー」（ピクセルを数字に戻すプロセス）は間違いを犯します。
解決策： 彼らは「安全地帯」を見つけました。振り子が安定して明確に見えているとき（ぼやけたり、奇妙な角度になったりしていないとき）にのみロボットを信頼するようにすれば、「ソフト」なアプローチと架け橋が再び機能しました。
比喩： ドライバーは今、霧がかった窓越しに道路を見ています。彼らはあらゆるところで信頼できるわけではありません。しかし、「霧が薄いときだけ運転してください」と伝えれば、彼らは依然として道に留まることができます。

大きな発見：「ケプラー」の壁

彼らはまた、非常に困難なシステム（互いに軌道を回る2つの惑星）についてもテストしました。あらゆる工夫を凝らしても、惑星同士が非常に接近すると、ロボットは失敗しました。

理由： それはロボットが「愚か」だったからでも、数学が間違っていたからでもありません。それは幾何学的な限界でした。惑星が近づきすぎると、物理学は無限に鋭くなります（崖のようなものです）。どれほど優れた学習や地図を用いても、あまりに急峻な崖を登ることはできません。
比喩： 最高の翻訳機を持つ最高のドライバーであっても、垂直な壁を車で登ることはできません。壁があまりに急すぎるのです。

まとめ

ロボットの内部の感覚を信じないこと： ロボットが正しいことをしていると思っているからといって、実際にそうであるとは限りません。
翻訳を信頼すること： ロボットの思考を現実世界の物理学へと翻訳した後に、その出力をチェックしなければなりません。
硬いルールは地図が変わると壊れる： 厳格な物理ルールは、あらかじめ地図を知っている場合にのみ機能します。もしロボットが独自の地図を学習するのであれば、その考えを現実へとつなぐ柔軟な「架け橋」が必要です。
登れない壁も存在する： 時には、物理学そのものが極端すぎる場合（惑星が衝突する場合など）があり、そのような場所では、いかなるAIも安全性を保証することはできません。

この論文は、私たちが何を測定しているのか、そしてどのようにAIの思考を現実へと翻訳するのかについて誠実である場合に限り、AIの世界モデルに対する「証明書（保証）」を構築できることを証明しています。

技術要約：学習された表現において保存則はいつ生き残るのか？

問題提起

現代の世界モデル（World Models）は、観測空間ではなく潜在空間内で表現を学習し、その潜在空間内でロールフォワードを行うことでスケーラビリティを実現している。しかし、この転換は物理的な信頼性の認証を困難にする。保存則（例：エネルギー保存）は物理システムにおける信頼性の自然な通貨となるが、潜在モデルは物理座標を学習された座標へと置き換えてしまう。その結果、モデルは学習された内部のスカラー（潜在的なハミルトニアンやウィットネス）を完璧に保存している一方で、真の物理エネルギーは著しくドリフトしている可能性がある。

本稿が扱う中心的な問いは、**「モデルが潜在表現を学習した後、保存則はいつ認証可能な状態で残るのか？」である。具体的には、モデルの欠陥から事前に測定可能な値を用いて、ロールアウトが物理的な不変量のレベルセット内にプロバブルに留まるステップ数を境界付けることを目的とする。決定的な課題は、「何を認証しているのか」**の定義である。すなわち、学習された潜在的な量ではなく、デコードされた物理的不変量を定義することである。

手法

認証対象

本稿では、認証対象をデコードされた物理的不変量 $\Psi(z) = H^*(\Pi D_\psi z)$ に固定する。

$z$ : 潜在状態。
$D_\psi$ : 潜在から観測へのデコーダ写像。
$\Pi$ : 観測から物理座標 $(q, p)$ へのリードアウト写像。
$H^*$ :既知の物理的不変量（例：真の力学的エネルギー）。

極めて重要な点は、本稿は学習された潜在ハミルトニアン $H_\theta$ や学習されたスカラー・ウィットネス $C_\omega$ を直接認証するのではないということである。これらは「ウィットネス」またはプロキシとして扱われる。モデルはこれらの内部的な量を保存できる一方で、デコードされた物理的不変量はドリフトし得る。認証は、状態のパイプラインと潜在デコード・パイプラインが $H^*$ 上で収束する場合にのみ有効となる。

認証フレームワーク

著者らは、ロールアウトがエネルギー・シェルの許容誤差 $\epsilon$ 内に留まるステップ数 $T$ を境界付ける「シェル・ホライゾン（shell-horizon）認証」を導出している。このホライゾンの予算は、以下の3つの異なる欠陥源に分解される：

表現の欠陥 ( $\epsilon_0$ ): エンコーディング／エンコーディングにおける初期化誤差。
リードアウトの欠陥 ( $\epsilon_{\Pi, \text{num}}$ ): デコーダおよびリードアウト写像によって導入される誤差（ピクセル観測において支配的）。
潜在ダイナミクスの欠陥 ( $\delta_{\text{tube}}^{\text{phys}}$ ): 潜在ダイナミクスにおけるデコードされた不変量のステップごとのドリフト。

ホライゾンは以下のように計算される：
$T = \left\lfloor \frac{m_{c,\rho}\epsilon - \text{initialization defects}}{\text{per-step drift}} \right\rfloor$
ここで、 $m_{c,\rho}$ はシェルの感度（最小勾配ノルム）である。

アライメント・ブリッジ（ソフト・ウィットネス）

学習された「ソフト」な不変量（潜在空間内で保存されるよう訓練されたスカラー・ウィットネス $C_\omega$ ）を利用するために、本稿では**制御されたリプシッツ・アライメント・ブリッジ（controlled-Lipschitz alignment bridge）**を導入する。

ソフト・ウィットネスは、本質的に物理エネルギーではない。それは校正関数 $g_C$ を介してアライメントされる必要がある。
有効な認証の条件は、双リプシッツ校正（bi-Lipschitz calibration）（ $0 < \kappa \le g'_C \le L_g$ ）である。
このブリッジは、ソフト・ウィットネスを定理の形をしたデコードされた不変量へのリンクへと変換する。本稿では、単純な単調性は不十分であることを示している。制御されていない単調性（例：等張回帰）は無限のリプシッツ定数を持つことがあり、認証ホライゾンをゼロに崩壊させてしまう。

実験設定

本フレームワークは、3つの保存系（単純振り子、調和振動子、ケプラー二体問題［特異系］）でテストされている。

表現: 認証対象を固定したまま、入力表現を変化させる：
1. 状態（State）: 正準座標 $(q, p)$ が入力され、リードアウトは恒等写像。
2. リフト（Lift）: 低次元の観測が学習された潜在チャートへとエンコードされ、リードアウトはクリーン。
3. ピクセル（Pixel）: 高次元の画像が入力され、学習されたデコーダ／リードアウトが顕著な誤差を導入する。
モデルのバリエーション:
- プレーン（Plain）: 制約のない残留潜在マップ。
- ハード・シンプレクティック（Hard Symplectic）: シンプレクティック性を強制された潜在インテグレータ（Störmer–Verlet, SympNet）。
- ソフト（B-self）: 潜在空間内で不変となるよう訓練された自己教師ありスカラー／ベクトル・ウィットネスであり、ブリッジを介してアライメントされている。

主要な結果

1. 状態空間（正準座標）

既知の位相座標においては、ハード・シンプレクティック構造が明らかに勝利する。

ケプラー系において、ハード・シンプレクティック・モデルは3/3のシードで非自明な結合不変量認証を達成したが、プレーン・モデルは0/3であった。
ステップごとの不変量ドリフトは、シンプレクティック・モデルの方が約7.6倍小さかった。
結論: チャートが既知であり、物理的なシンプレクト形式と一致している場合、ハードな事前分布は効果的に機能する。

2. 学習されたリフト（潜在座標）

モデルが低次元の観測からチャートを学習する場合、ハード・シンプレクティック事前分布は崩壊する一方、ソフトな不変量は生き残る。

ハード・シンプレクティック・モデル（Verlet, SympNet）は、統計的にプレーンなベースラインと区別がつかなくなった。シンプレクティック制約はフローの「形式」を保存するが、任意の学習されたチャートの下での物理エネルギーに対する不変量の「同一性」までは保存しない。
ソフトな B-self 不変量は、学習されたチャートを正常に通過し、構造利得比（structure-gain ratio）約1.30、および8つのシードに対する勝率 $P(\text{soft} > \text{plain}) = 0.88$ を達成した。
結論: ハードな幾何学的事前分布は座標に敏感であり、表現学習を自動的には生き残らない。一方で、双リプシッツ・ブリッジを介してアライメントされたソフトな不変量は、より堅牢である。

3. ピクセル観測

ピクセル入力下での認証は可能であるが、**リードアウトが安定したサブチューブ（sub-tube）**に限定される。

デコーダ／リードアウトの項がしばしば誤差予算を支配する。
「凍結されたリードアウト安定ルール（リードアウトのリプシッツ・スコアが高すぎる点を除外する）」を適用することで、安定化したソフト・ウィットネスは非自明な認証を回復した。
結果：9/10のシードで非自明であった（プレーンは4/10）が、除外された割合は $\le 2.3\%$ であった。
結論： ピクセルによる認証は知覚の問題である。デコードされた不変量が忠実であるようなサブチューブを見つけるためには、リードアウトを安定させる必要がある。

4. ケプラーの幾何学的境界

ケプラー・リフトは、内在的な幾何学的限界を明らかにした。

潜在容量を変化させ、合法的な計量再チャート化を適用したにもかかわらず、デコードされた結合不変量認証は近点付近で失敗した（ $T=0$ ）。
この失敗は、逆二乗ポテンシャルの**近点付近のスティフネス（剛性）**に起因しており、これが小さな $(q, p)$ の誤差を増幅させる。
結論： これは、表現学習や容量のスケーリングによって克服できない、システム固有の幾何学的境界である。

意義と主張

本論文の主要な貢献は、**「保存認証における表現の堅牢性に関する枠組み」**である。著者らは以下のことを主張している：

認証対象が重要である: 認証は、潜在的なハミルトニアンやアライメントされていないウィットネスではなく、デコードされた物理的不変量に対して行われなければならない。モデルは内部のプロキシを保存しながら、物理的には失敗している可能性がある。
ハード vs ソフトの事前分布: ハードな正準シンプレクティック構造は座標に敏感である。これは既知の位相座標では最も長いホライゾンをもたらすが、学習されたチャートを越えることはできない。対照的に、潜在空間で保存されるよう訓練され、制御されたリプシッツ・ブリッジを介してアライメントされたソフトな不変量は、表現の変化を生き残る。
単調性は不十分である: ソフト・ウィットネスを物理エネルギーにアライメントするには、**双リプシッツ（bi-Lipschitz）**な校正が必要である。単なる単調性は緩すぎて、結果として自明な（vacuous）認証を招く。
幾何学的限界: 保存に整合させた認証であっても、内在的な幾何学的特異点（例：ケプラーの近点）によって失敗することがある。これは、表現学習や容量のスケーリングをいくら適用しても克服できない。

著者らは、本研究を長期間のビジョン・ワールドモデルのベンチマークとしてではなく、学習された表現を通じて物理的不変量が評価される際に、**「何を認証できるのか」**に関する方法論的研究として位置づけている。その知見は、学習された世界モデルにおいて、シンプレクト形式が物理的である座標で認証を行うか、あるいは構造的事前分布を明示的なスカラーのアライメントと組み合わせる必要があることを示唆している。