🤖 machine learning

When Do Conservation Laws Survive Learned Representations? Certified Horizons for Latent World Models

本文建立了一个框架，通过将表示、读取和动力学缺陷进行分解来界定“认证时界”，从而对学习到的潜空间世界模型在物理不变性的水平集上保持多少步进行认证，并证明了虽然硬几何先验（如辛结构）可能会在学习到的图表间失效，但软 Lipschitz 对齐的不变量能够稳健地在解码后的物理空间中保持守恒律。

原作者： Hongbo Wang

发布于 2026-06-25

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Hongbo Wang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在教一个机器人预测摆钟的运动。你并没有向机器人展示实际的物理量（角度和速度），而是让它学习一套属于自己的秘密内部语言（一种“潜表征”/latent representation）来理解世界。机器人变得非常擅长预测它自己秘密语言中的下一步。

但问题在于：你如何信任这个机器人？

在真实的物理世界中，某些事物是永恒不变的，比如摆钟的总能量。如果机器人预测摆钟会凭空获得无限能量，我们就知道它出故障了。这篇论文提出了一个问题：即使机器人在用它自己的秘密语言思考，我们能否证明它仍然遵守着这些不变的定律？

作者说：“可以，但前提是你必须检查正确的东西。”

核心思想：“解码”后的真相

论文指出，你不能信任机器人的内部能量评分。机器人可能完美地保持了其自身秘密“能量”的恒定，但这个秘密能量可能与现实世界的能量毫无关系。

相反，你必须强迫机器人将其秘密想法翻译回现实世界的坐标（角度和速度），然后再去检查现实中的能量是否恒定。

错误的方法： 检查机器人的内部数学逻辑是否保持恒定。（这就像检查间谍的秘密代码是否一致，即便间谍在对任务撒谎）。
正确的方法： 检查解码后的信息（现实世界的物理量）是否保持恒定。（这是在检查间谍向总部提交的实际报告是否准确）。

三个“信任等级”

作者通过三个不同难度的场景测试了这个想法，就像在爬梯子一样：

1. 简单等级（已知坐标）：
机器人直接获得真实的物理量（角度和速度）。

结果： 如果你强迫机器人使用模仿真实物理的“硬性”数学规则（辛结构/symplectic structure），它表现得非常完美。它能在正确的能量路径上维持很长时间。
类比： 这就像给司机一张已经与道路完美对齐的地图。只要他们遵循地图的规则，就能留在路上。

2. 中等等级（学习到的坐标）：
机器人必须从简单的数据中摸索出自己的秘密语言。

结果： 简单等级中的“硬性”规则失效了。机器人学会了一种秘密语言，其中的“能量”虽然恒定，但却是错误的能量。它会偏离现实。
解决方案： 作者使用了一种“软性”方法。他们教机器人寻找一个保持恒定的模式，然后建立了一座桥梁（数学校准），将该模式与真实能量连接起来。
类比： 司机现在正在自创地图。旧地图的“硬性规则”不再适用。但如果你建立一个翻译器，告诉他“当司机说‘蓝色’时，意味着‘北方’”，你仍然可以信任他们。这种“软性”模式在经过翻译后依然存续；而“硬性”规则则失败了。

3. 困难等级（像素图像）：
机器人只能看到摆钟的图像（像素），而不是数字。它必须从图像中推测物理规律。

结果： 这种情况噪声很大。机器人的“解码器”（将像素转回数字的过程）会出错。
解决方案： 他们找到了一个“安全区”。如果只在摆钟处于稳定、清晰的状态时（忽略模糊或奇怪的角度）才信任机器人，那么带有桥梁的“软性”方法再次奏效。
类比： 司机正透过一层雾蒙蒙的窗户观察道路。他们无法在任何地方都被信任。但如果你告诉他们，“只有在雾气变薄时才驾驶”，他们仍然可以留在路上。

重大发现：“开普勒”之墙

他们还测试了一个非常困难的系统（两颗行星绕彼此运行）。即使使用了所有这些技巧，当行星靠得非常近时，机器人仍然失败了。

原因： 这不是因为机器人“笨”或者数学错了。这是一个几何极限。当行星靠近时，物理规律变得极其陡峭（像悬崖一样）。无论多么好的学习方法或多么好的地图，都无法解决一个过于陡峭的悬崖。
类比： 即使是最优秀的司机配备了最好的翻译器，也无法驾驶汽车爬上垂直的墙壁。那堵墙实在太陡峭了。

总结

不要信任机器人的内部感受： 仅仅因为机器人认为自己在做正确的事，并不代表它真的在做正确的事。
信任翻译： 你必须在机器人将其秘密想法翻译回现实物理量之后，再去检查其输出。
硬性规则在地图改变时会失效： 刚性的物理规则仅在你预先知道地图时才有效。如果机器人学习了自己的地图，你需要一个灵活的“桥梁”来将其想法与现实连接起来。
有些墙是无法逾越的： 有时物理环境本身过于极端（例如行星相撞），此时任何 AI 都无法提供安全保证。

这篇论文证明了我们可以为 AI 世界模型建立“证书”（保证），但前提是我们必须诚实地对待测量对象，以及如何将 AI 的想法翻译回现实。

技术总结：守恒定律何时能在学习到的表示中存续？

问题陈述

现代世界模型通过学习潜空间表示并在该空间内进行前向演化，而非在观测空间内演化，从而实现了可扩展性。然而，这种转变增加了物理信任度认证的复杂性。虽然守恒定律（如能量守恒）为物理系统提供了天然的信任度度量，但潜模型用学习到的坐标取代了物理坐标。因此，一个模型可能完美地守恒了一个学习到的内部标量（即潜哈密顿量或见证量），而真实的物理能量却发生了显著漂移。

本文探讨的核心问题是：当模型学习到一种潜表示时，守恒定律何时仍具有可认证性？ 具体而言，本文旨在预先界定，并根据可测量的模型缺陷，确定一次展开（rollout）能在物理不变性的能级面上保持在一定容差范围内的步数。关键挑战在于定义“正在被认证的对象”：并非学习到的潜变量，而是解码后的物理不变性。

方法论

认证对象

本文将认证对象固定为解码后的物理不变性，记作 $\Psi(z) = H^*(\Pi D_\psi z)$ 。

$z$ ：潜状态。
$D_\psi$ ：从潜空间到观测空间的解码映射。
$\Pi$ ：从观测空间到物理坐标 $(q, p)$ 的读出映射。
$H^*$ ：已知的物理不变性（例如真实的机械能）。

至关重要的是，本文并非直接认证学习到的潜哈密顿量 $H_\theta$ 或学习到的标量见证量 $C_\omega$ 。这些被视为“见证者”或代理。模型可以守恒这些内部量，同时解码后的物理不变性却发生漂移。只有当状态流水线与潜解码流水线在 $H^*$ 上收敛时，认证才是有效的。

认证框架

作者推导出了“壳层时界（shell-horizon）证书”，用于界定展开过程在能量壳层容差 $\epsilon$ 内停留的步数 $T$ 。该时界的预算由三个不同的缺陷源组成：

表示缺陷 ( $\epsilon_0$ )： 嵌入/编码过程中的初始化误差。
读出缺陷 ( $\epsilon_{\Pi, \text{num}}$ )： 由解码器和读出映射引入的误差（在像素观测中占主导地位）。
潜动力学缺陷 ( $\delta_{\text{tube}}^{\text{phys}}$ )： 潜动力学中解码不变性的每步漂移。

时界计算公式为：
$T = \left\lfloor \frac{m_{c,\rho}\epsilon - \text{initialization defects}}{\text{per-step drift}} \right\rfloor$
其中 $m_{c,\rho}$ 是壳层的敏感度（最小梯度范数）。

对齐桥梁（软见证者）

为了利用学习到的“软”不变性（在潜空间中训练以保持守恒的标量见证量 $C_\omega$ ），本文引入了一个受控 Lipschitz 对齐桥梁。

软见证者本质上并不是物理能量。它必须通过校准函数 $g_C$ 进行对齐。
有效证书的条件是双 Lipschitz 校准（满足 $0 < \kappa \le g'_C \le L_g$ ）。
该桥梁将软见证者转化为通往解码不变性的“定理级”联系。本文证明，简单的单调性是不够的；不受控的单调性（例如保序回归）可能具有无限大的 Lipschitz 常数，从而导致认证时界坍缩为零。

实验设置

该框架在三个保守系统上进行了测试：简单摆、谐振子和开普勒二体问题（一个奇异系统）。

表示形式： 研究在保持认证对象固定的情况下改变输入表示：
1. 状态（State）： 输入正则坐标 $(q, p)$ ；读出为恒等映射。
2. 提升（Lift）： 将低维观测编码进学习到的潜图表（latent chart）；读出清晰。
3. 像素（Pixel）： 输入高维图像；学习到的解码器/读出器引入显著误差。
模型变体：
- 普通型（Plain）： 无约束的残差潜映射。
- 硬辛结构（Hard Symplectic）： 被约束为辛结构的潜积分器（Störmer–Verlet, SympNet）。
- 软型（Soft (B-self)）： 通过自监督方式训练以保持不变的标量/向量见证者，并通过桥梁进行对齐。

关键结果

1. 状态空间（正则坐标）

在已知的相位坐标中，硬辛结构是明显的胜出者。

在开普勒系统上，硬辛模型在 3/3 个种子实验中实现了非真空的联合不变性证书，而普通模型仅在 0/3 中实现。
辛模型的每步不变性漂移比普通模型小约 $7.6\times$ 。
结论： 当图表已知且与物理辛形式匹配时，硬先验能有效发挥作用。

2. 学习提升（潜坐标）

当模型从低维观测学习图表时，硬辛先验失效，而软不变性得以存续。

硬辛模型（Verlet, SympNet）在统计上与普通基准模型无法区分。辛约束虽然保留了流的形式，但在任意学习到的图表下，无法保证相对于物理能量的标量恒等性。
软 B-self 不变性成功跨越了学习到的图表，实现了约 $1.30 $的结构增益比，且在 8 个种子实验中的胜率$ P(\text{soft} > \text{plain}) = 0.88$。
结论： 硬几何先验对坐标高度敏感，无法自动在表示学习中存续；而通过双 Lipschitz 桥梁对齐的软不变性则更为鲁棒。

3. 像素观测

像素输入的认证是可能的，但仅限于读出稳定的子管（sub-tube）内。

解码器/读出项通常在误差预算中占主导地位。
通过应用“冻结读出稳定规则”（排除读出 Lipschitz 分数过高的点），稳定的软见证者恢复了非真空证书。
结果：9/10 个种子实验是非真空的（对比普通模型的 4/10），且排除比例 $\le 2.3\%$ 。
结论： 像素认证是一个感知问题；它需要稳定读出，以找到解码不变性保持忠实的子管区域。

4. 开普勒几何边界

开普勒提升揭示了一个内在的几何极限。

尽管改变了潜容量并应用了合法的度量重图表化（metric re-charting），解码后的联合不变性证书在近近日点（periapsis）附近仍然失效（ $T=0$ ）。
这种失败归因于反平方势在近近日点附近的刚性（stiffness），它放大了微小的 $(q, p)$ 误差。
结论： 这是一个系统特定的几何边界，而非守恒认证方法本身的失败。

意义与主张

本文的主要贡献在于提出了一个针对表示鲁棒性的守恒认证框架。作者认为：

认证对象至关重要： 证书必须附着在解码后的物理不变性上，而非潜哈密顿量或未对齐的见证量。模型可以守恒其内部代理，但在物理上失效。
硬先验 vs. 软先验： 硬正则辛结构是坐标敏感的。它在已知相位坐标中能产生最长的时界，但在跨越学习到的图表时会失效。相反，通过双 Lipschitz 桥梁对齐并训练在潜空间保持不变的软不变性，能够更好地在表示变化中存续。
单调性不足以支撑： 将软见证者对齐到物理能量需要双 Lipschitz 校准。单纯的单调性过于宽松，会导致证书变为真空（无意义）。
几何极限： 守恒对齐的证书可能会因为内在的几何奇异性（如开普勒近日点）而失效，这是任何表示学习或容量扩展都无法克服的。

作者将这项工作定位为一项关于**在学习到的表示中评估物理不变性时“什么可以被认证”**的方法论研究，而非针对长时程视觉世界模型的基准测试。研究结果表明，对于学习到的世界模型，要么要在辛形式为物理形式的坐标下进行认证，要么需要将结构先验与显式的标量对齐结合使用。