🤖 machine learning

Learning partially observed systems with neural Hamiltonian ordinary differential equations

本文介绍了神经哈密顿常微分方程（NHODE），该框架将哈密顿神经网络与神经常微分方程相结合，通过强制能量守恒和物理约束来学习部分可观测的动力系统，从而在纯数据驱动的基线方法之上实现了更高的精度和长期稳定性。

原作者： Sunniva Meltzer, Sølve Eidnes, Alexander Johannes Stasik

发布于 2026-05-25

📖 1 分钟阅读☕ 轻松阅读

原作者： Sunniva Meltzer, Sølve Eidnes, Alexander Johannes Stasik

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在尝试教一个机器人预测一台复杂机器的运动方式。通常，你会给机器人看一段整台机器的视频，并说：“看着这个，学习其中的规律，然后告诉我接下来会发生什么。”

但如果这台机器有一个秘密隔间呢？你能看到外部齿轮在转动，却看不到隐藏在内部的齿轮。外部齿轮之所以运动，是因为内部齿轮在驱动，但你没有内部摄像头能看到它们。如果你试图通过只展示外部情况来教一个标准机器人（即“纯数据”学习者），它最终会陷入困惑。它会猜错内部齿轮的情况，很快对整个机器的预测就会崩溃，彻底偏离轨道。

本文介绍了一种新型机器人教师，称为NHODE（神经哈密顿常微分方程）。它专为解决这种“盲点”问题而设计，通过教导机器人尊重物理定律，而不仅仅是记忆模式。

以下是其工作原理，使用简单的类比说明：

1. 问题：“盲目”的学习者

在现实世界中，我们往往无法测量一切。也许我们能看见汽车的速度，却看不到燃油量；或者能看见行星的位置，却看不见拉扯它的无形引力。

旧方法（纯数据）：想象一个学生试图只通过观察舞者的脚来学习舞蹈。如果舞者的上半身做出意想不到的动作，学生就会迷失，因为他们不理解脚与身体其他部位之间的联系。在论文中，这些“纯数据”模型很快失效，尤其是在混沌系统中（例如“三体问题”，就像三颗行星在狂野不可预测的华尔兹中起舞）。

2. 解决方案：“物理优先”的教师

NHODE 框架就像一位会说“不要只看脚；要记住能量既不能被创造也不能被消灭”的教师。

能量银行（哈密顿量）：论文使用了一个称为“哈密顿量”的概念，它本质上是系统总能量的银行账户。在一个封闭系统中，这种能量平衡必须始终保持不变。
技巧：NHODE 模型的构建方式使其无法违反这一规则。它强制数学运算遵守能量守恒定律。即使机器人看不到隐藏的齿轮，它也知道，如果可见齿轮加速，隐藏的齿轮必须在别处减速，以保持总能量平衡正确。

3. 如何处理“隐藏”部分

论文描述了一个巧妙的两步过程：

侦探（编码器）：首先，模型观察可见部分的短期历史（即“观测历史”）。它像侦探一样，利用可见线索来推测隐藏部分当前在做什么。它推断出不可见齿轮的“初始状态”。
模拟器（ rollout）：一旦对隐藏部分有了猜测，它便向前运行模拟。关键在于，它只针对它能实际看到的部分检查自己的作业。它不会因直接猜错隐藏部分而受罚；只有当可见部分与真实视频不匹配时，它才会受罚。
- 类比：想象玩“西蒙说”游戏，但你只能看到西蒙的手。你必须猜测他的脚在做什么。如果你关于脚的猜测导致对手预测的手部动作出错，你就输了。但如果你关于脚的猜测能让手部动作保持正确，你就赢了。

4. 添加额外规则（对称性）

作者并未止步于能量。他们添加了更多“常识”规则：

平移对称性：如果你将整个机器向左移动一英尺，物理规律不应改变。模型学会关注部件之间的距离，而不是它们的绝对位置。
可分离能量：他们假设能量分为“动能”（他们已知其公式）和“势能”（由 AI 学习）。这使得工作更简单、更准确。

5. 结果：混沌中的稳定性

论文在三个场景下测试了该方法，从简单到极难：

弹簧上的两个质量块：一个简单的系统。所有方法表现尚可，但基于物理的方法略胜一筹。
三角形中的三个质量块：稍微复杂一些。纯数据模型开始漂移并犯下大错。基于物理的模型则保持正轨。
三体问题：这是“终极关卡”。三颗行星在混沌舞蹈中相互拉扯。
- 结果：纯数据模型（即“盲目”学习者）变得疯狂，其预测迅速爆炸为荒谬 nonsense。
- 获胜者：NHODE 模型，尤其是那个包含所有额外物理规则（守恒能量、动量和角动量）的模型，能够长时间正确地预测这种舞蹈。它不仅仅是猜测；它理解了舞蹈的规则，因此即使看不到某位舞者，它也知道他们必须如何移动以保持舞蹈继续。

总结

论文声称，通过将物理定律直接构建到 AI 的大脑中，我们可以教导它理解系统，即使我们无法看到所有部分。它将一个“盲目猜测者”转变为一个“精通物理的侦探”，能够从可见部分推断出不可见部分，即使在混乱、不可预测的环境中也能保持预测的稳定性。

作者指出，虽然该模型可以完美预测可见部分，但隐藏部分的确切状态可能不是唯一的（从外部看，可能存在几种不同的隐藏场景看起来是一样的），但模型找到了一个在物理上一致且对我们关心的部分准确无误的版本。

技术摘要：利用神经哈密顿常微分方程学习部分可观测系统

问题陈述

本文解决了在系统状态仅部分可观测的情况下，从数据中学习动态系统的挑战。在许多物理场景中，某些状态变量无法被测量，但它们却影响着可观测变量的演化。标准的物理信息机器学习模型，如哈密顿神经网络（HNNs），通常要求能够访问完整的系统状态（所有位置和动量）及其时间导数来定义损失函数。这一要求使得它们无法应用于需要推断潜在变量且无直接监督的部分可观测场景。相反，纯粹的数据驱动方法，如标准的神经常微分方程（Neural ODEs），在这些场景中往往无法泛化或保持稳定性，特别是对于复杂或混沌系统，因为它们缺乏约束解空间所需的物理约束。

方法论

作者提出了神经哈密顿常微分方程（NHODE），这是一个将哈密顿力学的结构保证与神经常微分方程的灵活训练过程相结合的框架。

核心框架

该系统被建模为规范哈密顿系统：
$\dot{x} = S \nabla H(x)$
其中 $x = (q, p)^T$ 表示广义位置和动量， $H$ 是哈密顿量（总能量）， $S$ 是规范辛矩阵。

NHODE 框架通过三个关键组件区别于其他方法：

基于展开的局部损失训练：与基于哈密顿方程在每个时间步的残差计算损失（需要完整状态数据）的标准 HNN 不同，NHODE 采用了神经常微分方程的训练范式。模型从初始条件出发，向前积分学习到的向量场以生成完整轨迹。损失函数仅定义在数据时间点上状态的可观测分量（ $x_{obs}$ ）上。潜在分量（ $x_{hid}$ ）被排除在损失计算之外，这意味着它们对训练的影响是间接的，完全通过可观测变量的演化来中介。
潜在状态推断：为了初始化积分，该框架采用神经网络编码器，基于可观测变量的初始历史来推断未观测变量的初始状态（ $x_{hid}(t_0)$ ）。该编码器与哈密顿网络使用共享损失函数进行联合训练。
通过对称性和可分性引入物理约束：为了进一步约束解空间并提高泛化能力，作者引入了特定的物理先验：
- 坐标变换：对于具有平移对称性的系统，绝对坐标在输入神经网络之前被转换为成对的相对距离。这强制了平移不变性，确保了线动量的守恒。
- 可分离哈密顿量：该框架支持假设哈密顿量是可分离的（ $H = T(p) + V(q)$ ）且已知动能项（ $T(p) = p^2/2m$ ）的模型。在这种配置下，神经网络仅学习势能 $V(q)$ 。当与相对坐标结合时，这种形式也强制了角动量的守恒。

作者定义了两个主要的模型变体：

NHODEtot：通过神经网络直接学习总能量。
NHODEpot：仅学习势能，假设已知动能形式和粒子质量。

主要贡献

部分可观测性的新颖框架：本文引入了 NHODE，这是第一个成功将哈密顿结构与神经常微分方程训练相结合，专门用于处理具有完全未观测状态变量的系统的框架。
物理先验的展示：该工作系统地证明了嵌入物理结构（能量守恒、通过对称性实现的动量守恒）对于在部分可观测、高维和混沌区域中学习稳定动力学不仅是有益的，而且是必不可少的。
在递增复杂度上的实证验证：该方法在三个复杂度递增的系统上进行了评估：
- 一个线性的 1D 双质量 - 双弹簧系统。
- 一个非线性的 2D 三角形三质量 - 三弹簧系统。
- 混沌的 3D 三体问题。
初始条件学习：该框架被证明能够仅从可观测轨迹中有效推断隐藏变量的初始条件，而纯粹的数据驱动基线方法在此任务上会失败。

结果

实验将 NHODE 与两个基线进行了比较：

NODEvanilla：标准的神经常微分方程。
NODEphys：仅学习动量导数的物理信息神经常微分方程。

发现：

线性系统：在简单的 1D 质量 - 弹簧系统中，所有模型（包括基线）表现均尚可，尽管 NHODE 模型显示出稍好的稳定性。
非线性系统：在 2D 非线性质量 - 弹簧系统中，性能差距扩大。虽然 NHODE 模型保持低误差，但基线模型在更长的时间范围内开始发散。
混沌系统：在三体问题中，区别尤为显著。纯粹的数据驱动基线（NODEvanilla）甚至部分物理信息的 NODEphys 变得不稳定并迅速发散。只有最富含物理信息的 NHODE 模型（NHODEpot,rel），即强制能量、线动量和角动量守恒的模型，才能在长时间内产生稳定、不发散的轨迹。
误差指标：在所有示例中，增加嵌入的物理结构量（例如，从 NHODEtot 转向 NHODEpot，或从绝对坐标转向相对坐标）系统地提高了预测精度和长期稳定性。

意义与主张

本文主张其主要贡献在于证明：嵌入机器学习模型中的物理知识使得能够准确学习部分可观测系统中可观测和潜在的部分，而这是纯粹的数据驱动方法无法完成的任务。

作者强调，虽然在没有额外信息（如已知系统参数）的情况下，潜在动力学可能不是唯一可识别的，但 NHODE 框架学习到的潜在状态是物理一致的，并能对可观测变量产生准确的预测。该工作指出，在混沌区域中，微小的扰动会导致指数级发散，因此引入强物理先验（守恒定律）对于防止学习到的动力学“崩溃”至关重要，从而延长了有用的预测窗口。

本文结论认为，NHODE 框架是一个可推广的工具，适用于动态系统部分可观测、已知物理结构且需要稳定时间预测的场景，例如传感器访问受限的工业监控、机器人学和科学实验。