⚡ electrical engineering

Learning Dynamics from Input-Output Data with Hamiltonian Gaussian Processes

本文提出了一种基于哈密顿高斯过程的完全贝叶斯框架，旨在仅利用输入 - 输出数据（无需速度或动量测量）学习包含耗散等非保守效应的物理一致动力学模型，并实现了对隐藏状态及结构超参数的不确定性量化。

原作者： Jan-Hendrik Ewering, Robin E. Herrmann, Niklas Wahlström, Thomas B. Schön, Thomas Seel

发布于 2026-04-16

📖 1 分钟阅读☕ 轻松阅读

原作者： Jan-Hendrik Ewering, Robin E. Herrmann, Niklas Wahlström, Thomas B. Schön, Thomas Seel

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文讲述了一个非常有趣的故事：教计算机如何像物理学家一样思考，但不需要它看到所有的“内部细节”。

为了让你轻松理解，我们可以把这篇论文的核心内容想象成**“通过听声音猜机器内部结构”**的游戏。

1. 以前的难题：必须看到“速度”才能学习

想象你正在研究一个复杂的机器（比如一个钟摆或一辆车）。

以前的方法：想要让计算机学会这个机器是怎么动的，你必须给它看所有的数据。不仅要知道它在哪里（位置），还要知道它跑得有多快（速度/动量）。
现实问题：在现实生活中，这太难了！你通常只能看到机器在哪里（比如通过摄像头拍到的位置），但很难直接测出它每一瞬间的速度。如果你强行用数学方法从位置推算速度，就像试图通过看模糊的照片来猜车速，稍微有点噪音（照片模糊一点），算出来的速度就完全错了。

2. 这篇论文的突破：只听“位置”就能学会

这篇论文提出了一种新招：只给你看位置（输入 - 输出数据），你就能学会整个机器的运动规律。

他们做这件事的核心工具叫**“汉密尔顿高斯过程” (Hamiltonian Gaussian Processes)**。这个名字听起来很吓人，我们可以把它拆解成三个简单的比喻：

比喻一：能量守恒的“记账本” (汉密尔顿量)

物理世界有一个铁律：能量守恒。机器不会凭空产生能量，也不会凭空消失，它只是在动能（跑得快）和势能（位置高）之间转换，或者因为摩擦（阻尼）慢慢消耗掉。

以前的 AI 模型像是一个乱记账的会计，算着算着能量就多了或少了，这不符合物理规律。
这篇论文的方法给 AI 装了一个**“能量记账本”**。无论 AI 怎么猜，它都必须遵守“能量守恒”这个铁律。这样，即使数据很少，AI 猜出来的结果也是符合物理常识的。

比喻二：低分辨率的“高清地图” (降秩高斯过程)

通常，让 AI 学习复杂的物理规律，需要巨大的计算量，就像要在电脑上画一张无限细节的超级高清地图，电脑会卡死。

这篇论文用了一种聪明的**“降秩”技巧。想象一下，你不需要画出地图上每一棵树的叶子，你只需要画出主要的山脊和河流**（用一组简单的数学波形来近似）。
这样做的好处是：计算速度飞快，而且内存占用很小，让普通的电脑也能跑得动。

比喻三：盲猜的“侦探游戏” (贝叶斯推断)

这是最精彩的部分。因为只给了位置数据，没有速度数据，AI 就像是一个盲侦探。

以前的方法：侦探只能猜一个最可能的答案（比如：速度大概是 5 米/秒）。
这篇论文的方法：侦探会列出所有可能的情况，并给每种情况打分。
- “有 30% 的可能是速度 4，有 50% 的可能是速度 5，还有 20% 的可能是速度 6。”
- 更重要的是，它还能猜出未知的参数，比如“这个机器摩擦大不大？”（阻尼系数）。
- 它不仅能告诉你“机器怎么动”，还能告诉你**“我有多确定”**。如果数据太少，它会说：“我不太确定，范围很大”；如果数据多了，它会说：“我很确定，范围很小”。

3. 他们是怎么做的？（简单流程）

设定规则：先告诉 AI，“你要遵守能量守恒，而且机器有摩擦，还有外部推力”。
只看结果：给 AI 看一堆“时间 - 位置”的数据（比如：第 1 秒在 A 点，第 2 秒在 B 点...）。
疯狂猜谜：AI 开始利用“能量记账本”和“低分辨率地图”，在脑海里模拟无数种可能的“速度”和“内部参数”。
自我修正：通过一种叫粒子滤波的高级算法，AI 不断排除那些不符合物理规律的猜测，最后留下最靠谱的一堆可能性。

4. 结果怎么样？

论文里做了一个仿真实验（一个非线性的振荡器，就像个乱晃的钟摆）：

对比组：有的方法需要知道速度和位置（全数据），有的方法只靠位置但算得慢。
这篇论文的方法：只靠位置数据，算得又快又准。
惊喜：它不仅猜出了钟摆怎么动，还猜出了摩擦系数（阻尼），甚至能画出概率云（告诉你钟摆未来可能出现在哪里，以及这种可能性的分布）。

总结

这篇论文就像教给了 AI 一个**“物理直觉”。
以前，AI 学物理就像死记硬背**，必须看到所有细节才能背下来；
现在，AI 学会了**“举一反三”**，即使只看到机器在哪里，它也能根据物理定律（能量守恒），结合概率统计，推断出机器内部是怎么运作的，甚至能自信地告诉你：“虽然我没看到速度，但我敢打赌，它现在的速度大概是这个范围，而且我很确定！”

这对于机器人控制、自动驾驶等领域非常有价值，因为在现实世界中，我们往往只能看到位置，却很难直接测量速度或内部受力。

这是一篇关于利用哈密顿高斯过程（Hamiltonian Gaussian Processes, HGP）仅从输入 - 输出数据中学习系统动力学的学术论文总结。该研究解决了传统物理信息学习方法中过度依赖速度或动量测量数据的局限性，并提出了一个完全贝叶斯框架来估计隐藏状态和模型参数。

以下是该论文的详细技术总结：

1. 研究问题 (Problem)

核心挑战：在基于模型的控制和系统辨识中，构建物理一致（如能量守恒）的动力学模型至关重要。现有的哈密顿高斯过程方法虽然能生成具有不确定性量化的能量一致模型，但通常依赖于完整的系统状态测量（即位置 $q$ 和动量 $p$ 或速度 $\dot{q}$ ）。
现实困境：在许多实际应用场景中，动量或速度数据难以直接获取或测量噪声极大（通过数值微分位置数据得到的速度对噪声高度敏感）。
研究目标：提出一种方法，能够仅利用输入 - 输出数据（即控制输入 $u$ 和位置观测 $y$ ）来学习非保守（Non-conservative，包含耗散和外部力）系统的哈密顿动力学，同时提供对隐藏状态、超参数及结构参数（如阻尼系数）的不确定性量化。

2. 方法论 (Methodology)

2.1 问题建模

作者将系统建模为受迫哈密顿力学系统：
$\dot{x} = (J(x) - R(x)) \nabla_x H(x) + G(x)u + w$
$y = g(x) + e$
其中：

$x = [q, p]^\top$ 是状态（位置和动量）。
$H(x)$ 是未知的哈密顿函数（能量函数）。
$J$ 是反对称互连矩阵， $R$ 是对称半正定耗散矩阵， $G$ 是输入矩阵。
假设 $J, R, G$ 的结构已知，但具体参数未知； $H(x)$ 未知。
目标是估计联合后验分布 $p(x_{0:T}, \xi | u_{0:T}, y_{0:T})$ ，其中 $\xi$ 包含模型参数和超参数。

2.2 降秩哈密顿高斯过程 (Reduced-Rank Hamiltonian GP)

为了克服标准 GP 在计算复杂度和内存上的瓶颈（特别是当涉及多输出梯度时），作者采用了降秩高斯过程：

谱近似：利用拉普拉斯算子的特征函数展开来近似协方差核函数。
线性参数化：将哈密顿梯度的近似表示为基函数的线性组合： $\nabla_x \hat{H}(x) = D_\phi(x)a$ 。
优势：
- 计算复杂度与训练数据维度无关（ $O(M)$ ，其中 $M$ 是基函数数量）。
- 模型关于参数 $a$ 是线性的，便于闭式求解。
- 能够处理多输出梯度问题。

2.3 完全贝叶斯推断与学习 (Fully Bayesian Inference)

由于无法直接观测哈密顿梯度，作者提出了一种基于粒子吉布斯（Particle Gibbs）的采样方案，结合条件序贯蒙特卡洛（Conditional SMC）和Metropolis-Hastings (MH) 算法：

隐变量推断：使用条件 SMC 从后验分布 $p(z_{0:T} | y_{0:T}, \xi)$ 中采样隐藏状态轨迹（包括位置、动量和辅助的哈密顿梯度变量）。
参数学习：
- 模型参数 ( $\theta$ )：利用共轭先验（Normal-Inverse Gamma），在给定状态轨迹的情况下，闭式计算后验分布。
- 超参数 ( $\vartheta$ )：包括 GP 核超参数（长度尺度、方差）和结构超参数（如阻尼系数）。由于没有闭式解，使用 MH 步骤在吉布斯采样框架内进行采样。
流程：交替采样状态轨迹和参数，最终收敛到联合后验分布。

3. 主要贡献 (Key Contributions)

仅依赖输入 - 输出数据：首次提出了一种仅使用位置测量（输入 - 输出数据）而非动量/速度数据的哈密顿 GP 学习框架，解决了实际应用中数据获取受限的问题。
非保守系统建模：模型能够捕捉能量耗散（通过阻尼矩阵 $R$ ）和外部能量交换（通过输入 $u$ ），适用于更广泛的真实物理系统。
完全贝叶斯框架：不仅估计状态，还同时估计 GP 超参数和物理结构参数（如阻尼系数）的概率分布，提供了对模型不确定性的全面量化。
计算效率：引入降秩 GP 近似，使得模型训练和预测的计算复杂度独立于数据量，且具备闭式梯度表达式，显著提升了实用性。
理论对比：与现有依赖全状态测量的方法相比，证明了在仅使用输入 - 输出数据的情况下，仍能获得可比的预测精度。

4. 实验结果 (Results)

案例研究：在一个非线性非谐振子（Non-harmonic oscillator）系统上进行仿真，该系统具有复杂的能量景观和阻尼。
对比实验：
- 将提出的方法（输入 - 输出数据）与使用相同方法的输入 - 状态数据版本进行对比。
- 与基于全状态测量的精确哈密顿 GP（Exact GP）进行对比。
性能指标：
- 精度：尽管仅使用含噪位置数据，提出的方法在流图（Flow map）的均方根误差（RMSE）上与使用全状态数据的方法相当，且优于或接近精确 GP。
- 物理一致性：学习到的模型能够准确反映系统的能量耗散和外部输入影响。后验样本显示模型能捕捉相空间中的多模态分布（如收敛到不同的平衡点）。
- 参数估计：能够准确估计阻尼系数等结构参数（在输入 - 状态设置下非常准确，输入 - 输出设置下略有偏差，归因于可辨识性问题）。
计算效率：降秩 GP 在预测阶段表现出 $O(M)$ 的复杂度，远优于标准 GP 的 $O(T^3)$ 。

5. 意义与局限性 (Significance & Limitations)

意义：
- 填补了物理信息机器学习（Physics-informed ML）与贝叶斯系统辨识之间的空白。
- 使得在缺乏速度/动量传感器的复杂系统中，也能构建具有不确定性量化的物理一致模型，为基于模型的控制（Model-based Control）和安全学习提供了新工具。
局限性：
- 可辨识性：在输入 - 输出设置下，某些参数（如阻尼系数）可能存在可辨识性问题，需要引入额外的先验约束（如对称性约束）才能有效学习。
- 维度灾难：虽然降秩 GP 解决了数据量问题，但粒子吉布斯方法的计算复杂度仍随系统状态维度增加而迅速上升。
- 先验知识需求：目前仍需已知物理结构矩阵（ $J, R, G$ ）的拓扑结构。

总结：该论文提出了一种创新的、计算高效的贝叶斯学习框架，成功实现了仅从输入 - 输出数据中学习非保守哈密顿动力学，为在数据受限且噪声存在的实际工程系统中应用物理信息机器学习奠定了坚实基础。