🤖 machine learning

Learning Deterministic and Stochastic Forced Hamiltonian Systems

本文引入了一种几何框架和一类新型的结构保持神经网络，称为广义强迫哈密顿神经网络（GFHNNs），用于学习确定性和随机强迫哈密顿系统，并证明了其与非几何替代方案相比，在长期稳定性、准确性和数据效率方面具有优越性。

原作者： Benedikt Brantner, Tomasz Tyranowski

发布于 2026-08-21

📖 1 分钟阅读☕ 轻松阅读

原作者： Benedikt Brantner, Tomasz Tyranowski

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在物理世界中，许多系统都遵循着一种隐藏的节奏，一套支配能量如何移动与变化的规则。想象一下摆动的单摆或绕恒星运行的行星；这些都是科学家所称的哈密顿系统（Hamiltonian systems）的例子。几个世纪以来，数学家们一直知道这些系统具有一种特殊的几何结构，一种维持其长期稳定性的内部架构。然而，现实世界很少是完美的。摩擦力会使运动减速，外部的推力或拉力也会不断介入。当这些外部力量作用于系统时，理想世界的优雅规则就会崩溃，系统会与周围环境进行能量交换。预测这样一个系统的行为随时间的变化是困难的，因为标准的数学工具往往会偏离真相，随着模拟运行时间的增长而失去准确性。

几十年来，科学家们一直尝试利用人工智能来解决这些问题。他们教导计算机程序学习描述运动的方程，希望机器能够预测系统的未来状态。虽然这些方法在短时间内效果良好，但长期来看往往会失败。计算机学会了即时的步骤，却忘记了维持系统稳定的底层几何结构。结果，预测的路径在瞬间可能看起来是正确的，但在数小时或数天后，它会剧烈地偏离航向，违反了系统本应遵守的基本物理定律。这是诸如机器人技术（例如机器人手臂必须精确运动数年）或等离子体物理学（例如科学家模拟聚变反应堆中超高温气体的行为）等领域面临的一个重大障碍。

来自德国和荷兰的一个研究小组开发了一种新的方法来教计算机学习这些复杂的系统，这种方法从一开始就尊重隐藏的几何结构。研究人员并没有要求神经网络去猜测运动规则，而是根据规则本身来构建网络。他们创建了一种新型的人工智能架构，称为广义强迫哈密顿神经网络（Generalized Forced Hamiltonian Neural Networks）。这些网络不仅仅是靠试错学习的黑箱；它们是通过将已知能保持系统结构的微小、经过验证的数学步骤缝合在一起而构建的。研究人员从数学上证明，只要网络足够大，这种方法可以极其精确地逼近任何此类系统的行为。

该团队使用几种具有挑战性的案例，将他们的新方法与传统的非几何神经网络进行了对比测试。他们首先从一个简单的阻尼谐振子开始，这是一个模拟带有摩擦力的弹簧的系统。在这些测试中，新的几何网络比传统的网络用更少的数据点就学会了运动。更重要的是，当研究人员要求网络预测系统在遥远未来的行为时，传统的网络失败了。它们的预测变得失控，失去了正确的能量平衡。然而，新的几何网络却能保持在轨道上，即使在模拟了数千个时间步之后，依然能维持正确的物理特性。两者的差异是显著的：传统网络需要海量的训练数据才能接近新网络仅用一小部分信息就能达到的准确度。

研究人员并未止步于简单、可预测的系统。他们扩展了其方法，以处理随时间变化的系统以及受随机噪声影响的系统，例如分子动力学中发现的不可预测的抖动。通过将随机波动视为网络可以学习的一组参数，他们展示了其几何框架在这些混沌场景下同样有效。在一个涉及随机振荡器（即系统受到随机力冲击）的测试中，新网络再次表现优于标准方法。它更准确地捕捉到了系统的微妙长期行为，而传统网络则难以跟上，产生的误差随时间迅速增长。

这种成功的核心在于网络的构建方式。研究人员使用了物理学中被称为拉格朗日-达朗贝尔原理（Lagrange-d'Alembert principle）的原则，该原理描述了当外部力作用时系统如何运动。他们将这一原理转化为一种特定的数学映射，即一种将系统从一个时刻移动到下一个时刻而不破坏其内部结构的逐步程序。通过将这些映射串联起来，他们创建了一个本质上稳定的神经网络。与其他试图一次性学习整个系统流的方法不同，这种方法通过构建可靠的小型“砖块”来构建流。这确保了计算机即使在学习新问题的具体细节时，也永远不会丢失基本的规则。

这项工作的意义对于任何依赖长期模拟的人来说都非常重大。在工程和科学领域，预测一个系统在数月或数年内的行为，往往比知道它在接下来的几秒钟内的状态更为重要。这种新方法提供了一种实现长期稳定性且无需收集大量数据的方法，而在某些实验中，收集大量数据可能既昂贵又难以实现。研究人员证明，通过尊重问题的几何结构，神经网络变成了一个更高效、更可靠的学习者。它不仅仅是在记忆数据，它理解了运动的形状。

这项研究为构建复杂物理系统的鲁棒模型打开了大门。作者指出，他们的框架可以应用于机器人技术（其中精确的长期控制至关重要）以及计算等离子体物理学（其中模拟带电粒子的行为计算成本极高）。通过提供一种以高精度和低数据需求来学习这些系统的方法，这种新架构可以成为科学家和工程师的强大工具。它代表了我们对科学领域人工智能思维方式的一种转变：从纯粹的数据拟合转向构建植根于宇宙基本法则的机器。这项工作证明，当我们教计算机尊重自然的几何结构时，它们就能以以往无法企及的清晰度来预测未来。

技术摘要：学习确定性与随机强迫哈密顿系统

问题陈述

强迫哈密顿系统通过外部输入和耗散效应与环境进行能量交换，这类系统在机器人、等离子体物理、控制和分子动力学等领域广泛存在。与保守系统不同，这些系统并不以传统意义上保持辛结构（symplecticity），但它们拥有由拉格朗日-达朗贝尔原理（Lagrange-d’Alembert principle）所支配的底层几何结构。

现有的用于学习微分方程的神经网络方法通常分为两类：

非几何积分器： 标准架构（如 MLP、ResNet）仅近似解，却无法保持几何结构，导致长期稳定性差且定性行为不准确。
结构保持方法： 如哈密顿神经网络（HNN）或辛神经网络（SympNets）等架构。然而，其中许多方法受限于保守系统，学习的是控制方程而非流映射（flow maps），或者缺乏处理一般强迫项和随机性的统一框架。

本研究解决的核心挑战在于设计一种能够学习参数化强迫哈密顿系统（包括确定性和随机性）的流，同时严格保持其底层的几何结构，即拉格朗日-达朗贝尔结构。

方法论

理论基础

作者建立了一个基于拉格朗日-达朗贝尔原理和变分积分器理论的几何框架。

拉格朗日-达朗贝尔映射： 作者将“拉格朗日-达朗贝尔映射”定义为强迫哈密顿系统的 $T$ 时演化映射。与辛映射不同，这些映射不一定是辛的，但它们满足涉及离散力的变分原理。
收敛定理： 文中建立了一个针对一阶单步方法（特别是拉格朗日-达朗贝尔-欧拉和 Lie-Trotter 分裂方案）的 $C^r$ 收敛定理。该定理证明了这些积分器的复合在紧集上的强 $C^r$ 拓扑下收敛于真实的流，为通过神经网络近似流提供了数学依据。
参数化与随机扩展： 该框架被扩展到参数依赖系统和随机强迫哈密顿系统。对于随机系统，作者将 Stratonovich-Taylor 展开中出现的多个 Stratonovich 积分解释为参数。这使得只要可以获得底层维纳过程增量的信息，随机流就可以被视为一个参数依赖的拉格朗日-达朗贝尔映射。

神经网络架构

基于上述理论结果，本文提出了两种具体的架构：

广义强迫哈密顿神经网络 (GFHNNs)：
- 专为自治强迫哈密顿系统设计。
- 通过级联拉格朗日-达朗贝尔-欧拉 (LDE) 映射构建。
- 每个 LDE 模块使用可分离的哈密顿量（ $H = T(p) + U(q)$ ）和强迫项 $f$ 来近似流的一个步骤。
- 动能 $T$ 、势能 $U$ 和强迫函数 $f$ 由多层感知器 (MLP) 进行建模。
- 与学习向量场的方法不同，GFHNN 直接学习流映射。
参数化广义强迫哈密顿神经网络 (PGFHNNs)：
- 是 GFHNN 的扩展，用于处理依赖于参数 $\mu$ 的系统（包括时间 $t$ 和随机增量）。
- 该架构通过将参数 $\mu$ 增强到 MLP 的输入中来实现。
- 对于随机系统，维纳过程增量（以及高阶方案中的高阶 Stratonovich 积分）被视为参数向量 $\mu$ 。

通用近似

本文证明了 GFHNN 和 PGFHNN 的通用近似定理。这些定理表明，在紧集上的 $C^r$ 拓扑下，所提架构在拉格朗日-达朗贝尔映射（及其参数化版本）的空间中是稠密的。这保证了在具有足够容量的情况下，这些网络可以任意精确地近似任何强迫哈密顿系统的真实流。

关键结果

作者针对几个基准问题，将提出的架构与非几何残差神经网络 (ResNet) 进行了对比评估：

线性阻尼谐振子：
- 在低阻尼系数（轨迹随长时间演化）的情况下，GFHNNs 展示了比 ResNets 更优越的长期稳定性和准确性。
- 为了达到相当的性能，GFHNNs 所需的训练数据显著减少。
二次阻尼单摆：
- 在缺乏解析解的情况下，通过在由隐式中点法生成的数据上训练，GFHNNs 在重现耗散行为和哈密顿演化方面优于 ResNets。
含时阻尼谐振子：
- 使用 PGFHNNs 学习含时流（将时间视为参数），该几何架构在 ResNets 发生发散的长时间跨度内仍能保持精度。
- 为了匹配 PGFH 的精度，ResNet 需要大约 7.6 倍更大的训练数据集。
强迫库博振子 (随机)：
- 将 PGFHNN 框架应用于随机强迫哈密顿系统，通过将维纳增量视为参数。
- 在多种噪声实现和初始条件下，该几何架构在轨迹误差和哈密顿误差指标上均一致优于参数化 ResNet。

意义与主张

论文声称，与非几何残差神经网络相比，所提出的几何架构提供了显著提高的长期稳定性和准确性。其核心意义在于：

结构保持： 通过直接学习由结构保持积分器组成的拉格ль日-达朗贝尔映射，这些模型本质上尊重强迫系统的变分结构，避免了非几何方法中常见的漂移和不稳定现象。
数据效率： 几何归纳偏置使得模型能够以大幅减少的训练数据学习底层动力学。
统一框架： 本工作将确定性、含时和随机强迫哈密顿系统的学习统一在一个基于拉格朗日-达朗贝尔原理的单一几何框架之下。
直接流学习： 不同于学习控制方程的方法（后者需要后续的数值积分），这些架构直接学习流映射，从而实现了高效的轨迹生成，无需迭代求解器。

作者总结道，虽然该方法需要已知维纳过程的信息（这限制了其应用范围，仅限于可以获取此类数据的场景，例如蒙特卡洛模拟），但它为对几何保真度要求极高的物理和工程领域的代理建模提供了一个强大的工具。未来的工作建议将其应用于流形（李群）和计算等离子体物理领域。