Nonlinear GENERIC Informed Neural Networks (N-GINNs): learning GENERIC dynamics with non-quadratic dissipation potentials

本文介绍了非线性 GENERIC 信息神经网络（N-GINNs），这是一种通过凸耗散势强制热力学一致性的深度学习框架，能够准确发现同时具有保守动力学和非二次耗散特性的系统的演化方程。

要点

想象一下，你正在尝试教一个机器人如何预测一台复杂机器的运动方式。你可以向机器人展示成千上万段该机器运动的视频，让它去猜测其中的规律。但这里有个问题：如果机器人不够谨慎，它可能会学出一条看似在几秒钟内成立、但最终违背物理定律的规则。它可能会发明一种能从虚无中创造能量的机器，或者一种在做功时反而变冷的机器，而这两种情况在我们的宇宙中都是不可能的。

本文介绍了一种名为N-GINNs（非线性 GENERIC 信息神经网络）的新工具。可以将此工具视为人工智能的“物理安全 harness"。研究人员没有让 AI 自由地猜测规律，而是构建了 AI 的“大脑”，使其无法违背热力学的基本定律（能量守恒和熵增）。

以下是其工作原理的分解，使用简单的类比说明：

1. 双引擎系统

本文关注的是同时发生两种类型运动的系统：

• 可逆引擎（摆动）： 想象一个孩子在荡秋千。如果没有摩擦，他们将永远来回摆动。这是“保守”运动。它是可预测的，并且可以在时间上倒流。
• 不可逆引擎（摩擦）： 现在，想象秋千的铰链生锈了，并且存在空气阻力。秋千会减速，能量转化为热量。你无法让秋千“倒着”减速。这是“耗散”运动。

大多数现实世界的机器（如汽车刹车、化学反应，甚至你的肌肉）都是这两者的混合体。对 AI 而言，挑战在于学会如何完美地平衡这两个引擎。

2. “安全 harness"（架构）

研究人员创建了一种特殊的神经网络架构。想象建造一辆汽车，其引擎设计使得它在物理上无法产生比汽油箱中投入的燃料更多的能量。

• “能量”和“熵”图谱： AI 学习两张图谱：一张是系统的总能量，另一张是其无序度（熵）。
• “摩擦”图谱： AI 还学习一个“耗散势”。简单来说，这是一张告诉系统有多少能量转化为热量的图谱。
  • 创新点： 以前的 AI 模型只能学习简单的线性摩擦（如恒定的刹车）。而新模型可以学习复杂的非线性摩擦。这就像学会汽车的刹车在冷态和烧红状态下的工作方式不同。论文称之为“非二次耗散”，意思就是摩擦规则可以是弯曲和复杂的，而不仅仅是直线。

3. “锁与钥匙”（约束）

为了确保 AI 不耍花招，研究人员在代码中内置了“锁”。

• 能量锁： 代码的编写方式使得“可逆引擎”和“摩擦引擎”在总能量方面完美相互抵消。AI 被迫保持总能量恒定（除非从外部加入热量）。
• 熵锁： 代码强制“摩擦引擎”始终产生热量（熵）。从数学上讲，AI 不可能在没有外部推动的情况下使系统变得更加有序。

4. 三项测试

团队在三种截然不同的场景下测试了这种“系好安全 harness"的 AI，以证明其有效性：

• 测试 1：热室中的弹跳球。
  一个简单的弹簧在上下弹跳的同时向热浴损失能量。这是一个“简单”测试，旨在展示 AI 能够学习标准物理规律。
• 测试 2：化学马达。
  想象一个活塞（如汽车发动机中的活塞），里面充满了气体，同时正在进行化学反应（如混合小苏打和醋）。气体推动活塞，但化学反应产生了复杂的非线性摩擦。这是一个高难度测试，因为规则是弯曲且复杂的。AI 成功学会了这些规则。
• 测试 3：拉伸的金属。
  想象一根被拉伸的金属棒。起初它表现得像弹簧，但如果拉得足够用力，它会永久变形（塑性）并发热。这涉及整块金属板的运动，而不仅仅是单一点。AI 学会了如何同时预测拉伸、永久弯曲和发热。

结论

该论文声称，N-GINNs 可以观察这些复杂系统的数据，并找出支配它们的精确数学规则，同时保证这些规则遵守热力学定律。

这就像给一名学生参加数学考试，要求他们解决问题，但试卷本身内置了一个计算器，拒绝让他们写下任何违反算术定律的答案。其结果是，该模型不仅准确，而且值得信赖，因为它在物理上不可能在能量和热量的基本定律上“出错”。

技术摘要

技术摘要：非线性 GENERIC 信息神经网络（N-GINNs）

问题陈述
数据驱动的支配方程发现往往难以保持与基本物理原理的兼容性，特别是在计算力学领域，长期预测需要遵守守恒定律和熵产约束。尽管现有的结构保持机器学习方法已成功建模可逆哈密顿动力学（例如通过哈密顿神经网络）和部分耗散系统，但在发现广义非平衡可逆 - 不可逆耦合（GENERIC）形式化所需的全部构建模块方面仍存在显著差距。具体而言，现有框架通常依赖线性摩擦矩阵或软约束惩罚项，无法稳健地处理由一般性、潜在非二次耗散势控制的系统。此类非二次势对于建模复杂的不可逆机制（如化学反应、跳跃过程和塑性变形）至关重要，因为在这些机制中高斯涨落假设会失效。

方法论
作者提出了非线性 GENERIC 信息神经网络（N-GINNs），这是一种深度学习框架，旨在发现由非线性 GENERIC 形式化控制的系统的演化方程。核心演化方程为：
$$\dot{x} = L(x)D_x E(x) + D_{x^*} \Xi(x, x^*)|_{x^*=D_x S(x)}$$
其中 $x$ 是状态向量，$L(x)$ 是泊松双矢量，$E(x)$ 是能量泛函，$S(x)$ 是熵泛函，$\Xi(x, x^*)$ 是耗散势。

该方法论的独特之处在于通过构造（硬约束）而非损失函数中的惩罚项来强制执行热力学约束。该架构集成了以下组件：

1. 可逆动力学（哈密顿部分）： 框架学习能量 $E(x)$、熵 $S(x)$ 和双矢量 $L(x)$。为了满足可逆退化条件 $L(x)D_x S(x) = 0$ 以及 $L$ 的反对称性，作者采用了一种重参数化策略。原始神经网络输出 $\tilde{L}(x)$ 使用由熵梯度构建的矩阵 $Q_S$ 进行投影，确保 $L(x) = Q_S^T \tilde{L} Q_S$ 是反对称的并消去熵梯度。
2. 不可逆动力学（耗散部分）： 耗散势 $\Xi(x, x^*)$ 使用**部分输入凸神经网络（PICNN）**进行建模。为了满足不可逆退化条件 $\Xi(x, x^* + \lambda D_x E(x)) = \Xi(x, x^*)$ 并确保 $\Xi(x, 0)=0$ 且具有凸性，原始 PICNN 输出通过正交投影 $P(x)$ 重参数化到与 $D_x E(x)$ 正交的子空间。最终势定义为 $\Xi(x, x^*) = \tilde{\Xi}(x, P(x)x^*) - \tilde{\Xi}(x, 0) - D_{x^*}\tilde{\Xi}(x, 0)P(x)x^*$。
3. 热力学保证： 这种构造精确地保证了第一定律（能量守恒）和第二定律（非负熵产），无需网络从数据中学习这些属性。作者指出，虽然由于复杂性，在高维设置中泊松结构作为有效括号所需的雅可比恒等式并未通过构造显式强制执行，但它对于热力学可容性并非严格必要。

主要贡献

• 首个非二次 GENERIC 框架： 这是首个能够在耗散势形式化内发现完整 GENERIC 构建模块（双矢量、能量、熵和耗散势）的框架，同时适用于二次和非二次情形。
• 硬约束架构： 本文针对双矢量和耗散势引入了特定的重参数化，从数学上保证符合热力学第一和第二定律，超越了软约束方法。
• 统计力学一致性： 通过参数化耗散势 $\Xi$ 而非摩擦矩阵，该方法与大偏差理论保持一致，其中 $\Xi$ 与涨落的速率函数相关，提供了一种更简约且统计上可解释的表示。

结果
作者在三个复杂度递增的独立示例上验证了 N-GINNs：

1. 热浴中的谐振子： 一个具有二次耗散的系统。该模型准确恢复了经典动力学，即使在集成标准非结构保持 RK4 方案时，也保持了能量守恒和正熵产。
2. 理想化化学马达： 一个涉及非规范泊松括号（活塞运动耦合气体）和非二次耗散势（化学反应动力学）的系统。该模型成功捕捉了机械运动与化学反应之间的非线性耦合，在整个测试集中保持了热力学一致性。
3. 一维粘塑性模型（Perzyna 型）： 一个由偏微分方程（PDEs）控制的连续介质系统，具有与粘塑性流动相关的非二次耗散势。该框架成功学习了空间分布场（位移、动量、应变、温度）以及底层热力学结构，展示了其在基于 PDE 设置中的可扩展性。

在所有情况下，学习到的模型在测试轨迹上实现了较低的相对 $L_2$ 误差，并严格满足热力学约束（封闭系统的总能量恒定，熵产严格为正）。

意义与主张
本文主张 N-GINNs 提供了一种稳健的、结构保持的工具，用于从数据中发现热力学一致的模型，特别是对于非二次耗散至关重要的系统。作者强调，他们的方法通过设计确保了精确符合热力学第一和第二定律，解决了现有数据驱动方法可能违反物理原理的局限性。

作者对当前范围保持谦逊，承认：

• 该方法目前是一个确定性框架，在指定轨迹上训练，返回单次 rollout 预测。
• 它假设状态变量被完全观测，而许多实际应用涉及部分观测或内部变量。
• 在高维设置中精确强制执行雅可比恒等式仍然是一个未解决的挑战，并且在示例中未进行显式评估。
• 未来工作需要解决可扩展性、不确定性量化以及自动状态变量识别的集成问题。

本文将 N-GINNs 定位为朝着弥合复杂非平衡热力学与现代深度学习之间差距迈出的重要一步，使得为更广泛的不可逆过程类别发现可解释的、物理一致的模型成为可能。