A data-driven model-free physical-informed deep operator network for solving nonlinear dynamic system

这是一份关于论文《A Data-Driven Model-Free Physics-Informed Deep Operator Network for Solving Nonlinear Dynamic Systems》（一种用于求解非线性动态系统的数据驱动、无模型、物理信息深度算子网络）的详细技术总结。

1. 研究背景与问题 (Problem)

在动态系统分析中，状态估计和预测是核心任务。现有的物理信息深度算子网络 (Physics-informed Deep Operator Networks, PINN-DeepOnet) 通常依赖以下两种条件之一：

1. 精确的数学公式：已知系统的物理定律（如偏微分方程 PDE 或常微分方程 ODE 的具体形式）。
2. 海量数据：针对不同场景拥有大量的实验或模拟数据。

面临的挑战：
在许多实际动态系统中，获取精确的数学公式极其困难（可能仅知道方程的阶数，但不知道具体函数形式），同时由于实验成本高昂，往往只能获得少量的实验数据。现有的 DeepOnet 在数据稀疏且物理规则未知的情况下，难以准确学习系统的动态响应。

核心问题：
如何在数据稀缺（少量实验数据）且系统模型信息有限（仅知道 ODE 的阶数，不知道具体物理方程）的约束下，实现对非线性动态系统状态的有效离线估计？

---

2. 方法论 (Methodology)

作者提出了一种数据驱动、无模型、物理信息增强的 DeepOnet (Data-Driven Model-Free Physics-Informed DeepOnet) 框架。该方法的核心思想是利用“短期依赖性 (Short-term Dependence)"作为代理物理信息，弥补物理公式缺失的不足。

2.1 理论基础：短期依赖性

基于欧拉离散化方法和定理 2.1，对于由 $n$ 阶常微分方程描述的非线性动态系统，在采样周期 $\delta$ 足够小的情况下，当前状态 $x(t)$ 仅依赖于前 $n$ 步的状态和控制输入（即 $x(t-n), \dots, x(t-1)$ 和 $u(t-n), \dots, u(t-1)$）。

• 这意味着即使不知道具体的物理函数 $F(\cdot)$，系统内部也存在一种内在的、可学习的短期依赖关系。

2.2 核心架构设计

该方法分为两个主要阶段：

阶段一：构建代理机器学习模型 (Surrogate ML Model)

• 目的：提取并学习系统的短期依赖关系。
• 模型：使用一个前馈神经网络 (FFNN)。
• 输入：过去的系统状态 $x(t-n), \dots, x(t-1)$ 和过去的控制输入 $u(t-n), \dots, u(t-1)$。
  • 注：为了避免模型仅仅学习 $x(t) \approx x(t-1)$ 的简单相关性，输入通常包含状态及其低阶导数，目标是预测最高阶导数 $\frac{d^n x}{dt^n}$。
• 输出：预测当前时刻的最高阶导数值。
• 作用：该 FFNN 充当了“物理信息”的代理，捕捉了系统内在的动态规律。

阶段二：构建物理信息 DeepOnet

• 架构：标准的 DeepOnet 结构，包含分支网络 (Branch Net) 和主干网络 (Trunk Net)。
  • 分支网络：编码初始状态 $x(0)$ 和控制输入序列 $u(0), \dots, u(t)$。
  • 主干网络：编码时间步 $t$。
  • 输出：预测的系统状态 $\hat{x}(t)$。
• 损失函数设计：
  总损失 $L$ 由两部分组成：
  $$L = L_{data} + L_{P}$$
  1. 数据损失 ($L_{data}$)：预测状态 $\hat{x}(t)$ 与真实测量值之间的均方误差 (MSE)。
  2. 物理信息损失 ($L_{P}$)：
     • 利用自动微分 (Auto Differentiation) 计算预测状态 $\hat{x}(t)$ 的各阶导数。
     • 将预测状态及其低阶导数、当前控制输入输入到阶段一训练好的 FFNN 中，得到预测的最高阶导数 $\frac{d^n \bar{x}}{dt^n}$。
     • 计算自动微分得到的导数 $\frac{d^n \hat{x}}{dt^n}$ 与 FFNN 预测的导数 $\frac{d^n \bar{x}}{dt^n}$ 之间的差异。
     • 这一项强制 DeepOnet 的预测结果符合系统内在的短期依赖规律（即物理约束）。

---

3. 关键贡献 (Key Contributions)

1. 无模型 (Model-Free) 的物理信息融合：
   突破了传统 PINN 必须已知精确物理方程的限制。通过利用“短期依赖性”理论，用数据驱动的代理模型替代了未知的物理方程，将其作为物理约束嵌入 DeepOnet。
2. 小样本学习能力：
   在仅有少量训练数据（如 5 组数据集）的情况下，通过引入物理约束，显著提升了 DeepOnet 的泛化能力和预测精度，解决了数据稀疏导致的过拟合或欠拟合问题。
3. 鲁棒性验证：
   证明了该方法在存在测量噪声（高斯噪声）的情况下，依然能保持比传统 DeepOnet 更高的稳定性和准确性。
4. 通用性框架：
   提出了一种通用的框架，适用于不同阶数（2 阶、3 阶）的非线性动态系统，包括稳定、不稳定及混沌系统。

---

4. 实验结果 (Results)

作者在三个不同的非线性动态系统上进行了数值实验，并与基准模型（标准 DeepOnet）进行了对比：

4.1 摆系统 (Pendulum System, 2 阶 ODE)

• 场景：倒立摆稳定控制。
• 数据：5 组训练数据，10 组测试数据。
• 结果：
  • 无噪声：本文方法 MAE = 6.23，DeepOnet MAE = 17.98。
  • 有噪声：本文方法 MAE = 7.57，DeepOnet MAE = 19.27。
  • 结论：本文方法在精度和抗噪性上均显著优于 DeepOnet。

4.2 受驱振荡器系统 (Driven Oscillator System, 2 阶 ODE)

• 场景：边缘不稳定状态。
• 数据：5 组训练数据，10 组测试数据。
• 结果：
  • 无噪声：本文方法 MAE = 16.69，DeepOnet MAE = 36.22。
  • 有噪声：本文方法 MAE = 19.10，DeepOnet MAE = 39.46。
  • 结论：在边缘不稳定系统中，本文方法能更准确地捕捉动态趋势。

4.3 混沌 Jerk 系统 (Chaotic Jerk System, 3 阶 ODE)

• 场景：高维、混沌、对初值敏感的系统。
• 数据：10 组训练数据，5 组测试数据。
• 结果：
  • 无噪声：本文方法 MAE = 19.8，DeepOnet MAE = 10.5（注：此处原文数据似乎显示 DeepOnet 在无噪声下表现更好，但在有噪声下反转，或者原文此处对比存在特定语境，但结论部分强调本文方法整体更优且在有噪声下表现更好。根据原文结论部分描述，本文方法在噪声下 MAE 为 18.7 vs 22.2，且整体鲁棒性更强。 修正：原文 4.3 节无噪声部分提到 DeepOnet MAE 为 10.5，本文方法为 19.8，但在有噪声部分，本文方法 MAE 18.7 优于 DeepOnet 的 22.2。结论部分强调本文方法在噪声下的鲁棒性。这表明在极度复杂的混沌系统中，纯数据驱动可能在小样本无噪下拟合更好，但加入物理约束后在抗噪和泛化上更具优势）。
  • 有噪声：本文方法 MAE = 18.7，DeepOnet MAE = 22.2。
  • 结论：在含噪环境下，本文方法表现出更强的鲁棒性和可靠性。

---

5. 意义与总结 (Significance)

• 填补了空白：该方法成功解决了在“数据少”且“物理模型未知”这一双重约束下的动态系统建模难题，填补了传统物理信息神经网络 (PINN) 和纯数据驱动 DeepOnet 之间的空白。
• 实际应用价值：在工程实践中，许多系统（如复杂机械结构、生物系统、气候模型）难以获得精确方程且实验数据昂贵。该方法提供了一种利用少量数据即可构建高精度代理模型的可行路径。
• 鲁棒性：实验表明，引入短期依赖作为物理约束，不仅提高了精度，还显著增强了模型对测量噪声的抵抗力，使其更适用于真实的工业和科学场景。
• 未来展望：该研究为离线状态估计开辟了新方向，展示了数据驱动方法与物理先验知识（即使是隐式的）相结合的巨大潜力，为未来更复杂系统的智能建模奠定了基础。

总结：这篇论文提出了一种创新的混合架构，通过挖掘数据中的“短期依赖性”来替代缺失的物理方程，成功增强了 DeepOnet 在少样本和模型未知场景下的性能，为复杂非线性动态系统的状态估计提供了一种高效、鲁棒的解决方案。