🤖 machine learning

A Zeroth-Order Deep Learning Method for Fully Nonlinear Parabolic Partial Differential Equations with Unknown Coefficients

本文介绍了一种完全无模型的零阶深度学习方法，该方法通过使用扰动蒙特卡洛轨迹来估计导数，从而在避免自动微分的不稳定性以及无需显式动力学知识的同时，解决了系数未知的高维全非线性抛物型偏微分方程问题，并提供了严格的非渐近误差界。

原作者： Yanwei Jia, Du Ouyang, Huyên Pham, Xun Yu Zhou

发布于 2026-06-25

📖 1 分钟阅读☕ 轻松阅读

原作者： Yanwei Jia, Du Ouyang, Huyên Pham, Xun Yu Zhou

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你正在试图预测天气、股市波动或一座大城市的交通流量。在数学世界中，这些问题被描述为复杂的方程，称为偏微分方程 (Partial Differential Equations, PDEs)。

通常，为了求解这些方程，你需要知道精确的“游戏规则”（系数），并且需要计算事物变化的速率（导数）。但在现实世界中，我们往往不知道这些规则。我们面对的是一个**“黑盒” (Black Box)**：这个机器接收一个输入（比如“从这里开始”），然后给出一个输出（比如“车最后停在了这里”），但我们完全不知道它是如何实现这一过程的。

这篇论文介绍了一种利用人工智能（深度学习）解决这些“黑盒”数学问题的新方法，专门设计用于处理高维复杂性（同时处理许多变量），且无需了解底层的运行规则。

以下是他们方法的简单类比拆解：

1. 问题所在：“猜与试”的陷阱

目前大多数用于求解这些方程的 AI 方法运作方式如下：

AI 猜一个解（例如天气模式、股价）。
它随后尝试使用一种叫做“自动微分”的数学工具来计算该解的变化速度（导数）。
缺陷： 如果 AI 的猜测稍有偏差，对“变化”的计算就会变得极其不准确。这就像通过一张模糊的照片来测量汽车的速度；照片中微小的模糊会导致速度计算出现巨大的误差。在高维空间中，这种误差会呈爆炸式增长，导致解变得不稳定。

2. 解决方案：“先表示，后学习”

作者提出了一种完全不同的策略，称为**“先表示，后学习” (Representing-Then-Learning)**。

他们不是先猜出答案，然后再试图计算速度，而是先通过一个巧妙的技巧找出速度“应该”是什么样子，然后教 AI 去匹配它。

类比：盲测品尝
想象你是一位厨师，正试图学习一道汤的完美配方，但你看不见食材，也看不见食谱书（黑盒）。

旧方法： 你品尝汤的味道，猜出配方，然后尝试计算如果你改变配方，你会加入多少盐。这很难，而且容易出错。
新方法 (ZOD)： 你舀起一勺汤。然后，你取一小撮盐，加入到第二勺汤中。你品尝这两勺汤。
- 如果第二勺尝起来咸得多，你就知道对盐的“敏感度”很高。
- 如果味道几乎没变，你就知道敏感度很低。
- 你通过加入微量的盐（扰动）并观察味道（输出）的变化来实现这一点。你不需要知道盐的化学成分；你只需要观察味道的变化。

在论文中，这被称为零阶导数 (Zeroth-Order Derivative, ZOD) 估计器。他们不是通过数学计算导数，而是通过观察当输入发生轻微移动时输出如何变化，来估计导数。

3. 两种类型的“模拟器”

为了使这一过程奏效，论文定义了两种与黑盒交互的方式，称之为模拟器 (Simulators)：

弱模拟器 (随机骰子)： 每当你向模拟器提问时，它都会掷出一组新的骰子。如果你问“如果我从点 A 开始会发生什么？”，接着问“如果我从 A + 一点点偏移的地方开始会发生什么？”，模拟器会对这两个问题使用完全不同的随机路径。这使得比较两个结果变得困难，因为“噪声”（骰子点数）是不同的。
强模拟器 (固定剧本)： 这是“超能力”版本。当你提出上述两个问题时，模拟器会对这两个问题使用完全相同的随机路径（同样的骰子点数），仅仅改变起始点的一点点偏移。
- 为什么这很重要： 因为随机噪声是完全一致的，当你将两个结果相减时，噪声会完美抵消。你会得到一个非常清晰的图像，展示起始点是如何影响结果的。论文表明，使用这种“强模拟器”能让学习过程变得更快、更准确。

4. 训练过程：三个大脑，一个目标

AI 不仅仅学习答案（数值/Value）。它同时训练三个独立的神经网络：

数值网络 (Value Network)： 学习主要答案（例如最终股价）。
梯度网络 (Gradient Network)： 学习一阶导数（变化有多快）。
海森网络 (Hessian Network)： 学习二阶导数（变化的速度是如何变化的）。

系统并不是要求数值网络去“推导”另外两个网络，而是利用 ZOD 技巧（品尝汤的类比）为梯度网络和海森网络生成“目标”。然后，这些网络会被直接训练去匹配这些目标。

5. 结果

作者在一些极难的数学问题上测试了该方法，这些问题由于过于复杂（高维）或规则未知（黑盒），通常是传统方法无法解决的。

准确性： 他们的算法在学习“速度”（导数）方面比传统方法好得多。在一项测试中，传统方法在猜测二阶导数（海森矩阵）方面的表现比他们的方法差了 10 倍。
稳定性： 由于他们没有依赖于从一个混乱的猜测中计算导数，该方法不会崩溃或变得不稳定。
效率： 他们发现，拥有“强模拟器”（即随机噪声固定的情况）的访问权，可以显著提高学习效率。

总结

可以将这篇论文看作是教机器人如何在雾气弥漫、规则未知的城市中开车。

旧方法： 机器人猜测道路，然后尝试用数学计算转向角度，但由于数学过于敏感，经常导致撞车。
新方法： 机器人轻轻地左右拨动方向盘，观察汽车路径的变化，并直接从这些微小的拨动中学习转向规则。它同时学习速度和加速度。

论文从数学上证明了这种“轻微拨动并观察”的方法是有效的，即使是在城市规模巨大且规则成谜的情况下，只要你能使用“固定剧本”（强模拟器）来消除迷雾的影响。

技术摘要：针对未知系数的全非线性抛物型 PDE 的零阶深度学习

问题陈述
本文研究了求解高维、全非线性抛物型偏微分方程（PDE）的挑战，这些方程中的底层算子和系数函数是未知的（“黑盒”）。这类方程出现在科学机器学习、连续时间强化学习（特别是具有未知参数的 Hamilton–Jacobi–Bellman 方程）以及复杂的物理系统（如流体湍流）中。

现有的深度学习求解器在此背景下面临两个主要局限性：

基于残差的方法（例如 PINNs、Deep Galerkin）： 这些方法依赖于自动微分（auto-diff）来评估微分算子。在高维情况下，这会导致优化不稳定并放大导数误差。此外，它们通常遵循“先学习后微分”的范式，即从学习到的值函数中后验地计算导数，这无法在理论上保证其导数会收敛到真实值。
概率方法（例如 Deep BSDE、DBDP）： 这些方法利用随机表示（Feynman–Kac 公式），但通常需要明确知道 PDE 系数才能定义底层的随机微分方程（SDE）。它们往往局限于对 Hessian 呈线性的 PDE，且无法处理系数不可获取的黑盒环境。

作者旨在开发一种无模型（model-free）、数据驱动的方法，在不知道算子函数形式或其导数的情况下，同时求解这些 PDE 并学习其解、梯度和 Hessian。

方法论：先表示后学习
所提方法采用了“先表示后学习”的范式，这与传统的“先学习后微分”范式截然不同。其核心组件包括：

模拟器框架： 该方法假设可以访问一个“模拟器”，该模拟器根据 PDE 的无穷小生成元生成随机轨迹。定义了两种设置：
- 弱模拟器（Weak Simulator）： 为每个查询返回独立的轨迹（独立同分布的布朗运动）。
- 强模拟器（Strong Simulator）： 对于一组初始状态，返回由相同底层布朗运动驱动的一族轨迹（固定“随机种子”）。这使得通过相关性实现方差缩减成为可能。
近似值迭代（Approximate Value Iteration）： 该非线性 PDE 通过一系列线性 PDE 进行求解。在每次迭代 $n$ 中，使用当前对值（ $V_n$ ）、梯度（ $G_n$ ）和 Hessian（ $H_n$ ）的近似值来评估非线性源项 $f$ 。这使得问题转化为可以通过 Feynman–Kac 公式求解的策略评估任务。
零阶导数（ZOD）估计量： 该方法不使用 auto-diff 计算导数，而是利用在扰动点处的函数值构造梯度和 Hessian 的随机估计量。
- 单点估计量（One-Point Estimators）： 使用 $x + \epsilon Z$ 处的函数值来估计导数。这些估计量是有偏的，且在弱模拟器设置下，当扰动 $\epsilon \to 0$ 时，其方差是无界的。
- 多点估计量（Multi-Point Estimators）： 使用对称差分（例如 $f(x+\epsilon Z) - f(x-\epsilon Z)$ ）。在强模拟器设置下，由于相关噪声的抵消，这些估计量在 $\epsilon \to 0$ 时能实现有界的方差；而在弱模拟器设置下则无法获得此益处。
复合损失函数： 算法联合训练三个神经网络（ $V, G, H$ ）以最小化复合损失：
- 值损失（Value Loss）： 最小化网络输出与随机奖励（终端条件 + 源项积分）之间的均方误差。
- 导数损失（Derivative Losses）： 最小化梯度/Hessian 网络与其各自的 ZOD 目标之间的距离，这些目标源自扰动轨迹。至关重要的是，奖励中的源项 $f$ 是使用 $G$ 和 $H$ 的显式输出进行评估的，而非使用它们的自动微分结果。

核心贡献

面向黑盒 PDE 的无模型框架： 本文引入了一个严谨的框架，用于求解仅依赖于来自模拟器轨迹数据的全非线性 PDE（其中系数未知）。
将 ZOD 作为学习目标： 提出使用 ZOD 估计量作为训练导数网络的直接目标。这种“先表示后学习”的方法避免了通过对不完美的价值函数进行微分而产生的误差传播。
PDE 背景下 ZOD 的偏差-方差分析： 作者表征了 PDE 求解背景下 ZOD 估计量独特的偏差-方差权衡。他们证明了虽然多点 ZODs 在优化中降低了方差，但其在 PDE 求解中的有效性严格取决于强模拟器的存在，因为强模拟器能诱导扰动轨迹之间的相关性。
Sobolev 空间中的理论保证： 本文提供了针对（加权）Sobolev 空间中二阶导数的无模型 PDE 学习的首个非渐近误差分析。总误差被分解为：
- 离散化误差（ $O(N^{-1})$ ）。
- 近似误差（神经网络表达能力）。
- 统计误差（样本复杂度）。
- ZOD 偏差（ $O(\epsilon^4)$ ）。
  分析表明，在强模拟器下，误差规模为 $O((N^{-1} + P(d)B^{-1/2})^{1/2})$ ；而在弱模拟器下，由于 $\epsilon^{-4}$ 的方差爆炸，其规模表现更差。

实验结果
数值实验在中小到高维（最高达 $d=20$ ）的线性、半线性及全非线性 PDE 上验证了该方法：

线性 PDE（回归）： 与标准的“先学习后微分”（NN-autodiff）方法相比，ZOD 方法在梯度和 Hessian 近似方面取得了显著降低的误差（至少提升了 3 倍），尽管其值函数的准确度相似。Auto-diff 方法未能捕捉到导数的局部峰值和谷值。
半线性与全非线性 PDE： 将 ZOD 方法与最先进的模型化方法 Deep Picard Iteration (DPI) 进行了对比。
- ZOD 在值和梯度方面收敛更快，且误差更低。
- 最值得注意的是，ZOD 在 Hessian 准确度方面大幅超越了 DPI（例如，在全非线性情况下将 Hessian 误差降低了一个数量级）。这归功于专门的 Hessian 网络和二阶 ZOD 目标，而 DPI 依赖于对值网络进行双重自动微分。
- 该方法在强模拟器下表现出了稳健的性能，证实了其在方差缩减方面的理论优势。

意义与主张
本文声称提供了一种适用于系数未知的黑盒环境的完全无模型算法。其主要意义在于：

理论严谨性： 建立了在 Sobolev 空间中学习解及其高达二阶导数的全非线性 PDE 的收敛性和样本复杂度，填补了现有文献中的空白。
实践稳定性： 证明了通过 ZOD 目标显式学习导数，比依赖学习到的值函数的自动微分在处理高阶导数时更稳定、更准确。
模拟器感知性： 强调了基于模拟的学习效率从根本上取决于数据生成机制的性质（弱模拟器 vs 强模拟器），这为科学机器学习的算法设计提供了新的视角。

作者指出，虽然该方法对于 PDE 系数是无模型的，但它假设已知 PDE 结构（线性二阶算子加非线性源项），并且并未尝试学习 PDE 算子本身（这与算子学习方法有所区别）。