🤖 machine learning

Neural operator discovery from heterogeneous trajectories

本文介绍了神经算子发现（Neural Operator Discovery, NOD），这是一个无需标注控制因子、直接从异构轨迹中学习共享解算子与特定系统变体的框架，从而在多种动力系统中实现可解释、可泛化且稳定的长时程预测。

原作者： Zituo Chen, Qiaofeng Li, Jiaxin Hu, Sili Deng

发布于 2026-07-28

📖 1 分钟阅读☕ 轻松阅读

原作者： Zituo Chen, Qiaofeng Li, Jiaxin Hu, Sili Deng

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在观看一千段关于水流动的不同视频。有些视频显示水流通过狭窄的管道，有些则通过宽阔的河流，还有些显示水流撞击岩石。在每一段视频中，水都遵循着相同的基本物理规则——它旋转、加速并减速。但在现实世界中，科学家们通常不会在每段视频上都贴一个标签，告诉他们管道到底有多宽，或者岩石有多大。他们手里只有这些杂乱、移动的画面。长期以来，试图预测这些视频下一步会发生什么的计算机，必须在预测前被告知“秘密配方”（比如精确的管道宽度）。如果缺少这个秘密，计算机就会感到困惑，或者试图逐帧记忆整个视频，这既缓慢又容易随着时间的推移产生错误。这篇论文解决的问题，就是如何教计算机去理解流动的“规则”，并仅仅通过观察水的运动，就推导出那个“秘密配方”，而无需任何人告诉它配方是什么。

由 Zituo Chen 和 Sili Deng 领导的研究团队开发了一种名为**神经算子发现（Neural Operator Discovery, NOD）**的新方法。可以把它想象成在教计算机如何成为一名侦探。与其只是死记硬背水的路径，不如让计算机学会将水的“普遍规律”与每个场景的“特定细节”区分开来。他们构建了一个包含两个部分的系统：一个负责根据规则预测水流未来的“解码器”，以及一个充当侦探笔记本的“编码器”。编码器观察一段简短的水流片段，并写下一份微小的、秘密的笔记（即“潜在表示”），这份笔记只捕捉该场景的特定细节，例如管道的大小。

这里的魔力在于如何训练这位侦探。他们不仅仅是给计算机看一段视频并让它预测未来。相反，他们使用了一种叫做**轨迹解耦采样（trajectory-decoupled sampling）**的技术。想象一下，向计算机展示一段水流在管道中流动的视频，但随后要求它预测在同一个管道中、从不同起点开始的另一段完全不同的水流视频。因为管道是相同的，但起点不同，计算机就会意识到，它笔记本里的“管道大小”笔记对于两者来说必须是相同的，而“起始点”则是变化的。这迫使计算机忽略起始阶段临时、杂乱的细节，转而专注于定义该系统的永久性、隐藏性的因素。

该论文在三种截然不同的物理问题上测试了这一想法：

Burgers 方程： 这是模拟流体中冲击波如何形成的模型。团队发现，计算机能够成功学习到，在所有视频中，只有一个隐藏因素（粘度）在发生变化。甚至当他们要求计算机预测如果流体具有“零粘度”（一种它从未见过的状态）时，计算机的“笔记本”也能平滑地延伸以处理这种情况，从而准确地预测冲击波。
圆柱绕流尾迹： 这模拟了风吹过圆柱体（如旗杆）的情景。这里的数据非常杂乱，且来自不规则形状。计算机学会了察觉到，尽管情况复杂，但流动的驱动力实际上仅由一个主要因素（粘度）决定。它能够准确预测圆柱后方旋转的“涡旋脱落”，并向后预测 50 个步长而不会偏离轨道，而其他方法在这一点上失败了。
FitzHugh–Nagumo 系统： 这模拟了电信号如何在神经中传递。在这里，系统是由两个隐藏因素驱动的。计算机成功识别出它需要一个二维的“笔记本”来捕捉这种变化。随后，它能够预测新的、未见过的因素组合下的神经信号，即使这些组合超出了其训练范围。

结果表明，这种方法是直接从杂乱、无标签数据中学习的一种强大方式。计算机不仅仅是在记忆；它在将不同的系统组织成一个平滑、逻辑清晰的地图，使相似的系统在地图上彼此靠近。这使得计算机能够进行“零样本（zero-shot）”预测——即通过在地图上采样一个点，就能预测一个完全新的系统的行为，而无需事先见过该特定系统的视频。虽然论文是通过计算机模拟展示这些结果，但它表明，这种方法对于理解那些底层参数未知或无法测量的复杂物理系统可能是一个游戏规则改变者，提供了一种直接从玩家的动作中学习“游戏规则”的方法。

技术摘要：异构轨迹中的神经算子发现

问题陈述

在物理科学中，轨迹数据经常采集自具有共同控制律但存在未观测到的系统特定差异（例如物理参数、几何形状、边界条件）的系统。在许多实验和遗留模拟数据集中，这些区分性因素往往是未记录或无法测量的。因此，数据由多个底层配置生成的异构轨迹组成，而驱动其变化的变量缺乏显式标签。

核心挑战在于学习能够同时捕捉系统族群的共享动力学以及特定系统实例之间差异的预测模型。现有方法面临以下局限性：

符号回归 (Symbolic Regression)： 受限于原语库，且对于高维时空动力学的计算成本极高。
参数化神经算子 (Parametric Neural Operators, PNO)： 需要显式的因子输入，而这在当前设定下是不可用的。
自回归神经算子 (Autoregressive Neural Operators, ANO)： 以过去状态窗口为条件，导致高维、无结构的表示，从而积累滚动误差并无法识别系统特定的变化。
潜变量调节模型 (Latent-Conditioned Models)： 通常在表达能力、可扩展性或可解释性方面做出权衡，或者依赖于昂贵的元学习适配。

方法论：神经算子发现 (Neural Operator Discovery, NOD)

作者将 神经算子发现 (NOD) 形式化为从无参数监督的异构轨迹中直接学习共享解算子和系统特定变化的问题。所提出的框架 NODnet 采用了一种由两个组件组成的分解实现方式：

轨迹编码器 ( $f_\phi$ )： 将系统实例的过去状态窗口（条件轨迹）映射为低维潜表示 $c$ 。
状态演化算子 ( $g_\theta$ )： 一个条件神经算子，根据初始状态和潜表示 $c$ 预测未来状态。

为了确保潜表示捕捉的是控制因子而非瞬态轨迹特征，NODnet 集成了三个关键机制：

1. 分解预测 (Factorized Prediction)

不同于直接从过去状态窗口预测未来状态（如 ANO），该模型对过程进行了分解：
$c = f_\phi(x'_{0:s}), \quad \hat{x}_{t+1} = g_\theta(x_t; c)$
编码器从条件轨迹中推断出潜变量 $c$ ，而解码器则预测来自同一系统实例的另一条轨迹的演化。

2. 轨迹解耦采样 (Trajectory-Decoupled Sampling, TDS)

为了防止潜表示编码初始条件特定的信息，编码器和解码器使用来自同一系统实例但具有不同初始条件的轨迹进行训练：

编码器从条件轨迹 $x'_{0:s}$ 中推断 $c$ 。
解码器预测来自同一系统的不同轨迹 $x_{t:t+1}$ 的演化。
这种约束促使编码器仅保留跨轨迹的不变量（即控制因子），并抑制瞬态特征。

3. 维度选择 (Dimension Selection)

潜维度 $d$ 被选择为足以解释不同系统实例之间差异的最小值。这通过两个阶段的过程实现：

阶段 1： 确定候选维度，即当增加 $d$ 时，除了随机种子变异外，不再产生显著训练损失改善的维度。
阶段 2： 选择最终维度 $d^*$ 为最小的候选值，在该值下， $(d+1)$ 模型不会产生额外的因子对齐结构（通过对每个实例的潜均值进行主成分分析 PCA 来评估）。

核心贡献

提出了 NOD 形式化： 一种新的问题形式化方法，用于在没有标记控制因子的情况下学习共享算子和系统特定变化。
分解潜变量调节： 一种新型架构，将轨迹编码与状态演化解耦，从而实现低维、可解释的潜空间发现。
轨迹解耦采样： 一种训练策略，通过将条件轨迹与预测轨迹配对使用不同的初始条件，强制提取系统级不变量。
数据驱动的维度度量： 一种系统化程序，用于自动确定系统变化的内在维度，在无需先验知识的情况下匹配独立控制因子的数量。

结果

该方法在三个偏微分方程 (PDE) 系列以及补充信息中的四个额外案例研究中得到了验证：

Burgers 方程（变化的粘度）：
- 结果： 模型正确识别了潜维度 $d^*=1$ ，对应于单一变化的因子（粘度 $\nu$ ）。
- 性能： 实现了准确的长时程预测，并成功外推至无粘极限 ( $\nu=0$ )——这是一个经典数值方法通常难以处理的奇异状态。学习到的潜空间表现出与粘度一致的平滑、单调的对应关系。
- 对比： 在长时程滚动中，其表现优于自回归基准 (ANO) 和单系统基准 (SNO)，后者表现出明显的漂移累积。
圆柱绕流尾迹（非结构化网格）：
- 结果： 尽管系统由粘度和入口速度共同参数化，模型仍识别出 $d^*=1$ ，因为在测试的雷诺数范围内，动力学由单一无量纲组 ($Re$) 控制。
- 性能： 在稀疏监督（仅用 16 条轨迹训练）下表现出鲁棒性，并能泛化至未见的粘度和入口速度。
- 物理一致性： 恢复了正确的阻力系数和斯特劳哈尔数 (Strouhal numbers)，而自回归基准则表现出频率漂移和非物理的阻力行为。
FitzHugh–Nagumo 反应扩散系统：
- 结果： 正确识别了 $d^*=2$ ，匹配两个独立的控制因子 ( $k, \beta$ )。
- 泛化： 展示了单次推理（从单条轨迹推断 $c$ ）和零样本推理（直接从学习到的潜空间采样 $c$ ）的能力。潜空间将系统实例组织成一个平滑、近似可逆的结构，与真实参数空间对齐，从而实现了超越训练范围的外推。
- 监督几何： 表明分层解码器（监督多个时间跨度）比单步自回归解码器能产生更具结构性的潜表示和更稳定的滚动。

意义与主张

本文建立了一个在缺乏显式因子监督的情况下进行算子学习的可解释范式。作者主张：

可辨识性： 学习到的潜空间始终与底层控制因子对齐，尽管是在没有参数标签的情况下学习的，但表现出与真实因子空间平滑且近似可逆（微分同胚）的结构。
泛化性： 该方法支持对先前未见的系统实例进行泛化，包括跨状态区域的零样本外推（例如无粘极限）以及稳定的长时程预测。
高效性： 通过将潜维度限制在最小必要大小，该模型避免了导致高维潜空间中误差累积的“结构冗余”。
互补性： 对于复杂的、难以恢复闭式方程的高维系统，NOD 提供了一种可扩展的替代方案（相对于符号回归）；对于具有未观测参数的系统，它提供了一种更具结构的替代方案（相对于自回归基础模型）。

作者也指出了局限性，包括目前主要关注低维欧几里得空间中连续变化的因子、使用模拟生成的数据，以及需要进一步研究离散系统类别、分叉动力学和实验噪声鲁棒性的问题。