🤖 machine learning

Real vs. Complex Spectral Bases for Neural Operators: The Role of Green's Function Alignment

本文介绍了哈特莱神经算子（Hartley Neural Operator, HNO），它是傅里叶神经算子（Fourier Neural Operator, FNO）的一种实值替代方案，并证明了用于学习偏微分方程解算子的最优谱基取决于算子的相位内容，其中实哈特莱基在自伴椭圆问题中表现出色，而复傅里叶基则在具有相位特征的时间相关动力学系统中更具优势。

原作者： Jason Sulskis, Sathya Ravi

发布于 2026-06-24

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Jason Sulskis, Sathya Ravi

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在尝试教一台计算机解决物理问题，比如预测热量如何在金属板上传导，或者波浪如何拍打海岸。这些问题通过被称为偏微分方程（PDEs）的复杂数学方程来描述。

长期以来，教计算机处理这些问题的最佳方法是一个叫做**傅里叶神经算子（Fourier Neural Operator, FNO）**的工具。你可以把 FNO 想象成一个翻译官，它使用复数（既有实部又有虚部的数字）将物理问题转化为一种“频率语言”。这虽然效果很好，但有点像背着一个装满了重复物品的沉重背包。因为我们关心的物理问题通常涉及现实世界的数字（而非虚数），所以 FNO 为了保持数学上的平衡，不得不存储大量的冗余信息。

本文的作者提出了一个问题：我们能否构建一个不需要背负这些额外重量的翻译官？

新工具：哈特莱神经算子（Hartley Neural Operator, HNO）

他们创造了一个新工具，叫做哈特莱神经算室（HNO）。

类比： 如果说 FNO 是一个说着两种方言（实数和虚数）并为了保险起见总是把每样东西都写两遍的翻译官，那么 HNO 就是一个只说一种方言（实数）且只写一遍的翻译官。
结果： HNO 是 FNO 的“精确镜像”，但它只使用实数。在“脑细胞”（参数）的数量上，它与 Folrier 同样强大，但它不会在虚数上浪费任何空间。

重大发现：这取决于问题本身

最令人惊讶的发现并不是其中一个工具单纯地比另一个“更好”。相反，作者发现最好的工具完全取决于你正在解决什么样的物理问题。

他们基于一个被称为**“相位”（Phase）**的概念（你可以将其理解为波的“节奏”或“方向”）发现了一条清晰的规则。

1. “静水”类问题（椭圆型方程）

例子： 热量扩散（扩散方程）或寻找拉伸鼓面形状（泊松/双调方程）。
物理特性： 这些问题是“对称的”。无论你从正面还是背面观察，它们看起来都是一样的。它们没有“方向”，也没有“节拍”。
获胜者： HNO（仅限实数的工具）。
原因： 因为这些问题是完美对称且没有“虚数”节奏的，所以 HNO 能够完美契合。它可以用简单的实数数学精确地解决这些问题。在这种情况下，使用 FNO 就像是用螺丝刀去解开复杂的谜题；它确实能做，但它必须浪费能量去假装那些虚数部分并不存在。

2. “移动波浪”类问题（随时间变化的方程）

例子： 传播的声音、吹过的风（平流）或旋转的水流（纳维-斯托克斯方程）。
物理特性： 这些问题带有“节拍”。它们在移动、振荡，并将能量从一个地方传递到另一个地方。这种运动产生了一个“相位”（即时间偏移），需要用复数来准确描述。
获胜者： FNO（复数工具）。
原因： 你无法仅使用实数来描述移动的波或旋转的涡流而不丢失其“方向”。HNO 在结构上无法表示这种“相位”。它就像试图用一条直线来描述一个旋转的陀螺；HNO 根本做不到。而拥有复数的 FNO 则能完美捕捉这种旋转和运动。

“热传导方程”的边界线

这里有一个特殊的案例：热传导方程（热量如何扩散）。

这是一个“随时间变化”的问题，但它没有“波”或“振荡”。它只是在逐渐平滑。
因为它缺乏那种“相位”或“节拍”，它恰好位于边界线上。有时 HNO 胜出，有时 FNO 胜出，但它们通常表现得非常接近。这证明了理论：关键不在于问题是否“基于时间”，而在于它是否具有相位。

核心结论

本文的结论是，并没有一个解决物理问题的“通用冠军”。相反，规则是：

让工具匹配对称性。
如果问题是对称且静止的（如热量扩散或静态形状），请使用**实数（哈特莱）**工具。它更轻量，也更精确。
如果问题涉及运动、波浪或旋转（如声音、风或水流），请使用**复数（傅里叶）**工具。它是唯一能处理物理学中“节奏”的工具。

作者在许多不同的场景（不同的初始条件、不同的边界条件）中测试了这一点，规则始终成立。他们不仅发现了一个新工具，还为何时使用哪种工具编写了一本“说明书”。

技术摘要：神经算子中实数与复数谱基底的对比

问题陈述

傅里叶神经算子（FNO）已成为学习偏微分方程（PDE）解算子的领先架构，它通过在复数傅里叶域中对全局卷积进行参数化来实现。然而，对于绝大多数由实值 PDE 解驱动的物理系统，标准的快速傅里叶变换（FFT）引入了表示冗余。具体而言，实信号的复数谱具有共轭对称性，这意味着一半的谱是由另一半决定的。尽管如此，标准的 FNO 实现仍学习复数权重矩阵，这必须隐式地发现并强制执行该约束，从而可能增加了有效的搜索空间和计算开 overhead，却并未增加表示能力。

本文研究了复数傅里叶基底是否是所有 PDE 类别的最优谱表示，或者纯实数基底是否会对特定的算子对称性更为优越。

研究方法

Hartley 神经算子 (HNO)

作者引入了 Hartley 神经算子（HNO），它是 FNO 的精确实值镜像。

变换： HNO 使用离散 Hartley 变换（DHT）取代 FFT。DHT 完全在实数域内运行，使用核函数 $cas(\theta) = \cos(\theta) + \sin(\theta)$ 。
架构： 与 FFT 不同，DHT 利用共轭对称性来仅存储正频率的一半谱空间，而 HNO 则不具备这种对称性；每个系数都是独立的。因此，HNO 保留了全谱（例如在 2D 中保留所有四个象限），但为保留的每个谱模态学习一个单一的实数乘子。
等参设计： 为了确保公平比较，HNO 在相同宽度下被构建为与 FNO 等参。FNO 在减半的谱空间上为每个模态学习一个复数权重（两个实参数），而 HNO 则在全谱上为每个模态学习一个实数权重。两者的总实训练参数量保持一致。
实现： 作者通过利用关系式 $H\{f\}(k) = \text{Re}\{F\{f\}(k)\} - \text{Im}\{F\{f\}(k)\}$ 使用 PyTorch 的 torch.fft 来实现 DHT。这利用了现有的 GPU 加速 FFT 内核，同时避免了在初始实验阶段开发自定义内核。

实验方案

本研究在五类 PDE 上进行了系统性评估：

椭圆型 (Elliptic)： Poisson 方程、双调和方程 (Biharmonic)。
抛物型 (Parabolic)： 热传导方程。
双曲型 (Hyperbolic)： 波方程。
平流型 (Advective)： 平流扩散方程。
非线性 (Nonlinear)： Burgers 方程、2D Navier-Stokes 方程（涡度形式）。

控制变量：

初始条件： 测试了三个族群：高斯随机场 (GRF)、特征函数展开以及高斯凸包叠加。
边界条件： 评估了周期性边界和齐次 Dirichlet 边界。
训练： 两类算子均使用相同的优化器（Adam）、学习率调度、权重衰减和梯度裁剪以及网络宽度进行训练。对于随时间变化的 PDE，真值通过有限差分法生成，以避免对基于傅里叶表示的隐式偏好。

核心贡献

一个干净的 FNO 实值镜像： 本文将 HNO 表述为 FNO 的严格实数对应物，消除了复数算术和共轭对称性约束，同时保持了相同的参数计数。这使得研究可以隔离谱基底作为唯一的变量进行比较。
基底-算子对齐原则： 作者开发了一个理论框架，将最优谱基底与解算子的格林函数（Green's function）的对称性联系起来。
- 自伴随椭圆算子： 这些算子具有实数且对称的格林函数。Hartley 卷积定理对于对称核简化为逐元素乘法，这使得 HNO 能够通过每个模态的单个实数乘子精确表示这些算子。相反，FNO 则必须学习将其虚部归零。
- 随时间变化的算子： 这些算子通常带有相位（波方程中的振荡、平流中的输运）。实数对角乘数在结构上无法表示具有复数符号（相位）的算子。因此，理论上 FNO 在这些情况下更具优势。
算子-相位排序： 本文建立了一个性能差距并非二元的、而是单调的规律，该差距随算子传播子的“相位内容”而缩放。
全面基准测试： 该研究提供了首个针对 Burgers 方程和 2D Navier-Stokes 方程的基于 Hartley 的算子的基准测试，并进行了成本分析，表明目前的性能开销是由于模拟的 DHT 后端而非变换本身造成的。

结果

实证结果证实了理论预测，显示出基于算子对称性的清晰划分：

椭圆型 PDE（HNO 占优）： 在 Poisson 和双调和方程上，HNO 的相对 $L_2$ 误差低于 FNO。这种优势在双调和方程（测试的最强自伴随算子）上最为显著。周期性边界（保留了精确 Hartley 对角化的性质）比 Dirichlet 边界表现出更大的增益。
随时间变化的 PDE（FNO 占优）： FNO 在所有随时间变化的方程上均优于 HNO。其领先幅度与算子的相位内容相关：
- 热传导方程： 作为一个无相位传播子（ $e^{-\nu|k|^2 t}$ ），它处于 HNO 在平滑输入下偶尔领先的边缘地带，但 FNO 通常具有竞争力。
- 波方程： 虽然存在振荡但无阻尼，表现出中等的 FNO 优势。
- 平流主导型（平流、Burgers、Navier-Stokes）： 由于这些算子具有强大的相位携带符号（例如 $e^{-ic \cdot k t}$ ），它们表现出最大的 FNO 优势。
初始条件： 初始条件族的选取会调节误差差距的量级，但不会改变获胜者的正负号。基底的偏好是由算子的对称性而非数据分布决定的。

意义与主张

本文反对寻找一种“通用”谱基底的尝试。相反，它提出了一个预测规则：将谱基底与解算子的对称性相匹配。

实数基底 (HNO)： 最适用于自伴随、无相位的算子（椭圆求解、扩散）。实数对角乘数精确地对角化了对称的格林函数，从而简化了优化景观，并消除了学习约束（如 $\text{Im}\{W\} = 0$ ）的需要。
复数基底 (FNO)： 对于携带相位（振荡、输运）的算子是必要的。复数算术在结构上是表示传播子符号的虚部所必需的。

作者得出结论，谱基底的选择是一个受问题物理特性驱动的主动设计选择。虽然 HNO 为椭圆问题提供了一个参数高效且有理论依据的替代方案，但 FNO 在处理随时间变化的、平流主导的系统时仍然更具优越性。这项工作表明，未来的神经算子设计应根据检测到的目标算子的对称性来调整其谱表示。