技术摘要：通过 learned 函数扩展在神经算子上施加边界条件

1. 问题陈述

神经算子已成为求解偏微分方程（PDE）的强大数据驱动代理，能够学习从问题条件到解的映射。然而，现有框架通常难以应对通用且高度可变的边界条件（BCs）。尽管许多应用将边界条件视为系统行为的主要驱动因素，但标准的算子学习（OL）架构通常仅限于训练和推理样本中具有恒定或弱变化边界条件的问题。

这一挑战在椭圆型偏微分方程（如泊松方程、线性弹性、超弹性）中尤为严峻。与抛物型或双曲型偏微分方程中边界影响逐渐传播或以有限速度传播不同，椭圆型方程的解全局依赖于边界数据。因此，即使边界条件发生微小变化，也会导致解的全局变化。现有的处理边界条件的方法通常局限于特定几何形状（如笛卡尔网格），无法支持复杂的混合类型边界条件，或者在样本间边界条件变化显著时表现不佳。

2. 方法论

作者提出了一种通用框架，通过函数扩展使神经算子能够适应复杂、非齐次的边界条件。其核心思想是将边界数据映射到定义在整个空间域上的潜在“伪扩展”，从而使标准的域到域神经算子架构能够自然地消耗边界信息。

2.1 合并与归一化

为了在不引入复杂分支的情况下处理混合边界条件类型（狄利克雷、诺伊曼、罗宾）及分量级变化，作者提出了一种统一公式：
$$B(q, u) = \alpha \odot B_D(u) + \beta \odot B_N(u) - \gamma$$
其中 $\alpha, \beta, \gamma$ 是定义在整个边界 $\partial\Omega$ 上的边界系数函数。

• 归一化：鉴于原始边界条件通常具有不同的物理单位和量级（例如位移与力），作者引入了一种基于原理的平移与缩放变换。这确保了输入函数的平衡性，有利于稳定训练，同时保持了物理一致性。

2.2 扩展器模块

该框架引入了一个扩展器模块 $\Psi_\theta$，将边界函数 $q$ 映射为域函数 $\psi$（即伪扩展）。整体神经算子构建如下：
$$G_\theta(a, q) = \Phi_\theta \left( \begin{bmatrix} a \\ \Psi_\theta(q) \end{bmatrix} \right)$$
其中 $a$ 代表域系数，$\Phi_\theta$ 是核心的域到域算子。研究探讨了三种 $\Psi$ 策略：

1. 零扩展（0X）：在边界外部用零填充边界值。这种方法计算成本为零，但在复杂问题中精度较低。
2. 调和扩展（HX）：通过求解拉普拉斯方程找到最平滑的扩展。虽然具有物理动机，但这需要在推理时求解辅助偏微分方程（例如通过有限元法），从而造成计算瓶颈。
3. 学习伪扩展（LX）：一个可学习的神经模块，与核心算子一起端到端训练。
   • 架构：提出的 LX 使用基于注意力的机制。它通过一系列**交叉注意力（CA）**层后接前馈（FF）模块，处理下采样的边界特征和域特征。
   • 集成：扩展器被集成到标准的编码 - 处理 - 解码范式中。边界特征通过 CA 层注入域特征，使模型能够学习如何高效地将边界信息传播到整个域。

3. 主要贡献

• 通用框架：一个灵活的算子学习框架，扩展了现有架构以显式地纳入复杂、可变的边界条件，而无需在域边缘进行专门的边界处理。
• 统一的边界条件表示：一种将狄利克雷、诺伊曼和罗宾边界条件统一为物理一致且归一化的表示的程序，能够处理分量级变化和混合类型段。
• 基准数据集：构建了涵盖泊松方程、线性弹性和超弹性问题的18 个具有挑战性的数据集。这些数据集具有以下特征：
  • 高度可变、混合类型及分量级的边界条件。
  • 多达八个边界段，具有随机的大小、位置和边界条件类型。
  • 多样化的几何形状，包括带有孔洞的非凸形状。
• 扩展策略：提出并评估了零扩展、调和扩展和学习扩展，证明学习伪扩展在精度和计算效率之间提供了最佳权衡。

4. 结果

该框架使用两种最先进的神经算子骨干网络进行了评估：RIGNO（基于图）和GAOT（基于 Transformer）。

• 精度：所提出的方法达到了最先进水平，在所有 18 个数据集上显著优于基线方法（包括 BENO 和标准零填充）。
  • 对于复杂的弹性和超弹性问题，在使用 RIGNO 时，**学习扩展（LX）**将平均测试误差从使用零扩展时的约 30% 降低至约 11%。
  • 对于泊松问题，调和扩展表现良好，但学习扩展在计算开销更低的情况下提供了相当的精度。
• 效率：学习扩展器允许在不求解辅助偏微分方程（调和扩展所需）的推理成本的情况下，精确地施加边界条件。
• 扩展性：
  • 数据扩展：随着训练数据集的增大，模型精度持续提高，随着数据增加，泛化差距逐渐缩小。
  • 模型扩展：增加扩展器模块的规模可提升性能，特别是在基本扩展失效的复杂问题中。
• 鲁棒性与泛化：
  • 噪声：该框架对输入噪声具有鲁棒性，即使在边界函数中存在 10% 的高斯噪声，仍能保持低误差率。
  • 迁移学习：在一种几何形状或边界条件类型上预训练扩展器，可显著提高在未见过的几何形状和边界条件类型上的性能（例如，在正方形几何上预训练相对于随机初始化，将圆形几何上的误差降低了约 85%）。
  • 物理迁移：在线性弹性上预训练，在微调极少的情况下，将超弹性问题的误差从 67% 降低至 23%。

5. 意义与主张

本文主张，学习从边界到域的扩展是在现有神经算子框架中施加复杂边界条件的有效且实用的策略。

• 实用性：该方法无需针对不同数据集进行超参数调整，并能无缝集成到标准架构（编码 - 处理 - 解码）中。
• 通用性：该方法不依赖于神经算子骨干网络的选择（基于图或基于 Transformer），适用于任意域和混合边界条件类型。
• 科学影响：通过实现对具有高度可变边界条件的偏微分方程的精确且鲁棒的建模，这项工作促进了科学机器学习在更广泛工程和物理问题中的应用，特别是那些边界条件为主要变异来源的问题（例如设计优化、反问题和不确定性量化）。

作者指出了局限性，包括目前仅限于二维问题（由于缺乏具有类似边界条件可变性的三维基准数据集），以及注意力机制效率可能进一步优化的空间。然而，扩展器基于坐标的特性表明其可直接应用于三维设置。