🤖 machine learning

OperatorSHAP: Fast and Accurate Shapley Value Estimation for Neural Operators

本文介绍了 OperatorSHAP，这是一种与网格无关的方法，它通过在函数空间中建立理论框架，并证明了在不同分辨率和网格尺寸下具有一致且可迁移的解释性，从而实现了对神经算子快速且准确的 Shapley 值估计。

原作者： Joshua Stiller, Santo M. A. R. Thies, Felix Czaja, Eyke Hüllermeier

发布于 2026-06-29

📖 1 分钟阅读☕ 轻松阅读

原作者： Joshua Stiller, Santo M. A. R. Thies, Felix Czaja, Eyke Hüllermeier

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

核心问题：黑盒天气预报员

想象你拥有一个超级聪明的 AI，它能预测天气，或者计算一座桥梁能承受多少重量。这个 AI 就像是一个神经算子（Neural Operator）。与普通的只看固定像素网格（比如一张照片）的 AI 不同，这个 AI 非常特殊：无论数据是画在小巧的餐巾纸上，还是巨大的广告牌上，它都能理解其中的形状和模式。它不在乎网格的大小，它理解的是数据的“流（flow）”。

然而，这里有一个陷阱。当这个 AI 做出预测时（例如：“这座桥能承重 5 吨”），没有人知道它为什么这么说。究竟是哪部分输入起到了作用？是风速？桥的形状？还是温度？

在 AI 世界中，我们使用一种叫做**沙普利值（Shapley Values）**的工具来回答这个问题。你可以把沙普利值想象成一种公平分配“奖金”（预测结果）的方法，根据每个“玩家”（输入数据点）的贡献程度来进行分配。

问题在于：

速度太慢： 为每一个数据点计算公平的分配方案需要耗费大量时间。这就像为了看清哪些沙粒最重要，而去数每一粒沙子一样。
过于僵化： 现有的快速工具（如 FastSHAP）仅在沙子排列成完美、均匀的网格时才有效。但在现实世界中（物理、工程领域），数据往往来自杂乱、不规则的形状（例如传感器随机分布在圆柱体上的情况）。当网格不完美时，现有的工具就会失效。

解决方案：OperatorSHAP

作者引入了 OperatorSHAP。你可以把它想象成一个“通用翻译机”，无论数据网格多么杂乱或不规则，它都能瞬间解释 AI 的决策。

以下是他们实现这一目标的三个简单概念：

1. “无限玩家”游戏（Aumann–Shapley）

通常，沙普利值计算的是离散的玩家（玩家 1、玩家 2、玩家 3）。但在物理学中，空间是连续的。你拥有的不是“点 1”或“点 2”，而是一种平滑的空气流或热流。

作者意识到，与其数玩家，不如将输入视为一种连续的流体。他们使用了数学概念中的 Aumann–Shapley 值，这就像是测量一条河流中重要性的“密度”，而不是去数每一条鱼。这使得他们能够处理任何形状或网格大小，而不会感到混乱。

2. “训练有素的侦探”（摊销解释器）

通常，为了解释一次预测，你必须进行大规模的计算。这就像为了破获一起特定的案件而雇佣一名侦探，然后为了下一桩案件再雇佣一名新的侦探。

OperatorSHAP 训练了一个单一的“侦探 AI”（解释模型）。

训练： 他们通过向这个侦探展示数千个示例来教导它，并询问：“如果我们隐藏这部分输入，预测结果会发生多大的变化？”
神奇之处： 一旦训练完成，这个侦探就可以观察任何新的输入（即使是在奇怪、不规则的网格上），并在一秒钟内瞬间给出解释。它不需要每次都从头开始重新计算。

3. 网格无关性（“变形金刚”）

大多数解释器就像是一双只适合 10 号脚的鞋子。如果你的脚是 8 号或 12 号（不同的网格分辨率），这双鞋就不合脚。

OperatorSHAP 就像是一双神奇的鞋子，可以根据脚的大小进行伸缩。因为它是在 Aumann–Shapley 的“流体”概念基础上进行训练的，所以它可以接收 16 个数据点、1,024 个数据点，甚至是带有 5,000 个点的杂乱网格作为输入，并给出正确的解释，而无需重新训练。

研究发现（结果）

论文在各种物理问题上测试了该方法，例如金属中的热流、绕过圆柱体的气流以及水波。

速度： OperatorSHAP 比旧方法快了好几个数量级。其他方法可能需要数小时才能解释一次复杂的模拟，而 OperatorSHAP 可以在不到一秒的时间内完成。
准确性： 尽管速度极快，但它的准确性与那些缓慢的、完美的算法不相上下。
灵活性： 他们在一个网格尺寸上进行了训练，结果它在更大或更小的网格上都能完美运行，且无需额外工作。它甚至在传感器位置不规则、不断变化的“圆柱流”数据集上也表现出色。

总结

该论文声称，OperatorSHAP 是让复杂的物理 AI 模型变得可理解的一种新方式。它将深奥的数学理论（将空间视为连续的流）与实用的训练技巧（教导一个 AI 来解释所有网格）结合在一起。

这意味着，在数据往往很杂乱且决策至关重要的领域（如结构工程或天气预报），我们现在可以获得快速、可靠且与网格无关的解释，来了解 AI 做出特定预测的原因。

技术摘要：OperatorSHAP

问题陈述

神经算子旨在学习函数空间之间的映射，为涉及偏微分方程（PDE）的物理应用提供了至关重要的网格无关灵活性。这些模型可以接受在不规则网格或不同分辨率（例如 128 对比 1,024 个点）上采样的输入，而无需重新训练。然而，解释这些模型仍然是一个重大挑战。

在安全至上的物理领域（如结构载荷评估、天气预警），理解模型的预测至关重要。虽然 Shapley 值提供了一种满足理想公理的理论完备的归因方法，但其在推理过程中的计算成本极高。现有的摊销解释器（amortized explainers），如 FastSHAP，局限于同质输入（固定、规则的网格）。它们无法直接处理科学数据中常见的异构网格和不规则几何结构（例如来自传感器布置或自适应细化的非结构化网格）。此外，在异构网格上定义摊销 Shapley 值并非易事，因为归因取决于总玩家数量以及相邻玩家之间的空间距离。

方法论

作者引入了 OperatorSHAP，一种网格无关的归因方法和训练程序，将摊销 Shapley 估计扩展到了神经算子。该方法通过以下步骤弥合了离散 Shapley 值与连续函数空间之间的鸿沟：

1. 理论框架：Aumann–Shapley 值

论文通过将神经算子博弈与 Aumann–Shapley 值（Shapley 值在无限玩家/非原子测度空间博弈中的扩展）联系起来，建立了理论基础。

光滑算子博弈： 作者定义了一个“光滑算子博弈”，其中输入空间是 Sobolev 空间 $H^s$ （其中 $s > d/2$ ）。通过使用光滑掩码（凸函数/bump functions）来划分空间域，他们确保了算子的 Fréchet 可微性。
pNA 类： 他们证明了这些光滑算子博弈属于 pNA 类（通过非原子测度具有有限维表示的博弈）。这保证了唯一 Aumann–Shapley 值的存在性，且该值可以通过涉及 Fréchet 导数的对角公式进行计算。
与集成梯度（Integrated Gradients）的联系： 推导出的 Aumann–Shapley 值被证明等价于一个函数值的 集成梯度 (IG) 公式，其中归因是沿从基准到输入的路径的定向导数的积分。

2. 摊销网格无关解释器

为了使这些值在计算上可行，作者提出训练一个神经算子解释器（例如 FNO）来逼近 Aumann–Shapley 密度。

训练目标： 解释器 $\Phi_\theta$ 使用类似于 FastSHAP 的损失函数进行训练。解释器不是为每个样本单独计算 Shapley 值，而是针对给定输入 $u$ 输出一个连续的归因场 $\phi$ 。
离散化： 在训练期间，连续输出场通过特定的联盟区域（划分）进行积分，以产生离散值。损失函数最小化这些积分值与真实联盟值 $v(S)$ 之间的加权均方误差（MSE）。
网格无关性： 由于解释器是一个神经算子，它学习的是从函数空间到函数空间的映射。它可以在具有不同网格分辨率和不规则网格的样本上进行训练。一旦训练完成，同一个模型就可以为任何网格分辨率的输入生成归因，而无需重新训练，从而有效地学习底层的 Aumann–Shapley 密度。

核心贡献

理论基础： 论文为函数空间中的归因提供了严谨的数学框架，证明了光滑神经算子博弈具有定义良好的 Aumann–Shapley 值。它将这些值与对角公式及集成梯度联系起来。
摊销网格无关解释器： 作者提出了一个训练程序（算法 1），允许在不规则和异构网格上训练类似 FastSHAP 的解释器。这使得在任意分辨率下生成神经算子的类 Shapley 归因成为可能。
实验验证： 该方法在九个 PDE 数据集（包括 1D/2D 结构化网格和 MeshGraphNets 基准测试）上得到了验证。结果表明，OperatorSHAP 生成的归因在不同分辨率下与最先进的离散 Shapley 近似器（RegressionMSR）保持一致，同时提供了显著更快的推理速度。

实验结果

作者在各种 PDE（Burgers、Heat、Shallow Water 等）和 MeshGraphNets 数据集上将 OperatorSHAP 与 KernelSHAP、RegressionMSR 和 Integrated Gradients 进行了对比评估。

归因质量： 在分辨率从 $n=16$ 到 $n=1024$ 的范围内，OperatorSHAP 实现了与 RegressionMSR 相当或更好的 Pearson 相关系数和归一化 RMSE (NRMSE)。值得注意的是，经典方法需要在每个分辨率下重新运行，而 OperatorSHAP 使用单个训练好的模型即可应对所有分辨率。
推理速度： OperatorSHAP 的速度比基准方法高出几个数量级。它通过单次前向传播即可返回完整的归因，且每个样本的额外预算为零，而基准方法每个样本需要进行数千次骨干网络评估。
可迁移性： 训练好的解释器成功地在不同网格尺寸间进行了迁移而无需重新训练，即使在输入网格结构发生变化（例如从 64 个点变为 1024 个点）时，也能保持对参考归因的高保真度。
局限性： 作者指出，虽然摊销节省了推理时间，但初始训练成本很高。此外，对于玩家数量非常低的情况，具有低预算的经典方法可能会优于 OperatorSHAP，但随着分辨率的增加，这一差距会显著扩大。

重要性

论文声称 OperatorSHAP 使得 Shapley 值解释在物理科学中的实际应用成为可能，因为物理数据本质上是异构且网格无关的。通过将离散 Shapley 值与连续 Aumann–Shapley 值联系起来，作者为在函数空间上训练解释器提供了理论依据。这使得解释不规则网格和不同分辨率下的神经算子成为可能——这是以往摊销解释器无法实现的能力。这项工作表明，对于需要高吞吐量、高风险决策支持（如实时天气预警或结构监测）的工业应用，像 OperatorSHAP 这样的摊销解释器是实现动力系统中可扩展且可靠的 AI 可解释性的必要步骤。