📊 statistics

Interpretable epistemic uncertainty decomposition in sequential generative models via polynomial chaos surrogates

本文提出了一种框架，该框架利用多项式混沌代理模型对序列生成模型中的认知不确定性进行解析分解与解释，从而能够识别驱动生成决策的具体奖励成分，其计算效率与形式化验证能力均显著优于现有深度学习方法。

原作者： Ramón Nartallo-Kaluarachchi, Shashanka Ubaru, Małgorzata J Zimoń, Dongsung Huh, Robert Manson-Sawko, Lior Horesh, Yoshua Bengio

发布于 2026-05-19

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Ramón Nartallo-Kaluarachchi, Shashanka Ubaru, Małgorzata J Zimoń, Dongsung Huh, Robert Manson-Sawko, Lior Horesh, Yoshua Bengio

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你是一位试图发明新菜谱的厨师。你有一位“试吃员”（一个 AI），它会告诉你某道菜可能有多美味。但这里有个问题：你的试吃员有点不稳定。有时它因为盐而喜欢一道菜；有时又因为胡椒而喜欢它。你不知道试吃员给出特定分数的原因，也不知道它推荐的菜谱是否真的可行，还是仅仅因为你恰好给它看了某些食材而碰巧猜对了。

本文介绍了一种新工具，旨在为 AI 科学家解决这一确切问题。它帮助他们弄清楚 AI 为何做出特定选择，以及在 AI 所学习的“规则”并不完美时，他们应在多大程度上信任这些选择。

以下是基于论文中类比对该工具工作原理的简明解析：

1. 问题：“黑盒”集成

通常，为了处理不确定性，科学家会训练许多个相同 AI 的变体（就像请 50 位不同的厨师制作同一道菜）。如果这 50 位厨师都同意该菜谱，你会感到放心；如果他们提出的建议各不相同，你就知道情况不妙。

但这里存在一个缺陷：你知道他们意见不一，却不知道原因。

意见分歧是因为盐的不确定性吗？
是因为火候的不确定性吗？
还是仅仅是随机噪声？

标准方法可以告诉你“菜谱不稳定”，但它们无法指出具体是哪个食材导致了这种不稳定。

2. 解决方案：“水晶棱镜”（多项式混沌代理模型）

作者构建了一种特殊的“棱镜”（称为多项式混沌展开，即 PCE），置于 AI 与数据之间。

将 AI 的决策过程想象成一束代表“总不确定性”的白光进入暗室。

旧方法： 你只能看到光是亮还是暗。你知道存在不确定性，但无法看清内部的颜色。
新方法（棱镜）： 棱镜将这束白光分解成彩虹。突然间，你可以确切地看到哪种“颜色”（即数据的哪个具体部分）造成了最大的麻烦。

这个棱镜不仅仅是猜测；它利用数学分析计算出输入的每个部分（如盐、胡椒或火候）对 AI 最终决策的具体贡献程度。

3. 论文中的现实世界示例

作者在三个截然不同的“厨房”中测试了这个棱镜，以验证其有效性：

A. 化学厨房（制造药物）

任务： AI 试图找出制造新药的最佳化学混合物。
意外发现： 大家都认为分子的“基础结构”是最重要且最稳定的部分。
棱镜的发现： 棱镜揭示了相反的情况！“连接子”（连接分子各部分的部件）实际上是最脆弱的部分。如果关于连接子的数据稍有偏差，整个菜谱就会改变。而基础结构实际上相当稳健。
启示： 科学家们现在知道，为了提高 AI 的可靠性，他们需要获取更多关于连接子而非基础结构的数据。

B. 生物厨房（绘制蛋白质信号图）

任务： AI 试图绘制细胞内蛋白质如何相互交流的地图。
意外发现： 地图的某些部分很清晰，而其他部分则是一团乱麻。
棱镜的发现： 它将地图分为两个截然不同的区域。一个区域（"MAPK"通路）对一种类型的数据误差敏感，而另一个区域（"PKA/PKC"枢纽）则对另一种类型的数据误差敏感。
启示： 科学家们不再需要猜测在哪里进行更多实验，现在他们可以查看棱镜的彩虹，确切地看到地图的哪一部分需要更多数据才能变得清晰。

C. 语言厨房（教导 AI 进行推理）

任务： AI 正在学习逐步解决数学问题。
意外发现： AI 有时会过早停止，有时会持续过久。
棱镜的发现： 它表明推理的早期步骤是稳定的，但后期步骤（AI 必须在看起来非常相似的答案之间做出选择时）对不确定性高度敏感。
启示： AI 的“置信度”会在特定时刻下降，而棱镜能确切地告诉我们何时以及为何会发生这种情况。

4. 为何这意义重大

速度： 棱镜的速度极快。它可以在几分之一秒内模拟 10,000 种不同的场景。如果通过重新训练 AI 10,000 次来完成同样的事，将需要数天时间。而棱镜只需几毫秒。
清晰度： 它不仅仅说“我不确定”。它说：“我不确定是因为这个特定食材。”
信任： 它帮助科学家判断哪些 AI 建议是可靠的，哪些仅仅是基于不完整数据的幸运猜测。

总结

这篇论文为科学家提供了一副用于 AI 不确定性的放大镜。与其仅仅看到“可能是这个，也可能是那个”的模糊画面，新工具将模糊之处分解开来，确切地展示出是哪一条信息导致了困惑。这使得研究人员能够修复数据中的具体弱点，而不是盲目猜测。

技术摘要：基于多项式混沌代理模型的序列生成模型中可解释的认知不确定性分解

问题陈述

序列生成模型（如生成流网络 GFlowNets）在人工智能驱动的科学发现、组合优化和生物设计中日益处于核心地位。这些模型通常在认知不确定性条件下运行，特别是当指导其生成的奖励函数本身存在不确定性时（例如，基于有限实验数据训练得到的神经网络代理模型）。尽管现有方法（如深度集成和贝叶斯神经网络）能够量化预测不确定性的幅度，但它们无法提供该不确定性的可解释分解。因此，从业者无法确定输入奖励不确定性的哪些具体成分驱动了哪些生成决策，也无法区分稳健的化学信号与源于训练集偏差的统计伪影。

方法论

作者提出了一种代理建模框架，利用**多项式混沌展开（PCE）**将认知不确定性传播至 GFlowNets 中。该方法分为三个阶段：

集成训练与参数化：在变化的奖励条件下训练一个适度的 GFlowNets 集成。奖励函数空间通过主成分分析（PCA）或解析展开（如 Karhunen–Loève 展开）参数化为低维潜在空间 $\mu \in \mathbb{R}^d$ 。PCA 更受青睐，因为其正交分量近似于独立的高斯输入，这是进行有效解析 Sobol 分解的前提条件。
PCE 代理拟合：对于轨迹步骤 $t$ 处的每个动作 $k$ ，拟合一个 PCE 以将低维奖励参数 $\mu$ 映射到经对数比变换的动作概率（相对于参考动作使用加性对数比变换）。系数通过正则化岭回归进行估计。
解析分解：拟合的 PCE 系数使得Sobol 灵敏度指数的解析计算成为可能。与需要昂贵积分的蒙特卡洛方法不同，这些指数直接由多项式系数推导得出，提供了关于奖励不确定性的每个成分对策略分布方差贡献程度的精确基于方差的分解。

该框架包含针对代理模型及其 Sobol 指数的形式化收敛保证。五个关键理论性质中的四个（PCE 收敛性、Sobol 指数收敛性、单纯形保持性以及不确定性传播界）已在Lean 4证明助手中得到形式化验证。

主要贡献

通用框架：一种计算高效的方法，利用拟合于小型集成上的 PCE 代理模型，在条件序列生成模型中传播并分解认知不确定性。
形式化验证：为代理模型及其灵敏度指数提供了理论收敛保证，其中五个定理中的四个已在 Lean 4 中完成形式化验证。
可解释的灵敏度分解：这是首个用于分解生成模型中策略不确定性的解析方法，能够精确揭示哪些奖励成分驱动了特定的生成决策。标准深度集成、贝叶斯神经网络或蒙特卡洛 Dropout 均不具备此能力。
实证验证：在七个复杂度递增的任务中进行了演示，包括三个真实世界应用和四个合成验证任务。

结果与应用

该框架在三个主要的真实世界领域进行了评估：

化学反应优化（Buchwald–Hartwig）：在 Doyle–Dreher 数据集上，该框架分析了催化剂、碱、芳基卤化物和添加剂的选择。结果显示，催化剂选择具有稳健性（低 Sobol 指数， $D \approx 71$ ），表明存在真实的化学信号；而添加剂选择则较为脆弱（高 Sobol 指数， $D \approx 179$ ，高出 2.5 倍），表明其易受训练集偏差影响。这直接回应了关于产率预测器中统计伪影的"Chuang–Keiser 争论”。
贝叶斯因果发现（Sachs 蛋白质信号传导）：应用于 Sachs 网络的分析表明，尽管由于数据有限（200 个观测值）所有边都表现出高方差，但不确定性分解为不同的机制。MAPK 通路边由协方差变化的一个主成分驱动，而PKA/PKC 枢纽边则由另一个主成分驱动。这为扰动实验提供了有针对性的路线图。
基于片段的分子设计：在类药性设计任务中，该框架推翻了“骨架稳健而修饰基团脆弱”的传统假设。结果显示，连接子位置是最脆弱的成分（ $D \approx 28.2$ ），而骨架和修饰基团位置则更为稳健。这表明实验工作应优先关注连接子的多样性。

在合成任务（网格世界、符号回归和 LLM 推理代理）中，PCE 代理模型在主导步骤上实现了 0.97 至 1.00 之间的95% 校准覆盖率。在计算方面，该代理模型在毫秒级内评估了 10,000 个策略样本，相较于对集成进行彻底重新训练，提供了 $10^3$ 至 $10^4$ 倍的加速。

意义与主张

本文主张该框架提供了一种独特的能力：可解释的不确定性分解。虽然其他方法可以说明预测是否不确定，但该方法通过将方差归因于特定的奖励成分来解释为何不确定。这使得科学家能够：

区分训练数据中的稳健信号与统计伪影。
识别设计空间中（例如连接子与骨架）哪些部分需要额外的实验验证。
通过针对认知不确定性的具体来源，高效地分配实验资源。

作者强调，该方法与 GFlowNets 的架构和训练目标无关。他们指出了局限性，例如 PCA 的有效性依赖于奖励景观中的低秩结构，以及针对不同轨迹需要重新拟合代理模型（尽管无需重新训练集成）。该工作将自己定位为计算工程不确定性量化与现代生成式人工智能之间的桥梁，为理解不确定性下的序列决策“黑盒”提供了一条可扩展的路径。