🔬 materials science

Bayesian Neural Networks versus deep ensembles for uncertainty quantification in machine learning interatomic potentials

本文在 aenet-PyTorch 框架内引入了一种贝叶斯神经网络实现，并系统地比较了其在 TiO $_2$ 结构上的不确定性量化能力与深度集成（deep ensembles）的差异，旨在为开发可靠的机器学习原子间势函数提供指导。

原作者： Riccardo Farris, Emanuele Telari, Nongnuch Artrith, Konstantin Neyman, Albert Bruix

发布于 2026-06-23✓ Author reviewed ⓘ

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Riccardo Farris, Emanuele Telari, Nongnuch Artrith, Konstantin Neyman, Albert Bruix

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你是一位大厨，正试图根据现有的食材精确预测汤里应该加多少盐。你有一份食谱（机器学习模型），当你拥有一本庞大的往期食谱库供其学习时，它表现得非常出色。但当你尝试烹饪一道全新的、奇特的菜肴，而这道菜并不在你的食谱库中时，会发生什么？一个标准的食谱可能会自信地告诉你：“加2茶匙！”即便它是完全错误的，因为它并不知道自己在瞎猜。

在材料科学领域，科学家使用被称为“机器学习原子间势”（MLIPs）的“食谱”来预测原子的行为。问题在于，这些食谱往往缺乏一个“信心计”。它们不知道自己何时处于不确定状态。这篇论文比较了构建这种信心计的两种不同方法：深度集成（Deep Ensembles）和贝叶斯神经网络（Bayesian Neural Networks）。

以下是对其实验和发现的简单拆解：

两位竞争者

深度集成（“厨师委员会”）：
想象一下，你不仅雇佣了一位大厨，而是雇佣了五位不同的厨师。每一位都从同一本食谱中学习，但他们的初始思维方式略有不同（随机初始化）。当你询问他们预测盐量时，他们都会给出一个答案。
- 运作方式： 如果五位厨师意见一致，你就充满信心；如果他们在争论（一位说1茶匙，另一位说5茶匙），你就知道预测是不确定的。
- 论文观点： 这种方法简单、实用，且一旦训练完成，使用起来非常快。
贝叶斯神经网络（“数学先知”）：
想象一位不仅学习食谱，还学习概率分布的食谱。这位大厨掌握的不是“盐 = 2茶匙”，而是知道“盐可能在1到3茶匙之间，但我不是100%确定”。
- 运作方式： 这是基于复杂的数学（贝叶斯概率），将食谱的规则视为随机变量。它试图从一开始就计算出“真实”的不确定性。
- 论文观点： 这在理论上非常优美且具有深厚的数学根基，但在计算上非常沉重，且难以训练。

实验：“二氧化钛”与“有机物”测试厨房

研究人员在两个不同的“厨房”（数据集）中测试了这两种方法：

二氧化钛（TiO2）厨房： 一个包含特定金属氧化物7,815种结构的数据集。他们使用了一本完整的食谱（高数据量）和一本微小的、不完整的食谱（低数据量）进行了测试。
QM7 厨房： 一个包含7,165个小型有机分子的数据集。这是一个化学成分更加多样化的“厨房”，拥有许多不同类型的食材。

结果：谁赢了？

1. 在二氧化钛厨房中（大多数场景）：

获胜者： **“厨师委员会”（深度集成）**几乎在所有情况下都赢得了胜利。
原因： 它们在预测能量和力方面更准确。更重要的是，它们的“信心计”表现更好。当它们说自己不确定时，通常确实是不确定；当它们表现出信心时，通常也是正确的。
贝叶斯先知： 表现尚可，但经常出现过度自信或信心不足的情况。此外，它的训练时间更长，进行单次预测也更慢，因为每次猜测都需要运行复杂的数学模拟。
“低数据量”转折： 当食谱非常微小时（低数据量），贝叶斯先知在预测力（原子如何推力和拉力）方面实际上变得稍微好了一些，这可能是因为其数学“先验”起到了有益的防护网作用。但对于整体准确性和信心而言，委员会仍然保持着领先地位。

2. 在有机物厨房（QM7）中：

惊喜： 当食材变得非常多样化（不同类型的分子）时，贝esian 先知在预测能量值方面实际上比委员会做得稍好一些。
代价： 尽管先知的数值预测略微准确，但委员会在告诉你它有多确定方面仍然更胜一筹。委员会的信心计依然是最可靠的工具。

“信心的成本”

训练： 训练委员会需要更长时间，因为你需要训练五位厨师而不是一位。然而，贝叶斯先知同样难以训练且难以捉摸；它通常需要多次运行才能获得理想结果，因为它对初始设置非常敏感。
使用模型（推理）： 这是两者产生巨大差异的地方。
- 委员会： 要做出预测，你只需询问五位厨师一次即可。它很快。
- 先知： 要做出预测，先知必须为每一个原子运行20次复杂的模拟来计算其不确定性。它在使用速度上大约比委员会慢20倍。

核心结论

该论文为科学家提供了一个实用的配方：

如果你需要可靠性和速度： 选择深度集成（委员会）。它是了解模型何时在瞎猜的最稳健工具，尤其是在处理特定类型的材料时。它更容易构建，且使用起来更快。
如果你只有极少的数据或面对极其多样化的化学空间： 贝叶斯神经网络可能会在准确性上提供微弱的优势，因为其数学“安全网”有助于它更好地泛化。然而，你必须为此付出更慢的预测时间和更困难的训练过程。

简而言之，虽然“数学先知”听起来更高级，但在本研究中，“厨师委员会”被证明是大多数情况下更实用、更可靠且更高效的工具。

技术摘要：机器学习原子间势能中用于不确定性量化的贝叶斯神经网络与深度集成对比

问题陈述
机器学习原子间势能（MLIPs）已成为原子尺度建模的重要工具，为密度泛函理论（DFT）等从头算方法提供了一种计算高效的替代方案。然而，标准的深度学习架构是确定性的，缺乏内在的不确定性量化机制。这一局限性在材料科学领域至关重要，因为模型经常被应用于分布外（out-of-distribution）数据。由于缺乏可靠的不确定性估计，模拟可能会产生误导性的结果，且用于模型精炼的主动学习策略也会缺乏指导。虽然深度集成（DE）和贝叶斯神经网络（BNNs）是解决这一问题的既定策略，但在 MLIPs 的特定背景下——特别是涉及不同数据规模下的能量与力联合预测时——其性能对比仍需系统性评估。

方法论
作者在 ænet-PyTorch 框架内实现并比较了两种主要的确定性量化方法：

深度集成 (DE)： 遵循 Lakshminarayanan 等人的公式，使用不同的随机种子独立训练了五个神经网络。不确定性通过集成预测的样本标准差进行量化。
变分贝叶斯神经网络 (VBNN)： 作者利用 Pyro 概率编程框架，通过变分推理（VI）实现了 BNNs。测试了两种特定的变分引导（guides）：
- 局部重参数化技巧 (LRT)： 利用均值场近似和完全分解的高斯后验，通过带有 LRT 的 Bayes by Backprop 算法进行优化，以减少梯度方差。
- 径向引导 (RAD)： 一种非均值场方法，通过引入径向变换来捕捉权重之间的全局相关性，通过标准的证据下界（ELBO）蒙特卡洛采样进行优化。

实验设置
本研究在两个不同的数据集上评估了这些方法：

TiO2 数据集： 包含代表二氧化钛各种相的 7,815 个结构。模型分别在全量数据集（高数据量纲）和 20% 的子集（低数据量纲）上进行训练，以评估数据效率。进行了仅能量训练和能量-力联合训练。
QM7 数据集： 用于测试在化学多样性系统中的泛化能力，包含 7,165 个小型有机分子。模型在高数据量纲下针对原子化能进行训练。

评估指标
性能通过以下综合指标进行评估：

准确性： 平均绝对误差 (MAE)、均方根误差 (RMSE) 和负对数似然 (NLL)。
不确定性质量： 均方根校准误差 (RMSCE)、锐度 (Sharpness，即平均预测不确定性)、不确定性与误差之间的 Spearman 秩相关系数 ( $r_s$ )，以及衡量高不确定性预测与高误差区域一致性的“重叠得分 (Overlap Score)”。

关键结果

预测准确性：
- 在 高数据量纲 (TiO2) 下，DE 一致地优于 VBNNs，实现了最低的 MAE (6 meV/atom) 和 RMSE (9 meV/atom)，以及最负的 NLL (-4.2)，表明其具有卓越的准确性和校准度。
- 在 低数据量纲 下，DE 在准确性方面仍保持优势 (MAE 35 meV/atom)。然而，LRT 展示了具有竞争力的准确性 (MAE 54 meV/atom) 和比 DE 更低的 RMSE (259 meV/atom)，这表明其对异常值的鲁棒性更好。RAD 在低数据量纲下的表现较差。
- 在 QM7 数据集 上，情况发生了逆转：BNNs (LRT 和 RAD) 实现了比 DE (15.2 meV/atom) 更低的能量 RMSE (13.0–13.3 meV/atom)，这表明变分先验为化学多样性空间提供了有益的正则化。
不确定性量化：
- 校准度： 在 TiO2 实验中，DE 通常提供了最佳的校准不确定性（最低的 RMSCE）。在低数据量纲下，RAD 出人意料地保持了极佳的校准度 (RMSCE 0.05)，与其高数据量纲的表现相当，而 LRT 和 DE 的校准度均有所下降。
- 锐度： DE 产生了最锐利（最自信）的预测。LRT 倾向于产生过于宽泛的不确定性区间（高锐度值），尤其是在低数据量纲下。
- 相关性与重叠： DE 在低数据量纲下展示了最强的预测不确定性与实际误差之间的单调相关性 ( $r_s = 0.45$ )，优于 LRT (0.28) 和 RAD (0.19)。DE 也获得了最高的重叠得分 (55%)，表明它最有效地识别了高误差区域。
力预测：
- 在低数据量纲下，VBNNs (LRT 和 RAD) 实现了显著低于 DE 的力 RMSE，这可能归功于先验提供的正则化。然而，所有模型的力校准度仍然较差，仅 DE 在低数据量纲下显示出合理的校准度。
计算效率：
- 训练： DE 的单轮迭代成本较低，但需要训练五个独立的模型。在 TiO2 高数据量纲下，DE 的总训练时间与 LRT 相当，但在低数据量纲下略高。
- 推理： DE 的推理速度明显更快 (0.03 s)，相比之下，VBNNs (0.64–0.71 s) 较慢，因为 BNNs 需要对每个预测进行 20 次蒙特卡洛采样，并包括用于计算力的自动微分。

意义与结论
论文得出结论，尽管深度集成在理论上不如 BNNs 严谨，但在大多数指标（包括准确性、校准度和推理效率）方面，其经验表现优于变分 BNNs，特别是在化学空间相对狭窄（TiO2）的情况下。当优先考虑可靠的不确定性量化且希望实现简单时，推荐使用 DE。

然而，研究强调，VBNNs（特别是 LRT 变体）提供了一种具有竞争力的权衡方案，并且在数据稀缺或化学多样性较高（如 QM7）的场景中可能更具优势，因为此时变分先验起到了有效的正则化作用。作者指出，BNNs 对随机初始化更为敏感，需要多次训练运行以确保鲁棒性。这项工作为选择具备不确定性感知能力的 MLIPs 提供了实践指导，表明 DE 与 VBNNs 之间的选择应取决于具体的数据规模和目标系统的化学多样性。

贡献

在 ænet-PyTorch 框架内引入了支持能量-力联合训练的 GPU 加速 VBNN 实现。
在不同数据量纲（高/低）以及不同数据集（无机 TiO2 和有机 QM7）上，对 DE、LRT 和 RAD 进行了系统性的比较。
证明了虽然 DE 通常表现更优，但在化学多样性较高的数据集（QM7）中，BNNs 的相对性能可能会发生反转，从而挑战了集成方法在所有语境下都具有普适优越性的观点。
提供了一种新的“重叠得分 (Overlap Score)”指标，用于评估不确定性估计在主动学习场景中的效用。