🧬 生物学

MolSanity: A Reliability Audit for Feature Attributions on Molecular Graph Neural Networks

MolSanity 引入了一个针对分子图神经网络特征归因的全面可靠性审计框架，揭示了对模型的忠实度与化学正确性或真值定位并不相关，尤其是在骨架偏移的情况下，从而证明了解释的可靠性必须基于具体情况进行评估，而不能仅从忠实度指标中进行假设。

原作者： Karthik Iyer, Nasser Sabar

发布于 2026-11-02

📖 1 分钟阅读☕ 轻松阅读

原作者： Karthik Iyer, Nasser Sabar

原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 ⚕️ 这是一篇未经同行评审的预印本的AI生成解释。这不是医疗建议。请勿根据此内容做出健康决定。阅读完整免责声明

在药物研发这一高风险领域，科学家们经常依赖人工智能来预测一种新化学化合物在人体内的行为。这些被称为图神经网络（graph neural networks）的系统，将分子视为由原子通过化学键连接而成的集合，就像城市与道路构成的地图一样。当人工智能做出预测（例如将某种化合物标记为具有潜在毒性）时，通常的做法是要求系统解释其推理过程。人工智能会通过突出显示分子上的特定原子来进行响应，生成一张热力图，暗示哪些化学结构部分对该决策最为重要。化学家们信任这些图谱来指导他们的工作，并假设被突出的原子就是导致结果的真实化学驱动因素。

然而，一项新的研究揭示了这些人工智能系统所表达的内容与其真实行为之间存在着令人担忧的脱节。该研究引入了一项名为 MolSanity 的严格审计，旨在测试这些解释是否可靠。核心发现是：一个解释可以与人工智能的内部逻辑完全一致，但在化学层面上却完全错误。换句话说，系统可以诚实地描述自身的思考过程，但该过程可能基于对分子的误解。这种区别至关重要，因为如果科学家依赖误导性的热力图，他们可能会放弃一种有前景的药物，或者更糟的是，在误以为人工智能已经识别出正确的化学诱因时，去追求一种危险的药物。

研究人员通过包装一系列现有的 AI 工具，并针对大规模分子数据集进行测试，旨在调查这一差距。他们并没有发明一种新的生成解释的方法；相反，他们采用了科学界使用的标准工具，并对其进行了严格的可靠性审计。这项审计考察了数据集、AI 架构、解释方法和数据划分的所有可能组合。他们测量了两个截然不同的维度：忠实度（faithfulness）和正确性（correctness）。“忠实度”询问解释是否准确反映了模型的内部计算。如果模型说“我观察了这个原子”，那么解释是否指向了这个原子？“正确性”则询问解释是否识别出了决定该属性的实际化学特征。如果模型正在预测毒性，那么解释是否指向了分子中的毒性部分？

研究发现，这两个特质之间并不相关。一种方法可以具有高度的忠实度，即它完美地描述了模型的行为，但在化学上却完全错误，指向了错误的化学特征。事实上，在三十项不同的测试中，一个仅根据忠实度选择最佳解释方法的排名系统，在二十六次测试中都选错了方法。研究人员在两种条件下进行了测试：一是当 AI 被测试用于与其训练集相似的分子时；二是当 AI 被测试用于全新的化学结构时（这是一种模拟现实世界药物研发的“骨架偏移”场景）。这种失败并不局限于这些困难的新案例，在熟悉的案例中也同样频繁发生。在一个涉及知名数据集的具体案例中，最忠实的法指向了与真实毒性基团完全相反的原子，而那个正确识别了毒性基团的方法却被评定为忠实度较低。

这种联系的缺失意味着不存在适用于所有情况的单一“最佳”解释方法。解释的可靠性取决于数据集、AI 模型和生成解释的方法之间的特定组合。研究人员发现，虽然解释方法的排名在不同类型的分子之间保持相对稳定，但忠实度与正确性之间的关系却变化巨大。在某些数据集上，两者呈正相关；而在另一些数据集上，两者呈负相关。这种不一致性意味着，科学家不能简单地选择得分最高的忠实度方法并期望它是正确的。研究明确排除了“忠实度是正确性的可靠代理指标”这一观点，表明高忠实度分数并不保证高正确性分数。

审计还观察了当 AI 处于自信状态与出错状态时，这些解释的表现如何。研究人员发现，当 AI 做出自信但错误的预测时，解释往往会对模型的内部逻辑表现得更加“忠实”，尽管它在化学方面的准确性却在下降。这制造了一个危险的陷阱：AI 对错误答案越自信，其解释看起来就越有说服力，即便这个解释正在误导科学家。此外，研究表明，无论使用何种解释方法，底层 AI 架构的选择都会显著影响解释定位真实化学特征的能力。这表明，解释的可靠性是整个系统的属性，而不仅仅是生成热力图的工具本身。

最终，这项工作为人工智能在化学领域的应用提供了一次必要的现实检查。它证明了目前在不验证 AI 解释是否符合已知化学真相的情况下就盲目信任的做法是危险的。研究人员提供了一个审计这些系统的框架，但他们的主要结论是一个否定性的结论：不存在一种普遍规律能保证忠实的解释必然是正确的解释。对于观察热力图的药物化学家来说，这项研究意味着：被突出的原子未必就是那些起作用的原子。要了解一个解释是否值得信赖，唯一的途径是将其置于“地面真值”（ground truth）中进行测试，而这在现实世界的药物研发中往往是一种难以获得的奢侈。在这一差距被填补之前，最可靠的方法是将这些解释视为需要被检验的“假设”，而非可以直接接受的“事实”。

技术摘要：MolSanity：分子图神经网络特征归因的可靠性审计

问题陈述

特征归因（例如原子上的热图）常被用于向化学家解释分子图神经网络（GNNs）预测背后的逻辑。然而，这些归因很少经过可靠性审计。现有的评估框架主要侧重于评估忠实度（faithfulness）：即解释是否准确反映了模型的内部决策过程。它们并未评估正确性（correctness）：即解释是否识别出了决定分子属性的实际化学子结构。

核心问题在于，忠实度和正确性是两个不同的问题。一个归因可以对模型具有高度的忠实度（即移除高亮原子会剧烈改变模型的输出），但同时在化学上是错误的（即高亮的原子并不是决定该属性的真实驱动因素）。这种脱节在药物研发领域尤为关键，因为模型是在支架偏移（scaffold shift）（即对训练期间未见过的全新化学支架进行预测）的情况下部署的，而解释的评估协议往往未能针对这种偏移进行分层处理。

方法论：MolSanity 审计

MolSanity 并非一种新的归因方法，而是一个可靠性审计框架，它封装了标准的实现（Captum, PyTorch Geometric, RDKit），旨在通过一个全面的矩阵来评估它们。该审计评估了由元组 (数据集, 主干网络, 归因器, 切分方式) 定义的每一个单元格。

六轴审计

该框架从六个维度对每个单元格进行评分，分为模型侧指标（可在任何地方计算）和化学侧指标（需要地面真值/ground truth）：

基团原生相干性（Motif-Native Coherence）： 使用基于 RDKit 的基团分解（SSSR 环、Bemis–Murcko 支架、BRICS 片段）而非单个原子，来衡量归因质量的集中度和连通性。
遮蔽–归因忠实度（Occlusion–Attribution Faithfulness）： 评估归因器对基团的排序是否与遮蔽（移除该基团并测量输出变化）的排序一致。这包括领域标准指标，如 Fidelity±、稀疏度以及 GraphFramEx 特征评分。
地面真值定位（Ground-Truth Localisation）： 在存在节点级地面真值掩码的情况下，衡量归因将真实子结构从其余部分中分离出来的能力，使用 GT-AUROC 指标。
跨检查点稳定性（Cross-Checkpoint Stability）： 评估中间训练检查点与最终检查点之间基团排序的一致性。
校准联动（Calibration Linkage）： 测试“更好的校准预测（置信度）是否与更可靠的归因相关联”这一假设。
置信度/正确性机制分层（Confidence/Correctness Regime Stratification）： 分析在不同机制下的可靠性：置信且正确、置信且错误 以及 处于边界。

实验范围

数据集： 18 个数据集，包括 5 个分子地面真值分支（MUTAG, MolMotif, MolMotifHard, Benzene, FluorideCarbonyl）和 13 个缺乏单原子标签的真实分子属性数据集（Tier-2 和 Tier-3）。
主干网络： 5 种架构（GINE, GCN, GAT, MPNN, AttentiveFP）。
归因器： 7 种方法（Integrated Gradients, Saliency, Guided Backprop, Input×Gradient, GNNExplainer, PGExplainer, SubgraphX）。
切分方式： 随机（分布内）和 Bemis–Murcko 支架（偏移）。
规模： 审计了 558 个单元格，共计 31,785 条单分子记录。

关键结果

1. 忠实度不等于正确性

核心发现是，忠实度指标无法提供关于归因正确性的可靠信息。

脱节（Dissociation）： 在 47 个具有地面真值的单元格中，忠实度与正确性之间的秩相关性为 +0.222（分布内， $p=0.134$ ）和 −0.124（支架偏移下， $p=0.405$ ）。两者都无法与零区分开。
反向对齐（Anti-Alignment）： 在 14 个具有地面真值的 142 个单元格中，最忠实的归因器与真实基团是反向对齐的（GT-AUROC < 0.5）。仅靠忠实度进行的审计会将这些归因视为“良好”。
选择失败： 在 30 个选择测试（5 个分支 × 2 种切分 × 3 种排名指标）中的 26 个测试中，仅基于忠实度的排名选择了一个并非地面真值最优的归因器。这种失败率在分布内（14/15）和偏移（12/15）机制下都很高。
- 示例： 在支架偏移下的 MUTAG 数据集上，遮蔽指标选择了 GuidedBP（GT-AUROC 为 0.013，与硝基基团反向对齐），而非 GNNExplainer（GT-AUROC 为 0.826）。

2. 可靠性是特定于单元格的，而非特定于方法的

可靠性不能泛化到单一归因器，它是特定单元格（数据集、主干网络、归因器、切分方式）的属性。

分支间差异： 在完全相同的协议下，忠实度与正确性之间的相关性在 5 个分子分支下的偏移表现迥异，范围从 −0.564 (MUTAG) 到 +0.786 (FluorideCarbonyl)。
不存在汇总定律： 没有一个汇总后的统计数字能通过留一分支测试（leave-one-arm-out test）。丢弃单个分支就会导致相关性的符号发生逆转。因此，关于归因器可靠性的单一结论性数字是无效的。
主干网络依赖性： 主干网络的选择显著影响定位能力（AUROC 在 0.125–0.538 之间波动），尽管不同切分方式下的主干网络相对排序基本保持不变。

3. 偏移并不会系统性地破坏忠实度

与“分布偏移会降低解释质量”的直觉相反，研究发现：

忠实度稳定性： 忠实度本身在支架偏移下并未系统性下降；它实际上略有上升（从 0.049 升至 0.132）。
正确性稳定性： 地面真值定位在偏移下也保持稳定。
真正的问题： 问题不在于偏移破坏了指标，而在于这两个指标（忠实度和正确性）从未建立过联系。忠实度指标无法预警一个解释在化学上是错误的。

4. 机制分层与校准

置信且错误机制下的退化： 对于模型置信度错误（自信地判断错误）的分子，地面真值定位有所下降（0.769 降至 0.681），而忠实度反而提升了（0.142 升至 0.325）。这创造了一个危险的机制：其中最“忠实”的解释往往在化学上最不正确。
校准联动： 虽然每个单元格内存在正相关（中位数 $\rho=0.144$ ），但汇总所有分子时会出现辛普森悖论（Simpson's paradox），使相关性被削弱至接近于零（ $\rho=0.074$ ）。

意义与主张

本文声称，目前仅根据忠实度指标来选择分子 GNN 归因方法的做法存在根本性缺陷。

负面证明（Negative Certificate）： MolSanity 最有用的输出之一是其提供的“负面证明”：对于 186 个承诺行中的 44 个（均为缺乏单原子标签的真实分子数据集），正确性无法被测量，且忠实度并不是其可靠的代理指标。
报告标准： 作者主张转变报告标准：
- 报告单元格，而非仅仅报告归因器（可靠性是上下文相关的）。
- 报告主干网络（架构选择显著影响定位能力）。
- 在报告解释指标的同时，必须报告预测指标（一个模型可能预测准确且校准良好，但其归因却是反向忠实的）。
- 不要进行汇总（Do not pool），因为汇总会掩盖特定单元格的失效情况。
不存在通用选择器： 不存在所谓的“忠实度–正确性定律”。从业者不能依靠忠实度分数来保证正确性，尤其是在药物研发中常见的支架偏移情况下。

论文得出结论：可靠性声明必须索引到具体的（数据集、主干网络、归因器、切分方式）单元格，并且该领域需要非由评估者自行构建的地面真值基准，以避免循环论证。