🤖 machine learning

Model-Level GNN Explanations via Rule-to-Graph Readout for Logit Reconstruction

本文提出了一种新颖的模型级图神经网络解释框架，该框架通过将接地子图概念组合为符号规则并输入冻结的分类器，从而重构原始多类对数几率，实现了高保真、可在测试时实例化的全局解释，并具备规则级贡献分析能力，其速度显著快于先前方法。

原作者： Shengyao Lu, Jiuding Yang, Aedan J. DeFrates, Keith G. Mills, Baochun Li, Di Niu

发布于 2026-05-13

📖 1 分钟阅读☕ 轻松阅读

原作者： Shengyao Lu, Jiuding Yang, Aedan J. DeFrates, Keith G. Mills, Baochun Li, Di Niu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你拥有一个超级智能的机器人（即图神经网络，或 GNN），它能够观察由点和线构成的复杂网络——例如分子或社交网络——并做出预测。它的准确率极高，但它是一个“黑盒”。当你问它：“你为什么说这个分子是危险的？”它只会回答：“因为我这么说的”，而不会解释它是如何得出这一结论的。

现有的方法试图通过指出机器人喜欢的特定模式来解释它。例如，“哦，它喜欢带有红色环的分子。”但这就像试图通过仅仅列出厨师喜欢的食材来解释一道复杂菜肴的食谱。它无法告诉你厨师是如何混合这些食材的，每种食材用了多少，或者他们如何平衡风味以获得最终的口感。

TreeX 是一款新工具，它改变了游戏规则。TreeX 不再仅仅列出食材，而是尝试使用简单、人类可读的规则来重建机器人整个的决策过程。

以下是 TreeX 的工作原理，借助一些富有创意的类比：

1. “食谱重建”类比

将机器人的最终预测视为单一的“是/否”答案，不如将其视为一种复杂的风味轮廓（例如对“辣”、“甜”和“酸”的评分）。

旧方法：之前的工具试图寻找像“如果它有红色环，它就是辣的”这样的规则。它们只是将模式与标签进行匹配。
TreeX 方法：TreeX 说：“让我们从机器人的原始风味评分出发，用食谱从头重建它们。”它将机器人的决策分解为逻辑规则（例如“如果它有红色环且没有蓝色方块，则给‘辣’加 5 分”）。

TreeX 不仅仅猜测最终的标签；它试图在数学上重建机器人在做出最终选择之前使用的确切数值（logits）。如果 TreeX 能够使用简单的规则完美地重建机器人的“风味轮廓”，我们就知道这些规则是机器人思维方式的真实解释。

2. “构建套件”（概念挖掘）

为了构建这些规则，TreeX 需要构建模块。它深入机器人的大脑（其隐藏层）寻找子图概念。

类比：想象机器人正在观察一个分子。TreeX 查看机器人的内部视图并说：“啊，我在这里看到了一个‘硝基基团’，在那里看到了一个‘环状结构’。”它将图中外观相似的部分分组为可重用的“概念”。
转折：TreeX 在这方面很聪明。它不会随意抓取碎片；而是寻找稳定、重复出现的模式（就像在不同的房子里找到同一种类型的砖块），以便将其用作构建规则的可靠模块。

3. “规则手册”（符号逻辑）

一旦拥有了构建模块，TreeX 就会编写一本规则手册。

它使用这样的逻辑：“如果（概念 A 存在）且（概念 B 缺失），则增加类别 1 的分数。”
“否定”技巧：TreeX 的一个关键特征是它理解缺失。正如厨师可能会说“这汤很好，因为没有放盐”一样，TreeX 可以基于缺失的内容创建规则。这对于复杂的决策至关重要，因为在这些决策中，特征的缺失与其存在同样重要。

4. “现场表演”（测试时落地）

这是 TreeX 优于其他工具的地方。

旧方法：一些工具提供适用于整个数据集的静态规则手册，但它们无法向你展示它如何作用于你刚刚交给它们的特定新分子。
TreeX 方法：当你给 TreeX 一个新的图时，它会立即激活相关规则。它指出触发该规则的图的精确部分（落地），并向你展示该规则具体将分数推高或降低了多少。
类比：这就像一位现场体育解说员。TreeX 不仅仅告诉你最终比分，它还会说：“现在，球队之所以领先，是因为球员 A（规则 1）进了一球，增加了 +2 分，而球员 B（规则 2）错失了一次射门，扣除了 -1 分。”

为什么这更好？

该论文声称 TreeX 在以下三个主要原因上优于其他方法：

忠实性：它不仅仅猜测正确答案；它在数学上以高精度重建机器人内部的“置信度分数”（logits）。如果 TreeX 的规则能够重现机器人的确切数值，那么该解释就是可信的。
速度：它比之前的方法快20 倍。这就像从手写小说切换到高速打字机。
可操作的洞察：它不仅仅说“这就是原因”。它说：“这条规则支持获胜的球队，而那条规则抑制了失败的球队。”它让你能够看到哪些规则是舞台上的“明星”，哪些只是背景噪音。

总结

TreeX 将一个黑盒机器人解构，将其决策过程分解为一组简单的逻辑“如果 - 那么”规则，并通过重建机器人的确切预测来证明这些规则的有效性。它同时处理存在的内容和缺失的内容，运行速度极快，并为你详细分解机器人对每一个新示例的思考过程。

技术摘要：TreeX - 基于规则到图读取的模型级 GNN 解释

问题陈述

尽管图神经网络（GNN）实现了强大的预测性能，但理解其决策逻辑仍然具有挑战性。现有方法主要关注实例级解释，即识别导致单次预测的特定节点或子图。然而，局部解释无法揭示证据是否在数据集中被系统性地使用、模型是否依赖虚假捷径，或多个概念如何共同定义类别级别的决策边界。

当前的模型级解释器通常试图识别与特定类别相关的图模式或符号规则。这些方法的一个关键局限性在于，它们将规则视为事后的类别描述符，而非功能性的计算单元。它们无法解释多个规则如何共同产生 GNN 的最终决策，或重构模型的原始预测 logits。因此，它们缺乏在测试时进行规则级贡献分析的能力，也无法解释对竞争类别的抑制。

方法论：TreeX

作者提出了TreeX，这是一种新颖的模型级 GNN 解释框架，将解释目标从基于类别的规则提取转变为基于规则的 logits 重构。TreeX 在预训练 GNN 的读取（readout）接口处进行干预，保持消息传递层和分类器头部冻结，同时用加权规则到图的读取替换原始节点到图的读取。

该方法论包含四个主要阶段：

1. 受子树启发的概念挖掘

为了将全局规则锚定在局部实例上，TreeX 从 GNN 的隐藏状态中挖掘子图概念：

局部挖掘：对图内的节点嵌入进行聚类。每个簇通过聚合其成员节点的 $l$ -hop 感受野（子树）转换为支持子图。这使得概念偏向于结构稳定的证据，而非噪声。
全局挖掘：对局部概念嵌入再次进行聚类，形成全局概念库。代表性子图通过基于形状和度签名的两阶段词典多数过滤进行选择，随后通过质心距离打破平局。
理论依据：论文论证，对于功能最强大的消息传递神经网络（如 GIN），第 $l$ 层的节点嵌入是完整 $l$ -hop 子树的“完美有根树表示”，这证明了使用节点嵌入来表示子结构的合理性。

2. 神经符号规则学习

TreeX 使用**合取范式（CNF）结构，具体为析取合取范式（OR-of-CNF）**松弛形式，在全局子图概念上学习符号规则：

类别级发现：规则最初以“一对多”的方式为每个目标类别学习。正文字（ $P[k]$ ）和负文字（ $\neg P[k]$ ）根据全局概念的判别能力进行实例化。
可微逻辑：采用分层可微逻辑参数化。子句通过 Gödel 三角和（对门控文字取最大值）满足，规则通过跨子句的乘积式软“与”形成。最终类别预测使用候选规则上的概率和（噪声“或”）。
合并：特定于类别的规则候选被合并到统一的共享规则库中。这种两阶段设计确保了每个类别都能发现判别性规则，同时为多类别重构保持共享结构。

3. 规则到图的读取

核心创新在于重构读取层：

规则嵌入：规则嵌入通过聚合其组成文字的嵌入（由门控激活加权）计算得出。负文字表示为其对应正文字嵌入的取反。
Logits 重构：激活的规则由学习到的全局权重向量 $w$ 进行加权。激活规则嵌入的加权组合通过基础 GNN 的冻结分类器头部，以重构原始多类别 logits（ $\hat{o}_G$ ）。
目标：模型被训练以最小化重构 logits 与原始 GNN 原始 logits 之间的均方误差（MSE）。

4. 测试时锚定与分析

在测试时，TreeX 将未见过的图投影到共享概念空间中，评估固定规则，并生成特定于实例的解释。它实现了：

锚定：将满足的文字映射到具体的局部子图证据（对于正文字）或概念的缺失（对于负文字）。
消融：通过将每个规则的权重置零并观察重构 logits 的变化（ $\Delta_{g,r}$ ）来测量每个规则的贡献。

主要贡献

新的解释目标：将模型级 GNN 解释表述为基于规则的 logits 重构，超越了将模式与标签简单关联，转而解释原始预测 logits 的生成。
符号读取接口：引入规则到图的读取，其中锚定的逻辑规则作为计算单元。激活的规则嵌入被聚合并通过冻结分类器，以重构多类别 logits。
锚定且组合的规则构建：挖掘受子树启发的子图概念以获取连续嵌入和具体证据。它学习析取合取范式（OR-of-CNF）规则，在所需约束内保留替代实现，在相同规则预算下提供比 DNF 式表述更强的结构表达力。
功能性且忠实的解释：证明了识别出的关键规则积极支持预测类别并抑制非目标类别，作为功能性单元而非单纯的事后产物。

实验结果

TreeX 在三个合成数据集（BA-2Motifs, BAMultiShapes, BA-Neg）和两个真实世界分子数据集（Mutagenicity, NCI1）上进行了评估。

Logits 忠实度：TreeX 忠实地重构了基础 GNN 的原始多类别 logits，实现了高绝对概率保真度（APF）（例如，BA-2Motifs 上>97%，真实世界数据集上>75%）。
规则影响：消融研究表明，顶级激活规则一致地增加目标类别的 logits，同时抑制非目标类别，证实了它们在决策过程中的功能作用。
设计的必要性：消融实验证实，移除规则模块、合并步骤或负文字会显著降低性能，特别是在重构原始 logits 方面。
效率与比较：与之前的基于类别的规则解释器（LogicXGNN, GLGExplainer, GraphTrail）相比，TreeX 实现了具有竞争力或更优的预测一致性（PA），同时速度快达 20 倍。与基线不同，TreeX 提供规则权重、测试时锚定以及 logits 级别的贡献分析。

意义与主张

论文声称 TreeX 提供了一个全局的、测试时可实例化的、且基于子图锚定的解释框架。通过将重点转向 logits 重构，TreeX 提供了更严格的可解释性评估：规则不仅仅是描述性的，而且被证明是功能性单元，积极塑造决策边界。

作者强调，TreeX 不仅仅是一个事后总结工具，而是一种揭示 GNN 决策逻辑如何分解为可重用、加权符号规则的机制。这种方法允许分析规则如何支持预测类别并抑制竞争者，解决了当前模型级可解释性中的一个空白，即多个规则与最终决策边界之间的交互仍然不透明。该框架提出了一条更广泛的解释神经模型的路径：通过识别人类可解释的概念，将它们组合成符号规则，并利用这些规则作为读取级单元来重构模型行为。