🤖 machine learning

Explaining Graph Neural Networks for Node Similarity on Graphs

本文通过评估图神经网络中基于互信息和基于梯度的解释方法，研究了图上的可解释性相似性搜索，结果表明基于梯度的方法能为节点相似度分数提供更优的、可操作的、一致且可稀疏化的解释。

原作者： Daniel Daza, Cuong Xuan Chu, Trung-Kien Tran, Daria Stepanova, Michael Cochez, Paul Groth

发布于 2026-05-12

📖 1 分钟阅读☕ 轻松阅读

原作者： Daniel Daza, Cuong Xuan Chu, Trung-Kien Tran, Daria Stepanova, Michael Cochez, Paul Groth

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你拥有一张巨大且复杂的连接地图，比如一个庞大的社交网络或科学文献引用网络。你构建了一个智能计算机程序（图神经网络，或 GNN），它审视这张地图并说道：“嘿，这两个人（或论文）非常相似。”

通常，当这些程序做出决策时，我们想知道“为什么”。但大多数时候，这个“为什么”仅适用于非黑即白的答案，比如“这是一只猫还是一条狗？”或“这个人会点击这个广告吗？”

本文提出了一个不同的问题：如果计算机只是说“这两件事有 85% 的相似度”，我们要如何解释它为何这样认为？

作者意识到，用于解释人工智能的常规工具并不适用于这种“相似度”任务。因此，他们构建了一套新工具，以测试哪些解释方法实际上讲得通。以下是他们如何利用日常类比来开展工作的。

问题：相似度分数的“黑盒”

将 GNN 想象成一位品尝了两道菜肴并宣称“这两碗汤非常相似”的厨师。

旧方法（监督学习）： 如果厨师说“这是汤”，我们可以问：“你尝到胡萝卜了吗？”或“是盐吗？”因为我们知道目标（汤 vs. 非汤）。
新问题（相似度）： 厨师只是说“汤 A 和汤 B 有 90% 的相似”。如果我们问“为什么？”，旧工具可能会指出一些随机的配料，而这些配料实际上并不能解释相似性。它们可能会说：“是盐！”但如果你去掉盐，相似度分数却几乎没有变化。那是一个糟糕的解释。

解决方案：好解释的三条规则

作者提出了三条规则（标准），用于衡量一个关于相似度的好解释必须遵循。他们通过玩“如果……会怎样”的游戏来测试这些规则（针对图/地图）。

1. 可操作（“如果……会怎样”测试）

类比： 假设解释声称：“这两碗汤相似的原因是罗勒。”
测试： 如果你从两碗汤中都去掉罗勒，相似度分数应该下降。如果你增加更多罗勒，分数应该上升。
主张： 一个好的解释必须能让你以可预测的方式改变输入（图）。如果解释说是“罗勒”，但去掉它却毫无作用，那么这个解释就是无用的。

2. 一致性（“对立两面”测试）

类比： 假设解释将配料分为两堆：“有利于相似”（A 堆）和“不利于相似”（B 堆）。
测试： 如果你只保留“好”的那堆，两碗汤应该变得更相似。如果你只保留“坏”的那堆，它们应该变得更不相似。
主张： 这两堆必须产生相反的效果。如果保留“好”堆让它们相似，但保留“坏”堆也让它们相似（或毫无作用），那么这个解释就是令人困惑且不一致的。

3. 稀疏性（“仅 essentials"测试）

类比： 一个好的解释不应说：“相似性是因为海洋中的每一粒盐。”它应该说：“是因为这三种特定的香草。”
测试： 你能扔掉解释所指出的 90% 的配料，而仍然得到相同的结果吗？
主张： 一个好的解释应该能够被缩减为一个微小的、必不可少的列表，而不会失去其效力。

实验：谁通过了测试？

作者选取了两种流行的 AI 解释器，在各种地图（如引用网络和知识图谱等数据集）上针对这三条规则进行了测试。

A 队：“互信息”解释器（猜测者）

工作原理： 它们试图找到一个包含答案的小子图，有点像通过试错来猜测食谱中哪部分最重要。
结果： 它们未能通过测试。
- 它们不可操作：去掉它们指出的配料并不能可靠地改变相似度分数。
- 它们不一致：有时保留“重要”配料会让分数上升，有时又会让分数下降。这就像抛硬币一样随机。
- 它们不稀疏：你无法轻易地缩减它们列出的配料清单。

B 队：“基于梯度”的解释器（计算者）

工作原理： 它们利用数学精确计算地图中每一条边（连接）对相似度分数的推升或拉低程度。这就像用精密的秤称量每一种配料的重量。
结果： 它们通过了所有三项测试！
- 可操作： 如果它们说某条边增加了相似性，去掉它会让分数下降。如果它们说它降低了相似性，去掉它会让分数上升。
- 一致性： “推升”边和“拉低”边确实产生了完全相反的效果。
- 稀疏性： 你可以扔掉它们指出的 90% 的边，而剩下的少数几条边仍然能完美解释相似性。

核心结论

本文得出结论：当你试图解释为什么两件事相似（即一个连续分数）时，“基于梯度”的方法是赢家。它们为你提供了清晰、可靠且紧凑的地图，说明计算机为何认为两个节点是相似的。

“互信息”方法在处理简单的“是/否”问题（如“这是一只猫吗？”）时表现出色，但当问题是“这两件事彼此有多像？”时，它们就会陷入混乱。

简而言之： 如果你想了解网络中的两个人为何相似，不要问 AI 猜测哪些连接重要。要让它计算每条连接的确切推力和拉力。这将给你一个清晰、可信的答案。

技术摘要：解释图神经网络中的节点相似性

问题定义

本文解决了图神经网络（GNN）可解释性中的一个关键空白。尽管已有大量研究致力于解释用于监督任务（如节点分类、链接预测）的 GNN，但在无监督设置下解释节点相似性的问题却 largely 未被触及。在许多应用中，例如引文网络或知识图谱，GNN 被训练用于学习节点嵌入，其中相似性通过余弦相似度等指标进行计算。与离散的分类标签不同，相似性是一个连续量，现有的可解释性评估协议无法直接适用。作者研究了如何为图中的边分配值，以解释为何两个特定节点具有高或低的相似性得分，从而将其与旨在证明离散预测合理性的任务区分开来。

方法论

框架与标准

作者提出了一个基于三条源自通用可解释人工智能（XAI）原则的标准来评估节点相似性解释的框架：

可行动性（Actionability）： 解释应允许进行干预（例如添加或移除边），从而导致相似性得分发生可预测的变化。
一致性（Consistency）： 保留高于解释阈值的边的效果，必须与丢弃这些边（即保留低于阈值的边）的效果截然不同。这两组边不应在得分上产生重叠或无法区分的效果。
稀疏性（Sparsity）： 解释应具有可压缩性；一小部分最相关的边应能保留完整集合中观察到的大部分解释效果。

基于干预的指标

为了将这些标准具体化，作者引入了与模型无关的、基于干预的指标：

**保真度（Fidelity, $Fid $）：** 衡量基于解释对图进行干预后相似性得分的变化。具体而言，他们计算了$ Fid_a $（保留高于阈值的边时的变化）和$ Fid_b$（保留低于阈值的边时的变化）。
效应重叠（Effect Overlap, EO）： 一种广义的 Jaccard 相似度指标，用于量化两种干预的保真度值符号之间的重叠程度。低 EO 表明两种干预具有截然不同且互补的效果（例如，一种增加相似性，另一种降低相似性），从而满足一致性标准。
稀疏性评估： 作者通过从解释掩码中移除相关性最低的边并重新评估保真度和 EO，来模拟不断增加的稀疏水平。一个稳健的解释即使在边数减少的情况下，仍能保持其可行动性和一致性属性。

实验设置

本研究评估了两类解释方法：

互信息（MI）方法： 具体为 GNNExplainer，该方法旨在寻找与预测具有最大互信息的子图。
基于梯度（GB）的方法： 针对邻接矩阵的直接梯度计算以及 积分梯度（Integrated Gradients）。

这些方法应用于由四种无监督学习算法生成的节点嵌入：图自编码器（GAE）、变分图自编码器（VGAE）、深度图信息最大化（DGI）和图对比表示学习（GRACE）。实验在六个数据集上进行：引文网络（Cora、Citeseer、Pubmed）、异配性图（Chameleon、Squirrel、Actor）以及一个知识图谱（DBpedia50k）。

主要结果

实验得出了关于 GB 方法与 MI 方法在节点相似性背景下性能的三个主要发现：

可行动性： 基于梯度的解释始终具有可行动性。基于 GB 解释的干预（保留高于阈值的边）可预测地增加相似性得分，而基于低于阈值边的干预则可预测地降低得分。相比之下，GNNExplainer（MI）表现出不一致的行为；保留高值边的效果往往取决于具体的嵌入模型和数据集，无法在所有场景中产生可预测的变化方向。
一致性： 与 MI 方法（通常 > 0.4 或 > 0.5）相比，GB 方法实现了显著更低的效应重叠（EO）分数（通常接近 0 或 < 0.1）。这表明 GB 解释能够清晰地区分增加相似性的边和降低相似性的边。MI 解释经常导致效应重叠，即高值边和低值边在得分上产生相似的变化，未能通过一致性标准。
稀疏性： 即使将解释修剪为仅保留前 10% 的边（90% 稀疏度），GB 解释的可行动性和一致性属性仍得以保留。这表明 GB 解释可以显著简化而不失其解释力，而 MI 解释则未表现出这种鲁棒性。

作者还指出，虽然 MI 方法在某些特定情况下（例如 DGI 配合 GraphSAGE）有时显示出较低的 EO，但这通常是由于效应接近零（低可行动性）而非真正的一致性所致。在这种模式下，由于对得分缺乏显著影响，任何解释器都难以进行基于符号的分离。

意义与主张

本文声称是首个正式定义并评估 GNN 中节点相似性解释问题的研究。其意义在于：

填补空白： 它超越了以监督任务为主导的焦点，转向解决连续、无监督相似性得分的可解释性问题。
评估框架： 它提供了一套基于干预的定量指标（保真度、EO、稀疏性），这对于评估相似性解释的质量是必要的，而标准的基于分类的指标无法捕捉这些特性。
方法论洞察： 结果表明，针对这一特定任务，基于梯度的方法优于基于互信息的方法。GB 方法提供的解释不仅具有可行动性和一致性，而且具有稀疏性，为理解节点相似性提供了更实用、更可解释的工具。
通用性： 所提出的指标与模型无关，适用于任何定义在节点嵌入上的相似性函数（例如欧几里得距离），为未来开发可解释的相似性搜索系统奠定了基础。

作者总结道，虽然计算成本是一个因素（GB 方法通常比 MI 方法所需的迭代优化更高效），但 GB 方法在此设置下的主要优势在于其能够为节点相似性提供可靠、具有方向性且稀疏的解释。