🤖 machine learning

CQD-SHAP: Explainable Complex Query Answering via Shapley Values

该论文提出了 CQD-SHAP，这是一个利用合作博弈论中的 Shapley 值来为不完整知识图谱上的复杂查询回答提供可解释性的新颖框架，通过量化每个查询部分对答案排名的贡献，从而解决现有黑盒模型和神经符号模型的解释性局限问题。

原作者： Parsa Abbasi, Stefan Heindorf

发布于 2026-06-23

📖 1 分钟阅读☕ 轻松阅读

原作者： Parsa Abbasi, Stefan Heindorf

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

大局观：名为“黑盒”的侦探

想象你有一个巨大的、杂乱无章的图书馆（知识图谱），书与书之间通过线索连接在一起。有时，这个图书馆会缺失一些页面甚至整本书（它是不完整的）。

当你问一个简单的问题，比如“《哈利·波特》是谁写的？”，计算机通常可以通过沿着这些线索直接找到答案。但如果你问一个复杂的问题，比如**“哪些药物既可以治疗糖尿病，又会导致肾脏毒性？”**，情况就不一样了。

为了回答这个问题，计算机必须做两件事：

沿着线索行走（符号化方法）：在现有的图书馆中寻找那些明确记录了既能治疗糖尿病、又能导致肾脏毒性的药物。
猜测缺失的连接（神经化方法）：由于图书馆是不完整的，计算机使用一个“智能猜测者”（神经网络）来推断那些本该存在但尚未被写下来的连接。

问题在于，这个“智能猜测者”是一个黑盒。它会给你一个答案列表（比如“胰岛素”），但它不会告诉你为什么它选择了这个答案。是因为图书馆里明确写了胰岛素的作用吗？还是因为计算机认为胰岛素与肾脏毒性有关，尽管这个事实在图书馆中并未记载？

CQD-SHAP 是一个旨在打开这个黑盒的新工具，它能够解释每一个查询部分对最终答案的贡献程度。

核心理念：“团队得分”类比

作者使用了来自博弈论的概念——沙普利值（Shapley Values）。把它想象成一个小组项目，一组学生（问题的原子/组成部分）共同协作来获得一个成绩（答案的排名）。

在我们的例子问题（“治疗糖尿病且具有肾脏毒性的药物”）中，有两个“学生”（原子）：

学生 A：“治疗糖尿病的药物”。
学生 B：“导致肾脏毒性的药物”。

最终的成绩（“胰岛素”的排名）取决于这两位学生表现得如何。但是，学生 A 和学生 B 各自应该获得多少功劳呢？

CQD-SHAP 扮演着公正裁判的角色。它运行了数千次微型实验，以确定得分：

场景 1：学生 A 使用“图书馆行走”（符号化）进行工作，而学生 B 使用“智能猜测者”（神经化）。
场景 2：学生 A 使用“智能猜测者”，而学生 B 使用“图书馆行走”。
场景 3：两者都使用“图书馆行走”。
场景 4：两者都使用“智能猜测者”。

通过比较这些场景，CQD-SHAP 可以精确计算出“智能猜测者”为每个学生提高了多少最终成绩。

“顿悟时刻”：为什么这很重要

论文声称这种方法揭示了一些令人惊讶的事实。有时，“智能猜测者”承担了大部分重任，而有时它实际上反而干扰了结果。

“吵闹邻居”的类比：
想象你正在试图寻找一栋特定的房子（答案）。

“图书馆行走” 就像是查阅官方地址簿。它很准确，但如果地址簿过时了，可能就找不到那栋房子。
“智能猜测者” 就像是询问一位熟悉该地区的邻居。即使地址簿里没写，他们可能也知道那栋房子的存在。

CQD-SHAP 可能会告诉你：

“对于‘胰岛素’这个答案，你问题中的‘肾脏毒性’部分得到了巨大的加分（+450 分），因为‘智能猜测者’猜测出了这个连接。然而，‘糖尿病’部分实际上受到了轻微的扣分（-10 分），因为‘智能猜测者’产生了混乱，并建议了一些错误的邻居。”

如果没有 CQD-SHAP，你只会看到“胰岛素”排在列表顶端，并假设计算机对此百分之百确定。有了 CQD-SHAP，你会意识到：“等等，计算机在‘肾脏毒性’这一部分主要是在靠猜。我应该复核一下这个事实。”

他们是如何测试的（“压力测试”）

作者在真实世界的数据集（如 Freebase 和 NELL）上进行了测试，使用了各种类型的复杂问题（包含“且/AND”和“或/OR”）。

他们将自己的方法与其他预测哪个部分重要的手段（例如选取第一个部分、最后一个部分或得分最低的部分）进行了对比。

测试结果：

必要性解释（Necessary Explanations）：如果从最重要的部分中移除“智能猜测者”，答案的排名应该显著下降。CQD-SHAP 在识别这些关键部分方面比其他方法表现得更好。
充分性解释（Sufficient Explanations）：如果仅在最重要的部分使用“智能猜测者”，答案的排名应该显著上升。同样，CQD-SHAP 也胜出了。

简单来说，CQD-SHAP 是唯一能够一致地指出问题的哪个部分才是解释答案排名高低的关键部分的算法。

核心要点

不仅关于答案，更关于“为什么”：它通过分解每个逻辑步骤的贡献，解释了为什么复杂的查询会返回特定的结果。
衡量“猜测能力”：它专门量化了神经网络通过“猜测”缺失事实的能力，在多大程度上帮助（或损害）了最终的排名，相比于仅仅查看现有事实。
数学上的公平性：它使用严谨的数学公式（沙普利值）来确保“功劳”在问题的各个部分之间得到公平分配。
捕捉错误：它可以揭示高排名的答案是否实际上基于一个微弱或带有噪声的猜测，从而帮助用户减少盲目信任。

它不是什么（严格基于论文内容）

它并不声称能治愈疾病或诊断病人。“药物”示例只是展示系统运作方式的一个隐喻。
它并不说这将取代医生或律师。它是一个帮助理解 AI 模型思考方式的工具。
它并不声称解决了针对所有 AI 的“黑盒”问题，仅针对这类特定类型的复杂问答系统。

总而言之，CQD-SHAP 是一个透明度工具，它充当了 AI 侦探的“计分卡”，向你展示哪些线索（查询部分）是真实事实，哪些是聪明的猜测，从而让你知道该信任谁。

技术摘要：CQD-SHAP

问题陈述

知识图谱（KG）上的复杂查询回答（CQA）超越了简单的链路预测，需要处理涉及多跳推理和逻辑算子（合取、析取）的查询。虽然像 CQD（复杂查询分解）这样的神经符号方法已经出现，用以解决现实世界知识图谱不完整性带来的问题，但它们在很大程度上仍作为黑盒模型运行。现有的针对链路预测的解释性方法侧重于识别单跳预测中重要的三元组或路径，并不直接适用于复杂查询。此外，目前的神经符号 CQA 方法在不同查询组件（原子）对最终答案排名的具体贡献方面缺乏透明度。这种不透明性阻碍了用户信任、调试过程，以及领域专家识别知识图谱缺陷或优化查询的能力。

方法论：CQD-SHAP

本文提出了 CQD-SHAP，这是一个通过使用合作博弈论中的 Shapley 值 来量化每个查询原子对特定答案实体的排名贡献，从而解释神经符号 CQA 模型（具体为 CQD）结果的框架。

核心定义

玩家（Players）： 复杂查询 $Q$ 的原子（组成部分）被视为合作博弈中的玩家。
联盟（Coalitions）： 一个原子子集 $S$ 使用神经方法执行（通过链路预测器推断缺失的链路），而剩余的原子则使用符号方法执行（严格依赖于 KG 中观察到的事实）。
价值函数（Value Function）： 联盟 $S$ $S$ 对目标实体 $e_i$ $e_{i}$ 的价值由 $\Delta$ Rank 量化兴趣（QoI） 定义。它衡量了当 $S$ $S$ 中的原子进行神经执行时，相比于对整个查询进行纯符号执行，在 $e_i$ $e_{i}$ 排名位置上的提升。
- 形式化定义为： $val_{e_i}(Q_S) = r_i(Q_{\emptyset}) - r_i(Q_S)$ ，其中 $r_i$ 是在过滤设置下实体 $e_i$ 的排名。
Shapley 值计算： 特定原子 $a$ 的贡献被计算为该原子在所有其他原子可能组成的联盟中的平均边际贡献。这满足了基本的 Shapley 公理，包括效率性（所有原子贡献之和等于通过全神经执行获得的排名提升总量）。

执行细节

神经执行： 使用链路预测器（例如来自 CQD）为实体分配分数，从而实现对不完整图谱的推理。
符号执行： 在观察到的（不完整的）KG 上进行图遍历，为现有事实分配常数分数，为不存在的事实分配低分。
精确计算： 由于复杂查询中的原子数量较少（通常 $\le 4$ ），本文通过精确计算而非近似计算来获取 Shapley 值。

核心贡献

首个基于 Shapley 的 CQA 解释方法： 据作者所知，这是第一个使用 Shapley 值来解释神经复杂查询回答方法的尝试。
形式化定义原子级解释： 本文定义了一个在原子层级的形式化解释框架，将其与用于链路预测的三元组级或路径级解释区分开来。
新颖指标（CQD-SHAP）： 引入了一种量化特定原子的神经执行相对于符号执行对目标答案排名贡献程度的方法。
重新定义评估标准： 将链路预测中的**必要性（Necessary）和充分性（Sufficient）**概念扩展到了 CQA 领域：
- 必要性： 将最重要的原子替换为符号执行会导致答案排名显著下降（通过 $\Delta$ MRR 衡量）。
- 充分性： 仅对最重要的原子进行神经执行（而其他原子为符号执行）会比完全符号执行的基准显著提升排名。

实验结果

作者在 FB15k-237、NELL995 及其更难的版本（+H）上，针对各种查询类型（投影、交集、并集）对 CQD-SHAP 进行了评估。

性能： 在必要性和充分性评估场景中，CQD-SHAP 的表现一致优于所有基线方法（First, Last, Random, 以及 Score-based selection）。
- 在必要性场景下，CQD-SHAP 将平均倒数排名（MRR）降低了高达 45.70%（对于 NELL995 上的 2u 查询），显著高于最佳基线。
- 在充分性场景下，它将 MRR 提升了高达 58.90%（对于 NELL995+H 上的 2u 查询）。
查询结构敏感性： 该方法在交集查询（如 3i, 4i）上的有效性高于投影查询。作者将其归因于交集的结构特性（使用 t-norm），其中一个关键分支充当了强力的过滤器，而投影查询通常拥有替代路径。
效率： 尽管 Shapley 值具有 NP-hard 特性，但由于原子数量较少，可以进行低延迟的精确计算（取决于数据集，每个查询-答案对平均约为 30–140 ms）。
洞察： 分析表明，最重要的原子并不总是“缺失的链路”。在某些情况下，对应于 KG 中现有事实的原子可能是排名的主要驱动力，这可能是由于嵌入邻近性或由其他部分的神经执行引入的噪声所致。

意义与主张

论文声称 CQD-SHAP 提供了一种数学严谨且有效的方法来解释神经符号查询回答。通过满足 Shapley 公理，它确保了对查询组件的公平信用分配。作者断言，这种方法可以：

帮助领域专家通过揭示哪些查询部分严重依赖推断知识来识别知识图谱中的缺陷。
通过展示哪些原子对最终排名影响最大来辅助查询调试。
提供一个透明的视角，观察神经预测器如何利用不完整数据与符号检索进行对比。

作者明确指出，这是首个应用 Shapley 值来解释复杂查询回答结果的工作，超越了现有链路预测解释方法的局限性。他们指出，虽然目前的工作侧重于局部解释（单个答案），但未来的方向包括全局解释和自然语言生成，以使这些数值更具人类可读性。