🤖 AI

Beyond But-for Test: Counterfactual Explanation in Abstract Argumentation via Actual Causality (Extended Version)

本文引入了一种基于干预的反事实推理框架，用于抽象论证，该框架通过将论证接受度编码为方程，并应用 Halpern-Pearl 因果关系来准确识别在抢占和过度决定等复杂场景中的原因，从而克服了传统“若非”测试的局限性。

原作者： Siyi Liu, Muyun Shao, Beishui Liao

发布于 2026-07-01

📖 1 分钟阅读☕ 轻松阅读

原作者： Siyi Liu, Muyun Shao, Beishui Liao

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你是一名试图查明为什么某个特定论点（我们称之为“英雄”）在辩论中获胜的侦探。在人工智能的世界里，这被称为“抽象论证”（Abstract Argumentation）。通常，AI 系统只是列出英雄获胜的原因，就像一份静态的清单。

但人类并不是按清单思考的。我们通过**“如果……会怎样？”*的情景来思考。我们会问：“如果我们改变了另一个论点的状态，英雄还会赢吗？”*

这篇论文介绍了一种更聪明的方法，让 AI 能够回答这些“如果……会怎样？”的问题。它超越了简单的**“若非测试”（But-For Test），转而使用一种更高级的方法——“实际因果关系”（Actual Causality）**。

以下是使用简单类比进行的拆解：

1. 问题所在：“若非测试”过于简单

旧的解释方式就像是在问：“如果我没有踢那个球，球还会进球吗？”

逻辑： 如果答案是“不，球不会进”，那么你的那一脚就是原因。
缺陷： 这在简单情况下有效，但在多个事物同时发生的情况下会失效。

“抢占”（Preemption）陷阱（保镖类比）：
想象一位 VIP（英雄）正在街上行走。

保镖 A 走在前面，挡住了狙击手。
保镖 B 走在后面，也准备好挡住狙击手。
VIP 是安全的。

如果你使用“若非测试”来问：“如果保镖 A 不在那里，VIP 还会安全吗？”

AI 的旧回答： “是的！因为保镖 B 会挡住狙击手。”
结果： AI 得出结论认为保镖 A 并不是 VIP 安全的原因。
现实情况： 这感觉不对！保镖 A 确实是积极的保护者。问题在于，当你移除 A 时，AI 让 B 介入并改变了故事。AI 没有让其他保镖“冻结”在他们原始的位置上。

2. 解决方案：“干预”框架

作者提出了一种新方法，就像电影拍摄现场上的**“时空旅行导演”**。

导演不仅仅是删除一个角色然后观察会发生什么，而是使用一种特殊的工具，叫做**“干预算子”（Intervention Operator）**。

第 1 步： 导演挑选他们想要测试的角色（例如：保镖 A）。
第 2 步： 他们改变该角色的角色（例如：让他们失败）。
第 3 步（魔法时刻）： 他们将所有其他角色（“见证者”）冻结在他们原本的精确位置上。他们不允许保镖 B 突然站出来救场。

通过将其他角色“固定”住，导演可以观察到仅仅改变其中一件事所产生的真实影响。这使得 AI 能够正确识别出，即使保镖 B 就在旁边，保镖 A 仍然是起作用的原因。

3. “过度决定”（Overdetermination）陷阱（双重枪手）

还有另一种棘手的局面叫做**“过度决定”**。

想象有两个狙击手，狙击手 X 和 狙击手 Y，都瞄准着一个目标。
两人同时扣动了扳机。
目标被击中了。

如果你使用“若非测试”来问：“如果狙击手 X 没有开枪，目标会被击中吗？”

AI 的旧回答： “是的，因为狙击手 Y 也开了枪。”
结果： AI 认为两个狙击手都不是原因。这显然是错误的。

新方法通过允许 AI 测试组合来修复这个问题。它会问：“如果我们同时改变狙击手 X 和狙击手 Y，目标还会幸存吗？”

答案： 是的，如果两人同时停止射击，目标就会幸存。
结果： AI 正确地识别出，两者结合在一起才是真正的起因。

4. 它是如何运作的（“方程”机器）

为了在数学上实现这一点，作者将论证图转化为一组方程（就像一个食谱）。

他们创建了一个“模型”，其中每个论点的状态（接受、拒绝或未定）都是基于其攻击者计算出来的。
他们使用了一种**“图谱损毁”（Graph Mutilation）**技术。想象论证网络是一幅画。为了测试一个假设，他们实际上“切断”进入某个论点的线条，并强行让该论点呈现出特定的颜色（接受或拒绝），从而忽略其他线条试图传达的信息。
这种视觉上的“切割”确保了 AI 不会被那些可能因为第一个论点改变而改变想法的论点所迷惑。

5. 为什么这很重要

这篇论文将这种新方法与另外四种流行的 AI 决策解释方法进行了对比。

旧方法： 经常会遗漏“抢占”案例（误以为备份方案完成了工作）或“过度决定”案例（误以为单个原因并不重要）。
新方法： 它更加具有选择性且可靠。它能找到为什么一个论点获胜的实际原因，即使是在存在循环和备份机制的复杂、混乱的情况下。

总结：
这篇论文为 AI 提供了一种更好的解释其思维的方式。它不再仅仅是列出理由，或者进行容易被备份计划干扰的简单“如果……会怎样？”的提问，而是使用了一种“时空旅行导演”式的方法。它在测试一项变化时冻结了其余的世界，从而确保它能找到决策的真实原因，无论这个原因是一个英雄还是一个团队协作。

技术摘要：超越“若非测试”：通过实际因果关系在抽象论证中进行反事实解释

问题陈述
在可解释人工智能（XAI）领域，抽象论证（Abstract Argumentation, AA）为为什么某些论证在特定语义下被接受提供了结构化的解释。虽然现有方法通过识别满足相关性（Relevance）、单调性（Monotonicity）或必要性（Necessity）属性的论证集来回答事后问题，但它们通常依赖于静态的理由列表。然而，人类推理经常采用反事实思维（“如果……会怎样”的情景）来探究因果依赖关系。

目前针对抽象论证中的反事实解释方法局限于**“若非测试”（But-for Test, BFT）。这种原始测试询问：如果一个受怀疑的潜在原因发生改变（例如，删除一个攻击或增加一个新的攻击者），主题论证的接受状态是否会改变。本文指出该方法存在一个关键缺陷：它未能将其他论证作为“见证者”（Witnesses）保持固定。因此，BFT 在复杂的论证结构中会产生违反直觉的结果，特别是在抢占（Preemption）（即一个原因阻断了另一个原因）和过度决定（Overdetermination）**（即多个原因共同起作用）的情况下。在这些案例中，改变单个原因可能不会改变结果，因为替代路径会被激活，导致 BFT 错误地识别或遗漏了实际原因。

方法论
为了克服“若非测试”的局限性，作者引入了一个基于结构方程模型（SEM）和 Halpern–Pearl（HP）实际因果关系定义的基于干预的反事实推理框架。

可接受性模型： 该框架将论证的接受条件编码为一组方程。对于论证 $\alpha$ ，其标签（$in$, $out $, 或$ und$）由其攻击者的标签决定。这通过将论证框架（AF）转化为一个函数模型 $M_F$ 。
干预算子： 作者定义了一个干预算子 $[\psi]$ $[ψ]$ ，根据假设 $\psi$ $ψ$ （一组原子命题的合取）来修改模型 $M_F$ $M_{F}$ 。与简单的图修改不同，该算子：
- 将受干预论证的可接受性方程替换为返回指定标签的常数函数。
- 支持复合假设，从而实现对多个论证的同时修改。
- 至关重要的是，它支持固定见证论证至其真实标签，防止替代路径扭曲反事实评估。
精炼的反事实条件 (AC2m)： 超越 BFT，本文采用了改进的反事实条件 AC2m。若假设 $\psi$ $ψ$ 是一个实际原因，则需满足：
- 现实性 (AC1)： 在原始标签中， $\psi$ 与效应同时成立。
- 修正反事实 (AC2m)： 存在 $\psi$ 的一种修改版本 $\psi'$ 以及一组固定的见证者 $\chi$ （保持其原始标签的论证），使得通过 $\psi' \land \chi$ 进行干预时，主题论证的状态发生改变。
- 最小性 (AC3)： 该原因不包含冗余部分。

主要贡献

建立抽象论证中实际因果关系的正式框架： 本文建立了 HP 实际因果关系与抽象论证之间的首次正式联系，超越了原始的“若非测试”。
处理抢占与过度决定： 通过固定见证者，该方法能正确识别在这些场景下 BFT 失效的情况。
- 抢占： 在 $\alpha$ 阻碍 $\beta$ 保护 $\eta$ 的场景中，BFT 无法将 $\alpha$ 识别为原因，因为移除 $\alpha$ 会重新激活 $\beta$ 。所提方法通过固定 $\beta$ （或其路径）至其真实状态，从而揭示 $\alpha$ 是真正的起因。
- 过度决定： 在 $\alpha$ 和 $\beta$ 均足以保护 $\eta$ 的场景中，BFT 无法将其中任何一个识别为原因（因为移除一个会导致另一个依然生效）。所提方法将 $\alpha$ 的 $in $与$ \beta $的$ in $的合取$ in(\alpha) \land in(\beta)$ 识别为实际原因。
图破坏可视化： 作者将逻辑干预映射为 AF 上的图形操作（添加攻击者、删除攻击或添加自环），为代数干预提供了视觉对应物。
对比分析： 本文将新方法与现有的基于论证的解释（根源理由、充分/必要集）以及最近世界（Closest-world）反事实进行了比较。结果表明，所提方法更具选择性且更可靠，尤其是在避免了最近世界法在存在唯一标签时出现的“空解释”问题。

结果与属性

表达能力： 该方法支持复合假设，允许解释联合原因，而受限于原子变化的 BFT 则无法做到这一点。
相关性： 该方法满足相关性属性；解释中的所有论证都与主题相关。
非单调性： 与某些传统解释方法不同，反事实解释是非单调的。向有效的解释中添加论证可能会违反最小性条件。
在特定结构中的优越性：
- 在抢占中，该方法识别出抢占性的论证为原因，而“根源理由”可能会包含无关的防御者，而“最近世界”法可能无法产生解释。
- 在过度决定中，该方法识别出多个论证的联合必要性，而“根源理由”和“充分性”解释往往无法区分对称的防御者或返回平凡集合。
- 该方法确保了接受状态汇节点（sink nodes）解释的存在性，这是最近世界法在 AF 仅存在唯一标签时会失败的属性。

意义与主张
本文声称，通过将 Halpern–Pearl 的实际因果关系定义集成到抽象论证中，所提出的框架提供了一种更精细且符合人类逻辑的反事实解释方法。作者认为，能够固定见证者的能力对于在复杂的依赖结构中正确识别原因至关重要，从而克服了困扰当前 AA 解释方法的“若非”局限性。作者将这项工作定位为迈向更稳健的 XAI 的一步，提供了一种逻辑语言，既能处理循环依赖和复杂的因果模式（如抢占和过度决定），又能保持与论证结构属性的一致性。文中也指出，未来仍需在计算复杂度、扩展至其他语义（grounded, preferred, stable）以及应用于扩展论证形式（PAF, ADF, ASPIC+）等方面进行研究。

1. 问题所在：“若非测试”过于简单

2. 解决方案：“干预”框架

3. “过度决定”（Overdetermination）陷阱（双重枪手）

4. 它是如何运作的（“方程”机器）

5. 为什么这很重要

类似论文