Axiomatic Foundations of Counterfactual Explanations
本文引入了一个公理化框架，通过建立不可能性和表示定理，系统地刻画了五种不同的反事实解释族群，从而弥合了自主系统中局部可解释性与全局可解释性之间的鸿沟。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正站在一台充满科技感的神秘自动贩卖机前。你投入硬币，按下按钮，机器给了你一瓶苏打水。但随后，你问道：“为什么我没得到果汁？”
目前大多数 AI 解释器试图通过观察你的特定交易来回答这个问题。它们会说：“嗯，你投入了 1.00 美元，但果汁的价格是 1.50 美元。”这是一种局部解释（local explanation）。它很有用，但它只告诉你关于这一个特定时刻的情况。
你提供的论文——Amgoud 和 Cooper 的《反事实解释的公理化基础》（Axiomatic Foundations of Counterfactual Explanations）——认为我们看待这个问题的方式过于狭隘了。他们建立了一套新的“规则手册”（公理化框架），用于对 AI 解释其决策的所有可能方式进行分类，而不仅仅是我们通常看到的那些方式。
以下是他们研究结果的简单拆解：
1. 两种主要的解释家族
作者发现，所有的反事实解释（即回答“为什么不？”的问题）都属于两大阵营，就像解决谜题的两种不同方式：
“必要性”阵营（缺失的碎片）：
- 逻辑： “如果你移除这个特定的东西，结果就会改变。”
- 隐喻： 想象一个没有长高的蛋糕。一个“必要性”解释会说：“蛋糕没长高是因为你忘了放泡打粉。”如果你没忘放泡打粉，蛋糕可能就会长高。它识别出了导致当前结果存在的关键成分。
- 陷阱： 有时并不存在单一的“缺失碎片”。例如，如果贷款被拒绝是因为收入低和信用差的复杂组合，那么仅仅移除其中一个因素可能不足以保证结果变为“通过”。在这种情况下，必要性解释可能根本不存在。
“充分性”阵营（神奇的开关）：
- 逻辑： “如果你添加或改变这个特定的东西，结果一定会改变。”
- 隐喻： 想象一个电灯开关。一个“充分性”解释会说：“如果你拨动这个开关，灯就会亮。”无论房间里还在发生什么，拨动开关都能保证变化发生。
- 陷阱： 你可以拨动的开关通常有很多个。你可以拨动开关，或者更换灯泡，或者带上手电筒。这种类型的解释能保证结果，但可能会让人应接不暇，因为选项太多了。
2. 五种类型的解释
作者不仅停留在“必要”与“充分”的区别上。他们根据规则的严格或宽泛程度，将这些解释细分为五种不同的类型。可以将这些视为不同“性格”的解释器：
全局必要型（规则守护者）：
- 功能： 解释的是整个机器，而不只是你的特定订单。它会说：“只要按钮是红色的，这台机器总是给出苏打水。”
- 受众： 想要理解系统整体逻辑的人。
- 局限性： 如果机器过于混乱（例如：有时红色给苏打水，有时给果汁），这种解释可能不存在。
局部必要型（特定侦探）：
- 功能： 观察你的订单并说：“对于你的具体情况，戴帽子这个事实就是你得到苏打水的原因。”
- 受众： 想要知道究竟是关于他们自己的什么因素导致了结果的人。
- 局限性： 就像全局版本一样，如果你的情况太独特，它可能不存在。
全局充分型（“如果……会怎样”模拟器）：
- 功能： 观察整个机器并说：“如果任何人按下蓝色按钮，他们都会得到果汁。”
- 受众： 想要知道什么样的改变能为任何人保证带来不同结果的人。
- 局限性： 它可能会建议一些并不属于你当前情况的改变（例如：“如果你是个机器人……”）。
局部怀疑型（严厉的怀疑论者）：
- 功能： 观察你的订单并说：“如果你把帽子换成一个全新的物品（一个你目前没有的东西），你就会得到果汁。”
- 受众： 想要知道自己可以做哪些新尝试的人。
- 局限性： 如果没有能保证结果发生的新事物，它可能不存在。
局部轻信型（乐观主义者）：
- 功能： 观察你的订单并说：“如果你把帽子换成另一顶帽子（即使看起来很相似），你也可能得到果汁。”
- 受众： 这正是目前大多数 AI 工具使用的类型。它是最灵活的，并能保证你会得到一个答案。
- 局限性： 它不太具有“辨别力”。它可能会建议一个对你有效、但对其他人未必有效的改变。
3. “不可能”的规则
论文证明了一个有趣的数学事实：你无法全都要。
他们表明，某些“优良品质”的组合（如：保证存在、是最短答案、以及对每个人都严格成立）在数学上是不兼容的。
- 类比： 这就像试图制造一辆既是最快、最安全、又最便宜的汽车。物理定律（或者在这里是逻辑定律）告诉你在这些属性中只能选两个。
- 结果： 如果你想要一个始终存在（有保证）的解释，你就必须放弃让它成为“最短”或“最具体”的解释。如果你想要“最短”的解释，你可能会得到一个对某些人来说并不存在的答案。
4. 为什么这很重要
在这篇论文之前，大多数 AI 工具仅仅是“局部轻信型”（第 5 类）解释器。它们就像乐观主义者：总是给你一个答案，但它们并不会告诉你这个答案是否是唯一的，或者是否是最好的方式。
这篇论文提供了一张地图。它告诉我们：
- 如果你想理解系统的规则，寻找全局必要型的原因。
- 如果你想知道究竟是什么改变了你的结果，寻找局部必要型的原因。
- 如果你只想知道任何可能的改变结果的方法，寻找局部轻信型的原因。
总结
作者并没有发明一种新的 AI 工具；他们发明了一种分类学（taxonomy）（分类系统）。他们证明了在解释“为什么不？”时，存在五种本质不同的方式，并且没有任何一种工具能同时在所有方面都是最好的。他们还表明，大多数当前的工具仅仅是其中一种特定的类型（“乐观主义者”或轻信型），如果我们了解这些规则，我们就能构建出其他潜在的、更有用的解释类型。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。