Realistic Counterfactual Explanations via Denial Constraints
本文提出了一种通过整合关系数据库中的否定约束来生成可解释人工智能中现实反事实解释的新颖方法，以确保生成的实例符合数据有效性规则，从而在对距离和多样性指标影响最小的情况下提高实际应用性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在人工智能的世界里，机器经常做出影响我们生活的决策，从批准贷款到诊断疾病。当这些系统说“不”时，了解原因会很有帮助。解释决策的一种流行方式是想象一个与当前情况略微不同的版本，而这个版本会导致“是”的结果。如果一份贷款申请被拒绝，一个有帮助的解释可能会建议，如果收入能多赚一点或者信用评分稍微高一点，结果就会改变。这些想象出来的替代方案被称为“反事实”（counterfactuals）。它们就像一束聚光灯，精准地展示了个人或物体的哪些特征对机器的判断最为重要。然而，为了让这些解释真正有用，它们必须符合现实世界的逻辑。如果一个解释建议拥挤城市中的一个小公寓突然变成了十居室，这在数学上是可能的，但在物理上是不可能的。如果建议的变化是不切实际的，那么这个解释就无法帮助人们理解自己的处境或解决问题。
特拉维夫大学、eBay 和耶路撒冷希伯来大学的研究人员解决了这种不切实际的建议问题。他们发现，目前用于生成这些解释的最先进工具往往会产生违反现实基本规则的结果。例如，某个工具可能会建议某个特定社区的房屋拥有某种在该地区根本不存在的浴室数量，或者一个人的年龄和受教育程度与已知的社会生活事实相矛盾。为了解决这个问题，该团队将用于解释 AI 的方法与数据库管理技术相结合——后者是确保计算机中的数据保持一致且准确的领域。他们引入了一个系统，该系统会根据源自真实数据的逻辑规则集来检查每一个建议的变更。这些被称为“否定约束”（denial constraints）的规则就像一个过滤器，确保任何提出的新场景都符合实际可能性的边界。
研究人员在四个不同的数据集上测试了他们的新方法，包括纽约房地产、税务记录和人口统计数据。他们将自己的方法与现有的领先工具进行了比较，该工具以能够找到多样化且接近的解释而闻名，但却忽略了这些解释是否符合现实。结果非常悬殊。在房地产数据集中，几乎所有由标准工具生成的解释都违反了至少一条现实规则。在某些情况下，它提出的每一个建议都是不可能实现的。相比之下，新系统生成的解释违反的规则为零。它提供的每一个场景都与所观察到的数据保持一致。这并没有付出沉重的代价。新解释距离原始情况仅稍远一些，并且保持了同样的差异性，提供了各种不同的原因。事实上，在某些数据集上，新方法甚至提供了更好的解释，因为标准工具为了寻找解决方案被迫进入了不可能的领域。
这项工作的一个主要挑战是速度。针对数千条规则检查每一个可能的变更可能会非常缓慢，甚至可能导致单次检查耗时数小时。该团队开发了一系列巧妙的捷径，使过程足够快以投入实际应用。系统不再每次都针对每条规则对每项数据进行检查，而是学会了识别哪些规则与当前特定情况相关。他们还建立了一种记忆先前检查结果的方法，这样就不必重复劳动。这些优化使得系统的速度比直接、未经优化的处理方式快了多达 63 倍。这种速度至关重要，因为它意味着该系统可以用于实时应用，而无需等待计算机运行一个小时来计算数值。
研究还调查了其他试图使解释具有现实感的方法，例如使用复杂模型来推测数据特征的方法，或者仅从现有列表中挑选示例的方法。研究人员发现，即使是这些复杂的模型也经常无法遵守数据的硬性规则。一个模型可能会建议一种特征组合，虽然在统计学上看起来很可能，但仍然违反了特定的逻辑规则，比如某种不适用于特定州的免税政策。新方法的独特之处在于，它保证了解释不会破坏任何规则。它通过将规则视为绝对法则而非软性建议来实现这一点。如果一个建议违反了规则，系统会对其进行调整直到符合要求，从而确保最终的解释不仅是一个猜测，而是一个事实有效的场景。
这项工作凸显了我们目前如何信任和理解人工智能的一个重大差距。它表明，仅仅接近原始数据是不够的；一个解释还必须植根于它所描述的现实世界之中。通过确保反事实是现实的，研究人员使这些解释变得更加可靠且有用。无论是房主在疑惑为什么自己的房产价值较低，还是求职者在理解为什么被拒绝，了解通往不同结果的建议路径是否真的可行，这决定了这究竟是一个令人困惑的数学技巧，还是一个清晰且具有行动意义的洞察。该团队在平衡现实性、多样性和速度方面的成功表明，可解释人工智能的未来不仅在于找到最接近的答案，更在于找到真实的答案。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。