Explainable and Human-Grounded AI for Decision Support Systems: The Theory of Epistemic Quasi-Partnerships
本文提出“认知准伙伴关系理论”作为伦理人工智能决策支持系统的新框架，论证其通过优先采用基于人类的理解性解释——即由理由、反事实与置信度构成的（RCC）方法——来有效阐释实证证据并指导系统开发。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
以下是用简单语言和日常类比对该论文的解读。
大局观：“黑箱”问题
想象你是一位法官，正在决定一个孩子的未来；或者你是一位医生，正在诊断一名患者。突然，一个超级聪明的计算机程序（人工智能）给出了建议。但计算机不会告诉你它为什么做出这个选择；它只是给出答案。这就像一个“黑箱”。
该论文认为，为了让人类信任这些计算机，我们并不需要理解黑箱内部复杂的数学原理（就像机械师理解发动机那样）。相反，我们需要计算机以一种符合我们大脑认知的方式与我们交流。作者将这种关系称为建立“认识论准伙伴关系”。
可以这样理解：你正与一位向导在山区徒步。你了解地形（你是人类专家），但向导拥有高科技 GPS 和气象卫星数据（人工智能）。你们并非“伙伴”，因为 GPS 没有情感或道德责任，但你们正在共同努力做出决策。要信任这位向导，他们需要用你能实际运用的方式解释他们的建议。
当前解释方法的问题
作者研究了人工智能目前尝试自我解释的方式。他们发现，许多流行的方法对普通人来说令人困惑。
- “特征图”陷阱：想象人工智能向你展示一个条形图，上面写着：“年龄贡献了 20%，教育程度 15%，职业头衔 10%。”对计算机科学家来说，这很清晰。但对普通人来说，这就像在看一张从未去过的城市地图。你能看到线条，但不知道为什么它们重要，或者这张地图是否可靠。论文称这种现象为“认识论上的不透明”——它看起来像信息，但实际上无助于你做出决策。
- “囚犯管理疯人院”：目前，人工智能的解释通常由程序员（专家）为其他程序员设计。而实际使用人工智能的人（法官、医生或贷款审批员）却不得不试图破译他们不懂的代码。
什么真正有效？（RCC 方法）
在审查了数十项研究后，作者发现，当人工智能使用三种特定类型的解释时，人类最信任它。他们称之为RCC 方法：
理由（The "Because"）：
- 类比：人工智能不应只展示条形图，而应说：“我推荐这笔贷款，因为申请人有稳定的工作和良好的信用评分。”
- 为何有效：这听起来像人类解释自己选择的方式。它为你提供了一个清晰的“事实”作为依据。
反事实（The "What If"）：
- 类比：人工智能应说：“我推荐这笔贷款。但是，如果他们的收入低 5000 美元，我就会拒绝它。”
- 为何有效：这有助于你测试人工智能的逻辑。就像问朋友：“如果天气变了，你还会建议走这条路吗？”它向你展示了人工智能决策的边界。
置信度（The "How Sure"）：
- 类比：人工智能应说：“我有 90% 的把握这是正确的路径，但如果风势加大，我的把握会降至 40%。”
- 为何有效：人类在听从建议前，自然会评估对方的确信程度。了解人工智能的“确信水平”，有助于你决定何时听从、何时复核。
旧理论为何失败
该论文测试了关于为何我们信任人工智能的三个旧观念，发现它们并不成立：
- 理论 1：“向我展示它是如何工作的。”
- 观点：如果我们解释内部机制（齿轮和线路），我们就会信任它。
- 现实：不。我们大多数人开车时并不知道发动机是如何工作的。我们信任汽车，是因为它能安全地将我们送到目的地，而不是因为我们理解了活塞。
- 理论 2：“向我展示它在哪里会失败。”
- 观点：如果我们展示人工智能的“错误地图”（它出错的地方），我们就会信任它。
- 现实：知道汽车可能在哪里抛锚，无助于你今天驾驶它。此外，人类很难看着复杂的错误地图，判断人工智能此刻是否正确。
- 理论 3：“让它表现得像人一样。”
- 观点：如果人工智能说话和行为像人，我们就会信任它。
- 现实：这是危险的。这就像魔术。如果你让机器人表现得过于像人，你可能会欺骗自己，认为它具有它实际上并不具备的情感或道德。论文指出这是不道德的，因为它操纵了我们的信任。
解决方案：“准伙伴”
作者提出了一种看待人工智能的新方式：认识论准伙伴。
- “认识论” 意味着它关乎知识和真理。
- “准” 意味着“仿佛”。
将人工智能想象成一位非常聪明、非常诚实的实习生。
- 它是数据方面的专家。
- 它不是人类；它没有情感、没有道德责任，也没有“灵魂”。
- 但是，如果你仿佛它是试图帮助你清晰思考的伙伴那样对待它，你就能获得最佳结果。
要成为一个好的“准伙伴”，人工智能不应试图成为人类。相反，它应使用RCC 方法（理由、反事实、置信度）来说人类逻辑的语言。
核心结论
为了让人工智能值得信赖，我们不应试图让人工智能看起来像人，也不应强迫人类学习如何阅读复杂的代码。相反，我们应该设计人工智能，使其像一个乐于助人、透明的专家那样行事，并说出：
- “这是我的理由。”
- “这是会改变我想法的情况。”
- “这是我的确信程度。”
当人工智能这样做时，人类可以利用自己的判断来决定是否信任机器，从而在人与机器之间建立一个安全且高效的团队。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。