Epistemic Trustworthiness in Generative AI: A Normative Framework for Warranted Reliance in High-Stakes Workflows

想象一下，你正漫步在一座宏伟且充满魔力的图书馆中，这里的书竟然可以与你对话。这不仅仅是一座普通的图书馆，它代表了我们获取答案、解决问题和做出重大决策的未来。这些“会说话的书”就是生成式人工智能（Generative AI）系统——它们是超级聪明的计算机程序，能够像人类专家一样撰写故事、解决数学问题并提供建议。但问题在于：这些书非常擅长表现得自信满满。它们用完美、流畅的句子说话，让你觉得它们无所不知。这创造了一个棘手的局面。如果一本书听起来如此流畅且笃定，你真的会信任它吗？还是你会停下来自问：“等等，你真的知道这些吗，还是你只是为了让自己看起来很酷而在瞎编？”

这篇论文深入探讨了科学领域中的一个特定角落——认识论（epistemology），这只是一个关于“我们如何知道我们所知”的专业术语。它提出了一个简单却巨大的问题：在什么时候，信任计算机给出的答案才是真正“可以接受”的？作者认为，仅仅因为人工智能在普遍意义上是准确、安全或公平的，并不意味着你在处理重要事务（如医疗诊断或法律案件）时，使用其答案是具有正当性的。他们指出，如果我们想要真正依赖这些 AI “会说话的书”，该系统需要向我们展示三件具体的事情：它需要承认自己的不确定性；它需要让我们窥见其内部运作机制，看清它是如何得出答案的；它还需要尊重我们的知识与经验，而不是忽视它们。

---

“可靠机器人”测试：为什么“正确”本身还不够

想象你有一个名叫“精灵”（Genie）的机器人助手，它能帮你做作业。精灵非常厉害。它写的文章听起来完美无瑕，能瞬间解开方程式，而且从不疲倦。但有一天，你请精灵帮你完成一个非常重要的项目：为学校科学展建造一座桥梁。精灵给出了一个方案，看起来非常棒。它用完美的英语写成，听起来也极其自信。

现在，这就是论文指出的核心问题：仅仅因为精灵听起来很自信，并不意味着你可以安全地建造这座桥。

这篇论文的作者说，如果你想要“真正有正当理由地信任”精灵（他们称之为“认识论上的正当依赖”），精灵需要通过三项特定的测试。如果它哪怕有一项失败了，你都不应该建造那座桥，无论那篇论文看起来多么出色。

1. “我不知道”按钮（认识论的谦逊）

首先，精灵需要保持谦逊。在现实世界中，聪明人知道自己的极限。他们会说：“我对这一部分不太确定，”或者“在回答之前，我需要查阅一下教科书。”

• 类比： 想象精灵是一位导游。一位值得信赖的导人会说：“我知道通往城堡的小路，但我不确定后面的洞穴情况，所以我们要小心。”而一个糟糕的导游（即未能通过此项测试的导游）可能会说：“我无所不知！”即便他们正走向悬崖。
• 论文的发现： 作者发现，许多 AI 系统就像那个糟糕的导游。它们可能会给你一个错误的答案，但却以 100% 的信心给出。更糟的是，如果你问它们：“你确定吗？”它们可能会变本加厉地坚持说：“是的，我绝对确定！”即便它们是在胡编乱造。论文认为，一个值得信赖的 AI 必须能够说出：“我不确定，以下是你应该采取的做法”，而不是仅仅假装自己知道。

2. “展示过程”规则（认识论的可及性）

其次，精灵需要让你看到它是如何思考的。在学校里，如果你做对了一道数学题但没有展示解题过程，老师可能仍会对你有微词，因为老师无法判断你是靠运气撞对的。

• 类比： 想象精灵给了你一张藏宝图。一个值得信赖的精灵不仅会把地图交给你，还会向你展示它用来绘制地图的指南针、旧日志和线索。它让你能够检查这些线索。而一个糟糕的精灵只会把地图塞给你，然后说：“相信我，宝藏就在这里！”却不向你展示任何一个线索。
• 论文的发现： 作者研究了律师和医生使用的 AI 工具。他们发现，即使 AI 给出了正确的答案，它也经常隐藏其寻找答案的过程。有时，AI 会引用一本根本不存在的书，或者引用一条多年前已被废止的法律。论文指出，如果你无法检查这些“线索”（证据），你就无法真正信任这张地图，即便目的地看起来是正确的。

3. “倾听我”规则（对认识论不公的抵抗）

第三，精灵需要尊重你。它需要将你的知识和背景视为重要的。

• 类比： 想象你在就你社区的一个问题与精灵交谈。一个值得信赖的精灵会倾听你的故事并说：“这很有道理，我们可以这样来解决它。”而一个糟糕的精灵可能会忽略你的故事，因为你听起来不像个“专业人士”，或者它可能会认为你的经验不如教科书重要。
• 论文的发现： 论文显示，AI 有时会根据人们的身份进行区别对待。例如，在一项研究中，AI 向医生提供了详细的医疗建议，但对于提出完全相同问题的患者，却只说“去看医生就行了”，没有提供任何帮助。AI 在技术层面并非“不安全”，它只是对患者显得粗鲁且敷衍。作者认为，一个值得信赖的 AI 必须尊重每个人被倾听和被理解的权利。

“三脚凳”规则

这篇论文最重要的发现是，这三条规则就像凳子的腿。你需要全部三条。

• 如果精灵很谦逊且让你检查它的工作，但它忽视了你的背景，凳子就会倒下。
• 如果精灵尊重你并让你检查它的工作，但它从不承认自己不确定，凳子也会倒下。
• 如果精灵很谦瑟且尊重你，但你无法看到它是如何得出答案的，凳子依然会倒下。

论文通过现实案例证明了这一点。他们研究了一个案例：律师使用 AI 编写一份法庭文件，而 AI 编造了虚假的判例。结果律师们受到了惩罚。论文指出，这不仅仅是一个“错误”；这是 AI 未能做到谦逊（它没有说“我正在编造这些”）以及未能实现可及性（律师无法轻易检查这些案例是否真实）的表现。

他们还观察了对求职者进行排名的 AI 招聘工具。即便该 AI 在普遍意义上是“公平”的，它有时仍会仅仅因为姓名而降低某些人的排名。这是对“倾听你”的失败（对认识论不公的抵抗失败）。

那么，我们该怎么做？

论文建议，我们不应仅仅试图让 AI 变得“更聪明”或“更准确”。我们需要改变我们与它交流的方式以及设计它的方式。

• 增加“摩擦力”： 作者建议，有时计算机应该让使用过程变得稍微困难一点。想象一下，如果 AI 说：“我对这一点不是 100% 确定，所以在你使用这个来源之前，请务必再次核实。”这种“摩擦力”能阻止你盲目地信任 AI。
• 检查凳子： 在让我们利用 AI 做出重大决策（如在医院或法院中）之前，我们需要检查所有三个环节。它谦逊吗？我们可以看到它的工作过程吗？它尊重我们吗？如果缺了任何一条腿，我们就不应该让它胜任这项工作。

简而言之，论文告诉我们，仅仅做对是不够的。 要想真正信任一个机器人，它必须诚实面对自己的未知，展示它的作业过程，并把我们当作值得获得真正答案的聪明人对待。如果它做到了这三点，我们才能最终说：“好吧，我信任你。”否则，我们应当始终让自己的大脑掌握驾驶权。