AI, Take the Wheel: What Drives Delegation and Trust in Human-Computer Cooperative Question Answering?
本文探讨了人机问答团队中委托与采纳的独特动态，揭示出尽管协作优于个体智能体，但人类因确认偏误和信心不匹配而做出次优的信任决策，因此需要改进校准与解释机制。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个高风险的问答之夜，你不仅是在与其他人竞争，还与一支机器人队友组成的团队搭档。研究人员正是通过这种方式，来探究人类与人工智能应如何协作。他们并非仅仅询问人们“你信任机器人吗？”，而是将人们置于真实的游戏中，让机器人可能犯错，而人类则必须决定何时让机器人掌控方向，何时重新夺回方向盘。
以下是他们研究发现的简要说明，使用了简单的类比：
游戏：问答锦标赛
研究人员组织了一场“问答碗”锦标赛。
- 参赛者：23 名人类问答专家（多年参赛经验者）和 16 个不同的 AI 机器人（由不同程序员利用各种智能模型构建）。
- 队伍：人类组成队伍，并必须“选秀”两名 AI 机器人作为队友，有点像在梦幻体育联盟中挑选球员。
- 两种玩法：
- “抢答”阶段（委托）：问题被大声读出，任何人都可以抢答。此时，人类必须决定：我是让机器人队友自行抢答并作答，还是将其静音，由我自己来答？ 这就像决定是让 GPS 在你小憩时驾驶汽车，还是你自己手握方向盘。
- “加分”阶段（采纳）：如果队伍答对问题，他们将进入包含三个部分的加分轮。在这里，人类先猜测答案，然后查看机器人的想法，包括其置信度评分和解释。随后人类决定：我是坚持自己的猜测，还是转向机器人所说的答案？ 这就像查看食谱，看到 AI 的建议，然后决定是否信任其建议到足以改变你的菜肴。
研究发现：“信任差距”
研究团队发现，人类与 AI 在一起时确实是一支强大的队伍，但双方在协作方面尚未达到完美。
1. “过度信任”问题（过度依赖）
有时，人类答对了答案，但机器人给出了一个自信却错误的答案。人类看到机器人的高置信度，心想：“哦，机器人一定知道我不知道的事情”，于是转而选择错误的答案。
- 类比：就像你知道某个国家的首都是巴黎，但你的 GPS 自信地说是伦敦。你惊慌失措，将目的地改为伦敦，尽管你原本是正确的。这种情况发生的频率约为 1.7%。
2. “信任不足”问题（依赖不足）
这种情况实际上更为常见。有时人类答错了答案，而机器人答对了。但人类忽略了机器人的正确答案，坚持自己的错误。
- 类比：你认为答案是“月亮”，但你的机器人队友说是“太阳”，并详细解释了原因。你因为固执或对错误答案过于自信而忽略了这一解释。这种情况发生的频率约为 3.9%。
- “回音室”效应：研究发现，如果人类答错了，而一个机器人赞同他们，人类会变得异常固执。他们如此信任机器人的认同，以至于即使另一个机器人是正确的，也拒绝改变主意。这被称为确认偏误。
3. 机器人的“虚假自信”
机器人经常给出与实际不符的置信度评分（例如“我有 90% 的把握”）。
- 类比：想象一位气象员说：“我 100% 确定会下雨”，但当天却是晴天。研究中的参与者发现，机器人的置信度评分并非可靠的指南针。当人类与机器人意见不一致时，机器人的置信度评分基本上就像抛硬币一样随机。
人类实际如何做出决策
研究人员分析了人类为何信任或忽略机器人。他们发现了一个有趣的错位：
- 什么让机器人真正正确？ 深度推理、理解线索，并引用问题中的具体证据。
- 什么让人类信任机器人？ 表面化的东西。人类喜欢机器人使用问题中的引文，或者机器人的答案听起来与自己的想法相似。
- 启示：人类被“形式重于实质”所迷惑。他们信任那些听起来很花哨或使用引文的机器人，即使机器人是错的。如果机器人提供了基于证据的深度解释，但看起来“不熟悉”，人类反而会忽略它。
实现更好协作的黄金法则
该论文基于他们在游戏中观察到的情况，提出了五条简单的规则来解决这些问题：
- 让人类控制切换：不要仅仅设置 AI 的“开/关”按钮。允许人类针对特定主题静音机器人（例如“不要让机器人回答音乐类问题”），以便他们能判断机器人在哪些领域较弱，并自行做出判断。
- 标准化置信度：机器人需要停止就其确信程度撒谎。如果机器人错了，就不应声称自己有 90% 的把握。
- 展示历史记录：不要只展示机器人的答案，而是向人类展示其历史表现：“这个机器人擅长历史，但数学很差。”这有助于人类知道何时该听取建议。
- 解决“信任不足”问题：由于人类更倾向于忽略正确的机器人，而不是盲目跟随错误的机器人，系统应突出显示机器人在人类通常不擅长的主题上表现自信的情况。
- 将解释锚定在证据上：这是最关键的一点。当机器人解释其答案时，不应只说“我认为是这样”。而应说：“我认为是这样，因为问题中提到了 [具体线索]。”当人类能看到“凭据”（具体证据）而不仅仅是一段听起来自信的段落时，他们更有可能信任该答案。
核心结论
人类与 AI 是一支强大的队伍，但目前他们正驾驶着地图不匹配的车辆。人类需要停止仅仅因为机器人听起来自信或使用引文就信任它，而机器人也需要停止在不确定的时候假装确定。如果他们能够学会基于证据而非自信来相互信任，他们就能解决任何一方单独无法解决的问题。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。