What Do You Think I Think? Accounting for Human Beliefs Using Second-Order Theory of Mind
本文提出了一种基于交互部分可观测马尔可夫决策过程（I-POMDP）的二阶心智理论框架，使智能体能够检测并自适应地应对人类对智能体的认知偏差和错误信念，从而提升交互质量与反馈效用，用户研究结果证实了这一点。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在教一个机器人如何整理一副特殊的卡牌。你脑海中有一条秘密规则（例如，“红牌放入 1 号箱，蓝牌放入 2 号箱”）。机器人还不知道这条规则；它必须通过观察你如何整理卡牌以及倾听你的话语来学习。
问题在于，你可能会在“你认为机器人是如何思考的”这一方面犯错。
核心问题：“读心”鸿沟
在这篇论文中，研究人员试图解决一种特定的沟通障碍。人类往往存在“认知偏差”——即那些让我们对他人做出不实假设的思维捷径。
- 情境：你可能会想，“机器人很聪明；它肯定知道红牌意味着 1 号箱，因为这是最明显的模式。”
- 现实：机器人实际上很困惑，它想，“我还不知道红牌是什么意思。”
- 结果：你停止了教学，因为你以为机器人已经懂了；或者你以让机器人困惑的方式教学，因为你假设它理解你的思维捷径。
解决方案：“二阶”心智
研究人员构建了一个拥有特殊心智超能力的机器人，称为二阶心智理论（ToM-2）。
要理解这一点，可以把它想象成一场“我知道你知道我知道”的游戏：
- 零阶机器人（基础版）：它只观察你放入箱子的卡牌。它会想，“好的，你把一张红牌放到了这里。我会更新我的规则。”它完全不知道你在想什么。
- 二阶机器人（读心者）：这个机器人不仅观察卡牌，它还模拟你的大脑模型。它会问自己：“人类此刻认为我知道什么？”
如果机器人意识到，“哦，人类以为我知道规则是关于颜色的，但我实际上认为规则是关于形状的”，它就能发现这种脱节。
机器人如何修复对话
论文描述了一个游戏，机器人必须猜测整理规则。机器人利用其“读心”能力来检测人类两种特定的习惯（偏差）：
- 代表性启发法：你可能只关注那些符合你心中规则的卡牌，而忽略那些能证明其他规则错误的卡牌。
- 确认偏误：你可能只关注那些证实你已有信念的机器人反馈。
当机器人检测到这些习惯时，它会改变策略。它不再只是说“我不确定”，而是给你一个两部分提示：
- 部分 A（提示）：“看起来你想让我认为规则是关于形状的，但是……"
- 部分 B（纠正）："……规则仍可能是关于颜色的。”
通过明确陈述“我知道你认为我在想什么，但我实际上在想别的东西”，机器人打破了人类的心智循环，迫使他们重新考虑教学策略。
实验：整理卡牌
研究人员用 30 名真实的人测试了这一点。
- 设置：人们使用电脑教一个虚拟代理整理具有不同颜色、形状和数字的卡牌。
- 对比：
- A 组教导了一个无法读心的“基础机器人”（零阶）。
- B 组教导了能够检测偏差的“读心机器人”（二阶）。
发生了什么？
- 更高效的教导：人们教导读心机器人的效率要高得多。因为机器人纠正了他们的误解，人类停止了冗余操作并提供了更好的示例。
- 更多信息：人们选择展示给读心机器人的卡牌包含了更多有用信息。人类在潜意识中调整了教学风格，因为机器人以一种能解释他们困惑的方式“回话”。
- “无意识”的好处：有趣的是，当事后被询问时，人们并没有说：“哇，那个机器人太擅长读心了！”他们只是觉得反馈更有用。他们不一定意识到为什么互动更顺畅；他们只知道这样效果更好。
结论
这篇论文表明，如果人工智能能够模拟你认为它知道什么（并意识到你对此的误解），它就能给你提供更好的反馈。这有助于你更快、更准确地教导它，即使你没有完全意识到人工智能正在通过解决你的思维盲点来承担繁重的工作。
注意：研究人员在一个简单的整理卡牌游戏中测试了这一点。他们承认现实生活要复杂得多，而且他们的机器人只关注了两种特定类型的人类偏差，但在他们的实验中，模拟人类误解能改善团队合作这一核心思想是有效的。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。