Model Reconciliation through Explainability and Collaborative Recovery in Assistive Robotics
本文提出了一种用于辅助机器人的模型协调框架，该框架利用大语言模型来解释并解决人类与机器人心理模型之间的差异，从而在共享控制场景下通过用户纠错实现协作恢复。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你和一台机器人正在像两个试图组装家具的人一样，作为一个团队共同工作。你是“共享控制”的驾驶员，引导机器人的动作，而机器人则负责重活和精准操作。但有时，机器人会感到困惑。也许它认为抽屉是开着的，而实际上是关着的；或者它找不到你指着的那个杯子。
当这种情况发生时，机器人不会只是停在那里；它需要告诉你它为什么卡住了。这篇论文介绍了一种让机器人解释其困惑的新方法，更重要的是，一种让你能与它一起解决问题的方法。他们称之为**“模型协调”（Model Reconciliation）**。
以下是其运作方式，分为几个简单的步骤：
1. “两个不同的笔记本”问题
想象一下，机器人和人类各持有一个关于世界的不同笔记本。
- 你的笔记本： 你看到柜台上有一个绿色的马克杯。你知道它在那里。
- 机器人的笔记本： 由于摄像头故障或角度问题，机器人的笔记本上写着：“我没看到绿色马克杯。”
当你问机器人：“为什么你拿不到那个绿色的马克杯？”时，它查看了自己的笔记本并回答：“我没看到它。”你说：“但它就在那儿啊！”这就是分歧（divergence）——你们的心智模型不匹配。
2. “翻译官”（AI 大脑）
在过去，机器人需要一个复杂的、预先编程的地图来精确理解你的想法才能理解这一点。这很难实现。
这篇论文使用了一个**大语言模型（LLM）**作为超级聪明的翻译官。
- 任务： 机器人询问 AI：“人类在询问一个‘青绿色杯子’，但我的数据库只知道‘绿色马克杯’，而且我的摄像头也没看到它。这两者之间有什么区别？”
- 结果： AI 扮演着侦探的角色。它对比了人类的话语与机器人的内部数据（它的“世界模型”和“动作规则”）。它找出了其中的差距，而无需了解你的整个大脑。
- 解释： 机器人随后用直白的英语对你说：“我无法在当前的视野中找到那个绿色马克杯。我的摄像头可能被挡住了。”
3. “修复阶段”（协作恢复）
解释问题固然好，但解决问题更好。这篇论文引入了第二个步骤，即你可以纠正机器人。
场景 A（机器人看不见）： 如果机器人说“我看不见马克杯”，但你知道它在那里，你可以说“就在这儿！”
- 机器人的动作： 机器人使用一个视觉语言模型（VLM）（一个可以同时“看”和“读”的大脑）来处理。它观察自己的摄像头画面。如果它看到了马克杯，它就会更新自己的笔记本：“好吧，我现在看到了。我刚才错了。”
- 建议： 如果摄像头仍然被遮挡，机器人可能会说：“我看不清楚。你能把轮椅向左移动一点点，以便我获得更好的角度吗？”
场景 B（机器人对规则感到困惑）： 有时机器人知道物体在那里，但它认为自己不能碰它。
- 例子： 你要求倒咖啡。机器人说“我做不到”。你说“但微波炉是开着的！”
- 修复： 机器人意识到它对微波炉状态的判断有误。它更新了自己的内部规则，改为：“哦，微波炉是开着的。我现在可以倒咖啡了。”
4. 他们是如何测试的
研究人员不仅仅是在空谈；他们构建了它。
- 真实的机器人： 他们使用了一台带有机械臂的真实轮椅，该轮椅旨在帮助有运动障碍的人完成日常任务。他们使用了真实的物体进行测试，如保温瓶、马克杯和苹果。
- 数字孪生： 他们还在计算机模拟（机器人的“数字孪生”）中运行了数百次测试，以观察 AI 的解释效果如何。
结果：
- 当他们允许机器人利用其内部“笔记本”（其模型）来辅助 AI 进行解释时，其表现比仅仅让 AI 根据图片进行猜测要好得多。
- 系统成功地解释了机器人为什么无法执行某些操作（例如“我不知道什么是菠萝”或“我看不见马克杯”），并帮助用户修复问题，从而让机器人完成任务。
核心结论
这篇论文展示了一种让机器人表达“我的地图与你的地图不一致”并让你协助它们重新绘制地图的方法。它将令人沮丧的“机器人错误”转变为一场人类与机器人相互学习的对话，使团队协作更加顺畅、安全。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。