What Questions Should Robots Be Able to Answer? A Dataset of User Questions for Explainable Robotics
本文介绍了一个包含 1,893 个家庭机器人用户问题的数据集，该数据集收集自 12 个类别的 100 名参与者，旨在通过揭示用户虽然频繁询问任务执行细节，但更优先关注机器人如何应对困难情境，且新手与有经验用户的问题模式存在显著差异，从而推动可解释机器人技术的发展。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你刚买了一台全新的、超级智能的机器人来帮你做家务。你看着它打扫客厅、洗碗、折叠衣物。但当你观看时，你的大脑开始涌现出一连串问题。
- “你为什么跳过了厨房？”
- “你也能擦窗户吗？”
- “如果你打碎了盘子怎么办？”
- “你怎么知道食物煮熟了？”
这篇论文本质上是一份这些问题的庞大清单。研究人员想知道：当人们看到机器人在工作时，他们究竟对什么感到好奇？ 他们并非凭空猜测，而是请了 100 位真实人士观看关于机器人执行家务任务的视频和阅读相关故事，并写下他们想问的每一个问题。
以下是他们研究发现的分类，辅以一些简单的类比：
1. “问题库”（数据集）
研究人员收集了1,893 个问题，并将它们整理成一个巨大的图书馆，包含12 个主要部分和70 个细分类别。
- 最受欢迎的货架（执行细节）： 约 21% 的问题就像在核对收据。人们想知道具体的事实细节：你做了什么？你接触了哪些物体？你是怎么做的？
- 类比： 这就像家长问孩子：“你真的把垃圾倒了吗？袋子系好了吗？”
- “你能做这个吗？”货架（能力）： 第二常见的一组（12.6%）是人们询问机器人的技能。你能洗碗吗？你能做得更快吗？
- “你做对了吗？”货架（自我评估）： 人们想知道机器人是否认为自己做得好。那很难吗？你犯过什么错误吗？
2. 大惊喜：人们实际上关心什么
这里有个转折。在人工智能研究领域，科学家们通常认为人们最关心的是“为什么”类问题（例如，“你为什么选择了那个红色的杯子？”）。他们假设我们想要理解机器人的逻辑。
论文发现了相反的情况。
虽然“为什么”类问题很常见，但用户认为它们重要性较低。
相反，人们认为最关键（即“必备”）的问题是关于安全和潜在风险的。
- 类比： 如果你雇佣了一位保姆，你并不太关心为什么他们选择了某个特定的玩具来玩。你非常关心的是：“如果宝宝摔倒了，你会怎么做？” 或者 “你如何确保他们不吃危险的东西？”
- 用户想知道：如果你掉了东西会发生什么？你如何确保不会打碎盘子？
3. “新手”与“专家”
研究人员注意到，提问的内容会根据提问者是谁而变化，这就像新手司机和赛车手会问不同的问题一样。
- 新手（对机器人不熟悉的人）： 他们问的是简单、事实性的问题。你做了什么？猫在哪里？ 他们关注的是当下的具体事实。
- 专家（了解机器人的人）： 他们问的是更深层次、更复杂的问题。你会如何处理困难的情况？你是如何决定优先处理那个任务的？ 他们对“做了什么”不太感兴趣，而更关注“怎么做”和“如果……会怎样”。
4. 这对机器人制造者为何重要
论文认为，为了让机器人真正有用且值得信赖，它们需要配备特定的“记忆”和“解释工具包”。
- “黑箱”问题： 如果机器人使用高级人工智能（如大型语言模型）与你交流，但该人工智能无法访问机器人的实际日志（就像飞行记录仪一样），那么该人工智能可能会胡编乱造（产生幻觉）。
- 解决方案： 机器人设计师需要知道记录什么。如果用户最关心安全和“如果……会怎样”的情景，那么机器人就需要记录关于潜在错误和决策过程的数据，而不仅仅是简单的行动列表。
总结
可以将这篇论文视为构建机器人“大脑”的用户手册。它告诉工程师：“不要只建造一个能解释为什么移动椅子的机器人。要建造一个能自信地告诉你如果盘子碎了它会如何处理的机器人，因为这才是真正让人感到安全并信任机器的关键。”
研究人员还指出，他们的研究使用的是视频和文本故事（像电影剧本），而非真实的互动。虽然这并非对现实生活的完美模拟，但这使他们能够快速测试大量不同的情景，从而在机器人进入我们的家之前，就清晰地描绘出人们想要了解的内容。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。