Evaluating XAI Support From A Hierarchical Reinforcement Learning Policy in Human-Agent Collaboration
本文通过使用 Overcooked-AI 基准测试，对人类-智能体协作中本质可解释的分层强化学习进行了首次系统性评估，结果表明，尽管解释显示出向更快改进发展的趋势，但通过音频传递的解释因创造了未达成的伙伴关系预期，显著削弱了人类-智能体的协作联盟。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下你正在玩一款高速视频游戏，你的队友是一个机器人。你们必须在时间耗尽之前完成切洋葱、煮汤并上菜的任务。在现实世界中，当两个人类一起玩耍时，他们会交流：“我去拿番茄，你去拿锅！”或者“小心，我要过来了！”这种聊天有助于他们建立对正在发生之事的共同理解。但机器人通常像沉默、神秘的机器；它们动作迅速并执行任务，但不会告诉你“为什么”。这造成了一个鸿沟。如果一个机器人要成为真正的伙伴，而不仅仅是一个工具，它需要解释自己的想法。这就是“可解释人工智能”（XAI）发挥作用的地方。它是关于教机器人说出“我这样做是因为……”的科学，以便人类能够更好地信任并与它们协作。但棘手的部分在于：如果机器人话太多，可能会分散你的注意力；如果它说话的方式不对，可能会让你感到厌烦。大问题在于：我们如何让机器人解释自己，而不至于干扰游戏的进行？
这篇论文通过使用一个名为 Overcooked-AI 的游戏搭建了一个数字厨房实验，深入探讨了这个问题。研究人员使用了一种特殊的机器人大脑，叫做“分层强化学习”。你可以把它想象成这样一个机器人：它不仅思考每一个微小的步骤（比如“向左移动，向右移动”），而是以更大的块状思维进行思考，比如“拿一个洋葱”或“把汤放入碗中”。因为它是以这些大块思维进行思考的，所以它可以自然地告诉你它下一步计划做什么。团队想要观察让这个机器人向人类玩家进行解释是否会让他们的协作更加默契。他们测试了两种沟通方式：机器人可以在屏幕上输入文字（文本），或者通过声音表达出来（语音）。
结果既充满了惊喜也充满了教训。首先，机器人的解释并没有立即提高团队的得分。事实上，那些没有获得任何解释的人类玩家平均得分实际上略高一些，尽管差距并不大。这表明对于已经擅长游戏的玩家来说，不断的更新可能只是一种干扰。然而，这里也有一个积极的发现：获得解释的玩家似乎能更快地学会如何与机器人协作。随着时间的推移，他们的得分提高得更快，仿佛机器人的喋喋不休帮助他们更快地摸清了机器人的风格。
但最有趣的发现发生在机器人说话的“方式”上。当机器人通过语音（音频）说话时，奇怪的事情发生了。尽管玩家的学习速度更快了，但他们感觉与机器人的连接感却弱得多。他们感觉自己并不在同一个团队里。就好像机器人的声音让他们期待一场真正的对话和对接下来会发生之事的承诺。但由于机器人只是在对当下做出反应（就像一种反射），它经常在说话后瞬间改变主意。当机器人说“我要去拿锅”时，紧接着却立刻跑向了柜台，人类会感到被背叛了。语音让机器人看起来像是一个应该信守诺言的伙伴，但机器人的大脑过于具有反应性，以至于无法真正履行这个承诺。
相比之下，当机器人只是在屏幕上输入消息时，玩家并不会感到这种背叛感。如果他们愿意，他们可以忽略这些文字，因此机器人不会显得像个“虚假”的伙伴。这项研究表明，虽然说话能吸引注意力并帮助人们更快地学习，但它也提高了期望，而一个简单的、反应式的机器人可能无法满足这些期望。研究人员得出结论：如果我们希望机器人与我们交谈，我们需要确保它们确实能够履行其声音所暗示的承诺，否则这种伙伴关系可能会感到破裂。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。