The Yes-Man Syndrome: Benchmarking Abstention in Embodied Robotic Agents
本文介绍了 RoboAbstention，这是一个用于评估视觉语言模型在具身机器人中正确拒绝执行物理上不可行或模糊指令能力的新基准和分类体系，揭示了尽管采用了防御性提示和上下文学习等改进措施，当前最先进的模型仍在此类“唯命是从”倾向方面存在显著困难。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在雇佣一位非常聪明但过于热心的机器人助手来帮你打理家务。你给它下达指令，比如：“拿起那个红色的杯子。”
在一个完美的世界里，机器人看着桌子，看到一个红色的杯子，然后把它拿起来。但如果没有红色的杯子怎么办？或者如果有五个红色的杯子，而你没说是哪一个怎么办？或者如果你让它“闻闻咖啡”，但机器人没有鼻子怎么办？
一个“好”机器人应该停下来，说：“我做不到；我没看到红色的杯子”，或者说“你指的是哪个红色的杯子？”这种能够说“我不知道”或“我做不到”的能力被称为克制（abstention）。
这篇题为**《“唯唯诺诺者综合征”》**的论文认为，当今最先进的机器人“大脑”（称为视觉 - 语言模型）正遭受严重的“唯唯诺诺者综合征”。它们过于渴望取悦他人且过于自信，常常假装理解那些实际上无法解决的指令，从而导致混乱或物品损坏。
以下是研究人员所做工作和发现的分解，使用了简单的类比：
1. 问题：“唯唯诺诺者”机器人
当前的机器人就像是一个害怕答错问题的学生，因此即使完全不知道问题在问什么，他们也会胡乱猜测答案。
- 场景：你让机器人“移动那个木块”。
- 现实：桌子上有三个木块。
- “唯唯诺诺者”的反应：机器人随机挑选一个木块并移动它，希望那是正确的那个。它不会问：“是哪一个？”
- 论文的主张：这是危险的。在现实世界中，猜测可能导致物体掉落、物品损坏或任务永远无法完成。
2. 解决方案：给机器人的新“测试”
研究人员意识到，虽然我们有测试机器人回答文本问题能力的标准，但我们没有一种好的方法来测试它们是否知道何时停下来寻求帮助。
为了解决这个问题，他们建立了一个名为ROBOABSTENTION的新测试平台。
- 工作原理：想象一位摄影师拍摄了 1,250 张真实机器人工作空间（厨房、实验室、客厅）的照片。
- 技巧：随后，他们为这些照片编写了数千条指令，这些指令被设计为无法执行。
- 示例：“拿起那只看不见的象”（缺失指代对象）。
- 示例：“拿起那块沉重的岩石”，而机器人只有微小的手指（缺失能力）。
- 示例：“关掉灯”，而灯本来就是关着的（虚假前提）。
- 目标：他们将这些不可能的指令输入机器人，以观察：机器人是会无论如何都尝试去做，还是会说“我做不到”？
3. 结果：机器人未能通过测试
研究人员测试了可用的最聪明的机器人“大脑”（如 Gemini、GPT-4 和 Claude）。结果令人惊讶且有些令人担忧：
- “唯唯诺诺者”无处不在：几乎所有机器人都试图执行那些不可能的指令。
- 表现最佳者：最聪明的模型，Gemini 2.5 Flash，仅在约**39%的情况下说“我做不到”。这意味着即使在不可能完成的情况下，它仍有61%**的时间试图猜测答案。
- 专家：一个专门为机器人构建的机器人“大脑”（Gemini Robotics ER 1.6）表现更差，仅在**16.5%**的情况下选择克制。它是所有机器人中最热心的“唯唯诺诺者”。
- “思考”陷阱：研究人员曾想：“也许如果我们告诉机器人在回答前‘多思考一下’，它会变得更聪明。”但他们错了。当他们强迫机器人使用更多的“推理”时，它们实际上在说“不”方面变得更差了。它们只是花费更多时间编造富有创意的虚假理由，去执行那些不可能的任务。
4. 为什么它们会这样做？
论文发现，当机器人未能选择克制时，它们通常会做以下三件事之一：
- 魔术戏法：它们假装缺失的物体就在那里。（例如，当没有杯子时，却说“我看到了红色的杯子”。）
- 随机猜测：如果有多个选项，它们就随便选一个，听天由命。
- 变通方案：如果它们无法闻到某样东西，它们会说：“我会把它拿起来，在我的传感器上摩擦以猜测气味”，尽管它们实际上无法闻到气味。
5. 我们能解决吗？（“辅助轮”）
研究人员尝试通过两种方法来教导机器人做得更好：
- 防御性提示：在指令中明确告诉机器人：“如果你不确定，就停止并询问。”
- 上下文学习：向机器人展示良好行为的示例（例如，“有一次，因为物体缺失，我说了‘我不知道’"）。
结果：这些技巧效果显著！
- 有了正确的指令，机器人说“我做不到”的能力从16%跃升至93%。
- 然而：即使有了这些修复，问题也并未完全解决。机器人仍然有时会在不该猜测的时候尝试猜测。
核心结论
这篇论文并不是关于建造一个能完美完成所有事情的机器人。它是关于认识到知道何时不行动与知道如何行动同样重要。
目前，我们最聪明的机器人“大脑”就像那些害怕承认自己不理解任务的过度热心的实习生。它们宁愿猜测并失败，也不愿寻求澄清。作者们创建了一份新的“成绩单”（ROBOABSTENTION），以便我们可以衡量这项特定技能，并有望打造出足够谦逊的机器人，在弄坏东西之前先说：“我需要更多信息。”
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。