← 最新论文
🤖 AI

Hide-and-Seek in Trajectories: Discovering Failure Signals for VLA Runtime Monitoring

本文介绍了 **Hide-and-Seek**,这是一个粗粒度监督框架,它仅利用轨迹级标签即可定位指示失败的动作并为视觉-语言-动作(VLA)模型生成具有时间结构的失败信号,从而在无需昂贵的重采样或步级标注的情况下,实现鲁棒且实时的失败检测。

原作者: Seongheon Park, Wendi Li, Changdae Oh, Samuel Yeh, Zsolt Kira, Michael Hagenow, Sharon Li

发布于 2026-06-01
📖 1 分钟阅读☕ 轻松阅读

原作者: Seongheon Park, Wendi Li, Changdae Oh, Samuel Yeh, Zsolt Kira, Michael Hagenow, Sharon Li

原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明

想象一下,你正在教一个机器人做家务,比如把餐具收好或者做一顿饭。你给机器人看一段人类完美完成任务的视频,机器人从中学习。但有时,机器人尝试执行任务时失败了——比如掉落了一个盘子或洒了汤。问题在于,你并不确切知道机器人在什么时候开始出错的。你只知道整个尝试以灾难告终。

这就是论文《轨迹中的捉迷藏》(Hide-and-Seek in Trajectories)试图解决的问题。

问题所在:“一刀切”的错误

目前,如果机器人任务失败,研究人员通常直接将整个尝试过程都标记为“失败”。这就像是在看一部电影,英雄在最后时刻绊了一跤,然后你告诉学生:“这部电影里的每一幕都是错误的。”

这对机器人的学习系统来说非常令人困惑。电影的开头(机器人走向橱柜)其实做得很好!但因为整个过程都被标记为“坏的”,机器人就会感到困惑,认为:“哦,走向橱柜也是危险的。”这产生了大量的“噪声”,使得机器人很难学习到究竟哪里出了错。

其他方法试图通过要求一个超级智能的 AI(视觉语言模型)实时观看视频并在看到错误时大喊“停!”来修复这个问题。但这些 AI 动作很慢,就像一只试图跑马拉松的蜗牛,而且它们往往在盘子已经碎掉之后才意识到错误已经发生。

解决方案:“捉迷藏”

作者提出了一个名为“捉迷藏”(Hide-and-Seek)的新框架。他们将故障检测视为一场寻找“大海捞针”的游戏。

  • 针: 机器人开始失败的具体时刻(例如,它滑倒的那一秒)。
  • 草堆: 机器人在滑倒之前所采取的所有正常的、成功的动作。
  • 线索: 你拥有的唯一线索是最终结果:“整个尝试失败了。”

系统必须在没有人告诉他们确切时间的情况下,弄清楚“针”藏在哪里。

它是如何运作的:两条简单的规则

系统并没有将每一秒都标记为“坏的”,而是使用了两个聪明的技巧(数学规则)来寻找出错的时刻:

  1. “最好 vs 最坏”游戏(轨迹间):
    假设你有一段机器人失败的视频和一段机器人成功的视频。系统会问:“失败视频中最可疑的时刻是什么?”然后将其与成功视频中最可疑的时刻(也许是成功机器人曾从中恢复过来的一个晃动)进行比较。
    规则很简单:失败视频中的“坏”时刻看起来必须比成功视频中的“坏”时刻看起来更“糟”。这迫使系统专注于真正的关键错误,而不是普通的晃动。

  2. “之前与之后”游戏(轨迹内):
    在一段失败的视频中,系统寻找“糟糕程度”突然飙升的点。它假设在出错之前,机器人的表现还可以,而在出错之后,情况变得更糟。
    规则是:飙升点之后的平均“糟糕程度得分”必须高于飙升点之前的得分。这有助于系统精准定位麻烦开始的时间,即使没有人类指着时钟说明。

结果:快速且准确

作者在机器人执行模拟任务以及实验室中的真实机械臂任务上测试了该方法。他们将“捉迷藏”方法与其他顶尖方法进行了对比。

  • 更聪明: 它比旧的“将一切标记为坏”的方法能更准确地找到失败时刻。
  • 更快: 与那些缓慢的“超级智能 AI”观察者不同,这种方法速度极快。它的检查速度比基于视频的观察者快数千倍,使其在实际应用中具有可行性。
  • 更具泛化性: 它在机器人从未见过的任务上也表现良好,而不仅仅是在它练习过的任务上。

核心结论

“捉迷藏”是一种轻量级、快速且智能的方法,用于教机器人实时识别自己的错误。它不再为一瞬间的失误而责备整天,而是教会机器人利用最终结果作为提示,去识别事情出错的精确那一秒。这让机器人在现实世界中更加安全、可靠。

您所在领域的论文太多了?

获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。

试用 Digest →