← 最新论文
💻 computer science

Seeing What Matters: Visual Evidence-Guided Learning for Improving Egocentric Reasoning (ChinaMM 2026)

本文提出了视觉证据引导学习(Visual Evidence-Guided Learning, VEGL),这是一个通过结合监督预热、双向过滤和对比式接地强化学习,来增强大型视觉语言模型在第一视角推理能力的统一框架,旨在优先考虑可靠的视觉证据,而非语言先验或无关上下文。

原作者: RuoHuai Xie, Shenshen Li, Guangji Huang, Xing Xu, Wenrong Zhang

发布于 2026-09-29
📖 1 分钟阅读☕ 轻松阅读

原作者: RuoHuai Xie, Shenshen Li, Guangji Huang, Xing Xu, Wenrong Zhang

原始论文采用 CC BY 4.0 许可(https://creativecommons.org/licenses/by/4.0/)。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明

想象一下,一台计算机正试图通过绑在人头上的摄像头来理解世界。这与坐在电影院固定座位上看电影完全不同。在这种第一视角视图中,世界飞速掠过,物体转瞬即逝,而最重要的线索可能就在镜头角落里一个微小且稍纵即逝的细节。对于人工智能来说,这是一个困难的谜题。现代计算机系统(被称为大型视觉语言模型)在阅读文本和观察图片方面非常聪明,但当视角变得混乱且具有个人特征时,它们往往会感到吃力。它们倾向于根据以前读过的内容来猜测正在发生的事情,而不是仔细观察实际存在的东西。它们可能会看到一个厨房,然后假设有人正在烹饪,即使视频显示他们只是在洗杯子,因为它们的内部数据库告诉它们厨房是用来烹言烹饪的。这种对记忆而非观察的依赖,会导致在关键情况下出错,例如机器人需要帮助人类,或者可穿戴设备必须协助残障人士时。

来自中国的一个研究小组开发了一种新方法,来教这些计算机系统停止猜测并开始观察。他们称之为“视觉证据引导学习”(Visual Evidence-Guided Learning)。其核心理念简单而强大:强迫计算机指向能够证明其答案正确的特定视频部分。在实验中,他们发现,当他们训练模型去寻找并依赖这些微小且具有决定性的视觉线索时,计算机理解视频中发生情况的能力大大提升了。它们不再根据常识编造故事,而是开始准确描述它们所看到的景象。这种从“猜测”到“观察”的转变,是让人工智能在人类运动的真实、混乱世界中变得更加可靠的重要一步。

研究人员首先研究了为什么这些智能系统在第一视角视频中经常失败。他们注意到两个主要问题。首先,当视觉线索微弱或难以捕捉时,计算机就会退回到其语言训练,利用常识来填补空白。例如,如果一个人将画笔浸入一个小杯子里,计算机可能会忽略那个杯子并说这个人正在绘画,仅仅是因为画笔通常是用来做这件事的。其次,计算机经常被宏观图景分散注意力。如果一段视频展示了一个完整的艺术工作室,系统可能会关注房间的氛围,而不是手中握着工具的具体动作。研究人员意识到,目前的训练方法并没有惩罚那些忽视微小细节或过度依赖自身内部知识的行为。计算机并未被教会去重视它所看到的视觉证据。

为了解决这个问题,该团队构建了一个充当“严厉教练”的训练流水线。他们没有要求人类手动标注每一个视频,因为那样太慢且成本太高。相反,他们创建了一个自动系统,可以扫描视频并挑选出最可能的视觉线索。该系统查看视频帧和提出的问题,然后识别出看起来最相关的图像区域(patch)。它还会选择第二个相似但不太清晰的区域,作为对计算机注意力的测试。这产生了一对信号:一个代表真相,另一个代表令人困惑的干扰。随后,计算机接受训练,使其推理过程与清晰的信号保持一致,并忽略那个令人困惑的信号。

在计算机开始最终训练之前,有一个至关重要的过滤步骤。研究人员意识到,并非所有的视频都适合用于教学。有些视频太模糊,或者重要的动作太小以至于自动系统无法清晰识别。如果计算机试图从这些糟糕的例子中学习,它只会学会困惑。因此,团队建立了一个检查视觉线索质量的机制。如果计算机无法在视频中找到清晰、具有决定性的物体,该示例就会被剔除。他们还会检查该示例是否真正有助于学习。如果计算机已经可以轻松回答问题,或者视频过于复杂而无法提供清晰的教训,该示例也会被丢弃。这留下了一组规模较小但高质量的视频,其中的视觉线索清晰且教训明确。

一旦计算机在这些经过过滤的高质量数据上完成训练,它将进入最后的强化学习阶段。在这个阶段,计算机通过因表现良好而获得奖励来学习如何做出更好的选择。在这个新系统中,奖励不仅在于得到正确答案,还在于通过观察正确的事物来得到正确答案。如果计算机正确识别了证明答案的特定物体或动作,它就会获得奖励。如果它试图基于一般场景进行猜测,或者列举过多无关物体以求稳妥,它就会受到惩罚。系统还会主动阻止计算机关注他们之前创建的那个“令人困惑”的区域。这迫使计算机将注意力集中在真正重要的一件事上,而不是将注意力分散在整个场景中。

研究结果非常显著。研究人员在几个旨在衡量计算机理解第一视角视频能力的基准测试中测试了他们的方法。他们将新系统与其他近期开发的先进方法进行了对比。在每一项测试中,他们的系统表现都更好。无论是识别物体、规划动作序列,还是理解复杂场景的任务,该系统在回答有关视频中发生了什么的问题时,准确度都更高。这种提升在不同类型的计算机模型中都是一致的,这表明无论使用何种特定的脑架构,该方法都同样有效。研究人员发现,该系统在处理重要细节微小或移动迅速的情况时表现尤为出色,而这恰恰是其他系统通常失败的地方。

团队还花时间验证了他们的自动系统是否确实挑选了正确的线索。他们手动检查了一组视频样本,以查看计算机选择的视觉区域是否与人类认为最重要的部分相匹配。他们发现,在绝大多数情况下,计算机的选择是正确的。这让他们确信,自动化的过程足够可靠,可以被用作“老师”。他们还测试了系统对不同设置(例如过滤强度)的敏感程度。他们发现存在一个“甜点区”:如果过滤太松,计算机就会从错误的例子中学到错误的东西;如果过滤太严,计算机就没有足够的数据进行学习。通过找到这种平衡,他们确保了系统既高效又有效。

其中一个最有趣的发现是,该系统改变了计算机“思考”的方式。当研究人员观察旧模型的推理过程时,他们看到计算机经常根据一般环境得出结论。相比之下,新系统展现出一种明显的模式:在做出决策前先寻找具体的证据。例如,当被问及一个人拿着工具时,旧模型可能会根据背景说“这个人正在车间工作”。而新模型会说“这个人正拿着一把螺丝刀”,因为它被训练去关注手和工具。这种从“全局语境”到“局部证据”的转变,正是使系统更具可信度的原因。它不再仅仅是根据通常发生的情况进行猜测,而是报告实际正在发生的事情。

研究人员承认,他们的方法并非完美无缺。它在重要线索是一个可以被清晰观察到的单一、局部化物体或动作时效果最好。如果答案取决于跨越时间的长时间序列事件,或者重要物体被其他东西遮挡,该系统仍可能遇到困难。他们还指出,如果问题过于抽象,自动系统可能会难以找到与之匹配的视觉线索。然而,对于绝大多数以特定视觉细节为解题关键的任务,他们的方法提供了一个稳健的解决方案。

这项工作代表了向使人工智能更立足于现实迈出的重要一步。通过教计算机重视它们所看到的,而非它们所知道的,研究人员创造了一个不太可能犯下危险或愚蠢错误的系统。在一个机器人和智能设备日益普及的世界里,拥有一个能够可靠地观察第一视角视图并准确理解正在发生什么的系统至关重要。该方法不需要昂贵的人类教师或海量的新数据。相反,它利用巧妙的过滤过程和一种新的奖励机制,引导计算机走向真理。随着技术的不断演进,这种对视觉证据的关注可能会成为我们教授机器观察世界的新标准,确保它们能看到真正重要的东西。

您所在领域的论文太多了?

获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。

试用 Digest →