From Understanding to Action: A Survey on Closed-Loop Multimodal Agents
本综述提出了一个面向闭环多模态智能体的以证据为中心的框架，围绕五种证据操作对 105 篇论文进行了组织，并引入了 O-P-G-C 评估视角，通过强调过程、落地性以及成本-风险分析，来解决当前仅关注结果的基准测试所存在的局限性。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一台不仅仅是观察图片并描述图片，而是真正利用所见之物在现实世界中采取行动的计算机。多年来，人工智能在理解图像、文本和声音方面已经变得非常出色，它就像一位才华横溢的图书管理员，能够找到正确的书，却无法将其借阅出去。现在，这些系统正在演变成能够打开网页浏览器、点击按钮、移动机械臂或搜索信息，同时观察其自身行为结果的智能体（agents）。这种转变将一个静态的观察者变成了一个能够改变其环境的参与者。然而，当这些智能体犯错时，通常很难判断原因。是计算机看错了屏幕的某个部分？是它误解了正在使用的工具？还是它仅仅因为错误的原因而猜对了答案？
来自奥克兰大学、剑桥大学和阿德莱德大学研究人员的一项新调查，对这些多模态智能体的工作方式进行了全新的审视。作者并没有仅仅列出这些系统的功能，而是提出了理解它们的一种新方法：通过追踪证据的痕迹。他们认为，对于一个真正可靠的智能体来说，它采取的每一步都必须有清晰、可检查的证据支持。研究人员回顾了 105 项近期的研究，以绘制出这些智能体如何收集信息、组织信息、使用外部工具、作用于世界以及从错误中学习的图谱。他们发现，虽然目前的系统在完成任务方面做得越来越好，但我们仍然缺乏清晰观察它们“如何”实现目标的工具，这往往导致我们得到一个正确答案，但其背后的路径却是摇摆不定或危险的。
这项工作的核心思想是，衡量一个智能体的成功不应仅看它是否完成了工作。作者建议，我们必须观察智能体在每个阶段所使用的“证据”。将证据想象成一个可见的笔记或一段高亮部分，它将智能体所见之物与它下一步决定采取的行动联系起来。如果一个智能体点击按钮购买门票，那么证据就是它为了寻找该按钮而观察屏幕的具体部分。如果该证据缺失、模糊或被误解，那么即使最终买到了票，这一行为也是冒险的。研究人员围绕处理此类证据的五个关键方式组织了整个研究领域。首先，它们必须主动选择观察什么，而不是仅仅盯着一切看。其次，它们需要一个心理工作空间，在思考时持有并组织这些观察结果。第三，它们必须知道何时向外部来源（如搜索引擎或计算器）寻求帮助，以填补空白。第四，它们必须采取改变世界的行动，例如移动光标或机器人，并观察世界如何随之变化。最后，它们必须利用这些行动的结果来改进未来的行为。
该调查揭示了我们目前测试这些系统时存在的一个显著差距。大多数现有的基准测试（类似于人工智能的标准考试）几乎完全关注最终结果：智能体是成功了还是失败了？研究人员发现，这些测试很少检查过程。一个智能体可能完成了复杂任务，但它可能是通过猜测、忽略关键细节或采取可能造成损害的不必要风险来完成的。作者引入了一个新的评估框架，该框架关注四个不同的维度：结果、过程、落地性（grounding）以及成本或风险。结果（Outcome）询问工作是否完成；过程（Process）询问步骤是否逻辑严密且必要；落地性（Grounding）检查智能体在行动前是否真的观察了正确的目标；成本/风险（Cost-risk）衡量获得结果所涉及的时间、金钱或危险程度。
当研究人员将该框架应用于他们评审的 105 篇论文时，出现了一个清晰的模式。该领域非常擅长衡量智能体是否完成了任务，但在检查智能体是否使用了正确的证据来达成目标方面则要弱得多。例如，在涉及电脑屏幕或机器人的任务中，许多系统可以完成目标，但测试并不总能显示智能体是否点击了正确的按钮，或者是否安全地移动了机器人。作者指出，如果不检查证据链，我们就无法知道一个智能体是真的具有智能，还是仅仅运气好。他们还发现，当智能体失败时，通常很难判断错误始于何处。观察屏幕时的错误可能会导致错误的计划，进而导致错误的行动，最后改变环境的方式使得下一步变得无法进行。
论文总结道，为了让这些智能体在现实世界中获得信任，我们需要更好的记录和检查其决策过程的方法。研究人员建议，未来的测试应要求智能体“展示其解题步骤”，就像学生展示数学步骤一样。这意味着要记录下它们观察图像的具体部分、使用了哪些工具，以及环境在每次行动后是如何变化的。他们还警告说，随着这些系统变得越来越强大，出错的风险也在增加。一个在电子游戏中犯错的智能体是无害的，但一个在管理银行账户或控制物理机器人时犯错的智能体可能会造成真实的伤害。因此，追踪证据并理解每一次行动的成本，不仅是一个技术细节，更是一项安全要求。
这项调查并不声称已经解决了如何制造完美智能体的问题。相反，它为未来的旅程提供了一张新的地图。通过将焦点从最终答案转向支撑它的证据，研究人员希望引导那些不仅具备能力，而且透明且安全的系统开发。他们认为，下一代人工智能的评判标准不应仅在于它实现了什么，而在于它是如何实现的。如果我们能够构建出能为每一个决策留下清晰、诚实的证据链的系统，我们将能更好地理解它们的优势，修复它们的弱点，并将它们部署在那些复杂且高风险的环境中。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。