← 最新论文
💬 NLP

CoAct-1: Computer-using Multi-Agent System with Coding Actions

本文提出了 CoAct-1,一种将图形界面操作与直接代码执行相结合的多智能体系统,通过动态分配任务在 OSWorld 基准测试中实现了 60.76% 的创纪录成功率并显著提升了任务执行效率。

原作者: Linxin Song, Yutong Dai, Viraj Prabhu, Jieyu Zhang, Taiwei Shi, Li Li, Junnan Li, Silvio Savarese, Zeyuan Chen, Jieyu Zhao, Ran Xu, Caiming Xiong

发布于 2026-02-23
📖 1 分钟阅读☕ 轻松阅读

原作者: Linxin Song, Yutong Dai, Viraj Prabhu, Jieyu Zhang, Taiwei Shi, Li Li, Junnan Li, Silvio Savarese, Zeyuan Chen, Jieyu Zhao, Ran Xu, Caiming Xiong

原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明

这篇论文介绍了一个名为 CoAct-1 的超级电脑助手。为了让你轻松理解,我们可以把操作电脑比作**“装修房子”,而现有的电脑助手就像是一个“只会用锤子敲墙的笨拙工人”**。

🏠 核心问题:为什么现在的电脑助手很“笨”?

想象一下,你要让一个工人帮你整理房间里的几千本书,或者把一堆文件打包压缩。

  • 传统方法(纯 GUI 助手): 这个工人只能用眼睛看、用手点。他得先走到书架前,拿起一本书,翻到第 50 页,再拿起另一本……如果不小心点错了,或者书长得太像(图标相似),他就彻底懵了,甚至把整个任务搞砸。
  • 痛点: 对于简单任务(比如打开一个网页),这很有效。但对于复杂任务(比如处理几千行数据、整理深层文件夹),这种“点一点、拖一拖”的方式既容易出错,就像用勺子去挖地基一样不靠谱。

🚀 CoAct-1 的解决方案:给工人配了一个“魔法大脑”和“万能工具箱”

CoAct-1 不再只让工人“用手点”,而是引入了一个**“写代码”的能力。它把任务分给了三个角色,就像一个高效的装修小队**:

  1. 总指挥 (Orchestrator):

    • 角色: 就像工头。他站在高处看全局,手里拿着任务清单。
    • 工作: 他负责判断:“这个任务需要动手点鼠标,还是直接写个指令搞定?”
    • 例子: 如果任务是“把桌面上的所有图片压缩成 ZIP 包”,工头会说:“别一个个去点右键了,太慢!让程序员直接写个脚本搞定。”
  2. 程序员 (Programmer):

    • 角色: 就像拥有魔法咒语的法师
    • 工作: 当工头分配了“硬核”任务(如文件管理、数据处理),他就直接写代码(Python 或 Bash 脚本)。
    • 优势: 他不需要去点那个小小的“压缩”按钮。他直接对电脑说:“把所有图片打包!”电脑瞬间执行,快、准、狠,完全不会点错。
  3. 图形操作员 (GUI Operator):

    • 角色: 就像熟练的装修工
    • 工作: 当任务必须通过“看屏幕、点按钮”完成时(比如在一个复杂的软件界面里找某个特定的菜单),他就上场。他利用视觉能力,像人一样去操作鼠标和键盘。

🌟 这个新系统厉害在哪里?

1. 既快又稳(效率与成功率)

  • 以前的助手: 做同一个任务,可能需要点 15 次鼠标,每点一次都有 1% 出错的风险,点 15 次下来,很可能就失败了。
  • CoAct-1: 遇到能写代码解决的,直接一键生成脚本,可能只需要 1 步就搞定。
  • 比喻: 以前是**“爬楼梯”(一步步点),现在是“坐电梯”**(写代码直达)。
  • 数据说话: 在测试中,CoAct-1 完成任务的平均步数从 15 步降到了10.15 步,而且成功率高达60.8%(之前的顶尖水平只有 50% 多)。

2. 哪里难就怎么打(灵活应变)

  • 如果任务是“在 Excel 里筛选数据”,程序员直接写代码处理,秒杀
  • 如果任务是“在浏览器里点击一个复杂的广告关闭按钮”,图形操作员就上场,精准点击
  • 比喻: 就像你家里既有电钻(写代码,干重活),又有螺丝刀(点鼠标,干细活),总指挥会根据情况选最合适的工具,而不是只会用螺丝刀去钻墙。

📊 总结:这不仅仅是升级,是换了一种活法

这篇论文的核心思想是:不要死板地只用“鼠标点击”来操作电脑。

  • 旧模式: 像是一个盲人摸象,只能一步步试探,容易累死且容易出错。
  • CoAct-1 模式: 像是一个聪明的管家。遇到能“一键解决”的脏活累活,直接调用“代码魔法”;遇到必须“眼见为实”的精细活,再派“人工”去操作。

最终结果: 电脑变得更听话了,不仅能干更复杂的活(比如跨软件处理数据),而且干得更快、更不容易出错。这标志着人工智能从“只会模仿人手点击”进化到了“懂得利用代码直接控制电脑”的新阶段。

您所在领域的论文太多了?

获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。

试用 Digest →