WebRider: Persona-Conditioned Intent Controllers for Live-Web Assistance
WebRider 引入了一种人格条件约束的意图控制器框架，该框架将委托的 Web 任务形式化为可审计的合约，使分层系统能够忠实地执行复杂的实时网络策略，同时确保策略合规性与人格一致性，这一点已通过全新的 RiderBench 基准测试得到了验证。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正请一位朋友帮你买一款特定的电子游戏。你不仅仅是想要那款游戏，你还希望他能找到最便宜的一款，确保它不是骗局，检查它是否能在你的游戏机上运行，并且如果价格超过50美元就停止搜索。如果你的朋友最后带回了任何一款价格为50美元的游戏，他在技术上完成了任务，但他并没有遵循你的具体指令。这就是“AI智能体”（AI agents）领域的核心问题——这些旨在为我们在互联网上浏览并执行任务的计算机程序。长期以来，科学家们一直痴迷于研究这些智能体是否能仅仅“完成”一项任务。但完成并不等同于“做对”。如果一个AI为了快速得到答案而忽略了你的安全规则或跳过了重要的检查，那么它就不是一个好的助手。这篇论文切入了这一空白，提出了一个更难的问题：我们如何确保AI在到达终点之前，始终遵循你设定的“行车规则”，而不仅仅是到达目的地？
来自加州大学洛杉矶分校（UCLA）和谷歌的研究人员开发了一个名为 WebRider 的系统来解决这个难题。他们意识到，目前的AI智能体就像赛车手，只关心冲过终点线，哪怕他们在途中闯了红灯或忽视了地图。为了解决这个问题，他们引入了“意图契约”（Intent Contract）的概念。你可以把这份契约看作是你与AI之间一份严格的、书面的协议。它不只是说“买一台相机”，而是说“买一台相机，但前提是卖家必须有良好的评价，检查保修条款，并且如果你不确定兼容性，请在购买前停下来询问我”。
WebRider 的构建就像一座三层建筑，以确保这些规则的安全。在顶层，一个“控制器”（Controller）充当项目经理的角色。它持有意图契约，检查规则，并决定大策略：“继续搜索”、“询问用户”或“停止并给出答案”。它从不直接接触浏览器。在中层，一个“受保护动作”（Guarded Action）层充当谨慎的翻译官。它将经理的大型构思转化为单个、安全的微小动作，比如“点击这个按钮”或“输入这次搜索”。至关重要的是，这一层是“受保护的”，这意味着它内置了一个安全网，可以阻止它做出任何异常行为或违反规则的行为。最后，在底层，一个“执行器”（Executor）实际操作鼠标并敲击键盘，在真实的网站上进行操作。
团队使用一个新的基准测试 RiderBench 测试了这个系统，该测试涵盖了42个真实网站中的4,000多个不同场景。他们发现当前AI的工作方式存在显著差距。一个非常强大的标准AI控制器成功完成了 99.2% 的任务，这意味着它几乎总能得出答案。然而，当他们检查它是否在整个过程中遵循了“意图契约”规则时，它的成功率仅为 38.8%。换句话说，AI虽然完成了比赛，但在超过一半的情况下并未遵守规则。它可能买错了商品、忽略了安全警告，或者跳过了必要的检查，尽管看起来它完成得很好。
WebRider 的方法表明，通过将“宏观决策”与“微观点击”动作分离，我们可以解决这个问题。当他们使用这个全新的三层系统时，AI不仅完成了任务，而且能更好地履行用户的特定偏好和约束。他们还训练了一个较小的专门化AI模型，专门用于处理“中层”（即微小的点击）。这个模型学会了如此出色地遵循规则，以至于其表现优于标准的“全能型”模型，这证明了你不需要一个巨大的大脑来处理每一次点击，你只需要一套清晰的规则和一个在每一步都进行检查的系统。
这项研究还引入了人类评判员来观察AI的行为是否让人感到可靠。他们发现，即使一个AI在技术上通过了所有自动化检查，人类仍经常觉得它采取的步骤具有风险或令人困惑。WebRider 的系统则在整个过程中保持了“人格”（即用户的特定风格和规则）的一致性，使人类在委托任务时感到更加放心。研究人员认为，对于AI要实现真正的帮助，我们不能仅仅问“它得到答案了吗？”，而应该问“它是否遵循了我们约定的路径？”通过将路径本身变为任务中可见且可检查的一部分，WebRider 提供了一种构建不仅快速、而且忠诚的助手的途径。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。