AgentWeave: Routing Before Reasoning for Efficient Function Calling in Tool-Rich Language Models
AgentWeave 引入了一种确定性的推理前路由层，通过在模型推理前过滤候选动作空间，显著提高了工具丰富型语言模型的函数调用成功率，并降低了计算开销，即使是在使用固定的小规模模型时也是如此。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代数字世界中，人工智能已经从简单的聊天机器人演变成能够触达并使用其他计算机程序的得力助手。想象一下，要求一个数字助手去查询天气、预订机票并总结一篇新闻文章。为了实现这一点，助手必须知道如何与天气服务、航空公司的预订系统以及新闻数据库进行对话。这些连接被称为工具或函数。随着这些助手变得越来越有用，它们可以访问的工具列表增长到了数千个。然而，这里存在一个问题：如果你一次性向计算机展示太多的选择，它可能会感到困惑。它可能会在噪音中难以找到正确的工具，或者会被理解每个工具功能所需的海量文本所压垮。这造成了一个瓶颈：系统越强大，其“大脑”做出清晰决策就越困难。
研究人员 Saurav Singla、Aarav Singla、Advik Gupta 和 Parnika Gupta 致力于解决这个特定的问题。他们提出了一种新的组织方式，用于处理人工智能系统如何看待其可用工具的方式。他们没有让 AI 大脑一次性查看整个库中的每一个工具，而是构建了一个位于大脑前方的过滤器。这个被称为 AgentWeave 的过滤器充当了守门人的角色。在 AI 开始思考任务之前，这个守门人会查看请求和所有可能的工具列表。然后，它会决定哪些工具与当前特定任务相关，以及哪些工具可以被安全地忽略。其目标是在 AI 开始思考之前，向其呈现一小组可控的选择，而不是整个庞大的目录。研究人员希望通过观察这种在思考开始前缩小选项范围的简单行为，是否能帮助 AI 做出更好的决策，即便 AI 本身在其他方面并未得到改变或改进。
为了测试这个想法，团队设计了一个使用标准困难任务的受控实验。他们采用了一个特定的轻量级 AI 模型，并给了它一系列 48 个复杂的挑战。在每个挑战中，AI 必须从 16 个可能的选项中选择正确的工具来完成任务。他们使用完全相同的 AI 模型运行了四次这项测试，仅改变了工具呈现的方式。在第一种情景中，AI 看到了全部 16 个工具。在第二种情景中，计算机随机挑选了 8 个工具展示给 AI。在第三种情景中，计算机使用一种标准的相似性查找方法挑选了 8 个工具。在第四种情景中，使用了 AgentWeave 过滤器，根据任务实际需求筛选出一组特定的工具。
结果令人震惊。当 AI 被迫查看全部 16 个工具，或者当它看到随机或语义相似的一组 8 个工具时，它未能完成任何 4 8 个任务。在混乱的信息中，它根本无法找到正确答案。然而，当使用 AgentWeave 过滤器来策划工具列表时，AI 在 48 个任务中成功完成了 6 个。虽然 6/48 仍然是一个很小的数字，但这是 AI 唯一成功实现任务的时候。研究人员发现，AI 并非只是在瞎猜；它表现得更好是因为它面对的是一组更清晰、更集中的信息。该过滤器将 AI 需要看到的工具数量减少了约 70%，这也意味着 AI 阅读的文本量显著减少。这种阅读负荷的降低使得 AI 处理任务的时间大约仅为被大量信息淹没时的一半。
至关重要的是，这项研究表明，仅仅保留更多可用的工具并不保证成功。其中一种对比方法虽然使用了寻找相似工具的标准技术，实际上比 AgentWeave 过滤器保留了更多的原始选项，但该方法仍然完全失败了。这表明，秘诀不仅在于保留正确的工具，更在于剔除错误的工具。AgentWeave 过滤器通过消除可能分散 AI 注意力的干扰项来发挥作用，从而为解决方案创造了一条更清晰的路径。研究人员谨慎地指出，这是一个在严格条件下进行的特定测试，并非证明该系统在每种情况下都能完美运作的最终证明。他们强调，他们使用的 AI 模型规模较小，且尽管成功率有所提高，但整体水平仍然较低。
这项工作的意义在于改变了我们构建智能系统的方式。长期以来，关注点一直在于让 AI 大脑变得更聪明或用更多数据对其进行训练。而这篇论文表明，一种更聪明的方法可能是：在脑力开始运转之前，先组织好它接收到的信息。通过将工具的选择视为与推理行为相分离的步骤，开发者可以潜在地使现有的 AI 模型变得更加高效和有效，而无需从头开始重建模型。这项研究提供了具体证据，证明向人工智能呈现选择的方式，与智能本身同样重要。它表明，在工作开始前进行一点细致的分类整理，就能在工作能否顺利完成方面产生巨大的影响。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。