Learning Latency-Aware Orchestration for Multi-Agent Systems
本文介绍了 LAMaS，这是一个通过在训练期间学习具有关键路径信用分配的延迟感知执行图，并在推理期间采用轻量级自适应控制器以消除冗余交互，从而在保持任务准确性的同时实现超过 50% 延迟降低的新型框架，旨在降低多智能体系统的端到端延迟。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一支由才华横溢、各司其职的机器人组成的团队正在通力合作，解决一个复杂的谜题。这就是**多智能体系统（Multi-Agent Systems, MAS）**的世界——在这里，强大的 AI “大脑”（被称为大语言模型）被分解为更小、更专注的助手。一个机器人可能擅长数学，另一个擅长编程，而第三个则擅长核实事实。通过相互传递笔记和想法，它们可以解决单个机器人无法独立完成的问题。然而，这里有一个陷阱：每当这些机器人相互交流时，都需要消耗时间。如果它们需要传递十次笔记才能得到答案，整个过程就会变得非常缓慢，有时完成单项任务甚至需要 10 到 60 分钟。在现实世界中，等待这么久是无法接受的。
一段时间以来，科学家们试图通过单纯降低成本或让机器人变得更聪明来提高这些团队的速度。但他们意识到，让团队变得“更便宜”并不总能让它变得“更快”。这就像一场接力赛：如果你有一支十人的跑步队，总时间不仅仅是每个人跑步速度的总和；它是由那条最慢、最长的接力链决定的。如果你减少了跑者的数量，却没改变那条最慢的链条，比赛时间并不会缩短。于是，一个大问题出现了：我们该如何重新设计团队的工作流程，在不损失最终答案准确性的前提下，缩减时间？
这正是中佛罗里达大学的研究人员在其新论文中所解决的问题，他们引入了一个名为 LAMaS（延迟感知多智能体系统）的系统。他们发现，以往优化这些 AI 团队的方法，就像是在试图通过告诉每辆车开快点来解决交通拥堵，即便瓶颈只是一个狭窄的桥梁。相反，LAMaS 扮演着一个聪明的交通控制器，它能准确识别出哪一部分是“关键路径”——即决定总时间的那个最长步骤链。
该论文提出了一种两部分的策略来解决速度问题。首先，在“训练”阶段（即系统学习如何运作的过程中），LAMaS 使用了一种特殊的评分方法。它不是平等地惩罚每一个耗时过长的机器人，而是将“责备”集中在那些处于关键路径上的机器人身上——即那些拖累整个团队的环节。同时，它还设定了一条严格的规则：无论它们变得多快，都不能低于一定的准确度水平。这就像是在告诉一支赛车队：“你们可以跑得尽可能快，但必须依然正确地完成比赛。”
其次，或许更巧妙的是，LAMaS 添加了一个实时观察比赛的“轻量级控制器”。即使团队原计划跑十圈，这个控制器可能会在第三圈后注意到团队已经得出了答案。然后，它就有权说：“停！我们不需要剩下的七圈了，”从而缩短剩余的工作量。这种操作是在任务展开的过程中动态发生的，而不是预先设定的固定计划。
当研究人员在四个不同的挑战性基准测试（涵盖从解决小学数学题到编写代码以及回答复杂的知识问题）上进行测试时，他们发现 LAMaS 改变了游戏规则。与其他先进的 AI 团队系统相比，LAMaS 在保持同样高水平或更高准确度的同时，将总等待时间减少了 50% 以上（在某些情况下甚至减少了高达 75%）。例如，在名为 GSM8K 的数学基准测试中，他们的系统在达到 93.65% 的准确度时，仅耗时约 11.73 秒，而其他顶尖系统在达到类似准确度时则需要超过 48 秒。
论文指出，这种方法不仅仅是对某个特定系统的临时修复；当研究人员尝试将 LAMaS 方法植入其他现有的 AI 团队设计时，它始终能使这些系统变快且不破坏其原有功能。作者表明，通过专注于“瓶颈”步骤并允许系统在产生信心时及早停止，我们可以构建出不仅聪明而且反应极快的 AI 团队，从而使其在现实应用中更具实用价值。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。