💻 computer science

Learning Latency-Aware Orchestration for Multi-Agent Systems

本文介绍了 LAMaS，这是一种新颖的编排框架，它通过结合关键路径感知训练与自适应推理时控制器的两级方法，在保持准确性的同时，将多智能体系统的端到端延迟降低了 50% 以上。

原作者： Xi Shi, Mengxin Zheng, Qian Lou

发布于 2026-07-16

📖 1 分钟阅读☕ 轻松阅读

原作者： Xi Shi, Mengxin Zheng, Qian Lou

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你是一位庞大且高科技管弦乐团的指挥，乐团中的每一位音乐家都是一个超级聪明的机器人大脑。在人工智能的世界里，这些机器人大脑被称为“智能体”（agents），当它们协同工作时，可以解决极其困难的谜题、编写复杂的代码，甚至帮你做作业。这个领域被称为“多智能体系统”（Multi-Agent Systems）。其核心理念很简单：一个机器人可能擅长数学，另一个擅长阅读，而第三个则擅长查证事实。如果它们能够互相传递信息，就能解决那些让单个机器人束手无策的问题。但问题在于，每当它们传递一次信息，就会消耗一定的时间。如果乐团必须在一条漫长且曲折的队伍中传递信息，那么音乐就要等很久才能奏响。在现实世界中，等待计算机完成一项任务需要10到60分钟，就像等待缓慢的网络连接加载一段单条猫咪视频一样——这让人感到非常沮丧，并让这些技术变得难以使用。

长期以来，试图解决这一问题的科学家们一直专注于两个方面：确保机器人得到正确的答案（准确性）以及确保它们不会消耗过多的电量或计算时间（成本）。他们把机器人当作一份杂货账单来对待，试图尽可能降低总价格。但本文指出，这种思维方式存在一个有趣的缺陷：仅仅减少购买的项目数量，并不意味着你能更快地排到结账队列。如果你面前有一条很长的队伍，你的等待时间取决于最慢的那个人所在的那个最长的队列，而不是商店里总共有多少人。用计算机术语来说，这被称为“关键路径”（critical path）。即使你通过减少一些旁支对话将成本削减了一半，如果主对话链依然漫长且曲折，等待时间依然不会改变。这个大问题是：我们如何教导这些机器人团队，在不降低智力水平或增加成本的前提下，更快地完成工作？

于是，LAMaS（延迟感知多智能体系统，Latency-Aware Multi-agent System）诞生了，这是由中佛罗里达大学的研究员 Xi Shi、Mengxin Zheng 和 Qian Lou 提出的一种新框架。你可以把 LAMaS 想象成我们机器人管弦乐团的一位超级组织严密的舞台经理。LAMaS 不仅仅是在统计音乐家演奏了多少音符（成本），它还在观察时钟，并精准地找出哪些音符导致了延迟。

研究人员发现，以往的方法就像是一位因为一名学生磨蹭而责备全班迟到的老师。LAMaS 则更加聪明。它使用一种特殊的训练方法来识别“瓶颈”——即阻碍整个表演进度的那条特定的机器人链条。它会对处于这条缓慢链条上的机器人给予额外的奖励（或者说，额外的关注），教导它们变得更高效，同时让其他机器人放松下来。这被称为“关键路径感知的信用分配”（critical-path-aware credit assignment）。这就像是告诉最慢赛道上的跑者要冲刺，而不是对着体育场里的所有人呐喊。

但这是第二个窍门。有时，即使是最完美的计划也无法预测未来。如果机器人在表演进行到一半时就已经得出了答案呢？一个僵化的计划会强迫它们无论如何都要完成整个剧本，从而浪费时间。LAMaS 加入了一个“轻量级控制器”，它就像一位坐在侧台、目光敏锐的导演。随着机器人的表演，这位导演会观察进度。如果机器人已经就答案达成一致，而后续只是在重复自身，导演就会大喊“咔！（Cut!）”并停止不必要的后续交互。这种调整是在实时过程中发生的，在表演展开的过程中就剪掉冗余的部分。

团队在四种不同类型的挑战上测试了这个新系统：数学问题、编程任务、竞赛级数学以及复杂的知识问答。结果令人印象深刻。与其他聪明的机器人团队相比，LAMaS 不仅能得到正确答案，而且速度提升了超过 50%。在某些情况下，它将等待时间从一分多钟缩短到了仅几秒钟，同时保持了与较慢方法同样高（甚至更高）的准确性。

研究人员还展示了这并非“一招鲜”。他们将 LAMaS 的舞台经理和导演功能接入到其他现有的机器人团队系统中。即使没有从头重建这些系统，新方法也让它们变得更快，证明了这种方法具有灵活性，可以用来加速各种不同类型的 AI 团队。

简而言之，这篇论文表明，要让 AI 变得更快，我们不能仅仅盯着整个团队的总投入，而应该开始关注导致延迟的具体瓶颈，同时还要配备一位聪明的监督者，在任务完成的瞬间立即停止表演。这是一种从单纯计算完成工作的成本，转向真正管理完成工作所需时间的转变，使得这些强大的机器人团队在现实世界中更加实用。

技术摘要：面向多智能体系统的延迟感知编排 (LAMaS)

问题陈述

多智能体系统 (MAS) 通过编排多个专业化智能体来增强大语言模型 (LLM) 的推理能力。然而，随着这些系统的规模扩大，推理延迟已成为一个关键瓶颈，在现实场景中往往需要 10–60 分钟才能完成单项任务。现有的编排方法主要针对任务性能和推理成本（Token 使用量）进行优化。作者认为，这些方法在降低延迟方面是不够的，原因如下：

结构性失配： 端到端延迟由关键执行路径（依赖关系最长的链条）决定，而非所有算子的总加性成本。优化总成本并不能可靠地缩短关键路径的长度。
信用分配噪声： 对所有算子应用统一的延迟惩罚会无法区分关键路径上的瓶颈算子与非关键算子，从而导致产生噪声梯度信号。
准确率-延迟权衡： 在没有约束的情况下优化延迟会导致准确率发生不可预测的下降。
静态局限性： 在训练时确定的图结构无法利用运行时证据（例如，对答案的早期共识）来消除冗余的未来交互。

方法论

作者提出了 LAMaS（延迟感知多智能体系统），该框架从两个不同的层面解决延迟问题：训练时的图优化和推理时的执行控制。

1. 训练时约束优化

LAMaS 将编排建模为一个约束优化问题：在满足准确率底线 ( $S_0$ ) 的条件下，最小化延迟和成本。

目标函数： $\min_{\theta} \mathbb{E}[\lambda_t T + \lambda_c C]$ ，受限于 $\mathbb{E}[S] \geq S_0$ 。
拉格朗日松弛法： 约束通过一个通过投影梯度上升更新的自适应对偶变量 ( $\lambda_S$ ) 来处理。这会自动平衡权衡：如果准确率低于 $S_0$ ， $\lambda_S$ 会增加以优先保证正确性；如果达到准确率要求， $\lambda_S$ 则会减小以允许更激进的延迟缩减。
关键路径感知的信用分配： 为了解决延迟的非加性特征，LAMaS 根据路径关键性为算子分配层级的奖励。
- 对于算子 $o$ ，计算权重 $w(o) = \ell(o) / T$ ，其中 $\ell(o)$ 是经过 $o$ 的最长路径， $T$ 是总关键路径长度。
- 处于关键路径上的算子接收完整的延迟惩罚 ( $w(o)=1$ )，而处于近临界或非关键路径上的算子则接收衰减后的惩罚。这确保了梯度能够聚焦于瓶颈算子。

2. 推理时执行控制

由于训练时的图无法适应运行时证据，LAMaS 引入了一个轻量级执行控制器。

功能： 控制器监控部分执行过程，并预测控制优势 ( $\Delta_k$ )，定义为当前部分执行的拉格朗日奖励与运行完整图的奖励之间的差值。
决策逻辑： 如果 $\Delta_k > 0$ ，则倾向于当前的局部执行（它在减少延迟的同时保留了准确率），控制器会消除冗余的未来智能体交互。
实现： 一个小型多层感知器 (MLP) 利用执行进度、答案共识（输出的语义等价性）和查询难度等特征来预测 $\Delta_k$ 。控制器通过在冻结的编排器收集的轨迹上进行 MSE 回归进行训练。

核心贡献

形式化定义： 作者将延迟感知型 MAS 编排定义为一个在显式准确率底线约束下最小化延迟的约束优化问题，并通过拉格朗日松弛法求解。
信用分配机制： 他们引入了一种关键路径感知信用分配策略，通过路径关键性对延迟惩罚进行加权，确保优化目标指向瓶颈算子，而非应用统一的噪声。
混合控制： 他们提出了一种轻量级执行时控制器，支持基于运行时共识和进度在线消除冗余的智能体交互，从而补充了静态图构建。
模块化设计： 该框架设计具有模块化特性，可以以极小的改动迁移到其他基于学习的 MAS 架构中。

实验结果

LAMaS 在四个基准测试集 GSM8K、HumanEval、MATH 和 MMLU-Pro 上进行了评估，对比对象包括非 MAS 策略（CoT, SC）和学习型 MAS 编排器（GDesigner, AgentDropout, MaAS）。

延迟缩减： LAMaS 在所有评估的学习型 MAS 基线中实现了最佳延迟，与最强的基线（如 MaAS）相比，端到端延迟降低了 55.6% 至 75.6%（例如，在 GSM8K 上将延迟从 48.11s 降至 11.73s）。
准确率保持： 尽管大幅降低了延迟，LAMaS 仍保持了具有竞争力甚至更优的准确率（例如，在 GSM8K 上为 93.65%，而 MaAS 为 93.36%）。
成本效率： 该方法也显著降低了 API 成本（例如，在 GSM8K 上为 7.71 vs 31.52 $\times 10^{-4}$ USD），通过减少关键路径上的 Token 数量来实现。
消融研究： 移除推理时控制器会导致延迟增加 16–21%。移除关键路径信用分配会使所有指标下降。在没有准确率底线或关键路径加权的情况下，采用简单的“将延迟加入奖励”的方法会导致准确率大幅下降且延迟收益微乎其微。
可迁移性： 当应用于其他架构（GDesigner 和 AgentDropout）时，LAMaS 流程一致地降低了 27–39% 的延迟，同时保持了准确率，证明了其通用性。

重要性与主张

本文声称 LAMaS 解决了多智能体编排中的一个根本性差距：即现有侧重于成本和准确率的方法无法可靠地控制执行延迟。通过将延迟视为一种结构化的、图级别的属性，而非简单的加性成本，并将训练时的图优化与推理时的自适应控制解耦，LAMaS 实现了一种“无损”的延迟缩减。作者强调，其方法不仅仅是缩小计算规模，而是通过智能地针对关键执行路径并利用运行时证据来消除冗余，为在不牺牲推理质量的前提下部署更快、更高效的多智能体系统提供了一条切实可行的路径。