MMoA: An AI-Agent framework with recurrence for Memoried Mixure-of-Agent

技术摘要：MMoA——一种具有循环机制的混合智能体（Mixture-of-Agents）AI 智能体框架

问题陈述
混合智能体（MoA）框架已通过聚合多个独立智能体的输出来提升大语言模型（LLM）的性能，并证明了其有效性。然而，现有的 MoA 系统依赖于静态路由机制，在聚合智能体输出时，未明确考虑连续聚合层之间的时间或上下文依赖关系。这一局限性导致系统无法根据历史路由决策或生成过程的演变上下文来调整智能体的贡献，从而可能导致效率和聚合质量次优。

方法论
本文提出了MMoA，这是一种新颖的循环 MoA 架构，将基于LSTM 的门控机制集成到智能体选择过程中。核心方法论包括：

1. 循环门控模块：MMoA 不再静态地聚合智能体输出，而是将 $n$ 个智能体（$A_1(x), \dots, A_n(x)$）的输出融合为表示 $z_t$。该表示与来自上一层的隐藏状态（$h_{t-1}$）一起输入 LSTM 进行处理，以捕捉历史上下文，从而生成更新后的隐藏状态 $h_t$。
2. 动态加权：通过对 $h_t$ 应用线性变换和 Softmax 激活函数来计算门控向量 $g$。该向量动态地为当前层中每个智能体的贡献进行加权：$y = \sum g_i \cdot A_i(x)$。
3. 迭代优化：该架构在多个层（$L$）上运行。在每一层，模块接收候选响应以及上一层的聚合输出，使模型能够利用当前输入特征和历史路由信息来迭代优化其输出。
4. 训练目标：为路由器定义了一个特定的损失函数，旨在最小化特定任务的损失，同时通过熵正则化（$H(p)$）保持探索性，并可选择性地强制在各智能体之间实现负载均衡。

主要贡献

• MoA 的路由器设计：作者引入了一种源自混合专家（MoE）机制的路由器，具体利用基于 LSTM/RNN 的门控机制，在 MoA 框架内执行动态的、感知上下文智能体选择。
• 循环门控集成：这项工作首次将循环门控机制集成到 MoA 框架中，使系统能够根据当前输入和历史路由状态做出路由决策。
• 效率与准确性的权衡：该方法提供了一种可扩展的解决方案，能够动态激活较少的智能体，在保持高精度的同时显著降低计算开销。

实验结果
作者在指令遵循基准测试（AlpacaEval 2.0、MT-Bench和Arena-Hard）上评估了 MMoA 与标准基线（包括静态 MoA 和消融模型）的表现。

• 准确性：MMoA 实现了与传统 MoA 相当的准确性，仅出现微小下降。
  • 在AlpacaEval 2.0上，MMoA 的胜率达到了58.0%，而 MoA 为 59.8%（下降 1.8 个百分点），LC 胜率为 61.5% 对比 65.1%。
  • 在MT-Bench上，平均分仅下降了0.05 分（从 9.25 降至 9.20）。
• 效率：循环路由器通过重用隐藏状态而非在每一层为每个智能体重算门控网络，将有效时间复杂度从 $O(nL)$降低至约$O(n+L)$，显著提高了运行时效率。
  • 在AlpacaEval 2.0上，与非循环基线相比，MMoA 的运行时效率提升了高达4.6%。
  • 推理时间的减少在不同智能体数量（$n=2, 3, 6$）下保持一致，MMoA 完成任务所需时间约为基线运行时长的 54–56%。

意义与主张
本文声称，MMoA 代表了首个在 MoA 框架内专门引入用于智能体选择的路由器的工作，弥合了静态聚合策略与动态循环路由机制之间的差距。作者将此定位为迈向“以语言模型的方式调整混合智能体系统”的一步。

这项工作的意义在于其能够为自适应多智能体 LLM 系统提供一种可扩展且高效的解决方案。通过实现感知上下文且具备时间信息的路由，MMoA 允许在不牺牲显著性能的情况下激活较少的智能体，使其成为计算成本受限的实际应用场景中的可行方案。

局限性
作者谦逊地承认了若干局限性：

• 评估主要集中在指令遵循基准测试上；其在长上下文推理、工具使用或安全关键任务中的泛化能力尚未得到验证。
• 循环路由器具体实例化为 LSTM 风格的机制；其他设计（例如基于 Transformer 或基于强化学习的机制）未被探索。
• 该系统引入了额外的超参数，并且可能对训练数据和智能体池的组成敏感，这些方面尚未得到充分分析。
• 重点仍在于推理时的效率和胜率指标，定性失败模式和校准工作留待未来研究。