💬 NLP

EvolveRouter: Co-Evolving Routing and Prompt for Multi-Agent Question Answering

EvolveRouter 是一种通过闭环协同进化机制联合优化智能体质量与协作结构，并采用自适应推理策略动态调整参与智能体数量的可训练框架，从而在问答任务中实现了比现有路由基线更优越的性能。

原作者： Jiatan Huang, Zheyuan Zhang, Kaiwen Shi, Yanfang Ye, Chuxu Zhang

发布于 2026-04-08

📖 1 分钟阅读☕ 轻松阅读

原作者： Jiatan Huang, Zheyuan Zhang, Kaiwen Shi, Yanfang Ye, Chuxu Zhang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文介绍了一个名为 EvolveRouter（进化路由器）的新系统，它解决了一个关于如何让多个"AI 助手”高效合作回答问题的难题。

为了让你轻松理解，我们可以把这个问题想象成经营一家超级复杂的“专家咨询诊所”。

1. 背景：为什么需要“专家诊所”？

现在的 AI（大语言模型）很聪明，但它们就像不同特长的医生：

有的擅长逻辑推理（像外科医生，适合做复杂手术）；
有的擅长快速检索（像全科医生，适合查资料）；
有的擅长辩论（像律师，适合分析矛盾）；
有的擅长总结（像行政主管，适合提炼重点）。

过去的问题：
以前的系统就像是一个死板的调度员：

不管什么问题，都让所有医生一起会诊：这太浪费钱了（计算资源），而且医生多了容易吵架，反而把简单问题搞复杂。
医生的“处方”是固定的：如果某个医生总是因为“说话太啰嗦”或“没听懂问题”而误诊，系统只会换人，却不会教这个医生怎么改进。

EvolveRouter 的解决方案：
它引入了一个**“智能且会进化的超级调度员”**，它有两项绝招：

2. 核心绝招一：闭环进化（Co-Evolving）

——“既选对人，又教人改错”

想象一下，这个调度员不仅负责派单，还负责培训医生。

第一步：诊断（Router Diagnostics）
当遇到一个难问题时，调度员发现：“哎呀，这位‘逻辑推理医生’（Agent A）又答错了，而且他经常犯同样的错误（比如把‘父亲’和‘儿子’搞混）。”
第二步：特训（Prompt Refinement）
调度员不会直接开除这位医生，而是给他发一份**“错题集”和“修改建议”**。
- 原来的指令： “请回答问题。”
- 修改后的指令： “请回答问题，但在回答前，必须先把问题里提到的人名和关系列出来，确认没搞错再回答。”
  这就好比给医生加了一个“检查清单”，让他下次不再犯同样的错。
第三步：再派单（Closed-Loop）
医生经过特训变强了，调度员再遇到类似问题时，就会更信任他，给他派更多的单。

比喻： 这就像是一个不断自我升级的教练团队。教练不仅知道谁擅长打篮球，还会根据比赛录像，专门给那个投篮不准的队员制定训练计划，让他下次投得更准。

3. 核心绝招二：自适应协作（Adaptive Inference）

——“看菜吃饭，按需派兵”

以前的系统要么只派一个医生（可能能力不够），要么派所有医生（太浪费）。
EvolveRouter 则像是一个精明的项目经理，它会根据问题的难度动态决定派几个人。

简单问题（如“苹果是什么颜色？”）：
调度员派了第一个专家，专家回答“红色”。第二个专家也回答“红色”。
- 判定： 大家都同意，停！不需要再问其他人了。
- 结果： 只用了 2 个人，秒回答案，省钱又快。
复杂问题（如“某历史事件对现代经济的具体影响是什么？”）：
第一个专家说“影响很大”，第二个说“影响很小”，第三个还在犹豫。
- 判定： 大家意见不统一，继续派！ 调度员会按顺序叫来更多专家，直到大家的意见达成“加权共识”（比如 3 个专家都说是“正面影响”）。
- 结果： 虽然用了 5 个人，但保证了答案的准确性。

比喻： 这就像点外卖。

如果你只点一杯水，系统直接派一个骑手送（快且省）。
如果你点了一桌满汉全席，系统会派一个车队，甚至分批次送，确保每道菜都热乎且齐全。
EvolveRouter 就是那个能自动判断“这顿饭该派几个人送”的聪明系统。

4. 实验结果：真的有用吗？

作者在五个不同的“考试”（问答数据集）上测试了这个系统，包括：

多跳推理（像做侦探，需要把几个线索连起来）；
事实问答（像查百科全书）；
营养健康（像给病人做饮食建议）。

结果：

更准： 它的回答准确率（F1 分数）比目前最先进的方法都要高。特别是在那些需要“脑筋急转弯”或“深度推理”的题目上，提升非常明显。
更省： 因为它知道什么时候该“见好就收”，平均每个问题只需要调用 3 到 7 个 AI 助手，而不是把 24 个全叫来。这意味着成本降低了 70% 到 88%。
更稳： 即使换了不同的题目类型，它也能保持很高的稳定性，不像以前的方法那样容易“翻车”。

总结

EvolveRouter 的核心思想就是：不要只盯着“选谁”，还要盯着“怎么教”；不要死板地“全上”或“单挑”，要懂得“看情况办事”。

它让 AI 团队从一群各自为战、水平参差不齐的临时工，进化成了一个既能自我学习、又能灵活排兵布阵的精英特种部队。这不仅让 AI 回答问题更聪明，还让使用 AI 变得更便宜、更高效。

EvolveRouter 技术总结

1. 研究背景与问题定义

背景：
大型语言模型（LLM）智能体（Agents）在推理、理解和生成方面展现出强大的能力。由于不同的智能体（基于不同的骨干模型和提示策略，如 CoT、Debate 等）在不同任务上具有互补的优势，多智能体问答（Multi-Agent QA）成为了一种有前景的范式。然而，现有的多智能体系统面临两个核心挑战：

静态智能体池： 现有的路由方法通常假设智能体的行为是固定的，仅优化“选择哪个智能体”，而忽略了智能体本身的配置（如提示词 Prompt）可能并非最优。研究表明，微小的提示词变化可能导致性能的巨大差异。
僵化的协作模式： 现有方法通常采用两种极端策略：要么将每个查询路由到单个智能体（可能遗漏互补专家），要么固定聚合所有智能体（导致计算浪费，且可能引入弱智能体干扰结果）。缺乏一种能根据查询动态调整参与智能体数量的自适应机制。

核心问题：
如何设计一个框架，既能动态选择最合适的智能体组合，又能协同进化智能体本身的提示词质量，同时根据查询难度自适应地调整参与推理的智能体数量，以实现高效且高质量的多智能体问答？

2. 方法论：EvolveRouter

EvolveRouter 是一个可训练框架，通过闭环共进化（Closed-Loop Co-Evolution）过程，联合优化路由策略和智能体提示词，并引入自适应推理策略。

2.1 核心组件

(1) 基于知识图谱的路由器 (RouterGNN)

图构建： 将问答实例转化为异构图 $G$ 。节点包括查询（Query）、智能体（Agent）和实体（Entity）。边包括查询 - 实体、实体 - 实体、智能体 - 实体以及可训练的查询 - 智能体边。
路由机制： 利用异构图神经网络（Heterogeneous GNN）进行类型感知的消息传递，学习查询与智能体之间的兼容性得分 $s(q, a)$ ，输出路由分布 $p_\theta(a|q)$ 。
训练目标： 最小化路由器输出分布与基于所有智能体实际表现（F1 分数）构建的软目标分布之间的 KL 散度。

(2) 闭环提示词共进化 (Closed-Loop Prompt Refinement)

这是 EvolveRouter 区别于传统路由方法的关键创新。

诊断信号收集： 在训练过程中，收集每个智能体的失败案例、F1 分数统计以及路由器对各智能体的依赖权重。
目标选择策略： 并非简单地优化表现最差的智能体，而是优先优化**“表现差但路由器依赖度高”**的智能体。
- 优先级得分公式： $priority(a) = (1 - F1(a)) \times (\alpha + \bar{w}(a))$ 。
- 引入一致性过滤：仅当某个角色（Role）在多个骨干模型（Backbone）上均表现不佳时，才进行提示词优化，排除特定模型的异常值。
提示词重写： 利用重写 LLM 根据失败案例生成候选提示词，限制修改幅度（仅添加/重述/删除少量句子），保持核心策略不变。
验证门控： 在针对失败案例的验证子集上评估候选提示词，仅接受能带来净提升且不引起严重回退的修改。
增量更新： 提示词更新后，路由器基于新的智能体池进行微调（Fine-tuning），而非从头训练，以保留已学到的路由知识。

(3) 自适应推理策略 (Adaptive Inference via Answer Agreement)

动态协作规模： 不再固定使用 $K$ 个智能体，而是根据查询动态决定。
停止规则： 路由器对智能体进行排序，按序调用智能体。计算前 $k$ 个智能体答案的加权同意度（Weighted Agreement）：
$A(k, q) = \frac{\max_y \sum_{i=1}^k p_{\sigma(i)}(q) \cdot \mathbb{I}[y_{\sigma(i)} = y]}{\sum_{i=1}^k p_{\sigma(i)}(q)}$
决策机制： 一旦加权同意度超过阈值 $\tau$ 且满足最小调用数 $k_{min}$ ，立即停止并输出加权多数投票结果。这使得简单问题只需少量智能体，复杂问题则调用更多。

3. 主要贡献

路由与智能体专业化的闭环共进化： 首次提出将路由诊断信号用于指导智能体提示词的针对性优化，形成“路由指导优化 -> 优化后智能体提供更纯净监督 -> 路由进一步改进”的正向循环。
基于动态选择的自适应协作： 提出了一种基于答案同意度的自适应推理机制，能够根据查询难度动态确定参与协作的智能体数量，平衡了计算效率与推理质量。
全面的实验验证： 在五个问答基准（HotpotQA, 2WikiMultihopQA, NewsQA, TriviaQA, NGQA）上进行了广泛实验，证明了该方法的有效性。

4. 实验结果

性能提升： 在五个基准测试中，EvolveRouter 在 F1 和 Exact Match (EM) 指标上均一致优于现有的 SOTA 路由基线（包括 Heuristic、Training-free、Adaptive 和 Structure-aware 方法）。
- 例如，在 TriviaQA 上，相比次优基线 AgentRouter，F1 提升了 7.08%，EM 提升了 8.67%。
消融实验分析：
- 提示词优化 (PO) 的贡献： 提示词优化带来了大部分的性能提升（如在 TriviaQA 上 F1 提升 9.21%），证明了优化智能体本身比单纯优化路由更重要。
- 自适应 K 的贡献： 自适应机制进一步提升了性能，并显著降低了方差（提高了系统稳定性）。
- 增量更新的重要性： 在提示词优化后，从检查点微调路由器比从头训练效果好得多，证明了路由知识的可迁移性和重要性。
效率提升： 自适应策略将平均调用的智能体数量从 24 个减少到 2.9-7.4 个，在保持或提升精度的同时，减少了 69%-88% 的计算成本。
跨域泛化性： 实验表明，路由策略具有高度的任务特异性，跨数据集直接迁移效果较差，但优化后的提示词具有一定的跨任务迁移能力。

5. 研究意义与结论

EvolveRouter 揭示了多智能体系统中**“路由”与“智能体质量”相互依存**的深层关系。它打破了传统方法中“固定智能体池”和“静态协作模式”的局限，提出了一种动态、自进化的系统架构。

理论意义： 证明了通过诊断反馈机制改进底层智能体配置，可以显著提升上层路由系统的性能上限。
实践意义： 提供了一种高效的多智能体部署方案，能够在保证高准确率的同时，大幅降低推理成本（通过动态减少调用次数），特别适用于资源受限或需要实时响应的场景。
未来方向： 该框架为自动设计智能体拓扑结构、动态扩展智能体池以及构建更通用的多智能体协作系统奠定了基础。

总之，EvolveRouter 不仅是一个性能更强的路由算法，更是一个协同进化的多智能体系统框架，为解决复杂问答任务中的配置选择和资源分配问题提供了新的范式。