💬 NLP

CANTANTE: Optimizing Agentic Systems via Contrastive Credit Attribution

CANTANTE 是一种新颖的框架，它通过将系统级奖励对比性地归因于各个智能体来解决信用分配问题，从而优化基于大语言模型的多智能体系统，在多样化的基准测试中实现了提示优化的最先进性能，同时降低了推理成本。

原作者： Tom Zehle

发布于 2026-05-14

📖 1 分钟阅读☕ 轻松阅读

原作者： Tom Zehle

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你有一个由三位专家组成的团队，他们共同解决一个难题：一位负责规划步骤的“规划者（Planner）”，一位负责编写解决方案的“编码者（Coder）”，以及一位负责检查方案是否有效的“验证者（Validator）”。这就是论文中所称的“多智能体系统（Multi-Agent System）”。

由 Tom Zehle 带领的作者们指出的问题是：当团队失败时，你只会得到整个团队的一个单一评分（例如，“你们得了 C"）。但你不知道谁搞砸了。是规划者给出了错误的指令？是编码者犯了拼写错误？还是验证者漏掉了某个错误？

在传统的机器学习中，整个团队获得相同的评分，每个人都试图根据这个单一分数来改变自己的行为。这就像一位老师告诉一支足球队：“你们输了比赛”，然后要求守门员、前锋和裁判都根据这一句话来改变各自的策略。这种做法既低效又令人困惑。

解决方案：CANTANTE

作者们介绍了一个名为CANTANTE的新框架。你可以将 CANTANTE 想象成一位超级聪明的体育分析师，他观察团队用略微不同的策略多次进行同一场比赛，然后精确地分析出谁对胜利或失败做出了贡献。

以下是其工作原理，使用一个简单的类比：

1. “如果”游戏（对比归因）

CANTANTE 不是只给团队评一次分，而是让团队连续三到四次解决同一个难题。

运行 A：规划者使用严肃的语气，编码者使用快速风格。
运行 B：规划者使用友好的语气，编码者使用相同的快速风格。
运行 C：规划者使用严肃的语气，编码者使用慢速风格。

在这些运行之后，团队会获得每次运行的评分。现在，归因器（Attributor）（即分析师）介入。它观察差异：

“在运行 A 和运行 B 中，编码者保持不变，但规划者改变了。分数上升了。因此，规划者的新语气是有帮助的！”
“在运行 A 和运行 C 中，规划者保持不变，但编码者改变了。分数下降了。因此，编码者的新风格是有害的。”

这被称为对比归因（Contrastive Attribution）。它通过相互比较来隔离每个人的贡献，而不是仅仅看最终分数。

2. 每个智能体的“信用评分”

一旦分析师弄清楚谁帮助了团队、谁损害了团队，它就会为每个智能体分配一个具体的信用评分（范围从 -1 到 +1）。

如果规划者得到 +0.8，系统就知道要调整规划者的指令，使其更接近那个成功的版本。
如果编码者得到 -0.5，系统就知道要引导编码者远离那种特定的风格。

关键在于，论文声称这比仅仅复制全局评分要好。在旧方法中，如果团队失败，即使规划者做得很好而问题出在编码者身上，规划者也可能受到指责。CANTANTE 通过指出“规划者做得不错；编码者需要改变”来解决这个问题。

3. 结果：更聪明的团队，更少的浪费

作者在三种截然不同的“难题”上测试了这种方法：

编程（MBPP）：编写计算机程序。
数学（GSM8K）：解决文字应用题。
研究（HotpotQA）：回答需要从多个地方查找信息的复杂问题。

研究发现：

更高的分数：CANTANTE 始终优于其他方法。在编程任务中，与次优方法相比，其准确率提高了近 19%。在数学任务中，提高了 12.5%。
运行成本更低：令人惊讶的是，经 CANTANTE 优化的团队不需要“思考”更长时间或使用更多计算资源来获得正确答案。事实上，在编程和数学任务中，它们使用的资源（token）比未优化的团队更少。
稳定性：该方法并非偶然成功一次；它在不同的随机起点下都能稳定发挥作用。

为什么这很重要（根据论文）

论文认为，构建这些 AI 团队不应是“猜测和检查”的游戏，即由人类手动调整提示词。相反，它应该是一门**信用分配（Credit Assignment）**的科学。

就像教练不会在一名球员射失球时向整个团队大喊大叫一样，CANTANTE 确保 AI 系统确切地学习到团队的哪一部分需要改进。它将多智能体系统的“黑箱”转变为一个透明的机器，让每个智能体都确切知道如何变得更好。

简而言之：CANTANTE 是一种让 AI 团队从错误中学习方法，它通过询问“具体是谁导致了这个结果？”来取代仅仅说“我们失败了，再努力点”。这带来了更智能、更高效、更准确的 AI 系统。

技术摘要：CANTANTE

问题陈述

基于大语言模型（LLM）的多智能体系统（MAS）在软件工程、预测建模和检索增强生成等复杂任务中已展现出强劲性能。然而，自动化其配置仍是一个结构性挑战。虽然系统级评估分数（如准确率、奖励）是可用的，但控制单个智能体行为（例如提示词）的参数是局部的。这导致了“信用分配”的不匹配：优化系统需要将全局标量信号转化为针对每个智能体的具体更新信号。

现有方法通常将全局分数直接传播给各个智能体，或按顺序（例如轮询）更新智能体，未能有效分解奖励信号。这导致优化效率低下，智能体可能接收到错误的更新信号（例如，规划者因编码者的错误而受到惩罚），或者由于联合配置的组合性质，搜索空间变得难以处理。

方法论：CANTANTE

作者提出了CANTANTE（多智能体系统调优的对比归因），这是一个将多智能体系统优化形式化为信用分配问题的框架。其核心机制是组内对比归因，它将系统级奖励分解为每个智能体的更新信号。

核心机制

联合配置采样：在每次迭代中，局部优化器为 $N$ 个智能体中的每一个提出 $K$ 个候选参数化方案（例如提示词）。这些方案被组装成 $K$ 个联合配置。
展开与评估：每个联合配置在一组查询上执行，产生系统级分数和执行轨迹（智能体输出的轨迹）。
对比归因：归因模型（一个经过提示的 LLM）不是基于绝对分数分配信用，而是比较大小为 $g$ $g$ 的随机对比组内的轨迹。它评估每个智能体的具体输出相对于组内其他配置，如何促成了系统结果的观察差异。
- 归因器为每次展开中的每个智能体输出一个标量信用 $c \in [-1, +1]$ 。
- 这使得系统能够通过分析中间行为差异，区分具有相同系统分数的配置。
局部更新：聚合后的信用被转发给相应的局部优化器，后者独立地更新智能体参数（提示词）。

实例化

在实验中，CANTANTE 被实例化用于提示词优化，将智能体提示词视为可学习的系统参数。该框架对局部优化器的选择无关；作者使用CAPO（成本感知提示词优化）作为默认局部优化器，但也展示了与其他优化器（如 EvoPrompt）的兼容性。

主要贡献

形式化：本文将基于 LLM 的多智能体系统优化形式化为信用分配问题，将其与将系统视为单一块的标准提示词优化区分开来。
框架设计：CANTANTE 引入了一种对比归因机制，通过比较联合展开来隔离每个智能体的贡献，将归因与具体的更新机制解耦。
实证验证：该框架在三个具有不同工作流拓扑的基准测试中与最先进基线（GEPA 和 MIPROv2）进行了评估：
- MBPP：编程（包含规划者、执行者、验证器的条件工作流）。
- GSM8K：数学推理（包含三个执行者和一个共识智能体的并行集成）。
- HotpotQA：多跳问答（包含检索器、阅读器、合成器和幻觉检查器的检索增强生成）。
消融与分析：作者通过“身份归因”消融实验（即直接传播全局分数）隔离出对比归因是性能提升的主要驱动力。他们还分析了信用相关性，以诊断多智能体系统拓扑中的瓶颈。

结果

CANTANTE 在所有评估的优化器中，跨基准测试取得了最佳平均排名。

性能提升：
- MBPP：达到 41.89% 的准确率，比最强基线（MIPROv2）提高了18.9 个百分点，比初始未优化提示词提高了 36.35 个百分点。与基线相比，其在不同种子下的方差也显著更低。
- GSM8K：达到 82.33% 的准确率，比 MIPROv2 提高了12.5 个百分点，比 GEPA 提高了 21.06 个百分点。
- HotpotQA：达到 11.93% 的准确率，保持在最强基线的一个标准差范围内，并优于初始配置。
效率：在 MBPP 和 GSM8K 上，CANTANTE 实现了更高的准确率，同时每个查询所需的推理时间令牌数少于未优化提示词和其他基线，表明性能提升并非由增加计算量驱动，而是源于更好的参数化。
鲁棒性：该方法在数据集规模减小（低至 75 个样本）时仍然有效，并且对归因模型和提示词的变化具有鲁棒性。
信用相关性：分析证实，归因器产生了有意义的每个智能体信号，而不仅仅是复述全局分数。例如，在 GSM8K 中，后执行的智能体由于近因偏差获得了更高的归因，这一模式与已知的 LLM 行为一致。

意义与主张

本文主张，CANTANTE 代表了将多智能体系统参数视为机器学习对象而非手动配置对象的一步。通过解决局部参数与全局反馈之间的结构性不匹配，该框架实现了多智能体系统对新任务的原理性适应。

作者强调，对比归因是比全局分数传播更有效的基于 LLM 的多智能体系统优化原语。生成有意义的每个智能体信号的能力允许：

更稳定和高效的优化（如更低的方差和更快的收敛所示）。
多智能体系统拓扑设计的诊断能力（识别哪些智能体是瓶颈）。
归因机制与局部优化器的解耦，允许集成复杂的优化策略。

这项工作被呈现为自动化复杂智能体工作流配置的基础方法，减少了目前部署所需的人工劳动。