💬 NLP

Global Optimization and Inference-Time Region Grafting for Agentic Workflows

该论文介绍了 GRAFT，这是一种无需训练的方法，它能够使智能体工作流利用无标签的质量信号，自适应地将执行失败的区域替换为更好的替代方案，从而实现实例级优化，并在无需进行计算昂贵的整个工作流重新优化的情况下，提升多种不同任务的性能。

原作者： Donghyeok Koh, Gyuwan Kim, Jinyeong Bak, Seung-Hoon Na, Tao Yang, Haneol Jang, Cheoneum Park

发布于 2026-08-04

📖 1 分钟阅读☕ 轻松阅读

原作者： Donghyeok Koh, Gyuwan Kim, Jinyeong Bak, Seung-Hoon Na, Tao Yang, Haneol Jang, Cheoneum Park

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你正在试图解开一个巨大的、复杂的谜题。在人工智能的世界里，这些谜题被称为“智能体工作流”（agentic workflows）。我们不仅仅是要求一台聪明的计算机去“解决这个问题”，而是给它一个特定的食谱——一个包含搜索事实、提前规划、检查自身工作以及完善答案等不同工具的逐步计划。你可以把它想象成一个厨房，其中的主厨（AI）不仅负责烹饪，还有一个负责切菜的副厨、一个负责品尝并验证结果的试吃员，以及一个负责组织菜单的规划师。

长期以来，科学家们一直试图为每种类型的谜题找到一个“完美”的食谱。他们进行数千次离线测试，以确定步骤的最佳顺序。但问题在于：并非每个谜题都是一样的。一个简单的数学题可能只需要快速切菜，而一个棘手的历史问题可能需要深入研究和反复检查。如果你对每一个谜题都使用相同的僵化食谱，你可能会陷入困境或犯下愚蠢的错误，因为计划在特定时刻缺乏足够的灵活性。大问题在于：我们能否在保留一个优秀的、预先规划好的食谱的同时，还能在烹饪过程中根据当前正在制作的具体菜肴来微调步骤，而无需从头开始？

这正是论文《全局优化与推理时区域嫁接在智能体工作流中的应用》（Global Optimization and Inference-Time Region Grafting for Agentic Workflows）所探讨的内容。作者引入了一个名为 GRAFT 的新系统。GRAFT 并不强迫 AI 固守一个固定的计划，也不在面对每个问题时都重新发明轮子，它更像是一位拥有针对特定餐点的“黄金食谱”，但如果试吃员说需要调整，它愿意随时更换一两个配料的高级主厨。

以下是它在论文所述现实世界中的运作方式：首先，系统会利用标准的测试方法，为一类任务（如数学或编程）找到一个全局优化的工作流（即“黄金食谱”）。这发生在 AI 开始回答问题之前。然后，当一个具体的问题进来时，GRAFT 不会盲目地执行食谱。它会将食谱分解成小的、自包含的部分，称为“区域”（regions）。当 AI 处理问题时，它会检查每个区域。如果某个区域（例如“推理”步骤）看起来很吃力或产生了较弱的结果，GRAFT 会在运行过程中即时将其替换为一个更好的版本。

至关重要的一点是，这种替换过程不需要预先知道正确答案（这在实时使用过程中通常是不可能的）。相反，系统使用巧妙的“无标签”（label-free）信号来判断质量。例如，在数学中，它可能会对同一个问题运行五种不同的方式，看看它们是否达成一致（这被称为“自一致性”技术）；在编程中，它可能会运行代码以查看是否通过了测试。如果一个新版本的步骤看起来更好，并且不会破坏与下一步骤的连接，GRAFT 就会将其“嫁接”（graft）进去。如果效果不好，它则保留原有的步骤。这种操作针对每一个输入都是即时完成的。

论文发现，这种方法是一个游戏规则的改变者。在测试了涵盖数学问题（如 GSM8K 和 MATH）、编程任务（HumanEval）以及复杂问题（HotpotQA）的五个不同基准测试后，GRAFT 的表现优于之前的最佳方法 MaAS，平均高出 3.85 个百分点。在 AI 基准测试领域，这是一个巨大的飞跃。例如，在 GSM8K 数学数据集中，GRAFT 得分为 95.04，击败了得分仅为 92.30 的次优方法。

作者还发现了关于这个“食谱”本身的一些迷人发现。他们发现，优化的工作流不仅仅是一套静态的指令，它是一种灵活的策略。即使他们在不改变工作流的情况下，将“厨师”（底层 AI 模型）更换为更强大的模型，性能也会提升。这表明一个好的工作流是具有适应性的；它可以通过拥有更聪明的工具来执行工作，从而实现进化，而无需重新设计。

然而，论文也谨慎地指出了这种魔力在何处奏效，以及在哪里碰壁。用于判断质量工作的“无标签”信号在数学和编程领域表现得非常好，因为在那里的答案非黑即白。但在处理复杂的知识类问题（如关于历史或科学的问题）时，这些信号的可靠性较低，系统的提升也不明显。作者指出，虽然 GRAFT 是实时调整工作流的一种强大方式，但它高度依赖于在不知道最终答案的情况下验证步骤质量的能力。

简而言之，GRAFT 证明了你无需在“僵化的预设策略”与“混乱的随兴应变”之间做出选择。通过在坚实的基础上嫁接微小且智能的调整，AI 智能体可以变得更加稳健、高效且准确，从而解决那些对于“一刀切”方案来说过于棘手的难题。

技术摘要：用于智能体工作流优化的 GRAFT

1. 问题陈述

近期，智能体工作流（Agentic Workflows）的进展建立了通过离线搜索或架构选择（如 AFlow、MaAS）来设计特定任务工作流的自动化方法。然而，这些方法存在一个根本性的局限：它们在执行前确定了一个单一且固定的工作流结构。这种静态方法无法应对单个输入在难度和推理需求上的差异。例如，一个简单的算术问题可能只需要一步推理，而一个复杂的组合问题则需要分解、验证和重新推理。

在推理阶段尝试为每个输入重新优化整个工作流，由于算子组合的指数级搜索空间，在计算上是极其昂贵的。此外，离线方法依赖于用于优化的地面真值标签（Ground-truth labels），而这在推理阶段是无法获取的。在缺乏外部反馈的情况下，仅依靠 LLM 来评估并修正自身的推理过程是不可靠的。此外，多智能体系统面临“区域间干扰”（Inter-region interference）问题，即局部替换一个组件可能会改变下游输入并导致最终结果退化，即使该局部组件本身有所改进。

2. 方法论：GRAFT

为了解决这些挑战，作者引入了 GRAFT（全局优化与推理时区域移植），这是一个无需训练的框架，它在保留全局优化工作流的同时，通过局部区域替换实现针对实例的自适应。

核心架构

全局工作流先验（Global Workflow Prior）： GRAFT 从一个通过离线搜索得到的特定任务全局工作流 ( $W_c^*$ ) 开始。该工作流被构建为一系列**单入单出（SESE）**区域的序列。每个区域对应一个特定的角色（例如：规划、证据、推理、验证），并包含一个局部的候选算子空间。
推理时局部移植（Inference-Time Local Grafting）： 对于每个输入，GRAFT 不会对整个图进行重新优化。相反，它会识别需要适配的区域，并在该区域的角色限制范围内探索一个较小的局部候选空间。
无标签评估（Label-Free Assessment）： 由于推理阶段无法获得地面真值，GRAFT 使用无标签代理信号来评估候选方案：
- 自一致性（Self-Consistency）： 多个推理链之间的达成一致程度。
- 落地性（Groundedness）： 答案在多大程度上得到了所提供证据的支持（内容词的词汇覆盖率）。
- 验证器信号（Verifier Signals）： 代码测试通过率或基于 LLM 的判断。
耦合保护器（Coupling Guard）： 为了防止“区域间干扰”，耦合保护器仅在替换方案能提高局部质量且在容差 $\epsilon$ 内保持边界支持（与上游证据的一致性）时才接受替换。这确保了局部改进不会降低全局工作流的一致性。
记忆与摊销（Memory and Amortization）： 获胜的配置被存储在以输入类型特征为索引的记忆库中。对于后续输入，GRAFT 会检索这些配置，从而绕过重复的局部搜索并摊销计算成本。

算法流程

离线阶段： 通过为每个区域选择算子来构建全局工作流，以最大化验证集上的性能，同时平衡质量与 Token 成本。
在线阶段：
- 系统按“上游优先”的顺序处理各个区域。
- 系统尝试从记忆库中检索已知的最优配置。
- 如果不存在匹配项或检索到的配置未达到质量目标，则对该区域的候选空间进行局部搜索。
- 使用无标签代理和耦合保护器对候选方案进行评估。
- 被接受的配置会更新工作流状态和记忆；下游区域被标记为“陈旧（Stale）”，以便在后续轮次中进行重新评估。
- 当不再发生变化或达到质量目标时，过程终止。

3. 核心贡献

推理时适配范式： GRAFT 提出了一个将工作流视为一种可适配执行策略而非静态人工制品的框架。它在不进行梯度更新或重训练的情况下，针对每个输入重新优化区域级结构。
无标签局部优化机制： 该设计引入了特定的代理（自一致性、落地性、验证器信号）和耦合保护器，从而在没有地面真值的情况下实现可靠的局部搜索，确保局部改进不会损害全局一致性。
最先进的性能： 该方法在多种任务中实现了卓越的性能，证明了优化的工作流可以随着推理时反馈和更强的执行器而进化。

4. 实验结果

作者在涵盖数学推理（GSM8K, MATH, MultiArith）、代码生成（HumanEval, MBPP）、多跳问答（HotpotQA, DROP）和知识密集型问答（MMLU-Pro, GPQA）的五个基准测试上对 GRAFT 进行了评估。

性能提升： 在匹配的优化器和执行器设置下（使用 GPT-4o-mini），GRAFT 达到了平均 87.44 的得分，超过了最强的先前方法 MaAS 3.85 分，也超过了 AFlow 5.19 分。
消融实验：
- 去除局部移植（即执行未经改变的全局工作流）导致性能显著下降（平均 -4.10），证实了增益源于推理时的适配。
- 用随机评分替换无标签代理信号导致了类似的下降，验证了代理信号的有效性。
- 去除耦合保护器导致了较小但持续的性能下降，凸显了其在防止干扰方面的作用。
执行器迁移： 当在不重新优化全局工作流的情况下，将执行器模型更换为更强的模型（例如从 GPT-4o-mini 更换为 Claude Sonnet）时，GRAFT 取得了显著收益。这表明优化的工作流作为一个灵活的策略，能够适配更强的模型。
效率： 配置记忆显著降低了搜索成本。对于具有统一输入类型的任务（如 GSM8K），记忆复用率达到了 0.86–0.92，有效地将局部搜索的成本摊销到了各个输入中。

5. 意义与主张

本文声称 GRAFT 证明了优化的工作流不仅仅是一个静态的优化产物，而是一个可适配的执行策略。通过将全局结构优化与实例级的局部适配解耦，GRAFT 使系统能够在不承担全面重新优化高昂成本的前提下，处理单个输入的差异性。该框架证明了无需训练，仅依靠离线全局搜索和在线无标签局部细化，即可实现高性能的智能体工作流。结果表明，未来的智能体系统可以动态演进，利用更强的执行器和推理时反馈，在基于单个实例的基础上提升性能。