💬 NLP

CRAFT: Learn the Schema, Execute the Plan

CRAFT 是一个用于企业级编程智能体的两阶段后训练框架，它通过学习基于模式（schema）的规划与执行行为，无需在提示时进行详尽的模式注入，从而在显著降低 Token 开销的同时，大幅提升分析性能、一致性与效率。

原作者： Aakash Kolekar, Sahika Genc, Shahriar Shariat, Bunyamin Sisman, Tibor Mezi, Barbara Poblete, Shree Vandana Kachroo, Calvin Chi, Parth Parmar, Ari Singer, Prayaas Jain, Cindy Barker, Benoit Dumoulin

发布于 2026-07-28

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Aakash Kolekar, Sahika Genc, Shahriar Shariat, Bunyamin Sisman, Tibor Mezi, Barbara Poblete, Shree Vandana Kachroo, Calvin Chi, Parth Parmar, Ari Singer, Prayaas Jain, Cindy Barker, Benoit Dumoulin

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下这样一个世界：你可以通过与一个超级聪明的机器人助手交谈，只需使用普通的英语，就能让它进行复杂的数学计算、分析海量数据或编写计算机程序。这就是“编码智能体”（coding agents）的梦想。但问题在于：为了完成工作，这个机器人需要了解它所处理的数据库的秘密规则。这就像一位厨师试图烹饪一道美食。如果厨师不知道储藏室里有哪些食材，也不知道炉灶如何工作，他们就无法烹饪。在过去，为了帮助机器人，工程师们会将一本包含所有规则、表名和列定义的、厚重且落满灰尘的百科全书，在每次机器人提问时都强行塞进机器人的大脑里。这就像是强迫厨师在切第一个洋葱之前，必须先读完整本百科全书。

现在，想象一下，如果厨师不再需要每次都阅读百科全书，而是可以在几次练习后就“记住”厨房的布局。这就是这篇论文要解决的核心问题：我们能否教会这些 AI 助手一次性学会这些规则，从而不需要每次都被提醒它们？研究人员想要看看，他们是否可以训练 AI 去“内化”模式（schema，即数据的地图）以及它需要使用的工具，从而使它变得更快、更聪明，并且在对话变得漫长而复杂时不易产生困惑。

论文：CRAFT —— 先学会地图，再跑完比赛

这篇论文介绍了一个名为 CRAFT 的新系统（其名称代表了“学习的两个阶段配方”）。作者团队来自亚马逊，他们希望构建一种能够帮助广告专家分析营销活动数据，而无需让他们沉溺于技术细节的 AI。他们发现，旧的方法——即将无穷无尽的文档“填充”到 AI 的提示词中——就像是背着一包砖头跑马拉松。这不仅减慢了速度，还让 AI 容易出错。

因此，他们尝试了一种不同的方法：学习模式，执行计划。

第一阶段：“剥离模式”的教室

首先，他们在一个特殊的教室里教授 AI，在这个教室里，“百科全书”被拿走了。他们给了 AI 数千个解决问题的案例，但隐藏了原始的数据库规则（DDL）输入。AI 不是通过阅读规则来学习，而是必须学习如何思考和规划的“模式”。

这就像是通过展示步骤和逻辑来教学生解数学题，但不允许他们看公式表。他们必须记住“思考的方式”。研究人员称之为 PLAN 有监督微调（SFT）。这就像是 AI 正在学习如何构建计划和编写代码的“肌肉记忆”，而不需要每次都依赖那张“作弊纸”。

第二阶段：“强化学习”健身房

一旦 AI 具备了基础的肌肉记忆，他们就会把它放入一个 强化学习（RL） 健身房。在这里，AI 实际上会尝试运行代码并使用工具。如果它犯了错误——比如调用了错误的工具或编写了导致崩溃的代码——它会得到一个“负分”。如果成功了，它会得到一个“正分”。

研究人员使用了一种特殊的评分系统，该系统不仅关心代码是否能运行，还关心代码是否“好”、计划是否与代码匹配，以及当情况出错时 AI 是否能够恢复。这就像是一位教练观察一名跑步者，不仅看他是否跑完全程，还要检查他的姿势、速度以及他在踉跄时如何应对。这个阶段被称为 Execution-Shaped GRPO，它教会了 AI 即使在用户提出后续问题或在中途改变规则时，也能保持可靠和一致。

结果：更快、更聪明、更简洁

结果非常令人印象深刻。当他们测试 CRAFT 与旧的“砖头背包”法时：

速度： 新系统将 AI 需要阅读的文本量（token）减少了约 9 倍。这对 AI 的大脑来说是一次巨大的“减重”。
聪明程度： 整体“智能体得分”（衡量其完成任务能力的指标）提升了 9.6 个百分点。
一致性： AI 变得更加一致，提升了 4.1 个百分点，这意味着即使你两次询问同一个问题，它也能给出同样好的答案。
减少困惑： 它将 AI “搜索”正确工具的次数减少了高达 5 倍。

研究人员还发现，AI 在处理多轮对话方面变得更出色了。如果用户说，“显示销售额”，然后紧接着说，“现在只筛选红色衬衫”，CRAFT AI 会记住上下文并保持对话连贯，而旧系统则经常会迷失方向。

它不是什么（以及需要注意什么）

值得注意的是，这篇论文并没有声称它能做到所有事情。作者明确指出，该系统是为**稳定的已知模式（schemas）**设计的。如果数据库突然发明了一种全新的数据类型或一种 AI 从未见过的全新工具，CRAFT 可能会陷入困境。这就像一位完美熟悉厨房的厨师，却不知道如何使用一个从未见过的奇怪新奇小工具。在这种情况下，你可能仍然需要查阅规则（检索）或重新训练这位“厨师”。

此外，论文也承认，虽然 AI 在遵循计划方面表现出色，但它尚未完全针对计算机内存使用量或服务器运行成本进行优化。那是未来升级的工作。

总结

CRAFT 表明，与其不断地把信息塞到 AI 面前，不如教会它规则，然后信任它去执行计划。通过结合“无作弊纸”的训练阶段和“实践并接受纠正”的阶段，他们构建了一个更轻量、更快且更可靠的智能体。这是朝着让 AI 助手感觉不再像是阅读手册的机器人，而更像是深谙业务逻辑的专家同事，迈出了重要的一步。

技术摘要：CRAFT —— 学习模式，执行计划

问题陈述

企业级编码智能体正越来越多地被用于将自然语言分析请求转化为可在专有 API 和模式（Schema）上执行的代码。然而，主流的部署模式依赖于“上下文填充”（Context Stuffing），即将详尽的模式定义（DDL）、API 文档和工具指令注入到每个提示词中。这种方法为生产级分析带来了三个关键挑战：

推理开销： 长篇幅的模式提示词会与用户轮次及中间结果竞争工作记忆，显著增加 Token 成本。
模式演进的脆弱性： 物理模式的变化（例如列重命名、表迁移）需要频繁更新提示词流水线并进行回归测试。
多轮对话的可靠性： 持续注入静态上下文会破坏多轮分析对话中的一致性和连贯性，在这些对话中，智能体必须保留约束条件并推进分析，而非将每一轮视为独立过程。

作者研究了是否可以通过后训练（Post-training）而非瞬态提示词上下文来获取稳定的模式知识和工具使用行为，从而实现生产级分析所需的稳定性。

方法论

本文提出了 CRAFT，一种旨在为基于模式的编码智能体设计的两阶段后训练方案。该系统在一个受控的企业环境中进行评估，该环境使用 Beta 版 API 和与模式链接的广告数据，避免接触客户敏感的生产数据。

1. 轨迹蒸馏与过滤

针对缺乏用于长程、多工具代码生成的专家级人类真值（Ground Truth）的问题，作者将轨迹生成视为一个可验证的搜索问题。教师模型使用三块结构生成候选轨迹：推理草稿（Reasoning Scratchpad）、业务级 <PLAN> 块（解释实体/指标而不包含原始 DDL）以及可执行的 <CODE> 块。

三门过滤机制（Tri-Gate Filter）： 通过一个三阶段拒绝过滤器，将超过 10 万条生成的轨迹精炼为 1.51 万条接受的轨迹：
- 第一门： 拒绝执行失败、语法错误和超时。
- 第二门： 拒绝空输出或不完整的输出。
- 第三门： 使用 LLM 判别器集成来检测提示词、计划与代码之间的语义不匹配。

2. 第一阶段：去模式化 PLAN 有监督微调（SFT）

第一阶段训练一个 120B MoE 基座模型，使其学习领域结构的计划和可执行行为，而无需在提示时注入详尽的模式。

模式剥离（Schema Stripping）： 从输入中移除 5 万+ Token 的模式上下文。模型必须依赖内化的领域结构。
损失掩码（Loss Masking）： 对工具输出进行掩码处理，以防止模型记忆不可预测的运行时数值（标识符、时间戳、DataFrame 内容）。
目标： 提供领域熟悉度，并教授常见的实体关系和代码惯用法，作为智能体必要的初始化。

3. 第二阶段：执行驱动的强化学习（RL）

第二阶段应用群体相对策略优化（GRPO），使智能体的策略与执行反馈对齐。

奖励函数： 总奖励（ $R_{total}$ $R_{t o t a l}$ ）是以下各项的加权组合：
- $R_{outcome}$ ：执行成功率和单元测试正确性。
- $R_{process}$ ：工具调用结构、代码质量以及避免反模式（如冗余连接）。
- $R_{consistency}$ ：所述计划与生成代码之间的一致性。
- $R_{judge}$ ：LLM 判别器对业务对齐度的评估。
基础设施： 系统利用 VERL 和 SLIME 的扩展来支持异步多轮展开，传播步级工具奖励，并处理有状态的工具响应轮次。

核心贡献

计划式展开的企业系统： 描述了一个覆盖 25 个模式链接实体和 30 个智能体工作流的广告分析部署设置，并针对 Beta API 进行了评估。
去模式化后训练方案： 一种结合了 PLAN SFT 和执行驱动 RL 的新颖组合，减少了对详尽提示时模式注入的依赖。
面向生产的评估： 一项综合评估，衡量了任务质量、一致性、多轮交互和效率，并报告了相对于“模式填充”基线的机密增量。
部署经验： 记录了在多轮工具使用 RL 的企业设置中所需的设计权衡、失效模式以及基础设施扩展（VERL/SLIME）。

结果

与模式填充的基线相比，CRAFT 在质量和效率方面表现出显著提升：

性能指标：
- 智能体得分（Agent Score）： 提升了 +9.6 个百分点 (pp)。
- 一致性（Consistency）： 提升了 +4.1 pp。
- 多轮连贯性（Multi-turn Coherence）： 提升了 +4.2 pp。
效率指标：
- 输入 Token 负担： 由于模式剥离，降低了约 9 倍（仅为基线的 0.11x）。
- 模式发现循环（Schema-Discovery Loops）： 减少了高达 5 倍（为基线的 0.20x），表明智能体需要更少的探索轮次来找到有效的执行路径。
组件分析： 改进分布在执行成功率、工具使用正确性、计划-代码对齐度和最终答案准确度等方面，而非集中在单一指标上。
通用能力： 公共基准测试（IFEval, GSM8K, GPQA）显示增量几乎为零，表明没有出现实质性的通用推理能力退化。

重要性与主张

论文声称 CRAFT 为在模式属于专有且稳定的企业环境中部署可靠的编码智能体提供了一条可行路径。通过将稳定的模式知识从提示上下文转移到通过后训练获得的模型权重中，该系统实现了：

可扩展性： 大幅降低了 Token 开销，使多轮交互在经济上变得可行。
鲁棒性： 增强了处理多轮细化以及在无需重新注入大规模上下文的情况下从执行失败中恢复的能力。
可维护性： 将智能体的核心推理与特定的模式版本解耦，减少了在模式演进期间更新提示流水线的需求。

作者谦虚地将 CRAFT 定位为一种“针对在计划式展开设置下运行的稳定专有模式的编码智能体的后训练方案”，并明确指出它并非在任意开放世界领域中替代检索或上下文内工具落地的手段。该工作强调，虽然 SFT 提供了必要的领域熟悉度，但执行驱动的 RL 对于对齐智能体关于工具选择和歧义解决的交互式决策政策至关重要。