💻 computer science

SkillRevise: Improving LLM-Authored Agent Skills via Trace-Conditioned Skill Revision

SkillRevise 是一个以执行为基础的框架，它通过从执行轨迹中诊断缺陷、检索修复原则并进行经验性地选择最优版本，迭代地优化不完美的初始智能体技能，从而显著提高了智能体的成功率和跨模型可迁移性，优于单次生成的生成方法。

原作者： Yuxuan Liu, Zhaochen Su, Lingyun Xie, Yuhao Zhang, Qing Zong, Jiahe Guo, Zhongwei Xie, Yiyan Ji, Yauwai Yim, Hongyu Luo, Xiyu Ren, Ruan Chenyu, Haoran Li, Yangqiu Song

发布于 2026-06-02

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Yuxuan Liu, Zhaochen Su, Lingyun Xie, Yuhao Zhang, Qing Zong, Jiahe Guo, Zhongwei Xie, Yiyan Ji, Yauwai Yim, Hongyu Luo, Xiyu Ren, Ruan Chenyu, Haoran Li, Yangqiu Song

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是使用简单语言和日常类比对 SKILLREVISE 论文进行的解释。

大局观：教机器人如何“从错误中学习”

想象你雇佣了一位非常聪明但缺乏经验的实习生（AI Agent）来从事一项复杂的任务，比如组织一个巨大的仓库或调试一段计算机程序。

通常，你会给这个实习生一份手册（称为“技能/Skill”）。

问题在于： 如果手册是由人类专家编写的，成本很高，而且可能并不符合实习生的思维方式。如果你要求实习生一次性写出一份属于自己的手册，他们可能会写出一些在纸面上看起来很完美、但在实际操作时却会崩溃的内容。
旧方法： 以前的方法试图通过让实习生进行大量练习并缓慢“进化”指令来修复手册。但这需要耗费大量时间，而且如果初始手册质量很差（即“冷启动”问题），效果并不理想。

SKILLREVISE 是一个全新的系统，它扮演着一个严厉但乐于助人的教练的角色。它不会等待实习生通过数月的练习来学习，而是拿出一份粗略的手册草案，让实习生尝试执行，观察他们在哪里失败，然后根据该特定失败点立即修改手册。

它是如何工作的：“教练循环圈”

论文描述了一个不断重复（通常进行三次）的四步循环，以完善手册：

1. 试运行（执行/Execution）

实习生使用当前版本的手册尝试完成任务。

类比： 实习生尝试组装一个书架。他们遵循指令进行操作，但书架摇晃并倒塌了。

2. 尸检（诊断/Diagnosis）

系统不仅仅是说“你失败了”。它像一名侦探一样工作。它观察证据（摇晃的书架）并询问：

哪里出了错？（我们是不是用了错误的螺丝？）
哪里做得对？（木头切割得很完美，所以不要改动那部分。）
类比： 教练说：“你没有把木头量错，但你跳过了检查地板是否平整的步骤。另外，保留关于打磨木材的部分；那做得很好。”

3. 智慧图书馆（原则记忆/Principle Memory）

系统会检查一个“通用修理规则库”。它寻找的不是针对这个特定书架的答案，而是寻找关于如何修理摇晃书架这类问题的通用规则。

类比： 教练从一副卡片中抽出一张，上面写着：“规则 #4：在搭建框架之前，务必检查地基。”

4. 重写（修订/Revision）

系统结合侦探的报告和通用规则来重写手册。至关重要的一点是，它添加了**“锚点”（Anchors）**。

什么是锚点？ 这些是特定的检查点。手册不再只是说“小心建造”，而是改为“在此处暂停，检查地板是否平整，如果地面不平，请停止”。
类比： 新手册现在贴了一个红色的便利贴：“在钉钉子之前，停下来检查地板是否平整。”

5. 最终决策（效用门控/Utility Gate）

实习生尝试使用新手册。

如果新手册的效果更好，系统就会保留它。
如果新手册让情况变得更糟，系统会将其丢弃，并回到之前的版本。
类比： 教练尝试新的说明书。如果书架仍然摇晃，他们会说：“好吧，那个新主意很糟糕。让我们回到旧的指令，下次尝试另一种修复方法。”

为什么它很特别？

论文强调了这种方法优于以往方法的三个主要原因：

它对冷启动友好（容易上手）： 你不需要拥有一个包含 1,000 份完美手册的库才能开始。你只需要一份不完美的手册，SKILLREVISE 就能快速修复它。
它不仅仅是“更多练习”： 旧方法让 AI 进行数千次练习来学习。SKILLREVISE 则像是针对性的手术。它找到指令中的特定缺陷并进行修复，而不是寄希望于 AI 通过偶然尝试来摸索出窍。
它学习的是通用规则，而非小技巧： 系统非常小心，不会教 AI 为了通过这次特定测试而“作弊”。它教 AI 如何处理这类问题。
- 坏的技能： “如果测试要求按红色按钮，就按红色按钮。”（这只对那一次测试有效）。
- 好的技能 (SKILLREVISE)： “在按下按钮之前，始终对照图表核实按钮颜色。”（这适用于任何测试）。

结果：它有效吗？

作者在三个不同的“考场”（基准测试）上测试了不同的 AI 模型（如 GPT-4o、Qwen 和 DeepSeek）。

得分： 在没有任何帮助的情况下，AI 只能完成约 36% 的任务。使用一次性生成且永不修改的手册（one-shot manual）时，得分约为 39%。
SKILLREVISE 得分： 经过仅仅三轮这样的“教练循环”后，AI 完成了 61% 的任务。
核心结论： 该系统能非常迅速地将一份平庸的手册转化为一份高效的手册。它还证明了这些改进后的手册可以被不同的 AI 模型使用，而不仅仅是编写它们的那个模型，这证明了所习得的技能是真正的通用知识，而非特定的小技巧。

总结

SKILLREVISE 是一个将 AI “技能”视为动态文档而非静态指令的框架。它利用 尝试 $\rightarrow$ 诊断 $\rightarrow$ 检索通用规则 $\rightarrow$ 重写 $\rightarrow$ 测试 的循环，将一份糟糕的指令变成一份优秀的手册，确保 AI 不仅仅是在死记硬背答案，而是在真正学习如何正确地开展工作。

技术摘要：SKILLREVISE

问题陈述

大语言模型（LLM）智能体越来越多地在由验证器驱动的环境中运行，其成功取决于执行多步工作流、满足约束条件以及从失败中恢复的能力。虽然“智能体技能”（可重用的程序化人工制品）旨在弥补原子工具与高层提示词之间的差距，但现有的技能获取方法面临着显著的局限性，特别是在仅有一个初始且不完美的技能可用时的冷启动设置中。

当前的方法分为三类，每类都有各自的缺陷：

基于检索的方法： 通常会选择与目标任务不完全匹配的技能，导致执行中断。
自我演化方法： 需要积累轨迹和经验，这使得它们在从零开始（冷启动）时无效，或者容易产生过拟合。
直接编写（专家或单次提示 LLM）： 专家编写成本高昂，且可能与智能体的实际执行行为不一致。单次提示生成的 LLM 往往产生的技能在语法上正确但在行为上较弱，缺乏针对执行轨迹的验证。

核心挑战在于，技能对智能体性能的提升并不像原子工具那样可靠；低质量或不匹配的技能反而会降低性能。因此，需要一种方法，能够利用执行证据迭代优化一个初始的、由 LLM 编写的不完美的技能，而不需要大量的预存成功轨迹语料库。

方法论：SKILLREVISE

作者提出了 SKILLREVISE，这是一个执行驱动的框架，旨在通过有界修订循环迭代优化初始技能（ $S_0$ ）。该框架将修订过程分解为特定任务的诊断和通用的修复知识，避免了对广泛先验经验的需求。

核心组件

诊断 ( $D_i$ )： 一个特定于任务的组件，负责将原始执行证据转换为修复约束。对于每一次修订尝试 $i$ ，它包含：
- 验证规范 ( $V_i$ )： 可观测的要求（输出路径、模式、格式、通过/失败断言）。
- 失败归因 ( $A_i$ )： 失败检查、观察到的行为、可能的原因以及缺陷标签的摘要。
- 保留约束 ( $K_i$ )： 已通过的检查记录以及为了避免回归而应保留的选择。
原则记忆 ( $M$ )： 一个可重用的修复原则库，而非特定于任务的解决方案。每个原则将反复出现的技能设计缺陷抽象为一种操作性的修复模式，并规定了何时应用该原则、它解决了什么缺陷以及如何验证修复效果。系统初始化时包含七个原则（例如，“向验证器暴露输出”、“保留正确行为”）。
修订算子 ( $R_\phi$ )： 该模块将当前技能 ( $S_i$ )、诊断结果 ( $D_i$ ) 和检索到的原则 ( $P_i$ ) 映射到修订后的技能候选者 ( $\hat{S}_{i+1}$ ) 和修订轨迹 ( $z_i$ )。至关重要的是，它应用了执行锚点 (execution anchors)——关于文本编辑如何改变执行器行为的具体指令（例如，“重新加载文件”、“解析 JSON”、“检查键值”）——确保编辑是基于可操作步骤的。
有界修订回合： 框架在一个有限的预算下运行（例如， $B=3$ 轮）。
- 执行与诊断： 执行当前技能；如果发生失败，则生成诊断。
- 检索与绑定： 从 $M$ 中检索相关的原则并将其绑定到当前诊断。
- 修订与再执行： 生成候选技能并重新执行。
- 效用门控选择： 系统维护一组观察到的候选者。最终输出不一定是最后一次生成的修订版本，而是基于效用函数 $U(S, T)$ 的最佳观察到的技能 ( $S^*$ )。该函数平衡了成功率、执行效率、迁移性能和干扰成本，确保只有在任务成功完成时才奖励效率的提升。

核心贡献

本文做出了三个主要贡献：

形式化定义： 它将冷启动技能改进重新定义为对现有 LLM 编写技能的有界、执行驱动的修订，这与基于检索或开放式自我演化的方法不同。
框架： 它引入了 SKILLREVISE，该框架集成了任务特定的诊断、可重用的原则记忆以及执行锚定的修订，并通过效用门控选择来系统地保留最优技能版本。
评估： 它通过三个基准测试（SkillsBench、SkillLearnBench-Random、SWE-Skills-Bench-Hard）和一个 ALFWorld 研究提供了广泛的实证验证，证明了在多个执行器模型上均优于无技能和单次提示基线。

实验结果

该框架使用一个共享的验证器驱动测试平台，在五种 LLM（GPT-5.5, Opus-4.7, Kimi-2.6, Qwen-3.6plus, DeepSeek-V4-Pro）上进行了评估。

性能提升： 在标准的 SkillsBench 上，SKILLREVISE 在仅三次修订回合内，将 GPT-5.5 智能体的成功率从 36.05%（无技能）和 39.53%（单次提示生成）提升到了 61.63%。在 SkillLearnBench-Random 和 SWE-Skills-Bench-Hard 上也观察到了类似的显著提升。
跨模型迁移性： 修订后的技能表现出很强的迁移能力。当由 GPT-5.5 修订的固定技能应用于其他执行器（如 Opus-4.7, DeepSeek-V4-Pro）时，它们通常优于“无技能”基线，这表明这些技能捕捉的是泛化的程序性知识，而非模型特定的人工制品。然而，执行器特定的修订通常能产生最高的性能。
消融实验： 移除 诊断 (Diagnosis) 组件导致了最大的性能下降（在 SkillsBench 上从 53/86 降至 28/86），凸显了将验证器证据显式桥接到技能级缺陷的必要性。保留账本 (Preserve Ledger) 和 执行锚点 (Execution Anchors) 对于防止回归和确保编辑诱发具体动作也至关重要。
ALFWorld 研究： 在一个原则吸收研究中，从 25 个校准任务中学习到的 10 个精简原则库提高了在 100 个任务留出集上的性能，解决了 71/100 个任务，证明了将局部失败抽象为可重用修复模式的能力。

意义与主张

本文主张，执行驱动的修订是自动化技能编写的一种可靠范式，特别是在冷启动场景下。这项工作的意义在于证明了：

技能最有效的状态不是静态的建议，而是通过观察到的失败进行精炼的可测试程序性记忆。
结合了诊断、通用原则和效用门控选择的结构化方法，可以克服单次提示生成的脆弱性和自我演化的数据饥渴。
该框架通过利用验证器反馈迭代优化初始草案，成功填补了专家编写（成本高）与单次提示生成（不可靠）之间的空白。

作者也谦虚地指出了局限性，包括对验证器可见反馈的依赖（如果测试稀疏，可能会导致过拟合），以及该方法在技能持续退化时不会回退到“无技能”执行。他们将 SKILLREVISE 定位为迈向鲁棒、自动化的技能获取，使智能体行为与任务约束及验证标准保持一致的一步。