💬 NLP

Self-Harness: Harnesses That Improve Themselves

本文介绍了 Self-Harness，这是一种全新的范式，其中基于大语言模型（LLM）的智能体能够迭代地识别自身的失败模式，并自主生成、验证及实现特定于模型的约束机制（harness）修改，从而在无需人工干预的情况下显著提升性能。

原作者： Hangfan Zhang, Shao Zhang, Kangcong Li, Chen Zhang, Yang Chen, Yiqun Zhang, Lei Bai, Shuyue Hu

发布于 2026-06-09

📖 1 分钟阅读☕ 轻松阅读

原作者： Hangfan Zhang, Shao Zhang, Kangcong Li, Chen Zhang, Yang Chen, Yiqun Zhang, Lei Bai, Shuyue Hu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你雇佣了一位才华横溢的新员工（即 AI 模型），他非常聪明，但从未见过你具体的办公室。你给他布置了一项工作，但他却不断犯同样的低级错误：他忘记保存工作进度，或者陷入无休止的求助循环，或者误解了你的文件归档系统。

通常情况下，人类经理必须坐下来，看着员工失败，然后手动重写员工的“规则手册”（即 harness/约束机制）来解决这些问题。这非常耗时，而且如果你明天雇佣了另一种类型的员工，你又必须重新编写规则手册，因为他们的习惯不同。

Self-Harness 是一个全新的想法，即让员工自己修复自己的规则手册。

以下是该论文对这一概念的解释，使用了简单的类比：

三步“自我改进”循环

论文描述了一个过程，让 AI 扮演自己的经理，通过三个不同的阶段进行自我改进，而无需人类帮助或“更高级”的 AI 老板。

1. 弱点挖掘（侦探）
AI 不仅仅是观察一个错误，它会运行一系列任务，并收集一堆“犯罪现场报告”（失败的尝试）。它将这些失败案例进行归类。

类比： 想象 AI 注意到：“嘿，我之所以在三个不同的任务中失败，都是因为我在分心之前忘记保存文件了。”它不仅仅是说“我失败了”；它识别出了一个特定的失败模式。

2. 约束提案（建筑师）
基于这些模式，AI 会建议对其自身规则手册进行微小的、针对性的修改。

类比： AI 说：“好吧，我知道我总是忘记保存。让我们在我的指令手册中添加一条小规则：‘在开始新任务之前，你必须保存当前的工作内容。’”
至关重要的一点是，AI 并不会重写整个手册。它只进行解决特定问题所需的最小、最精准的修改。它会提出几种不同的方案，以观察哪一个效果最好。

3. 提案验证（严厉的法官）
这是最重要的安全步骤。AI 会在一组它从未见过的新任务上测试它的新规则手册。

类比： 把这想象成一次“回归测试”。AI 会问：“如果我遵循这条新规则，我是在原本擅长的任务上表现得更好了，还是修复了那些新的错误？”
如果新规则导致 AI 在任何事情上的表现变差，该想法就会被拒绝。如果它在没有副作用的情况下提供了帮助，那么这条新规则就会被正式加入到规则手册中。

实验结果如何？

研究人员在三个非常不同的 AI 模型（MiniMax、Qwen 和 GLM）上测试了这一方法，使用的是一个名为 Terminal-Bench-2.0 的基准测试，这就像是一个 AI 必须使用电脑终端来解谜的游戏。

起点： 他们给了这三个 AI 一个非常基础、极其简陋的规则手册。
结果： 在运行了这个自我改进循环后，所有三个 AI 在解决谜题方面的能力都显著提升了。
- 其中一个 AI 从解决约 40% 的任务提升到了 60% 以上。
- 另一个从 23% 提升到了 38%。
- 第三个从 42% 提升到了 57%。

“顿悟时刻”：不同的 AI 需要不同的修复方案

论文发现了一个非常有趣的现象：这种“修复方案”对每个人来说并不一样。因为 AI 的“个性”或思考方式不同，它们需要的规则手册修改也不同。

MiniMax 擅长探索，但不擅长收尾。修复方案是：制定一条“尽早创建最终文件”以及“如果你请求帮助次数过多，则停止循环”的规则。
Qwen 擅长开始，但经常不小心删掉自己的工作。修复方案是：制定一条“先检查依赖项”以及“除非确定，否则绝不删除文件”的规则。
GLM 容易陷入长时间的研究阶段，却从未真正动手构建。修复方案是：制定一条“在一定时间后从探索转向构建”的规则。

核心结论

论文得出结论，我们并不总是需要人类专家或“超智能”AI 来修复这些系统。如果我们给 AI 提供正确的工具，让它能够观察自身的失败，并赋予它只有在证明有效时才接受变更的纪律，它就可以进化出属于自己的操作系统。

这就像是一个电子游戏角色，在死掉几次之后，摸索出了击败关卡的完美策略，然后为下一轮自动更新了自己的“攻略秘籍”，全程无需他人干预。论文表明，即使从一个非常简单的起点开始，这也是可以实现的。

技术摘要：Self-Harness

问题陈述

基于大语言模型（LLM）的智能体性能不仅取决于其基础模型权重，还取决于其护栏（harness）——即由系统提示词、工具、记忆、验证规则和运行时策略组成的周围系统层。虽然目前由人类专家进行护栏工程设计，但随着 LLM 变得日益多样化且演进迅速，这种范式面临着可扩展性问题。由于不同模型的行为模式、工具使用习惯和错误模式各异，为一种模型优化的护栏往往对另一种模型而言并非最优。现有的自动化方法通常依赖于更强大的外部智能体来引导改进，这不仅成本高昂，而且可能与目标模型特定的失效模式不匹配。本文旨在解决如何使基于 LLM 的智能体在无需人类工程或外部指导的情况下，实现对其自身运行护栏的自我改进。

方法论：Self-Harness 循环

作者提出了 Self-Harness，这是一个迭代式的自我改进框架，其中固定模型通过精炼其自身的非参数化支架（scaffolding）来进行优化。该过程是一个由三个不同阶段组成的闭环：

1. 弱点挖掘（Weakness Mining）

智能体在当前护栏（ $h_t$ ）的约束下，执行来自留存集（ $D_{in}$ ）的一组任务。系统收集执行轨迹，并基于**基于验证器驱动的失效特征（verifier-grounded failure signatures）**对失败轨迹进行聚类。

归因： 系统并非将失败视为孤立事件，而是通过分析轨迹来识别终端验证器层级的根本原因（ $c_i$ ）、智能体行为的因果状态（ $q_i$ ）以及抽象的智能体机制（ $m_i$ ）。
聚类： 如果失败案例共享相同的特征签名，则会被确定性地分组，从而确保后续的提议针对的是可复用的失败机制，而非表象症状。
输出： 一个总结了主导失效模式的证据包（ $B_t$ ），按支持度和可操作性进行排序。

2. 护栏提议（Harness Proposal）

同一个固定模型（ $M$ ）以“提议者”的角色被调用，利用当前护栏（ $h_t$ ）和证据包（ $B_t$ ）作为上下文。

约束： 提议者生成 $K$ 个多样化且极简的候选编辑项（ $\Delta_j$ ）。每个编辑项必须针对特定的失败机制，并映射到护栏中具体的、可编辑的表面（例如：特定的指令、工具策略或验证规则）。
多样性与极简性： 系统鼓励在不同的失败机制或护栏表面之间探索不同的提议，但要求单个编辑项保持针对性，避免对控制架构进行大规模重写。
输出： 一组候选护栏变体 $h^{(j)}_t = \Delta_j(h_t)$ ，每个变体都附带一份审计记录。

3. 提议验证（Proposal Validation）

候选编辑项在被接受前需经过严格的回归测试。

评估： 对当前护栏（ $h_t$ ）和候选护栏（ $h^{(j)}_t$ ）分别在留存集（ $D_{in}$ ）和留出集（ $D_{ho}$ ）上进行评估。
接受规则： 只有当候选方案在至少一个集合上表现提升，且未导致另一个集合性能下降时（即 $\Delta_{in} \ge 0$ ， $\Delta_{ho} \ge 0$ ，且 $\max(\Delta_{in}, \Delta_{ho}) > 0$ ），才会被提升。
合并： 如果有多个候选方案通过验证，它们的编辑内容将被合并到下一轮迭代的护栏（ $h_{t+1}$ ）中。被拒绝的候选方案会被记录，但不会改变当前的活动护栏。

核心贡献

Self-Harness 范式： 一种全新的框架，使 LLM 能够设计并精炼其自身的运行护栏，消除了对人类工程师或更强外部智能体的依赖。
操作化的迭代循环： 一个具体的实现方案，通过“弱点挖掘、极简提议生成、严格回归测试”的循环，将行为证据转化为特定模型的护栏更新。
实证验证： 证明了 Self-Harness 可以将一个极简的初始护栏进化为针对特定模型的配置，其表现显著优于基准模型。

实验结果

作者在 Terminal-Bench-2.0 上评估了 Self-Harness，使用了三种不同的基础模型：MiniMax M2.5、Qwen3.5-35B-A3B 和 GLM-5。所有实验均从一个基于 DeepAgent 的极简护栏开始。

性能增益（留出集通过率）：

MiniMax M2.5： 从 40.5% 提升至 61.9%（增加了 21.4 个百分点）。
Qwen3.5-35B-A3B： 从 23.8% 提升至 38.1%（增加了 14.3 个百分点；相对提升 138%）。
GLM-5： 从 42.9% 提升至 57.1%（增加了 14.2 个百分点）。

定性发现：

模型特定适配： 系统并未简单地添加通用指令，而是针对每个模型的弱点生成了截然不同且具体的变更：
- MiniMax M2.5： 侧重于更早地创建必要的输出文件、谨慎处理结构化工具输出，以及停止无效的工具使用循环。
- Qwen3.5： 侧重于预检查依赖项、避免重复失败的命令、打破探索循环以及从工具错误中恢复。
- GLM-5： 侧重于在 Shell 命令间保持环境设置，并加速从探索到实现的过渡。
泛化能力： 在留出集任务上也观察到了性能提升，表明护栏的编辑解决了可复用的执行机制，而非仅仅过拟合于特定的训练失败。

重要性与主张

论文声称 Self-Harness 展示了智能体系统中**自我创造（self-creation）**的一条路径，即智能体可以参与重塑其行为所受约束的结构。

经验状态转移： 作者认为，护栏的改进应被视为一种经验状态转移。一个有效的编辑必须基于行为证据，明确其改变的行为，并通过非退化的评估进行验证。
可扩展性： 通过将改进循环内部化，Self-Harness 提供了一种可扩展的替代方案，能够应对现代 LLM 的快速演进和多样性，而非依赖于以人为中心的工程设计。
局限性： 作者谦虚地指出，目前的研究是在固定基准下的有限编辑研究。该协议依赖于验证器输出和轨迹记录的质量，更高风险的变更需要比仅靠通过率非退化测试更稳健的接受门槛。

研究结论指出，虽然智能体并没有改变自身的权重，但它可以通过迭代精炼调节其与环境交互的护栏，从而有效地“创造了自己”。