💬 NLP

SERA: Soft-Verified Efficient Repository Agents

该论文介绍了 SERA，这是一种利用软验证生成（Soft Verified Generation）进行训练的具有成本效益的方法，旨在通过监督微调使开源编程智能体专门化以适应私有代码库，其性能可媲美领先的开源模型，而成本仅为强化学习或以往合成数据方法的极小部分。

原作者： Ethan Shen, Daniel Tormoen, Saurabh Shah, Ali Farhadi, Tim Dettmers

发布于 2026-06-01

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Ethan Shen, Daniel Tormoen, Saurabh Shah, Ali Farhadi, Tim Dettmers

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

核心理念：让每个人都能拥有编程智能体

想象你有一个超级聪明的机器人助手（一个“编程智能体”），它能够修复 Bug 并编写软件。目前，最优秀的机器人就像是闭源的黑盒：你可以租用它们，但你无法教它们属于你的特定“秘密”。如果你在一家拥有私有代码的公司工作，你无法在不将这些秘密发送给大型云端公司的情况下，用你特定的文件来训练这个机器人。

这篇论文的作者想要构建一个开源机器人，让任何人都能在自己的私有代码上进行训练。但问题在于：训练这些机器人过去极其昂贵且复杂，就像试图在自家车库里制造一枚火箭一样。

SERA（软验证高效仓库智能体）是他们提出的新方法。这是一种训练编程机器人的方式，它既便宜、又快速，而且不需要复杂的测试实验室。

旧方法 vs. 新方法

旧方法：“严厉的老师”

此前，为了训练编程机器人，研究人员必须扮演严厉的学校老师的角色：

创建测试： 他们会在代码文件中人为制造一个特定的 Bug。
搭建实验室： 他们必须搭建一个复杂的计算机环境来运行“单元测试”（就像期末考试一样），以观察机器人是否真的修复了 Bug。
验证： 如果机器人通过了测试，数据就是好的；如果失败了，数据就是垃圾。

问题所在： 这需要庞大的工程师团队、昂贵的计算机和大量的时间。这就像为了教学生如何烤蛋糕，而必须先配备一间完整的化学实验室。

新方法 (SERA)：“软验证”法

作者意识到他们并不需要化学实验室。他们发明了一种称为软验证生成 (Soft-Verified Generation, SVG) 的方法。

类比：“模仿游戏”
想象你想教一名学生（AI）如何编辑一本书。

阶段 1（老师）： 你要求一位非常聪明的老师（一个强大的 AI 模型）去“修复书中的一个模糊问题”。老师写出了该章节的新版本。
提示词： 你拿起这个新版本，并写下一条笔记：“这是老师所做的改动。请执行同样的操作。”
阶段 2（学生）： 你再次要求老师阅读这条笔记，并尝试从零开始重新实现那个改动。
检查（软验证）： 我们不需要运行复杂的测试来查看代码是否完美运行，你只需要逐行对比这两个版本。
- 如果第二个版本看起来与第一个版本有 80% 的相似度，你就说：“足够好了！让我们用这个来训练我们的学生。”

为什么这是一个游戏规则的改变者：

无需实验室： 你不需要运行测试或搭建复杂的环境。你只需要对比文本即可。
任何代码皆可用： 你可以对任何代码仓库进行此操作，即使是那些没有测试或属于私有公司的代码。
模糊的指令： 作者发现，给 AI 提供模糊的指令（如“改进这段代码”）实际上比具体的 Bug 修复效果更好。它教会了 AI 如何重构和清理代码，而这正是现实中开发者最常做的事情。

结果：快速、廉价且强大

团队使用这种方法创建了一个包含 200,000+ 训练样本（轨迹）的海量数据集。以下是他们的成就：

前所未有的廉价： 创建这些模型的成本比使用强化学习（旧的复杂方法）低 26 倍，比之前的合成数据方法低 57 倍。
- 类比： 如果用旧方法建造一个机器人需要 10 万美元，那么 SERA 大约只需要 2000 美元。
击败竞争对手： 他们的开源模型（SERA-32B）在标准编程基准测试中的表现，达到了甚至超过了许多昂贵的闭源模型。
针对你的代码进行专业化： 这是其“杀手级应用”。因为该方法非常便宜，所以一家公司可以利用自己的私有代码生成 8,000 个示例，并训练出一个比任何巨型 AI 模型都更了解其代码库的机器人。
- 类比： 你不再是雇佣一位了解世界万物的通用顾问，而是可以花费几杯咖啡的钱，训练一位对你家里的内部构造了如指掌的专家。

给普通读者的核心要点

你不需要博士学位或超级计算机： 作者仅凭一个小型团队（3 名研究员）和适度的预算就完成了这项工作。
不需要追求完美： 你不需要验证代码是否 100% 正确才能从中学习。仅仅观察 AI 尝试如何修复它是非常有价值的。
隐私是可能的： 你现在可以构建一个了解你私密信息的 AI，而无需将这些秘密发送给任何大型科技公司。
开源必胜： 他们免费发布了所有的代码、数据和模型，希望让其他人也能在无需从零开始的情况下，构建出更好的编程机器人。

简而言之，SERA 将训练编程 AI 的过程从一个“耗资数百万美元的工业项目”转变为一个“小团队在自家车库就能完成的任务”，为每个人拥有一位真正理解其具体工作的编程助手打开了大门。

技术摘要：SERA：软验证高效仓库智能体（Soft-Verified Efficient Repository Agents）

问题陈述

开源权重编码智能体具有理论优势，即通过将特定仓库的模式和领域知识直接编码进模型权重中，实现对私有代码库的专业化定制。然而，实现这一优势一直受到高昂成本和复杂性的阻碍。传统方法要么依赖强化学习（RL），这需要复杂的沙盒执行环境和分布式基础设施；要么依赖合成数据生成流水线（例如 SWE-smith），这类方法需要严密的单元测试基础设施来验证漏洞修复情况。这些障碍将编码智能体的开发集中在了资源雄厚的工业实验室手中，使得规模较小的团队和学术研究人员无法实际地针对其私有仓库对模型进行专业化定制。

方法论：软验证生成（Soft-Verified Generation, SVG）

作者引入了软验证生成（SVG），这是一种旨在无需单元测试或复杂漏洞注入流水线即可生成高质量训练轨迹的方法。SVG 基于对简化前人方法的两个核心观察：

软验证优于硬验证： SVG 不通过执行单元测试来验证合成数据，而是比较由同一个教师模型生成的两个补丁之间的部分逐行重叠度（召回率）。
- 展开 1（Rollout 1）： 提示教师模型（ $M$ ）针对代码库（ $C$ ）中随机选择的一个函数进行一项变更操作，产生一条轨迹（ $T_1$ ）和一个补丁（ $P_1$ ）。
- 合成 PR 生成： 将 $T_1$ 转换为一个合成的拉取请求（PR）描述。
- 展开 2（Rollout 2）： 教师模型在仅给定原始合成 PR 描述的情况下，尝试重现原始补丁（ $P_1$ ），从而产生第二条轨迹（ $T_2$ ）和补丁（ $P_2$ ）。
- 验证： 使用行级召回率（ $r = |P_2 \cap P_1| / |P_1|$ ）对补丁进行比较。根据该召回率得分筛选数据。作者发现，即使是未验证的数据（ $r=0$ ）或软验证的数据（ $0 < r < 1$ ），其表现也与硬验证数据（ $r=1$ ）相当，从而完全消除了对测试基础设施的需求。
模糊指令以增加多样性： 该方法并非仅专注于修复漏洞，而是使用模糊指令（例如“修复与状态管理相关的 issue”）来生成多样化的变更，包括重构和文档改进。这增加了训练数据的多样性，并提升了在 SWE-bench 等基准测试上的表现。

训练流水线：

教师模型： 由于 GLM-4.5-Air（或 GLM-4.6）具有开源权重特性、推理踪迹且具备成本效益，因此被用作教师模型。
基座模型： 使用 Qwen 3-32B 进行监督微调（SFT）。
数据规模： 该方法从 121 个代码库中生成了超过 200,000 条合成轨迹。
截断策略： 为了处理长上下文，作者发现保留“截断比例”（即符合上下文窗口的轨迹比例）至关重要。选择具有高截断比例（例如 0.95）的轨迹比随机截断能获得更好的性能。

核心贡献

SERA 模型： 发布了 SERA-32B，这是一个通过 SVG 数据进行 SFT 训练的 32B 参数编码智能体。它在 SWE-bench Verified 上达到了全开源模型（开源数据、方法、代码）中的最先进水平（SOTA），并能媲美或超越 Devstral-Small-2 等开源权重模型。
成本效率： 创建 SERA 模型的成本比强化学习方法（如 SkyRL）低 26 倍，比之前的合成数据方法（如 SWE-smith）达到同等性能所需的成本低 57 倍。生成数据和训练的总成本约为 2,000 美元（40 个 GPU 日）。
仓库专业化： 作者证明，仅使用每个仓库约 8,000 条合成轨迹，即可将开源权重模型专业化到私有代码库（如 Django、Sympy、Sphinx）。这些专业化模型在特定仓库任务上的表现能够达到或超过教师模型，而对于仅依赖上下文窗口访问的通用型模型来说，这是无法实现的。
软验证有效性验证： 本文提供了经验证据，证明单元测试验证对于生成有效的编码训练数据并非严格必要，这显著降低了数据生成的门槛。
缩放法则与鲁棒性： 研究确立了编码智能体的缩放法则（Scaling Laws），表明性能遵循可预测的幂律关系。同时，研究强调了使用多个随机种子（至少 3 个）以区分信号与噪声的重要性，指出该领域许多报告的增益其实都处于运行间方差的边缘。

结果

SWE-bench Verified 表现：
- SERA-32B (GLM-4.6 教师)： 在 32K 上下文下达到 49.5%，在 64K 下下达到 54.2%。
- 这超越了其他全开源模型（例如 SWE-smith 为 25.6–32.6%，SkyRL 为 39.4%），并能匹配 Devstral-Small-2（32K 下为 50.0%）等强力的开源权重模型。
专业化效率：
- 通过 8,000 个样本将模型专业化到 Django 仓库，实现了 52.23% 的准确率，超过了教师模型（GLM-4.5-Air，51.2%）和开源权重模型 Devstral-Small-2（51.3%）。
- 缩放法则表明，完全专业化（ $\alpha=1.0$ ）在 8k 样本时即可达到教师模型水平，而仅使用通用数据（ $\alpha=0.0$ ）即使样本量翻倍也无法达到此水平。
验证阈值： 实验表明，在基于硬验证（ $r=1.0$ ）、软验证（ $r=0.5$ ）或完全未验证（ $r=0.0$ ）的轨迹进行训练的模型之间，不存在统计学上的显著差异，这表明即便从不完美的轨迹中，也能学习到将意图转化为代码的技能。

意义与主张

本文主张 SERA 使编码智能体向私有代码库的专业化变得切实可行且经济高效。通过剥离对测试基础设施和复杂 RL 设置的需求，作者使小型团队和学术研究人员能够构建出在自身代码库上表现优于前沿系统的专业化智能体。

作者强调的关键影响包括：

民主化： 降低了编码智能体研究的门槛，使其不再仅仅属于拥有大规模 GPU 集群的大型工业实验室。
隐私与知识产权： 使组织能够在不向第三方 API 提供商暴露数据的情况下，在专有代码上训练模型，解决了关键的隐私和知识产权担忧。
开放科学： 发布 200,000 条合成轨迹、训练代码和模型权重，为可重复研究奠定了基础，允许社区在无需重建昂贵基础设施的情况下进行迭代。

作者对其主张保持谦逊，承认存在局限性，例如缺乏在真正私有代码库上的评估（由于缺乏用于评估的地面真值/Ground Truth），以及可能存在的模型特定优化（结果基于 Qwen 和 GLM 系列）。他们强调，虽然其方法加速了进展，但该领域需要严谨的统计实践（多种子、信噪比分析），以避免将噪声误认为真实的改进。