🤖 AI

daVinci-Dev: Agent-native Mid-training for Software Engineering

该论文介绍了 daVinci-Dev，这是一个用于智能体中段训练（agentic mid-training）的框架，它利用了一种结合了上下文原生与环境原生轨迹的新型“智能体原生”数据策略来克服分布失配，使 32B 和 72B 模型能够以比先前方法显著更少的训练 Token 量，在 SWE-Bench Verified 上达到最先进的性能。

原作者： Ji Zeng, Dayuan Fu, Tiantian Mi, Yumin Zhuang, Yaxing Huang, Xuefeng Li, Lyumanshan Ye, Muhang Xie, Qishuo Hua, Zhen Huang, Mohan Jiang, Hanning Wang, Jifan Lin, Yang Xiao, Jie Sun, Yunze Wu, Pengfei

发布于 2026-01-28

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Ji Zeng, Dayuan Fu, Tiantian Mi, Yumin Zhuang, Yaxing Huang, Xuefeng Li, Lyumanshan Ye, Muhang Xie, Qishuo Hua, Zhen Huang, Mohan Jiang, Hanning Wang, Jifan Lin, Yang Xiao, Jie Sun, Yunze Wu, Pengfei Liu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

核心理念：教机器人成为真正的程序员

想象一下，你想教一个机器人如何修理一辆坏掉的汽车。

旧的方法（后期训练/Post-Training）：
目前大多数 AI 模型就像是读遍了图书馆里所有汽车维修手册（预训练）但从未摸过扳手的学生。为了教会它们修车，研究人员会给它们看一些专家修车的视频（监督微调），然后让它们在车库里进行练习，只在它们犯错时进行纠正（强化学习）。

问题在于： 这个“车库”规模很小且建设成本昂贵。你只能在极少数汽车上进行练习。此外，学生只能看到最终修好的汽车，而看不到尝试、失败、检查引擎并再次尝试的整个混乱过程。

新的方法（daVinci-Dev / 智能体原生中段训练/Agent-Native Mid-Training）：
该论文的作者说：“让我们在把机器人送到车库之前就教好它。”他们引入了一个被称为**“中段训练”（Mid-Training）**的中间阶段。

他们不只是向机器人展示修好的汽车，而是向它喂入海量的真实世界维修日志，这些日志来自数百万名真正的机械师。他们不仅展示最终结果，还展示了整个故事：

机械师观察损坏的汽车。
机械师打开引擎盖并阅读手册。
机械师尝试一种修复方法，听到一声异响，意识到这行不通。
机械师尝试另一种修复方法，直到成功为止。

他们称之为**“智能体原生”（Agent-Native）*数据，因为这种数据模仿了作为现实世界中的一个智能体（即一名工人）的实际经验*，而不是仅仅死记硬背静态的事实。

两大特殊成分

为了构建这个训练库，团队从 GitHub（一个程序员分享代码的巨大网站）中创建了两种类型的“故事”（数据）：

1. “上下文原生”故事（广博的图书馆）

它是什么： 他们提取了数百万个“拉取请求”（Pull Requests，即修改代码的请求），并重构了整个故事。
类比： 想象一个侦探的案件卷宗。它不仅展示了破案的结果，还展示了侦探阅读嫌疑人的日记、寻找正确的文件、做出猜测，并根据新线索改变主意的一系列过程。
为什么有效： 这教会了 AI 工作的流程。它学会了在编辑一个文件之前，必须先找到并阅读它。它涵盖了极其广泛的语言和场景（共计 686 亿词的数据）。

2. “环境原生”故事（实时模拟）

它是什么： 他们不仅仅是阅读日志；他们实际上运行了代码。他们将一个 AI 智能体放入一个真实的、工作的计算机环境（Docker 容器）中，让它尝试修复漏洞（Bug）。
类比： 这就像是将学生放入一个带有真实引擎的真实车库中。学生尝试转动螺栓，结果引擎发出了巨大的“哐当”声（错误）。学生听到了错误，停了下来，并尝试使用不同的工具。
为什么有效： 这教会了 AI 如何对真实的反馈做出反应。它学会了“如果我输入这个命令，计算机会用错误信息对我‘尖叫’”，这是静态书籍无法教授的内容。这部分数据量较小（31 亿词），但由于其“真实性”，质量极高。

结果：效果如何？

团队在名为 SWE-Bench Verified 的著名考试上测试了他们的新“学生”（daVinci-Dev 模型），这相当于软件工程师的最终驾驶测试。

得分： 他们的 720 亿参数模型达到了 58.5% 的成功率。
对比： 这击败了之前的开源最强方法（Kimi-Dev），后者的得分约为 48.6%。
效率： 他们在使用不到一半于前任纪录保持者所用的训练数据（Token）的情况下，实现了这一成绩。这就像是通过 50 小时的学习而非 100 小时，就拿到了考试的 A+，因为学习材料的质量更高。
惊喜之处： 尽管他们最初使用的是一个“通用”基础模型（Qwen2.5-Base），并非专门为编程设计的模型，但新的训练方法使其在编程方面比那些以“编程专家”起步的模型表现得更好。

为什么这很重要（根据论文观点）

论文指出，教 AI 编程最大的错误在于将其视为一个只读教科书的学生。真正的软件工程是一个循环：发现问题 → 阅读代码 → 尝试修复 → 查看是否出错 → 再次修复。

通过向 AI 喂入保留了这种循环（既包含工作的过程，也包含计算机实时反馈）的数据，他们建立了一个更强大的基础。

简而言之： 他们不仅教会了 AI 代码看起来是什么样子的，还通过模拟真实软件开发中那种充满尝试与错误的混乱过程，教会了它如何像程序员一样思考。

技术摘要：daVinci-Dev：面向软件工程的智能体原生中段训练（Agent-native Mid-training）

1. 问题陈述

大型语言模型（LLM）在软件工程领域的能力前沿已从单轮代码生成转向了智能体化软件工程（agentic software engineering），即模型必须能够自主地在复杂代码库中进行导航、编辑和测试。虽然目前最先进的方法依赖于后训练（Post-training）（即监督微调结合强化学习），但这种范式面临着关键限制：

数据稀缺与失配： 后训练受限于基座模型的内在能力以及高质量、可执行轨迹的有限数量。大多数训练数据由静态的、已完成的产物（例如已合并的提交/commits）组成，缺乏真实开发过程中固有的序列化**“动作-观察”循环（action-observation loops）**。
分布失配： 传统的训练数据展示了“产出了什么”，却掩盖了“如何做”的过程，即开发者或智能体如何发现文件、检查上下文并根据测试反馈迭代优化方案。这导致了静态训练分布与真实部署中动态、富含反馈的环境之间存在差距。
未被充分探索的中段训练（Mid-training）： 虽然中段训练在数学和代码领域已被证明具有变革性作用，但现有的软件工程研究往往采用因子化方法（factorized approach），即合成用于原子任务（如定位或编辑）的孤立样本，而未能保留智能体在交互过程中经历的过程性上下文和交互动态。

2. 方法论：智能体原生中段训练

本文提出了 daVinci-Dev，一种系统的智能体化中段训练方法，旨在于后训练之前植入基础的智能体行为。其核心创新在于构建了智能体原生数据（Agent-Native Data），其定义为能够保留真实软件工程中完整信息流和环境动态的监督信息。

该方法依赖于两种互补的轨迹类型：

A. 上下文原生轨迹 ( $D_{ctx}$ )

目标： 通过保留完整的开发上下文，提供广泛的覆盖范围和多样性。
来源： 从 GitHub Pull Requests (PRs) 中构建。
合成： 作者并未将 PR 拆解为孤立的任务，而是重建了完整的流程。对于每个 PR，他们打包了：
- 问题描述（Issue Description）： 问题规范。
- 相关文件（Relevant Files）： 基础提交时的完整文件内容（模拟“读取”阶段）。
- 时序编辑（Temporal Edits）： 带有精炼提交信息和代码差异（diffs）的一系列提交（模拟“编辑”阶段）。
- 上下文推理（Contextual Reasoning）： 连接问题与编辑内容的 LLM 生成摘要。
规模： 包含 68.6B token，源自跨多种语言的 10M+ 个 PR（通用子集）以及专注于 Python 的仓库（Python 子集）。

B. 环境原生轨迹 ( $D_{env}$ )

目标： 提供交互的真实性，并捕捉迭代反馈循环（编辑 $\to$ 测试 $\to$ 修订）。
来源： 源自 GitHub PR 的真实可执行环境。
合成： 使用 SWE-AGENT 框架和 GLM-4.6，作者在包含实际单元测试的 Docker 环境中生成智能体展开（rollouts）。
- 智能体与环境交互，接收真实的观测结果（工具输出、测试失败、运行时错误）。
- 轨迹不经过成功率过滤；成功的和失败的轨迹均被包含在内，以教授调试和错误处理能力。
规模： 3.1B token（约 74k 条轨迹），分为通过集（ $D_{env}^{pass}$ ）和失败集（ $D_{env}^{fail}$ ）。

C. 训练流水线

模型（基于 Qwen2.5-Base）经历两个阶段：

中段训练 (MT)： 在大规模、无标签的智能体原生语料库（ $D_{ctx}$ 和/或 $D_{env}$ ）上进行训练。这使模型的容量分布向更具“智能体就绪性”的方向偏移。
后训练 (Post-Training)： 在高质量的智能体轨迹（例如 $D_{env}^{pass}$ 或公开数据集如 SWE-smith）上进行监督微调（SFT），以使模型与特定的脚手架（scaffolds）对齐。

3. 核心贡献

提出了智能体原生中段训练的形式化定义： 本文定义并实现了中段训练范式，将智能体行为视为一等公民目标，超越了因子化的子任务训练，转向整体的、保留上下文的监督。
大规模数据构建： 作者发布了一套实用的配方，用于构建两种互补的数据集：
- 一个 68.6B token 的上下文原生语料库 ( $D_{ctx}$ )，保留了完整的 PR 工作流。
- 一个 3.1B token 的环境原生语料库 ( $D_{env}$ )，捕捉了真实的执行反馈循环。
达到 SOTA 性能： 所得模型 daVinci-Dev-32B 和 daVinci-Dev-72B 在使用智能体脚手架的情况下，在 SWE-Bench Verified 上取得了新的 SOTA 结果，尽管它们是从非代码编写的基座模型开始训练的。
资源效率： 该方法使用的中段训练 token 量不到前人开源配方（KIMI-DEV，约 150B）的一半（73.1B），却实现了更优越的性能，证明了更高的信息密度和 token 效率。

4. 实验结果

在 SWE-Bench Verified 上使用 SWE-AGENT 脚手架进行评估：

性能提升：
- daVinci-Dev-72B： 实现了 58.5% 的解决率，超越了之前的开源 SOTA（KIMI-Dev 在 SFT+RL 下为 48.6%），并优于仅使用强 SFT 的基线模型。
- daVinci-Dev-32B： 实现了 56.1% 的解决率，在使用了智能体脚手架的 32B 模型中创下了新的 SOTA，尽管其基座模型是 Qwen2.5-32B-Base（非代码专用模型）。
鲁棒性： 中段训练配方在不同的后训练机制（弱 SFT vs. 强 SFT）和模型规模（32B vs. 72B）下均表现出一致的增益。
泛化能力： 模型在通用代码生成基准（HumanEval, EvalPlus）和科学推理任务（GPQA, SciBench）上表现出显著提升，表明智能体化中段训练培养了可迁移的推理能力。
缩放法则（Scaling Laws）： 文中观察到训练步数与性能之间存在强对数线性关系（ $R^2 \approx 0.90$ ），表明该范式尚未饱和，并能从进一步的规模扩展中获益。

5. 重要性与主张

本文认为，智能体原生数据是扩展软件工程智能体的关键缺失环节。通过弥合静态训练数据与动态部署环境之间的分布失配，作者证明了：

基础行为： 智能体能力（定位、迭代编辑、测试驱动的精炼）可以在中段训练期间被植入，从而为随后的后训练奠定更强大的基础。
数据类型的协同效应： 上下文原生数据（用于增加广度和代码多样性）与环境原生数据（用于增加深度和反馈真实性）的结合至关重要。仅靠上下文原生数据虽能提升性能，但加入环境原生轨迹则能让模型内化执行动态。
可扩展性： 该方法为未来的智能体开发提供了一条可扩展的路径，利用大量公开仓库和自动化环境验证，将其扩展到当前的语言和任务限制之外。

作者总结道，他们的工作向社区提供了“实质性的计算投入”（包括数据集、配方、检查点），以促进这一尚未被充分探索的范式的进一步研究。