🤖 AI

daVinci-Dev: Agent-native Mid-training for Software Engineering

本論文は、コンテキストおよび環境に対してネイティブな軌跡を組み合わせた新しい「エージェント・ネイティブ」なデータ戦略を活用することで、分布の不一致を克服し、32Bおよび72Bモデルが従来の手法よりも大幅に少ない学習トークン数でSWE-bench Verifiedにおける最先端の性能を達成することを可能にする、エージェンティックな中間学習のためのフレームワークであるdaVinci-Devを紹介している。

原著者： Ji Zeng, Dayuan Fu, Tiantian Mi, Yumin Zhuang, Yaxing Huang, Xuefeng Li, Lyumanshan Ye, Muhang Xie, Qishuo Hua, Zhen Huang, Mohan Jiang, Hanning Wang, Jifan Lin, Yang Xiao, Jie Sun, Yunze Wu, Pengfei

公開日 2026-01-28

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Ji Zeng, Dayuan Fu, Tiantian Mi, Yumin Zhuang, Yaxing Huang, Xuefeng Li, Lyumanshan Ye, Muhang Xie, Qishuo Hua, Zhen Huang, Mohan Jiang, Hanning Wang, Jifan Lin, Yang Xiao, Jie Sun, Yunze Wu, Pengfei Liu

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

ビッグアイデア：ロボットに本物のプログラマーになってもらう方法

想像してみてください。あなたはロボットに、壊れた車の直し方を教えようとしています。

従来の方法（ポストトレーニング）：
現在のほとんどのAIモデルは、図書館にあるすべての自動車整備マニュアルを読み終えた（事前学習）ものの、一度もレンチに触れたことがない学生のようなものです。彼らに車の直し方を教えるために、研究者は専門家が車を修理している動画をいくつか見せ（教師あり微調整）、その後、間違いがあった時だけ修正を行うようにしてガレージで練習させます（強化学習）。

問題点： この「ガレージ」を作るにはコストがかかり、規模も小さくなります。練習できる車も限られています。また、学生が見ているのは「修理が終わった後の完成した車」だけであり、試行錯誤し、失敗し、エンジンを確認し、再びやり直すという「泥臭いプロセス」までは見ることができません。

新しい方法（daVinci-Dev / エージェント・ネイティブ・ミッドトレーニング）：
この論文の著者たちは、「ロボットをガレージに送る前に、教え方を変えよう」と提案しています。彼らは**「ミッドトレーニング（中間学習）」**と呼ばれる新しい段階を導入しました。

単に完成した車を見せるのではなく、何百万もの実際のメカニックによる**「現実世界の修理ログ」**という膨大なライブラリをロボットに読み込ませるのです。彼らは単に最終結果を見せるのではありません。以下の「物語全体」を見せるのです：

メカニックが壊れた車を観察する。
メカニックがボンネットを開け、マニュアルを読む。
メカニックが修理を試みるが、変な音が聞こえたため、うまくいかなかったことを悟る。
メカニックがうまくいくまで、別の修理方法を試していく。

彼らはこれを**「エージェント・ネイティブ」**なデータと呼んでいます。なぜなら、これは静的な事実を暗記するのではなく、現実の世界で働くエージェント（作業者）としての実際の「経験」を模倣しているからです。

2つの特別な材料

このトレーニング・ライブラリを構築するために、チームはGitHub（プログラマーがコードを共有する巨大なサイト）から2種類の「物語（データ）」を作成しました。

1. 「コンテキスト・ネイティブ」な物語（広範なライブラリ）

内容： 彼らは何百万もの「プルリクエスト（コード変更の要求）」を取り上げ、その物語全体を再構成しました。
例え： 探偵の捜査ファイルのようなものです。それは解決された犯罪の様子だけでなく、探偵が容疑者の日記を読み、正しいファイルを見つけ、推測を立て、そして新しい手がかりに基づいて考えを変えていく過程までも示しています。
効果： これにより、AIは仕事の「流れ」を学びます。ファイルを編集する前に、まずそのファイルを見つけて読む必要があるということを学ぶのです。これは、非常に多様な言語と状況をカバーしています（686億語のデータ）。

2. 「エンバイロメント・ネイティブ」な物語（ライブ・シミュレーション）

内容： 彼らは単にログを読んだだけではありません。実際にコードを「実行」しました。AIエージェントを、実際に動作するコンピュータ環境（Dockerコンテナ）の中に配置し、バグを修正させるようにしたのです。
例え： これは、学生を本物のエンジンがある実際のガレージに入れるようなものです。学生がボルトを回そうとすると、エンジンから「ガチャン！」という大きな音がします（エラー）。学生はその音を聞いて、立ち止まり、別の道具を試します。
効果： これにより、AIは**「現実のフィードバック」**への反応を学びます。「このコマンドを入力すると、コンピュータがエラーメッセージを出して叫ぶ」ということを学びます。これは、静的な本からは教えることができないことです。この部分は規模こそ小さい（31億語）ですが、非常に高品質な「生きた」データです。

結果：どれほど上手くいったのか？

チームは、彼らの新しい「学生」（daVinci-Devモデル）を、ソフトウェアエンジニア向けの最終試験であるSWE-bench Verifiedでテストしました。

スコア： 720億パラメータを持つ彼らのモデルは、**58.5%**の成功率を記録しました。
比較： これは、以前のベストであったオープンソースの手法（Kimi-Dev、スコアは約48.6%）を上回りました。
効率性： 彼らは、前回の記録保持者が使用した量の半分以下のトレーニングデータ（トークン）を使用して、この成果を達成しました。これは、より優れた学習教材を使うことで、100時間の勉強ではなく50時間の勉強でA+を取るようなものです。
驚きの事実： 彼らは、最初から「コーディングの専門家」として訓練されたモデルではなく、一般的なベースモデル（Qwen2.5-Base）からスタートしましたが、この新しいトレーニング手法によって、コーディング特化型モデルよりも優れたコーディング能力を獲得しました。

なぜこれが重要なのか（論文による考察）

この論文は、AIのコーディング教育における最大のミスは、AIを「教科書を読むだけの学生」として扱ってきたことだと主張しています。現実のソフトウェアエンジニアリングはループです：問題を特定する → コードを読む → 修理を試みる → 壊れないか確認する → 再度修正する。

この**「ループ」**（作業のプロセスと、コンピュータからのリアルタイムのフィードバックの両方）を保持したデータをAIに提供することで、より強固な基礎を築くことができました。

要約すると： 彼らは単にAIに「コードがどのようなものか」を教えたのではありません。現実のソフトウェア開発における試行錯誤のプロセスをシミュレートすることで、プログラマーのように「考える方法」を教えたのです。

技術サマリー: daVinci-Dev: ソフトウェアエンジニアリングのためのエージェント・ネイティブな中間学習（Mid-training）

1. 問題提起

大規模言語モデル（LLM）のソフトウェアエンジニアリングにおける能力の最前線は、単発のコード生成から、複雑なリポジトリを自律的にナビゲートし、編集し、テストするエージェント型ソフトウェアエンジニアリングへと移行しています。現在の最先端のアプローチは事後学習（教師あり微調整（SFT）に続く強化学習（RL））に依存していますが、このパラダイムは以下の決定的な限界に直面しています：

データの不足とミスマッチ: 事後学習は、ベースモデルの固有の能力と、高品質で実行可能な軌跡（trajectory）の限定的な量によって制約を受けます。ほとんどの学習データは、静的な完成済みアーティファクト（例：マージされたコミット）であり、実際の開発に内在する逐次的な**アクション・オブザベーション・ループ（行動と観察のループ）**を欠いています。
分布のミスマッチ: 従来の学習データは「何が」生成されたかを示してはいますが、開発者やエージェントがどのようにファイルを発見し、コンテキストを検討し、テストのフィードバックに基づいて反復的に解決策を洗練していったかという「どのように」の部分を隠蔽しています。これにより、静的な学習分布と、実際のデプロイメントにおける動的でフィードバック豊かな環境との間に乖離が生じます。
未開拓の中間学習（Mid-Training）: 中間学習は数学やコードの領域で変革をもたらすことが証明されていますが、ソフトウェアエンジニアリングにおける既存の取り組みは、多くの場合、原子的なタスク（例：ローカライゼーションや編集）のために孤立したサンプルを合成する因子化されたアプローチを採用しており、エージェントが経験する手続き的なコンテキストや相互作用のダイナミクスを保持できていません。

2. 手法: エージェント・ネイティブな中間学習

本論文では、事後学習の前に基礎的なエージェント行動を植え付けるための、エージェント的（agentic）な中間学習への体系的なアプローチとしてdaVinci-Devを提案します。核心となる革新は、リアルなソフトウェアエンジニアリングの完全な情報フローと環境ダイナミクスを保持する監督（supervision）として定義されるエージェント・ネイティブ・データの構築です。

この手法は、2つの補完的な軌跡タイプに基づいています。

A. コンテキスト・ネイティブな軌跡 ( $D_{ctx}$ )

目的: 完全な開発コンテキストを保持することで、広範なカバー範囲と多様性を提供すること。
ソース: **GitHubのプルリクエスト（PR）**から構築。
合成: PRを孤立したタスクに因子化するのではなく、著者らは完全なワークフローを再構築します。各PRについて、以下をセットにします：
- Issue Description: 問題の仕様。
- Relevant Files: ベースコミットにおける完全なファイル内容（「読み取り」フェーズをシミュレート）。
- Temporal Edits: 洗練されたコミットメッセージとコード差分（diff）を伴う一連のコミット（「編集」フェーズをシミュレート）。
- Contextual Reasoning: Issueと編集内容を橋渡しするLLM生成の要約。
規模: 多様な言語（General subset）およびPythonに特化したリポジトリ（Python subset）に由来する68.6Bトークン。

B. 環境・ネイティブな軌跡 ( $D_{env}$ )

目的: 相互作用の真正性を確保し、反復的なフィードバックループ（編集 $\to$ テスト $\to$ 改訂）を捉えること。
ソース: GitHub PRから派生した、実際に実行可能な環境。
合成: SWE-AGENTフレームワークとGLM-4.6を使用し、実際のユニットテストを含むDocker環境内でエージェントのロールアウトを生成します。
- エージェントは環境と相互作用し、実際の実測値（ツールの出力、テスト失敗、ランタイムエラー）を受け取ります。
- 軌跡は成功したものに限定されず、デバッグとエラーハンドリングを教えるために、成功する軌跡と失敗する軌跡の両方が含まれます。
規模: 3.1Bトークン（約74kの軌跡）。成功したセット（ $D_{env}^{pass}$ ）と失敗したセット（ $D_{env}^{fail}$ ）に分割。

C. トレーニング・パイプライン

モデル（Qwen2.5-Baseに基づく）は、2段階のプロセスを経ます。

中間学習 (MT): 大規模でラベルなしのエージェント・ネイティブ・コーパス（ $D_{ctx}$ および/または $D_{env}$ ）での学習。これにより、モデルの能力分布をより「エージェント・レディ（エージェントの準備が整った状態）」へとシフトさせます。
事後学習 (Post-Training): 高品質なエージェント軌跡（例： $D_{env}^{pass}$ や公開データセットである SWE-smith など）を用いた教師あり微調整（SFT）を行い、モデルを特定のスカフォールド（足場）に適合させます。

3. 主な貢献

エージェント・ネイティブな中間学習の定式化: 本論文は、エージェント的行動を第一級の目的として扱い、因子化されたサブタスク学習を超えて、包括的でコンテキストを保持する監督を行う中間学習パラダイムを定義し、実装しました。
大規模なデータ構築: 著者らは、2つの補完的なデータセットを構築するための実践的なレシピを公開しています：
- 完全なPRワークフローを保持する68.6Bトークンのコンテキスト・ネイティブ・コーパス（ $D_{ctx}$ ）。
- 本物の実行フィードバックループを捉える3.1Bトークンの環境・ネイティブ・コーパス（ $D_{env}$ ）。
最先端の性能: 結果として得られたモデルである daVinci-Dev-32B および daVinci-Dev-72B は、非コーダーのベースモデルから開始しているにもかかわらず、エージェント・スカフォールドを用いた公開トレーニング・レシピの中で、SWE-Bench Verified において新たなSOTA（最先端）を達成しました。
リソース効率: このアプローチは、以前の公開レシピ（KIMI-DEV）と比較して、半分以下の中間学習トークン（73.1B vs 約150B）を使用して優れた性能を実現しており、高い情報密度とトークン効率を示しています。

4. 実験結果

SWE-AGENT スキャフォールドを用いて SWE-Bench Verified で評価：

性能向上:
- daVinci-Dev-72B: 58.5% の解決率を達成し、以前の公開SOTA（SFT+RLを用いたKIMI-Devの48.6%）を上回り、強力なSFTのみを用いたベースラインをも凌駕しました。
- daVinci-Dev-32B: 56.1% の解決率を達成し、非コーダーのベースモデル（Qwen2.5-32B-Base）から開始しているにもかかわらず、エージェント・スカフォールドを用いた32Bモデルとして新たなSOTAを樹立しました。
堅牢性: 中間学習のレシピは、異なる事後学習レジーム（弱いSFT vs 強力なSFT）およびモデルスケール（32B vs 72B）において、一貫した利点をもたらします。
汎用性: モデルは一般的なコード生成ベンチマーク（HumanEval, EvalPlus）および科学的推論タスク（GPQA, SciBench）においても大幅な改善を示しており、エージェント的な中間学習が転移可能な推論スキルを育むことを示唆しています。
スケーリング則: 本論文では、学習ステップと性能の間に強い対数線形関係（ $R^2 \approx 0.90$ ）が観察されており、このパラダイムがまだ飽和しておらず、さらなるスケーリングから恩恵を受けることを示しています。

5. 意義と主張

本論文は、エージェント・ネイティブ・データこそが、ソフトウェアエンジニアリング・エージェントをスケールさせるための欠けている重要な環であると主張しています。静的な学習データと動的なデプロイメント環境との間の分布のミスマッチを埋めることで、著者らは以下を実証しています：

基礎的な行動: エージェント的能力（ローカライゼーション、反復的な編集、テスト駆動型の洗練）は、中間学習中に植え付けることが可能であり、その後の事後学習のためのより強力な基盤を構築します。
データタイプの相乗効果: コンテキスト・ネイティブ・データ（広がりとコードの多様性のため）と環境・ネイティブ・データ（深さとフィードバックの真正性のため）の組み合わせが不可欠です。コンテキスト・ネイティブ・データだけでも性能は向上しますが、環境・ネイティブな軌跡を加えることで、モデルは実行のダイナミクスを内部化することができます。
スケーラビリティ: このアプローチは、公開リポジトリの膨大な可用性と自動化された環境検証を活用することで、現在の言語やタスクの制限を超えて拡張できる、将来のエージェント開発のためのスケーラブルな経路を提供します。

著者らは、彼らの研究が、この未開拓のパラダイムにおけるさらなる研究を促進するために、「実質的な計算投資」（データセット、レシピ、チェックポイント）をコミュニティに提供するものであると結論付けています。