🤖 AI

daVinci-Dev: Agent-native Mid-training for Software Engineering

Das Papier stellt daVinci-Dev vor, ein Framework für agentisches Mid-Training, das eine neuartige „agenten-native“ Datenstrategie nutzt, welche kontextuell und umweltbedingt native Trajektorien kombiniert, um Verteilungsunterschiede zu überwinden und es 32B- und 72B-Modellen zu ermöglichen, eine State-of-the-Art SWE-Bench Verified Performance mit signifikant weniger Trainings-Token als bisherige Methoden zu erreichen.

Ursprüngliche Autoren: Ji Zeng, Dayuan Fu, Tiantian Mi, Yumin Zhuang, Yaxing Huang, Xuefeng Li, Lyumanshan Ye, Muhang Xie, Qishuo Hua, Zhen Huang, Mohan Jiang, Hanning Wang, Jifan Lin, Yang Xiao, Jie Sun, Yunze Wu, Pengfei

Veröffentlicht 2026-01-28

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Ji Zeng, Dayuan Fu, Tiantian Mi, Yumin Zhuang, Yaxing Huang, Xuefeng Li, Lyumanshan Ye, Muhang Xie, Qishuo Hua, Zhen Huang, Mohan Jiang, Hanning Wang, Jifan Lin, Yang Xiao, Jie Sun, Yunze Wu, Pengfei Liu

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Die große Idee: Einem Roboter beibringen, ein echter Programmierer zu sein

Stellen Sie sich vor, Sie möchten einem Roboter beibringen, wie man ein kaputtes Auto repariert.

Der alte Weg (Post-Training):
Die meisten aktuellen KI-Modelle sind wie Studenten, die zwar jedes Reparaturhandbuch in der Bibliothek gelesen haben (Pre-training), aber noch nie einen Schraubenschlüssel in der Hand gehalten haben. Um ihnen das Autoreparieren beizubringen, zeigen Forscher ihnen einige Videos von Experten, die Autos reparieren (Supervised Fine-Tuning), und lassen sie dann in einer Werkstatt üben, wobei sie nur korrigiert werden, wenn sie einen Fehler machen (Reinforcement Learning).

Das Problem: Die „Werkstatt“ ist klein und teuer aufzubauen. Man kann nur an wenigen Autos üben. Außerdem sieht der Student nur das fertig reparierte Auto, nicht den chaotischen Prozess des Ausprobierens, Scheiterns, Prüfens des Motors und des erneuten Versuchens.

Der neue Weg (daVinci-Dev / Agent-Native Mid-Training):
Die Autoren dieser Arbeit sagen: „Lassen Sie uns den Roboter lehren, bevor wir ihn in die Werkstatt schicken.“ Sie führen eine mittlere Phase namens Mid-Training ein.

Anstatt dem Roboter nur das fertige Auto zu zeigen, füttern sie ihn mit einer riesigen Bibliothek aus echten Reparaturprotokollen von Millionen tatsächlicher Mechaniker. Sie zeigen ihm nicht nur das Endergebnis; sie zeigen ihm die ganze Geschichte:

Der Mechaniker betrachtet das kaputte Auto.
Der Mechaniker öffnet die Motorhaube und liest das Handbuch.
Der Mechaniker versucht eine Reparatur, hört ein seltsames Geräusch und merkt, dass es nicht funktioniert hat.
Der Mechanische versucht eine andere Reparatur, bis es funktioniert.

Sie nennen dies „Agent-Native“-Daten, weil sie die tatsächliche Erfahrung eines Agenten (eines Arbeiters) in der realen Welt nachahmen, anstatt nur statische Fakten auswendig zu lernen.

Die zwei speziellen Zutaten

Um diese Trainingsbibliothek aufzubauen, erstellte das Team zwei Arten von „Geschichten“ (Daten) aus GitHub (einer riesigen Website, auf der Programmierer Code teilen):

1. Die „Kontextuell-Nativen“ Geschichten (Die breite Bibliothek)

Was es ist: Sie nahmen Millionen von „Pull Requests“ (Anfragen zur Code-Änderung) und rekonstruierten die gesamte Geschichte.
Die Analogie: Stellen Sie sich eine Ermittlerakte vor. Sie zeigt nicht nur den gelösten Fall; sie zeigt den Detektiv beim Lesen des Tagebuchs eines Verdächtigen, beim Finden der richtigen Akte, beim Aufstellen einer Vermutung und beim Ändern seiner Meinung basierend auf neuen Hinweisen.
Warum es hilft: Dies lehrt die KI den Ablauf der Arbeit. Sie lernt, dass man, bevor man eine Datei bearbeitet, sie zuerst finden und lesen muss. Es deckt eine riesige Vielfalt an Sprachen und Situationen ab (68,6 Milliarden Wörter an Daten).

2. Die „Umwelt-Nativen“ Geschichten (Die Live-Simulation)

Was es ist: Sie haben nicht nur Protokolle gelesen; sie haben den Code tatsächlich ausgeführt. Sie platzierten einen KI-Agenten in einer echten, funktionierenden Computerumgebung (einem Docker-Container) und ließen ihn versuchen, Bugs zu beheben.
Die Analogie: Das ist, als würde man den Studenten in eine echte Werkstatt mit einem echten Motor setzen. Der Student versucht, einen Bolzen zu drehen, und der Motor macht ein lautes Klack (einen Fehler). Der Student hört den Fehler, hält inne und probiert ein anderes Werkzeug aus.
Warum es hilft: Dies lehrt die KI, wie sie auf echtes Feedback reagiert. Sie lernt: „Wenn ich diesen Befehl eingebe, wird der Computer mich mit einer Fehlermeldung anschreien“, was statische Bücher nicht lehren können. Dieser Teil ist kleiner (3,1 Milliarden Wörter), aber sehr hochwertig, da er „echt“ ist.

Die Ergebnisse: Wie gut hat es funktioniert?

Das Team testete ihren neuen „Studenten“ (das daVinci-Dev-Modell) in einer berühmten Prüfung namens SWE-Bench Verified, die wie eine abschließende Fahrprüfung für Software-Ingenieure ist.

Die Punktzahl: Ihr 72-Milliarden-Parameter-Modell erreichte eine Erfolgsquote von 58,5 %.
Der Vergleich: Dies schlug die bisher beste Open-Source-Methode (Kimi-Dev), die etwa 48,6 % erreichte.
Die Effizienz: Sie erreichten dies mit weniger als der Hälfte der Trainingsdaten (Tokens), die der bisherige Rekordhalter verwendet hatte. Es ist, als würde man eine Eins auf einer Prüfung erreichen, indem man 50 Stunden statt 100 Stunden lernt, weil das Lernmaterial viel besser war.
Die Überraschung: Obwohl sie mit einem „allgemeinen“ Basismodell (Qwen2.5-Base) begannen, das nicht speziell für das Programmieren trainiert wurde, machte das neue Trainingsverfahren es besser im Programmieren als Modelle, die als „Coding-Experten“ begannen.

Warum das wichtig ist (laut dem Paper)

Das Paper argumentiert, dass der größte Fehler beim Lehren von KI zum Programmieren darin bestand, sie wie einen Studenten zu behandeln, der nur Lehrbücher liest. Echte Softwareentwicklung ist eine Schleife: Problem finden → Code lesen → Fix versuchen → Sehen, ob es bricht → Erneut fixen.

Indem sie die KI mit Daten fütterten, die diese Schleife bewahren (sowohl die Geschichte der Arbeit als auch das Echtzeit-Feedback des Computers), bauten sie ein Fundament auf, das viel stärker ist.

Kurz gesagt: Sie haben der KI nicht nur beigebracht, wie Code aussieht; sie haben ihr beigebracht, wie man wie ein Programmierer denkt, indem sie den chaotischen Trial-and-Error-Prozess der echten Softwareentwicklung simulierten.

Technisches Resümee: daVinci-Dev: Agenten-natives Mid-Training für Software Engineering

1. Problemstellung

Die Grenze der Fähigkeiten von Large Language Models (LLMs) im Bereich Software Engineering hat sich von der einstufigen Code-Generierung hin zum agentischen Software Engineering verschoben, bei dem Modelle autonom komplexe Repositories navigieren, bearbeiten und testen müssen. Während aktuelle State-of-the-Art-Ansätze auf Post-Training (Supervised Fine-Tuning gefolgt von Reinforcement Learning) basieren, stößt dieses Paradigma auf kritische Einschränkungen:

Datenknappheit und Diskrepanz: Das Post-Training ist durch die intrinsischen Kapazitäten des Basismodells und die begrenzte Menge an hochwertigen, ausführbaren Trajektorien eingeschränkt. Die meisten Trainingsdaten bestehen aus statischen, abgeschlossenen Artefakten (z. B. gemergten Commits), denen es an den sequenziellen Aktions-Beobachtungs-Schleifen mangelt, die für die reale Entwicklung charakteristisch sind.
Verteilungsdiskrepanz: Traditionelle Trainingsdaten zeigen zwar, was produziert wurde, verschleiern aber das Wie: wie ein Entwickler oder Agent Dateien entdeckte, den Kontext untersuchte und Lösungen basierend auf Test-Feedback iterativ verfeinerte. Dies erzeugt eine Lücke zwischen statischen Trainingsverteilungen und der dynamischen, feedbackreichen Umgebung eines realen Einsatzs.
Untersuchtes Mid-Training: Während Mid-Training (MT) für Bereiche wie Mathematik und Code transformativ war, nutzen bestehende Bemühungen für Software Engineering oft einen faktorisierten Ansatz, der isolierte Stichproben für atomare Aufgaben (z. B. Lokalisierung oder Editierung) synthetisiert, ohne den prozeduralen Kontext und die Interaktionsdynamik zu bewahren, die ein Agent erlebt.

2. Methodik: Agenten-natives Mid-Training

Das Paper schlägt daVinci-Dev vor, einen systematischen Ansatz für agentisches Mid-Training, der fundamentale agentische Verhaltensweisen vor dem Post-Training etabliert. Die Kerninnovation ist die Konstruktion von Agenten-nativen Daten, definiert als Supervision, welche den vollständigen Informationsfluss und die Umgebungsdynamik des realen Software Engineerings bewahrt.

Die Methodik stützt sich auf zwei komplementäre Trajektorien-Typen:

A. Kontextuell-native Trajektorien ( $D_{ctx}$ )

Ziel: Breite Abdeckung und Diversität durch Bewahrung des vollständigen Entwicklungskontexts zu gewährleisten.
Quelle: Konstruiert aus GitHub Pull Requests (PRs).
Synthese: Anstatt PRs in isolierte Aufgaben zu faktorisieren, rekonstruieren die Autoren vollständige Workflows. Für jeden PR werden zusammengefasst:
- Issue-Beschreibung: Die Problemstellung.
- Relevante Dateien: Vollständige Dateiinhalte am Base-Commit (simuliert die „Read“-Phase).
- Temporale Edits: Eine Sequenz von Commits mit verfeinerten Commit-Messages und Code-Diffs (simuliert die „Edit“-Phase).
- Kontextuelles Reasoning: LLM-generierte Zusammenfassungen, die die Brücke zwischen dem Issue und den Edits schlagen.
Skalierung: 68,6 Mrd. Token aus über 10 Mio. PRs über diverse Sprachen hinweg (General-Subset) und Python-fokussierten Repositories (Python-Subset).

B. Umweltorientiert-native Trajektorien ( $D_{env}$ )

Ziel: Authentizität der Interaktion zu gewährleisten und die iterative Feedbackschleife (Edit $\to$ Test $\to$ Revise) zu erfassen.
Quelle: Reale ausführbare Umgebungen, abgeleitet aus GitHub PRs.
Synthese: Unter Verwendung des SWE-AGENT-Frameworks und GLM-4.6 generieren die Autoren Agenten-Rollouts in Docker-Umgebungen, die tatsächliche Unit-Tests enthalten.
- Der Agent interagiert mit der Umgebung und erhält reale Beobachtungen (Tool-Outputs, Testfehler, Laufzeitfehler).
- Trajektorien werden nicht auf Erfolg gefiltert; sowohl erfolgreiche als auch fehlerhafte Trajektorien sind enthalten, um Debugging und Fehlerbehandlung zu lehren.
Skalierung: 3,1 Mrd. Token (ca. 74k Trajektorien), aufgeteilt in erfolgreiche ( $D_{env}^{pass}$ ) und fehlerhafte ( $D_{env}^{fail}$ ) Sets.

C. Trainings-Pipeline

Die Modelle (basierend auf Qwen2.5-Base) durchlaufen einen zweistufigen Prozess:

Mid-Training (MT): Training auf den großskaligen, unbeschrifteten agenten-nativen Korpora ( $D_{ctx}$ und/oder $D_{env}$ ). Dies verschiebt die Fähigkeitsverteilung des Modells, um es „agenten-bereit“ zu machen.
Post-Training: Supervised Fine-Tuning (SFT) auf hochwertigen agentischen Trajektorien (z. B. $D_{env}^{pass}$ oder öffentliche Datensätze wie SWE-smith), um das Modell an spezifische Scaffolds auszurichten.

3. Kernbeiträge

Formulierung von Agenten-nativem Mid-Training: Das Paper definiert und implementiert ein Mid-Training-Paradigma, das agentisches Verhalten als primäres Ziel behandelt und über die faktorisierte Subtask-Trainingsmethode hinausgeht, um eine ganzheitliche, kontextbewahrende Supervision zu erreichen.
Großskalige Datokonstruktion: Die Autoren veröffentlichen ein praktisches Rezept zur Konstruktion zweier komplementärer Datensätze:
- Ein 68,6 Mrd. Token umfassendes kontextuell-natives Korpus ( $D_{ctx}$ ), das vollständige PR-Workflows bewahrt.
- Ein 3,1 Mrd. Token umfassendes umweltorientiert-natives Korpus ( $D_{env}$ ), das authentische Execution-Feedback-Schleifen erfasst.
State-of-the-Art Performance: Die resultierenden Modelle, daVinci-Dev-32B und daVinci-Dev-72B, erzielen neue State-of-the-Art-Ergebnisse auf SWE-Bench Verified unter Verwendung von agentischen Scaffolds, obwohl sie von Nicht-Coder-Basismodellen ausgehen.
Ressourceneffizienz: Der Ansatz erreicht eine überlegene Performance mit weniger als der Hälfte der Mid-Training-Token (73,1B vs. ~150B) im Vergleich zum vorherigen Open-Recipe (KIMI-DEV), was eine höhere Informationsdichte und Token-Effizienz demonstriert.

4. Experimentelle Ergebnisse

Evaluierung auf SWE-Bench Verified unter Verwendung des SWE-AGENT-Scaffolds:

Leistungssteigerungen:
- daVinci-Dev-72B: Erreicht eine Lösungsrate von 58,5 % und übertrifft damit das bisherige Open SOTA (KIMI-Dev mit 48,6 % via SFT+RL) sowie starke Baselines, die nur auf SFT basieren.
- daVinci-Dev-32B: Erreicht eine Lösungsrate von 56,1 % und setzt damit ein neues SOTA für 32B-Modelle unter Verwendung agentischer Scaffolds, obwohl es von einem Nicht-Coder-Basismodell (Qwen2.5-32B-Base) ausgeht.
Robustheit: Das Mid-Training-Rezept liefert konsistente Gewinne über verschiedene Post-Training-Regime (Weak SFT vs. Strong SFT) und Modellskalen (32B vs. 72B) hinweg.
Generalisierung: Die Modelle zeigen signifikante Verbesserungen bei allgemeinen Code-Generierungs-Benchmarks (HumanEval, EvalPlus) und wissenschaftlichen Reasoning-Aufgaben (GPQA, SciBench), was darauf hindeutet, dass agentisches Mid-Training transferierbare Reasoning-Fähigkeiten fördert.
Skalierungsgesetze: Das Paper beobachtet eine starke log-lineare Beziehung zwischen Trainingsschritten und Performance ( $R^2 \approx 0,90$ ), was darauf hindeutet, dass das Paradigma noch nicht gesättigt ist und von weiterer Skalierung profitiert.

5. Bedeutung und Behauptungen

Das Paper argumentiert, dass agenten-native Daten das entscheidende fehlende Bindeglied für die Skalierung von Software-Engineering-Agenten sind. Durch die Überbrückung der Verteilungsdiskrepanz zwischen statischen Trainingsdaten und dynamischen Einsatzumgebungen zeigen die Autoren, dass:

Fundamentale Verhaltensweisen: Agentische Fähigkeiten (Lokalisierung, iteratives Editieren, testgetriebene Verfeinerung) während des Mid-Trainings implementiert werden können, was ein stärkeres Fundament für das nachfolgende Post-Training schafft.
Synergie der Datentypen: Die Kombination von kontextuell-nativen Daten (für Breite und Code-Diversität) und umweltorientiert-nativen Trajektorien (für Tiefe und Authentizität des Feedbacks) ist essenziell. Kontextuell-native Daten allein verbessern die Performance, aber das Hinzufügen von umweltorientierten Trajektorien ermöglicht es dem Modell, die Dynamik der Ausführung zu verinnerlichen.
Skalierbarkeit: Der Ansatz bietet einen skalierbaren Pfad für die zukünftige Agentenentwicklung, indem er die große Verfügbarkeit öffentlicher Repositories und automatisierter Umgebung-Verifizierung nutzt, um über aktuelle Sprach- und Aufgabenbeschränkungen hinauszugehen.

Die Autoren schließen, dass ihre Arbeit eine „substanzielle Recheninvestition“ (Datensätze, Rezepte, Checkpoints) an die Community leistet, um die Forschung in diesem unteruntersuchten Paradigma zu erleichtern.