Pull Requests as a Training Signal for Repo-Level Code Editing
Dit artikel introduceert Clean-PR, een mid-training paradigma dat een grote corpus van gereconstrueerde GitHub pull requests benut om modellen in staat te stellen repository-brede codebewerkingscapaciteiten te internaliseren, waarbij het baselines op SWE-bench aanzienlijk overtreft zonder afhankelijk te zijn van complexe agent-scaffolding.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een enorme, eeuwenoude bibliotheek hebt (een software-repository) met miljoenen boeken (bestanden met code). Je doel is om een specifieke typefout te herstellen of een nieuw hoofdstuk toe te voegen aan een van die boeken.
Normaal gesproken, om dit te doen, huur je een zeer slimme maar licht onhandige bibliothecaris in (een AI-model). Omdat de bibliotheek zo groot is, heeft de bibliothecaris een team van assistenten, een complex kaartleessysteem en veel tijd nodig om het juiste boek te vinden, de juiste pagina te openen en de wijziging door te voeren. Dit is hoe de meeste huidige "AI-softwareengineers" werken: ze gebruiken zware, ingewikkelde hulpmiddelen om door de chaos te navigeren.
Dit artikel stelt een simpele vraag: Kunnen we de bibliothecaris zo goed leren zoeken en repareren dat ze die zware assistenten niet meer nodig hebben?
De auteurs zeggen "Ja", en dit is hoe ze het deden, gebruikmakend van een paar creatieve analogieën:
1. Het Probleem: De "Ruisende" Bibliotheek
De auteurs keken naar GitHub, wat een soort gigantisch openbaar archief is van mensen die code repareren en aanpassen. Ze ontdekten dat dit archief ongelooflijk rommelig is.
- De Ruis: Stel je voor dat je probeert te leren hoe je een auto repareert door een video te kijken van iemand die een band wisselt, maar 40% van de video bestaat uit de persoon die lunch eet, 25% is een robot die zich voordoet als monteur, en 25% is een video die nooit is afgemaakt.
- Het Resultaat: Als je deze rommelige video simpelweg aan je AI-bibliothecaris voert, raken ze in de war. Ze leren slechte gewoonten aan, zoals het proberen te repareren van dingen die niet gerepareerd hoeven te worden, of verdwalen in de verkeerde gang.
2. De Oplossing: "Clean-PR" (De Gefilterde Video)
Het team bouwde een machine genaamd Clean-PR. Beschouw dit als een super slimme video-editor die al die rommelige GitHub-video's bekijkt en de troep eruit knipt.
- Het Filter: Het gooit de video's weg waar geen echt werk is verricht, waar een robot het werk heeft gedaan, of waar de reparatie nooit is goedgekeurd.
- De Vertaling: In plaats van de AI een rommelig "voor en na"-plaatje te laten zien (wat moeilijk te lezen is), vertaalt de machine de reparatie naar een duidelijke, stapsgewijze instructie: "Zoek de paragraaf die begint met 'Hello' en verander deze in 'Goodbye'."
- De Verificatie: Voordat de instructie wordt opgeslagen, probeert de machine de instructie daadwerkelijk toe te passen op een testboek om te controleren of het perfect werkt. Als het niet werkt, wordt de instructie weggegooid.
Het resultaat is een enorme, schone bibliotheek van 2 miljoen perfecte instructies (genaamd "Pull Requests") die 12 verschillende talen beslaan.
3. De Training: Tweestaps-leren
Ze hebben deze data niet zomaar op de AI gestort. Ze hebben de AI in twee specifieke fasen onderwezen:
Fase 1: Mid-Training (De "Leerling"-fase)
Ze voerden de AI deze schone bibliotheek van 2 miljoen instructies. Dit was alsoal de bibliothecaris een crashcursus gaf over hoe echte mensen dingen repareren in echte bibliotheken. De AI leerde de patronen van het bewerken zonder met iemand te hoeven praten. Dit "internaliseerde" de vaardigheid in de hersenen van de AI (de gewichten).Fase 2: Gespecialiseerde Oefening (De "SFT"-fase)
Problemen in de echte wereld zijn lastig. Soms krijgt de bibliothecaris een lijst van 1.000 boeken, maar zit het probleem slechts in één daarvan. Als de bibliothecaris probeert alle boeken te repareren, maken ze een puinhoop.
Om dit op te lossen, creëerden de auteurs een speciale trainingsopdracht waarbij ze de AI verrenden. Ze gaven de AI het juiste boek plus een heleboel verkeerde boeken (afleiders) en vroegen: "Welk boek moet er gerepareerd worden?"
Dit leerde de AI om te zeggen: "Ik hoef deze andere boeken niet aan te raken," wat voorkomt dat er onnodige wijzigingen worden aangebracht.
4. Het Resultaat: Een Super-Bibliothecaris
Toen ze deze nieuwe AI testten op de SWE-bench (een zwaar examen voor AI-softwareengineers):
- De Oude Manier: Eerdere topmodellen hadden een groot team van digitale assistenten en complexe planningslussen nodig om ongeveer 20% van de problemen op te lossen.
- De Nieuwe Manier: Deze nieuwe AI, met behulp van een veel simpelere "zonder-assistent"-aanpak, loste 30,6% van de problemen op.
- De Verrassing: Hoewel deze AI kleiner was (32 miljard "hersencellen") dan sommige concurrenten (72 miljard), presteerde hij beter.
De Belangrijkste Conclusie
Het paper bewijst dat je geen gigantische, complexe machine met veel hulpmiddelen nodig hebt om software te repareren. In plaats daarvan, als je een model voorziet van hoogwaardige, geverifieerde voorbeelden van hoe dingen gerepareerd moeten worden, kan het de vaardigheid direct aanleren.
Het is als het verschil tussen een student leren autorijden door hem een handleiding te geven over hoe je een automotor repareert (rommelig, theoretisch), versus het laten zitten in een auto die al 2 miljoen mijl perfect is bestuurd door een pro (Clean-PR). De student leert het gevoel van het rijden zo goed dat hij geen copiloot meer nodig heeft om te vertellen waar hij moet afslaan.
Kortom: De auteurs hebben de rommelige data van het internet opgeschoond, een AI geleerd om van de schone versie te leren, en aangetoond dat dit de AI een veel betere, meer onafhankelijke software engineer maakt.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.