SuperCoder: Assembly Program Superoptimization with Large Language Models
Dieses Paper stellt SuperCoder vor, einen auf einem Large Language Model basierenden Ansatz für die Assembly-Superoptimierung, der durch die Erstellung eines neuen groß angelegten Benchmarks und Reinforcement Learning Fine-Tuning eine Korrektheit von 95 % und eine 1,46-fache Beschleunigung gegenüber branchenüblichen Compilern erreicht und damit die Lebensfähigkeit von LLMs für die Programmberechnungsoptimierung jenseits traditioneller Heuristiken demonstriert.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie haben ein Rezept für einen Kuchen, das ein Weltklasse-Koch bereits perfektioniert hat. Der Koch hat jede Zutat abgemessen, die beste Ofentemperatur gewählt und die Backzeit auf die Sekunde genau abgestimmt. Dies ist Ihr „optimierter“ Code, erstellt von einem Standard-Compiler (wie gcc -O3).
Stellen Sie sich nun vor, Sie bitten einen brillanten, aber unerfahrenen Lehrling (ein Large Language Model oder LLM), sich dieses perfekte Rezept anzusehen und zu sagen: „Ich kann diesen Kuchen noch schneller backen.“
Dies ist genau das, was die Arbeit SuperCoder untersucht. Hier ist die Geschichte ihres Experiments, einfach erklärt.
Die Herausforderung: Den Meisterkoch schlagen
Seit Jahrzehnten versuchen Informatiker, Programme zu schreiben, die automatisch den schnellsten Weg finden, um Aufgaben zu erledigen. Dies nennt man Superoptimierung.
- Der alte Weg: Frühere Versuche waren wie der Versuch, einen einzelnen Satz zu optimieren. Sie konnten nur winzige, einfache Aufgaben ohne Schleifen (wiederkehrende Aktionen) bewältigen. Es war, als würde man versuchen, ein Sandwich schneller zuzubereiten, aber man könnte nicht einmal eine zweite Scheibe Brot hinzufügen.
- Das neue Ziel: Die Autoren wollten sehen, ob moderne KI ein ganzes „Menü“ (ein komplexes Programm mit Schleifen und Logik) optimieren kann, das bereits von den besten professionellen Köchen (industriellen Compilern) „gekocht“ wurde.
Das Werkzeug: Ein riesiger neuer Spielplatz
Um dies zu testen, konnten die Forscher nicht einfach die alten, winzigen Datensätze verwenden. Sie brauchten ein riesiges Fitnessstudio, um ihre KI zu trainieren.
- Der Datensatz: Sie bauten eine Bibliothek aus 8.072 Assembly-Programmen (den rohen, niedrigen Anweisungen, die Computer tatsächlich ausführen).
- Die Skalierung: Dies waren keine winzigen Schnipsel; sie umfassten im Durchschnitt 130 Codezeilen und enthielten komplexe Schleifen. Denken Sie daran, den Fokus von der Optimierung eines einzelnen Lego-Steins auf die Optimierung eines ganzen Schlosses zu verlagern.
- Das Sicherheitsnetz: Sie erstellten tausende von „Testfällen“ (wie Geschmackstests), um sicherzustellen, dass das Ergebnis exakt gleich schmeckt, wenn die KI das Rezept ändert – der Kuchen muss also genau so schmecken, nur schneller gebacken sein.
Das Experiment: Den Lehrling trainieren
Sie nahmen 23 verschiedene KI-Modelle und baten sie, den Assembly-Code umzuschreiben, um ihn schneller zu machen.
- Die ersten Ergebnisse: Die meisten KIs waren schlecht darin. Sie schrieben entweder Code, der abstürzte (der Kuchen fiel in sich zusammen), oder Code, der genauso langsam war wie das Original.
- Der Spitzenreiter: Ein Modell, Claude-opus-4, war das beste der Gruppe. Es schaffte es, den Code im Durchschnitt 1,43-mal schneller zu machen, während es weiterhin korrekt funktionierte. Das ist so, als würde man eine 10-minütige Backzeit auf 7 Minuten kürzen, ohne den Kuchen zu ruinieren.
Die Geheimzutat: Reinforcement Learning
Den Forschern wurde klar, dass es nicht ausreichte, der KI einfach nur zu sagen, sie solle „besser werden“. Sie mussten sie wie einen Videospiel-Charakter trainieren.
- Das Belohnungssystem: Sie verwendeten eine Technik namens Reinforcement Learning (Bestärkendes Lernen).
- Wenn die KI Code schrieb, der abstürzte oder ein falsches Ergebnis lieferte, bekam sie null Punkte.
- Wenn der Code funktionierte, bekam sie Punkte basierend darauf, wie viel schneller er war.
- Das Ergebnis: Sie nahmen ein solides Modell (Qwen2.5-Coder-7B) und trainierten es mit diesem Belohnungssystem.
- Vor dem Training: Es war in 61 % der Fälle korrekt und nur 10 % schneller.
- Nach dem Training (SuperCoder): Es war zu 95 % der Zeit korrekt und im Durchschnitt 46 % schneller.
Wie sie den Edelstein polierten
Selbst nach dem Training nutzten sie zwei clevere Tricks, um noch bessere Ergebnisse zu erzielen:
- Best-of-N Sampling: Anstatt die KI nach einer Antwort zu fragen, baten sie sie um 8 verschiedene Versionen und wählten die absolut beste aus. Dies steigerte die Beschleunigung noch weiter.
- Iterative Verfeinerung: Wenn die KI einen Fehler machte, zeigten sie ihr die Fehlermeldung und fragten: „Versuch es noch einmal, aber behebe genau dieses Problem.“ Die KI nutzte dieses Feedback, um sich zu korrigieren und mit jedem Versuch klüger zu werden.
Was hat die KI eigentlich verändert?
Als die Forscher untersuchten, wie die KI den Code schneller machte, stellten sie fest, dass sie Dinge taten wie:
- Schleifen-Umstrukturierung (Loop Restructuring): Die Reihenfolge der Schritte effizienter anordnen.
- Instruktionsauswahl (Instruction Selection): Eine lange, langsame Anweisung durch einen kurzen, spezialisierten CPU-Trick austauschen (wie das Nutzen einer geheimen Abkürzung).
- Entfernung von Ballast (Removing Bloat): Sicherheitsprüfungen oder komplexe mathematische Operationen entfernen, die der Compiler zwar beibehalten hatte, die aber für diese spezifische Aufgabe nicht zwingend notwendig waren.
Das Fazit
Diese Arbeit beweist zum ersten Mal, dass KI als Superoptimierer agieren kann. Sie kann Code nehmen, der bereits von den weltweit besten, menschenentwickelten Compilern optimiert wurde, und Wege finden, ihn noch schneller zu machen, ohne ihn zu beschädigen.
Sie haben nicht nur geraten; sie haben einen massiven Testplatz gebaut, die KI mit einem strengen Belohnungssystem trainiert und gezeigt, dass KI mit dem richtigen Training den aktuellen „Goldstandard“ der Computeroptimierung übertreffen kann.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.