SWE-Adept: An LLM-Based Agentic Framework for Deep Codebase Analysis and Structured Issue Resolution

Das Paper stellt SWE-Adept vor, ein auf zwei Agenten basierendes Framework, das durch agentengesteuerte Tiefensuche zur präzisen Code-Lokalisierung und adaptive, versionierte Problemlösung die Effektivität von LLMs bei der Behebung komplexer Softwareprobleme in großen Codebasen signifikant verbessert.

Das Wesentliche

Stell dir vor, du hast einen riesigen, chaotischen Keller voller alter Kisten, Werkzeuge und tausender Bücher. Jemand ruft dich an und sagt: „Hey, in einem dieser Bücher steht ein Fehler, der die ganze Maschine zum Stillstand bringt. Finde den Fehler und repariere ihn!"

Das ist genau die Aufgabe, die SWE-Adept löst. Es ist ein neuer, intelligenter Roboter-Assistent, der programmiert wurde, um komplexe Software-Probleme in riesigen Code-Bibliotheken (den „Kellern" der digitalen Welt) zu finden und zu beheben.

Bisher hatten KI-Modelle (wie ChatGPT) Schwierigkeiten damit. Sie waren wie ein sehr kluger Student, der aber bei der Suche im Keller schnell den Überblick verlor, weil er zu viele irrelevante Bücher mitbrachte, oder der beim Reparieren alles durcheinanderbrachte, weil er nicht wusste, wo er angefangen hatte.

SWE-Adept funktioniert anders. Es nutzt nicht einen einzigen Helfer, sondern ein Zwei-Personen-Team, das perfekt aufeinander abgestimmt ist:

1. Der Detektiv (Der „Lokalisierungs-Agent")

Stell dir diesen Agenten als einen Detektiv mit einem speziellen Suchgerät vor.

• Das Problem: Wenn ein Fehler auftritt, ist er oft nicht an einer einzigen Stelle, sondern versteckt sich tief in den Verästelungen des Codes. Ein normaler Sucher würde versuchen, alles auf einmal zu lesen. Das ist wie wenn du versuchst, eine Nadel im Heuhaufen zu finden, indem du den ganzen Heuhaufen in dein Zimmer trägst – du erstickst unter dem Heu.
• Die Lösung von SWE-Adept: Der Detektiv nutzt eine Strategie namens „agentengeleitete Tiefensuche".
  • Er geht nicht wahllos durch den Keller. Er folgt den Spuren (den Abhängigkeiten). Wenn er eine Kiste findet, die relevant aussieht, öffnet er sie, schaut sich nur das an, was direkt damit verbunden ist, und ignoriert alles andere.
  • Er nutzt eine Art „Vorschau-Brille": Bevor er ein ganzes Buch (eine ganze Datei) öffnet, sieht er sich nur das Inhaltsverzeichnis und die ersten Seiten an. Erst wenn er sicher ist, dass das Buch wichtig ist, holt er es komplett heraus.
  • Das Ergebnis: Er findet die genaue Stelle des Fehlers viel schneller und ohne den „Kopf voll mit unnötigem Zeug" zu haben.

2. Der Handwerker (Der „Lösungs-Agent")

Sobald der Detektiv die genaue Stelle gefunden hat, kommt der Handwerker ins Spiel. Stell dir ihn als einen Bauarbeiter mit einem perfekten Werkzeugkasten und einem Tagebuch vor.

• Das Problem: Wenn man Software repariert, passiert oft, dass man eine Änderung vornimmt, etwas kaputtgeht, man vergisst, was man vorher geändert hat, und versucht, es wieder zurückzusetzen, aber es klappt nicht. Es ist wie ein Handwerker, der immer wieder neue Nägel in eine Wand schlägt, ohne zu merken, dass er die falsche Wand trifft.
• Die Lösung von SWE-Adept: Der Handwerker arbeitet mit einem System aus „Sicherheits-Checkpoints" und „Zweigwegen".
  • Der Plan: Er schreibt sich erst einen To-Do-Liste.
  • Die Sicherheitsnetze (Checkpoints): Nach jedem kleinen Schritt (z. B. „Nagel eingeschlagen") macht er ein Foto des Zustands und speichert es. Wenn der nächste Schritt schiefgeht, kann er einfach zu diesem Foto zurückkehren und alles ist wieder so, wie es vorher war.
  • Die Parallel-Welten (Branching): Wenn er nicht sicher ist, welche Reparatur die beste ist, baut er keine einzige Wand, sondern drei kleine Zelte nebeneinander. In Zelt A probiert er Methode 1, in Zelt B Methode 2. Wenn Zelt A einstürzt, ist das kein Problem, denn Zelt B steht noch. Er kann dann einfach in Zelt B weiterarbeiten.
  • Das Tagebuch: Er hält alles fest, was er versucht hat und warum es geklappt oder nicht geklappt hat.

Warum ist das so wichtig?

Bisherige Systeme waren wie ein einsamer Handwerker, der im Dunkeln tappt, viel herumprobriert und oft am Ende frustriert aufgibt, weil er den Überblick verloren hat.

SWE-Adept ist wie ein professionelles Team:

1. Der Detektiv findet den Fehler präzise, ohne Zeit zu verschwenden.
2. Der Handwerker repariert ihn systematisch, nutzt Sicherheitsnetze, um Fehler rückgängig zu machen, und testet verschiedene Lösungen parallel, ohne das Original zu zerstören.

Das Ergebnis: In Tests hat sich gezeigt, dass dieses Team deutlich besser ist als alle vorherigen Methoden. Es findet die Fehler genauer und repariert sie zuverlässiger, selbst wenn die Aufgaben sehr komplex sind. Es ist ein großer Schritt hin zu KI, die nicht nur Code schreibt, sondern echte Software-Projekte wie ein erfahrener Ingenieur verwaltet.

Technische Zusammenfassung

1. Problemstellung

Große Sprachmodelle (LLMs) zeigen zwar beeindruckende Leistungen bei isolierten Programmieraufgaben, scheitern jedoch oft an komplexen Software-Engineering-Problemen auf Repository-Ebene. Die Autoren identifizieren zwei Haupt-Herausforderungen:

• Tiefe Codebase-Navigation und Kontextmanagement: Reale Code-Repositories sind riesig (durchschnittlich >3.000 Dateien) und weisen dichte Abhängigkeiten zwischen Dateien auf. Das Auffinden der relevanten Code-Stellen (Issue Localization) ist schwierig, da LLMs durch ihre Kontextfenster-Limitierung oft nicht den gesamten Code laden können. Bestehende Ansätze laden oft zu viel irrelevante Information oder nutzen starre Suchalgorithmen (z. B. Breitensuche), die den Kontext mit unnötigem Inhalt überfluten.
• Systematische Problemlösung: Die Behebung von Fehlern erfordert oft iterative, testgetriebene Code-Änderungen. Viele aktuelle Agenten arbeiten in einem chaotischen „Denken-und-Bearbeiten"-Zyklus ohne explizite Planung oder Fortschrittsverfolgung. Ohne Mechanismen zum Speichern von Zwischenzuständen (Checkpoints) ist es für Agenten schwierig, bei gescheiterten Versuchen zuverlässig zu einem früheren, funktionierenden Zustand zurückzukehren oder alternative Lösungswege systematisch zu erkunden.

2. Methodik: Das SWE-Adept Framework

SWE-Adept ist ein Framework, das auf zwei spezialisierten Agenten basiert, die in separaten Kontextfenstern arbeiten, um den Kontextverbrauch zu minimieren und die Aufgaben zu trennen.

A. Issue Localization Agent (Fehlerlokalisierung)

Dieser Agent ist für das Auffinden der fehlerhaften Code-Stellen zuständig.

• Definition-Level-Indexierung & Code-Struktur-Baum: Der Code wird nicht als ganzer Text, sondern in feinkörnige Einheiten (Funktionen, Klassen) zerlegt. Mit Hilfe von tree-sitter werden Abhängigkeiten extrahiert und ein Code-Struktur-Baum aufgebaut, der Eltern-Kind-Beziehungen (z. B. „enthält" oder „ruft auf") abbildet.
• Agent-gesteuerte Tiefensuche (Agent-Directed DFS): Anstatt eine breite, ungerichtete Suche durchzuführen, navigiert der Agent gezielt durch den Baum. Er nutzt Such-Tools, die nur leichte strukturelle Informationen (Code-Skelette, Metadaten) zurückgeben, um den Kontextverbrauch gering zu halten. Der Agent entscheidet selbst, welche Abhängigkeitspfade vertieft werden sollen.
• Zweistufige Filterung:
  1. Vorfilterung: Basierend auf Code-Vorschauen und Metadaten werden unwahrscheinliche Pfade verworfen.
  2. Nachfilterung: Nur für die verbleibenden Kandidaten wird der vollständige Quellcode geladen und analysiert, um die genaue Position zu bestimmen.

B. Issue Resolution Agent (Fehlerbehebung)

Dieser Agent nimmt die identifizierten Stellen entgegen und führt die Reparatur durch.

• Strukturierte Problemlösung: Der Agent formuliert Hypothesen (alternative Lösungsansätze) und erstellt dynamische „To-Do"-Listen für feinkörnige Bearbeitungsschritte.
• Tool-Memory-Schnittstelle: Ein zentrales Merkmal ist die Integration von zwei Tool-Familien:
  • hypothesis_plan: Verwaltet Hypothesen, To-Do-Listen und protokolliert Erkenntnisse (Insights).
  • hypothesis_git: Führt Versionskontrolloperationen durch (Branching, Commits, Reverts).
• Checkpointing-Mechanismus: Nach jedem abgeschlossenen To-Do-Schritt wird der Code-Zustand als Commit gespeichert. Die Metadaten (Git-Hash, Commit-Nachricht) werden in einem geteilten „Working Memory" gespeichert und mit dem jeweiligen Schritt verknüpft.
• Vorteil: Dies ermöglicht dem Agenten, bei gescheiterten Schritten zuverlässig zu einem früheren Checkpoint zurückzukehren (revert_to), neue Branches für alternative Hypothesen zu erstellen und so systematisch lange Lösungspfade zu verfolgen, ohne den Überblick zu verlieren.

3. Hauptbeiträge

1. SWE-Adept Framework: Ein End-to-End-System, das präzise Lokalisierung mit strukturierter, agentengesteuerter Reparatur kombiniert.
2. Agentic Traversal: Eine neue Suchstrategie, die durch tiefgehende, abhängigkeitsgeführte Navigation und zweistufige Filterung den Kontext effizient nutzt und die Lokalisierungsgenauigkeit steigert.
3. Tool-Memory-Schnittstelle für Versionskontrolle: Ein Design, das Agenten erlaubt, Versionskontrolloperationen (Branching, Reverting) autonom und zuverlässig über Checkpoints zu steuern, was für langfristige Problemlösungen entscheidend ist.

4. Ergebnisse

Die Evaluation erfolgte auf den Benchmarks SWE-Bench Lite und SWE-Bench Pro.

• Lokalisierung: SWE-Adept übertrifft alle Baselines (einschließlich SWE-agent, RepoGraph, OrcaLoca) sowohl auf Datei- als auch auf Funktionsebene.
  • Auf SWE-Bench Lite (Funktionsebene, Acc@5): Steigerung um 5,4 % gegenüber der besten Baseline (mit GPT-5.2).
  • Deutlich geringerer Token-Verbrauch im Vergleich zu graphbasierten Ansätzen durch effizientes Kontextmanagement.
• Lösungsrate (Resolve Rate): Das Framework erzielt die höchste Erfolgsquote bei der vollständigen Behebung von Issues.
  • Auf SWE-Bench Lite: Steigerung um 3,3 % (GPT-5.2) und 2,6 % (Claude-4.5) gegenüber SWE-agent.
  • Auf SWE-Bench Pro: Steigerung um 4,7 % (GPT-5.2) und 4,0 % (Claude-4.5).
• Ablationsstudie: Die Studie zeigt, dass sowohl die spezialisierte Lokalisierung als auch die strukturierte Reparatur (insbesondere das Checkpointing) für den Erfolg notwendig sind. Der direkte Einsatz von Roh-Git-Befehlen durch den Agenten ohne die speziellen Tools führt zu schlechteren Ergebnissen, da die Zuverlässigkeit über lange Pfade leidet.

5. Bedeutung und Ausblick

SWE-Adept demonstriert, dass die Kombination aus effizientem Kontextmanagement (durch selektive Suche) und systematischem Zustandsmanagement (durch Versionskontrolle und Checkpoints) entscheidend ist, um LLMs für komplexe Software-Engineering-Aufgaben einzusetzen. Das Framework adressiert die Hauptprobleme bestehender Agenten: den Verlust des Kontexts bei großen Repositories und die Unfähigkeit, bei Fehlern strukturiert zurückzukehren.

Die Arbeit legt nahe, dass zukünftige Systeme für autonomes Software-Engineering nicht nur über bessere Suchalgorithmen, sondern vor allem über robuste Mechanismen zur Verwaltung von Arbeitszuständen und Versionshistorie verfügen müssen. Die Autoren sehen Potenzial darin, diese Prinzipien auf Open-Source-Modelle zu übertragen und das Framework auf andere Programmiersprachen zu erweitern.