🤖 machine learning

CORVUS: Context Optimization and Reduction Via Underlying Synchronization for LLM Coding Agents

CORVUS führt eine neuartige Trajektorien-Architektur für LLM-Coding-Agenten ein, die Dateilese-Aktionen von deren Beobachtungen entkoppelt, indem sie ein synchronisiertes Register der aktuellen Dateiinhalte aufrechterhält, wodurch veraltete Snapshots und redundante Neulesevorgänge eliminiert werden, um den Token-Verbrauch sowie die Reasoning-Zyklen signifikant zu reduzken, während die Performance beibehalten wird.

Ursprüngliche Autoren: Mingwei Zheng, David OBrien, Siwei Cui, Pardis Pashakhanloo, Rajdeep Mukherjee, Myeongsoo Kim, Sachit Kuhar

Veröffentlicht 2026-07-28

📖 7 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Mingwei Zheng, David OBrien, Siwei Cui, Pardis Pashakhanloo, Rajdeep Mukherjee, Myeongsoo Kim, Sachit Kuhar

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich eine Welt vor, in der Sie einen superintelligenten Roboter-Assistenten haben, der Computer-Code schreiben, Bugs beheben und ganze Softwareprogramme erstellen kann, indem er einfach nur mit Ihnen spricht. Das ist keine Science-Fiction; das ist die Realität von „LLM Coding Agents“. Dies sind KI-Modelle, die wie Junior-Entwickler agieren: Sie denken über ein Problem nach, schauen sich Dateien an, nehmen Änderungen vor und überprüfen ihre Arbeit. Aber hier ist der Haken: Diese Roboter haben ein Problem mit dem Kurzzeitgedächtnis. Um sich zu erinnern, was sie getan haben, führen sie ein fortlaufendes Tagebuch über jeden einzelnen Gedanken, jede Aktion und jedes Ergebnis. Je komplexer die Aufgabe, desto länger wird dieses Tagebuch. Schließlich wird das Tagebuch so massiv, dass der Roboter verwirrt wird, die wichtigsten Details vergisst und anfängt, dumme Fehler zu machen, weil er versucht, ein 500-seitiges Buch zu lesen, nur um sich zu erinnern, was er vor fünf Minuten getan hat. Dieses Phänomen, bei dem zu viele Informationen die KI „dümmer“ machen, wird als „Context Rot“ (Kontextfäulnis) bezeichnet.

Hier kommt CORVUS ins Spiel, ein cleveres neues System, das dieses Gedächtnis-Chaos behebt. Anstatt den Roboter zulassen, dass sein Tagebuch unkontrolliert mit alten, veralteten Notizen anwächst, fungiert CORVUS wie eine magische, lebendige Bibliothek. Es erkennt, dass sich Code ständig ändert. Wenn der Roboter eine Datei liest, sie dann bearbeitet und sie dann erneut liest, ist die alte Notiz im Tagebuch nutzloser Müll. CORVUS verhindert, dass der Roboter den Inhalt der Datei jedes Mal neu aufschreibt. Stattdessen führt es eine „synchronisierte Liste“ der Dateien, die der Roboter benötigt. Bevor der Roboter eine neue Entscheidung trifft, prüft CORVUS im Stillen die tatsächlichen Computerdateien, holt sich die allerneueste Version und reicht sie dem Roboter. Auf diese Weise hat der Roboter immer die frischesten, saubersten Informationen, ohne ein Tagebuch, das mit duplizierten, veralteten Seiten aufgebläht ist. Das Ergebnis? Der Roboter arbeitet schneller, kostet weniger in der Ausführung und macht weniger Fehler, während er sein Gedächtnis leicht und fokussiert hält.

Das Problem: Die „Stale Snapshot“-Falle

Um zu verstehen, warum CORVUS eine große Sache ist, müssen wir uns zuerst ansehen, wie diese Coding-Agenten normalerweise arbeiten. Stellen Sie sich vor, Sie versuchen, einen undichten Wasserhahn zu reparieren, aber Sie tun dies, während Sie eine Augenbinde tragen und den Raum nur durch eine Serie von Fotos sehen können, die Sie früher gemacht haben.

Bei der traditionellen Methode nimmt der Agent (unser Roboter) jedes Mal, wenn er eine Datei ansieht, einen „Snapshot“ (Schnappschuss) dieser Datei und fügt ihn in sein Verlaufsprotokoll ein. Wenn sich die Datei später ändert – weil der Roboter sie bearbeitet hat oder weil ein menschlicher Entwickler eingegriffen hat – bleibt dieser alte Snapshot im Protokoll exakt gleich. Er wird veraltet (stale).

Die Autoren des Papers fanden heraus, dass dies zwei große Probleme verursacht:

Duplikate beim Lesen: Da der alte Snapshot tief in einem langen Verlauf vergraben ist, vergisst der Roboter oft, dass er die Datei bereits angesehen hat. Er liest die Datei erneut, macht einen weiteren Snapshot und fügt ihn ein. Das ist so, als würde man dieselbe Buchseite fünfmal lesen, weil man den Platz verloren hat. In ihren Tests fanden sie heraus, dass der Roboter in 26 % der Fälle Dateien erneut las, die er bereits gesehen hatte.
Stale-Context-Fehler: Noch schlimmer ist, dass der Roboter versuchen könnte, eine Datei basierend auf einem veralteten Snapshot zu bearbeiten. Stellen Sie sich vor, der Roboter sieht eine Zeile Code, die besagt: „Zeile 10: Licht einschalten“, aber in der realen Welt wurde diese Zeile vor fünf Minuten gelöscht. Der Roboter versucht, „Zeile 10“ zu bearbeiten, scheitert, wird verwirrt und muss zusätzliche Zeit und Energie aufwenden, um herauszufinden, was schiefgelaufen ist.

Der alte Weg, dies zu beheben, war „reaktiv“. Es ist, als würde man warten, bis der Rucksack so voll mit Steinen ist, dass man ihn nicht mehr heben kann, und dann erst versuchen, einige Steine herauszuwerfen. Das Paper argumentiert, dass dies zu spät ist. Die wahre Lösung besteht darin, gar nicht erst Steine in den Rucksack zu legen.

Die Lösung: Der „Living Sync“

Die Autoren schlagen CORVUS vor (Context Optimization and Reduction Via Underlying Synchronization). Betrachten Sie CORVUS nicht als Tagebuch, sondern als einen Live-Feed.

Anstatt den Inhalt einer Datei in das Verlaufsprotokoll einzufügen, verwendet CORVUS ein spezielles Werkzeug namens sync_file. Wenn der Roboter sagt: „Ich muss speech_recognition.py ansehen“, kopiert CORVUS den Text nicht in das Protokoll. Stattdessen setzt es eine winzige, leichte Notiz in das Protokoll: „Sync: speech_recognition.py“.

Hinter den Kulissen pflegt CORVUS ein Synced File Set (ein synchronisiertes Dateiset). Dies ist eine spezielle Liste von Dateien, an denen der Roboter gerade arbeitet. Bevor der Roboter eine neue Entscheidung trifft (in jedem einzelnen Denkzyklus), führt CORVUS einen schnellen „Context Sync“ durch. Es geht zum eigentlichen Computer, holt sich die aktuelle, neueste Version jeder Datei auf dieser Liste und injiziert sie in den Prompt des Roboters.

Dies ändert alles:

Keine Duplikate: Der Roboter sieht nie zwei Versionen derselben Datei. Er sieht immer nur die eine, aktuelle Version.
Keine veralteten Daten: Wenn sich eine Datei ändert, erhält der Roboter beim nächsten Denkprozess automatisch die neue Version. Er versucht nie, Code zu bearbeiten, der nicht mehr existiert.
Geringeres Gewicht: Das Verlaufsprotokoll bleibt klein, da es nur die Gedanken und Aktionen des Roboters enthält, nicht massive Blöcke von Dateitexten.

Was sie herausfanden: Schneller, billiger, klüger

Die Forscher testeten CORVUS bei zwei schwierigen Coding-Herausforderungen: SWE-POLYBENCH_VERIFIED (die Aufgaben in Java, JavaScript und TypeScript umfasst) und SWE-BENCH PRO (die komplexe Enterprise-Level-Probleme beinhaltet). Sie führten diese Tests mit vier verschiedenen leistungsstarken KI-Modellen durch, darunter CLAUDE SONNET 4 und QWEN3-CODER-480B.

Die Ergebnisse waren beeindruckend und zeigten, dass das Halten des Kontexts frisch die KI signifikant effizienter macht:

Weniger verschwendetes Lesen: CORVUS reduzierte doppelte Dateilesevorgänge um 22 % bis 86 %. Der Roboter verschwendete keine Zeit mehr damit, Dateien erneut zu lesen, die er bereits kannte.
Weniger Schritte: Da der Roboter nicht mehr durch alte Daten verwirrt wurde, schloss er Aufgaben schneller ab. Die Anzahl der Denkzyklen (Schritte) sank um 15 % bis 37 %. Bei einem Modell sank beispielsweise die durchschnittliche Anzahl der Schritte von 45,03 auf 28,22.
Kürzere Prompts: Der finale „Prompt“ (die Nachricht, die an die KI gesendet wird, um die Aufgabe abzuschließen) war um 15 % bis 32 % kürzer.
Geldersparnis: Da die Kosten für KI davon abhängen, wie viel Text verarbeitet wird, summierten sich diese Einsparungen. Bei einigen Aufgaben sanken die Kosten um bis zu 50,28 %. Beispielsweise sank die Kosten für eine Aufgabe von 5,27 $ auf 2,62 $.
Geschwindigkeit: Der gesamte Prozess wurde in der Gesamtdauer um bis zu 40 % schneller abgeschlossen.

Entscheidend ist der Hinweis im Paper, dass der Roboter nicht dümmer wurde, indem er weniger Text zu lesen hatte. Die Erfolgsquote (wie oft er den Bug korrekt behob) blieb mit der alten Methode vergleichbar oder verbesserte sich in einigen Fällen sogar leicht.

Das große Ganze

Die Autoren prüften auch, ob CORVUS mit anderen Methoden funktioniert, die versuchen, unordentliche Verläufe aufzuräumen. Sie fanden heraus, dass CORVUS und diese „reaktiven“ Aufräumwerkzeuge beste Freunde sind. CORVUS verhindert das Chaos direkt an der Quelle (Upstream), während die anderen Werkzeuge das aufarbeiten, was übrig bleibt (Downstream). Gemeinsam genutzt, sparten sie noch mehr Token und Geld.

Kurz gesagt: CORVUS legt nahe, dass KI-Coding-Agenten für echte Effizienz nicht nur gut darin sein sollten, die Vergangenheit zu erinnern, sondern auch darin, mit der Gegenwart verbunden zu bleiben. Indem wir die Aktion des „Lesens einer Datei“ vom „Inhalt der Datei“ entkoppeln und statin einem Live-Sync mit der Codebasis bleiben, können wir Agenten bauen, die schneller, günstiger und weniger anfällig für die Verwirrung durch „Context Rot“ sind. Das Paper behauptet nicht, dass dies jedes Problem der KI löst, aber es zeigt, dass eine einfache strukturelle Änderung – der Austausch eines statischen Tagebuchs durch einen Live-Feed – einen riesigen Unterschied machen kann, wie gut diese digitalen Assistenten arbeiten.

Technisches Resümee: CORVUS

Problem: Kontext-Verfall und Append-Only-Trajektorien

LLM-Coding-Agenten operieren über eine iterative Thought–Action–Result-Schleife (Gedanken–Aktion–Ergebnis) und nutzen eine „Trajektorie“ (Interaktionsverlauf) als Arbeitsgedächtnis. Herkömmliche Agenten verwenden eine Append-Only-Trajektorien-Architektur, bei der Datei-Lese-Aktionen eng mit deren Beobachtungen gekoppelt sind. Wenn ein Agent eine Datei liest, wird ein Schnappschuss des Dateiinhalts zu einem bestimmten Zeitpunkt dauerhaft in den chronologischen Verlauf angehängt.

Diese Architektur führt zu zwei primären Ineffizienzen, insbesondere bei langfristigen Software-Engineering-Aufgaben:

Duplikate bei Dateilesevorgängen: Da die Trajektorie wächst, werden relevante Dateiinhalte im Kontext vergraben („Lost in the Middle“-Phänomen). Agenten lesen Dateien häufig erneut aus, um Informationen abzurufen, wodurch redundante Volltext-Schnappschüsse der Datei dem Verlauf angehängt werden. Die empirische Analyse zeigte, dass 26 % der Dateilesevorgänge bei Baseline-Agenten Duplikate waren.
Veraltete Kontextfehler: Da Schnappschüsse unveränderlich (immutable) sind, spiegeln sie weder nachfolgende Edits durch den Agenten noch gleichzeitige Änderungen durch Menschen wider. Agenten versuchen möglicherweise, Code basierend auf veralteten Zeilennummern oder Variablennamen zu bearbeiten, was zu fehlerhaften Edits führt. Die Wiederherstellung erfordert zusätzliche Diagnosezyklen und weitere Dateilesevorgänge, was die Trajektorien-Aufblähung verschlimmert.

Diese Probleme tragen zum Kontext-Verfall (Context Rot) bei, wobei eine zunehmende Prompt-Länge die Genauigkeit des Modells und die Zuverlässigkeit des Reasonings beeinträchtigt, während gleichzeitig Token-Kosten und Inferenz-Latenz steigen. Bestehende Methoden zur Kontextverwaltung sind weitgehend reaktiv; sie komprimieren oder kürzen den Kontext erst, nachdem dieser akkumuliert wurde. Sie verhindern nicht die Einführung unnötiger oder veralteter Inhalte an der Quelle.

Methodik: CORVUS-Architektur

Das Paper schlägt CORVUS vor (Context Optimization and Reduction Via Underlying Synchronization), eine proaktive Trajektorien-Architektur, die Dateilesevorgänge von ihren Beobachtungen entkoppelt. Anstatt feste Schnappschüsse zu speichern, pflegt CORVUS ein synchronisiertes Register relevanter Dateien.

Kernmechanismen

Synchronisierter Dateisatz ( $S_t$ ): CORVUS führt ein dynamisches Register von Dateien ein, die für die aktuelle Aufgabe relevant sind. Wenn ein Agent mit einer Datei interagieren muss, ruft er ein neues Tool auf, sync_file(fj), anstatt read_file(fj).
- Das sync_file-Tool registriert die Datei im Satz $S_t$ , hängt jedoch nur einen leichtgewichtigen Marker (z. B. "sync: ./path/to/file") an den Trajektorienverlauf an, um die sofortige Einbeziehung des Dateiinhalts zu vermeiden.
Kontext-Synchronisationsphase: Vor jedem Reasoning-Zyklus aktualisiert ein Synchronisationsschritt den Kontext. Das System ruft die aktuellen Inhalte aller im synchronisierten Satz enthaltenen Dateien aus dem Repository ab.
Prompt-Komposition: Der Prompt für jeden Reasoning-Schritt wird konstruiert als:
$P_t = M_{sys} \oplus T_{schema} \oplus H_{t-1} \oplus C_t$
Wobei $C_t$ der Synchronisierte Kontext ist, der höchstens eine aktuelle Version jeder registrierten Datei enthält. Dies stellt sicher, dass der Agent über den neuesten Stand der Codebasis reasoniert, ohne historische, potenziell veraltete Dateischnappschüsse in der Nachrichten-Historie mitzuführen.

Diese strukturelle Änderung stellt sicher, dass die Trajektorie durch Konstruktion mit dem tatsächlichen Repository-Zustand synchron bleibt, wodurch redundante Kopien eliminiert und das Reasoning über veraltete Informationen verhindert wird.

Wichtigste Beiträge

Das Paper leistet drei primäre Beiträge:

Identifizierung struktureller Ineffizienz: Die Autoren identifizieren empirisch, dass die Standard-Append-Only-Trajektorien-Architektur dazu führt, dass veränderliche Dateiinhalte als unveränderliche Historien-Einträge behandelt werden, was zur Akkumulation von duplizierten und veralteten Schnappschüssen führt.
Proaktive Architektur (CORVUS): Sie schlagen CORVUS vor, welches Inline-Dateilesevorgänge durch einen sync_file-Mechanismus und ein Pre-Cycle-Kontext-Refresh ersetzt. Dies garantiert, dass der Prompt nur die aktuelle Version der relevanten Dateien enthält und so die Trajektorien-Aufblähung an der Quelle verhindert.
Umfassende Evaluierung: Das System wurde auf dem STRANDS AGENTS Framework implementiert und über vier LLMs (drei proprietär: Claude Sonnet 3.7, 4, 4.5; eines Open-Source: Qwen3-Coder-480B) auf zwei Benchmarks evaluiert: SWE-POLYBENCH_VERIFIED und SWE-BENCH PRO.

Ergebnisse

Die Evaluierung über 573 Instanzen zeigte, dass CORVUS die Trajektorien-Effizienz signifikant verbessert, während die Erfolgsraten bei den Aufgaben stabil bleiben:

Reduzierte Redundanz: Duplikate bei Dateilesevorgängen wurden über alle Modelle hinweg um 22–86 % reduziert.
Weniger Reasoning-Zyklen: Die Anzahl der für die Aufgaben benötigten Reasoning-Zyklen sank um 9–37 %, wobei die stärkste Reduktion (37,33 %) bei Claude Sonnet 4.5 auf SWE-POLYBENCH_VERIFIED beobachtet wurde.
Kürzere Prompts: Die finalen Request-Prompts wurden um 15–32 % verkürzt, was die maximale Nutzung des Kontextfensters reduziert.
Token- und Kosteneinsparungen: Die durchschnittlichen Input-Token pro Aufgabe wurden um 9–50 % reduziert. Die gesamten Token-Kosten wurden um bis zu 51 % gesenkt (z. B. von 5,27 $ auf 2,62 $ pro Instanz für Claude Sonnet 4.5 auf SWE-POLYBENCH_VERIFIED).
Laufzeiteffizienz: Die End-to-End-Latenz wurde um bis zu 40 % reduziert. Der Synchronisationsaufwand (lokale Dateilesevorgänge) war vernachlässigbar im Vergleich zu den Einsparungen durch weniger LLM-Inferenzzyklen.
Aufgabenerfolg: Die Pass@1-Raten blieben vergleichbar mit den Baseline-Agenten, wobei bei drei der vier Modelle leichte Verbesserungen beobachtet wurden, was zeigt, dass die Effizienzgewinne die Korrektheit nicht beeinträchtigten.

Kompatibilität: Das Paper zeigt weiter, dass CORVUS komplementär zu reaktiven Kontextmanagement-Methoden (z. B. Sliding Windows, Summarization) ist. Die Kombination von CORVUS mit reaktiven Strategien liefert weitere Reduktionen bei Token und Kosten, was darauf hindeutet, dass ein hybrider Ansatz optimal ist.

Bedeutung und Ansprüche

Das Paper behauptet, dass die proaktive Synchronisation von Codebase-Trajektorien eine kritische, jedoch bisher übersehene Optimierung für langfristige Coding-Agenten ist. Durch die Adressierung der Ursache des Kontext-Verfalls – die Kopplung von veränderlichen Datei-Zuständen mit unveränderlichen Historien-Einträgen – ermöglicht CORVUS effizientere und zuverlässigere agentische Workflows.

Die Autoren betonen, dass ihr Ansatz sich von reaktiver Kompression unterscheidet; er verhindert die Akkumulation veralteter Daten, anstatt sie erst später zu bereinigen. Die Ergebnisse legen nahe, dass die Aufrechterhaltung einer synchronisierten Sicht auf das Repository es Agenten ermöglicht, mit leichtergewichtigeren Trajektorien zu arbeiten, was Kosten und Latenz senkt und gleichzeitig die Fähigkeit bewahrt, komplexe Software-Engineering-Aufgaben zu lösen. Das Paper schließt, dass dieser architektonische Wandel essenziell ist, um LLM-Coding-Agenten auf Enterprise-Grade, mehrtägige Entwicklungs-Workflows zu skalieren.