🤖 AI

Retrieval-Conditioned Topology Selection with Provable Budget Conservation for Multi-Agent Code Generation

Dieser Beitrag stellt Retrieval-Guided Adaptive Orchestration (RGAO) vor, ein Multi-Agenten-Framework, das dynamisch Code-Generierungstopologien basierend auf struktureller Komplexität auswählt, die aus einem hierarchischen Code-Index extrahiert wird, und dadurch eine nachweisbare Budgeteinsparung durch die neuartige Integration von komplexitätsbedingtem Routing und formalen Ressourcenalgebren erreicht.

Ursprüngliche Autoren: Abhijit Talluri, Pujith Anne, Bhagavan Choudary Pendiyala, Raghavendra Chilukuri

Veröffentlicht 2026-05-08

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Abhijit Talluri, Pujith Anne, Bhagavan Choudary Pendiyala, Raghavendra Chilukuri

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind der Manager eines Teams hochqualifizierter, aber sehr teurer KI-Assistenten. Ihr Ziel ist es, Fehler zu beheben oder neuen Code für ein riesiges Softwareprojekt zu schreiben.

Das Problem mit aktuellen KI-Teams besteht darin, dass sie keine Ahnung von der Größe der Aufgabe haben.

Wenn Sie sie bitten, einen Tippfehler in einer einzigen Datei zu korrigieren, schicken sie möglicherweise das gesamte „Spezialeinsatzkommando" mit einem Kran, einem Bulldozer und einer Abrissmannschaft. Das ist eine Verschwendung von Zeit und Geld.
Wenn Sie sie bitten, das gesamte Stromnetz einer Stadt wiederherzustellen (eine komplexe Änderung über viele Dateien hinweg), schicken sie möglicherweise nur eine Person mit einem Schraubenzieher. Das führt zum Scheitern.

Diese Arbeit stellt ein neues System namens CODE-AGENT vor, das von einem speziellen Manager namens RGAO geleitet wird. So funktioniert es, unter Verwendung einfacher Analogien:

1. Der „Aufklärer" vor dem „Team" (Retrieval-Guided Routing)

In alten Systemen entschied der Manager allein anhand der Wörter, die Sie eingegeben haben, wen er entsendet. Wenn Sie „Login reparieren" sagten, gingen sie davon aus, dass es sich um eine große Aufgabe handelte.

RGAO ändert das Spiel. Bevor jemand losgeschickt wird, entsendet es einen Aufklärer, um sich den tatsächlichen Code anzusehen.

Der Aufklärer erklimmt die Code-Struktur (wie einen Baum) und misst Dinge wie: „Wie tief sind die Wurzeln?", „Wie viele Äste sind verwickelt?", „Wie viele verschiedene Gebäude sind davon betroffen?"
Basierend auf dieser strukturellen Karte wählt der Manager das richtige Team aus:
- FASTPATH: Ein winziger Tippfehler? Schicken Sie eine Person, um ihn sofort zu beheben.
- SUBAGENT: Eine kleine Funktion? Schicken Sie einen Spezialisten.
- MULTIAGENT: Eine große Änderung? Schicken Sie eine Pipeline von Experten, die zusammenarbeiten.
- DEEPRESEARCH: Eine verwirrende, vage Anfrage? Schicken Sie ein Team, das zunächst intensive Recherchen durchführt.

Das Ergebnis: Die Arbeit behauptet, dass diese „Aufklärer"-Methode die Anzahl der falschen Teamzuweisungen von 30 % auf 8 % reduziert hat. Es ist wie ein General, der sich eine Karte ansieht, bevor er entscheidet, ob er einen Scharfschützen oder eine Armee entsendet.

2. Das „Unzerstörbare Budget" (Beweisbare Budgetkonservierung)

KI-Agenten sind teuer; sie verbrauchen „Tokens" (wie Treibstoff) und Zeit. Wenn ein Agent in einer Schleife stecken bleibt oder verrückt wird, kann es sein, dass er Ihr gesamtes Budget in Sekunden verbrannt hat.

Die Autoren haben ein Mathematisches Sicherheitsnetz geschaffen.

Stellen Sie sich den Hauptmanager als Elternteil vor, das ein Taschengeld von 100 $ hat.
Wenn das Elternteil ein Kind (einen Sub-Agenten) schickt, um eine Aufgabe zu erledigen, gibt es dem Kind ein striktes Taschengeld (z. B. 10 $).
Das System verfügt über einen mathematischen Beweis (Theorem 1), der besagt: „Egal wie viele Kinder Sie schicken oder wie oft sie es erneut versuchen, das gesamte Geld, das die ganze Familie ausgibt, wird niemals die ursprünglichen 100 $ des Elternteils überschreiten."

Warum das besonders ist: Die meisten Systeme prüfen das Budget während die Arbeit läuft (und wenn sie aufgebraucht sind, ist es zu spät). Dieses System prüft die Mathematik bevor jemand mit der Arbeit beginnt. Wenn der Plan aussieht, als würde er 110 $ kosten, sagt das System „Nein, stornieren Sie diesen Plan", bevor ein einziger Dollar ausgegeben wurde.

3. Das „Fließband" (Architektur)

Das System arbeitet in Schichten:

Der Aufklärer: Liest den Code-Baum und misst die Komplexität.
Der Dispatcher: Nutzt die Messungen, um die richtige Teamgröße auszuwählen.
Der Buchhalter: Prüft die Mathematik, um sicherzustellen, dass das Team nicht zu viel ausgibt.
Die Arbeiter: Die eigentlichen KI-Agenten führen die Codierung durch, geben sich effizient Notizen weiter, ohne alle anderen zu übertönen (was Zeit spart).

Das Fazit

Die Arbeit behauptet, dass diese Kombination – zuerst die Code-Struktur zu betrachten und mathematisch zu garantieren, dass Sie nicht zu viel ausgeben – ein System schafft, das viel schlauer ist, wen es schickt und wie viel es kosten wird.

Wichtiger Hinweis aus der Arbeit:
Die Autoren sind ehrlich bezüglich der Grenzen. Sie haben dies an einem „Proxy" (einer Simulation) getestet, da das Durchführen der vollen Realwelttests derzeit zu teuer und riskant ist. Sie geben auch zu, dass, wenn der Code in einer Sprache geschrieben ist, die ihr „Aufklärer" nicht gut kennt (wie Rust, das sie noch lernen), das System nicht ganz so scharf ist. Aber für die Tests, die sie durchgeführt haben, funktionierte es deutlich besser als die alten Methoden, die auf „Raten basierend auf Schlüsselwörtern" beruhten.

Technische Zusammenfassung: Retrieval-bedingte Topologieauswahl mit nachweisbarer Budgeterhaltung für die Code-Generierung durch Multi-Agenten-Systeme

Problemstellung

Multi-Agenten-Systeme auf Basis großer Sprachmodelle (LLM) für die Code-Generierung sehen sich einer grundlegenden Routing-Herausforderung gegenüber: die Bestimmung der optimalen Orchestrierungstopologie (z. B. monolithisch, Single-Specialist, Pipeline/Swarm oder retrieval-lastig) basierend auf der strukturellen Komplexität des zu modifizierenden Codes. Bestehende Systeme wählen Topologien typischerweise anhand oberflächlicher Abfrage-Features (z. B. Regex-Klassifikatoren) oder Abhängigkeitsgraphen von Aufgaben aus, ohne die tatsächliche Struktur der Codebasis zu konsultieren. Dies führt zu „Fehl-Routings", bei denen einfache Bearbeitungen durch komplexe Pipelines geleitet werden oder umgekehrt, was unnötige Effizienzverluste verursacht. Darüber hinaus existieren zwar formale Ressourcenalgebren zur Verwaltung von Agenten-Budgets, diese sind jedoch häufig nicht in die dynamische Topologieauswahl integriert, und Ressourcengarantien werden oft erst zur Laufzeit und nicht statisch durchgesetzt.

Methodik: CODE-AGENT und RGAO

Die Arbeit stellt CODE-AGENT vor, ein Multi-Agenten-Framework, das auf Retrieval-Guided Adaptive Orchestration (RGAO) basiert. Das System arbeitet in einem geschlossenen Regelkreis, bei dem Retrieval-Signale direkt Orchestrierungsentscheidungen informieren, gekoppelt mit einer formalen Budgetalgebra, die die Budgeterhaltung garantiert.

1. Hierarchisches Code-Retrieval und Komplexitätsextraktion

Vor dem Routing führt das System einen Retrieval-Vorgang über einen hierarchischen Baumindex des Code-Repositories durch (Root $\to$ Verzeichnis $\to$ Datei $\to$ Symbol).

Retrieval-Strategie: Abfragen werden in fünf Typen klassifiziert (Identifier, exakt, konzeptionell, Abhängigkeit, strukturell). Konzeptionelle Abfragen lösen eine Multi-Pfad-Fusionsstrategie aus, die LATTICE (Pfad-Score-Kalibrierung), KohakuRAG (Multi-Query-Neuformulierung) und PageIndex (LLM-gesteuerte Beam-Suche) kombiniert und über Reciprocal Rank Fusion (RRF) fusioniert.
Komplexitätsvektor ( $c$ ): Aus dem abgerufenen Subgraphen extrahiert RGAO in unter Millisekunden einen fünfdimensionalen strukturellen Komplexitätsvektor:
$c = (d_{dep}, n_f, n_s, h_t, \rho_x)$
Dabei ist $d_{dep}$ die maximale Abhängigkeitstiefe, $n_f$ die Anzahl der Dateien, $n_s$ die Anzahl der Symbole, $h_t$ die Baumtiefe und $\rho_x$ das Verhältnis der modulübergreifenden Kopplung.

2. Retrieval-Guided Adaptive Orchestration (RGAO)

Der Topologie-Router ist ein deterministischer Schwellenwertklassifikator, der den Komplexitätsvektor $c$ und die Benutzerabfrage auf eine von vier Topologien abbildet:

FASTPATH: Monolithische Ausführung für triviale, einzelne Datei-Bearbeitungen.
SUBAGENT: Einzelner Spezialist-Vertrag für moderaten Umfang ( $n_f \le 3$ ).
MULTIAGENT: Lineare Pipeline oder paralleler Swarm für komplexe, multi-dateiige Aufgaben ( $n_f > 3$ ).
DEEPRESEARCH: Mehrstufige, retrieval-lastige Ausführung für mehrdeutige Abfragen.

3. Formale Budgetalgebra und statische Verifikation

Sub-Agenten werden durch formale Verträge $\langle I, C, T, M \rangle$ gesteuert, wobei $C$ einen sechsdimensionalen Budgetvektor (Iterationen, Aufrufe, Tokens, Sekunden, Wiederholungen, Übergaben) umfasst.

Theorem der Budgeterhaltung (Theorem 1): Die Arbeit beweist, dass unter spezifischen Annahmen (deterministische Tool-Kosten, begrenzte Retrieval-Tiefe, endlicher Aktionsraum) der gesamte Ressourcenverbrauch eines Delegationswaldes durch das Root-Budget beschränkt ist.
Statische Verifikation: Ein Algorithmus VERIFYCONSERVATION prüft die Budgetalgebra in $O(|V| + |E|)$ Zeit bevor ein LLM-Aufruf getätigt wird. Er stellt sicher, dass die Summe der Kind-Budgets plus direkter Kosten das Budget des Elternelements nicht überschreitet, wodurch Ressourcenüberschreitungen statisch und nicht reaktiv verhindert werden.

4. Ausführungsschicht

Das System nutzt einen SwarmSupervisor, um einen Directed Acyclic Graph (DAG) von Aufgaben zu erstellen. Er erzwingt ein Drei-Tore-Protokoll vor der Ausführung (Existenz des Vertrags, Budget-Funktionalität, Integrität der Übergabe) und verwendet typisierte SwarmArtifact-Objekte für die Kommunikation zwischen Agenten, wodurch der Koordinationsaufwand von $O(n^2)$ auf $O(k)$ reduziert wird.

Hauptbeiträge

Komplexitätsbedingter Topologie-Router: Ein Router, der aus Retrieval abgeleitete Code-Struktur-Signale auf Orchestrierungsentscheidungen abbildet und Fehl-Routing-Raten im Vergleich zu Regex-basierten Baselines signifikant reduziert.
Nachweisbare Budgeterhaltung: Ein Theorem der strukturellen Induktion (Theorem 1), das sicherstellt, dass die hierarchische Vertragsdelegation niemals die Grenzen des Elternknotens überschreitet, was statisch in linearer Zeit relativ zur DAG-Größe verifiziert wird.
Hierarchische Retrieval-Engine: Eine neuartige Kombination aus LATTICE, KohakuRAG und einer RepoGraph-artigen Erweiterung von Abhängigkeiten über einen baumstrukturierten Index, die spezifisch als Routing-Signal verwendet wird.
Systemkomposition: Die Integration von retrieval-bedingtem Routing mit statischer Budgetverifikation, eine Eigenschaft, die keine der beiden Komponenten allein besitzt.

Empirische Ergebnisse

Die Evaluation erfolgte mittels einer Proxy-Harness (evals/swebench_proxy.py), um sandgeboxte Interaktionen zu abstrahieren; vollständige SWE-bench-Läufe wurden aufgrund von Kontaminationsbedenken und Ressourcenbeschränkungen für einen Folgedurchlauf verschoben.

Routing-Genauigkeit: Auf einem gelabelten Datensatz mit 250 Instanzen reduzierte RGAO das Fehl-Routing von 30,1 % (Regex-Baseline) auf 8,2 % (95 % Wilson-Konfidenzintervall [6,1, 10,9]), eine statistisch signifikante Verbesserung (gepaarter McNemar-Test, $p < 10^{-6}$ ).
Performance-Overhead:
- DAG-Erstellung: Unter Millisekunden (< 0,01 ms).
- Baumindex-Erstellung (200 Dateien, 2.002 Knoten): 11,1 ms.
- Instanziierung der Vertragsfabrik: ~1,1 $\mu$ s.
- Overhead für Budgetprüfung: ~0,65 $\mu$ s.
Pipeline-Korrektheit: Das System schloss 100 % der fünf zusammengesetzten Multi-Agenten-Pipelines (einschließlich Szenarien zur Wiederherstellung nach Eingriffen) mit einem durchschnittlichen Token-Kosten von ca. 6.000 Tokens pro Pipeline ab.
Proxy-Benchmarks: CODE-AGENT löste 40 % eines synthetischen SWE-bench-Sets bei pass@1 und demonstrierte Effizienz im Vergleich zu unbeschränkten monolithischen Agenten (8–20-fache Reduktion der Token-Kosten).

Bedeutung und Behauptungen

Die Arbeit behauptet, ihre primäre Bedeutung liege in der Komposition zweier bisher separater Forschungsrichtungen: komplexitätsbedingtes LLM-Routing und formale Ressourcenalgebren.

Neuartigkeit: Weder komplexitätsbedingtes Routing noch formale Budgetalgebra allein liefern die Eigenschaft der „nachweisbaren Budgeterhaltung unter retrieval-bedingter dynamischer Topologieauswahl".
Sicherheit und Effizienz: Der Mechanismus der statischen Verifikation ermöglicht es dem System, nicht durchführbare Konfigurationen vor der Ausführung abzulehnen, wodurch der „Explosionsradius" von Agentenfehlern begrenzt und die Kostenbarriere für agentenbasierte Code-Generierung in ressourcenbeschränkten Umgebungen gesenkt wird.
Interpretierbarkeit: Im Gegensatz zu erlernten Routing-Richtlinien verwendet der RGAO-Router interpretierbare, manuell abgestimmte Schwellenwerte basierend auf Struktur-Signalen, was mit der sicherheitsorientierten Vertragsstory übereinstimmt.

Die Autoren erkennen Einschränkungen an, darunter die Abhängigkeit von deterministischen Kostenannahmen für das strenge Erhaltungstheorem (obwohl erwartete Schranken für stochastische Kosten bereitgestellt werden) sowie die derzeitige Verwendung manuell abgestimmter Schwellenwerte anstelle eines erlernten Nachfolgers. Sie stellen fest, dass der Routing-Vorteil unter Verteilungsverschiebungen (z. B. bei unbekannten Sprachen) abnimmt, wo die Tree-sitter-Grammatik den Komplexitätsvektor verschlechtern kann.