💬 NLP

Long Live the Librarian! A Persistent Search Sub-Agent for Energy-Efficient Multi-Agent Software Engineering Systems

Das Papier stellt Librarian vor, einen persistenten Suchsubagenten, der den Energieverbrauch von Multi-Agenten-Softwareentwicklungssystemen durch die Unterdrückung redundanter Exploration und den Ersatz vollständiger Dateiauszüge durch prägnante Referenzen um bis zu 25 % erheblich senkt.

Ursprüngliche Autoren: Seunghyuk Cho, Sunghyun Choi, Jaeseung Heo, Youngbin Choi, Saemi Moon, MoonJeong Park, Dongwoo Kim

Veröffentlicht 2026-05-28

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Seunghyuk Cho, Sunghyun Choi, Jaeseung Heo, Youngbin Choi, Saemi Moon, MoonJeong Park, Dongwoo Kim

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Problem: Die Verschwendung durch „Neulesen"

Stellen Sie sich vor, Sie versuchen, ein Leck in einem riesigen, 100-stöckigen Wohngebäude (dem Softwarecode) zu reparieren. Sie beauftragen ein Team aus Experten-Detektiven (Multi-Agent-Systeme), das Leck zu finden.

Im aktuellen Setup geht jeder Detektiv jedes Mal, wenn er einen bestimmten Raum überprüfen muss, den ganzen Weg zur Bibliothek, fragt nach den Bauplänen dieses Raums, liest die gesamte Seite laut für das Team vor und geht dann zurück an die Arbeit.

Hier liegt der Haken: Detektiv A liest die Baupläne für die Küche. Dann muss Detektiv B die Küche erneut überprüfen. Anstatt einfach zu sagen: „Hey, wir haben die Küche schon überprüft", läuft Detektiv B zurück zur Bibliothek, fragt erneut nach den Küchenbauplänen und liest die ganze Seite erneut laut vor.

Das passiert ständig. Das Team landet dabei dabei, dieselben Seiten immer und immer wieder zu lesen.

Warum ist das wichtig?
Das Paper hat herausgefunden, dass in der Welt der künstlichen Intelligenz das Lautvorlesen von Dingen (Generieren von Ausgaben) eine massive Menge an Strom kostet – etwa 30- bis 1.000-mal mehr als nur das Hören von Anweisungen (Eingabe). Indem die Detektiven dieselben langen Erklärungen wiederholen, verschwendet das Team eine enorme Menge an Energie, selbst wenn sie das Problem korrekt lösen.

Die Lösung: Treffen Sie „The Librarian"

Um dies zu beheben, haben die Forscher ein neues Teammitglied namens The Librarian (Der Bibliothekar) geschaffen.

Stellen Sie sich The Librarian als einen super-organisierten, beharrlichen Assistenten vor, der genau in der Mitte des Teams sitzt. So verändert The Librarian das Spiel:

Das Gedächtnisbuch: Im Gegensatz zu den anderen Detektiven, die vergessen, was sie gesehen haben, sobald sie eine Aufgabe abgeschlossen haben, führt The Librarian ein laufendes Tagebuch über jede einzelne Datei und jeden Code-Schnipsel, den er während des gesamten Projekts betrachtet hat.
Der „Pointer"-Trick: Wenn der Hauptteamleiter fragt: „Wo ist der Code für die Login-Schaltfläche?", liest The Librarian die gesamte Datei nicht laut vor. Stattdessen sagt The Librarian einfach: „Er befindet sich in Datei X, Zeilen 40 bis 50."
- Alter Weg: Der Detektiv liest 50 Codezeilen laut vor (Hohe Energiekosten).
- Librarian-Weg: Der Detektiv zeigt einfach auf die Stelle (Niedrige Energiekosten). Der eigentliche Code wird dem Computersystem nur dann angezeigt, wenn es absolut notwendig ist, und nicht von der KI laut vorgelesen.
Kein Neulesen: Wenn das Team den gleichen Login-Code fünf Minuten später erneut überprüfen muss, prüft The Librarian sein Tagebuch, sieht, dass er ihn bereits hat, und zeigt einfach erneut auf die Stelle. Kein neues Lesen, keine verschwendete Energie.

Was sie herausfanden

Die Forscher testeten dieses neue „Librarian"-System an realen Softwareentwicklungsaufgaben (Fehlerbehebungen in Open-Source-Projekten).

Energieeinsparungen: Indem sie das Team daran hinderten, lange Erklärungen zu wiederholen, reduzierten sie den von den Computerchips verbrauchten Strom um bis zu 25 %. Das ist so, als würde man eine Glühbirne in einem Raum ausschalten, die unnötig eingeschaltet gelassen wurde.
Gleiche Ergebnisse: Das Team wurde nicht langsamer und machte nicht mehr Fehler. Tatsächlich lösten sie die Probleme genauso gut (oder sogar etwas besser) als zuvor.
Der „Höhlenmensch"-Bonus: Sie probierten auch einen Trick aus, bei dem sie der KI sagten, in kurzen, einfachen Sätzen zu sprechen (wie ein „Höhlenmensch"). Als sie den „Librarian" mit diesem kurzgesprochenen Stil kombinierten, waren die Energieeinsparungen noch höher.

Das Fazit

Das Paper argumentiert, dass die größte Energieverschwendung in KI-Software-Teams nicht das Denken ist, sondern das Reden. Indem wir dem Team einen „Librarian" geben, der sich daran erinnert, was bereits betrachtet wurde, und nur auf die Antworten zeigt, anstatt sie laut vorzulesen, können wir die Softwareentwicklung mit KI viel umweltfreundlicher und effizienter gestalten, ohne dabei Leistung zu verlieren.

Technische Zusammenfassung: Es lebe der Bibliothekar! Ein persistenter Such-Sub-Agent für energieeffiziente Multi-Agenten-Softwareentwicklungssysteme

Problemstellung

Während Multi-Agenten-Systeme (MAS) die autonome Softwareentwicklung (SWE) erheblich vorangebracht haben, werfen ihre wachsenden Inferenz-Energiebedarfe Nachhaltigkeitsbedenken auf. Die bestehende Literatur zum Energieverbrauch von LLMs konzentriert sich weitgehend auf Einzelaufruf-Szenarien oder einzelne Agentenläufe und erfasst nicht die einzigartigen Energiedynamiken von MAS, bei denen eine einzelne Aufgabe zahlreiche LLM-Aufrufe über spezialisierte Sub-Agenten hinweg umfasst.

Die Autoren identifizieren eine kritische Ineffizienz in aktuellen MAS-Designs: redundante Generierung von Ausgabetokens. In bestehenden Architekturen fehlt Sub-Agenten eine persistente Erinnerung an die Historie der Dateierkundung über Aufrufe hinweg. Folglich durchlaufen Sub-Agenten bei unterschiedlichen Anfragen des Orchestrierers wiederholt sich überschneidende Repository-Bereiche und generieren lange Dateiauszüge neu. Dieser Zyklus der erneuten Erkundung verstärkt die energieintensivste Kategorie von Tokens: Ausgabetokens.

Empirische Analysen offenbaren eine drastische Energieasymmetrie: Ein Ausgabetoken verbraucht 30- bis 1.000-mal mehr Energie als ein Eingabe- oder zwischengespeichertes Token. Trotz dieser Tatsache unterschätzen aggregierte Tokenzahlen und API-Preis-Proxy-Werte den tatsächlichen GPU-Energieverbrauch oft, da sie die unverhältnismäßigen Kosten der durch redundante Erkundung generierten Ausgabetokens nicht berücksichtigen.

Methodik

1. Energiezuordnung und Diagnose

Die Autoren führten eine energiebezogene Zuordnungsstudie auf Turn-Ebene für SWE-Bench Verified durch, wobei sie zwei Multi-Agenten-Systeme (BOAD und HyperAgent) und zwei Qwen3.6-Modell-Backbones (35B-A3B und 27B) auf NVIDIA A100- und B200-GPUs verwendeten.

Token-Level-Zerlegung: Sie zerlegten die GPU-Energie in drei Kategorien: nicht zwischengespeicherte Eingabe ( $x_u$ ), zwischengespeicherte Eingabe ( $x_c$ ) und Ausgabe ( $x_o$ ).
Regressionsanalyse: Ein lineares Regressionsmodell ( $E_t = \alpha + \beta_u x_u + \beta_c x_c + \beta_o x_o$ ) bestätigte, dass Ausgabetokens den Energieverbrauch dominieren, mit Koeffizienten ( $\beta_o$ ) im Bereich von 660 bis 3.512 mJ/Token, im Vergleich zu ca. 0,5–34 mJ/Token für Eingabetokens.
Identifikation der Ursache: Die Studie führte den übermäßigen Output auf „doppelte Umschreibungen" zurück. Sub-Agenten lesen Dateibereiche, die sie oder andere Agenten im selben Durchlauf bereits inspiziert hatten, häufig erneut und generieren den vollständigen Text in ihren Antworten an den Orchestrierer neu.

2. Der Bibliothekar-Sub-Agent

Um dies zu beheben, schlagen die Autoren Librarian vor, einen persistenten Such-Sub-Agenten, der darauf ausgelegt ist, redundante Erkundung zu eliminieren und das Ausgabevolumen zu minimieren. Er wird in bestehende MAS integriert, indem der Standard-Code-Navigations-Sub-Agent ersetzt wird.

Kern-Designprinzipien:

Persistente Sitzung: Im Gegensatz zu Standard-Sub-Agenten, die mit einem frischen Kontext starten, führt der Bibliothekar eine einzelne langlebige Sitzung über alle Aufrufe innerhalb eines Durchlaufs hinweg. Er behält die vollständige Trajektorie vorheriger Suchen und Antworten bei.
Kontext-Frische: Um sicherzustellen, dass die Historie mit dem aktuellen Repository-Zustand übereinstimmt, erhält jeder Aufruf einen „Frische-Bericht", der Dateien und Zeilenbereiche auflistet, die seit dem vorherigen Aufruf geändert wurden. Der Bibliothekar wird angewiesen, nur diese geänderten Bereiche erneut zu durchlaufen, während zwischengespeicherte Auszüge für unveränderte Bereiche wiederverwendet werden.
Nur-Pointer-Antworten: Anstatt vollständige Dateiauszüge in seiner Antwort inline einzufügen, gibt der Bibliothekar kurze View-Befehle zurück (Pointer auf Dateipfade und Zeilenbereiche). Die tatsächlichen Codeauszüge werden von der System-Tool-Schicht abgerufen und an den Orchestrierer weitergeleitet. Dies reduziert das vom LLM selbst generierte Tokenvolumen drastisch.

Integrationsstrategie:
Die Integration umfasst einen „Tool-Tausch", bei dem das Delegations-Tool des Orchestrierers für die Code-Navigation durch ein Librarian-Delegations-Tool ersetzt wird. Der Lösungsplan wird so umformuliert, dass Navigationsschritte als natürliche Suchanfragen formuliert werden (z. B. „Wo ist Symbol X definiert?") anstatt als offene Erkundung. Der Bibliothekar ist strikt auf Datei- und Code-Lookups beschränkt; analytisches Reasoning und Bearbeitung bleiben die Verantwortung des Orchestrierers oder anderer spezialisierter Agenten.

Hauptergebnisse

Die Autoren bewerteten Librarian auf SWE-Bench Verified (500 Aufgaben) über BOAD und HyperAgent mit Qwen3.6-35B-A3B- und Qwen3.6-27B-Backbones.

Energiereduktion: Librarian reduzierte den GPU-Energieverbrauch pro Durchlauf um bis zu 25 % (z. B. von 25,64 kJ auf 22,73 kJ für HyperAgent mit 35B-A3B).
Token-Effizienz: Die Reduktion wurde primär durch eine Verringerung der Ausgabetokens erreicht. Beispielsweise reduzierte HyperAgent mit Librarian die Ausgabetokens von 48.500 auf 42.200 pro Durchlauf.
Erhalt der Leistung: Entscheidend ist, dass Librarian die Task-Pass-Rate beibehielt oder verbesserte. In den meisten Konfigurationen blieb die Pass-Rate vergleichbar mit oder leicht höher als die des Baseline-MAS, was zeigt, dass Energieeinsparungen nicht auf Kosten der Aufgabenlösung gingen.
Vergleich mit Baselines:
- Token-Effizienz-Methoden: Techniken wie „LastN Observation" (Kürzen der Historie) und „Caveman prompting" (Komprimierung von Text) verschlechterten oft die Pass-Raten oder reduzierten die Energie nicht so effektiv, da sie Agenten zwangen, verlorene Kontexte neu zu erkunden, was Ausgabetokens aufblähte.
- Retrieval-basierte Varianten: Der Ersatz der persistenten Historie durch retrieval-basierten Kontext (BM25 oder dichte Embeddings) führte zu einem höheren Energieverbrauch und niedrigeren Pass-Raten, was darauf hindeutet, dass die Anfragen des Orchestrierers aktives Kontextmanagement und Reasoning erfordern, das einfaches Retrieval nicht bieten kann.
Skalierbarkeit: Die Energiereduktion blieb über unterschiedliche Aufgabenschwierigkeiten hinweg bestehen. Während die Häufigkeit der Librarian-Aufrufe mit der Komplexität der Aufgabe zunahm, blieben die Energieeinsparungen pro Durchlauf konsistent, und die Pass-Rate wurde auch bei schwierigeren Aufgaben aufrechterhalten.

Bedeutung und Behauptungen

Die Arbeit behauptet, eine wichtige, bisher übersehene Quelle von Energieverschwendung in Multi-Agenten-SWE-Systemen identifiziert und eliminiert zu haben. Ihre Bedeutung liegt in drei Hauptbeiträgen:

Empirische Entdeckung: Sie bestätigt, dass in Agenten-Umgebungen Ausgabetokens die Ressourcennutzung dominieren und dass aggregierte Tokenzahlen aufgrund der hohen Grenzkosten der Output-Generierung schlechte Proxy-Werte für den tatsächlichen Energieverbrauch sind.
Diagnose der Redundanz: Sie diagnostiziert den Energieaufwand bestehender MAS-Designs als Folge von doppelten Dateilookups über den Debugging-Zyklus hinweg, eine Redundanz, die kein existierender Sub-Agent erkennt.
Architektonische Lösung: Sie schlägt Librarian vor, einen persistenten Such-Sub-Agenten, der in bestehende MAS-Designs integriert wird, um eine fehlende Rolle (zustandsbehaftete Repository-Navigation) zu übernehmen. Durch die Rückgabe von Pointern statt Inhalten und die Wiederverwendung der Historie minimiert er den Hardware-Energieverbrauch bei gleichzeitiger Aufrechterhaltung der Aufgabenleistung.

Die Autoren kommen zu dem Schluss, dass die Minimierung von Ausgabetokens durch persistente, zustandsbehaftete Suche eine effektivere Strategie für Energieeffizienz in SWE-Agenten ist als einfache Prompt-Kompression oder Kontextkürzung, die oft die Leistung verschlechtern. Sie erkennen Einschränkungen an und stellen fest, dass die Lösung derzeit spezifisch für Code-Navigationsrollen ist und an Modellen mit bis zu 27B aktiven Parametern evaluiert wurde, wobei die Skalierbarkeit auf größere Modelle und ausführungsfokussierte Rollen offene Fragen bleiben.