🤖 AI

Repair the Amplifier, Not the Symptom: Stable World-Model Correction for Agent Rollouts

Dieses Paper stellt WM-SAR vor, einen World-Model-Korrektor, der herkömmliche Symptom-Scanning-Ansätze übertrifft, indem er den spezifischen kausalen Subgraphen identifiziert und repariert, der für die Verstärkung von Fehlern in großen Agent-Planungs-Graphen verantwortlich ist, wodurch eine effiziente In-Place-Stabilisierung ohne die Rechenkosten einer vollständigen Graph-Neuplanung ermöglicht wird.

Ursprüngliche Autoren: Xinyuan Song, Zekun Cai

Veröffentlicht 2026-07-03

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Xinyuan Song, Zekun Cai

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind der Kapitän eines gewaltigen Raumschiffs (eines KI-Agenten), der versucht, eine komplexe Galaxie zu durchqueren. Ihr Schiff bewegt sich nicht einfach nur in einer geraden Linie; es erstellt eine riesige, verzweigte Karte seiner Reise, mit tausenden von Stopps, Werkzeugnutzungen und Überprüfungen entlang des Weges. Diese Karte wird als Planungsgraph bezeichnet.

Manchmal macht das Schiff einen Fehler. Vielleicht wählt es den falschen Treibstoff, liest eine Sternenkarte falsch oder vergisst eine Regel. In der Vergangenheit, wenn das Schiff einen Fehler machte, bestand die Standardlösung darin, die gesamte Karte wegzuwerfen und die ganze Reise von Grund auf neu zu zeichnen.

Die Autoren dieser Arbeit sagen: „Hören Sie auf damit!“

Sie argumentieren, dass das Neuzeichnen der gesamten Karte eine Verschwendung von Treibstoff (Rechenleistung) und Zeit ist. Es ist, als würde man ein ganzes Buch wegwerfen, nur weil man auf Seite 50 ein Wort falsch geschrieben hat. Stattdessen sollte man den spezifischen, defekten Teil finden und nur diesen reparieren.

Hier liegt das Problem: Wo genau ist der defekte Teil?

Die Falle der „sichtbaren Symptome“

Die meisten aktuellen Reparaturmethoden agieren wie ein Arzt, der nur das Fieber behandelt.

Das Szenario: Der Motor des Schiffes überhitzt (das sichtbare Symptom), weil vor drei Stunden ein winziges Ventil in der Kraftstoffleitung falsch herum eingebaut wurde (die Ursache).
Die alte Methode: Die „Engineering“-Reparaturmethode scannt die Karte, sieht den heißen Motor und sagt: „Ah, der Motor ist kaputt! Lass uns den Motor reparieren.“ Sie flickt den Motor.
Das Ergebnis: Der Motor kühlt für einen Moment ab, aber da das falsch herum eingebaute Ventil immer noch da ist, überhitzt der Motor beim nächsten Abschnitt der Reise wieder. Das Schiff ist immer noch defekt; man hat nur das Symptom behandelt, nicht die Krankheit.

Die neue Lösung: WM-SAR (Der „Verstärker“-Detektor)

Die Autoren schlagen eine neue Methode namens WM-SAR vor. Anstatt nach dem Teil zu suchen, das am meisten kaputt aussieht, sucht WM-SAR nach dem Teil, das das gesamte System instabil macht.

Denken Sie an ein Soundsystem, bei dem ein Mikrofon zu nah an einem Lautsprecher steht.

Das Symptom: Die Lautsprecher kreischen laut (hoher Fehler).
Die alte Lösung: Man dreht die Lautstärke der Lautsprecher leiser. Das Kreischen hört für eine Sekunde auf, aber sobald man die Lautstärke wieder hochdreht, kreischt es wieder, weil das Mikrofon immer noch zu nah dran ist.
Die WM-SAR-Lösung: Diese Methode fragt: „Was verstärkt das Geräusch?“ Sie identifiziert die Rückkopplungsschleife zwischen dem Mikrofon und dem Lautsprecher. Sie dreht nicht nur die Lautstärke leiser; sie bewegt das Mikrofon. Sobald die Rückkopplungsschleife unterbrochen ist, wird das System stabil, selbst wenn die Lautsprecher der lauteste Teil waren.

Wie WM-SAR funktioniert (Die „Rückwärts“-Suche)

Suche nach dem Verstärker: Anstatt die Karte von Anfang bis Ende zu scannen, arbeitet WM-SAR rückwärts von dem Fehler aus. Es fragt: „Welche kleine Gruppe verbundener Schritte ist dafür verantwortlich, diesen Fehler zu wiederholen?“
Finde den „kausalen Subgraphen“: Es isoliert eine winzige, verbundene Kette von Ereignissen (wie das falsch herum eingebaute Ventil und die Kraftstoffpumpe), deren Behebung den Fehler stoppt, bevor er weiter anwächst.
Sende eine winzige Notiz an die KI: Anstatt der KI die gesamte 10.000-Schritte-Karte zu zeigen (was sie verwirrt und Speicher verschwendet), sendet WM-SAR nur diese winzige, defekte Kette an die KI.
Die KI repariert es: Die KI betrachtet diesen sauberen, fokussierten Ausschnitt des Problems, findet die Ursache und behebt sie.

Warum das wichtig ist

Die Autoren haben dies an simulierten Agenten-Aufgaben getestet (wie Software-Debugging und Web-Navigation). Sie fanden heraus:

Alte Methoden reparierten oft das Falsche oder mussten die gesamte Karte betrachten, um Glück zu haben.
WM-SAR behob das Problem mit viel weniger Informationen (weniger „Tokens“ oder Wörtern).
Stabilität: Nachdem WM-SAR das Problem behoben hatte, überlebte der Agent nicht nur den nächsten Schritt; er blieb über hunderte zukünftige Schritte hinweg stabil. Der Fehler kam nicht zurück.

Das Fazit

Die Kernbotschaft des Papers lautet: Repariere nicht nur das Symptom, sondern den Verstärker.

Wenn Sie einen komplexen KI-Agenten reparieren wollen, flicken Sie nicht nur das Teil, das gerade schreit. Finden Sie die kleine, verborgene Verbindung, die das gesamte System zum Schreien bringt, reparieren Sie diese, und der Rest des Systems wird von selbst ruhig werden. Das spart Zeit, spart Geld und macht die KI viel zuverlässiger.

Technische Zusammenfassung: Repariere den Verstärker, nicht das Symptom

Problemformulierung
Da sich die Agentenplanung von kurzen Tool-Ketten hin zu persistenten Workflows entwickelt, die Tausende von Schritten umfassen, treten Fehler zunehmend innerhalb großer Planungs-Graphen auf und nicht mehr nur in isolierten Vorhersagen. Das vollständige Neuplanen des gesamten Graphen nach jedem Fehler ist rechentechnisch prohibitiv und ineffizient; es verbraucht übermäßige Kontext-Budgets, setzt Large Language Models (LLMs) Symptomen aus, die für sie irrelevant sind, und birgt das Risiko, die Long-Context-Retrieval-Leistung zu verschlechtern.

Das zentrale adressierte Problem ist die Weltmodell-Korrektur (World-Model Correction): die Identifizierung eines minimalen, zusammenhängenden Subgraphen innerhalb eines fehlgeschlagenen Planungs-Graphen, dessen Reparatur das verbleibende System stabilisiert. Die Herausforderung besteht darin, zwischen sichtbaren Symptomen (Knoten mit hohem unmittelbarem Fehler) und den zugrunde liegenden „Verstärkern“ (Subgraphen, die Fehler in nachfolgenden Durchläufen re-amplifyieren/verstärken) zu unterscheiden. Ingenieursansätze, die lediglich nach Knoten mit hohem Fehler scannen oder lokale Nachbarschaften erweitern, scheitern oft, weil sie zwar Symptome flicken, aber den kausalen Verstärkungspfad aktiv lassen, was zu einer Wiederkehr der Fehler führt.

Methodik: WM-SAR
Das Paper schlägt WM-SAR (World-Model Subgraph Amplification Repair) vor, einen Korrektor, der rückwärts von der Fehlerverstärkung ausgeht, statt vorwärts von sichtbaren Symptomen. Die Methode operiert in zwei Phasen:

Graphbasierte Regionenselektion (Phase 1):
- Theoretische Grundlage: Der Ansatz basiert auf der Beobachtung, dass das Wachstum des Rollout-Fehlers durch den Spektralradius ( $\rho(B)$ ) eines gekoppelten Knoten-Kanten-Operators gesteuert wird. Wenn $\rho(B) > 1$ , verstärken sich Fehler; wenn $\rho(B) \le 1$ , klingen sie ab. Das Ziel ist es, einen Subgraphen $R$ zu finden, dessen Entfernung den residualen Spektralradius $\rho(B_{G_f \setminus R})$ minimiert.
- Scoring: WM-SAR berechnet für jeden Knoten einen Graph Error Amplification Field (GEAF) Score, der definiert ist als das Produkt aus der beobachteten Fehlermagnitüde und dem lokalen Spektralradius der Umgebung des Knotens. Zudem wird ein Kopplungsfaktor ( $\kappa_v$ ) berechnet, um super-additive Interaktionen zwischen Knoten- und Kantenkanälen zu messen.
- Greedy Growth (Gieriges Wachstum): Beginnend mit hoch bewerteten Seeds, erweitert der Algorithmus die Reparaturregion gierig, indem er Randknoten hinzufügt, die die marginale Spektral-Entlastung ( $\Delta\rho_{rel}$ ) maximieren, d. h. die Reduktion des residualen Spektralradius. Dieser Prozess setzt sich fort, bis ein Budget-Constraint erreicht ist oder keine weitere Entlastung mehr möglich ist.
- Pruning (Beschneidung): Redundante Knoten, die nicht zur Spektral-Entlastung beitragen, werden entfernt, um sicherzustellen, dass die Region kompakt bleibt.
LLM-basierte Reparatur (Phase 2):
- Sobald der optimale Subgraph $R^*$ identifiziert wurde, wird nur diese zusammenhängende Region serialisiert und an ein LLM übergeben. Das LLM hat die Aufgabe, die Ursache zu identifizieren und eine strukturierte Reparatur-Entscheidung zu treffen. Dies steht im Gegensatz zu Full-Graph-Ansätzen, die den gesamten fehlgeschlagenen Trace serialisieren und dadurch Token für irrelevante Downstream-Symptome verschwenden.

Wesentliche Beiträge

Problemformulierung: Formuliert die Weltmodell-Korrektur als ein beschränktes Optimierungsproblem um: das Finden der kleinsten zusammenhängenden Region, die den residualen Weltmodell stabilisiert, anstatt lediglich den vollen Graphen neu zu planen oder den größten Fehler zu flicken.
Engineering-Baselines: Implementiert und evaluiert eine starke Familie von Engineering-Korrektoren (einschließlich Top-K, Sliding Windows, k-Hop-Nachbarschaften und Cascade Scans), um eine rigorose Baseline zu etablieren.
WM-SAR Algorithmus: Führt einen spektral-graphbasierten Ansatz ein, der GEAF und Knoten-Kanten-Kopplung nutzt, um den „Amplifier“-Subgraphen zu identifizieren. Er liefert einen theoretischen Beweis, dass der residuele Spektralradius den Planungs-Regret kontrolliert.
Empirische Evidenz: Zeigt, dass WM-SAR eine nahezu vollständige Graph-Stabilisierung erreicht, während es nur einen Bruchteil der Token benötigt, die für eine Full-Graph LLM-Reparatur oder große Nachbarschaftsscans erforderlich wären.

Ergebnisse
Die Experimente wurden auf einem synthetischen, heterogenen Calling-Tree-Testbed durchgeführt, das Planner-Executor-Validator-Workflows nachbildet, sowie auf Topologien, die von SWE-bench, WebArena und AgentBench inspiriert sind.

Stabilität vs. Symptom-Patching: Engineering-Korrektoren (z. B. Greedy-Point, Window-basiert) reduzieren zwar unmittelbar den Fehler, scheitern aber oft daran, die langfristige Fehlerkurve abzuflachen, da sie den Verstärkungskanal aktiv lassen. WM-SAR hingegen flacht die Fehlerkurve durch die gezielte Adressierung des residualen Spektralradius ab und verhindert so das erneute Anwachsen der Fehler.
Token-Effizienz: WM-SAR erreicht eine vergleichbare oder überlegene Root-Cause-Recovery im Vergleich zur Full-Graph LLM-Reparatur bei signifikant weniger Tokens (z. B. ~855 Tokens gegenüber ~2157+ Tokens für Full-Graph-Prompts in GPT-4o-mini Experimenten).
Budget-Sensitivität: Unter engen Reparatur-Budgets erreicht WM-SAR eine hohe Spektral-Entlastung mit kleinen Regionen (z. B. ~8 Knoten), während Engineering-Methoden viel größere Regionen benötigen (oft nahe der gesamten Graph-Abdeckung), um eine ähnliche Stabilität zu erreichen.
Cross-Model Robustness: Der Leistungsvorteil von WM-SAR bleibt über verschiedene LLM-Tiers hinweg bestehen (GPT-4o, GPT-4o-mini, Gemini-2.5-Flash), was darauf hindeutet, dass der Nutzen aus der besseren Kontextselektion und nicht aus spezifischen Modell-Eigenschaften resultiert.
Limitierungen: Die Methode ist auf beobachtbare pro-Knoten Fehlersignale angewiesen. In Black-Box-Attributionsszenarien (z. B. dem „Who&When“-Benchmark), in denen nur das Endergebnis bekannt ist, sinkt die Leistung von WM-SAR, da der GEAF-Score nicht berechnet werden kann, wodurch es sich wie eine einfache Sink-Node-Selektion verhält.

Bedeutung und Ansprüche
Das Paper argumentiert, dass der primäre Fehlermodus aktueller Agent-Reparaturstrategien in der Fehlausrichtung zwischen dem Reparaturziel (sichtbare Symptome) und dem Stabilitätsziel (residuale Verstärkung) liegt. Durch die Verschiebung des Fokus auf die „Reparatur des Verstärkers“ ermöglicht WM-SAR es Agenten, stabile Weltmodelle über lange Horizonte aufrechtzuerhalten, ohne die prohibitiven Kosten einer vollständigen Graph-Neuplanung zu verursachen.

Die Autoren behaupten, dass dieser Ansatz eine fundierte Alternative zum heuristischen Scannen bietet, indem er ein „saubereres“ Reparaturziel für LLMs schafft, das die kausale Brücke bewahrt und gleichzeitig ablenkende Downstream-Rauschsignale eliminiert. Die Arbeit legt nahe, dass zukünftige Agenten-Systeme der Identifizierung und Reparatur der strukturellen Operatoren Priorität einräumen sollten, die Fehler propagieren, anstatt lediglich auf die sichtbarsten Ausfälle zu reagieren.