🤖 AI

Do Self-Evolving Agents Forget? Capability Degradation and Preservation in Lifelong LLM Agent Adaptation

Dieser Artikel identifiziert das Phänomen des „Fähigkeitsverfalls" bei sich selbst weiterentwickelnden LLM-Agenten, bei dem die Anpassung an neue Aufgaben zuvor erlernte Fähigkeiten in den Dimensionen Arbeitsablauf, Fertigkeit, Modell und Gedächtnis verschlechtert, und schlägt ein „Fähigkeitserhaltendes Evolution"-Framework (CPE) vor, um die langfristige Anpassung zu stabilisieren, indem ein solcher destruktiver Drift explizit verhindert wird.

Ursprüngliche Autoren: Ye Yu, Xiaopeng Yuan, Haibo Jin, Heming Liu, Yaoning Yu, Haohan Wang

Veröffentlicht 2026-05-12

📖 6 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Ye Yu, Xiaopeng Yuan, Haibo Jin, Heming Liu, Yaoning Yu, Haohan Wang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Die große Idee: Das Problem des „übermäßig eifrigen Praktikanten"

Stellen Sie sich vor, Sie stellen einen brillanten, sich selbst verbessernden Praktikanten ein, der Ihr Büro verwaltet. Dieser Praktikant ist fantastisch: Er kann seine eigenen Arbeitsanweisungen umschreiben, neue Werkzeuge erlernen, sein eigenes Gehirn aktualisieren und ein laufendes Tagebuch über alles führen, was er getan hat.

Das Papier stellt eine einfache Frage: Wenn dieser Praktikant seine ganze Zeit damit verbringt zu lernen, wie er die neuen, schwierigen Probleme löst, die heute auftauchen, wird er dann vergessen, wie man die einfachen, routinemäßigen Aufgaben erledigt, die er gestern gemeistert hat?

Die Autoren sagen: Ja, das wird er.

Sie nennen dieses Phänomen „Capability Erosion" (Erosion der Fähigkeiten). Genau wie ein Flussufer langsam abgetragen wird, wird die Fähigkeit des Agenten, alte Aufgaben zu erledigen, erodiert, während er ständig versucht, sich an neue anzupassen. Das Papier beweist, dass dies auf vier spezifische Weise geschieht:

Workflow (Arbeitsablauf): Die schrittweisen Anweisungen werden unübersichtlich und aufgebläht.
Skills (Fähigkeiten): Die Werkzeugkiste wird mit neuen Gadgets gefüllt, die alten, zuverlässigen Werkzeuge werden verdrängt.
Modell: Das „Gehirn" des Agenten (sein interner Code) wird überschrieben, wodurch altes Wissen verloren geht.
Memory (Gedächtnis): Das Tagebuch des Agenten wird mit neuen Notizen überschrieben, wodurch alte Ratschläge schwer zu finden sind.

Die vier Arten, wie Agenten „vergessen"

Die Forscher untersuchten, wie Agenten sich selbst verändern, und stellten fest, dass eine „unbeschränkte" Evolution (dem Agenten erlauben, zu ändern, was immer er will) vier Arten von Schäden verursacht:

1. Der Workflow-Drift (Das „übermäßig konstruierte Rezept")

Die Analogie: Stellen Sie sich einen Koch vor, der ein perfektes Sandwich zubereitet. Dann erhält er die Anfrage nach einem komplexen Gourmet-Burger. Um den Burger zu lösen, fügen sie zusätzliche Schritte hinzu: „Überprüfen Sie die Temperatur des Brotes", „Verifizieren Sie die Knusprigkeit des Salats", „Doppelcheck des Brötchens". Sie fügen ständig diese Sicherheitschecks hinzu.
Das Problem: Wenn sie zurückkehren, um das einfache Sandwich herzustellen, verwenden sie immer noch das Burger-Rezept. Das Sandwich dauert doppelt so lange und enthält unnötige Schritte. Der Agent ist „überdefensiv" geworden, macht einfache Aufgaben kompliziert und anfällig für Fehler.

2. Der Skill-Swap (Der „volle Rucksack")

Die Analogie: Stellen Sie sich einen Wanderer mit einem Rucksack vor, der nur 30 Gegenstände fassen kann. Er lernt, Berge zu besteigen (neue Fähigkeit) und fügt ein Seil hinzu. Aber der Rucksack ist voll, also muss er seine alte Karte (alte Fähigkeit) wegwerfen, um Platz zu schaffen.
Das Problem: Während der Agent neue, spezialisierte Fähigkeiten lernt, stößt er die allgemeinen, nützlichen Fähigkeiten, die er früher gelernt hat, heraus. Er wird zum Meister des neuen Geländes, verirrt sich aber auf den alten Pfaden.

3. Die Gehirn-Umschreibung (Das „Radier-Whiteboard")

Die Analogie: Stellen Sie sich einen Schüler vor, der für eine Matheprüfung lernt. Er lernt Algebra perfekt. Dann beginnt er, Biologie zu studieren. Um die biologischen Fakten auswendig zu lernen, muss er die Algebra-Notizen auf seinem Whiteboard überschreiben.
Das Problem: Der Agent aktualisiert seine internen „Gewichte" (sein Gehirn), um neue medizinische oder technische Probleme zu lösen. Dabei überschreibt er versehentlich die spezifischen neuronalen Pfade, die ihm geholfen hatten, die alten Probleme zu lösen. Dies ist ein klassischer Fall von „katastrophalem Vergessen".

4. Die Speicher-Überschreibung (Das „überflutete Tagebuch")

Die Analogie: Stellen Sie sich ein Tagebuch vor, in das Sie aufschreiben, was Sie jeden Tag gelernt haben. Wenn Sie weiter neue Einträge schreiben, ohne die alten zu organisieren, bedeckt die neue Tinte schließlich die alten Seiten, oder das Tagebuch wird so voll, dass Sie die ersten Kapitel wegwerfen müssen.
Das Problem: Der Gedächtnisspeicher des Agenten füllt sich mit neuen, spezifischen Erfahrungen. Die alten, zuverlässigen Erinnerungen werden verdrängt oder schwer abrufbar, selbst wenn sich das Gehirn des Agenten nicht verändert hat.

Die Lösung: „Capability-Preserving Evolution" (CPE)

Das Papier schlägt eine Lösung namens Capability-Preserving Evolution (CPE) vor.

Denken Sie an CPE als „Sicherheitswächter" oder „Post-it-System". Es hindert den Agenten nicht daran, neue Dinge zu lernen; es sagt dem Agenten nur: „Du kannst die neue Fähigkeit lernen, aber du darfst die alten dabei nicht kaputt machen."

So funktioniert der „Sicherheitswächter" für jedes der vier Probleme:

Für Workflows: Wenn der Agent versucht, seine Anweisungen umzuschreiben, prüft CPE: „Funktioniert diese neue Version immer noch für die einfachen Aufgaben?" Wenn die neue Version zu aufgebläht ist oder den alten Ablauf unterbricht, sagt der Wächter: „Nein, halte die Kernstruktur einfach."
Für Skills: Anstatt alte Fähigkeiten einfach wegzuwerfen, um Platz für neue zu schaffen, versucht CPE, sie zu vereinigen. Wenn eine neue Fähigkeit einer alten ähnelt, kombiniert sie diese, sodass beide erhalten bleiben. Es schützt die „hochwertigen" alten Fähigkeiten vor dem Löschen.
Für das Gehirn: Dies verwendet eine Technik namens Elastic Weight Consolidation. Stellen Sie sich vor, das Gehirn des Agenten hat „wichtige" Neuronen und „weniger wichtige" Neuronen. CPE klebt ein „Nicht Anfassen"-Schild auf die wichtigen Neuronen, die bei alten Aufgaben geholfen haben. Der Agent kann immer noch lernen, aber nur in Bereichen, die das alte Wissen nicht zerstören.
Für den Speicher: CPE wirkt wie ein Bibliothekar. Wenn eine Erinnerung in der Vergangenheit oft als nützlich erwiesen wurde, erhält sie einen „Goldstern" und ist vor dem Löschen geschützt. Nur minderwertige oder unbewiesene Erinnerungen dürfen überschrieben werden.

Die Ergebnisse: Stabilität vs. Plastizität

Das Papier testete dies an echten KI-Agenten mit verschiedenen Modellen (wie GPT-5 und anderen).

Ohne CPE (der „Vanilla"-Agent): Der Agent wurde besser in den neuen, schwierigen Aufgaben, wurde aber deutlich schlechter in den alten, einfachen Aufgaben. Es war wie ein Schüler, der die Biologieprüfung mit Bravour bestand, aber die Matheprüfung, in der er früher gut war, durchfiel.
Mit CPE (der „bewachte" Agent): Der Agent lernte die neuen Aufgaben immer noch effektiv. Aber, er behielt seine alten Fähigkeiten fast vollständig intakt.

Das Fazit:
Das Papier kommt zu dem Schluss, dass ein KI-Agent, um sich über lange Zeit wirklich „entwickeln" zu können, nicht nur eine Maschine sein darf, die sich ständig selbst umschreibt. Es braucht einen Mechanismus, um seine Vergangenheit zu schützen. Wenn Sie einen Agenten wollen, der für immer wachsen kann, müssen Sie ihm beibringen, sich daran zu erinnern, was er bereits weiß, während er lernt, was er wissen muss.

Kurz gesagt: Sich selbst entwickelnde Agenten vergessen zwar, aber wir können ihnen beibringen, ihre Vergangenheit festzuhalten, während sie ihre Zukunft aufbauen.

Technische Zusammenfassung: Fähigkeitsdegradation und -erhaltung bei der lebenslangen Anpassung von LLM-Agenten

Problemdefinition: Fähigkeitsverfall bei sich selbst weiterentwickelnden Agenten

Neue Frameworks haben es Large Language Model (LLM)-Agenten ermöglicht, ihre Denkprozesse autonom zu verfeinern, wiederverwendbare Fähigkeiten zu akkumulieren, zugrundeliegende Modellparameter zu aktualisieren und persistenten Speicher zu pflegen. Während diese Systeme eine Zukunft von Agenten versprechen, die ihre Kompetenz kontinuierlich erweitern, identifiziert diese Arbeit einen fundamentalen Fehlermodus: Fähigkeitsverfall unter Selbstentwicklung.

Die Autoren zeigen, dass Selbstentwicklung häufig nicht-monoton ist. Wenn ein Agent sich an eine neue Aufgabenverteilung ( $Y$ ) anpasst, führt der Prozess der Optimierung für $Y$ häufig zu einer Verschlechterung zuvor erworbener Fähigkeiten bei früheren Aufgabenverteilungen ( $X$ ). Dieses Phänomen manifestiert sich strukturell in drei Dimensionen:

Retrospektiver Fähigkeitsverfall: Die Leistung bei zuvor beherrschten Aufgaben sinkt nach dem Fine-Tuning oder der Aktualisierung für neue Aufgaben.
Verhaltenspolitische Drift: Workflows werden unnötig komplex und aufgebläht, wodurch Rauschen und Ausführungsschritte eingeführt werden, die bei erfolgreichen früheren Verhaltensweisen nicht vorhanden waren.
Erosion der Generalisierung: Die Anpassung verengt den effektiven Denkraum und beeinträchtigt zuvor erworbene Fähigkeiten oder Muster des Abrufs aus dem Speicher.

Die Arbeit argumentiert, dass dies nicht lediglich ein Versagen spezifischer Algorithmen ist, sondern eine strukturelle Konsequenz unbeschränkter kontinuierlicher Selbstmodifikation. Unabhängig davon, ob der veränderliche Repository ein Workflow-Graph, ein Fähigkeitsbank, Modellparameter oder ein Speicherspeicher ist, führt die alleinige Optimierung für die aktuelle Aufgabenverteilung zu destruktiver Interferenz, die Strukturen überschreibt oder verschlechtert, die erfolgreiches Verhalten bei früheren Aufgaben unterstützt haben.

Methodik: Fähigkeitsbewahrende Evolution (CPE)

Um dies zu adressieren, schlagen die Autoren Capability-Preserving Evolution (CPE) vor, ein allgemeines Stabilisierungsprinzip. CPE modifiziert das Standardziel der Selbstentwicklung, um einen expliziten Erhaltungsregularisierer einzubeziehen.

Theoretischer Rahmen

Die Autoren modellieren Selbstentwicklung als sequenziellen Prozess, bei dem ein Agent einen Fähigkeitszustand $R_t$ aktualisiert, um den Verlust auf einer neuen Verteilung $D_t$ zu minimieren. Naive Evolution minimiert nur den aktuellen Verlust $L_t(R)$ . CPE löst stattdessen:
$R^{CPE}_t \in \arg \min_{R \in \mathcal{R}} L_t(R) + \lambda \Omega_t(R, R_{t-1})$
wobei $\Omega_t$ die Abweichung von früheren fähigkeitsunterstützenden Strukturen misst und $\lambda$ den Trade-off zwischen Stabilität und Plastizität steuert.

Lokale Analysen (Proposition 1 und 2) zeigen, dass naive Updates das verbleibende Risiko erhöhen, sobald die Update-Richtung mit Richtungen hoher Krümmung (Sensitivität) für frühere Aufgaben überlappt. CPE unterdrückt dies, indem es Updates entlang dieser sensitiven Richtungen bestraft und den Agenten effektiv daran hindert, sich in Richtung der neuen Verteilung zu bewegen, ohne die für alte Aufgaben erforderliche „Fähigkeitsunterstützung" zu zerstören.

Dimensionspezifische Instanziierungen

Die Arbeit implementiert CPE über vier verschiedene Evolutionskanäle, jeweils mit einem maßgeschneiderten Regularisierer:

Workflow-Evolution:
- Repository: Ausführbare Workflow-Graphen/Prompt-Programme.
- Mechanismus: Der Regularisierer $\Omega_{wf}$ schreckt Abweichungen von „Anker-Verhaltenssignaturen" ab, die aus einem Seed-Workflow extrahiert wurden. Er verhindert die Anhäufung übermäßig komplexer Validierungsschritte und struktureller Umwege, die die Leistung bei einfachen Aufgaben verschlechtern.
Fähigkeits-/Tool-Evolution:
- Repository: Ein Fähigkeitsbank mit begrenzter Kapazität prozeduraler Vorlagen.
- Mechanismus: Der Regularisierer $\Omega_{sk}$ verhindert die Verdrängung nützlicher Fähigkeiten aufgrund von Kapazitätsgrenzen. Er setzt auf fähigkeitsbewahrende Konsolidierung, verschmilzt semantisch verwandte Fähigkeiten und schützt hochnutzbringende historische Einträge vor direkter Löschung, wenn neue Fähigkeiten aufgenommen werden.
Modell-Evolution:
- Repository: Trainierbare Modellparameter (z. B. LoRA-Adapter).
- Mechanismus: Der Regularisierer $\Omega_{md}$ verwendet eine Strafe im Stil der Elastic Weight Consolidation (EWC). Er schätzt die Parameterbedeutung (via Fisher-Information) für frühere Domänen ab und bestraft Bewegungen entlang dieser Richtungen, sodass Anpassungen nur in Richtungen mit geringer Bedeutung erlaubt sind.
Speicher-Evolution:
- Repository: Persistente externe Speicherbänke.
- Mechanismus: Der Regularisierer $\Omega_{mem}$ verwendet evidenzgesteuerte Erhaltung. Erinnerungen, die wiederholte selbstverifizierte Unterstützung akkumulieren, werden als stabil behandelt und vor Verdrängung oder destruktiver Umschreibung geschützt, während Einträge mit geringer Evidenz anpassungsfähig bleiben.

Wichtige Ergebnisse

Die Autoren bewerten CPE im Vergleich zur unbeschränkten („Vanilla") Selbstentwicklung über vier große Benchmarks und mehrere Modell-Backbones (einschließlich GPT-5.1, GPT-5 nano, GPT-4o mini, Qwen3-0.6B und Llama3.2-3B).

Workflow-Evolution (EvoAgentX auf $\tau^2$ -Bench):
- Die naive Evolution führte zu aufgeblähten Workflows und einem Rückgang der Leistung bei einfachen Aufgaben (z. B. von 57,1 % auf 41,8 % bei Airline-Aufgaben mit GPT-5.1).
- CPE bewahrte eine kompaktere Ausführungsstruktur und verbesserte die verbleibende Leistung bei einfachen Aufgaben auf 52,8 %, während die Anpassung an komplexe Aufgaben beibehalten oder verbessert wurde.
Fähigkeits-Evolution (MemSkill auf MATH):
- Die naive Evolution überschrieb fortschreitend frühere Fähigkeiten (z. B. Geometrie), als sich die Verteilung zur Zahlentheorie verschob, was zu einer kontinuierlichen Verschlechterung bei den Evaluierungssätzen für Algebra und Geometrie führte.
- CPE hielt eine stabile Nutzung früherer Fähigkeiten aufrecht, was zu einer höheren verbleibenden Genauigkeit über alle sequenziellen Domänen hinweg führte (z. B. verbesserte sich die Geometrie-Genauigkeit mit GPT-5 nano von 58,9 % auf 59,3 %).
Modell-Evolution (STaR auf MedMCQA):
- Das naive Selbsttraining zeigte katastrophales Vergessen früherer medizinischer Domänen (Anatomie, Biochemie), als sich das Modell an neue anpasste.
- CPE verbesserte die verbleibende Genauigkeit über alle Domänen und Modellgrößen hinweg konsistent (z. B. stieg die Anatomie-Genauigkeit bei Qwen3-0.6B von 29,4 % auf 30,5 %).
Speicher-Evolution (Dynamic Cheatsheet):
- Unbeschränkte Speicher-Updates verschlechterten die Retention alter Aufgaben im Durchschnitt um 2,3 %.
- CPE reduzierte diese Lücke in der Retention auf 0,7 % und stabilisierte Abrufmuster für zuvor gelernte Domänen, ohne die Anpassung an neue Aufgaben zu behindern.

Bedeutung und Behauptungen

Die Arbeit behauptet, als erste Fähigkeitsverfall systematisch als strukturellen Fehlermodus über alle Hauptdimensionen sich selbst weiterentwickelnder Agenten (Workflow, Fähigkeit, Modell und Speicher) identifiziert zu haben.

Vereinheitlichte Perspektive: Die Autoren bieten eine vereinheitlichte Interferenzperspektive und zeigen, dass trotz heterogener Implementierungen alle vier Dimensionen unter demselben Mechanismus leiden: Die Optimierung für neue Aufgaben überschreibt Strukturen, die alte Aufgaben unterstützen.
Stabilisierungsprinzip: Die Arbeit postuliert, dass eine stabile Selbstentwicklung über lange Horizonte nicht nur das Erwerben neuer Fähigkeiten erfordert, sondern auch das explizite Bewahren zuvor Gelerntes. CPE wird als allgemeines Designprinzip vorgestellt, um dies zu erreichen.
Bescheidener Umfang: Die Autoren erkennen an, dass ihre aktuellen Erhaltungsmechanismen leichtgewichtig und domänenspezifisch sind. Sie rahmen die Arbeit als Verifizierung des Verfallphänomens und als Demonstration, dass explizite Regularisierung diesen mildern kann, ein, anstatt als vollständige Lösung für alle zukünftigen Herausforderungen autonomer Agenten. Sie weisen darauf hin, dass reale Agenten mit komplexeren, offenen Trajektorien konfrontiert sein könnten als die hier getesteten kontrollierten sequenziellen Verschiebungen.

Zusammenfassend argumentiert die Arbeit, dass sich selbst weiterentwickelnde Agenten ohne explizite Erhaltungsbeschränkungen unvermeidlich von zuverlässigem Verhalten abweichen werden und dass Fähigkeitsbewahrende Evolution eine notwendige Komponente für den Aufbau von Agenten ist, die zu echtem lebenslangem Lernen fähig sind.