💬 NLP

Evo-Memory: Benchmarking LLM Agent Test-time Learning with Self-Evolving Memory

Dieser Beitrag stellt Evo-Memory vor, einen umfassenden Streaming-Benchmark und ein Framework, das entwickelt wurde, um die sich selbst weiterentwickelnden Gedächtnisfähigkeiten von LLM-Agenten in kontinuierlichen, dynamischen Aufgabenumgebungen zu bewerten und zu verbessern, und der die vorgeschlagene ReMem-Pipeline integriert, die Schlussfolgerungen, Aktionen und Gedächtnisaktualisierungen für eine kontinuierliche Verbesserung vereint.

Ursprüngliche Autoren: Tianxin Wei, Noveen Sachdeva, Benjamin Coleman, Zhankui He, Yuanchen Bei, Xuying Ning, Mengting Ai, Yunzhe Li, Jingrui He, Ed H. Chi, Chi Wang, Shuo Chen, Fernando Pereira, Wang-Cheng Kang, Derek Zhiy

Veröffentlicht 2026-05-19

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Tianxin Wei, Noveen Sachdeva, Benjamin Coleman, Zhankui He, Yuanchen Bei, Xuying Ning, Mengting Ai, Yunzhe Li, Jingrui He, Ed H. Chi, Chi Wang, Shuo Chen, Fernando Pereira, Wang-Cheng Kang, Derek Zhiyuan Cheng

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie hätten einen brillanten Assistenten, der komplexe Rätsel lösen, Code schreiben oder ein virtuelles Haus navigieren kann. Derzeit sind die meisten dieser KI-Assistenten wie amnestische Genies. Sie sind im Moment unglaublich klug, aber sobald ein Gespräch endet oder eine Aufgabe abgeschlossen ist, vergessen sie alles, was sie gerade gelernt haben. Wenn Sie sie am nächsten Tag bitten, ein ähnliches Problem zu lösen, müssen sie von vorne beginnen, dieselben Fehler machen und dieselben Lösungen erneut entdecken.

Der Artikel "Evo-Memory" schlägt eine Möglichkeit vor, dies zu beheben, indem er diesen Assistenten ein lebendiges, atmendes Gedächtnis verleiht, das sich im Laufe der Zeit weiterentwickelt.

Hier ist eine Aufschlüsselung der Kernideen des Artikels mit einfachen Analogien:

1. Das Problem: Der "Goldfisch" vs. der "Lehrling"

Derzeit funktioniert das Gedächtnis der meisten KIs wie ein Bibliotheksarchiv. Wenn Sie eine Frage stellen, sucht die KI einen spezifischen Fakt nach, den sie früher gespeichert hat (wie "Was ist die Hauptstadt von Frankreich?"), und liest ihn zurück. Dies nennt man Konversationales Abrufen.

Die Autoren argumentieren jedoch, dass dies nicht ausreicht. Echte Intelligenz erfordert Wiederverwendung von Erfahrungen.

Der Goldfisch: Erinnert sich daran, was passiert ist (z. B. "Ich habe versucht, die Tür zu öffnen, und sie war verschlossen").
Der Lehrling: Erinnert sich daran, wie man es beim nächsten Mal handhabt (z. B. "Beim nächsten Mal, wenn ich eine verschlossene Tür sehe, sollte ich zuerst nach einem Schlüssel suchen oder am Griff ziehen").

Der Artikel besagt, dass aktuelle KI-Systeme stecken bleiben und wie Goldfische sind. Sie erinnern sich an Fakten, lernen aber keine Strategien aus ihren vergangenen Misserfolgen und Erfolgen.

2. Die Lösung: Ein "selbstentwickelndes" Notizbuch

Die Autoren stellen Evo-Memory vor, eine neue Methode zum Testen und Entwickeln von KI-Agenten, die wie ein Lehrling agieren.

Stellen Sie sich vor, ein KI-Agent hat ein Notizbuch.

Alte Methode: Nach jeder Aufgabe fügt die KI einfach das gesamte Gespräch in das Notizbuch ein. Das Notizbuch wird riesig, unübersichtlich und schwer zu lesen.
Evo-Memory-Methode: Nach jeder Aufgabe macht die KI drei Dinge:
1. Denken: "Was habe ich gerade getan? Hat es funktioniert?"
2. Handeln: Die aktuelle Aufgabe abschließen.
3. Verfeinern: "Okay, diese Lösung hat funktioniert. Ich werde eine kurze, klare Regel in mein Notizbuch schreiben, wie ich dies gelöst habe, und die unordentlichen Teile, die nicht wichtig waren, wegwerfen."

Im Laufe der Zeit wird dieses Notizbuch nicht nur größer; es wird klüger und besser organisiert. Es verwandelt rohe Erfahrungen in wiederverwendbare Strategien.

3. Der Test: Die "Streaming"-Prüfung

Um zu beweisen, dass dies funktioniert, haben die Forscher einen neuen Benchmark namens Evo-Memory erstellt.

Stellen Sie sich dies wie einen Marathon vor und nicht wie einen Sprint.

Alte Tests: Sie geben der KI ein Matheproblem, dann ein neues, dann ein weiteres. Diese sind nicht miteinander verbunden. Die KI löst sie einfach nacheinander.
Evo-Memory-Test: Sie geben der KI einen kontinuierlichen Strom von Aufgaben, wie ein Videospielniveau, das immer schwieriger wird.
- Aufgabe 1: Lösen Sie eine einfache Gleichung.
- Aufgabe 2: Lösen Sie eine etwas schwierigere Gleichung unter Verwendung derselben Logik.
- Aufgabe 3: Navigieren Sie einen Roboter, um eine Tomate zu finden, und legen Sie sie dann in eine Mikrowelle.
- Aufgabe 4: Navigieren Sie einen Roboter, um eine Tasse zu finden, und stellen Sie sie dann auf eine Arbeitsplatte.

Der Test prüft: Wird die KI bei Aufgabe 4 schneller und besser, weil sie aus Aufgabe 3 gelernt hat? Wenn die KI wirklich "entwickelt", sollte sie ihr Gedächtnis nutzen, um Schritte zu überspringen und Probleme effizienter zu lösen, während der Strom weiterläuft.

4. Die Ergebnisse: Der "ReMem"-Agent

Der Artikel testete viele verschiedene Arten von Gedächtnissystemen. Sie stellten fest, dass:

Statisches Gedächtnis: Agenten, die nur vergangene Chats speichern (wie ein Standard-Chatbot), sich im Laufe der Zeit kaum verbesserten. Sie machten weiterhin dieselben Fehler.
Der "ReMem"-Agent: Dies ist die neue Methode des Artikels. Er denkt aktiv über sein Gedächtnis nach. Er fragt: "Ist dieses alte Gedächtnis nützlich? Sollte ich den schlechten Teil löschen? Wie kann ich dies nutzen, um das neue Problem zu lösen?"

Die Analogie:

Alte Agenten sind wie ein Schüler, der eine Prüfung schreibt, eine schlechte Note bekommt und dann die Prüfung sofort vergisst, wobei er die nächste mit derselben Verwirrung schreibt.
ReMem ist wie ein Schüler, der eine Prüfung schreibt, seine Fehler überprüft, einen "Spickzettel" mit den richtigen Formeln schreibt und diesen Spickzettel nutzt, um die nächste Prüfung zu bestehen.

5. Wichtige Erkenntnisse

Lernen aus Misserfolgen: Die besten Agenten erinnerten sich nicht nur an Erfolge; sie lernten aus Misserfolgen. Wenn ein Agent versuchte, eine Tür zu öffnen und sie verschlossen war, aktualisierte der "ReMem"-Agent sein Gedächtnis, um sich zu merken "Zuerst nach Schlüsseln suchen", anstatt sich nur zu merken "Ich habe versucht, die Tür zu öffnen".
Effizienz: Agenten mit diesem sich entwickelnden Gedächtnis benötigten weniger Schritte, um Probleme zu lösen. Sie verschwendeten keine Zeit damit, das Rad neu zu erfinden.
Es funktioniert überall: Diese Verbesserung trat auf, unabhängig davon, ob die KI Mathematik betrieb, Code schrieb oder ein virtuelles Haus navigierte.

Zusammenfassung

Der Artikel argumentiert, dass KI, um in der realen Welt wirklich hilfreich zu sein (wo Aufgaben kontinuierlich und komplex sind), mehr als nur eine Festplatte zur Speicherung von Fakten benötigen. Sie benötigen ein dynamisches Gedächtnissystem, das sein eigenes Wissen ständig überprüft, organisiert und aktualisiert und aus "was passiert ist" macht "wie man es beim nächsten Mal besser macht".

Sie haben einen neuen Test (Evo-Memory) entwickelt, um dies zu messen, und zeigten, dass ihre neue Methode (ReMem) die erste ist, die KI-Agenten erfolgreich lernen und verbessern lässt, während sie arbeiten, anstatt nur darauf zu warten, später von Menschen neu trainiert zu werden.

Technische Zusammenfassung: Evo-Memory

Problemstellung

Aktuelle Large Language Model (LLM)-Agenten verfügen über erhebliche Fähigkeiten im Bereich des Schlussfolgerns, der Planung und der Werkzeugnutzung, doch ihre Fähigkeit, Zustand zu bewahren und durch Interaktion zu evolveieren, bleibt weitgehend unerforscht. Bestehende Speichersysteme fungieren primär als passiver Speicher für statische Gesprächserinnerung, indem sie vergangene Fakten zum Beantworten von Anfragen abrufen, ohne aktiv aus gesammelten Erfahrungen zu lernen, um zukünftige Entscheidungsfindungen zu verbessern. Während neuere Benchmarks sequenzielles Lernen oder langfristige Konsistenz adressiert haben, versagen sie häufig darin, die Fähigkeit eines Agenten zu bewerten, Schlussfolgerungsstrategien wiederzuverwenden und Speicherstrukturen anzupassen über sich entwickelnde Aufgabenströme hinweg in realen Einsatzszenarien. Es besteht eine kritische Lücke in einheitlichen Rahmenwerken, die testen, ob LLMs während des Einsatzes kontinuierlich Speicher abrufen, integrieren und aktualisieren können – ein Prozess, der als Evolution zur Laufzeit (test-time evolution) bezeichnet wird.

Methodik

Der Evo-Memory-Benchmark

Um diese Lücke zu schließen, stellen die Autoren Evo-Memory vor, einen umfassenden Streaming-Benchmark und ein Framework, das zur Bewertung sich selbst weiterentwickelnder Speicher in LLM-Agenten konzipiert wurde.

Umstrukturierung des Aufgabenstroms: Im Gegensatz zu statischen Benchmarks strukturiert Evo-Memory Datensätze in sequenzielle Aufgabenströme um. Agenten verarbeiten Eingaben $\{x_1, \dots, x_T\}$ , wobei der Speicherzustand $M_t$ nach jeder Interaktion evolviert.
Einheitliche Formulierung: Das Framework modelliert einen speicherergänzten Agenten als Tupel $(F, U, R, C)$ $(F, U, R, C)$ , wobei $F$ $F$ das Basis-LLM ist, $U$ $U$ die Aktualisierungspipeline, $R$ $R$ das Abrufmodul und $C$ $C$ den Kontext konstruiert. Der Agent arbeitet in einem Zyklus:
1. Suche: Abruf relevanter Speichereinträge $R_t$ basierend auf der aktuellen Eingabe $x_t$ .
2. Synthese: Konstruktion eines Arbeitskontexts $\tilde{C}_t$ aus den abgerufenen Elementen.
3. Evolution: Generierung der Ausgabe $\hat{y}_t$ , Empfang von Feedback $f_t$ und Aktualisierung des Speicherzustands $M_{t+1} = U(M_t, m_t)$ , wobei $m_t$ die neue Erfahrung erfasst.
Umfang des Datensatzes: Der Benchmark erstreckt sich über diverse Domänen, einschließlich faktischen Wissens (MMLU-Pro, GPQA-Diamond), mathematischer Schlussfolgerung (AIME-24/25), Werkzeugnutzung (ToolBench) und mehrstufiger verkörperter Interaktionen (AlfWorld, BabyAI, ScienceWorld, PDDL).

Vorgeschlagene Frameworks

Die Arbeit implementiert und bewertet mehrere Speicherarchitekturen und führt zwei spezifische Methoden ein, um die Lücke zwischen statischem Abruf und aktiver Evolution zu überbrücken:

ExpRAG (Experience Retrieval and Aggregation): Eine Baseline-Methode, die Speicher als kontextergänzenden Abruf behandelt. Sie kodiert vergangene Aufgaben als strukturierte Erfahrungen und ruft die top- $k$ ähnlichen Beispiele ab, um das Modell zu konditionieren, und führt effektiv eine einmalige Wiederverwendung von Erfahrungen durch kontextbasiertes Lernen durch.
ReMem (Refine Memory): Ein erweitertes Framework, das Schlussfolgern, Handeln und Speicherverfeinerung in einen einzigen Entscheidungszyklus vereint. Im Gegensatz zu Standard-ReAct-Agenten führt ReMem eine „Verfeinerung" (Refine)-Operation neben „Denken" und „Handeln" ein. Dies ermöglicht dem Agenten, Meta-Schlussfolgerungen über seinen eigenen Speicher durchzuführen – aktive Bewertung, Bereinigung von Rauschen und Neuorganisation gespeicherter Erfahrungen, um zukünftige Aufgaben besser zu unterstützen. Dies erzeugt einen Markov-Entscheidungsprozess, bei dem der Zustand die aktuelle Eingabe, den Speicherzustand und die Schlussfolgerungsspuren umfasst.

Wichtige Ergebnisse

Die Autoren bewerteten über zehn repräsentative Speichermodule (einschließlich SelfRAG, Mem0, Dynamic Cheatsheets und Agent Workflow Memory) über die Gemini-2.5- und Claude-Modellfamilien hinweg.

Leistungssteigerungen: Sich selbst weiterentwickelnde Speicherarchitekturen schnitten konsistent besser ab als statische Baselines. Bei einstufigen Schlussfolgerungs- und QA-Aufgaben erreichte ReMem eine durchschnittliche exakte Übereinstimmung von 0,65 und eine API-Genauigkeit von 0,85/0,71 auf Gemini-2.5 Flash. In mehrstufigen verkörperten Umgebungen erreichte ReMem Erfolgsraten von 0,92/0,96 auf BabyAI und 0,78/0,91 auf ScienceWorld (Claude 3.7 Sonnet) und übertraf nicht-evolvierende Baselines signifikant.
Effizienz: Methoden mit evolutionärem Speicher zeigten eine verbesserte Schritteffizienz. ReMem reduzierte die durchschnittliche Anzahl der Schritte, die zum Abschluss von Aufgaben erforderlich waren (z. B. von 22,6 auf 11,5 Schritte auf AlfWorld), was darauf hindeutet, dass Speicherverfeinerung zu fokussierterem Schlussfolgern führt.
Aufgabenähnlichkeit und Transfer: Leistungssteigerungen korrelierten stark mit der Aufgabenähnlichkeit innerhalb des Datensatzes (Pearson $r=0,717$ ). Agenten profitierten am meisten in Umgebungen mit hoher struktureller Kohärenz (z. B. PDDL, AlfWorld), was darauf hindeutet, dass wiederkehrende Aufgabenstrukturen eine effektive Wiederverwendung von Speicher erleichtern.
Robustheit gegenüber Schwierigkeit und Fehlern:
- Reihenfolge der Sequenz: ReMem behielt eine starke Leistung unabhängig von der Reihenfolge der Aufgabenschwierigkeit bei (Einfach→Schwer vs. Schwer→Einfach), während Baseline-Methoden eine signifikante Varianz aufwiesen.
- Umgang mit Rauschen: Wenn sie sowohl erfolgreichen als auch gescheiterten Erfahrungen ausgesetzt wurden, blieb ReMem durch aktive Verfeinerung gespeicherter Erinnerungen robust, während eine naive Anhäufung von Fehlern die Leistung der Baselines verschlechterte.
Modellagnostizismus: Die Vorteile sich weiterentwickelnden Speichers wurden sowohl bei großen (Sonnet, Pro) als auch bei kleineren (Haiku, Flash-Lite) Modellen beobachtet, wobei kleinere Modelle besonders signifikante relative Verbesserungen zeigten.

Bedeutung und Behauptungen

Die Arbeit behauptet, dass Evo-Memory eine einheitliche Plattform zur Bewertung der „lebenslangen Intelligenz" von LLM-Agenten etabliert und den Fokus von passiver Gesprächserinnerung auf aktive Wiederverwendung von Erfahrungen verlagert.

Überbrückung der Lücke: Die Arbeit hebt hervor, dass Agenten zwar erinnern können, was gesagt wurde, sie jedoch oft versagen zu lernen, was gelernt wurde. Evo-Memory bietet das erste systematische Framework, um zu messen, wie Agenten Strategien über Aufgabenströme hinweg akkumulieren und verfeinern.
Design-Erkenntnisse: Die Ergebnisse deuten darauf hin, dass eine explizite Aufgabenebenen-Nutzung und kontinuierliche Neuorganisation des Speichers für Anpassungsfähigkeit entscheidend sind. Der Erfolg von ReMem zeigt, dass die Verflechtung von Speicherverfeinerung mit Schlussfolgern und Handeln ein vielversprechendes Paradigma für die Schaffung sich selbst verbessernder Agenten ist.
Zukünftige Richtung: Die Autoren positionieren diese Arbeit als Grundlage für die Entwicklung von LLMs mit zuverlässigem, kontinuierlich verbesserndem Speicher und stellen fest, dass zwar aktuelle Methoden vielversprechend sind, Stabilität und prozedurale Wiederverwendung jedoch Bereiche bleiben, die weitere Untersuchungen erfordern.

Die Arbeit schließt mit der Veröffentlichung von Code und Konfigurationen, um Reproduzierbarkeit zu fördern und darauf abzielend, die Bewertung des Lernens zur Laufzeit und sich selbst weiterentwickelnden Speichers in der breiteren Forschungscommunity zu standardisieren.