💬 NLP

ElasticMem: Latent Memory as a Learnable Resource for LLM Agents

ElasticMem ist ein neuartiges Framework, das LLM-Agenten verbessert, indem es Gedächtnis als eine lernbare, elastische latente Ressource behandelt und dabei adaptive Abfrage sowie variable Budgetallokation nutzt, die mittels Group-Relative Policy optimiert werden, um die Genauigkeit des Schlussfolgerns und den Aufgabenerfolg im Vergleich zu bestehenden Fixed-Memory-Ansätzen signifikant zu steigern und gleichzeitig die Token-Kosten zu senken.

Ursprüngliche Autoren: Tao Feng, Chongrui Ye, Tianyang Luo, Jingjun Xu, Xueqiang Xu, Haozhen Zhang, Ge Liu, Jiaxuan You

Veröffentlicht 2026-06-01

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Tao Feng, Chongrui Ye, Tianyang Luo, Jingjun Xu, Xueqiang Xu, Haozhen Zhang, Ge Liu, Jiaxuan You

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Detektiv, der versucht, einen komplexen Fall zu lösen. Sie haben einen riesigen Aktenschrank voller tausender alter Fallakten, Zeugenaussagen und Indizien (dies ist Ihr Langzeitgedächtnis).

Früher, wenn eine neue Frage einging, zog der Detektiv einen Stapel Akten heraus, die den Fragen ähnlich sahen, und schüttete den gesamten Stapel auf den Schreibtisch, um ihn zu lesen.

Das Problem: Das war chaotisch. Der Schreibtisch wurde mit irrelevanten Papieren (Rauschen) überladen, und der Detektiv musste Seiten voller Müll lesen, nur um das eine entscheidende Indiz zu finden. Es war langsam, teuer (in Bezug auf die Schreibtischfläche) und oft verwirrend.

Das Paper stellt ein neues System namens ElasticMem vor. Stellen Sie sich das wie einen superintelligenten, magischen Assistenten vor, der den Aktenschrank für Sie verwaltet.

Wie ElasticMem funktioniert (Der magische Assistent)

Anstatt einfach Dateien basierend darauf zu greifen, wie ähnlich die Wörter sind, agiert ElasticMem wie ein kluger Bibliothekar, der versteht, was Sie eigentlich gerade tun.

1. Das „elastische“ Budget (Die flexible Schreibtischfläche)
Stellen Sie sich vor, Sie haben eine begrenzte Menge an Schreibtischfläche zur Verfügung.

Der alte Weg: Jedes Mal, wenn Sie eine Akte herausholen, nimmt sie den gleichen Platz ein, egal ob es ein 10-seitiger Roman oder ein einzelner Klebezettel ist.
Der ElasticMem-Weg: Der Assistent betrachtet die Akte und entscheidet: „Diese Akte ist der rauchende Colt! Geben wir ihr einen riesigen Teil des Schreibtischplatzes, damit Sie sie tiefgründig studieren können.“ Aber für eine Akte, die zwar etwas ähnlich, aber nutzlos ist? „Das ist nur Hintergrundrauschen.“ Der Assistent schrumpft sie auf einen winzigen Klebezettel zusammen oder wirft sie ganz weg.
Das Ergebnis: Sie verwenden Ihren „Schreibtischplatz“ (Rechenleistung) nur für die Erinnerungen, die Ihnen tatsächlich helfen, das Problem zu lösen.

2. Ihre Gedanken lesen (Adaptive Abfrage)
Normalerweise gleicht ein Bibliothekar nur Schlüsselwörter ab. Wenn Sie nach „Äpfeln“ fragen, bringt er Ihnen Akten über „Äpfel“.

Der ElasticMem-Weg: Der Assistent beobachtet Ihr Gehirn (den internen Denkprozess der KI), während Sie über die Frage nachdenken. Er erkennt: „Oh, Sie fragen nicht nur nach Äpfeln; Sie wollen einen Kuchen backen, also brauchen Sie das Rezept und nicht die Geschichte des Apfelanbaus.“ Er zieht die Akte heran, die Ihnen beim Backen hilft, selbst wenn das Wort „Apfel“ nicht die offensichtlichste Übereinstimmung ist.

3. Das „weiche“ Gedächtnis (Die unsichtbare Notiz)
Anstatt den gesamten Text einer Akte auf Ihren Schreibtisch zu kleben, verwandelt ElasticMem die wichtigen Teile in „unsichtbare Notizen“ (latente Token). Diese Notizen flüstern die Schlüsselinformationen direkt in Ihren Geist, ohne Ihre Sicht zu überladen. Dies spart eine enorme Menge an Platz.

Das Training: Lernen aus Erfolg

Wie lernt der Assistent das zu tun?

Er lernt nicht einfach nur Regeln auswendig. Er spielt ein Spiel, bei dem er versucht, Rätsel zu lösen.
Wenn er die richtigen Dateien greift und den richtigen Platz zuweist, erhält er eine Belohnung (einen hohen Score).
Wenn er die falschen Dateien greift oder Platz mit Müll verschwendet, erhält er einen niedrigen Score.
Mit der Zeit lernt er genau, wie er seinen Gedächtnisverbrauch dehnen oder schrumpfen muss, um die besten Ergebnisse zu erzielen.

Was das Paper herausfand

Die Forscher haben dieses neue System bei zwei Arten von Herausforderungen getestet:

Gedächtnis-Quiz: Fragen, die das Erinnern von Details aus sehr langen Gesprächen erfordern (wie das Erinnern an die Lieblingsfarbe eines Nutzers aus 500 Nachrichten vor langer Zeit).
Roboter-Aufgaben: Einem virtuellen Roboter Anweisungen geben, Dinge in einem Haus zu tun (wie „lege den Apfel auf die Arbeitsplatte“).

Die Ergebnisse:

Intelligenter: Das System beantwortete signifikant mehr Fragen richtig als die alten Methoden.
Schneller/Günstiger: Es verwendete weitaus weniger „Token“ (Wörter/Dateneinheiten), um die Aufgabe zu erledigen. Es hat keine Zeit mit dem Lesen irrelevanter Akten verschwendet.
Besser bei der Priorisierung: Es lernte, Dateien zu ignorieren, die zwar ähnlich aussah, aber nutzlos war, und sich auf die zu konzentrieren, die tatsächlich die Lösung enthielten.

Das Fazament

ElasticMem verändert die Art und Weise, wie KI ihr Gedächtnis nutzt. Anstatt das Gedächtnis wie eine starre, fest dimensionierte Box zu behandeln, in der alles die gleiche Aufmerksamkeit erhält, behandelt es das Gedächtnis wie elastisch. Es dehnt sich aus, um großen, wichtigen Erinnerungen viel Raum zum Atmen zu geben, und schrumpft oder ignoriert die kleinen, nutzlosen. Dies macht die KI intelligenter, schneller und wesentlich besser darin, komplexe Probleme zu lösen, ohne von ihrer eigenen Vergangenheit überwältigt zu werden.

Technisches Resümee: ElasticMem

Problemstellung

Langzeitgedächtnis ist entscheidend, um Large Language Model (LLM) Agenten zu befähigen, über ausgedehnte Interaktionen hinweg kohärent zu schlussfolgern, Antworten zu personalisieren und vergangene Erfahrungen wiederzuverwenden. Bestehende gedächtnisgestützte Systeme behandeln das Gedächtnis jedoch als eine feste Ressource, was zu einer Diskrezianz zwischen der abfrageabhängigen Nützlichkeit des Gedächtnisses und der statischen Allokation der Gedächtniskapazität führt.

Aktuelle Ansätze fallen in zwei Kategorien, die beide signifikante Einschränkungen aufweisen:

Textraum-Methoden: Diese rufen natürliche Sprachdatensätze ab und konkatenieren sie in das Kontextfenster. Obwohl sie interpretierbar sind, verursachen sie einen erheblichen Token-Overhead und reagieren empfindlich auf verrauschte oder redundante Evidenz, da irrelevante Erinnerungen unabhängig von ihrem Nutzen Kontext-Token konsumieren.
Latentraum-Methoden: Diese komprimieren Erinnerungen in kontinuierliche Vektoren oder Soft-Tokens, um die textuellen Kosten zu senken. Sie verlassen sich jedoch typischerweise auf starre Abrufmechanismen (z. B. feste Kosinus-Ähnlichkeit) und Schnittstellen mit fester Kapazität, bei denen jeder abgerufene Chunk ein einheitliches latentes Budget erhält. Dies versäumt es, zwischen Chunks zu unterscheiden, die entscheidende Belege enthalten, und solchen, die lediglich lexikalisch ähnlich, aber nicht hilfreich sind.

Die Kernherausforderung besteht darin, dass die Nützlichkeit des Gedächtnisses hochgradig abfragespezifisch und aufgabenabhängig ist, die Abfrage und Kapitätsallokation jedoch oft durch feste Designentscheidungen bestimmt werden, statt aus den Aufgabenergebnissen gelernt zu werden.

Methodik: ElasticMem

Die Autoren schlagen ElasticMem vor, ein Framework, das das Gedächtnis als eine lernbare, elastische latente Ressource behandelt. Anstatt auf festem Abruf und einheitlicher Allokation basiert ElasticMem darauf, das Gedächtnis adaptiv abzurufen und variable latente Budgets basierend auf deren Downstream-Nützlichkeit zuzuweisen.

Das Framework besteht aus vier Schlüsselphasen:

1. Konstruktion der latenten Gedächtnisbank

Einmal offline konstruierte latente Gedächtnisbank wird während des Trainings eingefroren und beibehalten. Jeder Gedächtnischunk $m_i$ wird durch einen eingefrorenen Basis-LLM-Encoder kodiert, um Folgendes zu erzeugen:

Einen Abrufschlüssel ( $k_i$ ): Den finalen Hidden State des Chunks.
Einen Inhalts-Cache ( $C_i$ ): Die letzten $N_c$ Hidden States des Chunks.
Dies ermöglicht einen effizienten Abruf ohne eine erneute Kodierung des gesamten Korpus zur Laufzeit.

2. Abfragekonditionierter Abruf

Im Gegensatz zu Standardmodellen, die einen separaten, festen Retriever verwenden, leitet ElasticMem die Abfrage aus dem eigenen Hidden State des Reasoners ab.

Der LoRA-adaptierte Reasoner sampelt einen Abruf-Kontroll-Token $a$ gegeben die Abfrage $q$ .
Der Reasoner verarbeitet $(q, a)$ , um einen Abfragezustand $h_q$ zu generieren.
Erinnerungen werden basierend auf der Kosinus-Ähnlichkeit zwischen $h_q$ und den gecachten Abrufschlüsseln $k_i$ abgerufen. Dies ermöglicht es dem Abruf, sich an die interne Interpretation der Abfrage durch das Modell anzupassen, anstatt sich nur auf die oberflächliche semantische Übereinstimmung zu verlassen.

3. Elastische latente Budgetallokation

Nach dem Abruf der Top- $Z$ Kandidaten-Chunks weist eine leichtgewichtige Transformer-Budget-Policy ( $\pi_\phi$ ) jedem Chunk eine variable Anzahl an latenten Tokens ( $b_j$ ) zu.

Das Budget $b_j$ wird aus einer diskreten Verteilung $\{0, 1, \dots, B_{max}\}$ gesampelt.
Ein Budget von $b_j=0$ ermöglicht es dem Modell, abgerufene Chunks zu unterdrücken, die zwar ähnlich, aber nicht hilfreich sind.
Die Policy nutzt Merkmale wie den Abfragezustand, Gedächtnisschlüssel, Abruf-Scores und gelernte Rang-Embeddings sowie Self-Attention, um Erinnerungen miteinander zu vergleichen, bevor sie Kapazität zuweist.
Nützliche Chunks erhalten größere Budgets, während redundante oder irreführende Chunks komprimiert oder unterdrückt werden.

4. Latente Gedächtnisinjektion und Optimierung

Ausgewählte Hidden States aus den Inhalts-Caches werden über einen gelernten latenten Projektor ( $P_\psi$ ) in Soft-Gedächtnis-Tokens projiziert und in die Eingabesequenz des Reasoners injiziert.

Training: Der gesamte Prozess (Abrufsteuerung, Budgetallokation, Projektion und Generierung) wird gemeinsam mittels Group-Relative Policy Optimization (GRPO) optimiert.
Das Belohnungssignal (z. B. Genauigkeit, Aufgabenerfolg) überwacht nicht nur die finale Antwort, sondern auch die Abrufentscheidungen und Budgetallokationen. Dies ermöglicht es dem Modell zu lernen, welche Erinnerungen abgerufen werden sollten und wie viel Repräsentationskapazität jede verdient, basierend auf tatsächlichen Aufgabenresultaten.

Wichtigste Beiträge

Elastisches latentes Gedächtnis: Ein neues Paradigma, das das Gedächtnis von einer festen textuellen oder latenten Schnittstelle zu einer lernbaren, elastischen Ressource transformiert, bei der die Kapazität dynamisch basierend auf der Nützlichkeit zugewiesen wird.
Reasoner-State Adaptive Retrieval: Ein Abrufmechanismus, der auf dem internen Zustand des Reasoners und einem gesampelten Kontroll-Token konditioniert ist und somit über die starre Ähnlichkeitsprüfung hinausgeht.
Nützlichkeitsbewusste Budget-Policy: Eine gelernte Policy, die variable latente Budgets an abgerufene Chunks zuweist, wodurch das Modell in der Lage ist, nützliche Belege zu priorisieren und Rauschen zu unterdrücken.
End-to-End Optimierung: Ein Trainingsframework, das Abruf, Allokation und Generierung gemeinsam über Downstream-Aufgabenbelohnungen optimiert und so das Gedächtnismanagement mit der Aufgaben-Nützlichkeit in Einklang bringt.

Experimentelle Ergebnisse

ElasticMem wurde auf MemorySuite evaluiert, welches gedächtnisintensive QA (PersonaMem, LoCoMo, LongMemEval) und agentische Entscheidungsfindung in Umgebungen (ALFWorld) umfasst, unter Verwendung von Qwen2.5-3B und Qwen2.5-7B Backbones.

Leistungssteigerungen:
- QA-Aufgaben: ElasticMem verbesserte die gewichtete durchschnittliche Genauigkeit um 26,2 % (Qwen2.5-3B) und um 24,6 % (Qwen2.5-7B) gegenüber den stärksten Baselines.
- Agentische Aufgaben (ALFWorld): ElasticMem verbesserte die gewichtete durchschnittliche Erfolgsrate um 66,3 % (Qwen2.5-3B) und um 27,2 % (Qwen2.5-7B).
Effizienz: ElasticMem erreichte auf ALFWorld die niedrigsten Token-Kosten unter allen verglichenen Methoden, was zeigt, dass die Leistungssteigerungen nicht auf längeren Interaktionstrajektorien oder übermäßigem Gedächtnisverbrauch beruhen.
Ablationsstudien:
- Budget-Policy: Die Transformer-basierte Budget-Policy übertraf zufällige, uniforme und MLP-basierte Allokationsstrategien signifikant, was den Wert des Lernens von Interaktionen zwischen den Chunks bestätigt.
- Abruf: Der Abruf mittels Query-State und Kontroll-Token übertraf den semantischen und den Frozen-State-Abruf, was die Bedeutung der Anpassung des Abrufs an den internen Zustand des Reasoners hervorhebt.
- Kapazitätsgrenzen: Ein moderates pro-Chunk-Budgetlimit ( $B_{max}=20$ ) lieferte die besten Ergebnisse, was darauf hindeutet, dass zu große Budgets die Leistung verschlechtern können, indem sie Kapazität für weniger nützliche Chunks zuweisen.

Bedeutung und Ansprüche

Das Paper behauptet, dass ElasticMem eine fundamentale Diskrepanz in aktuellen Gedächtnissystemen adressiert: die statische Natur der Gedächtnisallokation gegenüber der dynamischen Natur der Gedächtnisnützlichkeit. Durch die Behandlung des Gedächtnisses als lernbare Ressource ermöglicht das Framework Agenten:

Nützliche Belege und übertragbare Pläne zu priorisieren, selbst wenn diese nicht die lexikalisch ähnlichsten zur Abfrage sind.
Rauschbehaftete oder redundante Erinnerungen zu unterdrücken, die andernfalls Kontext oder latente Kapazität verbrauchen würden.
Überlegene Leistungen sowohl in Denk- als auch in Entscheidungsaufgaben zu erzielen und dabei eine hohe Token-Effizienz beizubehalten.

Die Autoren kommen zu dem Schluss, dass elastisches latentes Gedächtnis eine vielversprechende Richtung für die Entwicklung effizienterer, adaptiverer und langfristiger LLM-Agenten darstellt, die über die Grenzen von Fixed-Context- und starren Abrufparadigmen hinausgehen.