Technische Zusammenfassung: S3Mem – Strukturiertes räumlich-zeitliches Szenen-Ereignis-Gedächtnis für interaktive Fragenbeantwortung mit langem Horizont

1. Problemstellung

Interaktive Agenten mit langem Horizont akkumulieren umfangreiche Trajektoriengeschichten, scheitern jedoch häufig daran, Fragen zu früheren Ereignissen zu beantworten. Das Papier argumentiert, dass die primäre Engpassstelle nicht lediglich die Kontextlänge ist, sondern die Trajektorie-zu-Antwort-Schnittstelle des Langzeitgedächtnisses.

Gängige Ansätze externalisieren die Trajektoriengeschichte typischerweise als Klartext-Blöcke und rufen die besten $k$ Schnipsel mittels standardmäßiger Retrieval-Augmented Generation (RAG) ab. Obwohl dies für kurze Kontexte effektiv ist, versagt dieser „flache" Ansatz in Szenarien mit langem Horizont aus drei Gründen:

1. Strukturelle Auslöschung: Das Schreiben von Trajektorien als flacher Text zerstört die für die nachgelagerte Schlussfolgerung erforderliche Struktur von Szene, Ereignis, Zustand und Zeit.
2. Unvollständige Ketten-Retrieval: Ein auf Oberflächenähnlichkeit basierendes Retrieval liefert oft lokal relevante Schnipsel, denen die für Multi-Hop-Schlussfolgerungen notwendige globale Kettenvollständigkeit fehlt (z. B. „Was geschah zwei Schritte nach dem zweiten Besuch?").
3. Ineffiziente Beweis-Exponierung: Die Antwortphase erhält lange, unstrukturierte Fragmente, was das Modell zwingt, die Beweis-Kette selbst wiederherzustellen; dies ist token-ineffizient und fehleranfällig.

Die Kernherausforderung wird als episodisches Beweis-Konstruktionsproblem definiert: Wie lässt sich unter einem strengen Token-Budget die richtige strukturierte Evidenz aus der eigenen Trajektorie eines Agenten schreiben, abrufen und exponieren?

2. Methodik: S3Mem

S3Mem ist ein strukturiertes Szenen-Ereignis-episodisches Gedächtnis-Framework, das entwickelt wurde, um lange Agenten-Trajektorien in eine kompakte, abfrageausgerichtete Beweis-Kette umzuwandeln. Es arbeitet durch vier distincte Stufen:

2.1 Strukturiertes Szenen-Ereignis-Schreiben

Anstatt die Geschichte in generischen Text zu flachen, schreibt S3Mem jeden Interaktionsschritt (oder jedes lokale Segment) als strukturierte Gedächtniseinheit.

• Schema: Jede Einheit $m_t$ enthält spezifische Felder: Schrittnummer ($t$), Aktion ($a_t$), saliente Objekte ($O_t$), lokale Ereignistypen ($E_t$), Relationen ($R_t$), lokaler Zustand/Inventar ($S_t$), Ort/räumlicher Kontext ($L_t$) und eine kurze Rohzusammenfassung ($u_t$).
• Umgebungsanpassung: Das Schema variiert je nach Umgebung (z. B. Betonung räumlicher Relationen in Crafter versus Inventar und Gegenstandsgewinne in ALFWorld), bewahrt jedoch stets die gemeinsame Repräsentation von Szene, Ereignis, Zustand und zeitlichem Kontext.

2.2 Anker-sensitive Abfrage

S3Mem geht über die Oberflächenähnlichkeit hinaus, indem es eine anker-sensitive Abfrage durchführt. Es extrahiert explizit ein Anker-Tupel $A(q)$ aus der Frage, bestehend aus:

• Ziel-Schritt-Anker: Direkt referenzierte Schritte.
• Vorkommnis-Anker: Spezifische Vorkommnisse (z. B. „zweiter Besuch", „letztes Mal").
• Zustandsübergangs-Anker: Schlüsselereignisse wie Gegenstandsgewinne oder Ortswechsel.

Das Retrieval erfolgt in zwei Stufen:

1. Initiale Suche: Standard-basierter Textsuche nach Kandidaten.
2. Anker-bewusstes Neu-Ranking: Kandidaten werden neu gerankt unter Verwendung einer Bewertungsfunktion, die Einheiten mit hoher Anker-Kompatibilität ($s_{anchor}$) und lokaler Kettenunterstützung ($s_{chain}$) priorisiert, nicht nur lexikalische Ähnlichkeit ($s_{text}$). Dies stellt sicher, dass die vollständige Beweis-Kette um einen spezifischen Anker herum abgerufen wird.

2.3 Token-Budget-bewusste Beweis-Schnittstelle

Um die Effizienz zu adressieren, konstruiert S3Mem eine kompakte Beweis-Schnittstelle unter einem festen Token-Budget $B$.

• Packstrategie: Ein gieriger Pack-Algorithmus wählt Einheiten basierend auf Priorität aus: (1) Anker-tragende Schritte, (2) minimale lokale Nachbarschaften, die erforderlich sind, um zeitliche Verschiebungen oder Zustandsübergänge zu unterstützen, und (3) fehlende Zustandsfakten.
• Differenzierung: Im Gegensatz zur generischen Zusammenfassung komprimiert diese Stufe nicht willkürlich; sie bewahrt die entscheidende Beweis-Kette, während ketten-redundante oder ketten-irrelevante Einheiten verworfen werden.

2.4 Antwort-Zeit-Schicht

Das System exponiert diesen kompakten, strukturierten Beweissatz gegenüber einer eingefrorenen Antwort-Zeit-Schicht. Das Papier evaluiert dies unter einem „aktuellen eingefrorenen Antwort-Zeit-Protokoll" und behandelt S3Mem als strukturierte Gedächtnisschnittstelle anstelle eines vollständigen End-zu-End-Agenten-Betriebssystems.

3. Hauptbeiträge

1. Methodisch: Einführung von S3Mem, einem einheitlichen Framework für strukturiertes Schreiben, anker-sensitive Abfrage und budget-bewusste Beweis-Exponierung, speziell angepasst für interaktive Fragenbeantwortung mit langem Horizont.
2. Empirisch: Etablierung einer stärkeren Genauigkeit-Effizienz-Grenze über vier Umgebungen hinweg (Crafter, Jericho, ScienceWorld, ALFWorld). S3Mem übertrifft Vanilla RAG und Graph-NoReader konsistent, während es deutlich weniger Beweis-Token verbraucht.
3. Interpretativ: Eine begrenzte Behauptung, dass der Leistungsgewinn aus dem strukturierten Beweis-Harness (Schreiben + Abrufen + Packen) resultiert und nicht aus generischem Gedächtnisspeicher oder alleiniger Erhöhung der Kontextlänge. Dies wird durch umfangreiche Kontrollen validiert, einschließlich aktueller Baselines (A-MEM, MemoryOS, LightMem), Ablationen auf der Schreibseite und Checks zur generischen Kompression.

4. Experimentelle Ergebnisse

Die Evaluation umfasst interne Hauptumgebungen (Crafter, Jericho) und umgebungen außerhalb der Familie (ScienceWorld, ALFWorld).

• Genauigkeit vs. Effizienz: S3Mem erzielt höhere Exact-Match (EM)-Werte als Vanilla RAG und Graph-NoReader, während es dramatisch weniger Beweis-Token verbraucht.
  • Auf Crafter übertrifft S3Mem (EM $\approx$ 0,72) Graph-NoReader (EM $\approx$ 0,70) mit ~140 Token gegenüber ~1600+ Token.
  • Auf ALFWorld zeigt S3Mem starke Genauigkeits- und Effizienzgewinne gegenüber allen Baselines.
  • Auf ScienceWorld erreicht S3Mem die Genauigkeit von Graph-NoReader, während es nur einen Bruchteil der Token verwendet, was eine Generalisierung der Effizienz demonstriert.
• Vergleich mit aktuellen Baselines: Adaptierte Versionen von A-MEM, MemoryOS und LightMem verbessern Vanilla RAG in einigen Settings, erreichen jedoch nicht die gesamte Grenze von S3Mem.
• Ablationsstudien:
  • Schreibseite: Vollständiges Szenen-Ereignis-Schreiben übertrifft Varianten, die nur Ereignisse, Objekte oder reine Blöcke verwenden, signifikant, was die Notwendigkeit einer gemeinsamen strukturellen Repräsentation bestätigt.
  • Ankersensitivität: Die Entfernung der Anker-Wiederherstellung („no_seed") verursacht den größten Leistungsabfall und identifiziert die Anker-Abfrage als den Kernmotor der Genauigkeit.
  • Generische Kompression: Kontrollierte RTK-artige Kompression (generisches Textverkleinern) versagt darin, die Beweis-Kette zu bewahren, was dazu führt, dass die Genauigkeit bei komplexen Familien (Multi-Hop, zeitliche Verschiebungen) selbst bei ähnlichen Token-Kosten kollabiert.
• Robustheit: Die Methode bleibt über vier verschiedene Rollout-Aktor-Familien in Crafter hinweg robust und behält ein Low-Token-, High-Genauigkeit-Regime im Vergleich zu High-Cost-Baselines bei.
• Transfer außerhalb der Familie: Auf ATM-Bench (ein personalisiertes Gedächtnisarchiv) bleibt S3Mem mit deutlich geringerem Token-Verbrauch konkurrenzfähig, obwohl die Rangliste weniger dominant ist als in interaktiven Umgebungen.

5. Behauptungen und Bedeutung

Das Papier behauptet einen bescheidenen und begrenzten Umfang bezüglich seiner Behauptungen:

• Hauptbehauptung: Unter dem aktuellen eingefrorenen Antwort-Zeit-Protokoll bieten strukturiertes Schreiben und anker-sensitive Beweis-Routing eine stärkere Genauigkeit-Effizienz-Grenze für interaktive Fragenbeantwortung mit langem Horizont als generische Gedächtnisschnittstellen (Klartext-RAG, rein graphbasierte Abfrage oder generische Kompression).
• Limitationen & Grenzen:
  • Das Papier behauptet keine vollständige Protokollunabhängigkeit. Die Fairness-Analyse zeigt, dass Gewinne an die Antwort-Zeit-Schicht gekoppelt sind; ein „generischer" Antwortgeber lässt die Leistung aller Methoden kollabieren, während ein „gold_executor" die Rangfolge nicht perfekt reproduziert.
  • Der Beitrag wird als strukturiertes Beweis-Harness formuliert, nicht als allgemeines Agenten-Betriebssystem. Das Ziel ist die Verbesserung der Trajektorie-zu-Antwort-Schnittstelle für episodische Fragenbeantwortung, nicht die Lösung aller Agenten-Gedächtnisherausforderungen.
  • Die stärkste verbleibende Quelle der Nicht-Generizität liegt im Token-Verbrauch zur Antwortzeit und nicht in der Gedächtnisrepräsentation selbst.

Fazit: Das Papier postuliert, dass für Agenten mit langem Horizont der Schlüssel zum Gedächtnis nicht darin besteht, mehr Geschichte offenzulegen, sondern die richtige strukturierte Evidenz offenzulegen. S3Mem zeigt, dass die Umwandlung von Trajektorien in strukturierte Szenen-Ereignis-Einheiten und deren Abruf über anker-sensitive Logik einen überlegenen Kompromiss zwischen Schlussfolgerungs-Genauigkeit und Token-Effizienz bietet.