💬 NLP

Less Context, More Accuracy: A Bi-Temporal Memory Engine for LLM Agents Where a Lean Retrieved Context Beats the Full History

Das Papier stellt Engram vor, eine Open-Source-bi-temporale Memory-Engine, die durch die Kombination eines verlustfreien Schreibpfads mit einer hybriden Lesestrategie, welche kompakten, herkunftsbasierten Kontext aus einem bi-temporalen Wissensgraphen zusammensetzt, Full-Context-Baselines in Bezug auf Genauigkeit und Effizienz übertrifft und dabei eine Punktzahl von 83,6 % bei LongMemEval_S erreicht, während sie signifikant weniger Token verwendet.

Ursprüngliche Autoren: Liuyin Wang

Veröffentlicht 2026-06-10

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Liuyin Wang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Problem: Der „überladene Rucksack“

Stellen Sie sich vor, Sie versuchen, ein Rätsel zu lösen, aber Ihr Detektiv-Partner (die KI) hat einen Rucksack, der schwerer wird, jedes Mal, wenn Sie sprechen.

Der alte Weg: Um einen Hinweis von vor drei Tagen zu erinnern, kippt man den gesamten Rucksack auf den Tisch. Er ist voll mit allem: dem Wetterbericht vom Dienstag, dem Menü eines Restaurants, das Sie letzte Woche besucht haben, und dem eigentlichen Hinweis, den Sie brauchen.
Das Ergebnis: Der Detektiv wird von all dem Müll (Ablenkungen) überwältigt. Er verbringt so viel Zeit damit, den Abfall zu durchsieben, dass er den Hinweis übersieht oder durch das Rauschen verwirrt wird. Außerdem ist das Tragen dieses schweren Rucksacks langsam und teuer.

Die Lösung: Engram (Der „schlaue Bibliothekar“)

Die Autoren haben ein neues System namens Engram entwickelt. Anstatt den ganzen Rucksack auszuleeren, fungiert Engram wie ein super-schlauer Bibliothekar, der ein perfektes, organisiertes Archiv führt. Wenn Sie eine Frage stellen, bringt Ihnen der Bibliothekar nicht die ganze Bibliothek; er bringt Ihnen nur die spezifischen Seiten, die Sie benötigen, plus eine klare Notiz darüber, wann diese Seiten geschrieben wurden.

So funktioniert es, unterteilt in drei einfache Teile:

1. Der zweistufige Schreibprozess (System-1 & System-2)

Engram schreibt Erinnerungen auf zwei verschiedene Arten, ähnlich wie ein menschliches Gehirn:

Das schnelle Schreiben (System-1): Wenn Sie chatten, speichert Engram sofort eine rohe, verlustfreie Kopie des Gesprächs (wie eine Überwachungskamera-Aufzeichnung). Dies geschieht in Millisekunden und verlangsamt Sie nicht.
Das langsame Denken (System-2): Später, wenn das System im Leerlauf ist, liest es diese Aufzeichnung und wandelt sie in atomare Fakten um (einfache Aussagen wie „X arbeitet bei Y“). Es baut eine Zeitlinie dieser Fakten auf.
- Der magische Trick: Wenn sich ein Fakt ändert (z. B. „X arbeitet bei Y“ wird zu „X arbeitet bei Z“), löscht Engram den alten Fakt nicht. Es markiert den alten als „abgelaufen“ und verknüpft den neuen mit ihm. Dies erzeugt eine „Supersession-Kette“ (Ablöse-Kette). Man kann immer zurückblicken und sehen: „Oh, um 14:00 Uhr dachten wir, X arbeitet bei Y, aber um 15:00 Uhr haben wir es auf Z aktualisiert.“

2. Der „As-of“-Filter (Zeitreise)

Da Engram eine Zeitlinie führt, in der festgehalten ist, wann welche Fakten wahr waren, kann es Fragen basierend darauf beantworten, wann man die Frage stellt.

Analogie: Wenn Sie fragen: „Wo hat X gearbeitet?“, weiß Engram, dass es die Zeitlinie prüfen muss. Wenn Sie nach dem letzten Monat fragen, zeigt es den alten Job an. Wenn Sie nach heute fragen, zeigt es den neuen Job an. Es gerät nicht durch Widersprüche in Verwirrung, weil es genau weiß, wann welche Version gültig war.

3. Der hybride Lesevorgang (Das Beste aus beiden Welten)

Wenn Sie eine Frage stellen, rät Engram nicht einfach. Es nutzt eine „hybride“ Suche:

Es sucht nach den Fakten (den sauberen, organisierten Notizen).
Es greift auch auf die rohen Textstücke zu (die ursprünglichen Gesprächsfragmente), um sicherzustellen, dass es keine kleinen Details verliert.
Es mischt diese zusammen, filtert den Müll heraus und übergibt dem Detektiv einen winzigen, perfekten Stapel Papier (etwa 9.600 Wörter) anstatt der ganzen Bibliothek (79.000 Wörter).

Die Ergebnisse: Weniger ist mehr

Die Autoren testeten dies in einer 500-Fragen-Prüfung namens LongMemEvalS.

Das Full-Context-Team: Versuchte, die Antworten zu finden, indem es jedes Mal die gesamte Historie las. Sie kamen auf 73,2 % korrekt.
Das Engram-Team: Beantwortete die Fragen mit nur dem winzigen, gefilterten Papierstapel. Sie kamen auf 83,6 % korrekt.

Die Überraschung: Indem Engram 87 % des Textes (die Ablenkungen) wegwarf, wurde es tatsächlich genauer. Das Rauschen in der vollständigen Historie hat die Leistung der KI tatsächlich verschlechtert.

Warum das wichtig ist (laut dem Paper)

Genauigkeit über Kosten: Normalerweise versucht man, Geld zu sparen, indem man weniger Speicher verwendet. Engram beweist, dass die Verwendung von weniger Speicher die KI tatsächlich schlauer machen kann, weil sie aufhört, abgelenkt zu werden.
Keine „falschen“ Zahlen: Die Autoren sind sehr streng in Bezug auf Ehrlichkeit. Sie haben ein öffentliches, reproduzierbares Testwerkzeug (einen „Harness“) gebaut, damit jeder den Test durchführen und dieselben Ergebnisse sehen kann. Sie haben häufige Fehler behoben, bei denen andere Forscher sich versehentlich einen unfairen Vorteil verschafft haben (z. B. indem sie der KI die Antwort in der vollständigen Historie zeigten).
Privatsphäre & Kontrolle: Da das System einen klaren Pfad führt („was wann geglaubt wurde“), ist es einfacher, bestimmte Erinnerungen zu löschen, falls ein Nutzer möchte, dass er vergessen wird. Es läuft zudem lokal, was bedeutet, dass Ihre Daten Ihren Computer nicht verlassen müssen.

Das Fazit

Engram zeigt, dass für KI-Agenten die Qualität des Gedächtnisses wichtiger ist als die Quantität. Anstatt die KI zu zwingen, ihre gesamte Lebensgeschichte zu lesen, um eine einfache Frage zu beantworten, kann ein intelligentes, zeitbewusstes System, das nur die relevanten, verifizierten Fakten abruft, Probleme schneller, günstiger und genauer lösen.

Technisches Resümee: Engram – Eine bi-temporale Memory-Engine für LLM-Agenten

1. Problemstellung

Das Langzeitgedächtnis bleibt eine kritische Lücke für LLM-Agenten, die über Sitzungen hinweg von Natur aus zustandslos sind. Der gängige Workaround – das Anhängen der gesamten Konversationshistorie an den Prompt – leidet unter drei kumulierenden Problemen:

Kosten und Latenz: Token-Kosten und Inferenzlatenz steigen linear mit der Länge der Historie.
Genauigkeitsdegradierung: Mit der Akkumulation irrelevanter Gesprächsverläufe („Distraktoren“) hat das Modell Schwierigkeiten, relevante Belege zu lokalisieren – ein Phänomen, das als „Lost in the Middle“ bekannt ist.
Reproduzierbarkeitskrise: Bestehende Gedächtnis-Benchmarks leiden unter inkonsistenten Evaluierungs-Harnesses (variierende Ingestionsmethoden, Antwort-Prompts und Judges), was zu widersprüchlichen Leistungsberichten führt, bei denen dasselbe System je nach Quelle völlig unterschiedliche Scores erzielt.

Aktuelle Gedächtnissysteme optimieren oft für Kosten oder Geschwindigkeit, scheitern aber daran, die Genauigkeit des Full-Context-Baselines zu übertreffen. Die Arbeit postuliert, dass ein präzise abgerufener, schlanker Kontext-Ausschnitt nicht nur kostengünstiger, sondern auch genauer als das verrauschte Vollfenster sein sollte.

2. Methodik: Das Engram-System

Engram ist eine Open-Source, dual-prozessuale Memory-Engine, die auf einem bi-temporalen Datenmodell basiert. Sie trennt Speicheroperationen in einen schnellen Schreibpfad und einen asynchronen Konsolidierungspfad, die einen hybriden Lesepfad speisen.

2.1 Bi-temporales Datenmodell

Das System behandelt die Zeit als First-Class-Citizen über zwei Achsen:

Ereigniszeit (Valid Time): Wann eine Tatsache in der Welt wahr war.
Transaktionszeit (Transaction Time): Wann das System die Tatsache lernte oder widerrief.
Datenstrukturen:
- Episoden: Roh, verlustfreie Turns/Ereignisse, gestempelt mit beiden Zeitachsen.
- Fakten: Atomare (Subjekt, Prädikat, Objekt) Behauptungen mit Oberflächentext, Embeddings, Salienz-Scores und Provenienz. Fakten tragen valid_at/invalid_at und created_at/expired_at Zeitstempel.
- Graph: Entitäten und Relationen mit bi-temporalen Kanten.
Invariante: Fakten werden niemals hart gelöscht. Widersprüchliche Fakten werden invalidiert (als invalid_at markiert) und durch neue Fakten ersetzt, wodurch ein vollständiger Audit-Trail und eine Provenienz erhalten bleiben.

2.2 Dual-Process-Architektur

System-1 (Hot Write Path):
- Operation: Anhängen verlustfreier Episoden, Auflösung der Identität über Sitzungen hinweg, Berechnung leichter Embeddings und Warteschlangenbildung für die Konsolidierung.
- Constraint: Keine LLM-Aufrufe auf dem kritischen Pfad; die Latenz wird unter 50 ms gehalten.
System-2 (Async Consolidation):
- Operation: Extraktion atomarer Fakten (regelbasiert oder LLM-basiert), Aufbau des bi-temporalen Wissensgraphen, Erkennung von Konflikten und Invalidierung überschriebener Fakten.
- Konfliktlösung: Verwendet eine „Cheap-then-Escalate“-Policy. Exakte Slot-Übereinstimmungen oder klare temporale Widersprüche werden ohne LLM-Aufrufe aufgelöst. Ambivalente Fälle eskalieren zu einem LLM-Adjudikator.
- Salienz: Wendet Decay/Reinforcement-Scoring an, um unbestätigte Erinnerungen verblassen zu lassen.
Hybrider Lesepfad:
- Retrieval: Zerlegt Abfragen und ruft Informationen über vier parallele Kanäle ab: dichte semantische (BGE Embeddings), lexikalische (BM25), Graph-Traversal (n-hop) sowie Recency/Salience.
- Fusion: Kombiniert die Ranglisten mittels Reciprocal Rank Fusion (RRF) und optionalem Cross-Encoder-Reranking.
- Filterung: Wendet einen bi-temporalen „As-of“-Filter an (Abruf von Fakten, die zu einem bestimmten Zeitpunkt gültig waren) und eine Abstentions-Gate (Verweigerung der Antwort, falls Evidenz fehlt).
- Kontext-Assemblierung: Konstruiert einen kompakten Kontext aus konfliktgelösten Fakten, relevanten Roh-Session-Chunks und Session-Summaries.

2.3 Reproduzierbarer Evaluierungs-Harness

Die Autoren tragen einen neutralen, im Repository enthaltenen Evaluierungs-Harness bei, der darauf ausgelegt ist, Fehler in der Messintegrität zu eliminieren:

Offizieller Judge: Verwendet die offiziellen kategoriespezifischen Judge-Prompts von LongMemEvalS, um Eigenentwicklungen zu vermeiden.
Full-Context Baseline: Beinhaltet die vollständige Historie als Baseline in jedem Vergleich.
Integritäts-Fixes: Korrigiert Probleme wie Full-Context-Truncation (stellt sicher, dass die Baseline den gesamten Heuhaufen sieht) und „Facts prepended to full history“ (stellt sicher, dass der Test die Retrieval-Leistung misst, nicht nur die Memory-Augmentierung).
Determinismus: Läuft mit Zero-Dependency Offline-Fallbacks für Unit-Tests; die rohen Per-Question-Logs werden für jede Metrik veröffentlicht.

3. Kernbeiträge

Dual-Process-Engine: Ein Gedächtnissystem mit zerstörungsfreier Konfliktlösung (Invalidierung statt Überschreiben), das die meisten Konflikte ohne LLM-Aufrufe löst.
Empirischer Genauigkeitsgewinn: Demonstration, dass ein schlanker, abgerufener Kontext (~~9,6k Tokens) die Full-Context-Baseline (~~79k Tokens) in der Genauigkeit übertrifft.
Neutraler Harness: Eine reproduzierbare Evaluierungspipeline mit integrierten offiziellen Judges, Full-Context-Baselines und veröffentlichten Roh-Logs, um die Reproduzierbarkeitskrise des Feldes zu adressen.
Insight zum Hybriden Lesepfad: Identifikation, dass ein reiner „Facts-only“-Retrieval-Pfad den Recall verliert; die Kombination von konfliktgelösten Fakten mit relevanten Roh-Session-Chunks ist notwendig, um Details wiederherzustellen.

4. Ergebnisse

Evaluierung auf dem LongMemEvalS Benchmark (500 Fragen über 7 Kategorien) unter Verwendung des offiziellen Judges:

Gesamtgenauigkeit: Die schlanke Konfiguration von Engram erreichte eine Genauigkeit von 83,6 %, verglichen mit 73,2 % für die Full-Context-Baseline (+10,4 Punkte).
Effizienz: Die schlanke Konfiguration nutzte ~8× weniger Tokens (9,6k vs. 79k) bei gleichzeitig höherer Genauigkeit.
Statistische Signifikanz: Der Gewinn ist statistisch entscheidend (McNemar exact test, $p < 10^{-6}$ ). Engram war bei 81 Fragen korrekt, die die Baseline verfehlte, während die Baseline bei 29 Fragen korrekt war, wo Engram versagte.
Fehlerrate: 0 Fehler bei 500 Fragen für beide Systeme (keine Systemausfälle).
Performance pro Kategorie:
- Knowledge-Update: 87,5 % (profitiert von Invalidation/Supersession).
- Temporal Reasoning: 81,1 % (profitiert von „As-of“-Filterung).
- Abstention: 86,7 % (System lehnt Antworten korrekt ab, wenn das Gedächtnis keine Informationen liefert).
- Multi-session Aggregation & Preference: Niedrigere Scores (79,3 % und 73,3 %), identifiziert als Bereiche mit verbleibendem Optimierungspotenzial.
Ablations-Beobachtung: Eine Variante, die Fakten vor die vollständige Historie setzte (engram_full), erzielte 83,4 %, ähnlich der schlanken Version. Dies deutet darauf hin, dass die strukturierten Fakten den Genauigkeitsgewinn treiben, während die vollständige Historie lediglich Tokens hinzufügt, ohne die Korrektheit zu verbessern.

5. Bedeutung und Ansprüche

Die Arbeit beansprucht zwei primäre Beiträge:

Qualitätsverbesserung statt Kostenoptimierung: Engram demonstriert, dass Langzeitgedächtnis ein Mechanismus zur Qualitätssteigerung sein kann, nicht nur zur Kosteneinsparung. Durch das Filtern von Distraktoren ist ein schlanker abgerufener Ausschnitt genauer als der volle Kontext-Fenster.
Messintegrität: Die Arbeit argumentiert, dass die Zahlen der Benchmarks oft aufgrund inkonsistenter Harnesses angefochten werden. Durch die Bereitstellung eines neutralen, reproduzierbaren Harness mit dem offiziellen Judge und der Full-Context-Baseline behaupten die Autoren, dass das „vertrauenswürdige Scoreboard“ ebenso wertvoll ist wie das System selbst.

Die Autoren bleiben hinsichtlich der Limitationen bescheiden und merken an, dass die Ergebnisse auf einem einzelnen Benchmark und einem einzelnen Antwort-Backbone basieren. Sie identifizieren Multi-Session-Aggregation und die Handhabung von Präferenzen als offene Herausforderungen und fordern zukünftige Arbeiten mit mehreren Backbones und kontrollierten Komponenten-Ablationen. Das System ist so konzipiert, dass es selbst gehostet werden kann (mit Offline-Fallbacks), was Datenschutz und Reproduzierbarkeit ohne externe API-Abhängigkeiten gewährleistet.