💬 NLP

RecMem: Recurrence-based Memory Consolidation for Efficient and Effective Long-Running LLM Agents

RecMem is een efficiënt langlopend LLM-agentgeheugensysteem dat de tokenconsumptie aanzienlijk verlaagt en de nauwkeurigheid verbetert door LLM-gebaseerde geheugenconsolidatie uit te stellen totdat terugkerende semantische patronen worden gedetecteerd in een lichtgewicht op embedding gebaseerde onderbewuste laag, in plaats van elke interactie direct te verwerken.

Oorspronkelijke auteurs: Zijie Dai, Shiyuan Deng, Sheng Guan, Yizhou Tian, Xin Yao, Xiao Yan, James Cheng

Gepubliceerd 2026-05-18

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Zijie Dai, Shiyuan Deng, Sheng Guan, Yizhou Tian, Xin Yao, Xiao Yan, James Cheng

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je probeert de details van een langlopend gesprek met een vriend te onthouden, maar je hebt een zeer kortetermijngeheugen (zoals een goudvis) en een zeer dure hersenen (het AI-model) die geld kost elke keer als je vraagt om na te denken.

De meeste huidige AI-geheugensystemen zijn als overijverige bibliothecarissen. Elke keer als je één zin zegt, stoppen ze onmiddellijk alles, halen ze een gigantische encyclopedie tevoorschijn, herschrijven ze het volledige verhaal van je leven om die nieuwe zin op te nemen, en leggen ze het weg. Ze doen dit voor elk enkel woord dat je zegt, zelfs als je net "Hallo" of "Mooi weer" hebt gezegd. Dit heet "eager memory consolidation" (ijverig geheugenconsolidatie). Het werkt, maar het is ongelooflijk duur en traag omdat de bibliothecaris te veel werk doet voor dingen die misschien niet belangrijk zijn.

RecMem is een nieuwe, slimmere manier om met geheugen om te gaan. Het werkt meer als een menselijk brein dat een "onderbewuste" buffer gebruikt. Hier is hoe het werkt, met eenvoudige analogieën:

1. De Onderbewuste Buffer (De "Wachtkamer")

In plaats van onmiddellijk je levensverhaal te herschrijven, plaatst RecMem elk nieuw bericht dat je stuurt in een goedkope wachtkamer.

Hoe het werkt: Het gebruikt een klein, goedkoop hulpmiddel (een lichtgewicht embedding-model) om het bericht snel te labelen met een etiket als "Verjaardagstaart" of "Jeans". Het vraagt de dure AI nog niet om erover na te denken.
Het voordeel: Het is alsof je een notitie op een post-it note schrijft. Het is snel en goedkoop.

2. De "Terugkerend Thema" Trigger (Het "Aha-moment")

Dit is het geheim. RecMem schrijft geen samenvatting totdat het een patroon opmerkt.

De Analogie: Stel je voor dat je één keer "Verjaardagstaart" noemt. De bibliothecaris legt het gewoon in de wachtkamer. Je noemt daarna "Jeans". Nog steeds slechts notities in de kamer.
De Trigger: Maar dan kom je terug en praat je opnieuw over "Verjaardagstaart". En misschien een derde keer.
De Actie: Het systeem ziet dat "Verjaardagstaart" een terugkerend thema is. Het beseft: "Ah, dit is belangrijk! Deze persoon blijft hierover praten." Pas nu wordt de dure, krachtige AI wakker om al die notities te lezen en een goede samenvatting te schrijven.
Waarom dit helpt: Als je maar één keer over iets sprak, blijft het een simpele notitie. Als je er veel over praat, krijgt het een volledige samenvatting. Dit bespaart een enorm bedrag aan geld (computer-tokens) omdat de AI niet werkt aan saaie of eenmalige details.

3. De Twee Soorten Geheugen (Het "Verhaal" versus de "Feiten")

Zodra de AI eindelijk wakker wordt om een terugkerend onderwerp samen te vatten, creëert het twee verschillende dingen, net zoals mensen dingen onthouden:

Episodisch Geheugen (De Film): Dit is een samenvatting van het verhaal. "Op dinsdag wilde Mia een taart. Op vrijdag besloot ze voor vanille." Het vangt de stroom van gebeurtenissen op.
Semantisch Geheugen (Het Feitenblad): Soms, bij het samenvatten van een verhaal, vergeet je misschien per ongeluk een klein maar cruciaal detail (zoals "Mia heeft een pinda-allergie"). RecMem heeft een speciale stap genaamd Semantische Verfijning. Het kijkt terug naar de ruwe notities om zeker te zijn dat het geen specifieke feiten heeft gemist. Het haalt de "pinda-allergie" eruit en slaat het op als een op zichzelf staand feit, gescheiden van het verhaal, zodat het nooit verloren gaat.

4. Het Beantwoorden van Vragen (Het "Ophalen")

Wanneer je later een vraag aan de AI stelt, gokt het niet zomaar. Het controleert drie plaatsen:

De Wachtkamer: Voor de ruwe, onbewerkte notities.
De Film (Episodisch): Voor het verhaal van wat er gebeurd is.
Het Feitenblad (Semantisch): Voor specifieke details zoals allergieën of data.

Het combineert deze om je het beste antwoord te geven.

De Resultaten

Het papier testte dit systeem tegen andere topgeheugensystemen.

Kosten: RecMem gebruikte tot 87% minder middelen (tokens) om het geheugen op te bouwen. Het is alsof je dezelfde bibliotheekservice krijgt, maar betaalt voor slechts 13% van de boeken.
Nauwkeurigheid: Ondanks dat het minder geld gebruikte, beantwoordde het vragen nauwkeuriger dan de andere systemen.
Waarom? Omdat het door te wachten tot patronen naar voren kwamen, zijn dure hersenkracht alleen richtte op de dingen die echt belangrijk waren, en zo de "ruis" van eenmalige opmerkingen vermijdt.

Kortom: RecMem voorkomt dat de AI over elk enkel woord nadenkt. In plaats daarvan wacht het om te zien of je genoeg om een onderwerp geeft om er herhaaldelijk over te praten. Als je dat doet, bouwt het een hoogwaardig geheugen op. Als je dat niet doet, houdt het een simpele notitie. Dit maakt langlopende AI-agenten goedkoper, sneller en slimmer.

Technische Samenvatting: RecMem

Probleemstelling

Langdurig werkende Large Language Model (LLM)-agenten hebben robuuste geheugensystemen nodig om de beperkte contextvensters en het "verloren-in-het-midden"-effect te overwinnen. Bestaande geheugensystemen (zoals Mem0, A-Mem, MemoryOS) maken doorgaans gebruik van een eager memory consolidation-schema (dringende geheugenconsolidatie). In dit paradigma triggert elke inkomende interactie tussen gebruiker en agent een LLM-aanroep om feiten te extraheren, gebeurtenissen te samenvatten en deze te samenvoegen tot het langetermijngeheugen. Hoewel dit garandeert dat geen informatie verloren gaat, leidt het tot aanzienlijk tokenverbruik voor de constructie van het geheugen, waardoor deze systemen in de praktijk duur zijn om te implementeren. De auteurs betogen dat het verwerken van elke interactie overkill is, aangezien veel interacties weinig informatie bevatten, ruis vertonen of niets te maken hebben met het bestaande geheugen, en dus geen directe LLM-gebaseerde abstractie rechtvaardigen.

Methodologie: RecMem

RecMem adresseert deze inefficiëntie door te heroverwegen wanneer geheugenconsolidatie moet plaatsvinden, geïnspireerd door theorieën uit de cognitieve wetenschap (Multi-store theorie en Complementary Learning Systems) die suggereren dat alleen herhaalde of terugkerende patronen de consolidatie van tijdelijke ervaringen naar stabiel langetermijngeheugen aandrijven.

RecMem implementeert een drie-laags geheugenarchitectuur:

Subconscieus Geheugen (Lichtgewicht Buffer):
- Inkomende interacties worden opgeslagen als atomaire eenheden (gebruiker-assistent beurten) zonder directe LLM-verwerking.
- Elke eenheid wordt gecodeerd met een lichtgewicht embedding-model ( $\Phi$ ) en geïndexeerd in een vectordatabase.
- Deze laag maakt kosteneffectieve, directe retrieval van ruwe interacties mogelijk zonder de LLM aan te roepen.
Op Recurrentie Gebaseerde Consolidatie-trigger:
- In plaats van elke beurt te verwerken, bewaakt RecMem op semantische recurrentie.
- Wanneer een nieuwe interactie-eenheid arriveert, haalt het systeem semantisch vergelijkbare eenheden op uit het subconscieus geheugen.
- Consolidatie wordt alleen getriggerd als het aantal vergelijkbare interacties ( $|R_i|$ ) een recurrentiedrempel ( $\theta_{count}$ ) overschrijdt en een gelijkaardigheidsdrempel ( $\theta_{sim}$ ) voldoet.
- Dit zorgt ervoor dat een LLM-aanroep alleen plaatsvindt wanneer een cluster van interacties een semantisch cluster vormt met rijke, terugkerende informatie.
Episodisch en Semantisch Geheugen (Hoge-niveau Abstractie):
- Episodisch Geheugen: Zodra getriggerd, genereert het systeem coherente, tijdelijk verankerde verhalen die samenvatten hoe een specifiek onderwerp evolueerde over meerdere beurten. Het hanteert een "merge-first"-strategie om bestaande episodes ter plekke bij te werken, waardoor fragmentatie wordt voorkomen.
- Semantisch Geheugen & Verfijning: Om het potentiële verlies van fijnmazige details tijdens episodische samenvatting tegen te gaan, incorporateert RecMem een Semantische Verfijning-mechanisme. Een LLM wordt aangeroepen om atomaire, hoog-utility feiten (bijv. gebruikersbeperkingen, voorkeuren, specifieke entiteiten) direct uit de ruwe interactie-eenheden die aan de episode gerelateerd zijn, te extraheren. Deze feiten worden onafhankelijk opgeslagen om precieze retrieval voor specifieke queries te garanderen.
Retrieval op Query-tijd:
- Tijdens inferentie haalt het systeem een vast budget aan items op uit alle drie de lagen (Subconscieus, Episodisch, Semantisch) en konditioneert de LLM op deze samengevoegde context om antwoorden te genereren.

Belangrijkste Bijdragen

Identificatie van Inefficiëntie: Het artikel identificeert dat eager memory consolidation voor elke interactie leidt tot prohibitief hoge tokenkosten voor geheugenconstructie.
Op Recurrentie Gebaseerd Paradigma: Geïnspireerd door cognitieve wetenschap, stellen de auteurs een paradigma voor waarbij consolidatie wordt uitgesteld totdat semantische recurrentie wordt waargenomen, wat onnodige LLM-aanroepen aanzienlijk reduceert.
RecMem Architectuur: De presentatie van een drie-laags systeem dat een lichtgewicht subconscieus opslagmiddel combineert met een nieuw semantisch verfijningsmechanisme. Dit ontwerp bereikt hoge nauwkeurigheid terwijl de constructiekosten drastisch worden verlaagd.
Semantische Verfijning: Een mechanisme om fijnmazige feiten die door episodische abstractie zijn weggelaten, te herstellen, zodat het langetermijngeheugen zowel coherent als feitelijk precies blijft.

Experimentele Resultaten

De auteurs evalueerden RecMem op twee benchmarks: LoCoMo (sociale gezelschapschap, ~16k tokens/conversatie) en LongMemEval-S (taakgericht, ~115k tokens/conversatie), waarbij ze het vergeleken met SOTA-baselines (Mem0, A-Mem, MemoryOS) en Full Context/RAG-benaderingen.

Token-efficiëntie: RecMem verlaagde de tokenkosten voor geheugenconstructie met maximaal 87% in vergelijking met SOTA-systemen. Op LoCoMo gebruikte het 193,2K tokens versus 1.520,8K voor Mem0 en 1.459,9K voor A-Mem.
Nauwkeurigheid: Ondanks de drastische vermindering van de constructiekosten behaalde RecMem de hoogste algehele nauwkeurigheid onder alle geheugen-gebaseerde methoden op beide benchmarks.
- Op LoCoMo (GPT-4.1-mini) scoorde RecMem 81,10, presterend beter dan MemoryOS (67,60), Mem0 (62,92) en A-Mem (68,83).
- Op LongMemEval-S behaalde RecMem een algehele score van 76,80, surpasserend MemoryOS (74,40) en anderen.
Temporeel Redeneren: Het systeem toonde een bijzondere sterkte in temporele redeneertaken, toegeschreven aan het vermogen om co-referente vermeldingen over tijd te clusteren en chronologische volgorde binnen clusters te reconstrueren.
Query-kosten: Het tokenverbruik op query-tijd bleef vergelijkbaar met bestaande systemen, wat betekent dat de besparingen op constructie-tijd direct vertalen naar lagere end-to-end kosten.

Betekenis en Claims

Het artikel claimt dat RecMem aantoont dat hoog-trouw langetermijngeheugen niet noodzaakt tot de exhaustieve verwerking van elke interactie. Door geheugenconsolidatie te herformuleren als een dynamisch, op recurrentie gebaseerd proces, daagt RecMem het heersende "eager"-paradigma uit.

De auteurs positioneren hun werk als een oproep aan de gemeenschap om het tijdstip en de noodzaak van informatieconsolidatie in langdurige agent-taken opnieuw te overwegen. Ze benadrukken het behandelen van rekenkosten als een eerste-klasser criterium bij het evalueren van toekomstige geheugensystemen, en betogen dat efficiëntie en effectiviteit niet wederzijds uitsluitend zijn, maar gelijktijdig kunnen worden geoptimaliseerd door selectieve consolidatie. Het werk suggereert dat de "overkill" van het verwerken van elke beurt onnodig is, en dat een systeem gebeurtenis-niveau coherentie en stabiel gebruikersgericht kennis kan behouden door de afhankelijkheid van herhaling voor consolidatie na te bootsen zoals bij het menselijk geheugen.