💬 NLP

EvoArena: Tracking Memory Evolution for Robust LLM Agents in Dynamic Environments

Dit artikel introduceert EvoArena, een benchmarksuite voor het evalueren van LLM-agenten in dynamische omgevingen, en stelt EvoMem voor, een patch-gebaseerd geheugenparadigma dat de evolutie van de omgeving bijhoudt om de prestaties van agenten op zowel evoluerende als standaard taken aanzienlijk te verbeteren.

Oorspronkelijke auteurs: Jundong Xu, Qingchuan Li, Jiaying Wu, Yihuai Lan, Shuyue Stella Li, Huichi Zhou, Bowen Jiang, Lei Wang, Jun Wang, Anh Tuan Luu, Caiming Xiong, Hae Won Park, Bryan Hooi, Zhiyuan Hu

Gepubliceerd 2026-06-12

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Jundong Xu, Qingchuan Li, Jiaying Wu, Yihuai Lan, Shuyue Stella Li, Huichi Zhou, Bowen Jiang, Lei Wang, Jun Wang, Anh Tuan Luu, Caiming Xiong, Hae Won Park, Bryan Hooi, Zhiyuan Hu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Probleem: De "Statische Snapshot"-valstrik

Stel je voor dat je een zeer slimme persoonlijke assistent (een AI-agent) inhuurt om je leven te beheren. Je geeft hem een lijst met regels: "Ik drink op maandag koffie," "Mijn kantoor is op de 3e verdieping," en "Ik gebruik de blauwe pen."

In de meeste huidige tests geven onderzoekers deze assistent een statische snapshot van je leven. Ze vragen: "Wat drink je op maandag?" De assistent kijkt naar de snapshot en zegt: "Koffie." Perfect!

Maar in de echte wereld is het leven geen snapshot; het is een film.

Op dinsdag krijg je een nieuwe baan op de 5e verdieping.
Op woensdag besluit je dat je een hekel hebt aan koffie en stap je over op thee.
Op donderdag veranderen de beveiligingsregels van je kantoorgebouw, waardoor je de blauwe pen niet meer kunt gebruiken.

Het paper betoogt dat huidige AI-assistenten slecht zijn in het omgaan met deze "filmversie" van de werkelijkheid. Als je ze op vrijdag vraagt: "Wat dronk je op maandag?", zeggen ze misschien nog steeds "Koffie", omdat ze alleen het laatste ding onthouden dat ze te horen kregen, of ze raken in de war omdat hun geheugen is overschreven. Ze realiseren zich niet dat de regels door de tijd heen zijn veranderd.

De Oplossing: EvoArena (De "Tijdreis"-test)

Om dit op te lossen, hebben de auteurs een nieuwe testomgeving gebouwd genaamd EvoArena. Zie dit als een level in een videogame waarbij de regels van het spel veranderen elke keer dat je een ronde speelt, maar het doel hetzelfde blijft.

Ze creëerden drie specifieke "werelden" om de AI te testen:

De Terminal Wereld: Stel je een computer command line voor waar de bestandspaden, wachtwoorden en softwareversies veranderen elke keer dat je een script probeert uit te voeren. Het doel (bijv. "upload dit bestand") blijft hetzelfde, maar het hoe verandert.
De Code Wereld: Stel je een softwareproject voor waarbij de codebase constant wordt bijgewerkt. Een fix die je gisteren maakte, kan vandaag een functie breken die je nodig hebt. De AI moet weten welke oude code nog geldig is en welke verouderd is.
De Sociale Wereld: Stel je een lang gesprek voor waarin de voorkeuren van een gebruiker langzaam verschuiven. "Ik hield vroeger van pittig eten, toen kreeg ik buikpijn, nu houd ik van mild eten, maar alleen in het weekend." De AI moet deze geschiedenis bijhouden om de juiste aanbeveling te doen.

Het Resultaat: Toen ze top-tier AI-agents testten op EvoArena, hadden ze moeite. Ze slaagden slechts voor ongeveer 40% van de taken. Ze bleven oude regels gebruiken voor nieuwe situaties, zoals proberen een moderne deur te openen met een antieke sleutel.

De Innovatie: EvoMem (De "Git voor Geheugen")

De auteurs realiseerden zich dat het probleem lag in de manier waarop de AI zijn geheugen opslaat. De meeste AI's werken als een whiteboard: je schrijft iets nieuws en het wist het oude deel uit. Als je "Ik hou van thee" over "Ik hou van koffie" schrijft, is de koffie voor altijd weg.

Ze stelden een nieuw geheugensysteem voor genaamd EvoMem.

De Analogie: Git voor je Brein
Denk aan EvoMem als Git, een tool die programmeurs gebruiken om wijzigingen in code bij te houden.

Normaal Geheugen (Het Whiteboard): Je schrijft "Ik hou van thee." De oude notitie "koffie" wordt gewist.
EvoMem (De Git Log): Je wist "koffie" niet. In plaats daarvan voeg je een nieuwe notitie toe: "Update: Gebruiker is op dinsdag overgestapt van koffie naar thee vanwege buikpijn."

EvoMem houdt een patch-geschiedenis bij. Het legt vast:

Wat is er veranderd? (Koffie $\to$ Thee)
Waarom is het veranderd? (Buikpijn)
Wanneer was de oude regel geldig? (Vóór dinsdag)

Wanneer de AI een vraag moet beantwoorden, kijkt hij niet alleen naar de "huidige" staat. Hij kijkt naar de geschiedenis van de wijzigingen. Als de vraag gaat over "maandagochtend" (vóór de buikpijn), helpt EvoMem de AI te herinneren: "Ah, op maandag was de regel nog steeds koffie!"

Hoe het in de praktijk werkt

Het paper testte dit nieuwe geheugensysteem op dezelfde moeilijke EvoArena-tests.

De "Step" Test: Kan de AI één specifieke taak oplossen in de veranderende omgeving?
- Resultaat: EvoMem hielp een klein beetje (ongeveer 1,5% beter).
De "Chain" Test: Kan de AI een volledige reeks gerelateerde taken oplossen zonder fouten te maken? Dit is het moeilijke deel.
- Resultaat: EvoMem hielp enorm! Het verbeterde het succespercentage met gemiddeld 3,7%.

Waarom de "Chain" test belangrijk is:
Stel je voor dat je een huis bouwt.

Stap 1: Je legt de fundering.
Stap 2: Je beseft dat de grond nat is, dus je verandert het plan voor de fundering.
Stp 3: Je bouwt de muren.

Als je geheugen een whiteboard is, kun je bij Stap 3 vergeten dat de grond nat was en de oorspronkelijke funderingsplannen proberen te gebruiken, waardoor het huis instort.
Als je geheugen EvoMem is, heb je een logboek dat zegt: "We hebben de fundering in Stap 2 aangepast vanwege de natte grond." Wanneer je bij Stap 3 komt, herinner je je om de nieuwe fundering aan te houden.

De Belangrijkste Conclusies

Huidige AI's zijn "Amnesiacs": Ze zijn geweldig in statische taken, maar slecht in het bijhouden van hoe de wereld in de loop van de tijd verandert. Ze vergeten vaak dat een regel die ze gisteren leerden, vandaag misschien niet meer geldt.
EvoArena is de Stress-test: Het bewijst dat echte implementatie in de echte wereld vereist dat agents omgaan met evoluerende omgevingen, niet alleen met statische snapshots.
EvoMem is de Oplossing: Door geheugen te behandelen als een geschiedenis van updates (patches) in plaats van een enkele huidige staat, kunnen agents beter redeneren. Ze weten wat er veranderde, waarom het veranderde en wanneer de oude regels nog van toepassing waren.
Het Werkt Overal: Deze verbetering was niet beperkt tot de nieuwe tests; het maakte de AI's ook iets beter in standaard, niet-veranderende taken (zoals GAIA en LoCoMo), wat suggereert dat het hebben van een "geschiedenislogboek" de AI in het algemeen helpt helderder na te denken.

Kortom, het paper zegt: Om een betrouwbare AI-assistent voor de echte wereld te bouwen, moeten we stoppen met het behandelen van zijn geheugen als een whiteboard en beginnen met het behandelen als een versiebeheerend geschiedenisboek.

Technische Samenvatting: EvoArena en EvoMem

Probleemstelling

Large Language Model (LLM) agents hebben sterke prestaties laten zien op benchmarks die betrekking hebben op webnavigatie, software engineering en het gebruik van tools. Echter, deze evaluaties gaan overwegend uit van statische omgevingen, waarbij interfaces, regels, codestanden en taakverdelingen vaststaan zodra de benchmark is geconstrueerd. In real-world deployment opereren agents in dynamische omgevingen waar condities persistent evolueren over tijd (bijv. API-updates, workflow-wijzigingen, codebase-refactoring en verschuivende gebruikersvoorkeuren).

Huidige agentsystemen falen vaak in deze settings door state collapse (toestand-instorting). De meeste geheugen-gebaseerde agents onderhouden een enkele nieuwste toestand (bijv. een opgehaalde geheugenbank of episodische opslag). Hoewel dit effectief is wanneer nieuwe informatie oude informatie veilig vervangt, wordt dit ontwerp fragiel wanneer verschillende versies van een omgeving verschillende gedragingen vereisen. Bijvoorbeeld: een update van werkwoord-permissies kan een eerdere regel overschrijven die nog steeds geldig is voor een specifieke legacy-release of organisatie. Bijgevolg verliezen agents de context die verklaart wanneer vorige gedragingen geldig waren, wat leidt tot het hergebruik van verouderde procedures. Er is een kritiek gat in het evalueren en verbeteren van de robuustheid van agents onder persistente omgevingsevolutie.

Methodologie

1. EvoArena: Een Benchmark Suite voor Persistente Evolutie

Om het gebrek aan dynamische evaluatie aan te pakken, introduceren de auteurs EvoArena, een benchmark suite die omgevingsveranderingen modelleert als sequenties van progressieve updates over drie domeinen:

Terminal-Bench-Evo (Executable Workflow Evolution): Converteert statische terminal-taken naar versiebeheerde ketens. Het onderliggende doel blijft constant, maar operationele beperkingen evolueren over versies heen, inclusief wijzigingen in I/O-paden, CLI/API-interfaces, afhankelijkheden, workspace-lay-outs en beveiligingsbeleid. Elke keten bestaat uit 4–5 versies waarbij latere versies de gerealiseerde omgeving van eerdere versies erven.
SWE-Chain-Evo (Software Evolution): Organiseert software-repositories in chronologische ketens van mijlpalen. Agents moeten gelokaliseerde ontwikkelingsdoelen oplossen (bijv. bugfixes, feature-toevoegingen) waarbij de codebase veranderingen van vorige mijlpalen accumuleert. De evaluatie test of agents nieuwe vereisten kunnen implementeren zonder eerder vastgestelde gedragingen te laten regresseren (gemeten via Pass-to-Pass tests).
PersonaMem-Evo (Social Intelligence Evolution): Breidt personalisatie-benchmarks uit om evoluerende gebruikersvoorkeuren te modelleren. In plaats van statische profielen interageren agents met langdurige conversaties waarin gebruikersvoorkeuren in de loop van de tijd verschuiven (bijv. veranderende drankvoorkeuren op basis van nieuwe ervaringen). De benchmark bevat vragen die vereisen dat agents huidige voorkeuren afleiden uit verspreide historische bewijslast, waarbij onderscheid wordt gemaakt tussen verouderde en geldige toestanden.

EvoArena evalueert agents met twee metrieken:

Step Accuracy: Succes op individuele geëvolueerde taken.
Chain Accuracy: Succes op een sequentie van gekoppelde taken, wat vereist dat de agent betrouwbaarheid behoudt over de gehele evolutiegeschiedenis zonder fouten.

2. EvoMem: Een Patch-gebaseerd Geheugenparadigma

Om de prestaties van agents in deze dynamische settings te verbeteren, stellen de auteurs EvoMem voor, een lichtgewicht, git-achtig geheugenparadigma. In tegen tegenstelling tot standaard geheugensystemen die updates consolideren in een enkele toestand, behandelt EvoMem geheugenupdates als een append-only patch geschiedenis.

Patch Recording: Wanneer een agent zijn geheugen bijwerkt, legt EvoMem niet-additieve veranderingen (revisies, overschrijvingen, herinterpretaties) vast als expliciete patches. Elke patch $p_t$ $p_{t}$ legt vast:
- $\tau_t$ : Temporele metadata (beurt, sessie).
- $C^-_t, C^+_t$ : Geheugeninhoud vóór en na de update.
- $r_t$ : De rationale voor de update.
- $z_t$ : Een semantische samenvatting van de verandering.
- $e_t$ : Ondersteunend bewijs (triggerende context, feedback).
Patch-Augmented Retrieval: Tijdens inferentie haalt het systeem standaard de nieuwste geheugenstatus op. Echter, als een query afhankelijk is van overschreven toestanden, temporele veranderingen of versie-specifieke gedragingen, haalt het systeem selectief relevante historische patches op. Dit stelt de agent in staat om te redeneren over waarom een toestand veranderde en wanneer een eerdere toestand geldig was.

EvoMem wordt geïnstantieerd binnen verschillende agent-architecturen (Terminus2, OpenHands, A-Mem, Memento-Skill) door specifieke schema's te definiëren voor wat een "patch" in die context inhoudt (bijv. strategieverschuivingen in terminal-taken, code-logica revisies in software engineering, of voorkeursupdates in conversaties).

Belangrijkste Bijdragen

EvoArena Benchmark: Een uitgebreide suite die agents evalueert onder persistente omgevingsevolutie over terminal-workflows, software-repositories en sociale voorkeuren. Het introduceert Chain Accuracy als een strengere metriek voor duurzame betrouwbaarheid.
EvoMem Paradigma: Een geheugenarchitectuur die sporen van omgevingsevolutie bewaart. Door geheugenupdates vast te leggen als gestructureerde patches met rationales en bewijs, stelt het agents in staat om te redeneren over versie-afhankelijke toestanden in plaats van enkel te vertrouwen op de nieuwste geconsolideerde toestand.
Empirische Analyse: Demonstraties dat bestaande agents aanzienlijk worstelen in evoluerende omgevingen en dat EvoMem de robuustheid, het behoud van bewijslast en de chain-level prestaties consistent verbetert.

Experimentele Resultaten

Prestaties op EvoArena

Experimenten over meerdere backbone modellen (GPT-5.5, Gemini-3.1-Pro, Kimi-K2.6, etc.) en agent-frameworks onthullen:

Baselines worstelen: Huidige agents bereiken een matige step-level nauwkeurigheid (gemiddeld ~43,6% op Terminal-Bench-Evo, ~27,9% op SWE-Chain-Evo, en ~47,3% op PersonaMem-Evo) maar lijden onder significante dalingen in Chain Accuracy (bijv. dalend naar ~21,5% op Terminal-Bench-Evo). Dit geeft aan dat het oplossen van geïsoleerde stappen geen betrouwbaarheid garandeert over evoluerende ketens.
EvoMem Verbeteringen: Het integreren van EvoMem verbetert de prestaties consistent:
- Op Step Level: Gemiddelde winsten van +2,4% (Terminal), +0,4% (SWE), en +1,7% (Persona).
- Op Chain Level: Grotere winsten worden waargenomen op chain-niveau, met gemiddelde verbeteringen van +6,1% (Terminal), +2,1% (SWE), en +3,2% (Persona). Dit suggereert dat EvoMem bijzonder effectief is voor het handhaven van consistentie over afhankelijke taaksequenties.

Generalisatie naar Standaard Benchmarks

EvoMem verbetert ook de prestaties op standaard, niet-evoluerende benchmarks:

GAIA: +6,1% gemiddelde verbetering.
LoCoMo: +4,8% gemiddelde verbetering.
Dit suggereert dat het bewaren van de updategeschiedenis als doorzoekbare bewijslast agents zelfs in statische settings ten goede komt, waarschijnlijk door het verbeteren van long-horizon redeneren en het verminderen van hallucinaties over het verleden.

Mechanistische Analyse

Operationalisering: In Terminal-Bench-Evo zijn de winsten het hoogst wanneer agents niet alleen patch-voorbeelden ophalen, maar deze ook operationaliseren—door de transitie-informatie te integreren in hun redenering en uitgevoerde commando's.
Reductie van Regressie: In SWE-Chain-Evo vermindert EvoMem aanzienlijk de Pass-to-Pass failures (regressies), wat duidt op een betere preservatie van historische code-constraints.
Bewijsbehoud: In PersonaMem-Evo verbetert EvoMem de row-level evidence capture, wat betekent dat het de volledige set aan voorkeursbewijs beter bewaart voor downstream redenering, met name voor vragen over temporele trajecten en multi-pattern synthese.

Betekenis en Claims

Het paper claimt dat betrouwbare agent-deployment in real-world settings vereist dat geheugen niet wordt behandeld als een statische snapshot, maar als een evoluerende geschiedenis van gegronde updates.

Het Gat Dichten: EvoArena adresseert de disconnect tussen statische benchmark-evaluaties en de dynamische aard van real-world deployment, waar API's, workflows en gebruikersbehoeften continu veranderen.
Versie-bewuste Redenering: De resultaten benadrukken dat agents het nieuwste geheugen moeten behouden terwijl ze in staat moeten zijn om relevante eerdere toestanden te herstellen en te redeneren over waarom updates plaatsvonden.
Ontwerpimplicatie: De auteurs stellen dat robuuste agent-geheugensystemen de updategeschiedenissen moeten bewaren als doorzoekbare bewijslast. Deze aanpak stelt agents in staat om onderscheid te maken tussen huidige kennis en voorheen geldige kennis, waardoor het toepassen van verouderde gedragingen wordt voorkomen.

De studie concludeert dat het modelleren van evolutie in zowel evaluatie (via EvoArena) als geheugenarchitectuur (via EvoMem) essentieel is voor het bouren van agents die betrouwbaar kunnen adapteren aan veranderende condities.