🤖 AI

Beyond Semantic Organization: Memory as Execution State Management for Long-Horizon Agents

Het artikel introduceert MAGE, een nieuwe geheugenarchitectuur die semantische gelijkenis-gebaseerde retrieval vervangt door een hiërarchische staatboom om executiestaten te beheren, waardoor de prestaties van agenten over lange termijnen worden verbeterd door fouten te isoleren, de groei van de context te begrenzen en de succespercentages van taken aanzienlijk te verhogen terwijl het tokenverbruik wordt verminderd.

Oorspronkelijke auteurs: Yaoqi Chen, Haibin Lai, Yuru Feng, Chuyu Han, Qianxi Zhang, Baotong Lu, Menghao Li, Xinjiang Wang, Zhirui Wang, Shusen Xu, Zengzhong Li, Zewen Jin, Hao Wu, Cheng Li, Qi Chen

Gepubliceerd 2026-06-05

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Yaoqi Chen, Haibin Lai, Yuru Feng, Chuyu Han, Qianxi Zhang, Baotong Lu, Menghao Li, Xinjiang Wang, Zhirui Wang, Shusen Xu, Zengzhong Li, Zewen Jin, Hao Wu, Cheng Li, Qi Chen

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een enorme puzzel van 100 stappen probeert op te lossen waarbij elke zet die je maakt de regels voor de volgende zet verandert. Als je vroeg in de puzzel een fout maakt, kan dit de rest van het proces verruïneren. Dit is wat "long-horizon agents" (AI-assistenten) ervaren bij het uitvoeren van complexe taken, zoals het plannen van een reis of het winkelen voor een bundel compatibele artikelen.

De paper betoogt dat de huidige geheugensystemen van AI lijken op slechte bibliothecarissen, en de auteurs stellen een nieuw systeem voor genaamd MAGE dat meer werkt als een slimme projectmanager.

Hier is de onderverdeling met behulp van eenvoudige analogieën:

Het Probleem: De "Trefwoord-bibliothecaris"

De meeste huidige AI-geheugensystemen werken als een bibliothecaris die dingen alleen onthoudt op basis van trefwoorden.

Hoe het werkt: Als je vraagt: "Wat heb ik gekocht?", zoekt de bibliothecaris naar woorden als "gekocht", "rood" of "schoenen".
De tekortkoming: Dit is alsof je probeert een verhaal te reconstrueren door willekeurige pagina's uit een boek te pakken die toevallig het woord "rood" bevatten. Je krijgt misschien een pagina over een rode auto uit hoofdstuk 1 en een rood shirt uit hoofdstuk 50, maar je mist de volgorde van de gebeurtenissen.
Het resultaat: De AI raakt in de war. Het kan een correct pad verwarren met een foutief pad, of vergeten dat een specifieke beslissing afhankelijk was van een eerdere stap. Het is alsof je een auto bestuurt terwijl je alleen naar verspreide verkeersborden kijkt in plaats van naar de weg die voor je ligt.

De Oplossing: MAGE (De "Projectmanager")

De auteurs stellen MAGE voor (Memory as Agent-Guided Exploration). In plaats van een bibliotheek, behandelt MAGE het geheugen als een groeiende stamboom of een "kies je eigen avontuur"-boek.

In plaats van alleen feiten op te slaan, slaat MAGE de toestand van de reis op. Het organiseert de geschiedenis van de AI in een boom met twee lagen:

De onderste laag (De ruwe voetstappen): Dit legt elke stap vast die de AI heeft gezet, als een gedetillerd dagboek van "Ik liep hierheen, toen zag ik dit."
De bovenste laag (De samenvattingen): Wanneer de AI een klein doel (een "subgoal") voltooit, vat MAGE deze stappen samen in één overzichtelijke notitie. Dit voorkomt dat het "dagboek" te lang en rommelig wordt.

Hoe MAGE werkt: De vier zetten

MAGE beheert deze boom met vier specifieke acties, vergelijkbaar met hoe een mens een complex project beheert:

Grow (Blijven lopen): Terwijl de AI een nieuwe stap zet, voegt MAGE deze toe aan de onderkant van de boom. Als de AI een pad probeert te bewandelen dat hij al eerder heeft verkend, beweegt hij gewoon naar die bestaande tak in plaats van een nieuwe tak te beginnen.
Compress (Samenvatten): Wanneer een subdoel is voltooid, neemt MAGE al die rommelige stappen en verandert ze in één heldere samenvatting. Dit bespaart ruimte (zoals het comprimeren van een videobestand) zonder de belangrijke plotpunten te verliezen.
Maintain (De kwaliteitscontrole): Voordat de AI een samenvatting als "waarheid" accepteert, controleert MAGE dit dubbel. Hebben we het doel daadwerkelijk voltooid? Is de samenvatting accuraat? Zo niet, dan wordt er direct een fout gemeld.
Revise (De "Ongedaan maken"-knop): Dit is de superkracht. Als de AI een fout maakt, verwijdert MAGE niet alleen het hele geheugen. Het tak af. Het snijdt de boom af op het punt waar de fout plaatsvond, behoudt de goede delen van vóór de fout, en begint een nieuwe tak om het opnieuw te proberen. Dit isoleert de fout zodat deze de rest van de reis niet vergiftigt.

Waarom het ertoe doet: De resultaten

De auteurs hebben dit getest op een benchmark genaamd MemoryArena, die complexe taken simuleert zoals het winkelen voor artikelen die met elkaar moeten matchen of het plannen van een reis voor een groep.

Betere succesratio: MAGE loste taken 7,8% tot 20,4% vaker op dan andere systemen. Het raakte niet verdwaald in zijn eigen geschiedenis.
Goedkoper in gebruik: Omdat MAGE oude stappen samenvat en alleen het relevante "huidige pad" in het actieve geheugen houdt, gebruikte het 55% minder computer-tokens (de "brandstof" die AI nodig heeft om na te denken) vergeleken met systemen die proberen alles tegelijk te onthouden.

De Kernboodschap

De paper stelt dat voor AI om lange, complexe taken aan te kunnen, het niet alleen een "zoekmachine" voor het verleden moet zijn. Het moet een executiebeheerder zijn die de stroom van zijn eigen acties begrijpt. Door het geheugen te organiseren als een boom van toestanden in plaats van een verzameling vergelijkbare feiten, houdt MAGE de AI op het juiste pad, vangt het fouten vroegtijdig op en bespaart het geld door geen energie te verspillen aan irrelevante geschiedenis.

Technische Samenvatting: Voorbij Semantische Organisatie: Geheugen als Executie-toestandsbeheer voor Long-Horizon Agents

1. Probleemstelling

Het artikel behandelt de uitdaging van het beheren van geheugen voor Large Language Model (LLM) agents die long-horizon taken met onderling afhankelijke beslissingen aanpakken. In deze scenario's, zoals meerstaps webwinkelen of complexe planning, vormt elke actie toekomstige beperkingen opnieuw, en kunnen tussenliggende fouten een cascade veroorzaken die de daaropvolgende voortgang ongeldig maakt.

De auteurs stellen dat bestaande geheugensystemen (inclusief RAG en diverse agent-geheugenarchitecturen) lijden aan een fundamentele ontwerp-mismatch:

Semantisch versus Toestandsafhankelijkheid: Huidige systemen organiseren de geschiedenis op basis van semantische gelijkenis (inhoudelijke relevantie voor de huidige query) in plaats van executie-toestandsafhankelijkheden (de causale keten van beslissingen).
Toestandsfragmentatie: Door semantisch gelijkaardige maar structureel niet-verbonden vermeldingen op te halen, fragmenteren deze systemen het beslissingstraject. Cruciale context die stappen aan elkaar bindt, wordt vaak weggegooid, wat de reconstructie van een coherente executietoestand verhindert.
Foutbesmetting: Gelijkenis-gebaseerde retrieval mengt geldige en foutieve traces van verschillende exploratiepogingen. Zonder expliciete padstructuren kunnen fouten niet worden geïsoleerd, wat leidt tot hun propagatie en accumulatie.
Inefficiëntie: Paradoxaal genoeg verbruiken veel geheugensystemen meer tokens dan simpelweg de volledige geschiedenis behouden (long-context benadering), terwijl ze nog steeds minder presteren in termen van taaksuccespercentages.

2. Methodologie: MAGE

De auteurs stellen MAGE (Memory as Agent-Guided Exploration) voor, een framework dat geheugen herdefinieert van een passief semantisch archief naar een actieve manager van de executietoestand. MAGE is geïnspireerd door cognitieve mechanismen bij menselijke complexe taakuitvoering, specifiek hiërarchische chunking, foutmonitoring en selectieve correctie.

Kernarchitectuur: Hiërarchische Executie-toestandsboom

MAGE organiseert de geschiedenis van de agent als een twee-laagse hiërarchische toestandsboom:

Onderste laag (Raw Trace): Legt stap-voor-stap actie-observatie paren ( $a_t, o_t$ ) vast in de volgorde van uitvoering. Dit behoudt fijnmazige toestandsafhankelijkheden.
Bovenste laag (Compressed Subgoals): Slaat samenvattingsnodes op die zijn gegenereerd bij subdoel- of beslissingsgrenzen. Deze comprimeren aaneengesloten segmenten van de onderste laag tot compacte toestanden.

De huidige executietoestand van de agent wordt strikt afgeleid van het actieve wortel-naar-huidige pad van deze boom, in plaats van het samenstellen van losstaande vermeldingen via retrieval. Dit pad combineert:

Gecomprimeerde Toestand ( $C$ ): Samenvattingen van voltooide subdoelen.
Ruwe Toestand ( $R$ ): Recente, niet-gecomprimeerde actie-observatie traces.
Executie-hints ( $H$ ): Informatie van broer-takken (gefaalde alternatieven) en diagnostische noten om toekomstige beslissingen te sturen.

Vier Gekoppelde Operaties

MAGE onderhoudt deze boom via een closed-loop cyclus van vier operaties:

Grow (Groeien): Voegt nieuwe actie-observatie paren toe aan de onderste laag. Als een node met identieke inhoud bestaat (uit een eerdere exploratie), wordt de pointer erheen gemerged; anders wordt een nieuwe node aangemaakt. Dit breidt de ruwe trace uit en werkt de executie-hints bij.
Compress (Comprimeren): Wordt getriggerd wanneer een subdoel voltooid is of de ruwe trace een drempelwaarde overschrijdt. Het vervangt een voltooid segment van de onderste laag door een samenvattingsnode in de bovenste laag. Dit begrenst de contextgroei terwijl de beslissingsgrens die nodig is voor toekomstige herstel wordt behouden.
Maintain (Onderhouden): Een validatiestap die direct na compressie wordt uitgevoerd. Een LLM verifieert de samenvatting en de onderliggende trace tegen de taalinstructies. Als er fouten of ontbrekende informatie worden gedetecteerd, legt het diagnostische feedback vast en signaleert het een fout.
Revise (Herzien): Wordt getriggerd door een validatiefout of proactieve foutdetectie. Het herstelt de actieve pointers ( $p_b, p_t$ ) naar een doelgrens (de toestand vóór de fout), verwijdert het foutieve segment en hervat de uitvoering als een nieuwe tak (broer-pad). Dit isoleert de fout van het actieve pad terwijl de geldige voortgang behouden blijft.

3. Belangrijkste Bijdragen

Paradigmaverschuiving: De voorstel van MAGE, die de agentische geheugenbeheer verschuift van gelijkenis-gestuurde retrieval naar compacte executie-toestandsbeheer via een twee-laagse hiërarchische boom.
Closed-Loop Toestandsbeheer: Het ontwerp van vier gekoppelde operaties (Grow, Compress, Maintain, Revise) die geheugen behandelen als een door een agent manipuleerbaar object. Deze cyclus isoleert fouten in aparte takken, waardoor de actieve executietoestand vrij blijft van foutieve traces.
Empirische Validatie: Demonstratie op de MemoryArena benchmark waar MAGE een superieur taakprestatievermogen bereikt met aanzienlijk lager tokenverbruik vergeleken met zowel long-context baselines als bestaande geheugen/RAG-systemen.

4. Experimentele Resultaten

Experimenten werden uitgevoerd op MemoryArena, een benchmark met onderling afhankelijke long-horizon taken over vier domeinen: Bundled Web Shopping, Group Travel Planning, Progressive Web Search en Formele Redenering.

Taaksuccespercentage (SR): MAGE verbeterde het gemiddelde taaksuccespercentage met 7,8–20,4 procentpunt ten opzichte van baselines (inclusief long-context, HippoRAG2, MemoRAG, Mem0, etc.).
Token Efficiëntie: MAGE verminderde het tokenverbruik met gemiddeld 55,1% vergeleken met de long-context benadering. In tegen tegenstelling tot andere geheugensystemen die vaak overhead hebben door extractie en query-herschrijving, minimaliseren de deterministische boom-onderhoud en grens-bewuste compressie van MAGE de hulp-LLM calls.
Ablatie-studies: Het verwijderen van een van de drie kernmechanismen (Compress, Maintain of Revise) resulteerde in significante prestatiedalingen, wat bevestigt dat de volledige closed-loop cyclus noodzakelijk is voor betrouwbaar toestandsbeheer.
Generalisatie: De resultaten hielden stand over verschillende backend-modellen (Qwen3.6-27B, Qwen3.6-35B, en Gemma4-31B), wat aangeeft dat de aanpak niet gebonden is aan een specifieke modelarchitectuur.

5. Betekenis en Claims

Het artikel claimt dat de sleutel tot betrouwbare en efficiënte long-horizon agents ligt in het behouden van de executie-toestandsstructuur in plaats van het optimaliseren voor semantische retrieval.

Toestandsintegriteit: Door de huidige toestand te construeren vanuit een enkel actief pad in een hiërarchische boom, voorkomt MAGE de fragmentatie die de huidige systemen op basis van gelijkenis teistert.
Foutisolatie: De boomstructuur maakt expliciete vertakking en revisie mogelijk, waardoor de agent problematische segmenten kan quarantaine zonder de geldige historische voortgang te verliezen.
Efficiëntie: De grens-bewuste compressiestrategie begrenst de contextgroei zonder de toestandsafhankelijkheden te verbreken, waarmee een "sweet spot" wordt bereikt van hoog taaksucces en lage tokenkosten (de "upper-left" regio in prestatie-efficiëntie plots).

De auteurs concluderen dat het behandelen van geheugen als een actieve executie-toestandsmanager een fundamenteel principe is voor het bouwen van robuuste LLM agents die in staat zijn complexe, real-world taken aan te pakken waarbij beslissingen onderling afhankelijk zijn en fouten kostbaar zijn.