Technische Samenvatting: S3Mem – Gestructureerde spatiotemporale scène-gebeurtenisgeheugen voor interactieve vraag-antwoordsystemen met lange horizon

1. Probleemstelling

Interactieve agenten met een lange horizon verzamelen uitgebreide trajectgeschiedenissen, maar falen vaak bij het beantwoorden van vragen over eerdere gebeurtenissen. Het artikel betoogt dat de primaire bottleneck niet slechts de contextlengte is, maar de traject-naar-antwoord-interface van het langetermijngeheugen.

Huidige benaderingen externaliseren trajectgeschiedenis doorgaans als platte tekstbrokken en halen de top-$k$ fragmenten op met behulp van standaard Retrieval-Augmented Generation (RAG). Hoewel dit effectief is voor korte contexten, faalt deze "platte" aanpak in situaties met een lange horizon om drie redenen:

1. Structurele Uitwissing: Het schrijven van trajecten als platte tekst vernietigt de scène-, gebeurtenis-, staat- en temporele structuur die nodig is voor afgeleid redeneren.
2. Ketting-Onvolledige Opvraging: Op oppervlakkige gelijkenis gebaseerde opvraging geeft vaak lokaal relevante fragmenten terug die de globale kettingvolledigheid missen die nodig is voor multi-hop redeneren (bijvoorbeeld: "Wat gebeurde twee stappen na het tweede bezoek?").
3. Inefficiënte Blootstelling van Bewijs: Het antwoordstadium ontvangt lange, ongestructureerde fragmenten, waardoor het model de bewijsketen zelf moet reconstrueren, wat token-inefficiënt en foutgevoelig is.

De kernuitdaging wordt gedefinieerd als een episodisch bewijsopbouwprobleem: hoe schrijf, haal en bloot je het juiste gestructureerde bewijs uit het eigen traject van een agent onder een strikt tokenbudget.

2. Methodologie: S3Mem

S3Mem is een gestructureerd scène-gebeurtenis episodisch geheugenkader dat is ontworpen om lange agenttrajecten om te zetten in een compacte, vraag-uitgelijnde bewijsketen. Het werkt via vier distincte fasen:

2.1 Gestructureerde Scène-Gebeurtenis Schrijffase

In plaats van geschiedenis te platvatten tot generieke tekst, schrijft S3Mem elke interactiestap (of lokaal segment) als een gestructureerde geheugeneenheid.

• Schema: Elke eenheid $m_t$ bevat specifieke velden: stapindex ($t$), actie ($a_t$), opvallende objecten ($O_t$), lokale gebeurtenistypen ($E_t$), relaties ($R_t$), lokale staat/inventaris ($S_t$), locatie/spatiale context ($L_t$), en een korte ruwe samenvatting ($u_t$).
• Omgevingsaanpassing: Het schema varieert per omgeving (bijvoorbeeld: nadruk op spatiale relaties in Crafter versus inventaris en itemwinsten in ALFWorld), maar behoudt altijd de gezamenlijke representatie van scène, gebeurtenis, staat en temporele context.

2.2 Anker-Gevoelige Opvraging

S3Mem gaat voorbij oppervlakkige gelijkenis door anker-gevoelige opvraging uit te voeren. Het extrahert expliciet een anker-tuple $A(q)$ uit de vraag, bestaande uit:

• Doel-stap ankers: Direct genoemde stappen.
• Voorkomings-ankers: Specifieke voorkomens (bijvoorbeeld: "tweede bezoek", "laatste keer").
• Staatsovergangs-ankers: Sleutelgebeurtenissen zoals itemwinsten of locatieveranderingen.

Opvraging verloopt in twee fasen:

1. Initiële Zoekopdracht: Standaard tekstgebaseerde kandidaat-zoekopdracht.
2. Anker-bewuste Herordening: Kandidaten worden herordend met behulp van een scorefunctie die eenheden prioriteert met hoge ankercompatibiliteit ($s_{anchor}$) en lokale kettingondersteuning ($s_{chain}$), niet alleen lexische gelijkenis ($s_{text}$). Dit zorgt voor de opvraging van de volledige bewijsketen rondom een specifiek anker.

2.3 Token-budget-bewuste Bewijsinterface

Om efficiëntie aan te pakken, construeert S3Mem een compacte bewijsinterface onder een vast tokenbudget $B$.

• Inpakstrategie: Een gulzige inpakalgoritme selecteert eenheden op basis van prioriteit: (1) anker-dragende stappen, (2) minimale lokale buurten die nodig zijn om temporele verschuivingen of staatsovergangen te ondersteunen, en (3) ontbrekende staatsfacten.
• Differentiatie: In tegenstelling tot generieke samenvattingen, comprimeert deze fase niet willekeurig; het behoudt de beslissende bewijsketen terwijl ketting-redundante of ketting-irrelevante eenheden worden verwijderd.

2.4 Antwoord-tijd Laag

Het systeem bloot deze compacte, gestructureerde bewijsset bloot aan een bevroren antwoord-tijd laag. Het artikel evalueert dit onder een "huidig bevroren antwoord-tijd protocol", waarbij S3Mem wordt behandeld als een gestructureerde geheugeninterface in plaats van een volledig end-to-end agent-besturingssysteem.

3. Belangrijkste Bijdragen

1. Methodologisch: Introductie van S3Mem, een unificerend kader voor gestructureerd schrijven, anker-gevoelige opvraging en budget-bewuste bewijsblootstelling, specifiek toegesneden op interactieve vraag-antwoordsystemen met lange horizon.
2. Empirisch: Vestiging van een sterkere nauwkeurigheids-efficiëntie grens over vier omgevingen (Crafter, Jericho, ScienceWorld, ALFWorld). S3Mem presteert consequent beter dan Vanilla RAG en Graph-NoReader, terwijl het aanzienlijk minder bewijstokens verbruikt.
3. Interpretatief: Een begrenste bewering dat de prestatiewinst voortkomt uit de gestructureerde bewijsbeugel (schrijven + ophalen + inpakken) in plaats van generiek geheugenopslag of uitsluitend verhoogde contextlengte. Dit wordt gevalideerd door uitgebreide controles, waaronder recente baselines (A-MEM, MemoryOS, LightMem), schrijfkant-ablaties en controles voor generieke compressie.

4. Experimentele Resultaten

De evaluatie beslaat interne hoofdonderwerpen (Crafter, Jericho) en omgevingen buiten de familie (ScienceWorld, ALFWorld).

• Nauwkeurigheid versus Efficiëntie: S3Mem bereikt hogere Exact Match (EM) scores dan Vanilla RAG en Graph-NoReader, terwijl het dramatisch minder bewijstokens verbruikt.
  • Op Crafter presteert S3Mem (EM $\approx$ 0,72) beter dan Graph-NoReader (EM $\approx$ 0,70) met ongeveer 140 tokens versus ongeveer 1600+ tokens.
  • Op ALFWorld toont S3Mem sterke nauwkeurigheids- en efficiëntiewinsten ten opzichte van alle baselines.
  • Op ScienceWorld komt S3Mem de nauwkeurigheid van Graph-NoReader overeen terwijl het slechts een fractie van de tokens gebruikt, wat efficiëntiegeneralisatie aantoont.
• Vergelijking met Recente Baselines: Aangepaste versies van A-MEM, MemoryOS en LightMem verbeteren Vanilla RAG in sommige situaties, maar slagen er niet in de algehele grens van S3Mem te evenaren.
• Ablatiestudies:
  • Schrijfkant: Volledige scène-gebeurtenis schrijven presteert aanzienlijk beter dan varianten die alleen gebeurtenissen, objecten of platte brokken gebruiken, wat de noodzaak van een gezamenlijke structurele representatie bevestigt.
  • Ankergevoeligheid: Het verwijderen van ankerherstel ("no_seed") veroorzaakt de grootste prestatiedaling, wat ankeropvraging identificeert als de kernmotor van nauwkeurigheid.
  • Generieke Compressie: Gecontroleerde RTK-stijl compressie (generieke tekstverkleining) faalt om de bewijsketen te behouden, waardoor de nauwkeurigheid instort bij complexe families (multi-hop, temporele verschuivingen) zelfs bij vergelijkbare tokenkosten.
• Robuustheid: De methode blijft robuust over vier verschillende rollout-actor-families in Crafter, waarbij een regime met lage tokens en hoge nauwkeurigheid wordt behouden in vergelijking met dure baselines.
• Overdracht buiten de Familie: Op ATM-Bench (een gepersonaliseerd geheugenarchief) blijft S3Mem concurrerend met aanzienlijk lager tokengebruik, hoewel de rangorde minder dominant is dan in interactieve omgevingen.

5. Beweringen en Betekenis

Het artikel handhaaft een bescheiden en begrensd bereik met betrekking tot zijn beweringen:

• Primaire Bewering: Onder het huidige bevroren antwoord-tijd protocol bieden gestructureerd schrijven en anker-gevoelige bewijsrouting een sterkere nauwkeurigheids-efficiëntie grens voor interactieve vraag-antwoordsystemen met lange horizon dan generieke geheugeninterfaces (platte tekst RAG, alleen grafiekopvraging of generieke compressie).
• Beperkingen & Grenzen:
  • Het artikel claimt niet volledige protocolonafhankelijkheid. De eerlijkheidsanalyse toont aan dat winsten gekoppeld zijn aan de antwoord-tijd laag; een "generieke" beantwoorder doet de prestaties van alle methoden instorten, terwijl een "gold_executor" de rangorde niet perfect reproduceert.
  • De bijdrage wordt gepresenteerd als een gestructureerde bewijsbeugel, niet als een algemeen agent-besturingssysteem. Het doel is om de traject-naar-antwoordinterface voor episodische vraag-antwoordsystemen te verbeteren, niet om alle geheugenproblemen van agenten op te lossen.
  • De sterkste resterende bron van niet-generiteit ligt in de verbruik aan antwoord-tijd en niet in de geheugenrepresentatie zelf.

Conclusie: Het artikel betoogt dat voor agenten met een lange horizon de sleutel tot geheugen niet het blootstellen van meer geschiedenis is, maar het blootstellen van het juiste gestructureerde bewijs. S3Mem demonstreert dat het omzetten van trajecten in gestructureerde scène-gebeurteniseenheden en het ophalen daarvan via anker-gevoelige logica een superieure afweging oplevert tussen redeneernauwkeurigheid en token-efficiëntie.