Technische Samenvatting: ConMem – Gestructureerde, op geheugen gestuurde adaptatie in training-vrije multi-agent systemen

1. Probleemstelling

Op Large Language Models (LLM) gebaseerde Multi-Agent Systemen (MAS) blinken uit in complexe continue taken, maar worden geconfronteerd met aanzienlijke uitdagingen in Multi-Agent Adaptatie (MAA). Bestaande benaderingen voor MAA vallen over het algemeen uiteen in drie categorieën, elk met duidelijke beperkingen:

• Geheugengestuurde methoden: Bewaren ruwe interactiegeschiedenissen. Hoewel ze context behouden, zijn de trajecten vaak lang, ruisgevoelig en verstrengeld met lokale tool-resultaten of tussenliggende meningsverschillen, wat leidt tot verstoorde beslissingssignalen en een lage ophaalprecisie.
• Gestructureerde geheugen-/vaardigheidsgestuurde methoden: Abstraheren interacties tot herbruikbare procedures of vaardigheden. Hoewel ze redundantie verminderen, missen ze tijdens de inferentie vaak relatiebewuste coördinatie, waardoor conflicten, afhankelijkheden en redundanties onopgelost blijven bij compositie.
• Training-gestuurde methoden: Gebruiken reinforcement learning of fine-tuning om geheugen te beheren. Hoewel effectief, vereisen deze benaderingen extra training, hoogwaardige supervisie en aanpassingen aan agent-rollen of orchestratie, wat de computationele kosten en implementatiecomplexiteit verhoogt.

De centrale uitdaging die dit werk aanpakt is: Hoe kan een LLM-gebaseerd MAS efficiënte, training-vrije adaptatie bereiken door gefragmenteerde ervaringen te transformeren naar gestructureerd, gecoördineerd en herbruikbaar collectief geheugen zonder de gewichten van het host-model te wijzigen?

2. Methodologie: ConMem Framework

ConMem is een relatiebewust, training-vrij framework dat efficiënte adaptatie mogelijk maakt door middel van cross-experience coördinatie. Het opereert in een "frozen-host" setting, waarbij alleen de geheugenprefix die in de prompt wordt geïnjecteerd wordt gecontroleerd, zonder de onderliggende LLM of agent-orchestratie te wijzigen.

2.1 Kernunit: De Signed Strategy Card

In plaats van ruwe trajecten destilleert ConMem historische interacties tot atomaire strategiekaarten. Een kaart $c$ is een gestructureerde tuple die de volgende elementen bevat:

• Taakbeschrijving ($z$): De context van de interactie.
• Trigger Semantiek ($\chi$): De condities waaronder de kaart relevant is.
• Vier Gestructureerde Slots ($\kappa$): Codering van Staat (State), Plan, Executie (Execution) en Evaluatie (Evaluation).
• Sign (Teken): Een binaire indicator die positieve kaarten (herbruikbare strategieën) onderscheidt van negatieve kaarten (waarschuwingen afgeleid van falen).

Deze abstractie stelt het systeem in staat om geheugen te behandelen als een compact, inspecteerbaar en herbruikbaar procedureel signaal in plaats van een ruw logboek.

2.2 De Pipeline

ConMem werkt via twee verschillende paden: een Write Path (geheugenconstructie) en een Read Path (inferentie-tijd adaptatie).

A. Write Path: Het bouwen van de Card Bank

Nadat een taak is gescoord, extraheert het systeem kandidaat-kaarten uit het traject:

1. Reflectie & Aggregatie: Informatieve fouten worden gereflecteerd in negatieve kaarten; successen worden positieve kaarten.
2. Admissie: Kaarten worden alleen toegelaten als ze coherent zijn (interne consistentie van staat/plan/executie) en voldoen aan kwaliteitseisen (betrouwbaarheid, nieuwheid, recentheid, nut).
3. Merging: Toegelaten kaarten worden opgeslagen in een persistente bank ($B$) en gelinkt in een Typed Relation Graph ($G$).
   • Graph Edges (Grafiekranden): Randen dragen types zoals supports, satisfies, constrains, en conflicts, die afhankelijkheden en incompatibiliteiten tussen kaarten coderen.

B. Read Path: Needs-Aware Retrieval & Coördinatie

Tijdens runtime, voor een nieuwe taak $t$, voert ConMem een vierfasenproces uit om een begrensde geheugenprefix $\tilde{m}_t$ te genereren:

1. Needs-Aware Retrieval: Kaarten worden gerangschikt op basis van een scoringfunctie die semantische gelijkenis, trigger-matching, afstemming van taakbehoeften (geschat uit de huidige context) en kaart-geloofwaardigheid combineert. Een diversiteitsfilter (MMR) onderdrukt bijna-duplicaten.
2. Typed-Graph Expansion: De opgehaalde "seed"-kaarten worden uitgebreid door de relatiegrafiek te doorlopen. Het systeem volgt supports- en satisfies-randen om afhankelijkheden te herstellen, terwijl conflicts worden vermeden. Dit zorgt ervoor dat de opgehaalde context een coherente, afhankelijkheids-volledige set is in plaats van een platte lijst.
3. Coordinated Budgeted Composition: De uitgebreide set wordt verzoend om lokale conflicten op te lossen (het behouden van kwalitatief betere representanten) en redundantie te verwijderen.
4. Serialisatie: De definitieve set wordt geserialiseerd naar een prompt-prefix die strikt voldoet aan een token-budget ($B$). Als het budget wordt overschreden, probeert het systeem compacte serialisatie of slaat het kaarten met een lagere prioriteit over.

2.3 Theoretische Fundering

Het framework is geworteld in een Budgeted Context-Control visie. Het doel is niet maximale recall, maar het maximaliseren van nut onder een vastgesteld token-budget. De auteurs stellen dat als de kaart-extractie voldoende is (d.w.z. de kaart bevat alle noodzakelijke informatie voor de downstream uitkomst), conditionering op de kaart Bayes-optimaal en strikt efficiënter is dan conditionering op ruwe trajecten vanwege de compressie van tokens.

3. Belangrijkste Bijdragen

1. Training-Free Adaptation Formulering: De auteurs stellen een context-gecontroleerde benadering voor voor continue MAS-adaptatie, waarbij het probleem wordt geframed als budgetgestuurde controle over herbruikbare procedurele signalen, waardoor de noodzaak voor extra training of host-modificatie wordt vermeden.
2. Atomaire Procedurele Geheugeneenheden: Introductie van getypeerde en getekende kaarten die staat, plan, executie en evaluatie coderen, wat compacte, herbruikbare en inspecteerbare kennis biedt.
3. Relatiebewuste Coördinatie: Ontwikkeling van een mechanisme dat geheugenconflicten en afhankelijkheden oplost onder een context-budget met behulp van een getypeerde grafiek, wat lichtgewicht adaptatie mogelijk maakt zonder de gewichten van het model te wijzigen.
4. Empirische Validatie: Uitgebreide experimenten die consistente verbeteringen laten zien over diverse benchmarks en MAS-architecturen.

4. Experimentele Resultaten

De auteurs hebben ConMem geëvalueerd op vier benchmarks (TriviaQA, PopQA, KodCode, PDDL) over drie MAS hosts (AutoGen, CAMEL, MacNet) met de Qwen/Qwen3-4B-Instruct-2507 backbone.

• Prestatiewinst: ConMem behaalde consistente verbeteringen ten opzichte van "No-memory" baselines, met gemiddelde winsten variërend van 10,9 tot 12,9 absolute punten.
• Vergelijking met SOTA: ConMem presteerde beter dan sterke geheugen-baselines (inclusclusief Generative Agents, Voyager, G-Memory) en kwam gelijk aan of overtrof licht training-gebaseerde methoden zoals LatentMem en ReMe (dynamisch), ondanks het feit dat het training-vrij is.
  • Op de AutoGen host behaalde ConMem een gemiddelde score van 58,33, waarmee het LatentMem (57,38) en ReMe (57,46) overtrof.
  • Het rangschikte eerst in 8 van de 15 host-metriek vergelijkingen en tweede in de resterende 7.
• Efficiëntie: Het coördinatiemechanisme heeft de kandidaat-set agressief gesnoeid, waarbij het >50% van de uitgebreide kandidaten verwijderde in algemene settings en >80% in planning-taken (PDDL), wat de planning-overhead aanzienlijk vermindert.
• Ablatie-studies: Het verwijderen van een component (Graph Expansion, Coordination, Failure Reflection of Admission) resulteerde in prestatieverlies, wat bevestigt dat de winst voortkomt uit de geïntegreerde pipeline in plaats van een enkele module. Opvallend genoeg veroorzaakte het verwijderen van Coordination de grootste daling in QA-taken, wat de noodzaak van conflictresolutie vóór prompt-injectie onderstreept.

5. Betekenis en Claims

Het artikel claimt dat ConMem aantoont dat langetermijn-adaptatie in frozen-host settings kan worden bereikt via prompt-niveau contextcontrole in plaats van model hertraining.

• Structureel Voordeel: In tegen tegenstelling tot methoden die platte lijsten van historie ophalen, lost de relatiebewuste coördinatie van ConMem tegenstrijdigheden en afhankelijkheden op voordat de informatie de host LLM bereikt. Dit is bijzonder cruciaal voor taken met een hoge inter-kaart afhankelijkheid (bijv. codegeneratie en planning), waar het prestatieverschil tussen ConMem en platte-retrieval baselines het grootst is.
• Lichtgewicht Adaptatie: Door historische ervaring te transformeren in compacte, getekende kaarten, maakt ConMem stabiele prestatieverbeteringen mogelijk over diverse frameworks zonder de computationele kosten van training of de complexiteit van het wijzigen van agent-rollen.
• Benutting van Falen: Het framework maakt uniek gebruik van negatieve kaarten (uit falen afgeleide waarschuwingen) als actiegerichte signalen om fouten uit het verleden te vermijden, waarbij falen als een 'first-class citizen' wordt behanden in het geheugensysteem.

Concluderend stelt ConMem dat de toekomst van efficiënte multi-agent adaptatie niet ligt in het herinneren van meer historie, maar in het cureren en coördineren van herbruikbare strategieën onder strikte context-budgetten.