🤖 AI

Contextual Agentic Memory is a Memo, Not True Memory

Dit artikel betoogt dat huidige agente geheugensystemen slechts op gelijkenis gebaseerde opzoekingen uitvoeren in plaats van echt op gewicht gebaseerd geheugen, een fundamentele categoriefout die generalisatie en beveiliging beperkt, en stelt voor een neurowetenschappelijke tweesysteembenadering te adopteren om snelle opslag van voorbeelden te integreren met langzame consolidatie van regels.

Oorspronkelijke auteurs: Binyan Xu, Xilin Dai, Kehuan Zhang

Gepubliceerd 2026-05-01

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Binyan Xu, Xilin Dai, Kehuan Zhang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Idee: Een Archiefkast versus een Brein

De auteurs stellen dat huidige AI-agenten (slimme computerprogramma's) niet echt "geheugen" hebben zoals mensen dat doen. In plaats daarvan hebben ze een zeer geavanceerd archiefsysteem.

Huidige AI (De Archiefkast): Wanneer een AI iets "onthoudt", schrijft het een notitie in een digitaal notitieboekje (zoals een dagboek of een vectordatabase). Later, wanneer het een vraag moet beantwoorden, bladert het door het notitieboekje om een vergelijkbare notitie te vinden en leest die. Het is als een student die een perfecte bibliotheek met leerboeken heeft, maar de inhoud ervan nooit echt heeft geleerd. Als de student een vraag ziet waarover hij niets heeft gelezen, zit hij vast.
Echt Geheugen (Het Brein): Echt leren gebeurt wanneer je een les internaliseert. Je hebt het boek niet meer nodig omdat de kennis de werking van je brein heeft veranderd. Je kunt die les toepassen op een volledig nieuwe situatie die je nog nooit hebt gezien.

Het artikel stelt dat we door de "archiefkast" als vervanging voor "leren" te behandelen, een fundamentele fout maken die de intelligentie van AI beperkt en het kwetsbaar maakt voor hackers.

Het Kernprobleem: "Opzoeken" is niet "Leren"

Het artikel maakt onderscheid tussen twee manieren om problemen op te lossen:

Voorbeeldgebaseerd (Het Memo): "Ik heb dit exacte probleem eerder gezien, en het antwoord was X. Ik kopieer gewoon X." Dit werkt uitstekend voor dingen die je hebt gezien, maar faalt volledig bij nieuwe combinaties.
Regelgebaseerd (Echt Geheugen): "Ik begrijp het principe achter dit probleem. Hoewel ik deze specifieke versie nog nooit heb gezien, kan ik het antwoord afleiden met de regel."

De Analogie:
Stel je een schaker voor.

De Archiefkast-AI is een speler die 10.000 specifieke bordposities heeft gememoriseerd. Als de tegenstander een zet doet die overeenkomt met een van die 10.000, wint de AI. Maar als de tegenstander een nieuwe combinatie van zetten maakt die de AI nog nooit heeft gezien, raakt de AI in paniek omdat het geen passende notitie in zijn notitieboekje kan vinden.
De AI met echt leren is een grootmeester die de principes van schaken begrijpt (controleer het centrum, bescherm de koning). Zelfs als de tegenstander een zet doet die de grootmeester nog nooit heeft gezien, kan hij de beste reactie berekenen omdat hij de regels van het spel begrijpt, niet alleen de geschiedenis van eerdere partijen.

Huidige AI-agenten zitten vast in de "Archiefkast"-modus. Ze verzamelen duizenden notities (herinneringen), maar upgraden hun interne "brein" (gewichten) nooit om de onderliggende regels te begrijpen.

Drie Grote Gevolgen

Het artikel bewijst drie specifieke problemen met deze aanpak:

1. Het "Generalisatieplafond" (Je kunt geen nieuwe trucs leren)

Hoe groot de archiefkast ook wordt, de AI kan problemen niet oplossen die ideeën op nieuwe manieren combineren.

De Analogie: Stel je voor dat je een robot leert om een cake te bakken en apart leert om brood te bakken. Als je de robot vraagt om een "cake-broodhybride" te bakken (een nieuwe combinatie), zal een archiefkast-robot falen omdat het geen notitie heeft voor "cake-brood". Een ware leerling zou de chemie van het bakken begrijpen en het recept uitvinden.
De Wiskunde: De auteurs bewijzen dat een archiefkast-AI, om dezelfde vaardigheid te krijgen om nieuwe combinaties op te lossen, een onmogelijke hoeveelheid notities moet opslaan (kwadratisch meer), terwijl een lerende AI gewoon zijn interne regels hoeft bij te werken.

2. De "Bevroren Novice" (Je wordt nooit slimmer)

Elke keer dat de AI een nieuw gesprek start, reset het naar hetzelfde "bevroren" brein. Het neemt alleen een groter notitieboekje mee.

De Analogie: Stel je een student voor die een toets maakt, de antwoorden in een dagboek opschrijft en het dagboek vervolgens weggooit voordat de volgende toets begint. Hij begint elke toets met exact hetzelfde kennisniveau, ongeacht hoeveel toetsen hij al heeft gemaakt. Hij is een "bevroren novice" die blijft notities maken maar nooit echt leert.
De Realiteit: Huidige AI-agenten doen dit. Ze schrijven zelfkritiek en herinneringen op, maar hun onderliggende "brein" (de modelgewichten) verandert nooit. Ze worden beter in het organiseren van hun notities, maar niet in het denken.

3. De "Aanhoudende Vergiftiging" (Veiligheidsrisico)

Dit is een kritieke veiligheidsfout.

De Analogie: Als een hacker een mens overtuigt om een onwaar feit in zijn dagboek te schrijven, kan de mens de volgende keer beseffen dat het fout is. Maar als een AI een vergiftigde instructie in zijn geheugenbestand schrijft, wordt dat bestand elke keer gelezen dat de AI werkt.
Het Resultaat: Een eenmalige hack wordt een permanente infectie. De AI zal de slechte instructie voor altijd volgen omdat het begraven ligt in zijn "geheugen". In een menselijk brein kunnen slechte herinneringen worden overschreven of genegeerd; in een ophaalsysteem wordt de slechte notitie gewoon keer op keer opgehaald.

De Oplossing: De "Slaap"-cyclus

Het artikel stelt voor om te kijken naar hoe menselijke breinen dit oplossen. Mensen hebben twee systemen:

Hippocampus (Snel): Slaapt nieuwe ervaringen snel op (zoals de archiefkast van de AI).
Neocortex (Langzaam): Tijdens de slaap verplaatst het brein die snelle herinneringen naar langetermijnregels en werkt het zijn neurale verbindingen bij.

Het Voorstel:
AI-ontwikkelaars moeten een "Slaapcyclus" bouwen voor hun agenten.

Stap 1: Laat de agent overdag zijn archiefkast (oophalen) gebruiken om zijn werk te doen.
Stap 2: 's Nachts (of op de achtergrond) neem je de belangrijkste lessen uit de archiefkast en update je de breingewichten van de agent.
Stap 3: Dit zet "notities" om in "expertise".

Samenvatting voor Verschillende Groepen

Voor Bouwers: Stop met proberen de archiefkast groter te maken. Bouw een pijplijn die notities neemt en daadwerkelijk het brein van het model bijwerkt (gewichten).
Voor Testers: Stop met testen of de AI oude feiten kan terughalen. Begin met testen of de AI nieuwe combinaties van problemen kan oplossen die hij nog nooit heeft gezien.
Voor Veiligheid: Realiseer je dat een gehackt geheugenbestand een permanente bedreiging is. Je moet een manier vinden om het brein te "schoonmaken", niet alleen een bestand te verwijderen.

De Conclusie:
Huidige AI-agenten worden beter in archiveren, maar ze worden niet beter in denken. Om echte experts te worden, moeten ze stoppen met alleen maar notities te schrijven en beginnen met het veranderen van hun gedachten.

1. Probleemstelling

Het paper identificeert een fundamentele categoriefout in de huidige architectuur van agenten op basis van Large Language Models (LLM). Het vakgebied heeft retrieval (opzoeken van opgeslagen informatie) verward met geheugen (geïnternaliseerd leren).

Huidige Stand: De meeste agenten-systemen (bijv. MemGPT, Reflexion, Voyager) vertrouwen op Context Engineering (C-engineering). Ze slaan ervaringen op in externe vector-databases of contextvensters en halen deze op via zoekopdrachten op basis van gelijkenis (Retrieval-Augmented Generation, RAG).
De Fout: Deze benadering behandelt geheugen als een opzoektabel gebaseerd op exemplaren. Hoewel dit agenten in staat stelt om gebeurtenissen uit het verleden op te halen, stelt het hen niet in staat om expertise of abstracte regels te ontwikkelen.
Gevolgen:
1. Generalisatieplafond: Agenten kunnen geen "compositieseel nieuwe" taken oplossen (nieuwe combinaties van bekende concepten) omdat ze geen geïnternaliseerde regels hebben.
2. Bevroren Novice: Agenten verzamelen notities onbeperkt maar updaten nooit hun onderliggende modelgewichten ( $\theta$ ), wat betekent dat ze nooit echt leren.
3. Beveiligingskwetsbaarheid: Prompt-injecties worden "persistent compromitteringen". Zodra kwaadaardige inhoud in de externe opslag is geïnjecteerd, wordt deze in elke toekomstige sessie opgehaald, waardoor het gedrag van de agent permanent wordt gekaapt.

2. Methodologie en Theoretisch Kader

De auteurs hanteren een veelzijdige aanpak die cognitiewetenschappelijke theorie, formele wiskundige bewijzen en mechanistische interpreteerbaarheid combineert.

A. Theoretisch Onderscheid: $\theta$ vs. $C$

Het paper onderscheidt twee structurele paden om de output van een agent te veranderen:

Verander $\theta$ (Parametrisch Geheugen): Het aanpassen van modelgewichten via pre-training, fine-tuning of consolidatie. Dit comprimeert kennis in de parameterruimte van het model, waardoor regelgebaseerde generalisatie mogelijk wordt (het toepassen van abstracte principes op ongezette inputs).
Verander $C$ (Context Engineering): Het injecteren van data in het contextvenster via prompts, RAG of scratchpads. Dit vertrouwt op exemplargebaseerde generalisatie (gelijkenis met opgeslagen gevallen).

Kernargument: Huidig agenten-geheugen is volledig $C$ -engineering. Waard leren vereist een pad naar $\theta$ .

B. Formeel Bewijs: De Generalisatiekloof

De auteurs introduceren Stelling 1 (Compositiese Steekproefcomplexiteit Scheiding) om te bewijzen dat retrieval-gebaseerd geheugen structureel inferieur is aan gewicht-gebaseerd geheugen voor nieuwe taken.

Opzet: Laat $F$ een set basisconcepten zijn en $\oplus$ een compositiesoperator. De agent moet leren om $\oplus$ toe te passen op paren $(f_i, f_j)$ .
Retrieval ( $M_R$ ): Om te generaliseren naar een nieuw paar dat niet in de trainingsset $D$ zit, moet de agent vertrouwen op het vermogen van het bevroren basismodel om de regel af te leiden uit $K$ opgehaalde voorbeelden.
Parametrisch ( $M_P$ ): Het fine-tunen van het model om de regel $\oplus$ direct te leren.
Resultaat: De steekproefcomplexiteit voor retrieval schaalt als $\Omega(k^2)$ (waarbij $k$ het aantal concepten is), terwijl parametrisch leren schaalt als $O(d)$ (waarbij $d$ de VC-dimensie is van de hypothese-klasse).
Implicatie: Geen enkele verhoging van de grootte van het contextvenster of de kwaliteit van de retrieval kan deze kloof overbruggen. Retrieval staat voor een dekkingsprobleem (het opslaan van elke mogelijke combinatie is nodig), terwijl parametrisch leren voor een leerprobleem staat (het afleiden van de regel).

C. Gronding in Cognitiewetenschap

Het paper put uit de theorie van Complementary Learning Systems (CLS):

Hippocampus (Snel): Bewaart episodische sporen (analoog aan huidige externe vector-opslag).
Neocortex (Traag): Consolidatie van sporen tot gedistribueerde, regelgebaseerde representaties (analoog aan gewichtsupdates).
Huidige AI: Implementeert alleen de "Hippocampus" (snel opslaan) zonder de "Neocortex" (consolidatie), wat de overgang van novice naar expert verhindert.

3. Belangrijkste Bijdragen

Definitieve Correctie: Stelt vast dat agenten-geheugen momenteel een "memo" (opzoeken) is in plaats van "echt geheugen" (leren). Het formaliseert het onderscheid tussen exemplargebaseerde en regelgebaseerde cognitie.
De Generalisatiekloof Stelling: Biedt een bewijsbaar wiskundige grens die aantoont dat retrieval-gebaseerde systemen een lager plafond hebben voor compositiese generalisatie dan gewicht-gebaseerde systemen, onafhankelijk van de grootte van het contextvenster.
De "Bevroren Novice" Dynamiek: Demonstreert dat agenten die uitsluitend opereren op $C$ -engineering geen expertise kunnen ontwikkelen in de loop van de tijd; ze blijven hetzelfde model met een grotere database.
Beveiligingsanalyse (Persistent Compromis): Bewijst dat agenten-geheugen structureel transiënte prompt-injecties omzet in persistente, onoplosbare compromitteringen. In tegenstelling tot gewicht-gebaseerde aanvallen (die moeilijk uit te voeren zijn), vergiftigt injecteren in een externe opslag alle toekomstige sessies met een hoge waarschijnlijkheid.
Architectonisch Voorstel: Stelt een Consolidatiekanaal-architectuur voor die snelle episodische retrieval koppelt aan een traag, asynchroon proces van het coderen van gedistilleerde ervaring in modelgewichten (het AI-equivalent van biologische slaap).

4. Resultaten en Bewijs

Theoretisch: De verhouding van steekproefcomplexiteit $n_R / n_P = \Omega(k^2/d)$ bewijst dat naarmate de complexiteit van het domein ( $k$ ) groeit, de data die nodig is voor retrieval-gebaseerde agenten kwadratisch groeit in vergelijking met parametrische agenten.
Mechanistische Interpreteerbaarheid: Citeert bewijs dat feitelijke associaties worden opgeslagen in specifieke MLP-lagen (gewichten). Standaard fine-tuning update vaak alleen attention-routers (hoe kennis wordt opgehaald) in plaats van de kennis-circuits zelf, wat de noodzaak van gerichte consolidatie onderstreept.
Empirische Bevestiging:
- Verwijst naar studies (bijv. Yao et al., 2026) die aantonen dat parametrische opslag superieur is aan externe opslag, vooral bij nieuwe compositiese overdrachten.
- Benchmarks zoals SCAN en COGS tonen aan dat gewicht-gebaseerde modellen systematisch beter presteren dan retrieval-only benaderingen op systematische splits.
- Beveiligingsbenchmarks (MINJA, PoisonedRAG) tonen aan dat geheugenschrijvende agenten aanzienlijk kwetsbaarder zijn voor persistente injectie-aanvallen dan stateless agenten.

5. Betekenis en Oproep tot Actie

Het paper betoogt dat het vakgebied de verkeerde metriek heeft geoptimaliseerd (herinneringscapaciteit) en de juiste heeft genegeerd (leercapaciteit).

Voor Systeembouwers: Stop met het behandelen van retrieval als een vervanging voor leren. Bouw een Consolidatiekanaal (bijv. periodiek fine-tunen, kennisbewerking, zelf-distillatie) om gedistilleerde ervaring van externe opslag ( $C$ ) naar modelgewichten ( $\theta$ ) te verplaatsen. Zorg ervoor dat dit proces veilig is (versie-gemaakte checkpoints, herkomst-tracking).
Voor Ontwerpers van Benchmarks: Verleg de focus van "Recall" en "Grootte van het Contextvenster" naar Compositiese Generalisatie in de Loop van de Tijd (CGT). Evalueer of het vermogen van een agent om nieuwe conceptcombinaties te hanteren verbetert met ervaring.
Voor de Continuïteitslerende Gemeenschap: Herneem de betrokkenheid bij de agenten-context. De ervaringsstroom van de agent biedt het perfecte implementatiedoel voor methoden voor continuïteitsleren (replay, regularisatie) om het "consolidatie"-probleem op te lossen.

Conclusie:
Het paper concludeert dat "Agenten geen betere geheugens krijgen; ze krijgen betere archiefsystemen." Waard expertise vereist gewicht-gebaseerde consolidatie, niet alleen betere retrieval. De oplossing is een architectuur die biologische slaap nabootst: snelle episodische opslag gevolgd door een traag, regelgebaseerd consolidatieproces in de parameters van het model.