The Dynamic Gist-Based Memory Model (DGMM): A Memory-Centric Architecture for Artificial Intelligence

Technische Samenvatting: Het Dynamische Gist-gebaseerde Geheugenmodel (DGMM)

Probleemstelling
Huidige kunstmatige intelligentiesystemen, met name Large Language Models (LLM's), bereiken hoge prestaties door middel van grote schaal parametrisatie en training op statische corpora. De paper stelt echter dat deze systemen lijden aan fundamentele architecturale beperkingen: ze missen persistent geheugen, temporele verankering, herleidbaarheid (provenance tracking) en interpreteerbaarheid. In huidige modellen wordt ervaring impliciet gecodeerd binnen vaste parameters, waardoor het systeem "architecturaal amnestisch" is. Elke inferentie begint vanuit dezelfde parametrische staat zonder een record van eerdere interacties, hun timing of hun bronnen. Hoewel benaderingen met ophaalverrijking (retrieval-augmented) toegang bieden tot externe data, behandelen ze geheugen als een vluchtige context die tijdens inferentie wordt samengesteld, in plaats van als een persistent, evoluerend substraat. De auteurs diagnosticeren fenomenen zoals hallucinaties, temporele misalignering, semantische drift en onstabiele herinnering niet als falen van trainingsdata of modelgrootte, maar als symptomen van architecturen die nooit zijn ontworpen om te onthouden.

Methodologie: Het Dynamische Gist-gebaseerde Geheugenmodel (DGMM)
De paper stelt DGMM voor, een geheugencentraal architecturaal kader waarin ervaring expliciet, persistent en in een vorm wordt weergegeven die temporele verankering en interpreteerbaarheid ondersteunt. De methodologie is theoretisch en architecturaal in plaats van algoritmisch, en definieert een formeel schema en operationele regimes.

• Kernrepresentatie: Geheugen wordt gemodelleerd als een evoluerende, graf-gestructureerde episodisch-semantische geheugen ($M_t$). Het maakt gebruik van een vaste relationele grammatica met getypeerde knopen (Concept, Element, Tijd, Interactie, Bron) en relaties.
• Het "Gist"-concept: Ervaringen worden opgeslagen als "gists" – gestructureerde conceptuele representaties van essentieel relationeel inhoud – in plaats van letterlijke linguïstische vormen. Dit zorgt ervoor dat de onderliggende structuur neutraal blijft ten opzichte van oppervlakkige expressie, waardoor herinterpretatie later mogelijk is.
• Scheiding van Opslag en Interpretatie: Een centraal ontwerpprincipe is de ontkoppeling van geheugenslag van downstream interpretatie. Betekenis wordt niet vastgelegd bij inname; deze wordt geconstrueerd op het moment van herinnering op basis van context en signalen.
• Geheugenoperationele Regimes: De architectuur definieert vier onderling uitsluitende operationele regimes:
  1. Inname: Een additief proces waarbij nieuwe ervaringen knopen en relaties introduceren zonder bestaande structuren te overschrijven of te wijzigen.
  2. Consolidatie: Een intern, transformatief proces dat knopen kan herorganiseren of samenvoegen (bijvoorbeeld op basis van structurele equivalentie), terwijl de herleidbaarheid (Bron, Interactie en Tijd-knopen) strikt behouden blijft.
  3. Herinnering: Een schrijvrij proces waarbij een signaal ($q$) een begrensd subgraf ($W_q$) selecteert uit het langetermijngeheugen om het werkgeheugen te vormen. Dit is strikt niet-destructief.
  4. Analyse: Post-herinneringsoperaties die het subgraf van het werkgeheugen interpreteren om afgeleide representaties (bijvoorbeeld embeddings, proposities) te produceren zonder het geheugendgraf te wijzigen.

Belangrijkste Bijdragen

1. Architecturale Herformulering: De paper herformuleert beperkingen in hedendaagse AI (bijvoorbeeld hallucinaties, drift) als consequenties van redeneren met een korte horizon die is geworteld in impliciet geheugendesign, en stelt geheugen voor als een architecturaal component van de eerste orde.
2. Formeel Schema en Invarianten: Het biedt een formele karakterisering van het representatieschema en vestigt architecturale invarianten, waaronder:
   • Episodische Persistentie: Onder additieve groei blijven eerder opgeslagen subgrafen structureel intact.
   • Behoud van Herleidbaarheid: Consolidatie-operaties moeten toegang behouden tot de oorspronkelijke bron, tijd en interactiecontext van samengevoegde concepten.
   • Localiteit van Verrassing: Structurele verrassing wordt gedefinieerd als afwijking in herinnering-geïnduceerde subgrafen onder hetzelfde signaal over tijd, zodat verrassingssignalen niet worden gegenereerd door ongerelateerde geheugenaccumulatie.
3. Axiomatische Herinnering: De paper definieert een set axioma's voor toelaatbare herinneringsoperatoren (bijvoorbeeld subgrafconstructie, signaalgevoeligheid, schrijvrij beperkingen), waarmee een theoretisch contract wordt vastgesteld voor hoe geheugenhervraging werkt zonder specifieke algoritmen te voorschrijven.
4. Late Semantische Commitment: Door semantische interpretatie uit te stellen tot de herinneringsfase, staat DGMM evoluerende perspectieven en contextuele variabiliteit toe zonder hertraining of wijziging van opgeslagen representaties te vereisen.

Resultaten
De primaire resultaten zijn de formeel gespecificeerde eigenschappen van de DGMM-architectuur:

• Structurele Persistentie: Het additieve karakter van inname zorgt ervoor dat geheugenverlies alleen kan optreden door herinneringsselectie, niet door structurele uitwissing.
• Contextuele Variabiliteit: Dezelfde onderliggende geheugenstructuur kan meerdere interpretaties of proposities ondersteunen afhankelijk van het signaal, zonder het opgeslagen graf te wijzigen.
• Structurele Verrassing: Het model definieert "verrassing" als een meetbare structurele divergentie tussen herinnering-geïnduceerde subgrafen op verschillende tijdstippen onder hetzelfde signaal, en biedt zo een mechanisme om echte veranderingen in geheugengebruik te detecteren in plaats van ruis.
• Auditbaarheid: Omdat geheugen expliciet is, ondersteunt het systeem directe inspectie van herleidbaarheid, bronattributie en de structurele voetafdruk van herinnering, waardoor governance en auditbaarheid mogelijk worden.

Betekenis en Claims
De paper positioneert DGMM niet als een ingezet systeem of een specifieke algoritmische oplossing, maar als een architecturale theorie die bedoeld is om duidelijkheid te scheppen over hoe geheugenrepresentatie downstream gedrag beperkt en mogelijk maakt. De betekenis ervan ligt in:

• Het vestigen van een fundament voor interpreteerbare, contextbewuste en temporeel verankerde AI waarbij geheugen expliciet en persistent is.
• Het bieden van een kader waarin geheugengebruik zelf een onderwerp van analyse wordt, waardoor onderzoekers structurele drift, attributie en interpretatieve stabiliteit direct kunnen bestuderen.
• Het bieden van een complementaire aanpak voor parametrische en ophaalgebaseerde systemen, specifiek gericht op de behoefte aan systemen die in staat zijn om eerdere interacties in de tijd te behouden, te inspecteren en te herinterpreteren zonder hertraining.

De auteurs stellen expliciet dat empirische instantiaties, specifieke herinneringsstrategieën en vergelijkende evaluaties worden uitgesteld naar toekomstige begeleidende papers. Het huidige werk dient als de axiomatische en structurele basis voor dat daaropvolgende onderzoek.