💻 computer science

User as Engram: Internalizing Per-User Memory as Local Parametric Edits

Het artikel stelt "User as Engram" voor, een nieuwe personalisatiearchitectuur die individuele gebruikersfeiten opslaat als ijle, met hashes gekoppelde lokale parametrische bewerkingen binnen een gedeelde geheugentabel, terwijl de redeneervaardigheden in een globale adapter worden behouden, waardoor een superieure redeneernauwkeurigheid, perfecte composibiliteit tussen gebruikers en een drastisch kleiner geheugenspoor worden bereikt in vergelijking met traditionele retrieatiesystemen of per-gebruiker LoRA-adapters.

Oorspronkelijke auteurs: Bojie Li

Gepubliceerd 2026-06-19

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Bojie Li

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Probleem: De "One-Size-Fits-All" Geheugen

Stel je voor dat je een superintelligente AI-assistent hebt. Je wilt dat deze specifieke dingen over jou onthoudt—zoals de naam van je arts, je allergieën, of dat je vorig jaar vegetariër bent geworden.

Momenteel zijn er twee manieren waarop AI dit probeert te doen, en beide hebben gebreken:

De "Notitieblok"-methode (Retrieval): De AI onthoudt je niet echt; hij zoekt elke keer dat je een vraag stelt gewoon een notitiebestand op. Het is accuraat, maar het is traag en verbruikt veel "hersencapaciteit" (context) om de notitie te lezen.
De "Hersenchirurgie"-methode (LoRA): De AI probeert permanent zijn eigen hersengewichten aan te passen om jou te onthouden. Het probleem is dat dit lijkt op het proberen te schrijven van een nieuwe notitie op een vel papier dat al vol inkt staat. Om jouw naam te schrijven, veegt de AI per ongeluk de inkt overal anders uit. Deze "vlekkerigheid" (contaminatie) maakt de AI slechter in het beantwoorden van vragen over zaken die niet met jou te maken hebben.

De Oplossing: "User as Engram"

De auteurs stellen een nieuwe manier voor om AI een persoonlijk geheugen te geven dat werkt zoals het menselijk brein. Ze noemen dit "User as Engram."

Om dit te begrijpen, kun je het menselijk brein zien als een systeem met twee duidelijke lagen:

De Hippocampus (De snelle, lokale archiefkast): Deze slaat specifieke, nieuwe herinneringen op (zoals "Mijn arts is Dr. Vasquez"). Het is schaars en lokaal.
De Neocortex (De trage, gedeelde bibliotheek): Deze slaat algemene vaardigheden en redeneringen op (zoals "Hoe bepaal ik welke arts ik moet bezoeken?"). Dit is gedeeld door iedereen.

User as Engram splitst het geheugen van de AI in deze twee exacte lagen:

1. De "Archiefkast" (Jouw Persoonlijke Feiten)

In plaats van het hele brein van de AI te herschrijven, schrijft het systeem jouw specifieke feiten in een piepkleine, aparte "archiefkast" binnen het model.

Hoe het werkt: Stel je voor dat de AI een groot boek met regels heeft. Wanneer je zegt "Mijn arts is Dr. Vasquez", herschrijft het systeem niet het hele boek. Het zoekt een specifieke, lege pagina (een specif in adres) aan het einde van het boek en schrijft daar alleen die zin.
De Magie: Omdat het alleen naar die ene specifieke pagina schrijft, maakt het de rest van het boek niet vlekkerig. Als je vraagt naar het weer, negeert de AI de naam van je arts volledig.
Het Resultaat: Je kunt duizenden gebruikers hebben, en hun "archiefkasten" kunnen allemaal in hetzelfde boek staan zonder elkaar te overlappen. Het is ongelooflijk klein (ongeveer 88 KB voor 100 feiten) vergeleken met de enorme "hersenchirurgie"-methode (14 MB).

2. De "Gedeelde Bibliotheek" (De Redeneervaardigheid)

De AI moet nog steeds weten hoe hij die feiten moet gebruiken. Als je vraagt: "Ik ga mijn dochter bezoeken in Californië; waar moet ik heen gaan voor een controle?", moet de AI kunnen redeneren dat "Californië" + "Arts" = "Zoek een arts in CA."

Hoe het werkt: In plaats van deze redeneervaardigheid voor elke individuele gebruiker apart aan te leren (wat het "vlekkerigheidsprobleem" veroorzaakt), traint de AI één enkele, gedeelde vaardigheid voor iedereen.
De Magie: Deze gedeelde vaardigheid is als een universele vertaler. Het weet hoe het een feit uit iemands archiefkast moet halen en dat moet gebruiken om een vraag te beantwoorden.

Waarom dit beter is (De "Glazen Doos"-analogie)

Het paper beweert dat deze methode een "glazen doos" is omdat je precies kunt zien wat er gebeurt.

Oude manier (LoRA): Als een lek in een dam proberen te repareren door overal beton in te gieten. Je fixt het lek, maar je blokkeert ook de rivierloop voor iedereen.
Nieuwe manier (Engram): Als het installeren van een specifieke, verwijderbare klep. Wanneer je een lek moet repareren, open je die ene klep. Wanneer je dat niet nodig hebt, is hij gesloten. Het heeft totaal geen invloed op de rivierloop.

De Resultaten: Wat het Paper Werkelijk Vond

De onderzoekers testten dit tegen de oude methoden en ontdekten het volgende:

Geen Vlekkerigheid: Het opschrijven van de feiten van een gebruiker in de "archiefkast" maakte de AI niet slechter in het beantwoorden van vragen over andere onderwerpen. Sterker nog, het was 33.000 keer minder schadelijk voor de algemene kennis van de AI dan de oude "hersenchirurgie"-methode.
Beter Redeneren: De nieuwe methode was 5,6 keer beter in het beantwoorden van indirecte vragen (zoals het Californië-voorbeeld) vergeleken met de oude methode.
Schaalbaarheid:
- Als je een klein aantal feiten hebt (onder de 100), is de oude methode (Retrieval) nog steeds prima.
- Maar zod[eet je meer dan 100 feiten per gebruiker hebt, wint de "archiefkast"-methode. Het blijft snel en accuraat, terwijl de "notitieblok"-methode trager en verward raakt naarmate de lijst met feiten groeit.
Privacy: Omdat de feiten van elke gebruiker in hun eigen unieke "vakje" in de archiefkast staan, kunnen de feiten van Gebruiker A nooit per ongeluk doorsijpelen in de antwoorden van Gebruiker B.

De Beperkingen (Wat het niet kan)

Het paper is eerlijk over wat deze methode nog niet kan:

Het is een "Recite"-machine, geen "Think"-machine: Het systeem is erg goed in het onthouden van "Mijn arts is Dr. Vasquez." Maar als je vraagt: "Waar werkt Dr. Vasquez?", en die specifieke informatie is niet expliciet opgeschreven, kan het systeem het niet uit zichzelf uitzoeken. Het koppelt woorden, maar voert nog geen logische ketens over meerdere feiten uit.
Het heeft een specifieke basis nodig: Deze methode vereist een AI-model dat specifiek is voorgetraind om deze "archiefkasten" te hebben (een zogenaamde "Engram model"). Je kunt dit niet zomaar in elk standaard AI-model van vandaag pluggen.

Samenvatting

User as Engram is een nieuwe manier om AI een persoonlijk geheugen te geven. In plaats van de AI te dwingen zijn hele brein te herschrijven om jou te onthouden (wat zijn andere vaardigheden beschadigt), geeft het je een pieklein, privé notitieblok binnen het brein van de AI en leert het de AI één gedeelde vaardigheid om dat notitieblok te lezen. Dit houdt de AI slim, snel en privé, zonder het geheugen van anderen te "vervlekken".

Technische Samenvatting: Gebruiker als Engram

1. Probleemstelling

Het paper identificeert een fundamenteel architecturaal defect in huidige methoden voor het personaliseren van Large Language Models (LLM's) met gebruikersspecifiek geheugen. Persoonlijk geheugen bestaat uit twee afzonderlijke componenten: inhoud (specifieke feiten over een gebruiker, bijv. "Mijn cardioloog is Dr. Vasquez") en redeneervaardigheid (het vermogen om die feiten te synthetiseren tot antwoorden).

Huidige benaderingen vervagen deze twee:

Niet-parametrische methoden (In-Context Learning, RAG) houden feiten buiten de gewichten. Hoewel ze contaminatie van het model vermijden, brengen ze hoge kosten voor context-tokens met zich mee en zijn ze afhankelijk van de nauwkeurigheid van retrieval, wat verslechtert naarms de kennisbank groeit.
Parametrische methoden (Per-gebruiker LoRA-adapters) schrijven feiten direct in de modelgewichten. Omdat LoRA-edits echter globaal zijn (ze beïnvloeden Q/K/V/O-matrices over het hele model), lijden ze aan architecturale contaminatie. Het schrijven van een gebruikersfeit als een LoRA-delta buigt de functie van het model globaal, wat de prestaties op tekst die niet gerelateerd is aan die gebruiker verslechtert en vaak het vermogen van het model aantast om indirect over de opgeslagen feiten te redeneren.

De kernuitdaging is om gebruikersfeiten te internaliseren in de modelgewichten zonder ongerelateerde tekst te contamineren of de gedeelde redeneervaardigheden van het basismodel op te offeren.

2. Methodologie: Gebruiker als Engram

De auteurs stellen User as Engram voor, een gelaagde architectuur die de opslag van inhoud scheidt van de redeneervaardigheid, wat de complementaire leersystemen van het brein weerspiegelt (hippocampus voor episodische sporen, neocortex voor gedeelde vaardigheden).

A. De Engram Geheugentabel (Inhoudslaag)

In plaats van globale gewichten te bewerken, maakt de methode gebruik van een Engram-model (een sparse architectuur geïntroduceerd door Cheng et al., 2026) dat een content-adresseerbare geheugentabel bevat naast de standaard transformer-lagen.

Mechanisme: Op specifieke lagen hasht het model de suffix N-gram van recente tokens naar deterministische adressen in een grote embedding-tabel ( $E$ ).
Chirurgische Edits: Een feit van een gebruiker wordt niet geschreven als een gewicht-delta, maar als een lokale rij-override in deze geheugentabel.
- Adressering: De triggerphrase (bijv. "Mijn cardioloog is") hasht naar een specifieke set rijen ( $R_f$ ).
- Schrijven: Het systeem schrijft een waarde-vector naar deze specifieke rijen. Drie strategieën worden gebruikt:
  1. UNEMBED_P: Closed-form oplossing (snel, <1ms).
  2. OPT: Gradient stappen per feit.
  3. Joint OPT: Optimaliseert alle rijen voor een gebruiker simultaan om interferentie te voorkomen (standaard voor >30 feiten).
Localiteit: De edit is "glass box" transparant. Het wordt alleen geactiveerd wanneer de specifieke trigger N-gram aanwezig is. Voor alle andere tekst blijft de geheugentabel onveranderd en blijft de residual stream tot op de laatste bit onbeïnvloed.

B. Gedeelde Redeneer-adapter (Vaardigheidslaag)

De redeneervaardigheid is ontkoppeld van de feiten van de gebruiker.

Een enkele gedeelde LoRA wordt getraind op een helden-populatie van gebruikers.
Deze adapter leert het patroon van redeneren over feiten (bijv. "Gegeven feiten X, Y en Z, beantwoord vraag Q") zonder specifieke gebruikersinhoud te memoriseren.
Tijdens inferentie laadt het systeem de gedeelde LoRA en wisselt de specifieke Engram-rij-overrides van de gebruiker in.

C. Compositie en Serving

Additieve Compositie: Omdat de feiten van verschillende gebruikers naar disjuncte adressen in de geheugentabel hashen, zijn hun overrides additief en verliesvrij. Meerdere gebruikers kunnen een enkele modelinstantie delen zonder een combiner.
EngramServer: Een lichtgewicht servingsysteem (50 regels code) dat per-gebruiker override-kaarten beheert in het CPU-geheugen (DRAM), deze wisselt naar het GPU-geheugen (HBM) voor de forward pass en onmiddellijk daarna weer herstelt. Dit veroorzaakt verwaarloosbare latentie (0,03ms tot 2ms).

3. Belangrijkste Resultaten

A. Eliminatie van Contaminatie

Ongerelateerde Tekst: Het schrijven van een feit als een per-gebruiker LoRA verhoogt de validatie bits-per-byte (bpb) op ongerelateerde tekst met ~1,78 (een >33.000× toename in loss vergeleken met de baseline). In contrast, het schrijven van hetzelfde feit als een Engram-rij resulteert in een verandering van slechts +0,00005 bpb, wat effectief nul is.
Behoud van Redeneren: Bij instructie-getunede bases verslechteren per-gebruiker LoRA's vaak het indirecte redeneren (85% van de gebruikers vertoont slechtere prestaties op zwakke bases). Het gelaagde Engram-ontwerp behoudt de redeneervaardigheden van de basis, waarbij nul gebruikers slechter presteren dan de onbewerkte basis.

B. Recall en Redeneerprestaties

Directe Recall: Het gelaagde ontwerp (Engram + Gedeelde LoRA) bereikt bijna perfecte directe recall (100%), wat overeenkomt met per-gebruiker LoRA.
Indirect Redeneren: Het gelaagde ontwerp presteert significant beter dan per-gebruiker LoRA op indirecte vragen (redeneren over feiten). Op een canonieke seed bereikt het 44% indirecte recall vergeleken met 6% voor per-gebruiker LoRA (een 5,6× tot 7,4× verbetering).
Vergelijking met Retrieval (RAG):
- Op exact-trigger queries presteert RAG goed, maar betaalt een context-token kostprijs.
- Op geparafraseerde queries daalt de RAG-prestatie aanzienlijk door encoder-beperkingen, terwijl multi-trigger Engram-insertie een hoge recall behoudt (96,9% vs 75% voor RAG).
- Schaalbaarheid: Naarmate de kennisbank (KB) groeit, degradeert de RAG-recall door verwarring in de kandidaatpool. De nauwkeurigheid van het gelaagde ontwerp blijft invariant ten opzichte van de KB-grootte. Het paper identificeert een kruispunt bij ~100 feiten: voorbij dit punt presteert het gelaagde ontwerp op een kleiner model beter dan RAG op een model dat 2,5× groter is.

C. Efficiëntie

Opslag: De Engram-tabel van een gebruiker is 88 KB voor 100 feiten. Een per-gebruiker LoRA is ~14,2 MB. Dit vertegenwoordigt een **161× reductie** in opslag per gebruiker.
Latentie: De toepassing van de override is sub-milliseconde, wat een hoge throughput mogelijk maakt (232 req/s op een enkele GPU) die vlak afvlakt met het aantal gebruikers.

4. Beperkingen

Het paper vermeldt expliciet de volgende beperkingen:

Multi-hop Redeneren: Het Engram-mechanisme is oppervlakte-trigger gekoppeld. Het komt woorden overeen maar componeert ze niet. Als een vraag twee feiten vereist om te koppelen ("Mijn arts is Patel; Patel werkt bij Globex; waar werkt mijn arts?"), stort de recall in, tenzij de specifieke keten expliciet is opgeslagen of de query exact overeenkomt met de tweede trigger van het feit.
Dichtheid binnen de Gebruiker: Hoewel Joint OPT interferentie vermindert, degradeert de recall naarmate het aantal gelijktijdige feiten per gebruiker toeneemt (daalt naar ~35% bij 1.000 feiten) door forward-pass interferentie tussen co-actieve rijen.
Pretraining Vereiste: De methode vereist een Engram-pre-trained basismodel. De auteurs hebben vier Mini-Engram modellen getraind (178M tot 1,22B parameters) om haalbaarheid aan te tonen, maar merken op dat productie-implementatie afhangt van de beschikbaarheid van dergelijke gewichten.

5. Betekenis en Claims

Het paper claimt dat User as Engram het "content vs. skill" conflict in personalisatie oplost door architecturale scheiding in plaats van parameter-sharing.

Architecturale Innovatie: Het is de eerste methode die lokale parametrische edits bereikt met nul context-kosten. Het neemt een unieke positie in in de designruimte: lokale edits die de rest van het model niet contamineren.
Schaalbaarheid: Het maakt het serveren van miljoenen gebruikers op een enkele modelinstantie mogelijk met additieve, verliesvrije compositie, waardoor de opslag-explosie van per-gebruiker LoRA's en de retrieval-degradatie van RAG worden vermeden.
Biologische Analogie: Het werk valideert een computationele implementatie van de Complementary Learning Systems theorie, en demonstreert dat het scheiden van snelle, ijle episodische sporen (Engram-rijen) van trage, gedistribueerde vaardigheden (Gedeelde LoRA) catastrofale interferentie voorkomt en redeneervaardigheden behoudt.

De auteurs concluderen dat de "problematiek" in personalisatie niet uniek is aan adapters, maar inherent is aan elke methode die één enkele set gewichten dwingt om zowel geheugen als geest te zijn. Door elke gebruiker een klein, privé spoor te geven naast een gedeelde vaardigheid, stopt personalisatie met het bevechten van het model waarop het draait.