Technische Samenvatting: AI Engrams: Op zoek naar geheugensporen in Kunstmatige Intelligentie

1. Probleemstelling

Diepe neurale netwerken slaan kennis op een diep verstrengelde wijze op, waarbij individuele parameters deel uitmaken van meerdere gedragingen tegelijkertijd. De gedistribueerde en verstrengelde aard van deze geleerde representaties maakt het moeilijk om "chirurgische" kennismanipulatie uit te voeren, zoals het verwijderen van specifieke concepten (machine unlearning) of het isoleren van specifieke herinneringen zonder het hele model opnieuw te trainen. Terwijl de neurowetenschap stelt dat herinneringen worden opgeslagen in identificeerbare fysieke substraten die "engrammen" worden genoemd, blijft het een open vraag of analoge, identificeerbare geheugensporen bestaan binnen kunstmatige neurale netwerken. Huidige methoden voor kennisbewerking of unlearning vertrouwen vaak op iteratieve gradiëntgebaseerde optimalisatie of heuristische attributie, wat computationeel duur kan zijn, een gebrek aan theoretische garanties van specificiteit heeft, of niet schaalbaar is naar grote modellen.

2. Methodologie

Het artikel introduceert een geometrisch kader om "AI-engrammen" te identificeren — causale geheugensporen in kunstmatige intelligentie — door neurowetenschappelijke criteria te formaliseren in een beperkt invers probleem.

2.1. Neurowetenschappelijke Criteria als Constraints

De auteurs definiëren de identificatie van een engram $\mu^+_c$ voor een doelconcept $c$ op basis van vier canonieke criteria (Josselyn & Tonegawa, 2020; Tomé et al., 2024):

1. Specificiteit: Het engram moet de doelervaring ($X^+$) selectief coderen terwijl het inert blijft voor referentie-ervaringen ($X^-$).
2. Reactivatie: Het engram moet consistent de interne representaties ($Z^+$) reproduceren die met het doel geassocieerd zijn.
3. Voldoendeheid: Het injecteren van het engram in een naïeve (nul) staat moet het geleerde gedrag induceren.
4. Noodzakelijkheid: Het ablateren van het engram uit een geleerde staat moet het doelgedrag elimineren terwijl ongerelateerde kennis behouden blijft.

2.2. Algebraische Formulering

De auteurs formuleren de zoektocht naar het synaptische engram $W^+$ als een optimalisatieprobleem. Ze contrasteren geobserveerde staten (natuurlijk leren) met geïntervenieerde staten (algebraïsche manipulatie) om lineaire constraints af te leiden.

• Doel: Minimaliseer de discrepantie tussen geïntervenieerde en geobserveerde staten over doel- en referentiesets.
• Constraints: Afdwingen van orthogonaliteit ten opzichte van de referentie-subruimte ($W^+ X^- = 0$) om specificiteit te waarborgen.
• Oplossing: De auteurs leiden een closed-form estimator af voor het engram. Door gebruik te maken van de Moore-Penrose pseudoinversie en ongecentreerde covariantie matrices ($\Sigma^+ = X^+ X^{+\top}$ en $\Sigma^- = X^- X^{-\top}$), verkrijgen zij:
  $$W^+ = \Delta W \Sigma^+ (\Sigma^+ + \Sigma^-)^\dagger$$
  In de praktijk wordt de update voor een getraind model met gewichten $W$ retrospectief benaderd als $W^+ = W \Sigma^+ (\Sigma^+ + \Sigma^-)^\dagger$. Dit maakt de extractie van engrammen mogelijk in een enkele forward pass zonder backpropagation.

2.3. Geometrische Interpretatie

Het artikel legt een link tussen deze biologische constraints en informatiegeometrie. Onder de Kronecker-Factored Approximate Curvature (K-FAC) aanname en het Principe van Maximale Entropie, komt de afgeleide closed-form oplossing overeen met de minimum-norm projectie op een constraint-manifold onder de Fisher Informatie Metriek. Dit onthult dat de engram-richting overeenkomt met de natuurlijke gradiënt-richting op de parameter-manifold.

2.4. Combinatorische Unlearning

Omdat de geïdentificeerde engrammen lineair optelbaar zijn, maakt het kader combinatorische unlearning mogelijk. Om een subset van concepten te verwijderen, kan men simpelweg de corresponderende engrammen aftrekken van de modelgewichten met behulp van lineaire aritmetiek:
$$\text{Engram}(\alpha) := W - \alpha \sum_{k \in U} W^+_k$$
Dit omzeilt de exponentiële complexiteit van iteratieve unlearning-methoden.

3. Belangrijkste Bijdragen

1. Een Kader voor AI-engrammen: De auteurs vertalen biologische geheugencriteria naar algebraïsche constraints, wat resulteert in een schaalbare, closed-form estimator die geheugensporen isoleert van globaal verstrengelde parameters.
2. Geamortiseerde Geheugenisolatie: De methode ontkoppelt geheugensporen, waardoor de instantane compositie of erosie van kennis mogelijk is via eenvoudige lineaire aritmetiek. Dit lost de combinatorische complexiteit van unlearning op en demonstreert robuustheid over architecturen variërend van eenvoudige MLPs tot miljarden-parameters tellende LLM's.
3. Link naar Informatiegeometrie: Het werk toont aan dat de biologisch geïnspireerde closed-form estimator de Fisher-kromming herstelt, wat samenvalt met de natuurlijke gradiënt-richting, waardoor de brug wordt geslagen tussen biologische geheugentheorieën en kunstmatige representatieleer.

4. Experimentele Resultaten

De auteurs valideren het kader over diverse architecturen en datasets:

• Schaalbaarheid en Veelzijdigheid: De methode isoleert en verwijdert succesvol concepten in MLPs, CNN's (ResNet-18/50), Vision Transformers (ViT) en generatieve modellen (ConvAE, WAE). In CIFAR-10 en CIFAR-100 experimenten resulteert de ablatie van een specifiek engram in het selectief verwijderen van de doelklasse-accuratesse, terwijl de prestaties op referentieklassen behouden blijven (chirurgische precisie).
• Kwantitatieve Prestaties: Op class-wise unlearning benchmarks (CIFAR-10/100) bereikt de Engram-methode superieure Tug-of-War (ToW) scores vergeleken met state-of-the-art baselines (bijv. NegGrad, SalUn, Fine-tuning), wat wijst op een nauwere gedragsmatige alignment met een model dat vanaf nul is hertraind. Het vertoont ook een effectieve dissipatie van structurele sporen in de latente ruimte (DA en NMI metrieken).
• Large Language Models (LLMs): Toegepast op Llama-3.2-1B op de TOFU benchmark, demonstreert de methode hoge efficiëntie.
  • Efficiëntie: Het vereist ongeveer 30x minder FLOP's en 2.3x minder piekgeheugen dan gradiëntgebaseerde iteratieve methoden, waarbij het in ~2 minuten wordt voltooid in plaats van tientallen minuten.
  • Prestaties: Hoewel het achterblijft bij sommige toegewijde iteratieve methoden (bijv. AltPO, NPO) op algemene metrieken, presteert het significant beter dan andere closed-form editing baselines (UCE, Task Arithmetic) en bereikt het de laagste Exact Memorization (EM) scores onder de gradient-vrije methoden.
  • Lokalisatie: Analyse van de engram-gewichten onthult dat geheugensporen niet willekeurig verdeeld zijn maar geconcentreerd in specifieke lagen: de Query (Q) en Key (K) projecties van self-attention en de Gate projecties van MLPs. Ablatie-studies bevestigen dat het targeten van deze specifieke lagen voldoende is voor effectieve unlearning.

5. Betekenis en Claims

Het artikel claimeert de kloof tussen biologische geheugentheorieën en kunstmatige intelligentie te overbruggen door aan te tonen dat causale substraten van kennis kunnen worden geïsoleerd en gemanipuleerd via deterministische spectrale resoluties, zelfs binnen sterk niet-lineaire systemen.

• Paradigmaverschuiving: Het werk stelt een verschuiving voor van machine unlearning van stochastische gradiëntzoektochten naar structurele identificatie.
• Orthogonaal Regime: De auteurs positioneren Engram niet als een vervanging voor iteratieve unlearning, maar als een orthogonaal regime (O(1)-pass, gradient-vrij) dat bijzonder waardevol is wanneer:
  1. Het aantal te unlearnen concepten groot is (gebruikmakend van combinatorische compositonaliteit).
  2. Computationele middelen of toegang tot gewichten beperkt zijn.
  3. Het doel structurele identificatie is in plaats van distributionele ononderscheidbaarheid.
• Interpretabiliteit: De ontdekking van gecondenseerde lokalisatiepatronen in LLM's biedt een nieuw perspectief op neurale interpretabiliteit, waarbij wordt gesuggereerd dat specifieke functionele topologieën van geheugen verblijven in lineariseerbare subruimtes van de gewichtsruimte.

De auteurs concluderen dat hun kader ongekende efficiëntie biedt voor chirurgische geheugenisolatie, wat veiliger modelgedrag en duidelijkere interpretabiliteit mogelijk maakt, terwijl het wegen vrijmaakt voor toekomstig onderzoek naar de temporele dynamiek van engrammen in continual learning.