🤖 machine learning

The Forgetting-Retention Dilemma: Certified Unlearning Theory in Continual Learning

Dit artikel legt het eerste theoretische fundament dat continual learning en machine unlearning overbrugt door een afweging te formuleren tussen het behoud van historische kennis en gerichte vergetelheid, risicogrenzen af te leiden voor niet-convexe modellen, en een hybride strategie voor te stellen die de balans vindt tussen opslagefficiëntie en unlearning-prestaties.

Oorspronkelijke auteurs: Yiting Hu, Lingjie Duan, Qian Zhang

Gepubliceerd 2026-06-30

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Yiting Hu, Lingjie Duan, Qian Zhang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een meesterkok bent die een restaurant runt dat nooit sluit. Elke dag leer je een nieuw recept (een Continual Learning-taak). Na verloop van tijd wordt je keuken een schatkist vol met duizenden gerechten.

Maar hier komt de adder onder het gras: soms zegt een klant: "Ik wil graag vergeten dat ik ooit die pittige tonijnrol heb besteld." Ze hebben het recht om vergeten te worden. Je moet de invloed van dat specifieke gerecht uit je geheugen wissen, zodat je niet per ongeluk een variatie ervan serveert als ze terugkomen, of erger nog, dat je onthoudt dat ze het besteld hebben.

Dit is het Machine Unlearning-probleem.

Het artikel behandelt een zeer lastig scenario: wat gebeurt er als je een gerecht van vorig maand moet vergeten terwijl je vandaag de specialiteit van de dag aan het leren bent? En wat als je geen fysieke kopie van elk receptenboek dat je ooit hebt geschreven kunt bewaren (vanwege opslaglimieten of privacywetgeving)?

Hier is de uitsplitsing van de oplossing uit het artikel, met behulp van eenvoudige analogieën:

1. Het Kerndilemma: "Het Plaknotitie vs. De Gum"

In een normale keuken, als je een recept wilt vergeten, kun je de pagina gewoon verbranden. Maar in deze "Continual Learning"-keuken zijn de recepten allemaal met elkaar vermengd in je brein. Als je probeert het recept voor "Pittige Tonijn" te wissen, wis je misschien per ongeluk ook het recept voor "Sushirijst", of verpest je je vermogen om "Tempura" te maken omdat de ingrediënten zo met elkaar verweven zijn.

De auteurs noemen dit het Forgetting-Retention Dilemma:

Retention (Behoud): Je wilt al je oude vaardigheden (het maken van Tempura) perfect houden.
Forgetting (Vergeten): Je wilt één specifieke vaardigheid (Pittige Tonijn) chirurgisch verwijderen zonder de rest te beschadigen.

Het artikel bewijst dat deze twee doelen vaak met elkaar in strijd zijn. Hoe meer je probeert vast te houden aan je oude vaardigheden, hoe moeilijker het is om de nieuwe "verboden" data schoon te wissen.

2. De Drie Benaderingen die Getest Zijn

De onderzoekers testten drie verschillende manieren om aan deze "vergevingsverzoek" te voldoen:

A. De "Natuurlijke Vervagingsmethode" (Gradient-Based)

De Analogie: Stel je voor dat je stopt met het oefenen van het "Pittige Tonijn"-recept. Na verloop van tijd vervaagt je spiergeheugen voor het recept vanzelf omdat je andere dingen blijft koken.

Hoe het werkt: Het model blijft gewoon nieuwe taken leren. De oude data wordt op natuurlijke wijze naar buiten gedrukt.
Het Goede: Het kost nul extra opslag. Je hoeft geen extra aantekeningen bij te houden.
Het Slechte: Het is slordig. Als een klant vraagt om een recept van gisteren te vergeten, is het nog niet vervaagd, dus kun je het niet goed vergeten. Als ze vragen om iets van vorig jaar te vergeten, is het al weg, maar je hebt misschien ook per ongeluk andere dingen vergeten. Het is alsof je probeert een tekening te wissen door gewoon te wachten tot de inkt droogt; soms werkt het, maar soms veeg je het hele blad uit.

B. De "Precieze Gum-Methode" (Hessian-Based)

De Analogie: Dit is als het hebben van een hightech gum die precies weet hoeveel druk hij moet uitoefenen om alleen de inkt van de "Pittige Tonijn" te verwijderen zonder de "Sushirijst" aan te raken.

Hoe het werkt: Het model houdt een gedetailleerde "kaart" bij (een zogenaamde Hessian-matrix) van hoe elk ingrediënt in elk recept met elk ander ingrediënt verbonden is. Wanneer er een verwijderverzoek komt, gebruikt het deze kaart om de specifieke wijzigingen gemaakt door dat ene recept wiskundig terug te draaien.
Het Goede: Het is ongelooflijk nauwkeurig. Het vergeet precies wat het moet vergeten, zelfs als het verzoek gaat over een recept dat pas zojuist is geleerd.
Het Slechte: Het is zwaar. Het bijhouden van die gedetailleerde kaart voor elke dag dat je kookt, kost een enorme hoeveelheid opslagruimte (alsof je een bibliotheek aan kaarten in je schort draagt).

C. De "Hybride Chef" (De Innovatie van het Papier)

De Analogie: De auteurs realiseerden zich dat je niet de zware kaart voor alles nodig hebt.

De Strategie:
- Voor oude recepten (lang geleden geleerd), vertrouw op de Natuurlijke Vervaging. Ze zijn al aan het vervagen, dus je hebt de zware kaart niet nodig.
- Voor nieuwe recepten (onlangs geleerd), gebruik de Precieze Gum. Deze zitten nog vers in je geheugen, dus je hebt de kaart nodig om ze schoon te verwijderen.
Het Resultaat: Je krijgt het beste van beide werelden. Je bespaart een enorme hoeveelheid opslagruimte (door de oude kaarten weg te gooien) terwijl je toch een hoge nauwkeurigheid behoudt voor de recente verwijderingen.

3. De "Gecertificeerde" Garantie

Het artikel zegt niet alleen: "We denken dat we het vergeten zijn." Ze gebruiken een wiskundige garantie genaamd Certified Unlearning.

De Analogie: Stel je een notaris voor.

De oude manier: Je zegt: "Ik heb het recept verbrand." De klant moet jou vertrouwen.
De nieuwe manier: De notaris controleert je keuken en zegt: "Ik kan wiskundig bewijzen dat de huidige staat van jouw keuken statistisch ononderscheidbaar is van een keuken waarin dat recept nooit geschreven is geweest."
Dit is cruciaast voor privacywetgeving. Het bewijst dat je de data niet alleen hebt "verborgen", maar dat je de invloed ervan echt hebt verwijderd.

4. Wat Hebben Ze Gevonden?

De Trade-off: Je kunt niet perfect vergeten en perfect behouden zonder een prijs te betalen. Je moet kiezen tussen meer data opslaan (om precies te zijn) of minder opslaan (en een beetje meer "vlekken" accepteren).
De Volgorde Is Belangrijk: Als je dingen in een logische volgorde vraagt te vergeten (bijv. "Vergeet het menu van dinsdag, en dan dat van woensdag"), is het veel gemakkelijker en nauwkeuriger dan wanneer je vra't om dingen in een chaotische, willekeurige volgorde te vergeten.
De Winnaar: De Hybride benadering (het gebruik van natuurlijke vervaging voor oude zaken en precieze verwijdering voor nieuwe zaken) biedt de beste balans. Het houdt de opslagkosten laag terwijl het ervoor zorgt dat het "vergeten" wiskundig gecertificeerd en nauwkeurig is.

Samenvatting

Dit artikel bouwt het eerste theoretische regelboek voor hoe je moet "ontleren" in een wereld waar AI constant nieuwe dingen leert. Ze lieten zien dat je data niet zomaar kunt verwijderen zoals een computerbestand; je moet zorgvuldig balanceren tussen het scherp houden van je vaardigheden en het chirurgisch verwijderen van specifieke herinneringen. Hun oplossing is een slim mengsel van "oude herinneringen laten vervagen" en "een precisie-instrument gebruiken voor nieuwe herinneringen", alles ondersteund door een wiskundige garantie dat de data echt weg is.

Technische Samenvatting: Het Vergetelheids-Retentie Dilemma: Gecertificeerde Unlearning Theorie in Continual Learning

Probleemformulering

Het artikel behandelt de intersectie van Machine Unlearning en Continual Learning (CL). Terwijl machine unlearning gericht is op het verwijderen van de invloed van specifieke data om te voldoen aan privacyregelgeving (bijv. het "recht om vergeten te worden"), en CL gericht is op het leren van sequentiële taken zonder catastrofaal vergeten, vormt de combinatie hiervan een fundamentele theoretische en praktische uitdaging.

Bestaande gecertificeerde unlearning-algoritmen (bijv. op basis van de Hessiaan of gradiënt) zijn ontworpen voor statische settings. Ze falen in CL-contexten omdat:

Complexe Model Evolutie: CL-modellen evolueren dynamisch over non-i.i.d. taken, waarbij zij informatie uit het verleden op complexe manieren coderen die huidige gecertificeerde algoritmen niet effectief kunnen terugdraaien.
Conflicterende Doelstellingen: Het doel van CL is om vergeten te voorkomen (het behouden van historische kennis), terwijl unlearning juist gerichte vergetelheid vereist.
Opslag- en Toegangsbesch beperkingen: Veel gecertificeerde unlearning-methoden vereisen volledige data-retentie of kunnen niet omgaan met willekeurige, asynchrone sequenties van unlearning-verzoeken die gebruikelijk zijn in dynamische omgevingen.

De auteurs formaliseren het Continual Learning-Unlearning (CLU) probleem als een sequentieel proces in twee fasen:

Leerfase: Het model wordt bijgewerkt op een nieuwe taak $D_t$ met behulp van een $\ell_2$ -geregulariseerd schema om vergeten te mitigeren.
Unlearning-fase: Bij ontvangst van een verzoek om een set eerdere taken $S_t$ te verwijderen, moet het systeem een model produceren dat ononderscheidbaar is van een model dat opnieuw is getraind op de resterende data, waarbij aan $(\epsilon, \delta)$ -gegarandeerde unlearning-voorwaarden wordt voldaan.

De primaire prestatie-indicator is de Post-Unlearning Excess Risk ( $E_{LU}$ ), die uiteenvalt in twee concurrerende termen:

Unlearning Loss ( $E_U$ ): De fout geïntroduceerd door de benadering van het opnieuw getrainde model (de "vergetelheidskosten").
CL Excess Risk ( $E_L$ ): De fout die de CL-algoritme veroorzaakt op de behouden taken (de "retentiekosten").

Methodologie

Het artikel legt een theoretische basis voor CLU en stelt drie algoritmische benaderingen voor:

1. Theoretische Fundering

De auteurs leiden een bovengrens af voor de CL excess risk ( $E_L$ ) in non-convexe modellen onder $\ell_2$ -regularisatie. Ze bewijzen dat de optimale regularisatieparameter $\lambda$ voor het minimaliseren van de CL excess risk aanzienlijk kan verschillen van de parameter die vereist is voor het minimaliseren van de unlearning loss, wat de inherente trade-off benadrukt.

2. Gradiënt-gebaseerde CLU (Natuurlijke Vergetelheid)

Deze benadering maakt gebruik van het fenomeen van "natuurlijke vergetelheid" dat inherent is aan CL, waarbij de invloed van verre taken in het verleden in de loop van de tijd afneemt door sequentiële updates.

Mechanisme: In plaats van expliciete unlearning-stappen, voegt de methode Gaussische ruis toe aan de modelparameters. De schaal van de ruis wordt gekalibreerd op basis van een theoretische bovengrens ( $\gamma_t$ ) van de benaderingsfout, die de residuele invloed van verwijderde taken kwantificeert.
Voordeel: Het vereist nul opslagoverhead buiten de huidige modeltoestand.
Beperking: Het is minder effectief voor recente taken waar natuurlijke vergetelheid nog niet heeft plaatsgevonden, wat leidt tot een hogere unlearning loss.

3. Hessiaan-gebaseerde CLU

Deze benadering past second-order gecertificeerde unlearning-methoden aan de CL-setting aan om nauwkeurige, gerichte vergetelheid te bereiken.

Mechanisme: Het maakt gebruik van opgeslagen Hessiaan-informatie (of benaderingen zoals Gauss-Newton of diagonale Hessiaanse matrices) en modelupdates ( $\Delta_t$ ) om een correctieterm ( $\bar{\Delta}_t$ ) te berekenen. Deze term benadert het opnieuw getrainde model in één stap, zelfs voor willekeurige, asynchrone unlearning-sequenties.
Uitdaging: Het afhandelen van asynchrone verzoeken creëert "temporele wanorde", waarbij de invloed van eerdere verwijderingen zich voortplant in daaropvolgende updates. De auteurs leiden een recursieve correctieterm af om rekening te houden met deze temporele wanorde.
Kosten: Het brengt een opslagoverhead met zich mee die proportioneel is aan het aantal unlearning-events en de dimensie van de Hessiaan-benadering.

4. Hybride Strategie (Vergetelheid-verbeterde Hessiaan)

Om de balans te vinden tussen opslagkosten en nauwkeurigheid, stellen de auteurs een hybride strategie voor.

Mechanisme: Het gebruikt de Hessiaan-gebaseerde methode voor recente unlearning-verzoeken (waar natuurlijke vergetelheid zwak is) en vertrouwt op natuurlijke vergetelheid voor taken uit het verre verleden.
Implementatie: Het algoritme verwijdert de opgeslagen Hessiaan-informatie voor taken die ouder zijn dan een specifieke temporele drempel (bepaald door het gat tussen unlearning-events).
Voordeel: Dit vermindert de opslagcomplexiteit van $O(t \cdot d)$ naar $O(\max(t_i - t_{i-1}) \cdot d)$ , waarbij $t_i$ de unlearning-tijden zijn, terwijl een lage unlearning-fout behouden blijft.

Belangrijkste Resultaten

Experimenten werden uitgevoerd op MNIST, CIFAR-10 en CIFAR-100 met ResNet-18 en CNN-backbones met non-i.i.d. taaksequenties.

Ordegevoeligheid: Theoretische grenzen en experimenten bevestigen dat forward-synchronous unlearning-sequenties (waarbij verwijderde taken strikt nieuwer zijn dan het laatste unlearning-event) lagere benaderingsfouten opleveren dan asynchrone sequenties. Asynchrone verzoeken accumuleren extra fouttermen door temporele wanorde.
Nauwkeurigheid vs. Opslag Trade-off:
- Natuurlijke Vergetelheid (Gradiënt-gebaseerd): Bereikt de laagste opslag (bijna nul) maar lijdt onder de hoogste benaderingsfout, met name voor recente taken.
- Pure Hessiaan-gebaseerd: Bereikt benaderingsfouten die dicht bij volledige hertraining liggen (bijv. ~0.009 op CIFAR-100), maar vereist aanzienlijk geheugen (tot 5x hoger dan natuurlijke vergetelheid in de Gauss-Newton variant).
- Hybride (Vergetelheid-verbeterd): Vermindert het geheugengebruik aanzienlijk (vergelijkbaar met een diagonale Hessiaan) met slechts een bescheiden toename in benaderingsfout (~0.045), wat een praktisch middenpad biedt.
Gecertificeerde Garanties: Theoretische bovengrenzen ( $\gamma_T$ ) werden gevalideerd tegen empirische fouten. De grenzen gelden voor zowel gradiënt- als Hessiaan-gebaseerde methoden, wat $(\epsilon, \delta)$ -gegarandeerde unlearning waarborgt.
Retentie-Vergetelheid Trade-off: Het verhogen van de regularisatiestärke $\lambda$ vermindert de unlearning loss (door parameterdrift te beperken) maar verslechtert de pure CL test-nauwkeurigheid, wat de theoretische spanning tussen retentie en vergetelheid empirisch valideert.

Betekenis en Claims

Het artikel beweert de eerste theoretische fundering te bieden die gecertificeerde unlearning en continual learning overbrugt. De betekenis ligt in:

Formalisering van de Trade-off: Het definieert rigoureus het "Vergetelheid-Retentie Dilemma" door de post-unlearning risk te ontleden in CL excess risk en unlearning loss, en bewijst dat het minimaliseren van de één vaak de ander verergert.
Theoretische Grenzen: Het stelt de eerste excess-risk bounds vast voor $\ell_2$ -geregulariseerde CL in non-convexe settings en breidt de gecertificeerde unlearning-theorie uit naar dynamische, sequentiële aanvraagpatronen.
Praktische Algoritmen: Het introduceert een hybride strategie die de opslagbottleneck van second-order unlearning-methoden oplost zonder de theoretische garanties van gecertificeerde unlearning op te offeren.
Benchmarking: Het biedt een rigoureuze baseline (Natuurlijke Vergetelheid) en demonstreert dat, hoewel simpel, deze onvoldoende is voor recente taken, wat de noodzaak voor de voorgestelde Hessiaan-gebaseerde verbeteringen aantoont.

De auteurs concluderen dat hoewel hun werk zich richt op het fundamentele $\ell_2$ -geregulariseerde CL-algoritme, het de deur opent voor het uitbreiden van de gecertificeerde unlearning-theorie naar meer geavanceerde CL-methoden, zoals geheugen-gebaseerde benaderingen of Elastic Weight Consolidation (EWC).