🤖 machine learning

Tackling Fake Forgetting through Uncertainty Quantification

Dit artikel identificeert het fenomeen van "nepvergeten", waarbij de onthullingsnauwkeurigheid gefaalde informatie detecteert die behouden blijft, en stelt een nieuwe metriek (CR) en een raamwerk (CPU) voor op basis van conformale voorspelling om ervoor te zorgen dat het grondwaarheid-label effectief uit de onzekerheidsset van het model wordt verwijderd.

Oorspronkelijke auteurs: Yingdan Shi, Sijia Liu, Kaize Ding, Ren Wang

Gepubliceerd 2026-05-13

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Yingdan Shi, Sijia Liu, Kaize Ding, Ren Wang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een zeer slimme student voor die een omvangrijk handboek uit zijn hoofd heeft geleerd. Stel nu dat een specifieke pagina in dat handboek een geheim bevat dat voorgoed moet worden gewist (misschien vanwege privacywetgeving). Je vraagt de student om die pagina te "vergeten".

Het probleem: de illusie van "nep-vergeten"

Traditioneel controleren we of de student het heeft vergeten door hem een vraag te stellen over die specifieke pagina. Als hij het antwoord fout heeft, zeggen we: "Geweldig! Hij heeft het vergeten."

Maar dit artikel betoogt dat deze test gebrekkig is. Het is alsof je een student vraagt de hoofdstad van een land te noemen dat hij moest vergeten. Als hij "Parijs" zegt in plaats van "Londen", denken we dat hij het heeft vergeten. Maar wat als hij diep van binnen nog steeds weet dat het Londen is, maar door de vraag in de war is geraakt? Of erger: wat als hij het juiste antwoord nog steeds kan raden als je hem een hint geeft?

De auteurs noemen dit "nep-vergeten". De student lijkt het te hebben vergeten omdat hij de eenvoudige test niet haalde, maar de informatie blijft sluimeren in zijn brein, klaar om te worden opgehaald.

De oplossing: het "Zekerheidsnet"

Om dit nep-vergeten op te sporen, introduceren de auteurs een nieuw instrument dat gebaseerd is op iets dat Conformale Voorspelling heet.

Stel je Conformale Voorspelling voor als een veiligheidsnet of een radenkring. In plaats van de student om één enkel antwoord te vragen, vraag je hem een cirkel te trekken rond alle antwoorden die hij denkt dat misschien goed zijn.

Als de student het geheim echt heeft vergeten, zou zijn cirkel breed en rommelig moeten zijn, en zou hij het echte antwoord helemaal niet moeten bevatten.
Als hij het alleen maar "neppeert", zal zijn cirkel nog steeds strak zijn, en zal het echte antwoord zich erin verstoppen, zelfs als hij het niet als zijn beste gok heeft gekozen.

De nieuwe maatstaf: de "Zekerheidsratio" (CR)

De auteurs hebben een nieuwe score ontwikkeld, genaamd CR (Conformal Ratio), om dit te meten.

Oude score (UA): Controleerde alleen of de student het enkele antwoord fout had. (Makkelijk te neppen).
Nieuwe score (CR): Controleert of het echte antwoord zich nog steeds verbergt binnen het "veiligheidsnet" van mogelijke antwoorden van de student. Als het echte antwoord nog in het net zit, zegt de score: "Je hebt het nog niet echt vergeten."

Het nieuwe kader: "CPU"

Om het probleem op te lossen, hebben de auteurs een nieuwe trainingsmethode ontwikkeld, genaamd CPU (Conformal Prediction Unlearning).

Stel je voor dat je de student leert vergeten.

Oude manier: Je zegt gewoon: "Zeg 'Londen' niet."
CPU-methode: Je zegt: "Zeg niet alleen 'Londen' niet, maar zorg ervoor dat 'Londen' zo ver weg staat van je lijst met mogelijke gissingen dat het volledig buiten je veiligheidsnet valt."

Ze hebben dit bereikt door een techniek uit de cybersecurity (de C&W-aanval) te lenen en aan te passen. In plaats van alleen te proberen het vertrouwen in het verkeerde antwoord te verlagen, duwen ze het juiste antwoord actief uit de voorspellingcirkel.

De resultaten

Toen ze dit testten op taken voor beeldherkenning (zoals het identificeren van foto's van honden of auto's):

Vonden ze dat veel bestaande methoden inderdaad "nep-vergeten" simuleerden. De modellen zouden de afbeelding verkeerd classificeren, maar het juiste label verbleef nog steeds verborgen in hun voorspellingcirkel.
Hun nieuwe CR-score slaagde erin deze nepvergeten te vangen.
Hun nieuwe CPU-kader dwong de modellen daadwerkelijk het juiste antwoord uit de cirkel te duwen, wat resulteerde in veel betrouwbaarder en echt vergeten, zonder het vermogen van het model om andere dingen te herkennen te saboteren.

In het kort

Dit artikel zegt: "Controleer niet alleen of een model het antwoord fout heeft; controleer of het antwoord zich nog steeds verbergt in zijn veiligheidsnet. Als dat zo is, is het niet echt vergeten. We hebben een nieuwe manier ontwikkeld om dit te meten en een nieuwe trainingsmethode om ervoor te zorgen dat de data daadwerkelijk weg is."

Technische Samenvatting: Aanpakken van Valse Vergetelheid via Kwantificering van Onzekerheid

Probleemstelling

Machine vergeten (machine unlearning) heeft tot doel de invloed van specifieke datapunten uit een getraind model te verwijderen, een mogelijkheid die steeds vaker wordt voorgeschreven door regelgeving zoals de AVG. Hoewel Vergeten-nauwkeurigheid (UA) de standaardmetriek is voor het evalueren van prestaties – waarbij wordt gemeten hoe vaak een model "vergeten" data verkeerd classificeert – identificeren de auteurs een kritiek gebrek: valse vergetelheid.

Het artikel betoogt dat UA ontoereikend is omdat het uitsluitend steunt op puntvoorspellingen. Een model kan een datapunt dat moet worden vergeten verkeerd classificeren (wat resulteert in een hoge UA-score), terwijl het toch een hoge zekerheid behoudt over de ground truth-label binnen zijn onzekerheidsschattingen. Specifiek kan de ground truth-label nog steeds worden opgenomen in de conforme voorspellingsset van het model, wat betekent dat de informatie niet echt uit de beslissingsgrens van het model is gewist. Dit fenomeen wordt gevisualiseerd via Grad-CAM, wat aantoont dat zelfs wanneer een model een afbeelding verkeerd classificeert, de aandachtmechanismen vaak nog steeds gericht blijven op de sleutelfuncties van het object als de ware label nog steeds in de voorspellingsset zit.

Methodologie

1. De Conform Ratio (CR) Metriek

Om de beperkingen van UA aan te pakken, stellen de auteurs een nieuwe evaluatiemetriek voor, genaamd Conform Ratio (CR), geïnspireerd door Gesplitste Conform Voorspelling (SCP). In tegenstelling tot UA, dat alleen de enkele voorspelde klasse controleert, evalueert CR de volledige voorspellingsset.

De metriek wordt gedefinieerd als:
$CR = \frac{\text{Dekking}}{\text{Setgrootte}}$

Dekking: Het aandeel datapunten dat moet worden vergeten waarbij de ground truth-label binnen de conforme voorspellingsset valt. Een hoge dekking op vergeten data duidt op "valse vergetelheid".
Setgrootte: Het gemiddelde aantal labels in de voorspellingsset.
Interpretatie: Een lagere CR-waarde op vergeten data ( $D_f$ ) duidt op sterkere vergetelheid (de ware label is succesvol uit de set verwijderd). Omgekeerd geeft een hogere CR op testdata ( $D_{test}$ ) aan dat de nuttigheid van het model behouden blijft.

De auteurs valideren dat bestaande metrieken vaak falen bij het detecteren van gevallen waarin de ware label nog steeds in de voorspellingsset zit, terwijl CR dit vastlegt door te vereisen dat de ground truth voorbij de drempel voor niet-conformiteitsscore wordt geduwd.

2. Het Conform Voorspelling Vergeten (CPU) Kader

Op basis van de inzichten uit CR stellen de auteurs CPU voor, een algemeen kader om op training gebaseerde vergetenmethoden te verbeteren. De kernidee is om de verliesfunctie aan te passen om de ground truth-label van vergeten data expliciet uit de conforme voorspellingsset te dwingen.

Het kader past de Carlini & Wagner (C&W) adversariele aanval-verliesfunctie aan. In plaats van simpelweg het verschil te maximaliseren tussen de ware klasse en de top concurrerende klasse, duwt de CPU-verliesfunctie de niet-conformiteitsscore van de ware label ( $S(x, y_t)$ ) voorbij de conforme drempel ( $\hat{q}$ ).

De voorgestelde verliesfunctie is:
$L_{cpu}(x, y_t) = \max\{\hat{q} - S(x, y_t), -\Delta\}$

Waarbij:

$\hat{q}$ de drempel is afgeleid van een kalibratieset.
$S(x, y_t) = 1 - p_t(x)$ de niet-conformiteitsscore is (inverse waarschijnlijkheid).
$\Delta$ een margeparameter is ( ingesteld op 0,01 in experimenten).

Deze verliesfunctie moedigt het model aan om de niet-conformiteitsscore van de ware label te verhogen totdat deze $\hat{q}$ overschrijdt, waardoor de ware label effectief uit de voorspellingsset wordt uitgesloten. Het uiteindelijke doel combineert de oorspronkelijke verliesfunctie met deze nieuwe term:
$L_{total} = L_{original} + \lambda \cdot L_{cpu}$

Belangrijkste Bijdragen

Identificatie van Valse Vergetelheid: Het artikel toont aan dat een aanzienlijk deel van de data dat door UA als "vergeten" wordt geïdentificeerd (verkeerd geclassificeerd), nog steeds kan worden hersteld omdat de ground truth-label binnen de conforme voorspellingsset blijft.
Nieuwe Metriek (CR): Introductie van de Conform Ratio, die een betrouwbaardere beoordeling biedt van de kwaliteit van vergetenheid door de volledige voorspellingsset te evalueren in plaats van alleen de topvoorspelling.
CPU Kader: Een algemeen, modelonafhankelijk vergetenkader dat concepten van conforme voorspelling integreert in de trainingsverliesfunctie (via aangepaste C&W-verliesfunctie) om ervoor te zorgen dat de ground truth-label uit de voorspellingsset wordt uitgesloten.
Uitgebreide Evaluatie: Uitgebreide experimenten over meerdere datasets (CIFAR-10, Tiny ImageNet, Oxford-Pets) en architecturen (ResNet-18, ViT, Swin-T) valideren dat CPU de kwaliteit van vergetenheid verbetert zonder de nuttigheid van het model op behouden of testdata significant te verslechteren.

Experimentele Resultaten

Superioriteit van Metriek: In experimenten met 12 verschillende vergeten-baselines veranderde de rangschikking van methoden aanzienlijk wanneer geëvalueerd met CR versus UA. Methodes die goed presteerden onder UA (bijvoorbeeld Random Labeling) bleken te lijden onder valse vergetelheid volgens CR, terwijl andere (bijvoorbeeld Salun) betere echte vergetenheidscapaciteiten vertoonden.
Kaderprestaties: Het toepassen van het CPU-kader op bestaande methoden (RT, FT, RL) verlaagde de CR op vergeten data aanzienlijk (wat betere vergetenheid aangeeft) terwijl de Behouden Nauwkeurigheid (RA) en Testnauwkeurigheid (TA) stabiel bleven.
- Bijvoorbeeld, op CIFAR-10 met ResNet-18, verlaagde het toepassen van CPU op de Finetune (FT)-methode de UA-kloof met de Re-train (RT)-baseline van 4,8% tot 0,7%, terwijl tegelijkertijd de CR op vergeten data werd verlaagd.
Visueel Bewijs: Grad-CAM-visualisaties bevestigden dat wanneer de ware label uit de voorspellingsset wordt uitgesloten (zoals bereikt door CPU), de activeringsgebieden van het model verschuiven weg van de sleutelfuncties van het object, in tegenstelling tot standaard vergeten waarbij functies ondanks verkeerde classificatie nog steeds worden gemarkeerd.
Efficiëntie: De toevoeging van de CPU-verliesfunctie introduceerde verwaarloosbare rekenkundige overhead, met trainingsduurtoenames van minder dan 1 minuut over verschillende datasets.

Betekenis en Claims

Het artikel claimt een rigoureuzere basis te bieden voor machine vergeten door het evaluatieparadigma te verschuiven van eenvoudige nauwkeurigheid naar kwantificering van onzekerheid. De auteurs benadrukken dat het uitsluitend vertrouwen op UA een vals gevoel van privacy en veiligheid creëert. Door ervoor te zorgen dat de ground truth-label niet alleen verkeerd wordt geclassificeerd, maar actief uit de voorspellingsset wordt uitgesloten, bieden de voorgestelde CR-metriek en het CPU-kader een betrouwbaardere garantie dat data echt is vergeten. Het werk onderstreept dat bestaande vergetenmethoden vaak falen in het adresseren van de zekerheid van voorspellingen, en dat de voorgestelde aanpak deze kloof overbrugt met principes uit conforme voorspelling en adversariele aanvallen.