Technische Samenvatting: Similarity-Aware Machine Unlearning

1. Probleemstelling

Machine unlearning heeft als doel de invloed van specifieke trainingsvoorbeelden (de "forget set", $D_f$) te verwijderen uit een getraind model zonder vanaf nul te hoeven hertrainen, om zo aan datarecht op verwijdering (bijv. GDPR) te voldoen terwijl de computationele efficiëntie behouden blijft. Hoewel lokalisatiegebaseerde methoden de efficiëntie verbeteren door slechts een deelverzameling van invloedrijke parameters te wijzigen, lijden bestaande benaderingen aan een kritieke beperking: feature entanglement (kenmerkverstrengeling).

Huidige methoden selecteren parameters uitsluitend op basis van hun belang voor de forget set. Parameters die echter ook belangrijk zijn voor de "retain set" ($D_r$) die semantisch vergelijkbaar zijn met de vergeten voorbeelden, worden vaak ook beïnvloed. Het wijzigen van deze gedeelde parameters veroorzaakt collateral damage (bijkomende schade), wat de prestaties van het model verslechtert op behouden voorbeelden die dicht bij de vergeten data liggen in de geleerde representatieruimte. Bovendien slagen standaard geaggregeerde metrieken (zoals de algehele nauwkeurigheid van de retain set) er vaak niet in om deze schade te detecteren omdat deze geconcentreerd is in een kleine subset van semantisch vergelijkbare behouden voorbeelden.

2. Methodologie

De auteurs stellen een Similarity-Aware Localized Unlearning framework voor dat de Deletion by Example Localization (DEL) aanpak uitbreidt. De kerninnovatie is een retain-aware lokalisatiestrategie die rekening houdt met de parameterbelangrijkheid voor zowel de forget set als de retain set.

2.1. Kernconcepten

• Semantische Gelijkenis: Gedefinieerd via cosine similarity in de embedding-ruimte van het model. De auteurs observeren dat semantisch vergelijkbare monsters (zelfs over de grenzen van forget/retain heen) nabijgelegen regio's in de feature-ruimte bezetten en overlappende subsets van neuronen activeren.
• Retain-Similar Evaluatieset ($D_{r,sim}$): Om collateral damage direct te meten, construeren de auteurs een specifieke evaluatieset. Voor elk voorbeeld in $D_f$ identificeren zij de dichtstbijzijnde gelijke klasse-buur in $D_r$ op basis van cosine similarity in de oorspronkelijke embedding-ruimte van het model. Deze set isoleert de behouden voorbeelden die het meest kwetsbaar zijn voor feature entanglement.

2.2. Lokalisatiestrategie

De methode berekent criticality scores voor parameters (neuronen) afzonderlijk voor de forget set ($s_f$) en de retain set ($s_r$). Het doel is om parameters te selecteren die zeer kritiek zijn voor $D_f$ maar minimaal kritiek voor $D_r$. Drie specifieke scorestrategieën worden voorgesteld:

1. Difference Method: $\tilde{s}_j = \max(s_f^j - s_r^j, 0)$. Dit geeft prioriteit aan parameters waar de belangstelling van de forget set groter is dan die van de retain set.
2. Weighted Difference Method: $\tilde{s}_j = \max(w \cdot s_f^j - s_r^j, 0)$. Dit introduceert een scalaire weging $w$ om de balans tussen de specificiteit van de forget set en de bescherming van de retain set af te stemmen.
3. Ratio Method: $\tilde{s}_j = \frac{s_f^j}{s_r^j + \epsilon}$. Dit bevoordeelt parameters met een hoge forget-belangrijkheid relatief aan de retain-belangrijkheid.

2.3. Unlearning Proces

1. Masking: Een binaire lokalisatie-masker wordt geconstrueerd door neuronen globaal over alle lagen te rangschikken op basis van de gekozen criticality score. Neuronen worden gulistisch geselecteerd totdat een budget (bijv. 30% van de totale parameters) is bereikt.
2. Reinitialisatie: Geselecteerde gewichten worden opnieuw geïnitialiseerd met behulp van Kaiming normal initialisatie om hun waarden te resetten.
3. Fine-tuning: Het model wordt gefinetuned op de retain set ($D_r$) voor een vast aantal epochs. Gradiënten voor niet-geselecteerde gewichten worden gemaskeerd, waardoor updates beperkt blijven tot de geherinitialiseerde subset.

3. Experimentele Opzet

• Dataset: CIFAR-10 (60.000 afbeeldingen, 10 klassen). De trainingsset is gesplitst in een forget set ($D_f$, 5.000 afbeeldingen) en een retain set ($D_r$, 35.000 afbeeldingen).
• Model: Gemodificeerde ResNet-18 (aangepast voor 32x32 afbeeldingen).
• Baselines: Vergelijking met een "forget-only" lokalisatie baseline (DEL) en een Oracle-model (hertraind vanaf nul op $D_r$).
• Metrieken:
  • Standaard: Testnauwkeurigheid, Retain-nauwkeurigheid, Forget-nauwkeurigheid, Membership Inference Attack (MIA) score, KL-divergentie.
  • Voorgesteld: Retain-Similar Accuracy ($\Delta_{rs}$), die de prestaties specifiek op $D_{r,sim}$ meet.
  • Evaluatie: Metrieken worden gerapporteerd als delta's ($\Delta = \text{Oracle} - \text{Unlearned}$), waarbij waarden dichter bij nul duiden op een betere afstemming met de Oracle.

4. Belangrijkste Resultaten

Experimenten werden uitgevoerd in 11 settings (variërend in lokalisatiemethoden en hyperparameters).

• Reductie van Collateral Damage: De subsampled Difference method bereikte de beste balans. Het verminderde de retain-similar accuracy delta ($\Delta_{rs}$) naar +0.04, aanzienlijk lager dan de +0.49 van de forget-only baseline. Dit wijst op een substantiële reductie van collateral damage aan semantisch vergelijkbare behouden voorbeelden.
• Unlearning Effectiviteit: Dezelfde methode bereikte een forget accuracy delta ($\Delta_{forget}$) van +0.56, wat duidt op effectief vergeten (dicht bij het gedrag van de Oracle) zonder het overmatige vergeten dat bij de baseline (+2.70) optreedt.
• Oracle Alignment: De subsampled difference methode vertoonde een sterke afstemming met het Oracle-model, bewezen door een lage MIA score delta (+4.98 vs. +5.48 voor de baseline) en een lage KL-divergentie (0.395).
• Methode Vergelijking:
  • De Ratio method behield de bruikbaarheid (lage $\Delta_{retain}$) maar slaagde er niet in effectief te vergeten (grote negatieve $\Delta_{forget}$), wat suggereert dat het noodzakelijke parameterwijzigingen onderprioriteerde.
  • De Weighted Difference method toonde aan dat het verhogen van de weging $w$ de interventie agressiever maakte, wat leidde tot meer verlies van bruikbaarheid en resterende membership-signalen.
• Computationele Overhead: De voorgestelde methode veroorzaakte verwaarloosbare computationele overhead (02:59 vs. 02:57 voor de baseline), aangezien de tijd voor de wayberekening van de way-criticality en de fine-tuning bijna identiek waren.

5. Betekenis en Claims

Het artikel stelt dat feature entanglement een primaire oorzaak is van collateral damage in bestaande lokalisatiegebaseerde unlearning-methoden, waarbij geaggregeerde metrieken dit vaak niet detecteren.

De significantie van dit werk ligt in:

1. Identificatie van een Beperking: Het expliciet koppelen van collateral damage aan gedeelde geleerde representaties tussen de forget en retain sets.
2. Retain-Aware Lokalisatie: Het aantonen dat het opnemen van de belangstelling van de retain set in de parametervariatie zorgt voor "similarity-aware" unlearning, waardoor specifieke kennis van de forget set effectief wordt verwijderd terwijl gedeelde representaties behouden blijven.
3. Evaluatieprotocol: Het introduceren van de retain-similar evaluatieset als een noodzakelijk instrument om collateral damage direct te meten, met het argument dat standaard geaggregeerde metrieken onvoldoende zijn voor deze specifieke foutmodus.

De auteurs concluderen dat hun aanpak consistent de collateral damage vermindert en de standaard unlearning-metrieken verbetert, wat een praktische oplossing biedt met verwaarloosbare computationele kosten. Zij suggereren dat toekomstig werk de methode op grotere datasets en architecturen moet evalueren.