🤖 machine learning

Spectral Saliency for Machine Unlearning

Dit artikel introduceert Spectral Saliency Unlearning (SSU), een machine unlearning-methode geïnspireerd door Muon die selectief zwakke spectrale richtingen bijwerkt op basis van zelfverzekerde unlearning-signalen om de invloed van specifieke trainingsgegevens effectief te verwijderen terwijl de bruikbaarheid van het model over diverse architecturen heen behouden blijft.

Oorspronkelijke auteurs: Cedar Site Bai, Amber Yijia Zheng, Raymond A. Yeh, Brian Bullins

Gepubliceerd 2026-08-18

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Cedar Site Bai, Amber Yijia Zheng, Raymond A. Yeh, Brian Bullins

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

In de moderne digitale wereld worden kunstmatige intelligentiesystemen getraind op enorme oceanen van data om te leren hoe ze gezichten kunnen herkennen, afbeeldingen kunnen genereren of tekst kunnen schrijven. Zodra een model van deze data heeft geleerd, wordt het moeilijk om van gedachten te veranderen. Als een persoon verzoekt dat hun privé-informatie wordt verwijderd uit een dataset, zoals vereist door wetten zoals de Algemene Verordening Gegevensbescherming, is de standaardoplossing geweest om die data te verwijderen en het hele systeem vanaf de basis opnieuw te trainen. Dit proces is ongelooflijk duurzaam en tijdrovend, en vereist vaak dezelfde enorme rekenkracht als de oorspronkelijke training. Om dit op te lossen, hebben onderzoekers een vakgebied ontwikkeld genaamd machine unlearning (machine-ontlernen), dat tot doel heeft om de invloed van specifieke datapunten chirurgisch te verwijderen uit een getraind model, zonder het geheel opnieuw te hoeven opbouwen. Het doel is om het model de ongewenste informatie te laten vergeten, terwijl het zijn vermogen behoudt om op de rest goed te presteren.

Het simpelweg proberen om het leerproces om te keren is echter lastig. Wanneer een computer probeert een specifieke afbeelding of feit te "ontleren", kunnen de aanpassingen die het maakt aan zijn interne instellingen per ongeluk de kennis van andere, ongerelateerde zaken beschadigen. Het is als het proberen te verwijderen van een enkele vlek uit een complex wandtapijt; als je te hard aan de verkeerde draad trekt, loop je het risico het hele patroon te ontrafelen. Recente methoden hebben geprobeerd dit op te lossen door bepaalde delen van het leersignaal selectief te negeren, maar ze vertrouwen vaak op trial-and-error. Een nieuwe studie door onderzoekers aan de Purdue University introduceert een nauwkeurigere aanpak genaamd Spectral Saliency Unlearning. In plaats van te gokken welke delen van het model aangepast moeten worden, analyseert deze methode de wiskundige structuur van het leerproces zelf om te identificeren welke richtingen veilig zijn om te veranderen en welke te riskant zijn.

De onderzoekers bouwden hun methode op een concept uit de geavanceerde wiskunde bekend als spectrale analyse, die complexe data afbreekt in hun fundamentele componenten, vergelijkbaar met het scheiden van een akkoord in individuele muzikale noten. In de context van het trainen van een kunstmatige intelligentie, leert het systeem door zich te bewegen door een uitgestrekt landschap van mogelijkheden, geleid door signalen die vertellen hoe het kan verbeteren. De nieuwe studie suggereert dat niet alle deze signalen even betrouwbaar zijn. Sommige signalen zijn sterk en duidelijk, en wijzen direct naar de informatie die vergeten moet worden. Andere signalen zijn zwak en wazig, en vertegenwoordigen vaak een verwarrende mix van de informatie die vergeten moet worden en de informatie die behouden moet blijven. De onderzoekers ontdekten dat wanneer een model probeert data te ontleren met behulp van deze zwakke, gemengde signalen, het vaak zijn eigen prestaties op de data die het zou moeten onthouden, schaadt.

Om dit aan te pakken, stelde het team een techniek voor die fungeert als een filter voor deze leersignalen. Ze ontwikkelden een manier om de kracht van elke richting te meten waarin het model zou kunnen veranderen. Als een richting wordt ondersteund door een sterk, zelfverzekerd signaal om te vergeten, volgt het model die richting. Maar als het signaal zwak of ambigu is, onderdrukt de methode dit, wat het model effectief vertelt om dat specifieke pad te negeren. Dit voorkomt dat het model onhandige aanpassingen maakt die zijn behouden kennis verwarren met de data die het probeert te wissen. De onderzoekers testten dit idee bij drie zeer verschillende soorten kunstmatige intelligentie: systemen die afbeeldingen classificeren, systemen die nieuwe plaatjes genereren, en grote taalmodellen die tekst schrijven. In elk geval zorgde de nieuwe methode ervoor dat de modellen de doeldata effectiever konden vergeten, terwijl ze hun vermogen behielden om met de rest van de wereld om te gaan.

De resultaten van deze experimenten waren opmerkelijk. Wanneer toegepast op beeldclassificatie-modellen getraind op de CIFAR-10 dataset, verminderde de nieuwe methode het gat tussen het ontleerde model en een perfect opnieuw getraind model met meer dan dertig procent. In het domein van beeldgeneratie, waar het doel is om afbeeldingen van specifieke objecten te maken, bereikte de methode perfect vergeten van de ongewenste categorieën, terwijl het tegelijkertijd de kwaliteit van de resterende afbeeldingen met bijna vierentwintig procent verbeterde. Voor grote taalmodellen, die vaak worden gebruikt om verhalen te schrijven of vragen te beantwoorden, verbeterde de aanpak consistent de balans tussen het vergeten van specifieke feiten en het behouden van algemeen schrijfvermogen. De onderzoekers merkten op dat deze techniek werkt door zich alleen te concentreren op de meest dominante en betrouwbare richtingen van verandering, in plaats van te proberen elk deel van het model tegelijkertijd aan te passen.

Een van de meest significante aspecten van dit werk is dat het een theoretische verklaring biedt voor waarom eerdere methoden, die vertrouwden op eenvoudige vuistregels, succesvol waren. Door de wiskundige eigenschappen van de leersignalen te analyseren, toonden de onderzoekers aan dat de zwakke, ruisige richtingen precies de plekken zijn waar het conflict tussen vergeten en onthouden plaatsvindt. Door deze weg te filteren, vermijdt het model de ergste interferentie. Dit inzicht transformeert unlearning van een heuristisch proces, gebaseerd op gokwerk, naar een principieel proces gebaseerd op de structuur van de data zelf. De studie demonstreert dat door selectiever te zijn over welke richtingen te updaten, kunstmatige intelligentiesystemen specifieke informatie kunnen vergeten zonder hun algemene intelligentie te verliezen, wat een praktische en efficiënte weg biedt naar conforme en ethische AI-systemen.

Technische Samenvatting: Spectrale Saliëntie voor Machine Unlearning

Probleemstelling

Machine Unlearning (MU) beoogt de invloed van specifieke trainingsgegevens (de "forget set") te verwijderen uit een getraind model zonder volledige hertraining te vereisen, een noodzaak die wordt gedreven door regelgeving inzake gegevensbeheer zoals de AVG (GDPR). Hoewel recente benaderingen voor benaderde unlearning gebruikmaken van gradiëntgebaseerde updates om een forgetting-doelstelling te optimaliseren (het verhogen van de loss op de forget set) naast een retention-doelstelling (het behouden van bruikbaarheid op de resterende data), kampen zij vaak met een fundamentele afruil: agressief vergeten kan de prestaties van het model op de behouden data verslechteren.

Bestaande benaderingen, zoals SalUn, maken gebruik van coördinaat-gewijze masking om gradiëntupdates met een lage magnitude te onderdrukken, waarbij deze als ruis worden beschouwd. De theoretische rechtvaardiging voor waarom het onderdrukken van specifieke richtingen de forgetting-retention afruil verbetert, is echter grotendeels heuristisch gebleven. Bovendien kunnen standaard gradiëntafdaling-updates onbedoeld richtingen updaten waar de forgetting- en retention-doelstellingen verstrengeld zijn, wat leidt tot onnodige degradatie van de bruikbaarheid.

Methodologie: Spectral Saliency Unlearning (SSU)

Geïnspireerd door de Muon-optimizer, die spectrale magnitude-normalisatie toepast om exploratie van zeldzame richtingen in het leerproces aan te moedigen, stelt dit artikel Spectral Saliency Unlearning (SSU) voor. SSU herformuleert unlearning als een gedeeltelijke "omkering" van het optimalisatieproces, opererend in het spectrale domein van de unlearning-gradiënt.

Kernmechanisme

SSU vervangt de standaard unlearning-gradiënt $G_u$ door een variant die via singulariteitswaarde-thresholding is bewerkt. De procedure omvat:

Spectrale Decompositie: Voor parameters met een matrixstructuur wordt de unlearning-gradiënt $G_u$ gedecomposeerd via Singular Value Decomposition (SVD): $G_u = U \text{diag}(\sigma) V^\top$ .
Definitie van Spectrale Saliëntie: De magnitude van de singulariteitswaarde $\sigma_i$ wordt gedefinieerd als de "spectrale saliëntie" van de betreffende richting. Een grote $\sigma_i$ duidt op een sterk, betrouwbaar unlearning-signaal, terwijl een kleine $\sigma_i$ wijst op zwakke ondersteuning.
Thresholding: Zwakke spectrale componenten worden onderdrukt. De methode behoudt alleen de dominante $\gamma$ fractie van de singulariteitscomponenten (waarbij $\gamma \in (0, 1]$ de keep-ratio is). De getresholde gradiënt $\tilde{G}_u$ wordt gereconstrueerd met behulp van enkel de dominante singulariteitsvectoren en -waarden:
$\tilde{G}_u = \sum_{i=1}^{k} \sigma_i u_i v_i^\top$
waarbij $k = \lfloor \gamma m \rfloor$ .
Hybride Toepassing: Voor vector- en scalar-gestructureerde parameters (zoals biases), grijpt SSU terug op coördinaat-gewijze thresholding vergelijkbaar met SalUn, wat de praktijk weerspiegelt van het gebruik van vector-gebaseerde optimizers voor deze parameters.

Theoretische Rechtvaardiging

Het artikel biedt een theoretisch kader dat zwakke spectrale componenten koppelt aan de forgetting-retention afruil:

Forget-Retain Conflict: De auteurs definiëren "forget-retain alignment" om de directionele conflict tussen de forgetting-gradiënt ( $G_f$ ) en de retention-gradiënt ( $G_r$ ) te meten.
Propositie 4.3: De analyse suggereert dat richtingen met kleine singulariteitswaarden (zwakke spectrale componenten) vaak overeenkomen met scenario's waarin $G_f$ en $G_r$ negatief uitgelijnd zijn. In deze richtingen leidt een update die het vergeten verbetert noodzakelijkerwijs tot een verslechtering van de retentie (en vice versa).
Mechanisme van Verbetering: Door deze zwakke componenten te onderdrukken, vermijdt SSU het updaten van richtingen waar forgetting en retention verstrengeld zijn. Dit mitigeert onnodige degradatie van de bruikbaarheid van het model terwijl de dominante unlearning-signalen behouden blijven.
Extensie naar Coördinaat Masking: Het artikel breidt deze directionele analyse uit naar coördinaat-gewijze masking (SalUn), en biedt daarmee een theoretische verklaring voor waarom het onderdrukken van coördinaten met een kleine magnitude voordelig is: het voorkomt updates waarbij de forgetting- en retention-signalen elkaar opheffen.

Belangrijkste Bijdragen

Nieuw Algoritme: Introductie van SSU, een singulariteitswaarde-thresholding benadering voor gradiëntgebaseerde unlearning die zwakke spectrale componenten van de unlearning-gradiënt onderdrukt.
Theoretisch Inzicht: Een gefundeerde rechtvaardiging voor saliëntie-gebaseerde thresholding vanuit het perspectief van de forgetting-retention afruil, waarbij de relatie tussen zwakke richtingen en forget-retain interferentie wordt gekarakteriseerd. Deze analyse biedt ook een theoretische basis voor de effectiviteit van coördinaat-gewijze masking-methoden zoals SalUn.
Empirische Validatie: Uitgebreide evaluatie over diverse modelarchitecturen en taken, waarbij consistente verbeteringen ten opzichte van state-of-the-art baselines worden aangetoond.

Experimentele Resultaten

De auteurs evalueerden SSU binnen drie domeinen: beeldclassificatie, beeldgeneratie (diffusiemodellen) en large language models (LLM's).

1. Beeldclassificatie (CIFAR-10, ResNet-18)

Setup: Random subset unlearning (10% van de data).
Resultaten: SSU verbeterde de sterke SalUn-baseline, waarbij de gemiddelde kloof tot de hertrainde oracle werd verkleind van 1.11 naar 0.77. Dit werd bereikt met behoud van vergelijkbare prestaties in forgetting set accuracy (FA), remaining set accuracy (RA) en test set accuracy (TA).
Efficiëntie: De computationele overhead was verwaarloosbaar omdat SVD alleen werd toegepast op convolutionele lagen.

2. Beeldgeneratie (DDPM en Stable Diffusion)

Setup: Class-wise unlearning op CIFAR-10 (DDPM) en Imagenette (Stable Diffusion V1.4).
Resultaten:
- DDPM: SSU bereikte perfect vergeten (FA $\approx$ 0%) voor alle klassen, terwijl de generatiekwaliteit van de behouden klassen aanzienlijk werd verbeterd. De Fréchet Inception Distance (FID) vertoonde een verbetering van 23,6% vergeleken met de baselines.
- Stable Diffusion: SSU bereikte een gemiddelde FID van 1.24, waarmee het ESD (1.71) en SalUn (1.55) overtrof, terwijl een sterke forgetting effectiviteit (FA 0.20%) behouden bleef.
Kwalitatief: Visuele resultaten bevestigden dat de unlearned klassen effectief waren verwijderd (bijv. "tench" afbeeldingen worden niet meer gegenereerd) terwijl de behouden klassen een hoge getrouwheid behielden.

3. Large Language Models (TOFU Benchmark, Llama2-7B)

Setup: Random subset unlearning (1%, 5%, 10% van de data) voor zowel ongericht als gericht scenario.
Resultaten: SSU werd toegepast als een plug-in op de best presterende baselines (ME+GD voor ongericht, IDK+AP voor gericht).
- Ongericht: Verbeterde Model Utility (MU) van 0.7245 naar 0.7477 (forget01) en van 0.7312 naar 0.7480 (forget10), terwijl tegelijkertijd de Forget Efficacy (FE) toenam.
- Gerecht: Behaalde de beste gemiddelde scores in alle scenario's (bijv. 0.7856 voor forget01), wat een superieure balans aantoont tussen het behoud van modelcapaciteiten en effectieve unlearning.

Ablatie-studies

Keep Ratio: Een ratio van $\gamma=0.3$ bood de beste balans tussen forgetting kracht en model bruikbaarheid.
Laagselectie: In Stable Diffusion leverde het specifiek toepassen van SVD op de cross-attention lagen de beste afruil op. Het toepassen van SVD op alle lagen degradeerde de generatiekwaliteit licht, wat suggereert dat unlearning zich moet richten op concept-dragende componenten in plaats op laag-niveau visuele kenmerken.

Betekenis en Claims

Het artikel claimt dat SSU een geprincipiëerde, optimizer-agnostische methode biedt voor machine unlearning. Door het perspectief te verschuiven van coördinaat-gewijze heuristieken naar spectrale analyse, beargumenteren de auteurs dat het onderdrukken van zwakke spectrale componenten direct de "forget-retain conflict" aanpakt.

De betekenis ligt in:

Theoretische Onderbouwing: Het verder gaan dan empirische heuristieken om een theoretische verklaring te bieden voor waarom het onderdrukken van specifieke gradiëntrichtingen de unlearning verbetert.
Generaliseerbaarheid: Het aantonen dat een enkele spectrale thresholding strategie effectief de unlearning-pipelines kan verbeteren over zeer verschillende architecturen (CNN's, Diffusiemodellen, Transformers) en taken.
Prestaties: Het consistent verbeteren van de forgetting-utility afruil, waarbij state-of-the-art resultaten worden behaald in generatiekwaliteit en modelbruikbaarheid bij een hoge forgetting effectiviteit.

De auteurs blijven bescheiden en merken op dat hun theorie de afruil karakteriseert, maar geen volledige kwantitatieve voorspelling van end-to-end prestaties biedt, en dat het uitbreiden van de analyse naar zwakkere aannames een richting voor toekomstig werk blijft.