Technische Samenvatting: Look But Don't Touch met Sparse Autoencoders voor Unlearning in Diffusiemodellen

Probleemstelling

Het artikel behandelt de uitdaging van machine unlearning (het onleren door machines) in diffusiemodellen (DM's), specifiek het selectief wissen van ongewenste concepten (bijv. specifieke objecten of stijlen) zonder het model opnieuw te trainen. Hoewel Sparse Autoencoders (SAEs) zijn opgekomen als veelbelovende instrumenten voor conceptuele manipulatie vanwege hun vermogen om dichte neurale activaties te deconstrueren naar ijle, monosemantische kenmerken, stuiten hun toepassing in DM's op een kritieke foutmodus.

Bestaande SAE-gebaseerde unlearning-methoden volgen doorgaans een pijplijn waarbij de SAE-latenten die een doelconcept vertegenwoordigen worden geïdentificeerd en vervolgens worden gestuurd (gemanoevreerd via negatieve multipliers) om het concept te onderdrukken. De auteurs observeren dat deze directe interventie frequent leidt tot out-of-distribution (OOD) activaties. Omdat de gemanipuleerde latente vectoren niet op het geleerde manifold van het diffusiemodel liggen, genereert het reconstructieproces ernstige visuele artefacten, wat de beeldkwaliteit verslechtert en het unlearning-doel ondermijnt. Het kernprobleem is de kloof tussen conceptdetectie (waar SAE's goed in zijn) en conceptinterventie (waar SAE's falen in DM's).

Methodologie

De auteurs stellen een framework voor genaamd Patch Embedding Replacement (PER) om detectie te scheiden van interventie. In plaats van de latente ruimte direct te manipuleren, gebruikt PER SAE's uitsluitend als semantische detectoren.

1. SAE Training en Conceptidentificatie

• SAE Architectuur: De auteurs passen SAE's toe op de residual stream van cross-attention lagen in de denoising netwerken van DM's (bijv. Stable Diffusion v1.5, SDXL Turbo). Ze maken gebruik van TopK SAE's, die ijlheid afdwingen door alleen de top $k$ geactiveerde latenten te behouden, wat een vast niveau van ijlheid garandeert.
• Concept-Latent Mapping: Een score-gebaseerde analyse identificeert welke SAE-latenten overeenkomen met specifieke concepten. Latenten worden gerangschikt op basis van hun activatiefrequentie in datasets die het doelconcept bevatten versus datasets zonder dit concept.
• Detectiemasker: Tijdens inferentie wordt een binair detectiemasker $M^c$ gegenereerd voor een doelconcept $c$. Een ruimtelijke locatie $(h, w)$ wordt gemarkeerd als het concept bevat als ten minste één geassocieerde latent een gemiddelde activatiedrempel over een validatieset overschrijdt.

2. Patch Embedding Replacement (PER)

In plaats van een negatieve multiplier toe te passen op de SAE-latenten (wat OOD-verschuivingen veroorzaakt), vervangt PER de problematische data direct in de feature map:

• Vervangingsstrategie: Voor elke patch embedding $\mathbf{X}_{h,w}$ waar het detectiemasker $M^c_{h,w} = 1$, wordt de embedding vervangen door een embedding $\mathbf{X}_{h',w'}$ die uniform wordt gesampled uit locaties waar het concept niet gedetecteerd wordt ($M^c_{h',w'} = 0$).
• Wiskundige Formulering:
  $$\tilde{\mathbf{X}}_{h,w} = (1 - \mathbf{M}^c_{h,w})\mathbf{X}_{h,w} + \mathbf{M}^c_{h,w}\mathbf{X}_{h',w'}$$
  waarbij $(h', w') \sim \mathcal{U}(\{(i, j) \mid \mathbf{M}^c_{i,j} = 0\})$.
• Dilatie: Om rekening te houden met ruimtelijke correlaties waarbij conceptinformatie in naburige patches doorsijpelt, kan het detectiemasker worden gedilateerd met een paddingfactor $p$. De auteurs vinden $p=1$ de optimale balans tussen dekking en het behoud van ongerelateerde inhoud.
• In-Distribution Garantie: Omdat alle vervangende activaties afkomstig zijn uit dezelfde forward pass van het denoising netwerk, blijven de resulterende activaties $\tilde{\mathbf{X}}$ strikt in-distribution (ID), waardoor de activatiestatistieken van het model behouden blijven en de artefacten veroorzaakt door OOD-sturing worden vermeden.

Belangrijkste Bijdragen

1. Identificatie van Foutmodi: Het artikel karakteriseert systematisch een concrete foutmodus in SAE-gebaseerde unlearning voor DM's: directe latente sturing via negatieve multipliers duwt activaties buiten het trainingsmanifold van de DM, wat resulteert in systematische visuele artefacten.
2. Detectie-gebaseerd Framework (PER): De auteurs introduceren PER, een methode die SAE's exclusief inzet voor conceptlokalisatie. Door gedetecteerde patch embeddings te vervangen door conceptvrije embeddings uit dezelfde feature map, verwijdert PER ongewenste concepten terwijl de visuele coherentie en de distributionele integriteit behouden blijven.
3. Prestatieverbeteringen: De methode elimineert de noodzaak voor kostbare grid searches naar de interventiestrengte ($\gamma$) en bereikt state-of-the-art resultaten op de UnlearnCanvas benchmark.

Experimentele Resultaten

De auteurs evalueerden PER op vier bestaande SAE-gebaseerde pijplijnen (SAeUron, SAEmnesia, G-SAE, en SAE op SDXL Turbo) over de UnlearnCanvas benchmark (20 objectklassen, 5 artistieke stijlen).

• Reductie van Artefacten: Multiplier-gebaseerde sturingmethoden produceerden hoge Artifact Rates (AR) (bijv. 57,0% voor SAeUron, 61,0% voor SAE op SDXL Turbo). Het toepassen van PER verminderde deze rates drastisch (bijv. naar 16,3% voor SAeUron en 8,0% voor SDXL Turbo).
• Unlearning Nauwkeurigheid: PER behield of verbeterde de Unlearning Accuracy (UA) terwijl de Cross-domain Retain Accuracy (CRA) aanzienlijk werd verhoogd. Bijvoorbeeld, op SAEmnesia verbeterde PER de Global Average (GA) score van 81,18% naar 91,44%, grotendeels gedreven door een CRA-toename van 88,48% naar 97,97%.
• Menselijke Evaluatie: In een gebruikersstudie waarbij de output van SAEmnesia en SAEmnesia+PER werd vergeleken, gaven menselijke annotatoren de voorkeur aan de PER-output in 95,5% van de gevallen zonder gelijkspel.
• Adversariële Robuustheid: PER demonstreerde competitieve robuustheid tegen adversariële aanvallen (UnlearnDiffAtk), waarbij het een kleinere degradatie in unlearning-effectiviteit vertoonde vergeleken met baselines in bepaalde configuraties.
• Efficiëntie: PER vereist geen model fine-tuning, geen extra SAE-training en geen hyperparameterzoektocht voor interventiestrengte, wat een computationeel efficiënt alternatief biedt voor bestaande methoden.

Betekenis en Claims

Het artikel positioneert SAE's als krachtige interpreteerbaarheidstools voor het analyseren van generatieve modellen, maar benadrukt een fundamentele beperking: monosemantische of ijle kenmerken zijn niet inherent geschikt als controleknoppen voor directe sturing in diffusiemodellen.

De auteurs beweren dat hun werk een "fundamentele kloof tussen conceptdetectie en conceptinterventie" blootlegt. Door deze taken te ontkoppelen — door SAE's alleen te gebruiken om het concept te vinden en standaard in-distribution data te gebruiken om het te vervangen — bereikt de methode schonere verwijderingsresultaten. Het artikel concludeert dat voor unlearning in diffusiemodellen het behoud van het activatiemanifold crucialer is dan de interpreteerbaarheid van de interventievector, en dat "Look But Don't Touch" (detecteren maar niet sturen) een effectievere strategie is dan directe manipulatie.