SAEmnesia: Erasing Concepts in Diffusion Models with Supervised Sparse Autoencoders

Technische Samenvatting: SAEmnesia: Het wissen van concepten in diffusiemodellen met gesuperviseerde sparse autoencoders

Probleemstelling
Het ontleren van concepten in tekst-naar-beeld diffusiemodellen wordt momenteel belemmerd door "feature splitting", een fenomeen waarbij een enkel concept verdeeld is over vele latente kenmerken (neuronen) in plaats van gelokaliseerd te zijn bij een enkele eenheid. Deze gedistribueerde representatie, bekend als polysemanticiteit, maakt het identificeren en verwijderen van specifieke concepten uitdagend. Bestaande methoden vereisen vaak een uitputtende zoektocht naar talloze combinaties van latente variabelen om de juiste subset voor modificatie te vinden, wat het proces computationeel kostbaar maakt. Bovendien vervagen overlappende latente variabelen de grenzen tussen concepten, wat het risico op onbedoelde neveneffecten op gerelateerde concepten tijdens interventie vergroot.

Methodologie
De auteurs introduceren SAEmnesia, een framework dat een gesuperviseerde sparse autoencoder (SAE) gebruikt om een één-op-één mapping tussen concepten en latente neuronen af te dwingen. In tegenstelling tot ongesuperviseerde SAE-benaderingen die kenmerken post-hoc ontdekken, integreert SAEmnesia gesuperviseerde labeling direct in het trainingsproces met behulp van de tekstprompts die worden gebruikt om de afbeeldingen te genereren.

De kern van de technische componenten omvat:

1. Feature Centralization: Door concepten systematisch te labelen tijdens de training, bereikt de methode "feature centralization", waarbij elk concept wordt gekoppeld aan een enkele, interpreteerbare neuron. Dit voorkomt dat concepten over meerdere neuronen worden verspreid.
2. Gesuperviseerde Loss Function: De trainingsdoelstelling combineert een standaard ongesuperviseerde reconstructieverlies met een gesuperviseerd component ($L_{supSAE}$). Deze gesuperviseerde loss bestaat uit:
   • Concept Assignment (CA) Loss: Moedigt specifieke toegewezen latente variabelen aan om sterk te activeren wanneer hun corresponderende concepten aanwezig zijn in de input.
   • Decorrelation (DC) Loss: Bestraft correlaties tussen activatiepatronen van latente variabelen die aan verschillende macro-groepen van concepten zijn toegewezen (bijv. objecten versus stijlen) om ontkoppeling (disentanglement) te bevorderen.
   • Sparsity Regularization: Een $L_1$-term om ervoor te zorgen dat de meeste latente variabelen inactief blijven voor een gegeven input.
3. Inference en Erasure: Om een doelconcept te wissen, vereist de methode het sturen van slechts één enkele latente variabele. De activatie van deze specifieke latente variabele wordt vermenigvuldigd met een negatieve waarde (genormaliseerd door de gemiddelde activatie) om de invloed van het concept te onderdrukken. Dit proces is omkeerbaar; het loskoppelen van de SAE herstelt het originele model exact.

Belangrijkste Bijdragen
Het artikel beschrijft drie primaire bijdragen:

1. Gesuperviseerde SAE Framework: De introductie van een gesuperviseerde SAE die expliciet één-op-één concept-latente mappings afdwingt, waardoor feature splitting wordt geëlimineerd en transparante controle over conceptrepresentaties mogelijk wordt.
2. Efficiëntie in Erasure: Het aantonen dat deze structuur conceptverwijdering mogelijk maakt door de sturing van een enkele latente variabele, wat de noodzaak voor hyperparameterzoektochten tijdens de inference aanzienlijk vermindert.
3. Prestatieverbeteringen: Het behalen van superieure resultaten op de UnlearnCanvas benchmark vergeleken met de huidige state-of-the-art mechanistische benaderingen, verbeterde schaalbaarheid in sequentiële onlearning, sterkere robuustheid tegen adversariële aanvallen en effectieve onderdrukking van NSFW-content.

Experimentele Resultaten
Geëvalueerd op de UnlearnCanvas benchmark met behulp van Stable Diffusion v1.5, demonstreert SAEmnesia significante verbeteringen ten opzichte van de huidige state-of-the-art SAE-gebaseerde methode (SAeUron) en andere onlearning-benaderingen:

• Benchmark Prestaties: SAEmnesia bereikt een gemiddelde score van 91,51% op object unlearning, een absolute verbetering van 9,22% ten opzien van SAeUron (82,29%). Het laat consistente winsten zien over Unlearning Accuracy (UA), In-domain Retain Accuracy (IRA) en Cross-domain Retain Accuracy (CRA).
• Computationele Efficiëntie: Door de zoekruimte te verkleinen van het verkennen van meerdere latente combinaties naar het afstemmen van een enkele multiplier per concept, vermindert de methode de hyperparameter zoekvereisten met 96,67% (van 210 evaluaties naar 7).
• Sequentiële Unlearning: In taken die de sequentiële verwijdering van negen objecten omvatten, verbetert SAEmnesia de unlearning nauwkeurigheid met 28,4% vergeleken met de baseline, wat een superieure schaalbaarheid aantoont.
• Robuustheid: Onder white-box adversariële aanvallen (UnlearnDiffAtk) behoudt SAEmnesia 57,50% unlearning nauwkeurigheid vergeleken met 34,20% voor SAeUron. Het vertoont ook veerkracht tegen black-box aanvallen (Ring-A-Bell).
• NSFW Onderdrukking: Op de I2P benchmark voor het verwijderen van naaktheid behaalt de methode state-of-the-art resultaten (9 detecties versus 18 voor SAeUron) terwijl de generatiekwaliteit behouden blijft.

Betekenis en Claims
Het artikel positioneert SAEmnesia als een stap voorwaarts naar "precieze en controleerbare conceptverwijdering" in generatieve modellen. Door gedistribueerde representaties te transformeren naar geconcentreerde, monosemantische kenmerken, adresseert de methode de fundamentele interpreteerbaarheidsuitdagingen die eerdere unlearning-technieken hebben belemmerd. De auteurs beweren dat deze aanpak fijne controle over generatief gedrag mogelijk maakt zonder de basisgewichten van het model te wijzigen, wat een volledig omkeerbaar en transparant mechanisme biedt voor het verwijderen van schadelijke, ongepaste of auteursrechtelijk beschermde inhoud. Het werk benadrukt dat hoewel het dient als een onderzoeksinstrument voor veiligere implementatie, het moet worden toegepast naast rigoureuze evaluatie- en governance-mechanismen om betrouwbaarheid te garanderen.