Sintesi Tecnica: Look But Don't Touch con Sparse Autoencoder per l'Unlearning nei Modelli di Diffusione

Problema

Il documento affronta la sfida dell'unlearning di macchina (machine unlearning) nei modelli di diffusione (DM), specificamente l'eliminazione selettiva di concetti indesiderati (ad esempio, oggetti o stili specifici) senza dover riaddestrare il modello. Sebbene gli Sparse Autoencoder (SAE) siano emersi come strumenti promettenti per la manipolazione a livello di concetto grazie alla loro capacità di decomporre le attivazioni neurali dense in feature sparse e monosemantiche, la loro applicazione nei DM incontra un modo di guasto critico.

I metodi di unlearning basati su SAE esistenti seguono tipicamente una pipeline in cui le latenti SAE che rappresentano un target concept vengono identificate e poi guidate (manipolate tramite moltiplicatori negativi) per sopprimere il concetto. Gli autori osservano che questa diretta intervento induce frequentemente attivazioni fuori distribuzione (OOD). Poiché i vettori latenti manipolati non giacciono sul manifold appreso dal modello di diffusione, il processo di ricostruzione genera gravi artefatti visivi, degradando la qualità dell'immagine e minando l'obiettivo di unlearning. Il problema centrale è il divario tra rilevamento del concetto (che gli SAE eseguono bene) e intervento sul concetto (dove gli SAE falliscono nei DM).

Metodologia

Gli autori propongono un framework chiamato Patch Embedding Replacement (PER) per disaccoppiare il rilevamento dall'intervento. Invece di manipolare direttamente lo spazio latente, PER utilizza gli SAE esclusivamente come rilevatori semantici.

1. Addestramento SAE e Identificazione del Concetto

• Architettura SAE: Gli autori applicano gli SAE al residual stream dei layer di cross-attention nelle reti di denoising dei DM (ad esempio, Stable Diffusion v1.5, SDXL Turbo). Utilizzano TopK SAE, che impongono la sparsità mantenendo solo le $k$ latenti attivate, garantendo un livello di sparsità fisso.
• Mappatura Concetto-Latente: Un'analisi basata sul punteggio identifica quali latenti SAE corrispondono a specifici concetti. Le latenti sono classificate in base alla frequenza di attivazione in dataset contenenti il target concept rispetto a quelli che non lo contengono.
• Maschera di Rilevamento: Durante l'inferenza, viene generata una maschera di rilevamento binaria $M^c$ per un target concept $c$. Una posizione spaziale $(h, w)$ è contrassegnata come contenente il concetto se almeno una latente associata supera la sua soglia di attivazione media su un set di validazione.

2. Patch Embedding Replacement (PER)

Invece di applicare un moltiplicatore negativo alle latenti SAE (il che causa shift OOD), PER sostituisce direttamente il dato problematico nella feature map:

• Strategia di Sostituzione: Per ogni patch embedding $\mathbf{X}_{h,w}$ dove la maschera di rilevamento $M^c_{h,w} = 1$, l'embedding viene sostituito con un embedding $\mathbf{X}_{h',w'}$ campionato uniformemente da posizioni in cui il concetto non è rilevato ($M^c_{h',w'} = 0$).
• Formulazione Matematica:
  $$\tilde{\mathbf{X}}_{h,w} = (1 - \mathbf{M}^c_{h,w})\mathbf{X}_{h,w} + \mathbf{M}^c_{h,w}\mathbf{X}_{h',w'}$$
  dove $(h', w') \sim \mathcal{U}(\{(i, j) \mid \mathbf{M}^c_{i,j} = 0\})$.
• Dilatazione: Per tenere conto delle correlazioni spaziali in cui l'informazione del concetto si diffonde nei patch vicini, la maschera di rilevamento può essere dilatata con un fattore di padding $p$. Gli autori trovano che $p=1$ sia il bilanciamento ottimale tra copertura e preservazione del contenuto non correlato.
• Garanzia In-Distribution: Poiché tutte le attivazioni di sostituzione originano dallo stesso forward pass della rete di denoising, le attivazioni risultanti $\tilde{\mathbf{X}}$ rimangono strettamente in-distribuzione (ID), preservando le statistiche di attivazione del modello ed evitando gli artefatti causati dallo steering OOD.

Contributi Chiave

1. Identificazione dei Modi di Guasto: Il documento caratterizza sistematicamente un modo di guasto concreto nell'unlearning basato su SAE per i DM: lo steering diretto delle latenti tramite moltiplicatori negativi spinge le attivazioni al di fuori del manifold di addestramento del DM, risultando in sistematici artefatti visivi.
2. Framework Basato sul Rilevamento (PER): Gli autori introducono PER, un metodo che sfrutta gli SAE esclusivamente per la localizzazione del concetto. Sostituendo le patch embedding rilevate con embedding privi del concetto provenienti dalla stessa feature map, PER rimuove i concetti indesiderati mantenendo la coerenza visiva e l'integrità distributiva.
3. Miglioramenti delle Prestazioni: Il metodo elimina la necessità di costose ricerche a griglia per la forza di intervento ($\gamma$) e raggiunge risultati allo stato dell'arte sul benchmark UnlearnCanvas.

Risultati Sperimentali

Gli autori hanno valutato PER su quattro pipeline SAE esistenti (SAeUron, SAEmnesia, G-SAE e SAE su SDXL Turbo) attraverso il benchmark UnlearnCanvas (20 classi di oggetti, 5 stili artistici).

• Riduzione degli Artefatti: I metodi di steering basati su moltiplicatore hanno prodotto alti Tassi di Artefatto (AR) (ad esempio, 57.0% per SAeUron, 61.0% per SAE su SDXL Turbo). L'applicazione di PER ha ridotto drasticamente questi tassi (ad esempio, fino al 16.3% per SAeUron e all'8.0% per SDXL Turbo).
• Accuratezza dell'Unlearning: PER mantiene o migliora l'Accuratezza dell'Unlearning (UA) pur aumentando significativamente la Cross-domain Retain Accuracy (CRA). Ad esempio, su SAEmnesia, PER ha migliorato il punteggio Global Average (GA) dall'81.18% al 91.44%, trainato principalmente da un aumento della CRA dall'88.48% al 97.97%.
• Valutazione Umana: In uno studio sugli utenti confrontando SAEmnesia e SAEmnesia+PER, gli annotatori umani hanno preferito l'output di PER nel 95.5% dei casi senza pareggio.
• Robustezza Avversaria: PER ha dimostrato una robustezza competitiva contro gli attacchi avversari (UnlearnDiffAtk), mostrando una minore degradazione dell'efficacia dell'unlearning rispetto ai baseline in determinate configurazioni.
• Efficienza: PER non richiede fine-tuning del modello, addestramento aggiuntivo di SAE e nessuna ricerca di iperparametri per la forza dell'intervento, offrendo un'alternativa computazionalmente efficiente ai metodi esistenti.

Significato e Rivendicazioni

Il documento posiziona gli SAE come potenti strumenti di interpretabilità per analizzare i modelli generativi, ma evidenzia un limite fondamentale: le feature monosemantiche o sparse non sono intrinsecamente adatte come manopole di controllo per lo steering diretto nei modelli di diffusione.

Gli autori affermano che il loro lavoro rivela un "divario fondamentale tra il rilevamento del concetto e l'intervento sul concetto". Disaccoppiando questi compiti — usando gli SAE solo per trovare il concetto e dati in-distribuzione standard per sostituirlo — il metodo ottiene risultati di cancellazione più puliti. Il documento conclude che, per l'unlearning nei modelli di diffusione, preservare il manifold di attivazione è più critico della interpretabilità del vettore di intervento e che "Look But Don't Touch" (osserva ma non toccare) è una strategia più efficace rispetto alla manipolazione diretta.