Not Every Time and Frequency Need to Be Forgotten in Diffusion Unlearning

Sintesi Tecnica: Non ogni tempo e frequenza debba essere dimenticato nella rimozione dei dati (Diffusion Unlearning)

Problema
La rimozione dei dati (data unlearning) nei modelli di diffusione mira a rimuovere l'influenza di specifici campioni di addestramento (il "forget set") da un modello pre-addestrato, preservando al contempo l'utilità dei restanti dati (il "retain set"). Gli attuali approcci di fine-tuning, come il Gradient Ascent (GA) o il Negative Preference Optimization (NPO), si affidano tipicamente alla massimizzazione della perdita sul forget set. Tuttavia, questi metodi soffrono spesso di due problemi critici:

1. Dimenticanza incompleta: Il modello può non riuscire a cancellare completamente l'istanza specifica.
2. Degradazione della qualità: L'unlearning aggressivo porta spesso a generazioni rumorose, esteticamente scarse o distorte per il retain set.

I metodi esistenti trattano generalmente tutti i passi temporali (time steps) e le componenti di frequenza in modo uniforme durante il processo di unlearning. Questo articolo sostiene che tale trattamento uniforme ignora la dinamica intrinseca dei modelli di diffusione, dove diverse fasi del processo inverso (dal rumore ai dati) e diverse componenti di frequenza contribuiscono in modo diseguale all'identità semantica, alla memorizzazione a livello di istanza e al dettaglio fine.

Metodologia
Gli autori propongono un framework di Unlearning Selettivo per Tempo e Frequenza che mira a regioni specifiche del processo di diffusione anziché applicare aggiornamenti uniformi.

1. Unlearning Selettivo per Tempo:

   • Analisi: L'articolo sfrutta la comprensione teorica della dinamica della diffusione, identificando due punti di transizione critici: il Tempo di Speciazione ($t_S$) e il Tempo di Collasso ($t_C$).
     • Fase I ($t > t_S$): Cattura la semantica grossolana e l'identità della classe.
     • Fase II ($t_C < t < t_S$): Coinvolge l'attrazione a livello di istanza e la formazione di dettagli specifici.
     • Fase III ($t < t_C$): Perfeziona i dettagli fini e la texture.
   • Strategia:
     • Per l'Unconditional Unlearning, il metodo si concentra sulla Fase II (passi temporali medi), dove l'attrazione a livello di istanza è più forte, evitando la degradazione dei dettagli fini nella Fase III.
     • Per l'Unconditional Unlearning (text-to-image), il metodo punta alla Fase I ($t > t_S$), dove la guida condizionale domina la traiettoria prima che avvenga la speciazione.
   • Implementazione: Una funzione di pesatura temporale $P(t)$ viene applicata alla funzione di perdita, assegnando una probabilità maggiore a intervalli specifici (ad es., $[t_C, t_S]$ o $[t_S, T]$) mentre sopprime gli aggiornamenti in altri. Viene proposto anche un metodo adattivo per cercare il punto di transizione ottimale $\tau$ (analogo a $t_S$) basato sull'entità della guida.

2. Unlearning Selettivo per Frequenza:

   • Analisi: L'analisi spettrale empirica rivela che l'unlearning spesso introduce rumore indesiderato ad alta frequenza, degradando la qualità del campione. La distribuzione ad alta frequenza del retain set dovrebbe rimanere ampiamente invariata.
   • Strategia: Un filtro passa-basso viene applicato al residuo della perdita durante l'unlearning. Il segnale del gradiente viene proiettato per rimuovere le componenti ad alta frequenza del forget set, mentre l'input per il denoiser rimane il naturale campione rumoroso.
   • Implementazione: Utilizzando la Trasformata Rapida di Fourier (FFT), il residuo della perdita viene mascherato per escludere le frequenze sopra un raggio di cutoff $r_t$. Ciò assicura che il processo di unlearning non perturbi i dettagli ad alta frequenza essenziali per la qualità dell'immagine.

3. Giustificazione Teorica:

   • Gli autori formulano una funzione di utilità di dimenticanza-preservazione $J_\beta(m)$ basata sulla divergenza di Kullback-Leibler (KL) tra le misure di percorso originale e unlearned.
   • Dimostrano che l'unlearning selettivo (aggiornando solo nella regione $S$) produce un divario di utilità strettamente positivo rispetto all'unlearning completo, a condizione che gli aggiornamenti selettivi amplifichino i cambiamenti nella regione target ($\mu \ge 1$) e sopprimano i cambiamenti nelle regioni non target ($\eta \le 1$).

4. Metrica di Valutazione:

   • Il paper introduce $SSCD_{norm}$, una metrica migliorata che normalizza la distanza di perturbazione. A differenza della standard SSCD, che può essere artificialmente bassa per immagini sfocate o degradate, $SSCD_{norm}$ tiene conto della qualità dell'immagine generata, garantendo che una bassa dissimilarità non sia ottenuta a scapito della degradazione estetica.

Risultati Chiave
Il metodo proposto è stato valutato su CelebA-HQ (unconditional) e Stable Diffusion v1.4 (conditional text-to-image) attraverso vari baseline (GA, SISS, DPO, KTO).

• Unconditional Unlearning: L'applicazione della selezione temporale (focalizzandosi su $t \in [250, 750]$) e della selezione in frequenza (filtro passa-basso con $r_t=0.15$) ha migliorato significativamente la $SSCD_{norm}$ e gli Aesthetic Scores rispetto ai baseline. Ad esempio, con SISS, lo score estetico è migliorato del ~34,8% a $t=250$ e del ~25,8% a $t=500$, mantenendo o migliorando le metriche di dimenticanza.
• Conditional Unlearning: Su Stable Diffusion, l'approccio selettivo ha ottenuto un tasso di successo di unlearning superiore e una convergenza più rapida rispetto al baseline SISS. Ha rimosso con successo i prompt memorizzati mantenendo punteggi di qualità CLIP-IQA più elevati.
• Membership Inference Attacks (MIA): I metodi esistenti hanno mostrato un'estrema vulnerabilità agli MIA (errori relativi fino a $\times 10^7$), indicando un eccesso di dimenticanza (over-forgetting). Il metodo proposto ha mitigato sostanzialmente questa distorsione collaterale (riducendo gli errori a $\times 5.76$ e $\times 53.20$), suggerendo una migliore preservazione del manifold dei dati.
• Generalizzazione: Il metodo ha dimostrato efficacia attraverso diversi backbone (U-Net e Diffusion Transformer) e scenari di unlearning di concetti (ad es., rilevamento della nudità).

Significato e Rivendicazioni
L'articolo sostiene di fornire intuizioni pratiche per comprendere e migliorare l'unlearning dei dati nei modelli di diffusione, dimostrando che il dimenticare non è un processo uniforme. I principali contributi sono:

1. Studio Sistematico: Un'analisi dettagliata di come i passi temporali e i domini spettrali contribuiscano diversamente alla memorizzazione e all'utilità.
2. Framework Semplice: Un approccio di unlearning selettivo che è compatibile con gli obiettivi esistenti (GA, SISS, DPO, KTO) e richiede modifiche architettoniche minime.
3. Preservazione della Qualità: La capacità di ottenere alti tassi di successo nell'unlearning senza la severa degradazione della qualità tipicamente associata all'unlearning basato sul gradiente.
4. Valutazione Migliorata: L'introduzione di $SSCD_{norm}$ per prevenire la valutazione di metodi di unlearning che si affidano alla degradazione dell'immagine come proxy della dimenticanza.

Gli autori notano con modestia che, sebbene il loro metodo identifichi efficacemente le regioni ottimali basandosi su esistenti vincoli teorici, non fornisce ancora un metodo completamente automatizzato per scoprire queste regioni ottimali per ogni specifico dataset senza una conoscenza pregressa o un overhead di ricerca adattiva. Ciononostante, il lavoro evidenzia che l'unlearning mirato in specifiche finestre temporali e di frequenza è cruciale per bilanciare il compromesso tra privacy (unlearning) e utilità (qualità della generazione).