GUDA: Counterfactual Group-wise Training Data Attribution for Diffusion Models via Unlearning

Sintesi Tecnica: GUDA – Attribuzione dei Dati per Gruppi Contraffattuale per i Modelli di Diffusione tramite Unlearning

1. Definizione del Problema

L'attribuzione dei dati di addestramento per i modelli generativi di visione mira a identificare quali dati di addestramento abbiano influenzato un determinato output. Mentre i metodi esistenti si concentrano sull'attribuzione a livello di istanza (identificare specifici campioni di addestramento), i professionisti spesso richiedono l'attribuzione a livello di gruppo (ad esempio, identificare quali stili artistici o classi di oggetti hanno contribuito maggiormente a una generazione).

La sfida principale è che l'influenza di un gruppo è non additiva e non lineare; la semplice somma dei punteggi a livello di istanza non riesce a catturare le interazioni all'interno delle rappresentazioni condivise. Il "gold standard" teorico per l'attribuzione di gruppo è il controfattuale Leave-One-Group-Out (LOGO): misurare come cambia il comportamento di un modello su un campione generato se un gruppo specifico $k$ fosse completamente assente dai dati di addestramento. Tuttavia, realizzare questo controfattuale richiede il riaddestramento di $N+1$ modelli (un modello completo più $N$ modelli con ogni gruppo rimosso), il che è computazionalmente proibitivo per i modelli di diffusione su larga scala.

2. Metodologia: Framework GUDA

Gli autori propongono GUDA (Group Unlearning-based Data Attribution), un framework che approssima l'oneroso controfattuale LOGO utilizzando l'unlearning di macchine (machine unlearning) invece del riaddestramento da zero.

Concetto Core:
Invece di addestrare $\theta_{logo}^{-k}$ (il modello addestrato senza il gruppo $k$) da zero, GUDA parte dal modello con dati completi $\theta_{full}$ e applica un operatore di unlearning di macchine per rimuovere selettivamente l'influenza del gruppo $k$, ottenendo un modello controfattuale approssimativo $\theta_{ul}^{-k}$.

Scoring di Attribuzione (LOGOA):
Il punteggio di attribuzione è definito come la differenza in una regola di scoring basata sulla verosimiglianza (specificamente, l'Evidence Lower Bound, ELBO) tra il modello completo e il modello controfattuale approssimato tramite unlearning:
$$\text{GUDA}_k(x_0, c) = \text{ELBO}(x_0|c; \theta_{full}) - \text{ELBO}(x_0|c; \theta_{ul}^{-k})$$
Un punteggio positivo indica che il gruppo $k$ ha contribuito significativamente alla generazione del campione $(x_0, c)$.

Implementazione dell'Unlearning:
L'obiettivo di unlearning consiste in due termini:

1. Termine di Preservazione ($L_{preserve}$): Una perdita di score-matching che assicura che il modello "unlearned" mantenga le prestazioni sul set di ritenzione ($D_{-k}$), prevenendo il forgetting catastrofico.
2. Termine di Oblio ($L_{forget}$): Varia in base all'impostazione di generazione:
   • GUDA-U (Generazione Incondizionata): Utilizza la ridirezione basata su ReTrack. Addestra il modello a denoisare i campioni dal set da dimenticare ($D_k$) verso target pesati in base all'importanza derivati dal set di ritenzione ($D_{-k}$), approssimando efficacemente la media a posteriori della distribuzione solo con i dati di ritenzione.
   • GUDA-C (Text-to-Image Condizionale): Affronta la sfida in cui la rimozione di un gruppo di stile sposta sia la distribuzione delle immagini che quella dei prompt. Utilizza Anchor di Selezione dello Stile Pesati. Per una coppia (immagine, prompt) da dimenticare, il metodo costruisce un prompt "ancora" mantenendo la descrizione del contenuto ma sostituendo il descrittore dello stile con uno proveniente dal set di ritenzione (campionato tramite similarità pesata tramite CLIP). Il modello viene quindi addestrato per corrispondere alla predizione del modello completo sotto questa condizione di ancora, risolvendo il disallineamento della distribuzione della condizione.

3. Contributi Chiave

1. Formalizzazione dell'Attribuzione di Gruppo: Il documento formalizza l'attribuzione di gruppo come un estimando controfattuale (LOGOA) basato sulla differenza di ELBO tra un modello completo e un modello con un gruppo rimosso, stabilendo il riaddestramento LOGO come l'oracle.
2. Approssimazione tramite Unlearning: Introduce un framework pratico che approssima questi controfattuali tramite unlearning di macchine, ottenendo un'accelerazione di circa $\sim 100\times$ rispetto al riaddestramento LOGO su CIFAR-10.
3. Due Istanze Specifiche:
   • GUDA-U: Per la diffusione incondizionata, utilizzando la ridirezione pesata per importanza basata su ReTrack.
   • GUDA-C: Per il text-to-image condizionale, utilizzando anchor di selezione dello stile pesati tramite CLIP per gestire lo shift della distribuzione dei prompt.
4. Validazione Empirica: Dimostra che l'approccio diretto al controfattuale di rimozione del gruppo tramite unlearning supera i baseline di similarità semantica (CLIPA) e i metodi di aggregazione a livello di istanza (DAS, TRAK, D-TRAK) nell'identificare i gruppi contribuenti primari.

4. Risultati Sperimentali

Gli autori hanno valutato GUDA su due benchmark:

• CIFAR-10 (Incondizionale): Con 10 classi e 2.048 query, GUDA ha raggiunto un accordo Top-1 del 72,7% con l'oracle LOGO, superando CLIPA (66,2%) e i metodi basati sul gradiente (DAS: 71,6%, ma significativamente più lenti). GUDA ha ottenuto un acceleramento del tempo di esecuzione di $\sim 100\times$ rispetto al riaddestramento LOGO (2 ore vs 207 ore).
• UnlearnCanvas (Text-to-Image Condizionale): Utilizzando Stable Diffusion 1.5 e 16 stili artistici, GUDA ha raggiunto un accordo Top-1 del 45,6%, superando significativamente CLIPA (33,8%) e un precedente metodo di attribuzione basato su unlearning (Wang et al., 2024) che ha ottenuto solo il 4,7%. GUDA ha inoltre mostrato prestazioni superiori nelle metriche NDCG@3 e RBO, indicando un migliore allineamento con gli stili più influenti.

Osservazioni Chiave:

• La Qualità dell'Unlearning è Fondamentale: L'uso di un unlearning basato su ReTrack in GUDA ha superato significativamente l'unlearning basato su ESD (Erasing Stable Diffusion), validando la connessione teorica tra ReTrack e il riaddamento LOGO.
• Limiti degli Alternativi: La similarità semantica (CLIPA) non è riuscita a catturare gli effetti controfattuali del gruppo, e i metodi a livello di istanza hanno faticato a scalare l'attribuzione a livello di gruppo, performando spesso vicino al caso casuale sulle metriche di identificazione della testa.

5. Significato e Rivendicazioni

Il paper sostiene che GUDA fornisca una soluzione scalabile e pratica per comprendere la provenienza degli output dei modelli generativi a livello di gruppo. Colmando il divario tra l'ideale teorico del riaddestramento controfattuale e la realtà computazionale dei modelli su larga scala, GUDA consente:

• Compensazione Equa: Identificazione più accurata di quali gruppi di dati (ad esempio, artisti) hanno contribuito agli output.
• Debugging: Identificazione di fonti di dati o stili problematici che impattano negativamente sulla generazione.
• Trasparenza: Offrire un metodo per auditare i modelli generativi senza il costo proibitivo del riaddestramento completo.

Gli autori sottolineano che GUDA non è un meccanismo di cancellazione certificata, ma un'approssimazione computazionale per l'attribuzione. Notano che man mano che emergono metodi di unlearning più allineati con LOGO, questi possono essere integrati nel framework GUDA per migliorare ulteriormente la qualità dell'attribuzione. Il lavoro si posiziona come un passo verso la comprensione scalabile e a livello di gruppo dei modelli generativi, andando oltre le approssimazioni a livello di istanza che falliscono nel catturare le interazioni non lineari tra i gruppi.