GUDA: Counterfactual Group-wise Training Data Attribution for Diffusion Models via Unlearning

Technische Samenvatting: GUDA – Counterfactual Group-wise Data Attribution voor Diffusiemodellen via Unlearning

1. Probleemdefinitie

Data-attributie voor visuele generatieve modellen heeft als doel te identificeren welke trainingsdata een specifieke output heeft beïnvloed. Terwijl bestaande methoden zich richten op instance-level attributie (het identificeren van specifieke trainingsmonsters), hebben beoefenaars vaak behoef de behoefte aan group-level attributie (bijv. het identificeren van welke artistieke stijlen of objectklassen het meest hebben bijgedragen aan een generatie).

De kernuitdaging is dat groepsinvloed niet-additief en niet-lineair is; het simpelweg optellen van instance-level scores faalt in het vastleggen van interacties binnen gedeelde representaties. De theoretische "gouden standaard" voor groep-attributie is de Leave-One-Group-Out (LOGO) counterfactual: het meten hoe het gedrag van een model op een gegenereerd monster verandert als een specifieke groep $k$ volledig afwezig zou zijn uit de trainingsdata. Het realiseren van deze counterfactual vereist echter het opnieuw trainen van $N+1$ modellen (één volledig model plus $N$ modellen waarbij elk een specifieke groep is verwijderd), wat computationeel onhaalbaar is voor grootschalige diffusiemodellen.

2. Methodologie: GUDA-framework

De auteurs stellen GUDA (Group Unlearning-based Data Attribution) voor, een framework dat de dure LOGO counterfactual-modellen benadert met behulp van machine unlearning in plaats van volledige hertraining.

Kernconcept:
In plaats van $\theta_{logo}^{-k}$ (het model getraind zonder groep $k$) vanaf nul te trainen, begint GUDA met het volledige model $\theta_{full}$ en past een machine unlearning-operator toe om de invloed van groep $k$ selectief te verwijderen, wat resulteert in een benaderend counterfactual model $\theta_{ul}^{-k}$.

Attributie Score (LOGOA):
De attributiescore wordt gedefinieerd als het verschil in een likelihood-gebaseerde scoringregel (specifiek de Evidence Lower Bound, ELBO) tussen het volledige model en het unlearned counterfactual model:
$$\text{GUDA}_k(x_0, c) = \text{ELBO}(x_0|c; \theta_{full}) - \text{ELBO}(x_0|c; \theta_{ul}^{-k})$$
Een positieve score geeft aan dat groep $k$ significant heeft bijgedragen aan de generatie van monster $(x_0, c)$.

Implementatie van Unlearning:
De unlearning-doelstelling bestaat uit twee termen:

1. Preservation Term ($L_{preserve}$): Een score-matching loss die ervoor zorgt dat het unlearned model zijn prestaties op de retain-set ($D_{-k}$) behoudt, om catastrofale vergetelheid te voorkomen.
2. Forget Term ($L_{forget}$): Varieert op basis van de generatie-instelling:
   • GUDA-U (Unconditional Generation): Maakt gebruik van ReTrack-gebaseerde redirectie. Het traint het model om monsters uit de forget-set ($D_k$) te denoisen richting belang-gewogen targets afgeleid van de retain-set ($D_{-k}$), wat effectief de posterior mean van de retain-only distributie benadert.
   • GUDA-C (Conditional Text-to-Image): Adresseert de uitdaging waarbij het verwijderen van een stijl-groep zowel de beeld- als de prompt-distributie verschuift. Het maakt gebruik van Weighted Style-Selection Anchors. Voor een forget-paar (beeld, prompt) construeert de methode een "anchor" prompt door de inhoudelijke beschrijving te behouden maar de stijl-descriptor te vervangen door één uit de retain-set (gesampled via CLIP-gewogen gelijkenis). Het model wordt vervolgens getraind om de voorspelling van het volledige model onder deze anchor-conditie te matchen, wat de mismatch in conditie-distributie oplost.

3. Belangrijkste Bijdragen

1. Formalisering van Groep-attributie: Het artikel formaliseert groep-gewijze attributie als een counterfactual estimand (LOGOA) gebaseerd op het verschil in ELBO tussen een volledig model en een model waarbij een groep is verwijderd, waarbij LOGO-hertraining als de oracle wordt vastgesteld.
2. Unlearning-gebaseerde Benadering: Het introduceert een praktisch framework dat deze counterfactuals benadert via machine unlearning, waarmee een $\sim 100\times$ versnelling wordt bereikt ten opzichte van LOGO-hertraining op CIFAR-10.
3. Twee Specifieke Instanties:
   • GUDA-U: Voor onconditionele diffusie, gebruikmakend van ReTrack-gebaseerde belang-gewogen redirectie.
   • GUDA-C: Voor conditionele text-to-image, gebruikmakend van CLIP-gewogen style-selection anchors om de prompt-distributieverschuiving te hanteren.
4. Empirische Validatie: Toont aan dat het direct targeten van de groep-verwijdering counterfactual via unlearning beter presteert dan semantische gelijkenis-baselines (CLIPA) en instance-level aggregatiemethoden (DAS, TRAK, D-TRAK) bij het identificeren van de primaire bijdragende groepen.

4. Experimentele Resultaten

De auteurs evalueerden GUDA op twee benchmarks:

• CIFAR-10 (Unconditional): Met 10 klassen en 2.048 queries bereikte GUDA een 72,7% Top-1 overeenkomst met de LOGO oracle, waarmee het CLIPA (66,2%) en gradiënt-gebaseerde methoden (DAS: 71,6%, maar aanzienlijk trager) versloeg. GUDA bereikte een $\sim 100\times$ wall-clock versnelling ten opzichte van LOGO-hertraining (2 uur vs. 207 uur).
• UnlearnCanvas (Conditional Text-to-Image): Gebruikmakend van Stable Diffusion 1.5 en 16 artistieke stijlen, bereikte GUDA een 45,6% Top-1 overeenkomst, wat aanzienlijk beter is dan CLIPA (33,8%) en een eerdere unlearning-gebaseerde attributiemethode (Wang et al., 2024) die slechts 4,7% scoorde. GUDA vertoonde ook superieure prestaties in NDCG@3 en RBO-metrieken, wat duidt op een betere afstemming met de meest invloedrijke stijlen.

Belangrijke Observaties:

• Kwaliteit van Unlearning is Cruciaal: GUDA met ReTrack-gebaseerde unlearning presteerde aanzienlijk beter dan GUDA met ESD (Erasing Stable Diffusion) unlearning, wat de theoretische connectie tussen ReTrack en LOGO-hertraining valideert.
• Beperkingen van Alternatieven: Semantische gelijkenis (CLIPA) slaagde er niet in om counterfactual groepseffecten te vangen, en instance-level methoden hadden moeite met het schalen naar groep-niveau attributie, waarbij ze vaak rond het niveau van willekeurige resultaten presteerden op head-identificatie metrieken.

5. Betekenis en Claims

Het artikel claimt dat GUDA een schaalbare en praktische oplossing biedt voor het begrijpen van de herkomst (provenance) van generatieve model-outputs op groepsniveau. Door de kloof te overbruggen tussen de theoretische idealen van counterfactual hertraining en de computationele realiteit van grootschalige modellen, maakt GUDA het volgende mogelijk:

• Eerlijke Compensatie: Nauwkeurigere identificatie van welke datagroepen (bijv. kunstenaars) hebben bijgedragen aan outputs.
• Debugging: Het identificeren van problematische databronnen of stijlen die de generatie negatief beïnvloeden.
• Transparantie: Het bieden van een methode om generatieve modellen te auditeren zonder de verbijsterende kosten van volledige hertraining.

De auteurs benadrukken dat GUDA geen gecertificeerd verwijderingsmechanisme (certified deletion mechanism) is, maar een computationele benadering voor attributie. Ze merken op dat naarmate er meer LOGO-gealigneerde unlearning-methoden verschijnen, deze geïntegreerd kunnen worden in het GUDA-framework om de kwaliteit van de attributie verder te verbeteren. Het werk wordt gepositioneerd als een stap naar een schaalbaar, groep-niveau begrip van generatieve modellen, bewegend voorbij de instance-level benaderingen die falen in het vatten van niet-lineaire groep-interacties.