GUDA: Counterfactual Group-wise Training Data Attribution for Diffusion Models via Unlearning

Resumen Técnico: GUDA – Atribución de Datos por Grupos Contrafactuales para Modelos de Difusión mediante Desaprendizaje

1. Definición del Problema

La atribución de datos de entrenamiento para modelos generativos de visión tiene como objetivo identificar qué datos de entrenamiento influyeron en un resultado específico. Mientras que los métodos existentes se centran en la atribución a nivel de instancia (identificar muestras de entrenamiento específicas), los profesionales suelen requerir la atribución a nivel de grupo (por ejemplo, identificar qué estilos artísticos o clases de objetos contribuyeron más a una generación).

El desafío central es que la influencia de grupo es no aditiva y no lineal; simplemente sumar las puntuaciones de nivel de instancia no logra capturar las interacciones dentro de las representaciones compartidas. El "estándar de oro" teórico para la atribución de grupos es el contrafactual Leave-One-Group-Out (LOGO): medir cómo cambia el comportamiento de un modelo sobre una muestra generada si un grupo $k$ específico estuviera completamente ausente de los datos de entrenamiento. Sin embargo, realizar este contrafactual requiere reentrenar $N+1$ modelos (un modelo completo más $N$ modelos con cada grupo eliminado), lo cual es computacionalmente prohibitivo para modelos de difusión a gran escala.

2. Metodología: Marco de Trabajo GUDA

Los autores proponen GUDA (Group Unlearning-based Data Attribution), un marco que aproxima el costoso modelo contrafactual LOGO utilizando el desaprendizaje de máquinas (machine unlearning) en lugar de reentrenar desde cero.

Concepto Central:
En lugar de entrenar $\theta_{logo}^{-k}$ (el modelo entrenado sin el grupo $k$) desde cero, GUDA parte del modelo de datos completos $\theta_{full}$ y aplica un operador de desaprendizaje de máquinas para eliminar selectivamente la influencia del grupo $k$, obteniendo un modelo contrafactual aproximado $\theta_{ul}^{-k}$.

Puntuación de Atribución (LOGOA):
La puntuación de atribución se define como la diferencia en una regla de puntuación basada en la verosimilitud (específicamente, el Límite Inferior de Evidencia, ELBO) entre el modelo completo y el modelo contrafactual desaprendido:
$$\text{GUDA}_k(x_0, c) = \text{ELBO}(x_0|c; \theta_{full}) - \text{ELBO}(x_0|c; \theta_{ul}^{-k})$$
Una puntuación positiva indica que el grupo $k$ contribuyó significativamente a la generación de la muestra $(x_0, c)$.

Implementación del Desaprendizaje:
El objetivo de desaprendizaje consta de dos términos:

1. Término de Preservación ($L_{preserve}$): Una pérdida de ajuste de puntuación (score-matching loss) que asegura que el modelo desaprendido mantenga su rendimiento en el conjunto de retención ($D_{-k}$), evitando el olvido catastrófico.
2. Término de Olvido ($L_{forget}$): Varía según la configuración de generación:
   • GUDA-U (Generación Incondicional): Utiliza la redirección basada en ReTrack. Entrena al modelo para denotar muestras del conjunto de olvido ($D_k$) hacia objetivos ponderados por importancia derivados del conjunto de retención ($D_{-k}$), aproximando efectivamente la media posterior de la distribución de solo retención.
   • GUDA-C (Generación Condicional de Texto a Imagen): Aborda el desafío donde la eliminación de un grupo de estilo desplaza tanto la distribución de la imagen como la del prompt. Emplea Anclajes de Selección de Estilo Ponderados. Para un par de olvido (imagen, prompt), el método construye un prompt "ancla" manteniendo la descripción del contenido pero intercambiando el descriptor de estilo con uno del conjunto de retención (muestreado mediante similitud ponderada por CLIP). El modelo se entrena entonces para coincidir con la predicción del modelo completo bajo esta condición de ancla, resolviendo el desajuste de la distribución de la condición.

3. Contribuciones Clave

1. Formalización de la Atribución de Grupos: El artículo formaliza la atribución de grupos como un estimando contrafactual (LOGOA) basado en la diferencia de ELBO entre un modelo completo y un modelo con un grupo eliminado, estableciendo el reentrenamiento LOGO como el oráculo.
2. Aproximación mediante Desaprendizaje de Máquinas: Introduce un marco práctico que aproxima estos contrafactuales mediante el desaprendizaje de máquinas, logrando una aceleración de $\sim 100\times$ respecto al reentrenamiento LOGO en CIFAR-10.
3. Dos Instanciaciones Específicas:
   • GUDA-U: Para difusión incondicional, utilizando redirección ponderada por importancia basada en ReTrack.
   • GUDA-C: Para texto a imagen condicional, utilizando anclajes de selección de estilo ponderados por CLIP para manejar el desplazamiento de la distribución del prompt.
4. Validación Empírica: Demuestra que el enfoque directo hacia el contrafactual de eliminación de grupo mediante desaprendizaje supera a las líneas base de similitud semántica (CLIPA) y a los métodos de agregación de nivel de instancia (DAS, TRAK, D-TRAK) en la identificación de los grupos contribuyentes primarios.

4. Resultados Experimentales

Los autores evaluaron GUDA en dos entornos de prueba:

• CIFAR-10 (Incondicional): Con 10 clases y 2,048 consultas, GUDA logró un acuerdo Top-1 del 72.7% con el oráculo LOGO, superando a CLIPA (66.2%) y a los métodos basados en gradientes (DAS: 71.6%, pero significativamente más lentos). GUDA logró una aceleración de tiempo de ejecución de $\sim 100\times$ sobre el reentrenamiento LOGO (2 horas frente a 207 horas).
• UnlearnCanvas (Texto a Imagen Condicional): Utilizando Stable Diffusion 1.5 y 16 estilos artísticos, GUDA logró un acuerdo Top-1 del 45.6%, superando significativamente a CLIPA (33.8%) y a un método de atribución previo basado en desaprendizaje (Wang et al., 2024) que solo obtuvo un 4.7%. GUDA también mostró un rendimiento superior en las métricas NDCG@3 y RBO, indicando un mejor alineamiento con los estilos más influyentes.

Observaciones Clave:

• La Calidad del Desaprendizaje Importa: GUDA utilizando desaprendizaje basado en ReTrack superó significativamente a GUDA utilizando desaprendizaje ESD (Erasing Stable Diffusion), validando la conexión teórica entre ReTrack y el reentrenamiento LOGO.
• Limitaciones de las Alternativas: La similitud semántica (CLIPA) no logró capturar los efectos contrafactuales de grupo, y los métodos de nivel de instancia tuvieron dificultades para escalar a la atribución de nivel de grupo, rindiendo a menudo cerca del azar en las métricas de identificación de cabecera.

5. Significado y Reivindicaciones

El artículo afirma que GUDA proporciona una solución escalable y práctica para comprender la procedencia de los resultados de los modelos generativos a nivel de grupo. Al cerrar la brecha entre el ideal teórico del reentrenamiento contrafactual y la realidad computacional de los modelos a gran escala, GUDA permite:

• Compensación Justa: Identificación más precisa de qué grupos de datos (por ejemplo, artistas) contribuyeron a los resultados.
• Depuración (Debugging): Identificación de fuentes de datos o estilos problemáticos que impactan negativamente la generación.
• Transparencia: Ofrecer un método para auditar modelos generativos sin el costo prohibitivo del reentrenamiento completo.

Los autores enfatizan que GUDA no es un mecanismo de eliminación certificada, sino una aproximación computacional para la atribución. Señalan que a medida que surjan más métodos de desaprendizaje alineados con LOGO, estos podrán integrarse en el marco de trabajo de GUDA para mejorar aún más la calidad de la atribución. El trabajo se posiciona como un paso hacia la comprensión escalable y a nivel de grupo de los modelos generativos, yendo más allá de las aproximaciones de nivel de instancia que no logran capturar las interacciones no lineales de los grupos.