Resumen Técnico: Recuerdos Rotos: Detección y Mitigación de la Memorización en Modelos de Difusión con Generaciones Degradadas

Declaración del Problema

Los modelos de difusión han logrado un éxito notable en la generación de imágenes de alta calidad, pero enfrentan un desafío crítico de privacidad y derechos de autor: la memorización. Estos modelos replican inadvertidamente o producen imágenes muy similares a datos de entrenamiento específicos, lo que conduce a una posible fuga de datos. Las estrategias de mitigación existentes adolecen de dos limitaciones principales:

1. Dependencia de la Re-generación: La mayoría de los métodos actuales operan bajo una base de "detectar y luego reintentar". Al detectar memorización, abortan la generación actual y reinician con entradas modificadas (por ejemplo, prompts alterados o incrustaciones), aumentando significativamente la latencia y el costo computacional.
2. Intervenciones Heurísticas o Estáticas: La mitigación a menudo depende de reglas fijas o ajustes estáticos (por ejemplo, reducciones fijas de la escala de guía) que no logran adaptarse a la naturaleza dinámica de la trayectoria de generación, comprometiendo a menudo la fidelidad semántica o la calidad de la imagen.

Además, aunque algunos métodos detectan la memorización mediante señales internas (por ejemplo, pesos de atención o magnitudes de guía), generalmente carecen de un vínculo teórico principista entre estas señales y la degradación visual que a menudo se observa en las salidas memorizadas.

Metodología

Los autores proponen un marco principista para la detección y mitigación adaptativa en tiempo real basado en la observación de que la memorización induce inestabilidad numérica en la dinámica latente de los modelos de difusión.

1. Perspectiva Teórica: Inestabilidad Numérica

El documento identifica que, al generar muestras memorizadas, la trayectoria de eliminación de ruido a menudo se desvía del comportamiento estable del modelo, manifestándose visualmente como artefactos "rotos" (por ejemplo, detalles distorsionados). Basándose en el análisis numérico, los autores postulan que:

• Memorización como Inestabilidad: Los prompts memorizados hacen que el modelo se sobreajuste a puntos de datos específicos, resultando en gradientes excesivamente grandes en el mecanismo de guía libre de clasificador (CFG).
• Anomalías en la Actualización Latente: En solucionadores de alto orden como PNDM (utilizado en Stable Diffusion v1), estos grandes gradientes hacen que el paso de actualización latente ($\delta_t = z_t - z_{t+1}$) exceda los límites de una variedad estable, lo que lleva a oscilación o divergencia en la trayectoria.
• Agnosticismo del Muestreador: Esta inestabilidad no se limita a PNDM; incluso con muestreadores deterministas como DDIM, donde las imágenes finales pueden parecer visualmente plausibles, la trayectoria latente interna aún exhibe desviaciones significativas de la estabilidad.

2. Regiones de Estabilidad Empírica

Para cuantificar este comportamiento sin calcular valores propios de Jacobianos intratables, los autores definen Regiones de Estabilidad Empíricas:

• Norma de Actualización Latente ($\|\delta_t\|$): Se construye una región estadística $R^{(t)}_\delta = [\mu_t - \gamma\sigma_t, \mu_t + \gamma\sigma_t]$ utilizando la media ($\mu_t$) y la desviación estándar ($\sigma_t$) de las normas de actualización latente de un pequeño conjunto de prompts no memorizados (normales).
• Latente Inicial Reconstruido ($\|\hat{z}^{(t)}_0\|$): De manera similar, se define una región de estabilidad para el latente inicial reconstruido en DDIM para servir como un proxy de estabilidad semántica.

3. Mecanismo de Detección

El sistema monitorea la trayectoria de generación paso a paso. En cada paso $t$, calcula una puntuación Z ($s_t$) que mide la desviación de la norma de actualización latente actual de la región de estabilidad empírica:
$$s_t = \frac{|\|\delta_t\| - \mu_t|}{\sigma_t}$$
Una $s_t$ alta indica una actualización anómala, señalando una posible memorización. La puntuación Z máxima durante los pasos iniciales sirve como métrica de detección.

4. Estrategia de Mitigación Adaptativa

A diferencia de los métodos estáticos, este marco interviene en tiempo real sin reiniciar la generación. Emplea una estrategia adaptativa de dos niveles basada en la gravedad de la inestabilidad detectada:

• Memorización Leve: Si la desviación es moderada, el método aplica restricciones de magnitud latente (reescalando $\hat{z}^{(t)}_0$ a la media empírica) principalmente en los pasos iniciales para regularizar la trayectoria.
• Memorización Fuerte: Si la desviación es severa, se aplican restricciones conjuntas más estrictas a lo largo de toda la trayectoria, haciendo cumplir que tanto la norma latente ($\|z_t\|$) como la norma de actualización ($\|\delta_t\|$) permanezcan dentro de sus respectivas regiones de estabilidad.

Este proceso actúa como un filtro en flujo, proyectando el estado latente de vuelta a la variedad estable inmediatamente al detectar inestabilidad, asegurando una generación sin interrupciones.

Contribuciones Clave

1. Análisis Sistemático: El primer trabajo que vincula sistemáticamente la generación degradada por memorización con la inestabilidad numérica en el muestreo de difusión, revelando anomalías distintivas en las magnitudes de actualización latente.
2. Regiones de Estabilidad Empíricas: Introducción de un concepto fundamentado en la teoría de estabilidad numérica para caracterizar y diagnosticar la generación normal frente a la memorizada, aplicable a diferentes muestreadores (PNDM, DDIM).
3. Marco en Tiempo Real: Desarrollo de un marco impulsado por el diagnóstico que restringe adaptativamente las trayectorias de generación solo cuando se detecta inestabilidad, superando los métodos heurísticos o estáticos existentes.
4. Rendimiento: Logro de una precisión de detección superior y eliminación completa de las generaciones memorizadas mientras se preserva la calidad de la imagen con una sobrecarga negligible.

Resultados Experimentales

Los experimentos se realizaron en Stable Diffusion 1.4 (y se extendieron a 1.5 y 2.1 en los apéndices) utilizando conjuntos de datos de prompts memorizados (de LAION) y prompts no memorizados.

• Rendimiento de Detección: El método logra un AUC > 0.999 y una alta Tasa de Verdaderos Positivos a una Tasa de Falsos Positivos del 1% (TPR@1%FPR), superando a las líneas base más avanzadas (por ejemplo, Ren et al., Wen et al., Jeon et al.) en diversas configuraciones de semilla y tipos de programadores (PNDM y DDIM).
• Rendimiento de Mitigación:
  • Tasa de Memorización: El método reduce la tasa de memorización al 0.0% en el modelo SD 1.4 preentrenado.
  • Calidad de Imagen: Preserva una alta fidelidad semántica (Puntuación CLIP) y realismo de imagen (FID), superando a las líneas base que a menudo sufren de sobre-mitigación (desviación semántica) o sub-mitigación (retención de artefactos).
  • Eficiencia: El enfoque incurre en una sobrecarga computacional negligible (≈0.01s por imagen), evitando las penalizaciones de latencia asociadas con la re-generación o la optimización iterativa encontradas en otros métodos.

Significado y Afirmaciones

El documento afirma que su principal significado radica en cambiar la perspectiva de la mitigación de la memorización desde la supresión heurística de señales hacia la estabilidad numérica principista. Al fundamentar la detección en las leyes estadísticas de la dinámica de generación de imágenes normales, el método proporciona un estándar robusto, agnóstico al modelo e invariante en el tiempo para identificar anomalías.

Los autores enfatizan que su enfoque combina de manera única la detección, la mitigación en tiempo real y la adaptabilidad en un solo marco. Esto elimina la necesidad de costosas re-generaciones y permite una intervención sin interrupciones que preserva la intención semántica y la calidad visual de la salida. El trabajo sugiere que ver la memorización como un problema de desviación de trayectoria ofrece una nueva dirección principista para construir modelos generativos confiables.