Resumen Técnico: Aprendizaje de Olvido Continuo con Conciencia de Localidad para Modelos de Difusión

1. Planteamiento del Problema

El despliegue de modelos de difusión de texto a imagen en escenarios del mundo real requiere un Olvido Continuo (Continual Unlearning - CUL): la eliminación secuencial de conceptos específicos (por ejemplo, debido a razones de privacidad, derechos de autor o regulaciones de seguridad) preservando al mismo tiempo la capacidad del modelo para generar todo el resto del contenido.

Los métodos de olvido existentes están diseñados principalmente para la eliminación de un solo paso (one-shot). Cuando se aplican secuencialmente, estos métodos exhiben una inestabilidad rápida, colapsando típicamente después de solo 3 a 5 pasos. Los autores identifican tres factores compuestos responsables de este fallo:

1. Objetivos de Mapeo Gruesos: Los métodos actuales redirigen diversos prompts de olvido hacia un único ancla fija (por ejemplo, una cadena vacía o un concepto genérico). Esto fuerza desplazamientos innecesariamente grandes en el campo de puntuación (score field) del modelo para cada prompt, causando una degradación acumulativa de la fidelidad generativa.
2. Falta de Protección Local: El olvido induce un "efecto dominó" (ripple effect), donde los conceptos semánticamente vecinos (aquellos que comparten representaciones internas) sufren el mayor daño colateral. Las estrategias de replay global existentes distribuyen la regularización de manera uniforme, fallando en proteger estos vecindarios locales vulnerables.
3. Desajuste entre el Espacio de Texto y el Espacio del Modelo: Los métodos que dependen de la similitud en el espacio de texto (por ejemplo, embeddings de CLIP) no reflejan con precisión cómo el modelo de difusión procesa internamente los prompts. Los prompts cercanos en el espacio CLIP pueden inducir predicciones de ruido muy diferentes, lo que conduce a una selección de objetivos subóptima que agrava los errores durante los pasos secuenciales.

2. Metodología: Olvido Continuo con Conciencia de Localidad (LACU)

Los autores proponen LACU, un marco que fundamenta tanto la selección del objetivo como el replay en un principio único y consciente del modelo: la Distancia de Predicción de Puntuación (Score-Prediction Distance). Esta métrica mide la diferencia en las predicciones de ruido entre dos prompts en estados latentes ruidosos compartidos, cuantificando efectivamente la proximidad dentro del propio paisaje de eliminación de ruido del modelo.

El marco opera como un proceso de profesor-alumno multiobjetivo en cada paso continuo $i$, donde el modelo anterior congelado $\hat{\theta}_{i-1}$ actúa como el profesor y el modelo actualizado $\theta_i$ es el alumno. La pérdida total se define como:
$$\mathcal{L}_{\text{total}} = \lambda_{\text{unlearn}} \mathcal{L}_{\text{unlearn}} + \lambda_{\text{retain}} \mathcal{L}_{\text{retain}} + \lambda_{\text{reg}} \mathcal{L}_{\text{reg}}$$

Componentes Clave:

1. Selección de Objetivos con Conciencia de Localidad:

   • En lugar de mapear todos los prompts de olvido a un ancla fija, LACU genera reemplazos de candidatos que preservan el contexto para cada prompt de olvido específico.
   • Selecciona el candidato con la distancia de predicción de puntuación mínima respecto al prompt de olvido original.
   • Objetivo: Minimizar la perturbación del campo de puntuación aprendido para cada paso, asegurando que las actualizaciones sean lo más pequeñas y dirigidas posible.

2. Replay con Conciencia de Localidad:

   • El marco identifica los conceptos de retención que están más cerca del concepto de olvido en el espacio de predicción de ruido del modelo (usando la misma métrica de distancia de predicción de puntuación).
   • Estos vecinos más cercanos se replican (replay) como un regularizador funcional local.
   • Objetivo: Proteger directamente el vecindario semántico más vulnerable del efecto dominó, en lugar de depender de un replay global que no invierte lo suficiente en estas regiones frágiles.

3. Mecanismos de Estabilización:

   • Destilación Profesor-Alumno: El alumno imita el comportamiento del profesor tanto en los objetivos de mapeo seleccionados como en los vecinos de replay local.
   • Regularización $\ell_2$ Ligera: Un término de penalización ($\|\theta_i - \hat{\theta}_{i-1}\|_2^2$) limita la deriva de parámetros acumulada a lo largo de los pasos secuenciales.

3. Contribuciones Clave

• Diagnóstico de la Inestabilidad Secuencial: El artículo atribuye el colapso de los métodos existentes en CUL al mapeo grueso, la falta de protección local y la insuficiencia de las métricas de similitud en el espacio de texto.
• Métrica de Localidad Consciente del Modelo: Introducción de la Distancia de Predicción de Puntuación como una métrica superior para medir la proximidad de conceptos, reemplazando las similitudes de embeddings de texto (como CLIP) por mediciones directas del comportamiento de eliminación de ruido del modelo.
• Marco de Doble Componente: La integración de la Selección de Objetivos con Conciencia de Localidad y el Replay con Conciencia de Localidad, acoplados mediante la misma métrica, para minimizar simultáneamente la magnitud de la actualización y proteger a los vecinos vulnerables.
• Olvido Estable de 10 Pasos: Demostración de que LACU mantiene un rendimiento estable durante 10 pasos de olvido secuencial, un régimen donde la mayoría de las líneas base fallan.

4. Resultados Experimentales

Los autores evaluaron LACU en Stable Diffusion v1.5, olvidando secuencialmente 10 conceptos diversos (objetos, estilos artísticos y personas) a través de 5 ordenaciones aleatorias.

• Rendimiento frente a Líneas Base:
  • Retención: LACU supera significativamente a las líneas base recientes (por ejemplo, ESD, UCE, AGE, DUGE) en Precisión de Retención Relacionada (RRacc) y Precisión de Retención General (GRacc). Mientras que las líneas base agresivas logran una alta precisión de olvido pero sufren un colapso de retención (RRacc/GRacc cayendo cerca de 0 tras 5–10 pasos), LACU mantiene puntuaciones de retención altas (por ejemplo, RRacc $\approx$ 0.72, GRacc $\approx$ 0.87 tras 10 pasos).
  • Eficacia del Olvido: LACU logra una alta Precisión de Olvido (Uacc $\approx$ 0.90–0.99), eliminando eficazmente los conceptos objetivo sin sacrificar la capacidad de generar contenido no relacionado.
• Estudios de Ablación:
  • Elección de la Métrica: El uso de la distancia de predicción de puntuación para la selección produce una estabilidad a largo plazo superior en comparación con la selección basada en CLIP o la selección de ancla fija ingenua.
  • Contribución de los Componentes: Eliminar el componente de replay local conduce al colapso de la retención debido a los efectos dominó acumulativos. Eliminar la regularización conduce a la deriva de parámetros. La combinación de ambos es necesaria para el equilibrio observado.
• Análisis Cualitativo: Las comparaciones visuales muestran que, mientras las líneas base degradan la calidad de los conceptos retenidos (por ejemplo, fallando en generar el "estilo Van Gogh" después de olvidar a "Van Gogh"), LACU preserva la calidad generativa de los conceptos retenidos mientras elimina con éxito el concepto objetivo.

5. Significado y Reivindicaciones

El artículo sostiene que el diseño con conciencia de localidad es la clave para la estabilidad en el olvido secuencial. Al tratar el olvido como una serie de perturbaciones mínimas y dirigidas en el propio espacio de representación del modelo —en lugar de una redirección global—, el marco evita la acumulación de errores que conduce al colapso del modelo.

Los autores enfatizan que su enfoque no requiere un reentrenamiento completo y es compatible con las arquitecturas de difusión existentes. Sin embargo, señalan algunas limitaciones:

• El método actualmente depende de un LLM para generar los prompts candidatos, aunque la lógica de selección central es agnóstica al modelo.
• Los conceptos de estilo siguen siendo un reto para el olvido debido a que comparten características de forma amplia.
• El despliegue en el mundo real puede requerir escalar a cientos o miles de eliminaciones secuenciales, lo cual sigue siendo un desafío abierto.
• El marco profesor-alumno requiere mantener una copia congelada del modelo, lo que aumenta la sobrecarga de memoria y computación en comparación con los enfoques de un solo modelo.

El código está disponible en https://github.com/SonyResearch/LACU.