Forgetting Has Neighbors: Localized Collateral Forgetting in Machine Unlearning

Resumen Técnico: El olvido tiene vecinos: Olvido colateral localizado en el desaprendizaje de máquinas (Machine Unlearning)

Declaración del Problema
El desaprendizaje de máquinas (machine unlearning) busca eliminar la influencia de ejemplos de entrenamiento específicos (el "conjunto de olvido") de un modelo entrenado sin el costo computacional de un reentrenamiento completo. Mientras que las evaluaciones estándar se basan en métricas agregadas (p. ej., precisión de retención, precisión de olvido y puntuaciones de auditoría de privacidad), los autores argumentan que estos resúmenes pueden enmascarar fallos localizados. Específicamente, un modelo desaprendido puede parecer cercano a una referencia reentrenada en promedio, mientras exhibe desviaciones agudas en ejemplos específicos retenidos o de prueba.

El artículo identifica un modo de fallo denominado olvido colateral localizado: una degradación no intencionada en las predicciones del modelo sobre ejemplos no eliminados que están geométricamente cerca del conjunto de olvido en el espacio de representación. Esto ocurre porque los ejemplos están acoplados a través de representaciones compartidas; las intervenciones diseñadas para suprimir la señal del conjunto de olvido (como el ascenso de gradiente o el etiquetado aleatorio) propagan perturbaciones a los puntos retenidos cercanos.

Metodología
Los autores abordan el problema mediante análisis teórico, observación empírica y una estrategia de mitigación propuesta.

1. Análisis Teórico:

   • Ascenso de Gradiente (GA): En la regresión lineal, los autores demuestran que el exceso de pérdida de un modelo desaprendido con respecto a un modelo reentrenado escala con la alineación al cuadrado ($\langle x_q, x_f \rangle^2$) entre un punto de consulta retenido $x_q$ y el punto eliminado $x_f$.
   • Etiquetado Aleatorio (RL): En la regresión logística, se muestra que la discrepancia entre RL y el reentrenamiento está gobernada por la proyección del punto de consulta sobre el subespacio (span) del conjunto de olvido. Las etiquetas aleatorias impuestas al conjunto de olvido crean un "desajuste de objetivo" (target mismatch) que entra en conflicto con la estructura de predicción local inducida por el reentrenamiento. Este desajuste se propaga a los puntos cercanos.
   • Ajuste Fino de Retención (Retain Fine-Tuning): El análisis demuestra que, si bien el ajuste fino en el conjunto de retención puede restaurar el acuerdo en los puntos de entrenamiento retenidos, no necesariamente corrige el comportamiento del modelo a lo largo de los componentes que yacen dentro del subespacio del olvido. Por lo tanto, el desajuste de objetivo sigue siendo una causa raíz.

2. Método Propuesto: Destilación de Maestro Local (LTD)
   Motivados por el hallazgo de que el desajuste de objetivo impulsa los errores localizados, los autores proponen la Destilación de Maestro Local. En lugar de asignar etiquetas aleatorias o corruptas al conjunto de olvido, LTD las reemplaza con "etiquetas suaves" (soft labels) derivadas de un pequeño modelo maestro auxiliar.

   • Selección de Soporte: El maestro es entrenado solo en un subconjunto de ejemplos retenidos ($S_k$) que son vecinos más cercanos al conjunto de olvido en el espacio de representación (medido por la similitud de coseno de las incrustaciones de la capa penultimate). Esto asegura que el maestro aproxime la estructura de predicción local del modelo reentrenado cerca del conjunto de olvido.
   • Objetivo de Entrenamiento: El proceso de desaprendizaje optimiza una función de pérdida que preserva el rendimiento en el conjunto de retención (usando etiquetas duras/ hard labels) mientras minimiza la entropía cruzada entre las predicciones del modelo en el conjunto de olvido y las predicciones suaves del maestro.
   • Eficiencia: El maestro es una arquitectura más pequeña entrenada solo en el conjunto de soporte seleccionado, evitando el costo de un reentrenamiento completo.

Contribuciones Clave

1. Identificación del Fenómeno: El artículo establece que el olvido colateral no es uniforme, sino que se concentra en ejemplos que no pertenecen al conjunto de olvido pero que están cerca de este en el espacio de representación.
2. Caracterización Teórica: Los autores proporcionan pruebas teóricas para los métodos GA y RL, mostrando que la desviación del reentrenamiento está gobernada por la alineación o proyección de los puntos retenidos sobre el conjunto de olvido. Identifican el desajuste de objetivo (objetivos sustitutos inconsistentes frente a la estructura de reentrenamiento) como el mecanismo subyacente.
3. Estrategia de Mitigación: Introducen la Destilación de Maestro Local, un método simple que utiliza un maestro local para generar etiquetas suaves consistentes para el conjunto de olvido.
4. Validación Empírica: Experimentos en CIFAR-100 (eliminación parcial de clases) muestran que LTD reduce sustancialmente la discrepancia con el reentrenamiento, particularmente para los ejemplos afectados y de alta similitud, manteniendo métricas de desaprendizaje agregadas competitivas.

Resultados

• Métricas Agregadas: En CIFAR-100 con eliminación del 50% de las clases, LTD logra el "Avg. Gap" (desviación absoluta media del reentrenamiento a través de la precisión y métricas de privacidad) más bajo entre los baselines comparados (GA, RL, FT, SalUn, IU, AMAMUN).
• Rendimiento Localizado: Aunque las métricas agregadas pueden ser engañosas, LTD supera significativamente a los baselines en los subconjuntos de clases afectadas (puntos retenidos y de prueba pertenecientes a la clase eliminada). Por ejemplo, mientras que otros métodos mostraron grandes caídas en la precisión para estos puntos específicos en relación con el reentrenamiento, LTD mantuvo la estabilidad.
• Análisis de Similitud: El artículo demuestra que los métodos competidores exhiben caídas agudas de precisión a medida que aumenta la similitud con el conjunto de olvido. En contraste, LTD mantiene una desviación baja en todos los intervalos de similitud (bins).
• Estudios de Ablación: Los resultados confirman que el uso de soporte de vecinos más cercanos para el maestro es crítico; el soporte aleatorio o distante falla en capturar la estructura de predicción relevante, lo que conduce a un pobre alineamiento con el reentrenamiento.

Significancia y Reivindicaciones
El artículo sostiene que las evaluaciones de desaprendizaje estándar son insuficientes porque ocultan fallos estructurados cerca del conjunto de olvido. La importancia de este trabajo radica en:

• Revelar que el desajuste de objetivo es una causa fundamental del olvido colateral localizado, que persiste incluso con el ajuste fino del conjunto de retención.
• Demostrar que mejorar la consistencia local de los objetivos del conjunto de olvido (mediante un maestro local) es una estrategia de mitigación más efectiva que confiar únicamente en la recuperación del conjunto de retención.
• Proporcionar un método práctico y de bajo costo (LTD) que acerca sustancialmente los modelos desaprendidos a la referencia de reentrenamiento, particularmente en el vecindario crítico de los datos eliminados, sin sacrificar la privacidad o la utilidad.

Los autores mantienen la modestia respecto a la generalización, señalando que su método depende de la calidad del conjunto de soporte local y de la representación. Reconocen que conjuntos de olvido altamente heterogéneos podrían requerir agrupamiento (clustering) o múltiples maestros locales, y que la extensión a arquitecturas y conjuntos de datos más amplios sigue siendo un trabajo futuro.