POUR: A Provably Optimal Method for Unlearning Representations via Neural Collapse

1. Definición del Problema

El Olvido de Máquina (Machine Unlearning) tiene como objetivo eliminar la influencia de datos de entrenamiento específicos (por ejemplo, una clase o subconjunto específico) de un modelo entrenado sin volver a entrenar desde cero. Esto es crítico para el cumplimiento normativo (por ejemplo, el "derecho al olvido" del GDPR) y la seguridad en dominios sensibles.

El Desafío Central:
Los métodos existentes se centran principalmente en el olvido débil, que garantiza que las probabilidades de predicción finales (logits) del modelo que olvida sean indistinguibles de las de un modelo reentrenado. Sin embargo, estudios recientes indican que estos métodos a menudo dejan intactas las representaciones de características internas. En consecuencia, la información olvidada aún puede recuperarse mediante sondeo lineal o inversión de características, lo que genera fugas de privacidad. Existe una falta de métodos que garanticen el olvido a nivel de representación (dentro del extractor de características) mientras preservan la estructura geométrica necesaria para las clases restantes.

2. Metodología: POUR

Los autores proponen POUR (Olvido Probablemente Óptimo de Representaciones), un método de proyección geométrica fundamentado en la teoría del Colapso Neuronal (NC).

A. Fundamento Teórico: Colapso Neuronal y ETF

El método se basa en la observación de que los clasificadores profundos entrenados con pérdida de entropía cruzada convergen a un estado de Colapso Neuronal, donde:

1. Las características de clase colapsan hacia sus medias de clase.
2. Las medias de clase forman un Marco Estricto Equiangular Simplex (ETF): un conjunto de vectores que están máximamente separados y dispuestos simétricamente en el espacio de características.
3. Los pesos del clasificador se alinean con estas medias de clase.

Los autores establecen dos propiedades teóricas críticas:

• Optimalidad Bayesiana: La geometría del ETF Simplex no es solo un artefacto de entrenamiento, sino una condición suficiente para la optimalidad Bayesiana en la clasificación balanceada bajo supuestos gaussianos isotrópicos.
• Invarianza de Proyección: La proyección ortogonal de un ETF Simplex (eliminando un vértice) sobre el complemento ortogonal de ese vértice produce un ETF Simplex más pequeño. Esto significa que eliminar una clase mediante proyección preserva la separación geométrica óptima de las clases restantes.

B. El Algoritmo POUR

POUR ofrece dos variantes para lograr el olvido a nivel de representación:

1. POUR-P (Proyección de Forma Cerrada):

   • Mecanismo: Aplica un operador de proyección ortogonal $P = I - \frac{w_u w_u^\top}{\|w_u\|^2}$ directamente al espacio de características (capa penúltima), donde $w_u$ es el vector de pesos de la clase que debe ser olvidada.
   • Efecto: Esto proyecta las características de la clase olvidada hacia el origen (poniéndolas en cero) mientras mapea las características de las clases retenidas en un subespacio de menor dimensión que mantiene la estructura ETF Simplex.
   • Ventaja: Instantáneo, no requiere reentrenamiento y está matemáticamente probado como óptimo.

2. POUR-D (Destilación Guiada por Proyección):

   • Mecanismo: Utiliza el modelo proyectado (POUR-P) como un "maestro". Un modelo estudiante (extractor de características) se ajusta finamente solo en el conjunto de olvido para minimizar la distancia $L_2$ entre sus características y las características proyectadas del maestro.
   • Efecto: Propaga el olvido más profundamente en el extractor de características, asegurando que las representaciones internas se alineen con la geometría ETF óptima de las clases retenidas.

C. Nueva Métrica: Puntuación de Olvido de Representación (RUS)

Para evaluar el olvido más allá de los logits, los autores introducen RUS, que cuantifica la compensación entre:

• Eficacia del Olvido: Qué tan cerca están las características del modelo que olvida de las del modelo reentrenado en el conjunto de olvido.
• Fidelidad de Retención: Qué tan bien el modelo que olvida preserva las características para el conjunto de retención.
• Separación de Clases: Qué tan bien permanecen separadas las clases retenidas.
  RUS utiliza la Alineación de Kernel Centrada (CKA) para medir la similitud de representaciones, lo que lo hace robusto frente a la inicialización aleatoria y la rotación.

3. Contribuciones Clave

1. Reformulación a Nivel de Representación: Cambia el paradigma de olvido de los logits de salida a las distribuciones de características internas, definiendo el "Olvido Débil a Nivel de Representación".
2. Garantías Teóricas: Demuestra que la proyección ortogonal de un ETF Simplex preserva la estructura ETF, proporcionando un operador de olvido probablemente óptimo que mantiene la optimalidad Bayesiana para las clases retenidas.
3. Métrica RUS: Introduce una métrica principista para cuantificar el olvido y la retención a nivel de representación, abordando las limitaciones de los protocolos de evaluación existentes.
4. Algoritmo POUR: Propone un método de forma cerrada (POUR-P) y uno basado en destilación (POUR-D) que supera a las líneas base más avanzadas.

4. Resultados Experimentales

Los autores evaluaron POUR en CIFAR-10, CIFAR-100 y PathMNIST (imagen médica), comparándolo con líneas base como Ascenso de Gradiente, Encogimiento de Frontera, DELETE y Ajuste Fino.

• Métricas de Clasificación: POUR logra un olvido casi perfecto (precisión en el conjunto de olvido $\approx 0$) mientras mantiene una alta precisión en las clases retenidas, superando a menudo a métodos que requieren acceso al conjunto de retención.
• Métricas de Representación (RUS y CKA): POUR supera significativamente a todas las líneas base en puntuaciones RUS. Mientras que otros métodos (como el Ascenso de Gradiente) alteran la geometría de las clases retenidas, POUR preserva la estructura ETF, resultando en distribuciones de características indistinguibles de un modelo reentrenado.
• Desplazamiento de Dominio (PathMNIST): En un escenario con desplazamiento de dominio (conjuntos de prueba internos vs. externos), POUR demostró una generalización robusta, mientras que métodos como "Etiqueta Aleatoria" fallaron en generalizar, sugiriendo que simplemente "enmascararon" el conjunto de olvido en lugar de borrar el conocimiento.
• Cross-Modal y Segmentación: El método se extendió con éxito a CLIP (olvido de texto a imagen) y Segmentación Semántica (VOC2012), demostrando su generalidad más allá de la clasificación estándar.

5. Significado

• Privacidad y Seguridad: Al garantizar que el olvido ocurre a nivel de representación, POUR mitiga el riesgo de fugas de información mediante inversión de características, una vulnerabilidad crítica en los métodos actuales de olvido.
• Perspectiva Teórica: Cierra la brecha entre la teoría del Colapso Neuronal y el olvido práctico, mostrando que la estructura geométrica de las redes profundas puede manipularse matemáticamente para lograr un olvido óptimo sin reentrenamiento.
• Eficiencia: La naturaleza de forma cerrada de POUR-P permite un olvido instantáneo, haciéndolo altamente escalable para grandes modelos fundacionales donde el reentrenamiento es inviable.

En resumen, POUR proporciona un marco geométricamente principista, teóricamente óptimo y empíricamente superior para el olvido de máquina, asegurando que los modelos realmente "olviden" conceptos específicos mientras mantienen su utilidad para otras tareas.