ACD-U: Asymmetric co-teaching with machine unlearning for robust learning with noisy labels

El artículo propone ACD-U, un marco de aprendizaje asimétrico que combina dos arquitecturas distintas (CLIP y CNN) con un mecanismo de olvido selectivo para corregir activamente errores de selección y lograr un rendimiento superior en entornos con etiquetas ruidosas.

Lo esencial

Imagina que estás entrenando a un equipo de dos detectives para resolver un caso (clasificar imágenes), pero hay un problema: el 30% de las pistas que les das (las etiquetas de las fotos) están mal escritas o son mentiras. Si los detectives son muy inteligentes, tienden a memorizar esas pistas falsas pensando que son verdaderas, y al final, cuando se enfrentan a un caso nuevo, fallan estrepitosamente.

Este es el problema que resuelve el ACD-U, un nuevo método propuesto por investigadores de la Universidad de Kansai. Vamos a explicarlo con una analogía sencilla: "El Detective Experto y el Aprendiz con Borrador Mágico".

Los Dos Detectives (Arquitectura Asimétrica)

En lugar de usar dos detectives idénticos, el ACD-U usa un equipo muy especial:

1. El Detective Experto (La Red ViT): Es un detective que ya ha visto millones de casos antes de empezar (es un modelo pre-entrenado con CLIP). Sabe mucho desde el primer día y es muy estable. Sin embargo, si le das pistas falsas, podría empezar a dudar de su propia experiencia.
2. El Aprendiz (La Red CNN): Es un detective novato que empieza de cero. Aprende rápido, pero es propenso a cometer errores si le dicen que "el gato es un perro".

¿Cómo trabajan juntos?
En lugar de que ambos hagan lo mismo, tienen roles diferentes:

• El Experto solo trabaja con las pistas que parecen muy limpias y seguras. No se arriesga con las dudas.
• El Aprendiz trabaja con todas las pistas (las limpias y las sospechosas), aprendiendo a filtrarlas.
• Se enseñan mutuamente: El Experto le dice al Aprendiz qué pistas son buenas, y el Aprendiz le ayuda al Experto a no quedarse estancado.

El Problema: El "Efecto Memoria" y el Error Irreversible

En los métodos antiguos, si ambos detectives se equivocaban al principio y decidían que una pista falsa era real, se quedaban atrapados en ese error para siempre. Era como si el equipo hubiera decidido que "2 + 2 = 5" y nadie podía corregirlo.

La Solución Mágica: El "Borrador Selectivo" (Machine Unlearning)

Aquí es donde entra la parte más innovadora del ACD-U: El Borrador Mágico.

Imagina que, cada cierto tiempo, el equipo se detiene y revisa su cuaderno de notas. Usan una herramienta especial (el análisis de la trayectoria de pérdida y la comparación con el conocimiento del Experto) para encontrar las pistas que han memorizado mal.

• El proceso: Si detectan que el Aprendiz ha estado estudiando una pista falsa con mucha intensidad (su "pérdida" ha bajado demasiado rápido, lo que indica que la está memorizando en lugar de entenderla), activan el Borrador Mágico.
• La acción: No solo dejan de usar esa pista; usan una técnica matemática para "olvidar" activamente lo que aprendieron de ella. Es como si el detective dijera: "Espera, eso que aprendí ayer sobre este caso estaba mal, voy a borrar esa memoria para no contaminar mi juicio".

¿Por qué es genial esto?

1. Corrección de errores: A diferencia de los métodos anteriores que solo trataban de evitar errores, este método puede arreglarlos una vez ocurridos. Si te equivocaste al principio, el "Borrador Mágico" te permite corregir el rumbo más tarde.
2. Mejor selección: Al tener al "Experto" (pre-entrenado) en el equipo, es mucho más difícil que se equivoquen al principio eligiendo pistas falsas.
3. Adaptabilidad: Funciona muy bien tanto si hay un poco de ruido (pocas mentiras) como si hay un caos total (muchas mentiras).

En resumen

El ACD-U es como un sistema de entrenamiento inteligente para IA que combina:

• Un mentor experto que guía con estabilidad.
• Un aprendiz flexible que explora todo.
• Un mecanismo de olvido que permite borrar activamente los errores aprendidos, evitando que la IA se vuelva "tonta" por memorizar mentiras.

Gracias a esto, la IA logra ser mucho más robusta y precisa, incluso cuando los datos de entrenamiento están llenos de errores, superando a los métodos anteriores en pruebas reales como clasificar ropa o fotos de internet.

Resumen técnico

Resumen Técnico: ACD-U

1. El Problema: Aprendizaje con Etiquetas Ruidosas (LNL)

Las redes neuronales profundas (DNN) tienen una alta capacidad de representación, pero son propensas a memorizar etiquetas incorrectas durante el entrenamiento, lo que degrada su capacidad de generalización.

• El Efecto de Memorización (ME): Las DNN aprenden patrones limpios al principio y memorizan etiquetas ruidosas más tarde.
• Limitaciones de los Métodos Actuales:
  • Sesgo de Confirmación: Métodos como Co-teaching o DivideMix seleccionan muestras "limpias" basándose en la pérdida (loss). Si dos redes coinciden erróneamente en que una muestra ruidosa es limpia, el error se vuelve permanente y no hay mecanismo para corregirlo posteriormente.
  • Uso Ineficiente de Modelos Pre-entrenados: Los métodos actuales suelen usar modelos pre-entrenados (como CLIP) solo para inicialización o como clasificadores estáticos, sin aprovechar sus diferentes comportamientos de aprendizaje en comparación con modelos aleatorios.
  • Falta de Corrección Post-hoc: Una vez que una muestra se clasifica mal, los métodos existentes no pueden "olvidar" esa información incorrecta.

2. Metodología Propuesta: ACD-U

Los autores proponen ACD-U, un marco que integra dos mecanismos principales: Desaprendizaje Selectivo (Machine Unlearning) y Co-enseñanza Asimétrica (Asymmetric Co-Teaching).

A. Desaprendizaje Selectivo para Corrección de Errores (Unlearning)
A diferencia del desaprendizaje tradicional usado para privacidad, aquí se usa para corregir errores de aprendizaje.

• Detección de Muestras a Olvidar: Se identifican muestras ruidosas que han sido memorizadas incorrectamente mediante tres condiciones:
  1. Baja Pérdida (Low-loss): Muestras con pérdida muy baja (indicativo de sobreajuste a ruido).
  2. Caída de Pérdida (Loss-drop): Muestras cuya pérdida ha disminuido drásticamente desde el último ciclo de selección.
  3. Consistencia con CLIP: Se filtra usando un modelo CLIP pre-entrenado (independiente del entrenamiento) para excluir muestras que CLIP clasifica correctamente (probablemente limpias), evitando olvidar datos buenos.
• Mecanismo de Olvido: Una vez seleccionadas las muestras erróneas, se aplica una función de pérdida basada en la Divergencia de Kullback-Leibler (KL). Se maximiza la distancia entre la distribución de predicción actual y la de un modelo de referencia (guardado antes de la memorización), forzando al modelo a "olvidar" la influencia de esas muestras específicas.

B. Co-enseñanza Asimétrica con Arquitecturas Diferentes (ACD)
En lugar de usar dos redes idénticas, ACD-U utiliza dos arquitecturas con comportamientos complementarios:

1. Red V (Vision Transformer - ViT): Pre-entrenada con CLIP. Mantiene alta precisión desde el inicio.
   • Estrategia: Se entrena solo con muestras etiquetadas como "limpias" (alta confianza). Esto evita que el modelo pre-entrenado se degrade por etiquetas ruidosas.
2. Red A (CNN): Inicializada aleatoriamente (ej. ResNet). Aprende progresivamente.
   • Estrategia: Se entrena mediante Aprendizaje Semi-Supervisado (SSL), utilizando tanto muestras limpias como no etiquetadas (con pseudo-etiquetas).

• Beneficio: La estabilidad del ViT guía la selección de muestras para la CNN, mientras que la CNN adapta su aprendizaje. Esta asimetría mitiga el sesgo de confirmación, ya que es improbable que ambas arquitecturas fallen de la misma manera en la misma muestra.

Flujo de Entrenamiento:
El proceso se divide en fases: Warmup (estabilización), Preparación (entrenamiento inicial) y Ejecución de Desaprendizaje (selección periódica de muestras para olvidar y aplicación de la pérdida de desaprendizaje en paralelo con el entrenamiento de co-enseñanza).

3. Contribuciones Clave

1. Primera aplicación de Desaprendizaje en LNL: Introduce un mecanismo para la corrección post-hoc de errores de memorización, permitiendo que el modelo se recupere de selecciones iniciales incorrectas.
2. Arquitectura ACD: Propone un esquema de co-enseñanza asimétrica que explota las diferencias entre un ViT pre-entrenado y una CNN aleatoria, mejorando la selección de muestras en etapas tempranas.
3. Integración de CLIP: Utiliza la capacidad zero-shot de CLIP no como un clasificador estático, sino como un filtro dinámico para proteger las muestras limpias durante el proceso de desaprendizaje.
4. Rendimiento Superior: Demuestra que el desaprendizaje es crucial en entornos de alto ruido, mientras que la co-enseñanza asimétrica es más efectiva en ruido moderado, creando un sistema complementario.

4. Resultados Experimentales

El método fue evaluado en conjuntos de datos sintéticos (CIFAR-10/100 con ruido simétrico y asimétrico) y del mundo real (CIFAR-N, WebVision, Clothing1M, Red Mini-ImageNet).

• Rendimiento General: ACD-U alcanzó el estado del arte (SOTA) en la mayoría de los benchmarks, especialmente en regímenes de alto ruido (ej. 80-90% de ruido en CIFAR-100).
• Mejoras Específicas:
  • En CIFAR-100 (Sym. 90%), logró una mejora relativa del 35% sobre DivideMix.
  • En CIFAR-100N (ruido humano real), superó a LSL en 1.5% y a Semi-RML++ en 2.3%.
  • En WebVision y Clothing1M, obtuvo el mejor rendimiento, demostrando una gran capacidad de generalización.
  • En Red Mini-ImageNet, superó a todos los métodos existentes en todas las tasas de ruido.
• Análisis de Ablación:
  • Sin el módulo de desaprendizaje, el rendimiento cae drásticamente en ruido alto (80%).
  • Sin el módulo ACD, el rendimiento cae en ruido moderado (50%).
  • La selección de muestras mejoró significativamente: ACD-U redujo las muestras ruidosas mal clasificadas como limpias a 1/6 de las que clasificaba mal DivideMix en etapas tempranas.

5. Significado e Impacto

El trabajo ACD-U representa un cambio de paradigma en el aprendizaje con etiquetas ruidosas:

• De la Evitación Pasiva a la Corrección Activa: Mientras que los métodos anteriores intentan evitar errores mediante una selección inicial perfecta, ACD-U asume que los errores ocurrirán y proporciona una herramienta (desaprendizaje) para corregirlos dinámicamente durante todo el entrenamiento.
• Sinergia de Arquitecturas: Demuestra que combinar modelos pre-entrenados (estables) con modelos desde cero (adaptativos) de manera asimétrica es superior a tratarlos de forma simétrica o usar solo uno.
• Robustez: Ofrece una solución robusta para escenarios del mundo real donde el ruido en las etiquetas es inevitable, complejo y dependiente de la instancia (como en datos de comercio electrónico o web).

En conclusión, ACD-U establece un nuevo estándar para la robustez en el aprendizaje profundo, resolviendo el problema crítico de la memorización irreversible de etiquetas erróneas mediante una combinación inteligente de desaprendizaje selectivo y arquitecturas heterogéneas.