Residual SODAP: Residual Self-Organizing Domain-Adaptive Prompting with Structural Knowledge Preservation for Continual Learning

El artículo presenta Residual SODAP, un marco de aprendizaje continuo que combina la selección de prompts dispersos, la agregación residual y la preservación de conocimiento sin datos para superar el olvido catastrófico en el aprendizaje incremental de dominios sin identificadores de tarea.

Lo esencial

¡Claro que sí! Imagina que estás aprendiendo un nuevo oficio, como ser chef. Al principio, aprendes a cocinar comida italiana. Luego, te piden que aprendas comida japonesa, y después comida mexicana. El problema es que, cuando aprendes lo nuevo, tu cerebro tiende a borrar lo viejo. ¡De repente, olvidas cómo hacer una buena pizza para poder hacer sushi! En el mundo de la inteligencia artificial, a esto se le llama "olvido catastrófico".

Los investigadores de este paper (Gyutae Oh y su equipo) han creado una solución genial llamada Residual SODAP. Vamos a explicarlo como si fuera una historia de un chef muy organizado.

1. El Problema: El Chef que Olvida

Imagina que tienes un chef (la Inteligencia Artificial) que solo tiene un cuaderno de recetas (el modelo).

• El desafío: El chef debe aprender nuevas recetas sin poder guardar los ingredientes viejos en la nevera (no se le permite guardar datos pasados por privacidad o espacio).
• El fallo anterior: Los chefs anteriores intentaban usar "etiquetas" (prompts) para recordar qué receta usar. Pero a veces, el chef elegía la etiqueta equivocada o se confundía al mezclar las recetas, y al final, la comida salía mal. Además, el chef olvidaba cómo usar el cuchillo (el clasificador) para cortar los ingredientes correctamente cuando cambiaba el tipo de comida.

2. La Solución: Residual SODAP (El Chef con Memoria de Acero)

El equipo propone un nuevo sistema con cuatro trucos de magia:

A. El "Selector de Etiquetas" Inteligente (Selección de Prompts con $\alpha$-entmax)

Imagina que tienes una caja de 100 etiquetas adhesivas. Antes, el chef tenía que elegir las 5 mejores etiquetas y pegarlas. Si se equivocaba, todo salía mal.

• Lo nuevo: Residual SODAP usa un filtro mágico. En lugar de elegir etiquetas al azar o mezclarlas todas (lo que crea ruido), este filtro es muy estricto: solo deja pasar las etiquetas que realmente coinciden con la comida que se está cocinando ahora. Las otras etiquetas se quedan en silencio. Es como tener un guardaespaldas que solo deja entrar a los invitados que realmente conocen la receta.

B. La "Base de Conocimiento Congelada" (Residual y Prompts Hibernados)

Aquí está la parte más brillante. El sistema divide las etiquetas en dos grupos:

1. Las viejas (Congeladas): Son las recetas que ya aprendiste (ej. Pizza). Estas se "congelan" en el tiempo. Nunca se tocan. Son tu base sólida.
2. Las nuevas (Activas): Son las recetas que estás aprendiendo ahora (ej. Sushi). Estas se usan como un añadido (un "residual") sobre la base congelada.

• La analogía: Imagina que tienes una base de pizza perfecta. Cuando quieres hacer sushi, no tiras la pizza a la basura. Pones una tabla de madera encima (el añadido nuevo) y haces el sushi ahí. Si mañana quieres volver a hacer pizza, simplemente quitas la tabla y tu pizza sigue intacta. ¡Nunca olvidas lo viejo!

C. El "Fantasma de Ingredientes" (Reproducción Pseudo-Estadística)

Como no puedes guardar los ingredientes reales (por reglas de privacidad), el chef necesita recordar cómo se veían.

• El truco: En lugar de guardar tomates reales, el chef guarda una ficha estadística: "El tomate promedio pesa 150g y es rojo".
• Cuando necesita repasar, el chef no usa tomates reales, sino que crea tomates fantasma basados en esas fichas. Los usa para practicar y asegurarse de que no olvida cómo hacer pizza. Es como estudiar con un dibujo en lugar de con el objeto real, pero funciona igual de bien para no olvidar.

D. El "Detective de Cambios" (Detección de Deriva)

¿Cómo sabe el chef que ha llegado un nuevo tipo de comida?

• El sistema vigila constantemente: "¿Estoy usando las mismas etiquetas de siempre?". Si de repente nota que las etiquetas que usaba para pizza ya no funcionan y la gente empieza a usar otras, el sistema grita: "¡Alerta! ¡Hemos entrado en un nuevo dominio!".
• Inmediatamente, el sistema añade nuevas etiquetas a la caja para adaptarse a la nueva comida, sin romper las viejas.

3. El Resultado: Un Chef Perfecto

Gracias a estos trucos, el sistema Residual SODAP logra:

1. No olvidar: Recuerda perfectamente cómo hacer pizza, sushi y tacos al mismo tiempo.
2. Aprender rápido: Se adapta a nuevas cocinas (nuevos datos) sin necesidad de ver los ingredientes viejos.
3. Equilibrio: Usa una "balanza de incertidumbre" automática para decidir cuánto esfuerzo poner en aprender lo nuevo vs. repasar lo viejo, sin que nadie tenga que ajustar los tornillos manualmente.

En Resumen

Imagina que Residual SODAP es un chef experto que tiene una memoria de elefante pero una nevera muy pequeña.

• No tira nada a la basura (no olvida).
• Usa un sistema de "capas" para añadir lo nuevo sin romper lo viejo (residual).
• Usa "recetas fantasma" para repasar sin tener los ingredientes reales (replay pseudo).
• Sabe exactamente cuándo cambiar de menú (detección de deriva).

Los resultados en pruebas reales (como detectar enfermedades en ojos o piel) muestran que este método es el mejor hasta la fecha, superando a todos los otros chefs que intentaban resolver el mismo problema. ¡Es la forma más eficiente de aprender cosas nuevas sin olvidar las viejas!

Resumen técnico

Resumen Técnico: Residual SODAP

1. El Problema: Olvido Catastrófico en Aprendizaje Incremental de Dominio (DIL)

El aprendizaje continuo (Continual Learning - CL) busca que los modelos de IA asimilen nuevos conocimientos sin olvidar los anteriores. Sin embargo, sufren de olvido catastrófico. Este problema se agrava en el escenario de Aprendizaje Incremental de Dominio (DIL), donde:

• Los datos llegan secuencialmente de diferentes dominios (distribuciones cambiantes).
• No se dispone de identificadores de tarea (Task-ID) durante la inferencia.
• No se permite almacenar datos pasados (restricción rehearsal-free) debido a regulaciones de privacidad o limitaciones de almacenamiento.

Aunque el Aprendizaje Continual Basado en Prompts (PCL) ha surgido como una solución prometedora al adaptar representaciones con una base de datos congelada, los autores identifican dos limitaciones críticas en los métodos existentes:

1. Selección de prompts subóptima: Los métodos de selección "dura" (Top-k) son inestables y poco expresivos, mientras que los métodos "suaves" (Softmax) introducen ruido al permitir que prompts irrelevantes influyan en la salida.
2. Inestabilidad del clasificador: Los métodos actuales se centran casi exclusivamente en la adaptación de la representación (el "backbone"), ignorando que la inestabilidad en la estructura del clasificador es una fuente principal de olvido bajo desplazamientos de dominio.

2. Metodología: Residual SODAP

Los autores proponen Residual SODAP, un marco que realiza simultáneamente la adaptación de representaciones basada en prompts y la preservación de conocimientos a nivel de clasificador. La arquitectura se compone de cuatro componentes principales:

A. Selección de Prompts Residual basada en $\alpha$-Entmax

• Mejora de la Consulta (Query Enhancement): Se utiliza un banco de memoria compartida y un mecanismo de atención para enriquecer el token de clasificación (CLS) con contexto global y señales recuperadas, mitigando problemas de localidad.
• Selección Escasa ($\alpha$-Entmax): En lugar de usar Softmax (que asigna pesos a todos los prompts) o Top-k (que es no diferenciable), se emplea $\alpha$-entmax. Esto genera pesos normalizados dispersos, asignando cero exacto a prompts irrelevantes (reduciendo ruido) mientras mantiene la diferenciabilidad.
• Combinación Residual: El pool de prompts se divide en un conjunto congelado ($\mathcal{F}$, que preserva conocimiento previo) y un conjunto activo ($\mathcal{A}$, que se adapta a nuevos dominios). La salida final es una suma residual: $p_{out} = p_{\mathcal{F}} + \lambda_r p_{\mathcal{A}}$. Esto permite adaptar el modelo sin destruir la base de conocimiento anterior.

B. Preservación de Conocimiento Estadístico (Replay Pseudo-Feature)
Dado que no se pueden guardar datos reales, el método preserva el conocimiento del clasificador mediante estadísticas:

• Almacenamiento de Estadísticas: Tras cada etapa, se guardan la media ($\mu_c$) y la varianza diagonal ($\sigma^2_c$) de las características de cada clase, calculadas eficientemente con el algoritmo de Welford.
• Distilación de Conocimiento: Se utiliza un "cabeza maestra" congelada (del paso anterior) para guiar al nuevo estudiante.
• Replay Pseudo: Se generan características sintéticas (pseudo-features) muestreando de las distribuciones gaussianas almacenadas ($\mathcal{N}(\mu_c, \sigma^2_c)$). Estas características sintéticas se usan para una pérdida de distilación que mantiene los límites de decisión de las clases anteriores sin acceder a datos reales.

C. Detección de Deriva basada en Uso de Prompts (PUDD)
Para manejar dominios desconocidos sin Task-ID:

• Se monitorean los patrones de selección de prompts (entropía y conjunto de prompts utilizados).
• Si se detecta un cambio significativo en la distribución de selección (indicando un nuevo dominio), el sistema expande automáticamente el pool de prompts.
• La cantidad de expansión es proporcional a la magnitud de la deriva detectada, evitando un crecimiento innecesario de parámetros.

D. Ponderación por Incertidumbre (Uncertainty Weighting)

• Para equilibrar las múltiples funciones de pérdida (clasificación, distilación real, distilación pseudo, diversidad, regularización de norma), se utiliza un esquema de ponderación de incertidumbre homoscedástica.
• El modelo aprende automáticamente los pesos de cada término de pérdida, evitando el ajuste manual y adaptándose a la escala y ruido de cada señal durante el entrenamiento.

3. Contribuciones Clave

1. Selección de Prompts Estructurada: Introducción de $\alpha$-entmax y conexiones residuales para separar conocimiento estático (congelado) de adaptación dinámica, resolviendo el compromiso entre estabilidad y plasticidad.
2. Preservación a Nivel de Clasificador: Demostración empírica y solución al problema de la inestabilidad del clasificador mediante distilación y replay de características pseudo basadas en estadísticas, sin necesidad de datos históricos.
3. Mecanismo de Expansión Automática: Un detector de deriva (PUDD) que ajusta dinámicamente la capacidad del modelo (tamaño del pool de prompts) según la severidad del cambio de dominio.
4. Optimización Estable: Uso de ponderación de incertidumbre para gestionar múltiples objetivos de aprendizaje sin hiperparámetros manuales.

4. Resultados Experimentales

El método se evaluó en tres escenarios DIL sin Task-ID ni almacenamiento de datos:

1. Retinopatía Diabética (DR): APTOS $\to$ DDR $\to$ DRD.
2. Cáncer de Piel: ISIC $\to$ HAM $\to$ DERM7.
3. Dominio General: CORe50 (11 etapas).

Rendimiento (Promedio de Precisión / Olvido Promedio - AvgACC / AvgF):

• DR: 0.850 / 0.047 (Estado del arte).
• Cáncer de Piel: 0.760 / 0.031 (Estado del arte).
• CORe50: 0.995 / 0.003 (Estado del arte).

Residual SODAP superó consistentemente a métodos basados en regularización, replay, arquitectura y prompts existentes (como Dual-Prompt, Coda-Prompt, DER++), logrando el mejor equilibrio entre retener conocimiento antiguo y aprender nuevos dominios.

5. Significado e Impacto

• Viabilidad en Entornos Reales: Al eliminar la necesidad de Task-ID y el almacenamiento de datos, Residual SODAP es aplicable en escenarios reales con restricciones de privacidad (como la medicina), donde los datos no pueden compartirse ni guardarse.
• Nueva Perspectiva en PCL: El trabajo cambia el foco de solo mejorar la representación (backbone) a considerar la estabilidad del clasificador como un pilar fundamental para evitar el olvido en entornos de dominio incremental.
• Eficiencia y Adaptabilidad: La combinación de selección dispersa y expansión dinámica del pool permite que el modelo crezca solo cuando es necesario, optimizando el uso de recursos computacionales frente a cambios de distribución.

En conclusión, Residual SODAP establece un nuevo estándar para el aprendizaje continuo libre de ensayo (rehearsal-free) en dominios cambiantes, ofreciendo una solución robusta y escalable para la adaptación continua de modelos de visión por computadora.