LDEPrompt: Layer-importance guided Dual Expandable Prompt Pool for Pre-trained Model-based Class-Incremental Learning

1. El Problema

El aprendizaje incremental de clases (CIL) busca que los modelos de aprendizaje profundo adquieran conocimiento de nuevas tareas sin olvidar las anteriores y sin almacenar datos antiguos. Aunque los métodos basados en prompts (indicadores) han demostrado ser prometedores al congelar la red base preentrenada y entrenar solo vectores ligeros, las aproximaciones existentes presentan limitaciones críticas:

• Sobrescritura de conocimientos: Los prompts seleccionados repetidamente para diferentes tareas tienden a ser sobrescritos, agravando el "olvido catastrófico".
• Capacidad fija: Los pools (conjuntos) de prompts suelen tener un tamaño fijo, lo que limita la capacidad del modelo para acomodar nuevas tareas a medida que avanza el aprendizaje.
• Dependencia del backbone: La selección de prompts depende exclusivamente de las representaciones de un modelo preentrenado congelado, lo cual carece de información específica de la tarea actual y genera una fuerte dependencia del modelo base.

2. Metodología: LDEPrompt

Los autores proponen LDEPrompt (Layer-importance guided Dual Expandable Prompt Pool), un marco que combina la selección adaptativa de capas con una expansión dinámica del conjunto de prompts.

A. Evaluación de la Importancia de la Capa (Layer Importance Evaluation)

Antes de entrenar una nueva tarea, el método realiza múltiples pasadas hacia adelante en el backbone preentrenado para evaluar la ganancia de información en cada capa.

• Se calcula la ganancia de información ($IG$) como la diferencia entre la información mutua de la entrada y salida de una capa.
• Se normalizan estas puntuaciones mediante una función softmax.
• Se seleccionan las capas con puntuaciones superiores a la media para insertar los prompts, evitando así la redundancia de parámetros en capas menos informativas.

B. Arquitectura de Doble Pool Expandible (Dual Expandable Prompt Pools)

Para evitar el olvido y permitir el crecimiento, se diseñan dos pools de prompts:

1. Pool Global ($P_g$): Almacena prompts de todas las tareas pasadas. Permanece congelado para preservar el conocimiento adquirido.
2. Pool de Entrenamiento ($P_c$): Contiene solo prompts específicos para la tarea actual con una capacidad fija.

Mecanismo de Interacción:

• Para una nueva tarea, se recuperan los prompts más similares (basados en similitud coseno con el token [CLS]) del Pool Global para formar parte del Pool de Entrenamiento.
• Los espacios restantes en el Pool de Entrenamiento se inicializan aleatoriamente.
• Durante el entrenamiento, solo se optimizan los prompts del Pool de Entrenamiento.
• Tras el entrenamiento, los nuevos prompts aprendidos se congelan y se fusionan en el Pool Global, expandiendo dinámicamente el espacio de conocimiento sin sobrescribir lo anterior.

C. Optimización

El modelo se entrena minimizando la pérdida de entropía cruzada estándar sobre los prompts del pool de entrenamiento y el clasificador, manteniendo el backbone y el pool global congelados.

3. Contribuciones Clave

• Selección Adaptativa de Capas: Introducen un mecanismo guiado por la ganancia de información para decidir dónde insertar los prompts, en lugar de usar una arquitectura fija o insertarlos en todas las capas.
• Arquitectura Dual Expandible: La separación entre un pool global congelado y un pool de entrenamiento dinámico resuelve el problema de la capacidad fija y la sobrescritura, permitiendo un crecimiento escalable del modelo.
• Compartición de Conocimiento: Facilitan el intercambio de prompts entre tareas mediante la recuperación basada en similitud, mejorando la transferencia de conocimiento sin sacrificar la estabilidad.

4. Resultados Experimentales

Los autores evaluaron LDEPrompt en tres conjuntos de datos de referencia ampliamente utilizados bajo el escenario de aprendizaje incremental sin ejemplos (exemplar-free): CIFAR100, CUB y VTAB.

• Rendimiento Superior: LDEPrompt superó consistentemente a los métodos más avanzados (SOTA) como L2P, DualPrompt, CODA-Prompt y Evoprompt.
  • En CIFAR100 (B0-Inc10): Mejoró la precisión promedio en un 0.40% y la precisión final en un 0.50% respecto al segundo mejor método.
  • En CUB (B0-Inc20): Logró mejoras significativas, superando al segundo mejor en 2.11% (promedio) y 2.91% (final).
  • En VTAB (B0-Inc10): Superó al estado del arte en 1.37% en precisión final.
• Estudios de Ablación: Confirmaron que tanto la congelación de prompts antiguos como la expansión dinámica son esenciales. Además, demostraron que insertar prompts en todas las capas es menos eficiente que la selección guiada por importancia, ya que esta última reduce la redundancia de parámetros.

5. Significado e Impacto

LDEPrompt representa un avance significativo en el aprendizaje continuo basado en modelos preentrenados. Su principal aporte es demostrar que la asignación de recursos de prompts a nivel de capa y la arquitectura expandible son fundamentales para equilibrar la plasticidad (aprender nuevas tareas) y la estabilidad (no olvidar las anteriores).

El método ofrece una solución escalable que no requiere almacenar datos antiguos, lo cual es crucial para aplicaciones en entornos con restricciones de privacidad o memoria. Al superar consistentemente a los métodos actuales, LDEPrompt establece una nueva dirección para la investigación en aprendizaje incremental, sugiriendo que la adaptabilidad estructural (selección de capas y expansión de pools) es tan importante como la optimización de los parámetros mismos.

El código del proyecto está disponible públicamente, fomentando la reproducibilidad y el desarrollo futuro en este campo.