CATFormer: When Continual Learning Meets Spiking Transformers With Dynamic Thresholds

1. Planteamiento del Problema

El aprendizaje continuo (Continual Learning - CL) en redes neuronales profundas enfrenta el desafío del olvido catastrófico: cuando un modelo se entrena secuencialmente con nuevos datos, tiende a sobrescribir el conocimiento adquirido anteriormente. Esto es especialmente crítico en escenarios del mundo real (robótica, dispositivos de borde) donde:

• Los datos llegan de forma secuencial y no se pueden almacenar todos a la vez.
• Existen restricciones estrictas de energía, memoria y ancho de banda que hacen inviable el uso de repetición de datos (data rehearsal), es decir, guardar y volver a entrenar con ejemplos pasados.
• Las Redes Neuronales de Spiking (SNNs), aunque son energéticamente eficientes, han mostrado un rendimiento que decae drásticamente a medida que se acumulan tareas en configuraciones de aprendizaje incremental de clases (CIL).
• Las arquitecturas basadas en Transformers (como Vision Transformers) han demostrado gran éxito en tareas estáticas, pero su aplicación en SNNs para aprendizaje continuo sigue siendo un campo inexplorado.

2. Metodología: CATFormer

El authors proponen CATFormer (Context Adaptive Threshold Transformer), un marco escalable diseñado específicamente para SNNs basadas en Transformers que elimina la necesidad de buffers de memoria. La arquitectura se basa en dos innovaciones principales:

A. Neuronas DTLIF (Dynamic Threshold Leaky Integrate-and-Fire)

En lugar de depender únicamente de la plasticidad sináptica (actualizar pesos), CATFormer modula la excitabilidad neuronal mediante umbrales de disparo dinámicos y adaptativos al contexto.

• Mecanismo: Se utiliza un modelo de neurona LIF extendido donde el umbral de disparo ($\phi$) no es fijo, sino que es un parámetro aprendible específico para cada tarea.
• Funcionamiento: Durante el entrenamiento de una nueva tarea $k$, los pesos de la red (el "backbone" del Transformer) se congelan. Solo se optimizan los umbrales dinámicos ($\phi^{(k)}$) y las cabezas de clasificación (heads) específicas de esa tarea.
• Inspiración Biológica: Este mecanismo imita la neuromodulación en el cerebro (ej. acetilcolina), donde señales contextuales ajustan los umbrales de excitación para permitir la codificación de nuevas memorias sin interferir con las anteriores.

B. Selección de Cabeza Dinámica con Puerta (G-DHS)

Para la inferencia, el modelo utiliza un mecanismo de enrutamiento inteligente:

1. Predicción de Tarea: Una red MLP (Gating MLP) analiza las características de entrada para predecir qué tarea se está realizando.
2. Enrutamiento: Una vez identificada la tarea, el sistema ajusta los umbrales neuronales a los valores específicos de esa tarea ($\phi^{(k)}$) y selecciona la "cabeza" de clasificación correspondiente para realizar la predicción final.
3. Ventaja: Esto permite una inferencia agnóstica a la tarea sin necesidad de conocer el ID de la tarea de antemano (task-agnostic inference).

Protocolo de Entrenamiento

El entrenamiento sigue un protocolo de dos etapas:

1. Inicialización: Se entrena el primer conjunto de parámetros (backbone + umbral inicial + cabeza 0).
2. Iteración: Para tareas subsiguientes, se congelan los pesos del backbone. Se inicializa una nueva cabeza y se optimizan conjuntamente los umbrales dinámicos de la nueva tarea y la nueva cabeza, utilizando solo los datos de la tarea actual.

3. Contribuciones Clave

• Primera SNN-Transformer para CIL: Presentan el primer marco de aprendizaje incremental de clases diseñado específicamente para Transformers de Spiking, cerrando una brecha significativa en la literatura.
• Mecanismo de Plasticidad sin Rehearsal: Demuestran que es posible prevenir el olvido catastrófico sin almacenar datos pasados, utilizando umbrales neuronales adaptativos en lugar de la expansión de la red o buffers de memoria.
• Escalabilidad y "Olvido Inverso": A diferencia de los métodos anteriores que degradan su rendimiento con más tareas, CATFormer muestra una tendencia de "olvido inverso" (reverse forgetting), donde la precisión mejora o se mantiene estable a medida que aumenta el número de tareas (hasta 100 tareas).
• Eficiencia de Parámetros: El modelo es altamente eficiente. Aunque el backbone se congela, solo se añaden parámetros mínimos (umbrales y cabezas) por tarea (aprox. 1.4M parámetros entrenables en tareas posteriores), evitando el crecimiento descontrolado de la red.

4. Resultados Experimentales

El modelo fue evaluado en conjuntos de datos estáticos (CIFAR-10, CIFAR-100, Tiny-ImageNet) y neuromórficos (CIFAR10-DVS, SHD).

• Rendimiento en CIFAR-100 (50 tareas):
  • CATFormer alcanzó un 75.66% de precisión, superando significativamente a los métodos de referencia (como DSD-SNN, EWC, iCaRL) que cayeron por debajo del 15-50%.
  • Mostró una mejora continua: 68.33% en 10 tareas $\rightarrow$ 75.66% en 50 tareas.
• Rendimiento en Conjuntos Neuromórficos:
  • En CIFAR10-DVS (2 tareas), logró un 83.21%, igualando el rendimiento de métodos que sí utilizan repetición de datos (rehearsal).
  • En SHD (datos de audio), alcanzó un 84.48%, validando la compatibilidad de los umbrales dinámicos con la naturaleza temporal de las SNNs.
• Tiny-ImageNet (100 tareas):
  • Logró un 48.56% de precisión, superando en un 8.45% a los modelos basados en redes neuronales artificiales (ANN) no espigantes en configuraciones de aprendizaje continuo extremo.
• Estudios de Ablación:
  • La eliminación de los umbrales dinámicos (usando umbrales fijos) provocó un colapso del rendimiento a ~42%, confirmando que la modulación del umbral es el componente crítico para evitar el olvido.
  • La estructura del Transformer (mezcladores de tokens) es esencial; reemplazar la atención por identidad o ruido aleatorio degradó severamente el rendimiento.

5. Significado e Impacto

El trabajo de CATFormer es fundamental para el desarrollo de la IA física y la robótica autónoma:

• Viabilidad en Hardware Real: Al eliminar la necesidad de buffers de memoria para repetición de datos, CATFormer es ideal para dispositivos con recursos limitados (batería, memoria restringida) donde almacenar gigabytes de datos pasados es imposible.
• Adaptación a Largo Plazo: La capacidad de aprender durante secuencias de hasta 100 tareas sin degradación permite a los agentes autónomos adaptarse a entornos cambiantes durante meses o años.
• Eficiencia Energética: Al combinar la eficiencia de las SNNs con la capacidad de modelado de los Transformers, ofrece una solución que es tanto computacionalmente potente como energéticamente sostenible.
• Nueva Dirección de Investigación: Establece un nuevo estándar para el aprendizaje continuo en SNNs, demostrando que la modulación de la excitabilidad neuronal (umbrales) es tan crucial como la plasticidad sináptica para la retención de memoria a largo plazo.

En resumen, CATFormer demuestra que es posible lograr un aprendizaje continuo robusto, escalable y libre de repetición de datos en arquitecturas de Transformers de Spiking, resolviendo el problema del olvido catastrófico mediante una inspiración biológica directa en la modulación de umbrales neuronales.