EvoBrain: Continual Learning of EEG Foundation Models Across Heterogeneous BCI Tasks

Resumen Técnico: EvoBrain

Planteamiento del Problema
Los modelos fundacionales de electroencefalografía (EEG), preentrenados en corpus masivos sin etiquetar, ofrecen un marco unificado para la decodificación cerebral universal. Sin embargo, las estrategias actuales de post-entrenamiento dependen de una adaptación estática aislada por tarea (por ejemplo, el ajuste fino completo para cada nueva tarea). Este paradigma presenta dos limitaciones críticas:

1. Transferencia de Conocimiento Obstaculizada: Impide la síntesis de patrones neurales invariantes de orden superior a través de tareas de BCI heterogéneas (por ejemplo, estadificación del sueño, imaginación motora, reconocimiento de emociones), confinando al modelo a límites de tareas estrechos.
2. Cuellos de Botella de Escalabilidad: Adaptarse a una nueva tarea requiere reentrenar desde cero y almacenar conjuntos de parámetros separados, lo que provoca que los gastos computacionales y de almacenamiento escalen linealmente con el número de tareas.

Si bien el Aprendizaje Continuo (CL, por sus siglas en inglés) ofrece una solución teórica, su aplicación a los modelos fundacionales de EEG es excepcionalmente desafiante debido a la heterogeneidad multinivel. Diferentes paradigmas de BCI exhiben configuraciones de adquisición, semántica de etiquetas, morfologías de señal y patrones neuro-espectrales distintos. Los métodos estándar de CL suelen fallar al no abordar la necesidad específica de recalibrar las respuestas espectrales dependientes de la tarea mientras se preserva la geometría de respuesta de las tareas previas, lo que conduce al olvido catastrófico o a la transferencia negativa.

Metodología: EvoBrain
Los autores proponen EvoBrain, un marco de aprendizaje continuo dinámico y consciente de la tarea, diseñado para evolucionar un único modelo fundacional de EEG a través de un flujo de tareas heterogéneas. El marco equilibra la plasticidad de aprendizaje (adaptación a nuevas tareas) y la estabilidad de la memoria (retención del conocimiento antiguo) mediante dos componentes complementarios:

1. Normalización Neuro-Espectral de Tarea (NSN):

   • Objetivo: Mejorar la plasticidad alineando las tareas entrantes con las estadísticas históricas mientras se recalibran las respuestas espectrales específicas de la tarea.
   • Mecanismo:
     • Normalización Temporal Guiada por Prototipos (PTN): Utiliza prototipos de tareas históricas (medias móviles exponenciales de las medias de los datos por tarea) para estabilizar las estadísticas temporales entre tareas. Emplea parámetros de compuerta de momentos aprendibles para reescalar y desplazar dinámicamente los datos de la tarea actual, reduciendo la deriva de distribución sin forzar un ajuste rígido.
     • Modulación de Residuos Espectrales Condicionada por la Tarea (SRM): Modela explícitamente los patrones espectrales específicos de la tarea. Calcula el espectro de Fourier de valor real del input normalizado, aplica compuertas de banda suaves aprendibles para las bandas de frecuencia estándar de EEG ($\delta, \theta, \alpha, \sigma, \beta, \gamma$), y modula el residuo espectral. Esto permite al modelo realzar o suprimir bandas de frecuencia específicas basadas en la firma neuro-espectral de la tarea.

2. Destilación de Afinidad de Respuesta (RAD):

   • Objetivo: Mejorar la estabilidad preservando la organización de la respuesta de las tareas antiguas y promoviendo la transferencia selectiva de conocimiento.
   • Mecanismo:
     • Replay Dependiente del Tiempo: Muestrea tareas históricas con mayor probabilidad para las tareas más antiguas (que son más vulnerables al olvido) para proporcionar datos de replay.
     • Destilación de la Geometría de Respuesta (RGD): Preserva la geometría relacional de las muestras de replay mediante el emparejamiento de las entradas fuera de la diagonal de las matrices relacionales por muestra entre el modelo estudiante actual y un modelo profesor congelado (el estado del modelo tras aprender la tarea de replay). Esto mantiene las relaciones estructurales de las respuestas de la tarea antigua.
     • Alineación de Afinidad Espectral (SAA): Alinea las estadísticas de respuesta (media, varianza, covarianza) entre la tarea actual y las de replay solo cuando exhiben firmas espectrales compatibles. Esto se logra calculando una "afinidad espectral con signo" basada en la similitud de las compuertas de banda condicionadas por la tarea. Esto evita la alineación indiscriminada entre paradigmas no relacionados, mitigando la transferencia negativa.

La función objetivo global combina la pérdida de clasificación específica de la tarea con la pérdida RAD, ponderada para equilibrar la plasticidad y la estabilidad.

Contribuciones Clave

• Pioneros en CL Trans-Tarea en EEG: Este trabajo es el primero en explorar el aprendizaje continuo trans-tarea para modelos fundacionales de EEG, yendo más allá del aprendizaje continuo de un solo paradigma o de un solo sujeto.
• Marco Novedoso (EvoBrain): Introduce un marco plug-and-play que permite a un único modelo unificado generalizar a través de diversas tareas de EEG sin reiniciar el ajuste fino aislado por tarea.
• Agnosticismo Arquitectónico: El marco es validado en cuatro backbones fundacionales diversos, incluyendo arquitecturas basadas en Transformer (CBraMod, CSBrain, DeeperBrain) y basadas en Mamba (EEGMamba), demostrando su eficacia independientemente del backbone subyacente.
• Diseño de Mecanismos: Propone NSN y RAD para abordar específicamente el compromiso entre plasticidad y estabilidad en el contexto de la heterogeneidad neuro-espectral, en lugar de depender de un alineamiento de distribución genérico.

Resultados Experimentales
Los autores evaluaron EvoBrain en seis tareas distintas de BCI (Estadificación del Sueño, Imaginación Motora, Reconocimiento de Emociones, Lenguaje Imaginado, Diagnóstico de Trastornos Mentales) utilizando cuatro modelos fundacionales bajo tres órdenes de llegada de tareas.

• Desempeño: EvoBrain superó consistentemente a los baselines de aprendizaje continuo de vanguardia (incluyendo EWC, LwF, DER++, AGEM y AdaptFormer) en todos los backbones.
• Compromiso Plasticidad-Estabilidad: El método logró una baja Tasa de Olvido Relativo (RFR) (típicamente por debajo del 4.0%), lo que indica una fuerte retención de las tareas previas manteniendo una alta precisión en las nuevas tareas. En algunos casos, el desempeño en las tareas anteriores mejoró tras aprender tareas subsecuentes, lo que sugiere una transferencia positiva.
• Robustez: El marco demostró robustez a través de diferentes secuencias de tareas y arquitecturas de backbone.
• Estudios de Ablación: Eliminar ya sea NSN o RAD degradó significativamente el desempeño, confirmando sus roles complementarios. Específicamente, RGD fue identificado como el componente clave para preservar las estructuras relacionales de las tareas antiguas.
• Comparación con Paradigmas Estáticos: EvoBrain retuvo el 91.3% del desempeño del ajuste fino aislado de una sola tarea, utilizando únicamente un único backbone compartido, ofreciendo una alternativa escalable al crecimiento de costo lineal del ajuste fino estático.

Significancia y Afirmaciones
El artículo afirma avanzar hacia la realización de un sistema de decodificación de EEG "para todo". Al formular la adaptación descendente como un problema de aprendizaje continuo trans-tarea, EvoBrain aborda las limitaciones fundamentales de las estrategias de post-entrenamiento estáticas e aisladas por tarea. Los autores posicionan su trabajo como un paso necesario hacia sistemas de decodificación neural de propósito general y escalables que pueden adquirir conocimiento incrementalmente de tareas de BCI heterogéneas sin olvido catastrófico. El estudio enfatiza que la adaptación continua exitosa en EEG requiere no solo una normalización genérica, sino una recalibración neuro-espectral y una preservación de la afinidad de respuesta específicas.

El artículo concluye que, si bien el estudio actual utiliza un protocolo controlado de incremento de tareas, el marco propuesto proporciona una dirección práctica de post-entrenamiento para modelos fundacionales de EEG escalables, allanando el camino para la exploración futura en entornos más flexibles en línea.