Temporal Context and Architecture: A Benchmark for Naturalistic EEG Decoding

Resumen Técnico: Contexto Temporal y Arquitectura para la Decodificación de EEG Naturalista

Planteamiento del Problema
La decodificación de la actividad cerebral a partir de EEG durante tareas naturalistas, como la observación de películas, presenta un desafío significativo debido a la necesidad de capturar dependencias temporales de largo alcance dentro de grabaciones continuas y ruidosas. Aunque el aprendizaje profundo se ha aplicado ampliamente en este dominio, las arquitecturas tradicionales enfrentan compromisos fundamentales: las Redes Neuronales Convolucionales (CNN) son computacionalmente eficientes pero están limitadas por campos receptivos locales, mientras que los Transformers ofrecen un contexto global mediante mecanismos de atención pero sufren de un escalado cuadrático en tiempo y memoria. Recientemente, los Modelos de Espacio de Estado Estructurados (SSM), como S4 y S5, han emergido como un punto medio potencial, ofreciendo un modelado de largo alcance con una complejidad casi lineal. Sin embargo, ha faltado una comparación sistemática de cómo estas arquitecturas modernas se desempeñan frente a variaciones en la longitud del contexto temporal, y cómo generalizan a través de tareas, frecuencias y sujetos no vistos.

Metodología
Los autores evalúan cinco arquitecturas distintas en una tarea de decodificación de EEG de 4 clases utilizando datos de la iniciativa Healthy Brain Network (HBN). El conjunto de datos incluye grabaciones de tareas de observación de películas ("Despicable Me", "Diary of a Wimpy Kid", "The Present") y una línea base de estado de reposo.

• Procesamiento de Datos: Los datos crudos fueron submuestreados a 250 Hz, filtrados (1-50 Hz), re-referenciados (promedio común) y segmentados en ventanas que oscilan entre 8 s y 128 s con un solapamiento del 50%. Crucialmente, la división de los datos ocurrió antes de la segmentación para evitar la fuga de datos (leakage).
• Arquitecturas Evaluadas:
  1. CNN Temporal: Una línea base estándar de campo receptivo local.
  2. LSTM Bidireccional: Una línea base recurrente.
  3. Transformer Vanilla: Una línea base de atención global.
  4. EEGXF: Una línea base de Transformer estabilizado desarrollada por los autores, que presenta proyecciones de entrada simplificadas, capas de BatchNorm, codificación de tipo norm-first y agrupación de atención aprendida para abordar la inestabilidad del entrenamiento en EEG ruidoso.
  5. S5: Un modelo de Espacio de Estado Estructurado que utiliza matrices de estado diagonalizadas para un escaneo paralelo eficiente.
• Métricas de Evaluación: El estudio evalúa el desempeño a través de tres dimensiones:
  1. Escalado Temporal: Precisión vs. longitud del segmento (8s–128s).
  2. Robustez: Desplazamientos de frecuencia zero-shot (probando en señales de 128 Hz y 64 Hz entrenadas a 250 Hz) y generalización de dejar un sujeto fuera (Leave-One-Subject-Out, LOSO).
  3. Comportamiento Fuera de la Distribución (OOD): Generalización de tarea cruzada zero-shot en tareas cognitivas activas no vistas, analizada junto con métricas de calibración (NLL, Brier, ECE).

Resultados Clave

• Escalado de Contexto Temporal: La precisión generalmente mejora con contextos más largos. A los 64 s, S5 alcanzó un 98.7% ± 0.6 de precisión, y la CNN alcanzó un 98.3% ± 0.3. Notablemente, S5 alcanzó este desempeño con aproximadamente 20 veces menos parámetros (0.2M vs. 4.4M) que la CNN.
• Eficiencia: La CNN se mantuvo como la más rápida en tiempo de ejecución (wall-clock time) (9.8 min a 64 s), mientras que S5 y EEGXF tuvieron tiempos de entrenamiento comparables (~25 min). S4 y LSTM resultaron no competitivos; la LSTM falló en la convergencia y S4 fue prohibitivamente lento.
• Robustez de la Frecuencia Cruzada: Surgió un compromiso significativo. La precisión de S5 cayó significamente (>18 puntos porcentuales) cuando se probó en señales submuestreadas (128 Hz/64 Hz), indicando una alta sensibilidad a la resolución temporal. Por el contrario, EEGXF se mantuvo notablemente estable, con una caída de precisión de menos del 2%.
• Generalización de Sujeto (LOSO): En pruebas de dejar un sujeto fuera, S5 demostró una generalización superior (55.9% de precisión media) en comparación con EEGXF (48.4%), aunque ambos puntajes fueron sustancialmente menores que los resultados con sujetos mezclados, resaltando la dificultad de la decodificación entre sujetos.
• OOD y Calibración:
  • S5: Exhibió una "especialización sobreconfiada". Aunque bien calibrado en datos de la misma distribución, clasificó consistentemente tareas OOD no vistas como una clase de película específica con alta confianza (~60%), fallando en expresar incertidumbre.
  • EEGXF: Demostró un "colapso conservador". Identificó correctamente las tareas OOD como desconocidas al recurrir a una clase neutral ("Estado de Reposo") con baja confianza (~26%), indicando una cuantificación de la incertidumbre robusta a pesar de estar menos calibrado en la distribución original.

Contribuciones Clave

1. Benchmarking Sistemático: El artículo proporciona una comparación exhaustiva de arquitecturas CNN, RNN, Transformer y SSM a través de un amplio rango de contextos temporales (8s–128s) para la decodificación de EEG naturalista.
2. Línea Base de Transformer Estabilizado: La introducción de EEGXF, una arquitectura Transformer modificada diseñada para manejar la inestabilidad de los datos de EEG ruidosos, sirve como una línea base robusta para comparaciones futuras.
3. Suite de Generalización: El estudio va más allá de la simple precisión al introducir una suite de pruebas de generalización desafiantes, incluyendo desplazamientos de frecuencia cruzada, generalización independiente de sujetos y evaluación de tarea cruzada zero-shot.
4. Caracterización del Compromiso de Arquitectura: El trabajo caracteriza explícitamente un compromiso práctico entre eficiencia y robustez, identificando a S5 como óptimo para la precisión máxima con eficiencia de parámetros en entornos controlados, y a EEGXF como preferible cuando la robustez y la estimación conservadora de la incertidumbre son críticas.

Significancia y Afirmaciones
El artículo afirma que la interacción entre la arquitectura del modelo y el contexto temporal es un factor crítico en la decodificación de EEG. Demuestra que, si bien S5 ofrece un equilibrio atractivo de alta precisión y eficiencia de parámetros, particularmente en escenarios de sujetos mezclados y contexto largo, carece de robustez ante cambios de frecuencia y exhibe una sobreconfianza peligrosa en datos fuera de la distribución. Por el contrario, EEGXF ofrece mayor estabilidad y una cuantificación de la incertidumbre más segura a costa de la precisión máxima y la eficiencia computacional.

Los autores concluyen que la elección de la arquitectura depende de los requisitos de la aplicación: S5 es ideal para velocidad y precisión en entornos controlados, mientras que EEGXF es preferible para despliegues en el mundo real donde la robustez ante variaciones de la señal y la estimación fiable de la incertidumbre son primordiales. El estudio reconoce su dependencia del conjunto de datos HBN y sugiere validaciones futuras en bancos de datos estándar como Sleep-EDF.