Explainability of Recurrent Neural Networks for Enhancing P300-based Brain-Computer Interfaces

Resumen Técnico: Explicabilidad de las Redes Neuronales Recurrentes para la Mejora de Interfaces Cerebro-Computadora Basadas en P300

Planteamiento del Problema
Las Interfaces Cerebro-Computadora (ICC) que utilizan potenciales relacionados con eventos (ERP) P300 ofrecen un potencial significativo para tecnologías de asistencia, pero enfrentan desafíos en su despliegue práctico. Estos desafíos incluyen las inherentemente bajas relaciones señal-ruido en las grabaciones de EEG, la variabilidad significativa inter e intra-sujeto, y la naturaleza de "caja negra" de los modelos de Aprendizaje Profundo (DL). Si bien los modelos de DL, particularmente las Redes Neuronales Recurrentes (RNN), han mejorado la precisión de clasificación, su falta de transparencia obstaculiza la confianza y la capacidad de adaptarse a las diferencias individuales de los usuarios. Además, las RNN estándar a menudo dependen exclusivamente del estado oculto final para la predicción, descartando potencialmente información temporal intermedia valiosa contenida dentro de los datos de EEG secuenciales.

Metodología
Los autores proponen una arquitectura RNN mejorada que incorpora un Módulo Post-Recurrente (PRM) para mejorar tanto el rendimiento como la interpretabilidad para la clasificación P300.

• Conjunto de datos y preprocesamiento: El estudio utiliza el conjunto de datos de Hoffmann et al., que contiene señales de EEG de ocho sujetos grabadas mediante 32 electrodos (sistema 10-20) a 2048 Hz. Las señales se filtran paso banda (1–12 Hz) y se submuestrean a 32 Hz. Los datos se segmentan en ventanas de 1000 ms (32 pasos de tiempo) comenzando desde el inicio del estímulo, capturando la ventana de respuesta P300 (típicamente 250–600 ms).
• Arquitectura base: El modelo central es una RNN Elman. En cada paso de tiempo $t$, la red procesa un vector de entrada de 32 dimensiones (uno por electrodo) combinado con el estado oculto anterior ($h_{t-1}$) para generar el estado actual ($h_t$).
• Módulo Post-Recurrente (PRM): A diferencia de las RNN estándar que generan una predicción basada únicamente en el último paso de tiempo ($t=32$), el PRM procesa la concatenación de las salidas de los 32 pasos de tiempo ($y_{[1:32]}$). Una capa de regresión logística aprende a ponderar y combinar estas contribuciones temporales para producir la probabilidad final de clasificación.
• Técnicas de explicabilidad:
  • Análisis espacial: La relevancia global ($R_i$) de cada electrodo se calcula sumando los valores absolutos de los pesos de entrada a oculto ($W_{xh}$). Se aplica regularización $L_1$ para fomentar la dispersión, destacando los electrodos más críticos.
  • Análisis temporal: Se analizan los pesos del PRM ($w_p$) para identificar qué pasos de tiempo contribuyen más a la decisión.
  • Análisis espacio-temporal: Se utiliza un método de atribución local basado en gradientes para calcular la relevancia de electrodos específicos en pasos de tiempo específicos ($R_{it}^{(k)} = x_{it}^{(k)} \frac{\partial p^{(k)}}{\partial x_{it}^{(k)}}$). Esto visualiza el flujo de información a través de la red.
• Estrategia de entrenamiento: Se realiza una validación cruzada de 4 pliegues (3 sesiones para entrenamiento, 1 para prueba). El modelo utiliza un optimizador Nadam con una tasa de aprendizaje de 0.0003 y un tamaño de lote de 16. Para abordar el desequilibrio de clases (1 objetivo vs. 5 no objetivos), se aplican pesos de clase y se emplea regularización $L_1$ ($\lambda=0.1$ para pesos de entrada, $\lambda=0.01$ para pesos del PRM) para mejorar la interpretabilidad.

Contribuciones Clave

1. Innovación arquitectónica: La integración de la capa PRM permite que el modelo utilice explícitamente la información temporal de toda la secuencia en lugar de depender exclusivamente del estado oculto final comprimido.
2. Marco de doble explicabilidad: El artículo presenta una metodología que identifica simultáneamente regiones cerebrales críticas (espacial) e intervalos de tiempo críticos (temporal) utilizando análisis de pesos y atribución basada en gradientes.
3. Alineación neurofisiológica: El análisis de explicabilidad valida que el proceso de toma de decisiones del modelo se alinea con la neurociencia establecida, identificando específicamente el componente P300 y las regiones corticales relevantes.

Resultados

• Rendimiento: La RNN Elman con la capa PRM logró una Precisión Balanceada (BAC) de 0.80 ± 0.05. Esto representa una mejora del 9% sobre la RNN Elman estándar (0.71 ± 0.06) y el modelo base BLDA (0.71 ± 0.05).
• Hallazgos temporales: El análisis de los pesos del PRM reveló que el modelo identifica dos regiones activas principales:
  • 375–500 ms (12–16 pasos de tiempo): Corresponde al componente clásico P300/P3b.
  • 750–900 ms (24–29 pasos de tiempo): Una región secundaria potencialmente asociada con el procesamiento visual de etapas tardías (N750/N900) o artefactos por superposición de ventanas, lo que sugiere que el modelo captura dinámicas cognitivas más amplias que los detectores estándar.
• Hallazgos espaciales: El modelo identificó electrodos críticos variables entre sujetos, demostrando una variabilidad inter-sujeto significativa. Para algunos usuarios, los electrodos frontales ($Fp1, Fp2$) fueron los más relevantes; para otros, las regiones occipitales ($O1, O2$) y parietales ($Pz$) predominaron. Esto confirma que la topografía P300 no es uniforme entre individuos.
• Validación espacio-temporal: El análisis basado en gradientes confirmó que el modelo depende de electrodos específicos (por ejemplo, $Fp1, Fp2$) durante los primeros 20 pasos de tiempo (~625 ms) para la clasificación de objetivos, con relevancia positiva (rojo) indicando patrones de apoyo y relevancia negativa (azul) indicando patrones que conducen a una clasificación errónea.

Significado y Afirmaciones
El artículo afirma que la explicabilidad no es meramente un añadido, sino un componente esencial para comprender la toma de decisiones de las RNN en las ICC. Al hacer transparente el modelo, los autores demuestran que:

1. Fiabilidad: Las decisiones del modelo se basan en patrones neurofisiológicos plausibles consistentes con la literatura establecida, en lugar de artefactos arbitrarios.
2. Eficiencia: La identificación de electrodos clave y ventanas de tiempo permite la posible reducción de costos computacionales y el desarrollo de sistemas ICC embebidos eficientes y de bajo costo.
3. Adaptabilidad: El marco destaca la necesidad de tener en cuenta la variabilidad inter e intra-sujeto, allanando el camino para sistemas más adaptables que puedan mantener la robustez en condiciones dinámicas.
4. Generalización: Aunque se centra en P300, los autores sugieren que este marco explicable podría generalizarse a otras tareas basadas en EEG, como la imaginación motora, los VEOE (SSVEPs) y la evaluación de la carga cognitiva.

El estudio concluye que el enfoque propuesto ofrece un método conceptualmente simple pero altamente efectivo para mejorar la detección P300, cerrando la brecha entre el aprendizaje profundo de alto rendimiento y la interpretabilidad requerida para aplicaciones reales en el ámbito de la salud y la asistencia.