Resumen Técnico: CWA-T (Un Autoencoder de Canal por Canal con Transformer para la Detección de Anomalías en EEG)

1. Planteamiento del Problema

Las señales de electroencefalograma (EEG) son esenciales para diagnosticar trastornos cerebrales como la epilepsia, el Alzheimer y la enfermedad de Parkinson. Sin embargo, el análisis de estas señales presenta desafíos significativos debido a su alta dimensionalidad, complejidad y susceptibilidad al ruido. Los enfoques de aprendizaje profundo existentes enfrentan un compromiso:

• Métodos dependientes del preprocesamiento (p. ej., transformadas de wavelet) reducen el ruido pero requieren una ingeniería de características compleja y manual.
• Modelos de Aprendizaje Profundo (DL) de extremo a extremo (p. ej., CNN, RNN) aprenden directamente de los datos brutos pero a menudo luchan con las dependencias temporales de largo plazo o carecen de interpretabilidad.
• Los modelos basados en Transformers sobresalen en la captura de dependencias de largo alcance, pero son computacionalmente costosos y a menudo funcionan como "cajas negras", lo que limita su utilidad en entornos clínicos que requieren soluciones ligeras e interpretables.

El artículo aborda la necesidad de un marco que equilibre la eficiencia computacional, la interpretabilidad y el alto rendimiento en la detección de señales de EEG anormales, específicamente para registros de larga duración.

2. Metodología

El marco propuesto, CWA-T, integra un autoencoder basado en CNN de canal por canal con un clasificador de un solo cabezal (single-head transformer). La arquitectura opera en dos etapas principales:

A. Autoencoder de Canal por Canal (Extracción de Características y Compresión)

La primera etapa comprime las señales de EEG brutas ($x \in \mathbb{R}^{C \times T}$) en una representación latente compacta ($z \in \mathbb{R}^{C \times D}$, donde $D \ll T$).

• Independencia de Canales: A diferencia de las convoluciones estándar que mezclan la información de los canales, CWA-T emplea convoluciones agrupadas (donde el número de grupos es igual al número de canales, $C$). Esto asegura que cada canal de EEG se procese de forma independiente, preservando la estructura espacial natural de los datos y evitando dependencias entre canales.
• Eficiencia: Este diseño reduce significativamente los costos computacionales. El artículo señala que la convolución por canal reduce el costo de la convolución estándar por un factor de $1/C$.
• Normalización: El autoencoder utiliza Normalización de Capa (Layer Normalization) en lugar de Normalización de Lote (Batch Normalization). Esta elección es crítica para mantener la independencia de los canales, ya que BatchNorm normalizaría a través de la dimensión del lote e inadvertidamente mezclaría las estadísticas entre canales.

B. Clasificador de Un Solo Cabezal (Single-Head Transformer Classifier)

Las representaciones latentes comprimidas se introducen en un clasificador ligero.

• Atención de un Solo Cabezal: Para mantener la eficiencia, el modelo reemplaza el mecanismo estándar de atención de múltiples cabezales por una variante de un solo cabezal. Esto reduce drásticamente el recuento de parámetros (de $3 \cdot d \cdot D_{orig} \cdot d_k$ en múltiples cabezales a $3 \cdot d \cdot d_k$ en un solo cabezal) mientras mantiene la capacidad de modelar dependencias temporales de largo plazo.
• Arquitectura: El clasificador consiste en un mecanismo de autoatención de un solo cabezal seguido de una red de alimentación hacia adelante (feed-forward) por posición, con conexiones residuales y normalización de capa para ayudar a la convergencia.

C. Preprocesamiento de Datos

El marco procesa los datos de EEG brutos con un preprocesamiento mínimo:

1. Submuestreo (Downsampling): Remuestreado a 100 Hz.
2. Segmentación: Dividido en segmentos no superpuestos de 2 minutos.
3. Normalización z (z-Normalization): Las amplitudes se normalizan para mitigar la variabilidad debida a la colocación de los electrodos o la fisiología.
   No se aplican transformaciones complejas en el dominio de la frecuencia (p. ej., FFT, Wavelets) antes de la entrada.

3. Contribuciones Clave

1. Arquitectura Novedosa: La integración de un autoencoder de canal por canal con un clasificador de un solo cabezal diseñado específicamente para la detección de anomalías en EEG.
2. Preservación de la Independencia de Canales: Al tratar los canales de EEG de forma independiente en el autoencoder, el modelo se alinea con la estructura biológica de las señales de EEG, mejorando la interpretabilidad para la investigación en neurociencia.
3. Eficiencia Computacional: El marco logra un equilibrio entre el alto rendimiento de los transformers y el bajo costo de las CNN. Evita la pesada carga computacional de los transformers estándar al comprimir los datos antes de la clasificación.
4. Capacidad de Extremo a Extremo (End-to-End): El modelo procesa señales de EEG brutas de larga duración directamente, eliminando la necesidad de procesos de preprocesamiento complejos y diseñados manualmente.

4. Resultados Experimentales

El modelo fue evaluado en el Corpus de EEG Anormal TUH (v3.0.1), que comprende 2,993 grabaciones divididas en conjuntos de entrenamiento y evaluación.

Métricas de Rendimiento

Evaluado a nivel de caso (usando votación por mayoría a través de las señales para un solo sujeto), CWA-T logró:

• Precisión (Accuracy): 85.0%
• Sensibilidad (Sensitivity): 76.2%
• Especificidad (Specificity): 91.2%

Estos resultados superaron a los modelos de referencia (baselines) incluyendo EEGNet, EEG-ARNN, Deep4Conv y FusionCNN. Notablemente, mientras que EEGNet mostró una alta sensibilidad (100%) a nivel de caso, tuvo un 0% de especificidad, lo que indica un sesgo severo. CWA-T mantuvo un mejor equilibrio entre sensibilidad y especificidad.

Eficiencia Computacional

• FLOPs: 202M
• Parámetros: 2.9M
• Comparación: CWA-T es significativamente más eficiente que un transformer de un solo cabezal independiente (que requiere 11.9G FLOPs y 1.3G parámetros para la misma entrada) y es competitivo o más eficiente que otras líneas base basadas en CNN como FusionCNN (4.5G FLOPs).

Estudios de Ablación

• Transformer vs. MLP: El clasificador de un solo cabezal superó a los Perceptrones Multicapa (MLP) tanto en las evaluaciones por señal como por caso.
• Normalización: Se validó que el uso de LayerNorm es esencial para preservar la independencia de los canales en comparación con BatchNorm.

5. Significado y Reivindicaciones

El artículo afirma que CWA-T ofrece una solución práctica e interpretable para la detección de anomalías en EEG, particularmente para grabaciones de larga duración.

• Interpretabilidad: El diseño por canal permite al modelo retener características biológicamente significativas. Los autores demuestran esto mostrando que las salidas del autoencoder pueden detectar patrones patológicos específicos, como la actividad beta anormal (13–30 Hz) y las deficiencias en la actividad alfa (8–13 Hz), que se alinean con marcadores clínicos conocidos.
• Utilidad Clínica: Al reducir los costos computacionales manteniendo una alta precisión, el marco se posiciona como una herramienta viable para entornos con recursos limitados y escenarios de monitoreo continuo.
• Potencial Futuro: Los autores sugieren que el marco sienta las bases para futuras investigaciones sobre la conectividad funcional del cerebro mediante el análisis de las matrices de similitud generadas por el mecanismo de autoatención, aunque esto se propone como trabajo futuro y no como un resultado actual.

En resumen, CWA-T aborda los problemas de la "caja negra" y el costo computacional de los modelos transformer en el análisis de EEG mediante la introducción de una etapa de compresión que preserva los canales, logrando un equilibrio robusto entre eficiencia, interpretabilidad y rendimiento diagnóstico.