What Do EEG Foundation Models Capture from Human Brain Signals?

Resumen Técnico: ¿Qué Capturan los Modelos Fundacionales de EEG de las Señales Cerebrales Humanas?

Enunciado del Problema
El análisis clínico del electroencefalograma (EEG) ha dependido históricamente de un catálogo de características diseñado manualmente, refinado durante décadas, que abarca la potencia de banda, la conectividad, la complejidad y otras propiedades de la señal. Recientemente, han surgido modelos fundacionales de EEG que utilizan el preentrenamiento auto-supervisado sobre señales crudas para lograr un rendimiento de vanguardia en benchmarks clínicos, a menudo eludiendo la tubería tradicional de ingeniería de características. Persiste una pregunta abierta crítica: ¿coinciden las representaciones de alta dimensión aprendidas por estos modelos fundacionales con el léxico establecido de características clínicas, o se han desviado para descubrir nuevas estructuras de señal? Comprender esta alineación es esencial para validar las decisiones del modelo frente al conocimiento humano e identificar brechas donde podrían ser necesarios nuevos descriptores clínicos.

Metodología
Los autores proponen un marco de auditoría de tres partes para descomponer la pregunta de alineación en: (1) ¿Qué aprende el modelo? (Codificación), (2) ¿Qué utiliza el modelo? (Dependencia causal) y (3) ¿Cuánto puede explicarse? (Recuperación del rendimiento). Esta auditoría se aplica a través de tres modelos fundacionales (CSBrain, CBraMod, LaBraM), cinco tareas clínicas (MDD, Estrés, ISRUC-Sueño, TUSL, Siena) y un léxico de 63 características diseñadas manualmente agrupadas en seis familias (morfología en el dominio del tiempo, potencia/forma espectral, envolvente tiempo-frecuencia, complejidad de la señal, acoplamiento cruzado de frecuencias y relaciones entre canales).

La metodología emplea tres técnicas distintas de interpretabilidad para cada tripleta (conjunto de datos, modelo, característica):

1. Sondeo Ridge por Capas: Para determinar la codificación, sondas de regresión ridge lineal predicen cada característica diseñada manualmente a partir de las activaciones del modelo en cada capa. Una característica se considera "codificada" si una sonda logra un poder predictivo significativo ($R^2$) en un conjunto de validación retenido, identificando la capa específica donde reside la información.
2. Borrado de Subespacio de Covarianza Cruzada Estilo LEACE: Para determinar el uso causal, los autores intervienen en las activaciones del modelo. En la capa pico de codificación, eliminan el componente linealmente decodificable de una característica objetivo del vector de activación utilizando un borrado de subespacio de covarianza cruzada (una aproximación escalable del operador LEACE). La caída resultante en el rendimiento de la tarea en un conjunto de prueba retenido indica dependencia causal. Esto se controla rigurosamente frente a tres objetivos nulos (subespacio aleatorio, emparejamiento aleatorizado, ruido gaussiano) y una sonda residual lineal para descartar efectos espurios.
3. Cierre de Clasificador Transparente: Para medir la explicabilidad, se entrena un clasificador de regresión logística únicamente con el conjunto de características confirmadas como "causales de representación". Su rendimiento se compara contra el modelo fundacional y una línea base de características aleatorias de la misma dimensión. La "tasa de cierre" cuantifica la fracción de la ventaja del modelo fundacional sobre la línea base aleatoria que es recuperada por las características diseñadas manualmente.

Contribuciones Clave

• Marco de Auditoría Causal: El artículo introduce una tubería rigurosa que distingue entre las características que un modelo codifica (tiene en su representación) y las características que usa causalmente para la toma de decisiones, abordando la limitación de los métodos de interpretabilidad basados en correlación.
• Auditoría Lexical Exhaustiva: El estudio audita 945 unidades (3 modelos $\times$ 5 tareas $\times$ 63 características), proporcionando el primer mapa causal a gran escala de cómo los modelos fundacionales se relacionan con el canon de características clínicas de EEG.
• Taxonomía de Características: Los autores categorizan las características en candidatos universales (fuerte apoyo en arquitecturas/tareas), específicas de la tarea, específicas del modelo y solo codificadas, ofreciendo una visión estructurada de la dependencia del modelo.

Resultados

• Codificación: Los modelos fundacionales recuperan ampliamente el léxico clínico. El 89,6% (847/945) de las unidades superan el criterio de codificación, con las 63 características codificadas en al menos una celda (modelo, tarea). Las características del dominio de la frecuencia se codifican con alta intensidad en todas las celdas.
• Uso Causal: El 68,6% (648/945) de las unidades son "causales de representación", lo que significa que el modelo depende de ellas para las decisiones de la tarea. El 21,1% están codificadas pero no se usan causalmente. A través de las tareas, 50 características califican como candidatos universales con fuerte apoyo en dos o más tareas. Si bien las características del dominio de la frecuencia dominan, las familias de tiempo-frecuencia, entre canales, complejidad, dominio del tiempo y acoplamiento cruzado de frecuencias contribuyen cada una con una masa causal sustancial en al menos cuatro de las cinco tareas.
• Recuperación del Rendimiento (Cierre): Las características confirmadas recuperan, en promedio, el 79,3% de la ventaja del modelo fundacional sobre una línea base de características aleatorias. Existe un gradiente claro de tareas: las tareas cercanas al techo de rendimiento (por ejemplo, MDD, cierre $\approx$ 0,99) están casi completamente explicadas por el léxico, mientras que las tareas más difíciles (por ejemplo, Estrés, cierre $\approx$ 0,56) dejan un residual no trivial.
• Residuos: La brecha de rendimiento no explicada en tareas difíciles sugiere la existencia de estructuras de señal no capturadas por el léxico actual de 63 características o combinaciones no lineales no capturadas por el sustituto lineal.

Significado
El artículo afirma que los modelos fundacionales de EEG, a pesar de ser entrenados sin un sesgo inductivo hacia características diseñadas manualmente, recuperan el catálogo de características clínicas a gran escala. Sin embargo, la distinción entre codificación y uso es crítica; los modelos codifican muchas características pero dependen causalmente de un subconjunto específico. Los hallazgos sugieren que, para tareas cercanas al techo de rendimiento, los descriptores clínicos existentes son en gran medida suficientes para explicar el comportamiento del modelo. Por el contrario, el rendimiento residual en tareas más difíciles señala objetivos concretos para el descubrimiento futuro de conceptos, indicando que el catálogo actual de descriptores de EEG es incompleto. Este trabajo establece un bucle de retroalimentación entre las representaciones del modelo y el conocimiento humano, proporcionando un método para validar los descriptores clínicos existentes e identificar dónde se necesitan nuevos para la neurociencia impulsada por la IA.