What Do EEG Foundation Models Capture from Human Brain Signals?

Resumo Técnico: O que os Modelos Fundamentais de EEG Capturam dos Sinais Cerebrais Humanos?

Declaração do Problema
A análise clínica de eletroencefalograma (EEG) historicamente dependeu de um catálogo de características manual refinado ao longo de décadas, abrangendo potência de banda, conectividade, complexidade e outras propriedades do sinal. Recentemente, surgiram modelos fundamentais de EEG, utilizando pré-treinamento auto-supervisionado em sinais brutos para alcançar desempenho de última geração em benchmarks clínicos, frequentemente contornando o pipeline tradicional de engenharia de características. Uma questão aberta crítica permanece: as representações de alta dimensão aprendidas por esses modelos fundamentais alinham-se ao léxico de características clínicas estabelecido, ou divergiram para descobrir novas estruturas de sinal? Compreender esse alinhamento é essencial para validar as decisões do modelo contra o conhecimento humano e identificar lacunas onde novos descritores clínicos podem ser necessários.

Metodologia
Os autores propõem um framework de auditoria em três partes para decompor a questão do alinhamento em: (1) O que o modelo aprende? (Codificação), (2) O que o modelo usa? (Dependência causal) e (3) Quanto pode ser explicado? (Recuperação de desempenho). Esta auditoria é aplicada em três modelos fundamentais (CSBrain, CBraMod, LaBraM), cinco tarefas clínicas (MDD, Stress, ISRUC-Sleep, TUSL, Siena) e um léxico de 63 características manuais agrupadas em seis famílias (morfologia no domínio do tempo, potência/forma espectral, envelope tempo-frequência, complexidade do sinal, acoplamento cruzado de frequências e relações cruzadas entre canais).

A metodologia emprega três técnicas distintas de interpretabilidade para cada tripla (conjunto de dados, modelo, característica):

1. Sondagem Ridge por Camadas: Para determinar a codificação, sondas de regressão ridge linear preveem cada característica manual a partir das ativações do modelo em cada camada. Uma característica é considerada "codificada" se uma sonda alcançar poder preditivo significativo ($R^2$) em um conjunto de validação retido, identificando a camada específica onde a informação reside.
2. Erasura de Subespaço de Covariância Cruzada Estilo LEACE: Para determinar o uso causal, os autores intervêm nas ativações do modelo. Na camada de pico de codificação, eles removem o componente linearmente decodificável de uma característica-alvo do vetor de ativação usando uma erasura de subespaço de covariância cruzada (uma aproximação escalável do operador LEACE). A queda resultante no desempenho da tarefa em um conjunto de teste retido indica dependência causal. Isso é rigorosamente controlado contra três alvos nulos (subespaço aleatório, emparelhamento embaralhado, ruído gaussiano) e uma sonda residual linear para descartar efeitos espúrios.
3. Fechamento de Classificador Transparente: Para medir a explicabilidade, um classificador de regressão logística é treinado exclusivamente no conjunto de características confirmadas como "causais de representação". Seu desempenho é comparado ao do modelo fundamental e a uma linha de base de características aleatórias de mesma dimensão. A "razão de fechamento" quantifica a fração da vantagem do modelo fundamental sobre a linha de base aleatória que é recuperada pelas características manuais.

Principais Contribuições

• Framework de Auditoria Causal: O artigo introduz um pipeline rigoroso que distingue entre características que um modelo codifica (tem em sua representação) e características que ele usa causalmente para tomada de decisão, abordando a limitação de métodos de interpretabilidade baseados em correlação.
• Auditoria Lexical Abrangente: O estudo audita 945 unidades (3 modelos $\times$ 5 tarefas $\times$ 63 características), fornecendo o primeiro mapa causal em grande escala de como os modelos fundamentais se relacionam com o cânone de características de EEG clínico.
• Taxonomia de Características: Os autores categorizam as características em candidatos universais (forte suporte em arquiteturas/tarefas), específicas de tarefa, específicas de modelo e apenas codificadas, oferecendo uma visão estruturada da dependência do modelo.

Resultados

• Codificação: Os modelos fundamentais recuperam amplamente o léxico clínico. 89,6% (847/945) das unidades passam no critério de codificação, com todas as 63 características codificadas em pelo menos uma célula (modelo, tarefa). Características no domínio da frequência são codificadas com alta força em todas as células.
• Uso Causal: 68,6% (648/945) das unidades são "causais de representação", significando que o modelo depende delas para decisões de tarefa. 21,1% são codificadas, mas não usadas causalmente. Através das tarefas, 50 características qualificam-se como candidatos universais com forte suporte em duas ou mais tarefas. Embora características no domínio da frequência dominem, as famílias tempo-frequência, cruzada entre canais, complexidade, domínio do tempo e cruzada de frequências contribuem cada uma com massa causal substancial em pelo menos quatro das cinco tarefas.
• Recuperação de Desempenho (Fechamento): As características confirmadas recuperam, em média, 79,3% da vantagem do modelo fundamental sobre uma linha de base de características aleatórias. Existe um gradiente claro de tarefa: tarefas próximas ao teto de desempenho (por exemplo, MDD, fechamento $\approx$ 0,99) são quase totalmente explicadas pelo léxico, enquanto tarefas mais difíceis (por exemplo, Stress, fechamento $\approx$ 0,56) deixam um residual não trivial.
• Residuais: A lacuna de desempenho não explicada em tarefas difíceis sugere a existência de estruturas de sinal não capturadas pelo léxico atual de 63 características ou combinações não lineares não capturadas pelo substituto linear.

Significado
O artigo afirma que os modelos fundamentais de EEG, apesar de serem treinados sem viés indutivo em direção a características manuais, recuperam o catálogo de características clínicas em escala. No entanto, a distinção entre codificação e uso é crítica; os modelos codificam muitas características, mas dependem causalmente de um subconjunto específico. As descobertas sugerem que, para tarefas próximas ao teto de desempenho, os descritores clínicos existentes são em grande parte suficientes para explicar o comportamento do modelo. Por outro lado, o desempenho residual em tarefas mais difíceis aponta alvos concretos para futura descoberta de conceitos, indicando que o catálogo atual de descritores de EEG está incompleto. Este trabalho estabelece um ciclo de feedback entre representações de modelos e conhecimento humano, fornecendo um método para validar descritores clínicos existentes e identificar onde novos são necessários para neurociência impulsionada por IA.