Resumo Técnico: Interpretação de Transformers Fundamentais de EEG com LRP

Declaração do Problema

A adoção de Modelos Fundamentais (FMs) em eletroencefalografia (EEG) oferece uma solução potencial para a escassez de dados em diagnósticos de aprendizado profundo e interfaces cérebro-computador (BCIs). No entanto, a natureza "opaca" desses modelos, particularmente aqueles baseados em arquiteturas Transformer, impede sua adoção mais ampla e a confiança clínica. Embora métodos de atribuição de características, como a Propagação de Relevância por Camadas (LRP), tenham sido aplicados com sucesso a redes neurais convolucionais (CNNs) e perceptrons multicamadas (MLPs) em EEG, sua aplicação a FMs de EEG modernos baseados em Transformer permanece inexplorada. O desafio central é determinar se a LRP pode sondar efetivamente os processos decisórios desses modelos complexos para verificar sua validade ou descobrir estratégias de aprendizado espúrias (por exemplo, efeitos "Clever Hans") sem depender de rótulos de verdade fundamental para cada tarefa.

Metodologia

Os autores propõem a aplicação de LRP consciente de atenção [8] ao modelo LaBraM [2], um Modelo Fundamental de EEG proeminente. A metodologia envolve três componentes principais:

1. Configuração do Modelo: O estudo avalia o LaBraM sob três configurações para isolar efeitos de pré-treinamento:

   • Ajuste Fino (Finetuned): Abordagem padrão onde todo o modelo é adaptado.
   • Congelado (Frozen): A base pré-treinada é congelada, com apenas uma cabeça de classificação treinável.
   • Do Zero (From Scratch): Inicialização aleatória sem pré-treinamento.
     Cada configuração é treinada cinco vezes para contabilizar a variabilidade em dropout, inicialização e amostragem de dados.

2. Atribuição e Visualização:

   • A LRP é aplicada para gerar pontuações de relevância para cada elemento de entrada (passo de tempo e canal) para cada decisão de classificação.
   • Para gerenciar a alta dimensionalidade dos dados de EEG ($n_{canais} \times t_{entrada}$) e o volume de pontuações geradas, os autores empregam uma estratégia de agregação. Eles agregam atribuições ao longo do tempo para analisar padrões espaciais (topografia) e ao longo dos canais para analisar padrões temporais.
   • Visualizações espaciais utilizam coloração de células de Voronoi discretas para preservar a topologia dos eletrodos, evitando a distorção de mapas de calor retangulares.

3. Paradigmas Experimentais:

   • Detecção de Pico-R (Validação): Uma tarefa de classificação binária que prevê artefatos de campo cardíaco (CFA) em EEG bruto. Isso serve como validação de verdade fundamental porque a fonte fisiológica (coração) e a localização esperada do eletrodo (Iz) são conhecidas.
   • PhysioMI L/R (Paradigma Estabelecido): Uma tarefa de imaginação/execução motora (punho esquerdo vs. direito) usando o conjunto de dados PhysioNet. Isso testa a capacidade do modelo de generalizar e revela aprendizado de atalho potencial.
   • AffectiveVR (Exploratório): Um paradigma naturalista que prevê excitação e valência subjetivas durante uma experiência de realidade virtual. Esta tarefa carece de verdade fundamental clara, servindo como campo de testes para geração de hipóteses exploratórias.

Contribuições Principais

O artigo faz três contribuições específicas:

1. Validação da LRP em FMs de EEG: Demonstra, pela primeira vez, que a LRP consciente de atenção produz atribuições plausíveis em Transformers fundamentais de EEG. Isso é validado contra a tarefa de detecção de Pico-R, onde a relevância se concentra corretamente no eletrodo Iz, o local mais próximo do coração.
2. Detecção de Comportamento Espúrio: O método identifica com sucesso o comportamento "Clever Hans" em modelos de imaginação motora. Revela que modelos com generalização pobre dependem fortemente de artefatos oculares (movimento dos olhos) em vez de sinais do córtex motor, provavelmente explorando pistas visuais do desenho experimental.
3. Exploração de Novas Hipóteses: Na ausência de intuição estabelecida para estados afetivos complexos, os autores caracterizam a promessa única e os limites da LRP. Eles identificam um padrão recorrente e biologicamente plausível de relevância de eletrodos centrais (C2, Cz, FC2, CP2) na previsão de excitação, sugerindo uma nova assinatura sensório-motora de excitação distinta da valência.

Resultados

• Desempenho:
  • Detecção de Pico-R: O LaBraM ajustado fino alcançou uma precisão balanceada (BAC) de ~75%, confirmando que o modelo aprende o sinal fisiológico correto.
  • PhysioMI L/R: O desempenho foi misto. Duas de cinco execuções ajustadas finamente alcançaram >70% de BAC, enquanto outras performaram perto de um chute aleatório. Crucialmente, os mapas de atribuição distinguiram esses grupos: execuções bem-sucedidas mostraram padrões temporais-frontais lateralizados, enquanto execuções malsucedidas focaram em regiões oculares.
  • AffectiveVR: Todos os modelos (ajustados finos, do zero, congelados) e a linha de base CSP-LDA performaram de forma similar, com BACs em torno de 55% (ligeiramente acima da linha de base aleatória de 50% para classificação binária com divisão mediana).
• Padrões de Atribuição:
  • Inversão de Sinal: Os padrões foram consistentes na estrutura espacial, mas ocasionalmente invertidos em sinal (coloração reversa), o que não afeta a magnitude da relevância.
  • Imaginação Motora: Modelos bem-sucedidos mostraram padrões lateralizados, mas mesmo estes focaram em eletrodos temporais mais próximos das regiões de movimento ocular do que das regiões motoras da mão, sugerindo uma dependência de movimentos oculares correlacionados à tarefa em vez de assinaturas motoras neurais puras.
  • Excitação vs. Valência: A previsão de excitação destacou consistentemente um cluster de eletrodos centrais (córtex sensório-motor), potencialmente ligado a potenciais de prontidão modulados pelo contexto emocional. Este padrão estava ausente na previsão de valência, apoiando a hipótese de que é uma assinatura específica de excitação e não um artefato geral de decodificação motora.
  • Previsão de Valência: Os padrões foram menos consistentes com a literatura estabelecida e mostraram ambiguidade, destacando a dificuldade de interpretar mapas de calor em domínios de baixa intuição onde artefatos espúrios (por exemplo, EMG de músculos faciais) são difíceis de distinguir de sinais neurais.

Significado e Alegações

O artigo posiciona a LRP como uma ferramenta de duplo propósito para FMs de EEG: verificação e exploração.

• Verificação: A LRP pode validar que os modelos estão aprendendo os sinais fisiológicos pretendidos (como visto na detecção de Pico-R) e expor sobreajuste ou aprendizado de atalho (como visto na dependência ocular de modelos de imaginação motora falhos). Isso é crítico em EEG, onde os sinais não são diretamente interpretáveis e o aprendizado de atalho historicamente invalidou linhas de pesquisa.
• Exploração: Ao traduzir representações aprendidas em hipóteses neurocientíficas, a LRP pode trazer à tona relações novas e biologicamente plausíveis (por exemplo, a assinatura sensório-motora central na excitação). Os autores afirmam que isso move a pesquisa de FMs de EEG além do desempenho preditivo puro em direção à compreensão das relações cérebro-comportamento.

Limitações e Modéstia:
Os autores reconhecem explicitamente três ressalvas:

1. Interpretabilidade: A interpretação de mapas de calor em EEG permanece subjetiva e requer expertise de domínio; estratégias sem sentido são mais difíceis de identificar do que em imagens naturais.
2. Base Metodológica: A escolha da LRP baseia-se em comparações conduzidas em modelos não-Transformer; são necessárias medidas adicionais de fidelidade (por exemplo, AOPC) em FMs de EEG.
3. Capacidade do Modelo: A falta de ganhos de desempenho consistentes sobre modelos "do zero" ou especializados (como CSP-LDA) sugere que os FMs de EEG atuais ainda não aproveitaram totalmente seu "entendimento subjacente" do EEG. Consequentemente, o potencial de descoberta da LRP é atualmente limitado pelas capacidades dos modelos fundamentais subjacentes.

O artigo conclui que, embora a LRP seja uma ferramenta poderosa para a trajetória do desenvolvimento de FMs de EEG, sua utilidade para implantação clínica ou descoberta definitiva é atualmente limitada pela maturidade dos próprios modelos fundamentais.