Resumo Técnico: STAMP: Adaptador Espaço-Temporal com Pooling Multi-Cabeça

Declaração do Problema

Modelos de base para séries temporais (TSFMs), pré-treinados em domínios diversos, demonstraram alto desempenho em várias tarefas de modelagem. Concurrentemente, modelos de base específicos para dados de eletroencefalografia (EEGFMs) foram desenvolvidos para capturar as características espaço-temporais únicas da atividade elétrica cerebral. No entanto, uma análise comparativa entre TSFMs gerais e modelos de base específicos para EEG em tarefas de EEG não foi realizada. Além disso, embora EEGFMs frequentemente incorporem arquiteturas complexas para modelar dependências espaciais e temporais, TSFMs gerais tipicamente tratam entradas como séries temporais univariadas, tornando-os naturalmente ineficazes para tarefas de EEG, onde as relações espaciais entre canais e a evolução temporal são críticas. A aplicação ingênua de TSFMs a dados de EEG (por exemplo, usando pooling de média simples) produz desempenho próximo ao aleatório.

Metodologia

Os autores introduzem o STAMP (Adaptador Espaço-Temporal com Pooling Multi-Cabeça), um adaptador leve e flexível projetado para ser colocado sobre TSFMs de propósito geral para habilitar a modelagem eficaz de EEG. O STAMP aproveita os embeddings univariados produzidos por um TSFM congelado e modela implicitamente as características espaço-temporais dos dados de EEG por meio de três componentes principais:

1. Codificações Posicionais (PEs): Para abordar a falta de contexto espacial e temporal nos embeddings padrão de TSFM, o STAMP adiciona embeddings posicionais aprendíveis. Estes incluem embeddings posicionais por token ($p_{ij}$), embeddings por espaço ($s_i$) e embeddings por tempo ($t_j$). O embedding modificado é calculado como $\tilde{e}_{ij} = e'_{ij} + p_{ij} + s_i + t_j$, onde $e'_{ij}$ é o embedding de TSFM com redução de dimensionalidade. Estudos de ablação indicam que o uso de todos os três tipos de codificações produz o melhor desempenho.

2. MLP com Portas em Cruz (CC-GMLP): Para capturar relações na grade espaço-temporal, o STAMP emprega uma arquitetura inovadora de CC-GMLP inspirada no Transformer em Cruz (CC-TF) e em MLPs com Portas (GMLP). Este módulo separa a modelagem de relações espaciais e temporais. Ele processa a grade de entrada $\tilde{E}$ através de uma série de blocos onde as unidades de porta temporal ($g_T$) e espacial ($g_S$) operam independentemente ao longo de seus respectivos eixos antes da concatenação. Isso permite o aprendizado eficiente de parâmetros de relações entre canais independentemente da evolução temporal específica do sinal.

3. Pooling de Atenção Multi-Cabeça (MHAP): Para agregar os embeddings de tokens mistos para uma previsão final, o STAMP utiliza MHAP. Este mecanismo aprende a ponderar a importância de cada token em relação à tarefa final. Ele projeta tokens em espaços de dimensão inferior, calcula pontuações de atenção contra vetores de consulta e agrega os resultados. Uma etapa final de agregação entre consultas determina a importância geral de cada cabeça, produzindo um vetor de resumo. Isso é combinado com uma conexão residual à média dos embeddings de tokens mistos antes de uma projeção linear final.

O adaptador é treinado sobre um TSFM congelado (principalmente MOMENT Large, mas também testado com MOMENT Small/Base, Chronos e TSPulse). O número total de parâmetros treináveis no STAMP é de aproximadamente 750.000, uma fração dos milhões de parâmetros encontrados em EEGFMs típicos.

Principais Contribuições

• Primeira Análise Comparativa: O artigo fornece a primeira análise comparativa de modelos de base específicos para EEG versus TSFMs gerais em tarefas específicas de EEG.
• Arquitetura de Adaptador Inovadora: A introdução do STAMP, que adapta com sucesso embeddings de TSFM univariados para dados de EEG multivariados espaço-temporais sem exigir que o TSFM seja re-treinado em dados de EEG.
• Eficiência: O STAMP alcança desempenho comparável aos EEGFMs mais avançados (como CBraMod e LaBraM) enquanto utiliza significativamente menos parâmetros treináveis (aprox. 0,74M vs. 29M para CBraMod e 5,8M para LaBraM).
• Avaliação Abrangente: O método é avaliado em 8 conjuntos de dados de EEG de referência cobrindo diversas tarefas clínicas, incluindo imaginação motora, aritmética mental, reconhecimento de emoção e classificação de eventos.

Resultados

• Desempenho vs. Baselines: O STAMP produz desempenho semelhante ou superior aos EEGFMs (CBraMod, LaBraM) e supera estritamente modelos de EEG não baseados em fundação (EEG Conformer, ST-Transformer) na maioria dos conjuntos de dados.
• Estudos de Ablação:
  • Codificação Posicional: A inclusão de todos os três tipos de codificação posicional (token, espacial, temporal) melhorou consistentemente o desempenho, com a exclusão de PEs resultando nos piores resultados.
  • Mistura de Tokens: A arquitetura CC-GMLP superou tanto o GMLP básico quanto estratégias de mistura baseadas em Transformer (B-TF, CC-TF) em todos os conjuntos de dados.
  • Agregação de Tokens: Embora MHAP e pooling de média tenham desempenhado de forma semelhante na maioria dos conjuntos de dados, o MHAP forneceu um aumento significativo de desempenho no conjunto de dados BCIC-IV-2a, sugerindo sua utilidade na captura de relações complexas entre tokens.
• Compatibilidade com TSFM: O STAMP performou bem com embeddings de vários TSFMs (MOMENT, Chronos, TSPulse), mesmo aqueles não pré-treinados em dados de EEG (Chronos, TSPulse), demonstrando a generalização do adaptador.
• Limitações: O STAMP mostrou desempenho inferior em comparação com outros métodos em conjuntos de dados de reconhecimento de emoção (SEED-V e FACED). Os autores hipotetizam que os TSFMs atuais podem não extrair características relevantes para o reconhecimento de emoção de alta granularidade, já que o desempenho não melhorou significativamente mesmo ao mudar para embeddings do Chronos.

Significado e Alegações

O artigo afirma que o STAMP demonstra que modelos de base de séries temporais de propósito geral podem ser efetivamente adaptados para tarefas de EEG com parâmetros adicionais treináveis mínimos. Os autores argumentam que, embora os TSFMs possam parecer ter desempenho inferior em comparação com EEGFMs "prontos para uso", relativamente poucas adaptações — especificamente a adição de codificações posicionais e uma estratégia de mistura de tokens — são suficientes para alcançar resultados competitivos.

O significado reside no potencial de reduzir o custo e o tempo de desenvolvimento de soluções de EEG ao aproveitar TSFMs pré-treinados em larga escala existentes, em vez de treinar modelos de base massivos e específicos de domínio do zero. Os autores observam que, embora a geração de embeddings iniciais exija recursos computacionais, isso pode ser feito antecipadamente e em paralelo. Eles concluem que o STAMP oferece um caminho flexível e eficiente em parâmetros para modelar dados de EEG, embora reconheçam que mais exploração é necessária para tarefas onde os TSFMs atuais lutam, como o reconhecimento de emoção de alta granularidade.