MedMamba: Recasting Mamba for Medical Time Series Classification

Resumo Técnico: MedMamba: Recasting Mamba para Classificação de Séries Temporais Médicas

Declaração do Problema
Dados de séries temporais médicas, como eletrocardiogramas (ECG) e eletroencefalogramas (EEG), apresentam desafios únicos para análise automatizada devido às suas dinâmicas temporais complexas e dependências estruturadas entre canais. Abordagens convencionais enfrentam limitações significativas: Redes Neurais Convolucionais (CNNs) e Redes Neurais Recorrentes (RNNs) lutam para capturar dependências de longo alcance, enquanto modelos baseados em Transformer incorrem em complexidade computacional quadrática e frequentemente introduzem interações redundantes que não se alinham com a estrutura intrínseca de sinais fisiológicos. Além disso, Modelos de Espaço de Estados (SSMs) existentes, como o Mamba, tratam majoritariamente sinais médicos como sequências genéricas, falhando em incorporar explicitamente propriedades estruturais específicas do domínio, como centralização espacial e dependências contextuais não causais.

Metodologia: MedMamba
Os autores propõem o MedMamba, uma arquitetura de espaço de estados bidirecional multi-escala orientada por princípios, adaptada especificamente para classificação de séries temporais médicas. O design fundamenta-se em três vieses indutivos derivados das propriedades estruturais de sinais fisiológicos:

1. Centralização Espacial: Informações diagnosticamente relevantes estão frequentemente concentradas em um subconjunto de canais, enquanto outros são redundantes ou ruidosos.
   • Implementação: Um módulo de mistura de canais leve (um MLP de duas camadas com conexões residuais) realiza reparametrização entre canais antes da modelagem temporal. Isso atua como um filtro espacial adaptativo que suprime variações indesejadas e concentra informações relevantes para a tarefa em um subespaço de dimensão inferior.
2. Composição Temporal Multi-Escala: Evidências clínicas existem em distintas escalas temporais, variando de eventos de curta duração (por exemplo, complexos QRS, picos epilépticos) a ritmos mais lentos (por exemplo, transições de estágios de sono).
   • Implementação: A tokenização convolucional multi-escala emprega hastes convolucionais paralelas com diferentes strides (por exemplo, 5, 10, 25). Isso decompõe o sinal em múltiplas resoluções temporais, mitigando o descompasso entre a escala do token e a duração do evento.
3. Dependência Contextual Não Causal: Muitos padrões clínicos dependem tanto do contexto passado quanto do futuro (por exemplo, formas de onda simétricas), tornando codificadores estritamente causais subótimos para classificação offline.
   • Implementação: Blocos Mamba bidirecionais utilizam varredura seletiva nas direções forward e backward. Isso permite que o modelo acesse vizinhanças temporais completas de forma eficiente com complexidade linear, servindo como um operador de suavização em vez de um filtro puramente causal.

O pipeline geral envolve modelagem robusta de entrada (via dropout de canais), reparametrização espacial, tokenização multi-taxa, processamento de espaço de estados bidirecional e agregação de evidências multi-escala via pooling por atenção.

Principais Contribuições

1. Caracterização Estrutural: O artigo caracteriza séries temporais médicas como possuindo dependência espacial centralizada, composição temporal multi-escala e contexto não causal, argumentando que essas propriedades devem ser refletidas explicitamente na arquitetura do modelo.
2. Arquitetura Novel: O MedMamba é apresentado como a primeira arquitetura de espaço de estados orientada por princípios que integra mistura de canais, modelagem multi-escala e inferência bidirecional especificamente para séries temporais médicas.
3. Eficiência: O modelo alcança modelagem eficiente de sequências longas com complexidade computacional linear, evitando a sobrecarga quadrática dos Transformers.
4. Validação Empírica: Os autores demonstram ganhos consistentes de desempenho em diversas modalidades (EEG, ECG e atividade humana) em seis conjuntos de dados de referência.

Resultados Experimentais
Extensos experimentos foram conduzidos em seis conjuntos de dados: PTB, PTB-XL, ADFTD, APAVA, UCI-HAR e SleepEDF. A avaliação seguiu uma divisão independente de sujeitos para simular generalização do mundo real.

• Desempenho: O MedMamba superou consistentemente métodos state-of-the-art (incluindo Medformer, iTransformer e várias variantes de Transformer) em todos os conjuntos de dados.
  • No PTB (ECG), alcançou 85,97% de acurácia, superando a melhor linha de base (Medformer) em 2,47%.
  • No desafiador conjunto de dados ADFTD (EEG), estabeleceu novo desempenho state-of-the-art com 54,72% de acurácia e 52,01% de F1-score.
  • No SleepEDF, alcançou a maior AUROC (96,05%), validando sua capacidade de modelar dependências de longo alcance.
• Eficiência: O MedMamba demonstrou um aceleramento de 4,6× na inferência em comparação com linhas de base baseadas em Transformer (por exemplo, Medformer), enquanto utiliza significativamente menos parâmetros (5,7M vs. 30,0M).
• Estudos de Ablação: A remoção de qualquer um dos três componentes principais (tokenização multi-escala, varredura bidirecional ou mistura de canais) resultou em degradação de desempenho, confirmando sua necessidade complementar. Especificamente, a mistura de canais mostrou-se capaz de reduzir a redundância intra-classe entre canais e aumentar a discriminabilidade inter-classe.
• Visualização: Visualizações t-SNE indicaram que o MedMamba produz embeddings de características mais discriminativos e bem separados em comparação ao Medformer.

Significado e Afirmações
O artigo afirma que o MedMamba oferece uma alternativa eficaz e escalável às abordagens baseadas em Transformer para análise de séries temporais médicas. Ao alinhar os vieses indutivos do modelo com a estrutura intrínseca de sinais fisiológicos (centralização, dinâmicas multi-escala e não causalidade), a arquitetura alcança superioridade em acurácia e eficiência. Os autores afirmam que esse paradigma de design orientado por princípios é crucial para desempenho clínico robusto e destaca a praticidade do modelo para implantação em tempo real em cenários como monitoramento contínuo em unidades de terapia intensiva e em dispositivos vestíveis. O trabalho sugere que futuros modelos de séries temporais médicas devem ir além de tratar sinais como sequências genéricas e, em vez disso, incorporar priores estruturais específicos do domínio.