Learning Generalizable Action Representations via Pre-training AEMG

Resumo Técnico: Aprendizado de Representações de Ação Generalizáveis via Pré-treinamento AEMG

1. Declaração do Problema

A Eletromiografia (EMG) é uma fonte de sinal crítica para interfaces humano-computador mioelétricas, controle de próteses e decodificação de intenção motora. No entanto, o campo enfrenta um gargalo fundamental: baixa generalização entre diferentes sujeitos, dispositivos e tarefas. Os modelos atuais de aprendizado profundo são frequentemente especializados para conjuntos de dados específicos, falhando em adaptar-se a novos usuários ou configurações de hardware devido a:

• Heterogeneidade de Dados: Variações significativas em tipos de eletrodos, contagens de canais, layouts topológicos e taxas de amostragem entre conjuntos de dados públicos.
• Não Estacionariedade do Sinal: A variabilidade intrínseca dos sinais de EMG entre indivíduos e sessões limita o desempenho em cenários cruzados entre sujeitos e sessões.
• Falta de um Framework Unificado: Abordagens existentes dependem de janelas deslizantes de tamanho fixo e arquiteturas específicas para tarefas, carecendo de um paradigma unificado e auto-supervisionado para aprender representações generalizáveis a partir de dados massivos, não rotulados e heterogêneos.

Consequentemente, os modelos frequentemente alcançam alta precisão intra-sujeito (>95%), mas sofrem quedas drásticas de desempenho (muitas vezes <50%) em cenários de validação cruzada estrita de "Deixar-Um-Sujeito-De-Lado" (LOSO).

2. Metodologia: O Framework AEMG

Os autores propõem o AEMG (Any Electromyography), o primeiro framework de aprendizado de representação auto-supervisionado em larga escala para EMG. O framework trata sinais de EMG como uma "linguagem fisiológica", utilizando uma arquitetura baseada em Transformer para aprender uma gramática universal de ativação muscular. O pipeline consiste em cinco componentes-chave:

A. Pré-processamento Unificado de Dados
Para abordar a heterogeneidade de hardware, os autores agregam oito conjuntos de dados públicos diversos de EMG (mais de 500 horas-persona) em um espaço de entrada padronizado. Isso envolve normalizar contagens variáveis de canais e topologias de sensores para permitir o pré-treinamento entre dispositivos.

B. Tokenizador de Contração Neural (NCT)
Afastando-se da segmentação tradicional por janelas fixas, o AEMG introduz um paradigma linguístico:

• Tokenização: Sinais brutos são segmentados com base em limiares de energia para detectar eventos discretos de contração muscular. Esses eventos são tratados como "palavras semânticas".
• Normalização: Cada segmento passa por normalização z-score para mitigar a variabilidade inter-sujeito e inter-canal.
• Construção de Frase: Uma sequência desses tokens forma uma "frase de EMG", representando um padrão de ativação temporal coerente.

C. Backbone Neuro-Sintaxe Transformer (NST)
O NST é projetado para capturar dependências espaço-temporais e sinergias musculares:

• Embedding: Tokens brutos são projetados em um espaço semântico latente via convolução 1D.
• Enriquecimento Contextual: Tokens são enriquecidos com embeddings estruturais que codificam a fonte anatômica (layout do eletrodo), fase de ativação e ordem cronológica.
• Auto-Atenção: Um codificador Transformer processa essas sequências enriquecidas para modelar correlações neuromusculares de longo alcance.

D. Construção de Código Neural (Quantização Vetorial)
Para criar um vocabulário universal, o framework emprega Quantização Vetorial (VQ):

• Estados ocultos contínuos são discretizados em um código compartilhado de ativações musculares canônicas (um "vocabulário neural").
• Isso força o modelo a mapear sinais de entrada diversos para arquétipos fisiológicos compartilhados, permitindo a extração de representações cruzadas entre sujeitos.
• O treinamento envolve uma perda de reconstrução, uma perda de aprendizado de vocabulário e uma perda de comprometimento do codificador.

E. Modelagem Mascarada Cruzada por Patch
O objetivo de pré-treinamento envolve mascarar um subconjunto de tokens de contração muscular dentro de uma frase de EMG e prever os tokens coletivos nas posições mascaradas com base no contexto não mascarado. Isso incentiva o modelo a aprender a "gramática" subjacente das sinergias musculares e da sintaxe do movimento.

3. Principais Contribuições

1. Espaço de Representação Unificado: O primeiro pipeline rigoroso para projetar conjuntos de dados de EMG altamente heterogêneos (canais variáveis, topologias e taxas de amostragem) em um espaço de entrada padronizado para pré-treinamento em larga escala.
2. Paradigma Linguístico para Intenção Motora: Uma abordagem inovadora que conceitualiza explosões musculares assíncronas como "palavras" e coordenação multicanal como "frases". Isso resolve problemas de não estacionariedade e vincula morfologias de superfície à sintaxe de gestos complexos.
3. Framework AEMG: Um framework auto-supervisionado consciente de sinergias que discretiza primitivas neuromusculares dinâmicas em um código compacto e modela dependências espaço-temporais via reconstrução mascarada, alcançando um modelo fundamental universalmente aplicável com um único treinamento.

4. Resultados Experimentais

O framework foi avaliado usando um paradigma de Validação Cruzada de Deixar-Um-Sujeito-De-Lado (LOSO-CV), o teste mais rigoroso para generalização entre sujeitos.

• Generalização Zero-Shot: O AEMG-Large superou seis baselines de última geração (incluindo MDD, CDEM e VADA) em quatro conjuntos de dados de benchmark de classificação de gestos.
  • Melhorou a precisão LOSO zero-shot em 5,79% a 9,25% sobre as melhores baselines.
  • Em média, o AEMG-Large alcançou 89,81% de precisão, aproximando-se ou superando as baselines intra-sujeito em certos conjuntos de dados.
• Adaptação Few-Shot: Com apenas 5% dos dados de um novo usuário-alvo para ajuste fino, o AEMG-Large alcançou mais de 90% do desempenho do ajuste fino com dados completos, demonstrando adaptabilidade rápida.
• Estudos de Ablação:
  • Remover o vocabulário de EMG (VQ) causou uma queda catastrófica de desempenho (~25-28%), provando a necessidade de discretizar sinais em um código fisiológico compartilhado.
  • Remover o pré-treinamento mascarado resultou em uma queda de ~10%, confirmando que aprender a "gramática" do movimento (sinergias) é distinto e complementar a aprender morfologia.
  • Comparar NCT (baseado em energia) com segmentação tradicional por janelas fixas mostrou que, embora janelas fixas yieldssem maior precisão de previsão de máscara no pré-treinamento (devido ao ruído previsível), o NCT produziu precisão significativamente maior em tarefas subsequentes (+9,13% em média), confirmando que modelar eventos fisiológicos reais é superior a modelar ruído estático.

5. Significado e Alegações

O artigo afirma estabelecer as bases para um modelo fundamental de EMG universalmente aplicável com um único treinamento. Ao reconceitualizar o EMG como uma linguagem fisiológica entre dispositivos, o trabalho desloca o campo da construção de incontáveis modelos isolados e personalizados (que exigem extensa calibração do usuário) em direção a modelos fundamentais eficientes em dados e rapidamente implantáveis.

Os autores afirmam que sua abordagem conecta com sucesso a lacuna entre hardware heterogêneo e sujeitos diversos, aprendendo uma "linguagem mioelétrica universal" que transcende diferenças individuais. Isso representa uma mudança de paradigma da modelagem individualizada para o pré-treinamento de propósito geral, potencialmente permitindo interação humano-computador intuitiva e controle avançado de próteses com dados específicos do usuário mínimos.