Reducing the Complexity of Deep Learning Models for EEG Analysis on Wearable Devices

Resumo Técnico: Reduzindo a Complexidade de Modelos de Deep Learning para Análise de EEG em Dispositivos Vestíveis

Definição do Problema
Dispositivos de saúde vestíveis (wearables) representam um setor em rápido crescimento da Internet das Coisas (IoT), oferecendo monitoramento contínuo de sinais vitais como ECG e EEG. Embora as Redes Neurais Profundas (DNNs) tenham se tornado a abordagem primordial para analisar sinais biológicos complexos, como o EEG, para tarefas como a detecção de crises epilépticas, sua implementação em dispositivos vestíveis é severamente dificultada pelas restrições de recursos. Os sistemas vestíveis normalmente dependem de processadores miniaturizados e baterias pequenas, carecendo do poder computacional, capacidade energética e largura de banda de memória necessários para executar DNNs de última geração em tempo real. Embora o descarregamento de dados (offloading) para a nuvem seja uma solução paliativa comum, isso introduz problemas relativos ao consumo de energia, privacidade de dados, segurança e à necessidade de conectividade constante. Consequentemente, há uma necessidade crítica de adaptar as DNNs para o "processamento de borda" (edge processing) dentro do próprio dispositivo vestível, equilibrando alta precisão com extrema eficiência computacional.

Metodologia
Este estudo investiga a viabilidade de implementar modelos de DNN de última geração para análise de EEG em dispositivos vestíveis com recursos limitados. A pesquisa foca na detecção de crises epilépticas utilizando o conjunto de dados TUSZ, que contém 20 canais de EEG bipolares reamostrados a 200 Hz e segmentados em janelas de 4 segundos. A metodologia envolve uma abordagem de três frentes para a redução de complexidade:

1. Seleção de Modelo: Os autores avaliaram diversas arquiteturas, incluindo ResNet18, ChronoNet, 2D-CNN-LSTM, ResNet-GRU, ResNet-BiLSTM e ResNet-LSTM. A arquitetura ResNet-LSTM foi selecionada como a linha de base devido ao seu desempenho superior no equilíbrio entre precisão e velocidade de execução. Este modelo utiliza uma CNN baseada em ResNet no front-end para extração de características espaciais e um LSTM no back-end para aprendizado de dependências temporais.
2. Quantização de Parâmetros: O estudo explorou a redução da largura de bits dos parâmetros e ativações do modelo para diminuir a pegada de memória e acelerar a inferência.
   • Quantização Pós-Treinamento (PTQ): Os autores compararam a Quantização Estática (PTSQ) e a Quantização Dinâmica (PTDQ). Eles descobriram que a quantização uniforme de 8 bits em toda a rede causou uma degradação significativa na precisão. Por meio de experimentação granular, determinaram que o componente CNN é altamente sensível à redução da largura de bits, enquanto o LSTM é mais robusto. Uma configuração ideal foi identificada utilizando precisão de 13 bits para a CNN e 8 bits para o LSTM.
   • Binarização (LQ-Net): O estudo aplicou adiçõesmente o método de ponta LQ-Net, que utiliza binarização multinível não uniforme para reduzir os parâmetros para 4 bits.
3. Redução de Eletrodos: Reconhecendo que configurações clínicas de EEG utilizam frequentemente mais de 20 eletrodos, o que é impraticável para dispositivos vestíveis, os autores investigaram o impacto da redução do número de canais de entrada. Eles testaram várias combinações de eletrodos, priorizando aqueles mais sensíveis a sinais epilépticos, para determinar o conjunto mínimo necessário para manter a precisão diagnóstica.

Principais Resultados
A aplicação destas técnicas de redução de complexidade gerou melhorias significativas na eficiência com impacto mínimo no desempenho:

• Configuração Ótima: O modelo ResNet-LSTM alcançou a maior precisão de linha de base (90,40% de AUROC) entre as arquiteturas testadas.
• Impacto da Quantização:
  • Utilizando uma abordagem de precisão híbrida (CNN de 13 bits, LSTM de 8 bits), o tamanho do modelo foi reduzido de 15,75 MB para 6,4 MB (uma redução de 59%). O tempo de execução melhorou em 3,4× em comparação com a linha de base de 32 bits.
  • A aplicação da binarização LQ-Net (4 bits) reduziu ainda mais o tamanho do modelo para 2,3 MB e aumentou a velocidade de execução em 4,1×, embora isso tenha acarretado uma queda de 5% no AUROC (de ~90,33% para 86,12%).
• Redução de Eletrodos: Reduzir a entrada de 20 canais (19 eletrodos) para 8 canais (10 eletrodos) resultou em um AUROC de 89,23%, uma diminuição negligível em relação à configuração completa. Esta configuração mantém alta precisão enquanto reduz significativamente o volume de dados e a complexidade do hardware.
• Otimização Combinada: Ao combinar a entrada de 8 canais, dados de entrada de 16 bits, pesos da CNN de 13 bits e pesos de LSTM/FC de 8 bits, o modelo otimizado final alcançou:
  • Uma redução de 61% no tamanho da rede.
  • Uma redução de 80% no tamanho de entrada da rede.
  • Uma aceleração de 70% no tempo de inferência da rede.
  • Uma diminuição no AUROC de menos de 1% e uma diminuição de 2,1% na Taxa de Falsos Positivos (FPR).

Significância e Alegações
O artigo afirma que estes achados demonstram os trade-offs explícitos entre precisão e redução de complexidade ao adaptar DNNs para análise de EEG online em dispositivos vestíveis. Os autores asseveram que sua abordagem prova a viabilidade de implantar modelos de deep learning sofisticados em dispositivos de borda sem depender de offloading para a nuvem. Ao identificar uma configuração de rede ideal e aplicar quantização e redução de eletrodos criteriosas, o estudo mostra que é possível alcançar uma redução de 3× no tamanho do modelo e uma redução de 5× no tempo de execução com menos de 1% de perda de precisão.

A significância deste trabalho reside na sua contribuição prática para a Internet das Coisas Médicas (IoMT). Ele fornece um caminho para a criação de dispositivos vestíveis leves, portáteis e energeticamente eficientes, capazes de monitoramento neurológico contínuo e em tempo real. Este avanço é crucial para melhorar a autonomia, privacidade e responsividade de serviços de saúde automatizados, particularmente para pacientes de alto risco que necessitam de vigilância constante de crises fora de ambientes clínicos. O artigo declara explicitamente que não propõe novas arquiteturas de DNN, mas sim avalia métodos existentes sob restrições específicas de redução de complexidade para orientar a futura integração de hardware e software na tecnologia de saúde vestível.