CLAD-Net: Continual Activity Recognition in Multi-Sensor Wearable Systems

O artigo apresenta o CLAD-Net, um framework que combina um transformador auto-supervisionado para memória de longo prazo e uma CNN com distilação de conhecimento para mitigar o esquecimento catastrófico e lidar com a escassez de dados rotulados em sistemas de reconhecimento de atividades contínuas baseados em sensores vestíveis.

O essencial

Imagine que você tem um assistente pessoal muito inteligente, chamado CLAD-Net, cuja função é monitorar a saúde de pessoas usando sensores (como smartwatches) que elas usam no corpo.

O grande problema que os cientistas tentaram resolver com este assistente é o seguinte: a "amnésia catastrófica".

O Problema: O Assistente que Esquece Tudo

Pense em um aluno de escola que estuda muito para a prova de História (o paciente A). Ele tira nota 10. Mas, quando chega a prova de Geografia (o paciente B), ele estuda tanto para a Geografia que, de repente, esquece tudo o que sabia sobre História.

No mundo real, isso acontece com os computadores. Cada pessoa se move de um jeito diferente (uma pessoa idosa anda devagar, uma criança corre, um atleta salta). Quando o sistema aprende a reconhecer os movimentos do "Paciente A" e depois tenta aprender o "Paciente B", ele "esquece" como era o movimento do Paciente A. Isso é ruim para a saúde, pois o médico precisa que o sistema lembre de todos os pacientes ao mesmo tempo.

Além disso, muitas vezes não temos rótulos perfeitos. O paciente pode esquecer de marcar no app: "Agora estou caminhando". O sistema precisa aprender mesmo sem essas anotações.

A Solução: CLAD-Net (O Sistema de Dupla Memória)

Os autores criaram o CLAD-Net inspirados em como o cérebro humano funciona. Eles imaginaram que o cérebro tem dois sistemas de memória trabalhando juntos:

1. A Memória de Longo Prazo (O Transformador Auto-supervisionado):

   • A Analogia: Imagine um bibliotecário sábio que nunca dorme. Ele não se importa em saber quem está lendo o livro ou qual é o nome do livro. Ele apenas observa os padrões gerais: "Ah, quando a mão se move assim e o pé se move assado, é uma caminhada".
   • Como funciona: Este componente usa dados sem rótulos (o que é ótimo, pois não precisamos de anotações perfeitas). Ele olha para os sensores de várias partes do corpo (mão, peito, tornozelo) e usa uma técnica chamada "atenção cruzada" (como se fosse um maestro ouvindo todos os instrumentos da orquestra ao mesmo tempo para entender a música inteira). Ele aprende o "sabor" geral do movimento, independentemente de quem está fazendo.

2. A Memória de Curto Prazo (A CNN Supervisionada):

   • A Analogia: Imagine um professor particular focado em dar a resposta certa agora. Ele olha para os dados rotulados (quando o paciente diz "estou correndo") e tenta classificar a atividade.
   • O Truque: O problema é que esse professor, ao aprender o novo aluno, tende a esquecer o anterior. Para evitar isso, o CLAD-Net usa uma técnica chamada Distilação de Conhecimento.
   • Como funciona: É como se o professor tivesse um "espelho mágico" do antigo professor. Antes de aprender algo novo, ele olha para o espelho e diz: "Espere, o que o 'eu' de ontem faria com este movimento?". Ele é forçado a manter a resposta antiga consistente enquanto aprende a nova. Ele não precisa guardar os dados antigos (o que protege a privacidade), apenas guarda a "memória" de como ele respondia antes.

A Grande Vantagem: Privacidade e Eficiência

Muitos sistemas tentam resolver esse problema guardando fotos ou vídeos antigos dos pacientes para "revisar" antes de aprender o novo. Isso é um pesadelo de privacidade (você não quer que seus dados de saúde fiquem salvos em um banco de dados para sempre).

O CLAD-Net é genial porque não guarda nenhum dado antigo. Ele apenas guarda o "cérebro" atualizado. É como aprender a tocar um novo instrumento sem precisar revisar as partituras antigas, apenas lembrando da técnica musical que você já domina.

O Resultado

Os cientistas testaram isso em três bancos de dados diferentes com dezenas de pessoas. O resultado?

• O CLAD-Net aprendeu novos pacientes sem esquecer os antigos (esquecimento muito baixo).
• Funcionou bem mesmo quando havia poucos rótulos (poucas anotações dos pacientes).
• Foi mais eficiente e privado do que os métodos que tentam guardar dados antigos.

Em resumo: O CLAD-Net é como um assistente de saúde que tem um "cérebro duplo": um que aprende os padrões gerais de movimento olhando para todos os corpos (sem precisar de anotações) e outro que se adapta a cada pessoa nova, mas que sempre consulta seu "eu" do passado para não esquecer o que já aprendeu. Tudo isso sem precisar guardar seus dados pessoais, mantendo sua privacidade segura.

Resumo técnico

Resumo Técnico: CLAD-Net

1. O Problema

O reconhecimento de atividades humanas (HAR) baseado em sensores vestíveis tem avançado significativamente com o deep learning. No entanto, a maioria dos métodos existentes assume uma distribuição de dados estacionária, o que falha em cenários do mundo real, especialmente na saúde.

• Desafio Principal: Em aplicações de monitoramento de saúde, os modelos devem adaptar-se continuamente a novos pacientes (tarefas sequenciais) sem esquecer os padrões aprendidos com pacientes anteriores. Isso é conhecido como aprendizado contínuo (ou continual learning).
• Esquecimento Catastrófico: Quando um modelo é ajustado (fine-tuned) para um novo sujeito, ele tende a degradar drasticamente o desempenho nos sujeitos anteriores devido às variações individuais em padrões de movimento, idade e saúde.
• Escassez de Dados Rotulados: Em estudos com participantes humanos, os rótulos (etiquetas de atividades) são frequentemente esparsos ou inconsistentes, pois dependem da auto-relação dos sujeitos.
• Privacidade: Métodos tradicionais de aprendizado contínuo que usam Replay (armazenar amostras de dados anteriores) violam regulamentações de privacidade de dados de saúde (como HIPAA/GDPR), tornando soluções sem armazenamento de dados (exemplar-free) essenciais.

2. Metodologia: CLAD-Net

Os autores propõem o CLAD-Net (Continual Learning with Attention and Distillation), uma arquitetura de dois componentes inspirada nos Sistemas de Aprendizado Complementares do cérebro humano (memória de curto e longo prazo). O sistema opera no cenário de Domain-Incremental Learning, onde cada nova tarefa corresponde a um novo sujeito.

A arquitetura consiste em:

• A. Memória de Longo Prazo (Transformador Auto-supervisionado):

  • Função: Atua como um repositório de representações gerais e robustas, independente de rótulos ou identidade do sujeito.
  • Mecanismo: Utiliza um Transformador com Mecanismo de Atenção Cruzada (Cross-Attention). O modelo divide os dados dos sensores por partes do corpo (ex: mão, peito, tornozelo) e aplica a atenção cruzada para capturar dependências globais entre diferentes partes do corpo e modalidades de sensores.
  • Treinamento: É treinado de forma auto-supervisionada usando a função de perda BYOL (Bootstrap Your Own Latent). O modelo aprende a ser invariante a aumentações de dados (como ruído ou mascaramento zero) sem precisar de rótulos, criando representações generalizáveis que ajudam a mitigar o esquecimento.

• B. Classificador Supervisionado (CNN com Distilação de Conhecimento):

  • Função: Realiza a classificação final das atividades para o sujeito atual.
  • Mecanismo: É uma Rede Neural Convolucional (CNN) que recebe os dados brutos concatenados com as representações do Transformador.
  • Proteção contra Esquecimento: Utiliza Distilação de Conhecimento (Knowledge Distillation). Ao treinar no novo sujeito, o modelo minimiza a divergência KL (Kullback-Leibler) entre suas previsões e as previsões de uma cópia congelada do modelo treinado no sujeito anterior. Isso força o modelo a manter a consistência nas fronteiras de decisão dos dados antigos, sem precisar reter os dados brutos.

• Fluxo de Trabalho:

  1. Dados de um novo sujeito chegam.
  2. O Transformador atualiza suas representações usando apenas dados não rotulados (ou todos os dados, se disponíveis) via BYOL.
  3. A CNN é ajustada para o novo sujeito, usando a perda de classificação (Cross-Entropy) e a perda de distilação contra o modelo anterior congelado.
  4. O modelo anterior é congelado e substituído pelo atual para a próxima iteração.

3. Contribuições Chave

1. Arquitetura Híbrida Inovadora: Combina aprendizado auto-supervisionado (para extração de características robustas e generalizáveis) com distilação de conhecimento (para estabilidade das fronteiras de decisão), abordando simultaneamente o esquecimento catastrófico e a escassez de rótulos.
2. Abordagem Livre de Replay (Exemplar-Free): O CLAD-Net não armazena nenhum dado de pacientes anteriores, resolvendo problemas críticos de privacidade em ambientes de saúde, ao mesmo tempo em que supera métodos baseados em replay em cenários de poucos rótulos.
3. Uso de Atenção Cruzada Multi-sensor: Demonstra que modelar as interações entre diferentes partes do corpo (via cross-attention) gera representações mais ricas do que modelos que tratam os sensores isoladamente ou usam apenas auto-atenção.
4. Validação Robusta: Avaliação em três conjuntos de dados de referência (PAMAP2, DnSA, RealWorld) com múltiplos sujeitos, demonstrando superioridade sobre baselines de aprendizado contínuo.

4. Resultados Experimentais

O CLAD-Net foi comparado com métodos sem replay (LwF, EWC) e com replay (ER, ER-ACE, DER++).

• Desempenho Geral: O CLAD-Net superou todos os baselines sem replay em precisão final e métricas de esquecimento.
  • PAMAP2: 80,78% de precisão final com 11,05% de esquecimento.
  • DnSA: 81,14% de precisão final com 8,68% de esquecimento.
  • RealWorld: 64,34% de precisão final com 24,34% de esquecimento.
• Comparação com Métodos com Replay: Embora métodos como DER++ tenham precisão ligeiramente superior (devido ao uso de dados brutos antigos), o CLAD-Net oferece um desempenho competitivo sem violar a privacidade, sendo a melhor alternativa exemplar-free.
• Cenários Semi-Supervisionados (Escassez de Rótulos): Em configurações com apenas 10-20% de dados rotulados, o CLAD-Net manteve uma resistência ao esquecimento superior a todos os outros métodos. Isso valida a eficácia do módulo auto-supervisionado (Transformador) que continua aprendendo representações úteis mesmo sem rótulos.
• Estudos de Ablação:
  • Remover o Transformador aumentou drasticamente o esquecimento.
  • Remover a distilação degradou o desempenho geral.
  • O uso de Atenção Cruzada superou a Auto-Atenção, confirmando a importância de capturar relações entre sensores de diferentes partes do corpo.
  • A função de perda BYOL mostrou-se superior a SimCLR e Barlow Twins para esta tarefa.

5. Significado e Impacto

O trabalho é fundamental para a viabilidade de sistemas de monitoramento de saúde baseados em IA em larga escala.

• Viabilidade Clínica: Permite que dispositivos vestíveis aprendam continuamente com novos pacientes em tempo real, adaptando-se a variações individuais sem necessidade de retreinamento massivo ou violação de privacidade.
• Solução para Escassez de Dados: Oferece um caminho prático para implantar HAR em ambientes onde a anotação de dados é difícil ou cara, aproveitando a abundância de dados não rotulados.
• Futuro: O estudo abre caminho para sistemas de aprendizado contínuo mais robustos em IoT de saúde, sugerindo direções futuras para aprendizado incremental de classes e escalabilidade para milhares de usuários.

Em resumo, o CLAD-Net resolve o dilema entre plasticidade (aprender novos pacientes) e estabilidade (não esquecer pacientes antigos) em sistemas de sensores vestíveis, utilizando uma sinergia inteligente entre aprendizado auto-supervisionado e distilação de conhecimento, tudo isso respeitando rigorosamente a privacidade dos dados.