Resumo Técnico: Um Modelo de Fundação para Dados de Movimento de Wearables em Pesquisa de Saúde Mental

Declaração do Problema

Dados de movimento de wearables, especificamente a actigrafia ao nível de minuto coletada por smartwatches e rastreadores de fitness, oferecem um recurso rico e longitudinal para a pesquisa em saúde mental. Eles capturam tendências comportamentais detalhadas, como a fragmentação circadiana e o lentificamento psicomotor. No entanto, o desenvolvimento de modelos de fundação para esta modalidade está atrasado em relação à análise clínica de imagens e texto. As abordagens analíticas existentes enfrentam limitações significativas:

• Métodos clássicos dependem de características manuais (handcrafted features) e detectores baseados em regras, que são específicos para tarefas e sensíveis a variações de coorte e de dispositivo.
• Abordagens de aprendizado profundo (CNNs e RNNs) frequentemente lutam com janelas temporais longas; as CNNs possuem campos receptivos limitados, enquanto os modelos recorrentes enfrentam a degradação do gradiente em sequências longas.
• Modelos de fundação atuais para wearables são frequentemente proprietários, treinados em segmentos temporais curtos (segundos a minutos) em vez de padrões de vários dias, ou focados no reconhecimento geral de atividade em vez de desfechos psiquiátricos e de sono.
• Há uma carência de modelos de código aberto e generalizáveis capazes de modelar dependências de uma semana inteira com resolução ao nível de minuto para prever desfechos de saúde mental.

Metodologia

Conjunto de Dados e Pré-processamento

O estudo utilizou dados do National Health and Nutrition Examination Survey (NHANES), uma coorte nacionalmente representativa dos EUA.

• Pré-treinamento: Dados de 21.538 participantes dos ciclos de pesquisa 2003–2004, 2005–2006 e 2011–2012. Isso incluiu acelerômetros uniaxiais montados no quadril e triaxiais usados no pulso. Para garantir a comparabilidade, os dados triaxiais foram somados para corresponder aos contagens uniaxiais, e os dados foram padronizados usando z-scores por tipo de dispositivo para mitigar discrepâncias de amplitude.
• Ajuste Fino (Fine-tuning): Dados de 7.769 participantes do ciclo 2013–2014 foram utilizados para tarefas supervisionadas de jusante (downstream).
• Entrada: Sequências de actigrafia ao nível de minuto abrangendo 7 dias (10.080 passos temporais).

Arquitetura do Modelo: Pretrained Actigraphy Transformer (PAT)

Os autores projetaram uma arquitetura baseada em Transformer especificamente para actigrafia de sequência longa:

1. Embeddings de Patch (Patch Embeddings): Para lidar com a complexidade quadrática de processar mais de 10.000 passos temporais, a sequência de entrada é dividida em patches não sobrepostos (ex: patches de 10 minutos). Cada patch é mapeado para uma dimensão fixa via uma projeção linear treinável ou convolução 1D.
2. Embeddings Posicionais: Embeddings posicionais de seno-cosseno fixos são adicionados para codificar a ordem temporal.
3. Codificador Transformer: Uma pilha de blocos de transformer (autoatenção de múltiplas cabeças, normalização de camada, redes feed-forward) processa os embeddings de patch.
4. Pré-treinamento de Autoencoder Mascarado (MAE):
   • Estratégia: Uma abordagem de autoencoder assimétrico onde uma alta proporção de patches (90%) é aleatoriamente mascarada e removida antes do codificador.
   • Codificador: Processa apenas os patches não mascarados.
   • Decodificador: Um decodificador leve recebe a saída do codificador junto com tokens de máscara para reconstruir o sinal de actigrafia padronizado original.
   • Perda (Loss): Erro Quadrático Médio (MSE) calculado entre os dados reconstruídos e os originais em todos os patches.
5. Ajuste Fino (Fine-tuning): A camada de embedding de patch e o codificador pré-treinado são extraídos. Uma camada de classificação feed-forward específica para a tarefa com ativação sigmoide é adicionada para tarefas de classificação binária.

Desenho Experimental

• Tarefas: Cinco tarefas de classificação binária foram definidas: Uso de Benzodiazepínicos, Uso de ISRS (SSRI), Depressão (PHQ-9 ≥10), Histórico de distúrbios do sono e Detecção de anormalidades do sono.
• Baselines: Comparações incluíram 1D CNN, LSTM, ConvLSTM, classificadores baseados em Wavelet e um "ScratchTransformer" (arquitetura idêntica ao PAT, mas treinada a partir de inicialização aleatória sem pré-treinamento).
• Avaliação: O desempenho foi medido pela Área Sob a Curva ROC (AUC), média entre tamanhos de conjuntos de treinamento de 500, 1.000, 2.500 e o conjunto total disponível para avaliar a robustez em regimes de baixos dados.

Principais Contribuições

1. Modelo de Fundação de Código Aberto: O PAT é o primeiro modelo de fundação de código aberto para dados de movimento de wearables que combina a modelagem temporal de semana inteira (nível de minuto) com avaliação explícita em desfechos de saúde mental. Ele libera pesos pré-treinados, código e pipelines de treinamento.
2. Modelagem Temporal de Longo Alcance: Ao contrário dos modelos existentes que operam em segmentos curtos (segundos a minutos), o PAT modela sequências de 10.080 minutos (uma semana), capturando estruturas circadianas e padrões comportamentais de múltiplos dias.
3. Generalizabilidade: O modelo demonstra desempenho consistente em cinco tarefas clínicas diversas (uso de medicação, depressão, sono) e mostra desempenho superior em regimes de poucos dados (n ≤ 1.000).
4. Interpretabilidade: O modelo fornece mapas de atenção integrados, destacando períodos temporais específicos (ex: transições de atividade matinal) que impulsionam as previsões, oferecendo transparência sem a necessidade de ferramentas de explicação post-hoc.

Resultados

Métricas de Desempenho

• Predição de Benzodiazepínicos: O PAT-L (a maior variante) alcançou uma AUC média de 0,767. Isso representou uma melhoria de 55,6% sobre o baseline LSTM (0,493), uma melhoria de 21,4% sobre a 1D CNN (0,632) e uma melhoria de 14,8% sobre a ConvLSTM (0,668).
• Robustez em Baixos Dados: O PAT superou consistentemente todos os baselines, incluindo o ScratchTransformer, em todos os tamanhos de conjunto de treinamento. Isso indica que o pré-treinamento auto-supervisionado aprendeu representações generalizáveis que se transferem bem mesmo com dados rotulados limitados.
• Desempenho Multitarefa: O PAT superou os baselines em uso de ISRS, detecção de anormalidade do sono e classificação de depressão. Para histórico de distúrbio do sono, o PAT teve desempenho comparável a outros modelos, mas não mostrou associação independente após ajuste de covariáveis (veja abaixo).

Insights de Hiperparâmetros

• Razão de Mascaramento: Uma razão de mascaramento de 90% rendeu o melhor desempenho de jusante (AUC 0,773), incentivando o codificador a aprender dependências contextuais mais amplas.
• Suavização (Smoothing): Modelos treinados em sinais de actigrafia brutos superaram os treinados em dados suavizados (AUC 0,773 vs. 0,741), sugerindo que informações temporais finas são críticas.
• Função de Perda: Calcular o MSE em todos os patches (reconstruídos e originais) superou significativamente o cálculo da perda apenas nos patches mascarados.

Achados de Interpretabilidade

Mapas de calor de atenção revelaram que o PAT foca em transições comportamentais específicas em vez de ruído aleatório.

• Usuários de Benzodiazepínicos: Alta atenção foi atribuída à inatividade prolongada no início da manhã e horários de despertar tardios.
• Não Usuários: Alta atenção foi atribuída à atividade física consistente e nítida no início da manhã.
• Nível Populacional: Os padrões de atenção exibiram forte periodicidade de 24 horas, com picos concentrados em torno de transições de vigília e atividade matinal, confirmando que o modelo aprende ritmos diários recorrentes.

Análise de Confundidores

A regressão logística multivariada mostrou que as previsões do PAT estavam independentemente associadas ao uso de benzodiazepínicos, uso de ISRS, depressão e anormalidades do sono após o ajuste para idade, sexo, IMC e gravidade da depressão. No entanto, para histórico de distúrbio do sono, a associação não foi significativa após o ajuste, sugerindo que o modelo pode estar prevendo fatores de risco subjacentes (ex: IMC, depressão) em vez da condição diagnosticada em si, ou que condições tratadas atenuam o sinal de actigrafia.

Significância e Alegações

Os autores posicionam o PAT como uma solução prática e escalável para avançar os insights clínicos a partir de dados de sensores vestíveis.

• Acessibilidade: Ao ser de código aberto e capaz de rodar em GPUs de consumo (ex: NVIDIA T4), o PAT reduz a barreira de entrada para pesquisadores com recursos computacionais limitados.
• Escalabilidade: O modelo foi projetado para ser adaptável a comprimentos de entrada variáveis e diferentes dispositivos, tornando-o adequado para diversos ambientes de pesquisa.
• Utilidade Clínica: A capacidade do modelo de prever o uso de medicamentos e condições psiquiátricas a partir de dados de movimento passivo oferece um método não invasivo para estratificação de risco e monitoramento de tratamento.
• Modéstia: Os autores reconhecem limitações, observando que os rótulos são derivados de autorrelatos em vez de diagnósticos clínicos padrão-ouro, o que pode introduzir ruído. Eles também alertam que a actigrafia sozinha fornece apenas um sinal parcial para a psicopatologia complexa e deve ser vista como uma ferramenta complementar em modelos multimodais, e não como um instrumento diagnóstico autônomo. Além disso, a natureza transversal dos dados impede a inferência causal.

Em conclusão, o PAT representa um passo em direção à fenotipagem digital generalizável, eficiente em dados e interpretável para a saúde comportamental, preenchendo a lacuna entre a coleta de dados de wearables em larga escala e a modelagem clinicamente relevante de saúde mental.