Resumen Técnico: Un Modelo Fundacional para Datos de Movimiento de Wearables en la Investigación de la Salud Mental

Planteamiento del Problema

Los datos de movimiento de los dispositivos vestibles (wearables), específicamente la actigrafía a nivel de minuto recolectada mediante relojes inteligentes y rastreadores de actividad, ofrecen un recurso rico y longitudinal para la investigación de la salud mental. Capturan tendencias conductuales finas como la fragmentación circadiana y el enlentecimiento psicomotor. Sin embargo, el desarrollo de modelos fundacionales para esta modalidad está rezagado respecto al análisis clínico de imágenes y texto. Los enfoques analíticos existentes enfrentan limitaciones significativas:

• Los métodos clásicos dependen de características diseñadas manualmente y detectores basados en reglas, los cuales son específicos para cada tarea y sensibles a las variaciones de la cohorte y del dispositivo.
• Los enfoques de aprendizaje profundo (CNN y RNN) suelen tener dificultades con ventanas temporales largas; las CNN tienen campos receptivos limitados, mientras que los modelos recurrentes enfrentan la degradación del gradiente en secuencias largas.
• Los modelos fundacionales actuales para wearables suelen ser propietarios, entrenados en segmentos temporales cortos (segundos a minutos) en lugar de patrones de varios días, o están enfocados en el reconocimiento general de actividad en lugar de resultados psiquiátricos y del sueño.
• Existe una falta de modelos de código abierto y generalizables capaces de modelar dependencias de una semana completa con resolución a nivel de minuto para predecir resultados de salud mental.

Metodología

Conjunto de Datos y Preprocesamiento

El estudio utilizó datos del National Health and Nutrition Examination Survey (NHANES), una cohorte representativa a nivel nacional de EE. UU.

• Preentrenamiento: Datos de 21,538 participantes de los ciclos de encuestas 2003–2004, 2005–2006 y 2011–2012. Esto incluyó acelerómetros uniaxiales montados en la cadera y triaxiales usados en la muñeca. Para asegurar la comparabilidad, los datos triaxiales se sumaron para igualar los conteos uniaxiales, y los datos se estandarizaron usando puntuaciones z por tipo de dispositivo para mitigar las discrepancias de amplitud.
• Ajuste fino (Fine-tuning): Se utilizaron datos de 7,769 participantes del ciclo 2013–2014 para tareas supervisadas de seguimiento.
• Entrada: Secuencias de actigrafía a nivel de minuto que abarcan 7 días (10,080 pasos de tiempo).

Arquitectura del Modelo: Pretrained Actigraphy Transformer (PAT)

Los autores diseñaron una arquitectura basada en Transformers específicamente para actigrafía de secuencia larga:

1. Embeddings de Parches (Patch Embeddings): Para manejar la complejidad cuadrática de procesar más de 10,000 pasos de tiempo, la secuencia de entrada se divide en parches no superpuestos (por ejemplo, parches de 10 minutos). Cada parche se mapea a una dimensión fija mediante una proyección lineal entrenable o una convolución 1D.
2. Embeddings Posicionales: Se añaden embeddings posicionales de seno-coseno fijos para codificar el orden temporal.
3. Codificador Transformer: Una pila de bloques de transformer (atención de múltiples cabezales, normalización de capa, redes de alimentación hacia adelante) procesa los embeddings de los parches.
4. Preentrenamiento de Autoencoder con Máscara (MAE):
   • Estrategia: Un enfoque de autoencoder asimétrico donde una alta proporción de parches (90%) es enmascarada y eliminada aleatoriamente antes del codificador.
   • Codificador: Procesa solo los parches no enmascarados.
   • Decodificador: Un decodificador ligero recibe la salida del codificador junto con los tokens de máscara para reconstruir la señal de actigrafía estandarizada original.
   • Pérdida: Error Cuadrático Medio (MSE) calculado entre los datos reconstruidos y los originales en todos los parches.
5. Ajuste Fino: La capa de embedding de parches y el codificador preentrenado se extraen. Se añade una capa de clasificación de alimentación hacia adelante específica para la tarea con activación sigmoide para tareas de clasificación binaria.

Diseño Experimental

• Tareas: Se definieron cinco tareas de clasificación binaria: Uso de benzodiacepinas, uso de ISRS (SSRI), Depresión (PHQ-9 ≥10), Historia de trastornos del sueño y Detección de anomalías del sueño.
• Líneas Base (Baselines): Comparaciones con 1D CNN, LSTM, ConvLSTM, clasificadores basados en Wavelets y un "ScratchTransformer" (arquitectura idéntica a PAT pero entrenada desde una inicialización aleatoria sin preentrenamiento).
• Evaluación: El rendimiento se midió mediante el Área Bajo la Curva Característica de Operación del Receptor (AUC), promediada a través de tamaños de conjunto de entrenamiento de 500, 1,000, 2,500 y el conjunto completo disponible para evaluar la robustez en regímenes de bajos datos.

Contribuciones Clave

1. Modelo Fundacional de Código Abierto: PAT es el primer modelo fundacional de código abierto para datos de movimiento de wearables que combina el modelado temporal de una semana completa a nivel de minuto con una evaluación explícita en resultados de salud mental. Libera pesos preentrenados, código y flujos de entrenamiento.
2. Modelado Temporal de Largo Alcance: A diferencia de los modelos existentes que operan en segmentos cortos (segundos a minutos), PAT modela secuencias de 10,080 minutos (una semana), capturando estructuras circadianas y patrones conductuales de múltiples días.
3. Generalizabilidad: El modelo demuestra un rendimiento consistente en cinco tareas clínicas diversas (uso de medicación, depresión, sueño) y muestra un rendimiento superior en regímenes de pocos datos (n ≤ 1,000).
4. Interpretabilidad: El modelo proporciona mapas de atención integrados, resaltando periodos temporales específicos (por ejemplo, transiciones de actividad matutina) que impulsan las predicciones, ofreciendo transparencia sin requerir herramientas de explicación post-hoc.

Resultados

Métricas de Rendimiento

• Predicción de Benzodiacepinas: PAT-L (la variante más grande) logró un AUC promedio de 0.767. Esto representó una mejora del 55.6% sobre la línea base de LSTM (0.493), una mejora del 21.4% sobre la 1D CNN (0.632) y una mejora del 14.8% sobre la ConvLSTM (0.668).
• Robustez en Datos Bajos: PAT superó consistentemente a todas las líneas base, incluyendo el ScratchTransformer, en todos los tamaños de conjunto de entrenamiento. Esto indica que el preentrenamiento autosupervisado aprendió representaciones generalizables que se transfieren bien incluso con datos etiquetados limitados.
• Rendimiento Multitarea: PAT superó a las líneas base en el uso de ISRS, detección de anomalías del sueño y clasificación de la depresión. Para la historia de trastornos del sueño, PAT se desempeñó de manera comparable a otros modelos, pero no mostró una asociación independiente tras ajustar por covariables (ver abajo).

Perspectivas de Hiperparámetros

• Ratio de Máscara: Un ratio de máscara del 90% produjo el mejor rendimiento en tareas posteriores (AUC 0.773), incentivando al codificador a aprender dependencias contextuales más amplias.
• Suavizado: Los modelos entrenados con señales de actigrafía puras (raw) superaron a los entrenados con datos suavizados (AUC 0.773 vs. 0.741), sugiriendo que la información temporal fina es crítica.
• Función de Pérdida: Calcular el MSE en todos los parches (reconstruidos y originales) superó significativamente a calcular la pérdida solo en los parches enmascarados.

Hallazgos de Interpretabilidad

Los mapas de calor de atención revelaron que PAT se enfoca en transiciones conductuales específicas en lugar de ruido aleatorio.

• Usuarios de Benzodiacepinas: Se asignó una alta atención a la inactividad prolongada de la madrugada y a los tiempos de despertar retrasados.
• No Usuarios: Se asignó una alta atención a la actividad física matutina constante y aguda.
• Nivel Poblacional: Los patrones de atención exhibieron una fuerte periodicidad de 24 horas, con picos concentrados alrededor de las transiciones de vigilia y la actividad matutina, confirmando que el modelo aprende ritmos diarios recurrentes.

Análisis de Confusores

La regresión logística multivariante mostró que las predicciones de PAT estaban asociadas independientemente con el uso de benzodiacepinas, el uso de ISRS, la depresión y las anomalías del sueño tras ajustar por edad, sexo, IMC y severidad de la depresión. Sin embargo, para la historia de trastornos del sueño, la asociación no fue significativa tras el ajuste, lo que sugiere que el modelo puede estar prediciendo factores de riesgo subyacentes (ej. IMC, depresión) en lugar de la condición diagnosticada en sí, o que las condiciones tratadas atenúan la señal de la actigrafía.

Significado y Reivindicaciones

Los autores posicionan a PAT como una solución práctica y escalable para avanzar en los conocimientos clínicos derivados de los datos de sensores vestibles.

• Accesibilidad: Al ser de código abierto y capaz de ejecutarse en GPUs de consumo (ej. NVIDIA T4), PAT reduce la barrera de entrada para investigadores con recursos computacionales limitados.
• Escalabilidad: El modelo está diseñado para ser adaptable a longitudes de entrada variables y diferentes dispositivos, lo que lo hace adecuado para diversos entornos de investigación.
• Utilidad Clínica: La capacidad del modelo para predecir el uso de medicación y condiciones psiquiátricas a partir de datos de movimiento pasivos ofrece un método no invasivo para la estratificación de riesgos y el monitoreo del tratamiento.
• Modestia: Los autores reconocen limitaciones, señalando que las etiquetas se derivan de autoinformes en lugar de diagnósticos clínicos de estándar de oro, lo que puede introducir ruido. También advierten que la actigrafía por sí sola proporciona solo una señal parcial para la psicopatología compleja y debe verse como una herramienta complementaria en modelos multimodales en lugar de un instrumento diagnóstico independiente. Además, la naturaleza transversal de los datos impide la inferencia causal.

En conclusión, PAT representa un paso hacia un fenotipado digital generalizable, eficiente en datos e interpretable para la salud conductual, cerrando la breancia entre la recolección de datos de wearables a gran escala y el modelado de salud mental clínicamente relevante.