A Deep Set-Based Aggregation Approach for Repeated Measurements: Insights from Variable-Length Wearable Device-Measured Physical Activity Data

Résumé technique : Une approche d'agrégation par ensembles profonds pour les mesures répétées

Énoncé du problème
L'intégration rapide des dispositifs portables (wearables) dans la santé numérique a permis un suivi continu et en temps réel des paramètres des patients, tels que l'activité physique (AP). Cependant, l'exploitation de ces données pour la modélisation prédictive présente des défis importants. Les mesures répétées issues des dispositifs portables varient souvent en longueur selon les individus en raison de données manquantes ou de différences de conformité, créant des entrées à « longueur variable » que les algorithmes d'apprentissage automatique standard ne peuvent pas traiter directement, car ils nécessitent généralement des vecteurs de caractéristiques de longueur fixe.

Les solutions traditionnelles consistent à agréger ces observations répétées en statistiques de synthèse (par exemple, des moyennes) afin de fixer la dimensionnalité. Bien que l'agrégation simple soit efficace pour réduire la dimensionnalité, elle néglige souvent les dynamiques temporelles précieuses et les modèles d'interaction entre les observations. De plus, les architectures d'apprentissage profond existantes (par exemple, CNN, RNN) supposent souvent une correspondance un à un entre les vectres de caractéristiques et les résultats, ce qui les rend mal adaptées pour cartographier de multiples observations de séries temporelles vers un résultat clinique unique sans hypothèses restrictives d'indépendance.

Méthodologie
L'étude a utilisé les données de l'enquête NHANES 2011–2014, se concentrant sur les adultes souffrant d'arthrite. L'ensemble de données comprenait des mesures d'AP multi-jours dérivées d'accéléromètres (enregistrées en unités MIMS [Monitor-Independent Movement Summary]) et des covariables ponctuelles (démographie, AP auto-déclarée, conditions médicales). L'étude a évalué deux résultats binaires : le besoin d'équipement spécial pour marcher et la présence d'un faible fonctionnement physique.

Trois stratégies d'agrégation ont été comparées pour transformer les données d'AP à longueur variable en prédicteurs de longueur fixe :

1. Agrégation simple (Méthode 1) : A calculé la moyenne arithmétique des mesures d'AP quotidiennes pour chaque participant. Cela sert de référence, supposant que la valeur moyenne représente suffisamment le profil d'activité de l'individu.
2. Agrégation ajustée par la variance (Méthode 2) : A employé une approche statistique pour ajuster la moyenne simple en fonction de la fiabilité des mesures. Cette méthode décompose la variance en composantes inter-individuelles et intra-individuelles. Elle applique des poids à la moyenne de la population, à la moyenne observée de l'individu et aux covariables ponctuelles. Le schéma de pondération augmente la dépendance aux mesures répétées lorsque la variance intra-individuelle est faible et que le nombre d'observations est élevé, tout en déplaçant le poids vers les covariables lorsque les mesures sont rares ou hautement variables.
3. Approche par ensembles profonds (Deep Set) (Méthode 3) : A implémenté une architecture d'apprentissage profond conçue spécifiquement pour les entrées de type ensemble à longueur variable. Cette approche tire parti de deux propriétés clés : l'invariance par permutation (le résultat est indépendant de l'ordre des éléments d'entrée) et l'équivariance par permutation.
   • Architecture : Le modèle traite l'historique de l'AP de chaque participant comme un ensemble. Pour les données au niveau journalier, le modèle a utilisé un mécanisme d'auto-attention avec des vecteurs Requête, Clé et Valeur (QKV) pour capturer les dépendances temporelles et les interactions entre les jours sans ingénierie de caractéristiques explicite. Pour les données au niveau minute (entrées à haute fréquence et complexes), l'architecture a incorporé des couches de réseaux de neurones convolutifs (CNN) pour l'extraction de caractéristiques avant l'agrégation par auto-attention.
   • Entraînement : Le modèle a été entraîné pour apprendre conjointement l'extraction de caractéristiques et l'agrégation, permettant de découvrir des modèles non linéaires à travers les observations répétées que les méthodes traditionnelles pourraient manquer.

Résultats clés
L'étude a évalué la performance des modèles en utilisant l'AUC, l'exactitude, la précision, le rappel et le score F1 sur 100 itérations de divisions train-test 80/20.

• Données au niveau journalier : Pour les résumés d'AP au niveau journalier, l'approche Deep Set a généralement amélioré l'exactitude et les scores F1 par rapport à l'agrégation simple et ajustée par la variance. Cependant, elle a présenté des scores AUC plus faibles, particulièrement chez les participants ayant moins d'observations (< 6 jours). Dans ce sous-groupe à faible nombre d'observations, le modèle Deep Set a été moins performant, probablement en raison de la petite taille de l'échantillon de ce groupe et de l'absence d'interactions temporelles significatives dans les données à court terme. Inversement, pour les participants ayant 6 à 7 jours de données, les différences de performance entre les méthodes se sont réduites.
• Données au niveau minute : Appliquée aux données d'AP au niveau minute, l'approche Deep Set a démontré une performance globale supérieure, atteignant les scores AUC, l'exactitude et le F1 les plus élevés pour les deux résultats. Cela suggère que la capacité du modèle à extraire des caractéristiques et à modéliser des dynamiques temporelles complexes à haute fréquence offre un avantage significatif lorsque la résolution des données est élevée.
• Ajustement par la variance : La méthode ajustée par la variance n'a montré qu'une amélioration pratique minimale par rapport à l'agrégation simple dans ce jeu de données spécifique, principalement parce que la plupart des participants avaient suffisamment d'observations (6–7 jours), ce qui entraînait une faible variance intra-individuelle et donc de faibles poids d'ajustement.

Signification et contributions
L'article contribue à un cadre comparatif pour la sélection des stratégies d'agrégation en santé numérique, soulignant que la méthode optimale dépend de la complexité, de la variabilité et de la taille de l'échantillon des données.

• Sélection contextuelle : Les auteurs proposent que l'agrégation simple reste suffisante pour les mesures répétées relativement stables et à faible fréquence (ex: AP au niveau journalier avec des modèles cohérents). En revanche, les approches basées sur les Deep Sets sont plus bénéfiques pour les données complexes et à haute fréquence (ex: flux au niveau minute) où la capture des dynamiques temporelles non linéaires est cruciale.
• Gestion de la longueur variable : L'étude valide l'architecture Deep Set comme une solution viable pour intégrer les données de dispositifs portables à longueur variable dans des modèles cliniques sans exclure les participants ayant des données incomplètes ou perdre la nuance temporelle.
• Directives pratiques : Les conclusions offrent une feuille de route pour les chercheurs : si le jeu de données contient de nombreux participants avec des observations nombreuses, complexes et dynamiques, les Deep Sets sont avantageux. Cependant, pour les données éparses ou les métriques simples, l'agrégation statistique traditionnelle peut être plus robuste et moins sujette au surapprentissage.

Les auteurs concluent que bien que les Deep Sets offrent une flexibilité exceptionnelle pour les applications réelles de médecine numérique impliquant des flux de données complexes, leur performance est tributaire d'un volume de données et d'une densité d'observation suffisants pour apprendre des interactions significatives.