CLAD-Net: Continual Activity Recognition in Multi-Sensor Wearable Systems

Le papier présente CLAD-Net, un cadre d'apprentissage continu intégrant un transformateur auto-supervisé et une distillation de connaissances pour permettre aux modèles de reconnaissance d'activités portables de s'adapter aux nouveaux sujets sans oublier les tâches précédentes, tout en restant performants malgré la rareté des données étiquetées.

L'essentiel

🏥 Le Problème : L'Amnésie des Robots de Santé

Imaginez que vous avez un robot infirmier très intelligent, capable de reconnaître si vous marchez, courez ou tombez grâce à des capteurs sur votre corps. Ce robot est formé sur vous. Il vous connaît par cœur : votre façon de marcher, votre rythme, vos mouvements.

Mais le lendemain, le robot doit s'occuper de votre voisin, qui a un tout autre style de marche. Si le robot essaie d'apprendre à connaître votre voisin, il risque d'oublier comment vous marchiez ! C'est ce qu'on appelle en informatique "l'oubli catastrophique".

Dans le monde réel (hôpitaux, maisons de retraite), on ne peut pas simplement garder toutes les données de tous les patients dans une grosse mémoire (c'est trop cher et ça pose des problèmes de confidentialité). Le robot doit apprendre en continu, patient par patient, sans jamais oublier les précédents. C'est un défi énorme.

💡 La Solution : CLAD-Net, le "Double Cerveau"

Les auteurs de cet article ont créé une nouvelle intelligence artificielle appelée CLAD-Net. Pour comprendre comment elle fonctionne, imaginez qu'elle possède deux cerveaux qui travaillent en équipe, inspirés de la façon dont les humains apprennent :

1. Le Cerveau "Mémoire à Long Terme" (Le Transformer Auto-Supervisé)

• L'analogie : Imaginez un grand bibliothécaire qui lit des livres sans jamais regarder les titres. Il ne se soucie pas de qui écrit le livre ou de ce que raconte l'histoire. Il se concentre uniquement sur la structure des phrases, le rythme et le style d'écriture.
• Dans CLAD-Net : C'est un modèle qui observe les données des capteurs (accéléromètres, gyroscopes) sans avoir besoin d'étiquettes (sans savoir si c'est "marche" ou "course"). Il apprend à reconnaître les motifs globaux du corps humain.
• Le secret : Il utilise une technique appelée "Cross-Attention" (Attention Croisée). Imaginez que votre main bouge, votre torse réagit et votre jambe suit. Ce cerveau observe comment toutes les parties du corps "discutent" entre elles pour comprendre le mouvement global, peu importe qui est le patient. Il crée une base de connaissances solide et générale.

2. Le Cerveau "Mémoire à Court Terme" (Le CNN Supervisé)

• L'analogie : C'est l'étudiant qui apprend par cœur les leçons spécifiques pour un examen. Il sait exactement comment vous marchez.
• Dans CLAD-Net : C'est le classificateur qui dit "Ah, c'est une marche !" ou "C'est une chute !". Il apprend avec des étiquettes (les réponses correctes).
• Le problème : Quand il apprend pour le nouveau patient, il risque d'effacer ce qu'il savait sur le précédent.

🤝 La Magie : La "Distillation de Connaissances"

C'est ici que la magie opère. Pour éviter que le cerveau "étudiant" n'oublie tout, le système utilise une technique appelée Distillation de Connaissances.

• L'analogie : Imaginez que vous apprenez une nouvelle recette de cuisine. Au lieu de jeter votre vieux carnet de recettes, vous gardez une copie de l'ancien chef à côté de vous. Chaque fois que vous cuisinez pour le nouveau client, l'ancien chef vous chuchote : "Attends, ne change pas trop la façon dont tu coupes les oignons, tu vas gâcher le goût du plat d'hier !".
• Dans CLAD-Net : Le modèle "étudiant" (le CNN) est contraint de rester proche de ce qu'il savait avant. Il doit apprendre le nouveau patient, mais sans s'éloigner trop de ses anciennes réponses. Cela lui permet de garder ses compétences pour les anciens patients tout en apprenant les nouveaux.

🚀 Pourquoi c'est génial ?

1. Pas de vol de données : Contrairement à d'autres méthodes qui stockent des échantillons de données passées (comme des photos de patients précédents) pour réviser, CLAD-Net n'a besoin de rien stocker. C'est parfait pour la vie privée des patients.
2. Apprentissage avec peu d'étiquettes : Souvent, les patients ne prennent pas le temps de dire "Je suis en train de marcher". CLAD-Net peut apprendre même si seulement 10% ou 20% des données sont étiquetées, grâce à son "bibliothécaire" qui apprend tout seul.
3. Résultats impressionnants : Sur des tests réels (avec des données de 8 à 15 personnes différentes), CLAD-Net a réussi à apprendre de nouveaux patients tout en oubliant beaucoup moins les anciens que les autres systèmes existants.

En résumé

CLAD-Net, c'est comme un robot infirmier qui a deux atouts :

1. Une mémoire visuelle qui comprend comment le corps humain bouge en général, sans avoir besoin de savoir qui est le patient.
2. Un tuteur interne qui l'empêche d'oublier ses anciens patients quand il en rencontre de nouveaux.

C'est une avancée majeure pour créer des systèmes de santé portables qui peuvent nous suivre toute notre vie, en s'adaptant à nos changements, sans jamais perdre le fil de notre histoire médicale.

Résumé technique

Voici un résumé technique détaillé de l'article "CLAD-Net: Continual Activity Recognition in Multi-Sensor Wearable Systems" publié dans l'IEEE Journal of Biomedical and Health Informatics.

1. Problématique et Contexte

L'article aborde le défi critique de la reconnaissance d'activité humaine (HAR) dans des systèmes portables (wearables) déployés dans des environnements de santé réels. Bien que les modèles d'apprentissage profond aient excellé dans des conditions de laboratoire contrôlées, leur application clinique se heurte à deux obstacles majeurs :

• L'Oubli Catastrophique (Catastrophic Forgetting) : Dans un scénario d'apprentissage continu, où le modèle doit s'adapter séquentiellement à de nouveaux patients (chacun constituant une nouvelle tâche avec une distribution de données différente), les modèles traditionnels ont tendance à oublier les motifs appris précédemment. Cela est dû aux variations individuelles (âge, mobilité, placement des capteurs) qui créent des décalages de distribution (domain shifts).
• La Pénurie de Données Étiquetées : Dans les études cliniques, l'étiquetage des données repose souvent sur les sujets eux-mêmes, ce qui rend les données étiquetées rares, incohérentes ou absentes. De plus, les réglementations sur la confidentialité des données de santé (comme le RGPD ou HIPAA) interdisent souvent le stockage des données brutes des patients, rendant les méthodes basées sur la répétition (Experience Replay) peu pratiques ou non conformes.

L'objectif est donc de concevoir un système capable d'apprendre continuellement de nouveaux patients sans oublier les précédents, tout en fonctionnant avec peu ou pas de données étiquetées et sans stocker d'historique de données.

2. Méthodologie : CLAD-Net

Les auteurs proposent CLAD-Net (Continual Learning with Attention and Distillation), une architecture hybride à deux composants inspirée des systèmes d'apprentissage complémentaires du cerveau humain (mémoire à long terme vs mémoire à court terme).

A. Architecture Globale

Le système se compose de deux modules fonctionnant en parallèle :

1. Un Transformer Auto-supervisé (Mémoire à Long Terme) :

   • Rôle : Apprendre des représentations générales et invariantes aux variations spécifiques aux sujets, sans nécessiter d'étiquettes.
   • Mécanisme : Il utilise un mécanisme d'attention croisée (Cross-Attention) entre les lectures de différents capteurs corporels (ex: main, poitrine, cheville). Cela permet de capturer les dépendances spatiales et temporelles globales entre les parties du corps.
   • Entraînement : Il est entraîné via une tâche auto-supervisée utilisant la perte BYOL (Bootstrap Your Own Latent). Le modèle apprend à prédire la représentation d'une vue augmentée d'une autre vue du même signal (par exemple, en masquant des segments de temps ou en ajoutant du bruit), favorisant ainsi l'extraction de caractéristiques robustes.

2. Un CNN Supervisé avec Distillation de Connaissances (Mémoire à Court Terme / Classifieur) :

   • Rôle : Effectuer la classification des activités spécifiques pour le sujet actuel.
   • Mécanisme : Ce module reçoit les données brutes et les représentations extraites par le Transformer. Il est entraîné avec une fonction de perte combinée :
     • Une perte de classification standard (Entropie Croisée) sur les données étiquetées du sujet actuel.
     • Une perte de distillation de connaissances (basée sur LwF - Learning without Forgetting) qui pénalise le modèle s'il s'écarte des prédictions du modèle "gelé" du sujet précédent.
   • Fusion : Les caractéristiques du Transformer sont concaténées à celles du CNN avant la couche de classification, permettant au classifieur de bénéficier des représentations stables apprises par le Transformer.

B. Protocole d'Entraînement

Le modèle est mis à jour séquentiellement pour chaque nouveau sujet. Aucune donnée des sujets précédents n'est stockée ou rejouée (approche exemplar-free). Seuls les paramètres du modèle gelé de l'étape précédente sont conservés pour la distillation.

3. Contributions Clés

1. Architecture Dual-Stream Innovante : Combinaison inédite d'un Transformer auto-supervisé (pour la stabilité des représentations) et d'un CNN supervisé avec distillation (pour la stabilité des frontières de décision), spécifiquement conçu pour l'apprentissage continu dans le domaine de la santé.
2. Apprentissage Auto-supervisé pour la Généralisation : Utilisation de l'attention croisée sur les capteurs corporels et de l'apprentissage BYOL pour apprendre des représentations invariantes aux variations inter-sujets, réduisant ainsi la dépendance aux étiquettes.
3. Solution Respectueuse de la Vie Privée : CLAD-Net élimine le besoin de stocker des données brutes de patients (contrairement aux méthodes de Replay), répondant ainsi aux contraintes réglementaires strictes du secteur de la santé.
4. Robustesse à la Pénurie d'Étiquettes : Le système démontre une capacité supérieure à maintenir les performances même lorsque seulement 10-20% des données sont étiquetées, grâce à la composante auto-supervisée.

4. Résultats Expérimentaux

Les auteurs ont évalué CLAD-Net sur trois jeux de données de référence (PAMAP2, DnSA, RealWorld) couvrant 31 flux d'apprentissage continu.

• Comparaison avec les Baselines :
  • CLAD-Net surpasse toutes les méthodes d'apprentissage continu sans répétition (Replay-free) comme LwF (Learning without Forgetting) et EWC (Elastic Weight Consolidation) en termes de précision finale et de réduction de l'oubli.
  • Il offre des performances compétitives par rapport aux méthodes basées sur la répétition (comme ER, ER-ACE, DER++) qui stockent des données, mais sans le coût de stockage ni les risques de confidentialité.
• Chiffres Clés (Exemple sur PAMAP2) :
  • Précision Finale (FA) : 80,78 % (vs 77,02 % pour LwF).
  • Mesure d'Oubli (FM) : 11,05 % (vs 11,41 % pour LwF).
• Scénarios Semi-supervisés : Avec seulement 10 % de données étiquetées, CLAD-Net maintient un taux d'oubli nettement inférieur à celui des autres méthodes, prouvant l'efficacité de la partie auto-supervisée.
• Études d'Ablation :
  • La suppression du Transformer entraîne une augmentation significative de l'oubli.
  • La suppression de la distillation dégrade la précision globale.
  • L'attention croisée (Cross-Attention) entre les capteurs est supérieure à l'auto-attention (Self-Attention) seule, confirmant l'importance de modéliser les interactions inter-capteurs.

5. Signification et Impact

Ce travail est significatif pour plusieurs raisons :

• Viabilité Clinique : Il propose une solution pratique pour le déploiement de systèmes de surveillance de santé à long terme, où les modèles doivent s'adapter à de nouveaux patients sans violer la confidentialité des données ni nécessiter une ré-entraînement massif.
• Avancée Théorique : Il démontre que l'intégration de l'apprentissage auto-supervisé (pour la stabilité des représentations) et de la distillation de connaissances (pour la stabilité des décisions) est une stratégie efficace pour résoudre le compromis stabilité-plasticité dans les séries temporelles.
• Futur de la Santé Numérique : En prouvant que l'on peut apprendre continuellement avec peu d'étiquettes, cette méthode ouvre la voie à des systèmes de réhabilitation et de soins aux personnes âgées plus intelligents, capables de s'adapter dynamiquement à l'évolution de l'état de santé des patients.

En résumé, CLAD-Net représente une avancée majeure vers des systèmes de reconnaissance d'activité robustes, respectueux de la vie privée et adaptés aux réalités complexes du monde médical.