FED-HARGPT: A Hybrid Centralized-Federated Approach of a Transformer-based Architecture for Human Context Recognition

Cette étude présente FED-HARGPT, une approche hybride combinant apprentissage centralisé et fédéré avec une architecture Transformer pour la reconnaissance d'activités humaines, démontrant que cette méthode préserve la vie privée tout en maintenant des performances comparables aux modèles centralisés dans des scénarios de données non indépendants et identiquement distribués (non-IID).

L'essentiel

🕵️‍♂️ Le Grand Détective : Comment l'IA apprend à connaître nos mouvements sans espionner nos vies

Imaginez que votre smartphone ou votre montre connectée est un détective privé. Ce détective observe tout ce que vous faites : marcher, courir, dormir, ou même faire la vaisselle. Il le fait grâce aux capteurs (comme l'accéléromètre) qui sentent vos mouvements.

Le problème ? Ce détective a besoin de voir des millions de vies pour devenir un expert. Mais si on envoie toutes ces données privées (vos habitudes de sommeil, vos trajets) vers un grand serveur central, c'est comme si on laissait toutes les clés de nos maisons sur la table de la cuisine : c'est un risque énorme pour la vie privée.

C'est ici que les chercheurs du Brésil ont eu une idée brillante : FED-HARGPT.

1. Le Problème : Apprendre sans tout partager

Habituellement, pour entraîner une intelligence artificielle (IA) à reconnaître vos activités, on rassemble toutes les données de tout le monde dans un seul endroit (comme une immense bibliothèque). C'est efficace, mais ce n'est pas privé.

De plus, les gens ne bougent pas tous de la même façon. Certains dorment beaucoup, d'autres courent. Si on mélange tout sans faire attention, l'IA devient confuse. C'est ce qu'on appelle des données "non-IID" (non identiques et non indépendantes). C'est comme essayer d'apprendre à cuisiner en goûtant un plat mélangé avec des ingrédients de 60 cuisines différentes sans savoir qui a mis quoi.

2. La Solution : L'École à Domicile (Federated Learning)

Au lieu de faire venir les élèves (les données) à l'école (le serveur central), les chercheurs ont décidé d'envoyer le professeur (le modèle d'IA) chez chaque élève.

C'est le principe du Federated Learning (Apprentissage Fédéré) :

• Le Professeur Central : Il prépare un cours de base très intelligent (un modèle "Transformer", basé sur la technologie des grands modèles de langage comme GPT).
• Les Élèves (Vos téléphones) : Chaque téléphone reçoit ce professeur. Il l'entraîne localement avec les données de son propriétaire uniquement.
• Le Devoir : Une fois le cours terminé, le téléphone ne renvoie pas les données brutes (les vidéos de votre vie). Il renvoie seulement les leçons apprises (les ajustements mathématiques du professeur).
• La Réunion : Le professeur central rassemble toutes ces leçons, les combine pour créer un "Super-Professeur" encore plus intelligent, et le redépartage à tout le monde.

L'analogie du Chef Cuisinier :
Imaginez 60 chefs cuisiniers qui veulent créer le meilleur plat du monde.

• Méthode ancienne : Ils envoient tous leurs ingrédients chez un seul chef central qui mélange tout dans une immense marmite. (Risque d'hygiène et de perte de secrets).
• Méthode FED-HARGPT : Chaque chef cuisine son plat chez lui avec ses propres ingrédients. Ensuite, ils envoient juste la recette (pas les ingrédients) au chef central. Le chef central combine les meilleures astuces de toutes les recettes pour créer un livre de cuisine ultime, qu'il renvoie à tous. Personne ne vole les ingrédients des autres, mais tout le monde devient un meilleur cuisinier.

3. L'Innovation : Le "Super-Cerveau" (Transformer)

Les chercheurs ont utilisé une architecture appelée Transformer (la même technologie qui fait fonctionner les chatbots intelligents).

• Habituellement, on utilise ces modèles pour écrire des textes. Ici, ils les ont adaptés pour "lire" les mouvements du corps comme s'ils étaient des mots dans une phrase.
• Ils ont créé un modèle léger (FED-HARGPT) qui tient sur un téléphone, mais qui est assez malin pour comprendre que "marcher vite" est différent de "courir", même si les capteurs sont un peu bruités.

4. Les Résultats : Une victoire pour la vie privée

L'expérience a été menée avec 60 volontaires utilisant l'ensemble de données "ExtraSensory" (des données réelles, prises dans la vraie vie, pas en laboratoire).

• Le verdict : Le système hybride (un peu d'entraînement central, beaucoup d'entraînement local) a fonctionné aussi bien que les méthodes traditionnelles qui volent les données.
• La surprise : Certains téléphones individuels sont devenus si experts dans la reconnaissance des activités de leur propriétaire qu'ils ont atteint une précision de 90 %, battant même les meilleurs modèles centraux !
• Le gain : On a obtenu un détective très intelligent qui respecte la vie privée. Il sait ce que vous faites sans jamais savoir qui vous êtes ni voir vos données brutes.

En résumé

Cette recherche nous dit que nous n'avons plus besoin de sacrifier notre vie privée pour avoir des technologies intelligentes. En utilisant une approche hybride (un peu de centre, beaucoup de local) et en envoyant le "cerveau" de l'IA chez nous plutôt que nos données vers lui, nous pouvons créer des assistants personnels ultra-performants pour la santé, le sport ou la sécurité, tout en gardant nos secrets bien cachés dans notre poche.

C'est comme avoir un coach personnel qui vous connaît par cœur, sans jamais avoir besoin de vous poser de questions indiscrètes.

Résumé technique

1. Problématique et Contexte

L'augmentation de la prolifération des appareils périphériques (edge devices) tels que les smartphones et les wearables a entraîné une explosion de la génération de données privées issues de capteurs inertiels (accéléromètres, gyroscopes). Bien que ces données permettent une surveillance discrète des activités humaines (repos, sommeil, marche, stress), leur centralisation pour l'entraînement de modèles d'IA pose des problèmes majeurs de vie privée et de souveraineté des données.

Le défi principal réside dans la reconnaissance des activités humaines (HAR - Human Activity Recognition) dans des conditions réelles, où les données sont :

• Non-IID (Non-Indépendantes et Non-Identiquement Distribuées) : La distribution des activités varie considérablement d'un utilisateur à l'autre.
• Déséquilibrées : Certaines activités sont beaucoup plus fréquentes que d'autres.
• Privées : Les données ne peuvent pas être facilement partagées vers un serveur central.

L'objectif de l'étude est de développer une approche hybride combinant l'apprentissage centralisé et l'apprentissage fédéré (Federated Learning - FL) pour entraîner un modèle basé sur l'architecture Transformer, tout en préservant la confidentialité des données.

2. Méthodologie

A. Architecture du Modèle : FED-HARGPT

Les auteurs ont conçu une architecture dérivée de GPT-2, adaptée spécifiquement pour la classification multi-étiquettes (multi-label) des activités humaines.

• Modifications de l'architecture :
  • Suppression de la couche d'embedding standard de GPT-2 (inadaptée aux données continues des capteurs).
  • Remplacement par une couche linéaire entraînable pour le prétraitement flexible des données.
  • Ajout de deux couches supplémentaires : une couche linéaire pour affiner les transformations et une couche de sortie avec une fonction d'activation tanh, dont le nombre de neurones correspond au nombre d'étiquettes (51 labels).
• Justification : Le choix de GPT-2 (plutôt que des LLM plus récents et lourds) permet un déploiement efficace sur des appareils aux ressources limitées, tout en bénéficiant de la capacité des Transformers à capturer les dépendances à long terme.

B. Stratégie d'Entraînement Hybride

L'approche proposée suit un processus en deux phases :

1. Pré-entraînement Centralisé (Phase de Base) :
   • Un modèle de base est entraîné sur un ensemble de données agrégées provenant de 48 participants (sur un total de 60).
   • Cette phase sert à établir des poids initiaux robustes, réduisant ainsi le nombre d'époques nécessaires pour l'adaptation ultérieure dans un contexte fédéré.
   • Une recherche aléatoire (Random Search) a été utilisée pour optimiser les hyperparamètres (taille cachée, nombre de couches Transformer, taux d'apprentissage).
2. Affinement Fédéré (Federated Fine-tuning) :
   • Utilisation du framework Flower pour orchestrer l'apprentissage fédéré.
   • Les données des 60 participants sont divisées en 5 plis (folds) pour une validation croisée. Dans chaque pli, 12 participants agissent comme clients FL, tandis que les 48 autres servent à la base.
   • Stratégie : FedAvg (Federated Averaging) est utilisé. Les clients entraînent localement le modèle sur leurs données privées, puis envoient les poids mis à jour au serveur pour agrégation.
   • Configuration : 4 rounds d'agrégation, 2000 époques locales par client, taille de lot (batch size) de 64.

C. Jeu de Données

L'étude utilise le jeu de données ExtraSensory, un ensemble de données public riche collecté dans des environnements non contraints (vie réelle) par 60 participants. Il contient plus de 300 000 minutes d'enregistrements avec 225 caractéristiques (capteurs, GPS, état du téléphone, etc.) et 51 étiquettes d'activités.

3. Contributions Clés

1. Modèle Léger basé sur Transformer : Présentation d'un modèle FED-HARGPT, une version fine-tunée de GPT-2 adaptée à un problème de reconnaissance d'activité non restreint et multi-étiquettes.
2. Approche Hybride Centralisée-Fédérée : Démonstration d'une méthode efficace pour concilier performance, vie privée et personnalisation dans des scénarios de données Non-IID.
3. Analyse Comparative sur Données Non-Contraintes : Évaluation sur le jeu de données ExtraSensory, où les utilisateurs n'ont pas suivi de protocoles stricts, reflétant ainsi des conditions réelles d'utilisation.

4. Résultats Expérimentaux

• Performance Globale :
  • L'approche FED-HARGPT a atteint une précision équilibrée (Balanced Accuracy - BA) moyenne de 0,747 sur l'ensemble des plis.
  • Bien que légèrement inférieure à l'état de l'art (SotA) le plus élevé (0,773 pour un MLP), la méthode montre une grande robustesse.
  • Performance Individuelle Exceptionnelle : Le meilleur client individuel a atteint une BA de 0,909, surpassant largement les modèles de référence. De plus, 19 des 60 clients (environ un tiers) ont obtenu des performances égales ou supérieures à l'état de l'art.
• Impact de la Diversité des Données :
  • Une faible corrélation a été observée entre le nombre d'échantillons disponibles et la précision de chaque client.
  • La variabilité des résultats (BA allant de 0,63 à 0,90) est attribuée à la diversité des activités enregistrées par chaque utilisateur et à la difficulté inhérente de certaines activités à être détectées par des capteurs mobiles.
• Comparaison avec l'État de l'Art :
  • Les modèles FED-HARGPT (moyenne et meilleur cas) se situent dans la même fourchette que les meilleurs modèles MLP publiés précédemment sur le même jeu de données, tout en offrant l'avantage crucial de la confidentialité des données.

5. Signification et Conclusion

Cette étude démontre la faisabilité et l'efficacité d'une approche hybride utilisant des architectures Transformer pour la reconnaissance d'activités humaines dans des scénarios de données Non-IID.

• Équilibre Vie Privée / Performance : Les résultats prouvent que l'apprentissage fédéré peut atteindre des performances comparables à l'apprentissage centralisé tout en gardant les données sensibles sur les appareils des utilisateurs.
• Potentiel des Petits LLM : L'utilisation d'un modèle de type "petit LLM" (GPT-2) fine-tuné pour des tâches de séries temporelles (capteurs) ouvre de nouvelles voies pour l'application des modèles de langage à des problèmes complexes hors NLP.
• Applications Futures : Cette approche est particulièrement prometteuse pour des domaines sensibles comme la santé (diagnostic prédictif) et les services financiers, où la confidentialité est primordiale. Les auteurs suggèrent comme travaux futurs l'exploration d'autres stratégies d'agrégation (comme FedPer) et l'intégration de techniques de confidentialité différentielle pour améliorer la convergence et la sécurité.

En résumé, FED-HARGPT offre une fondation solide pour le développement de systèmes d'IA contextuels, précis et respectueux de la vie privée, capables de fonctionner dans des environnements réels et hétérogènes.