⚡ electrical engineering

Auto-Augmentation Contrastive Learning for Wearable-based Human Activity Recognition

Cet article propose AutoCL, un cadre d'apprentissage contrastif d'auto-augmentation de bout en bout utilisant un réseau siamois doté d'un générateur intégré et de stratégies d'entraînement spécialisées pour apprendre automatiquement des augmentations de données optimales, améliorant ainsi considérablement la précision de la reconnaissance de l'activité humaine basée sur des dispositifs portables sans dépendre de la conception manuelle d'augmentations.

Auteurs originaux : Qingyu Wu, Jianfei Shen, Feiyi Fan, Yang Gu, Chenyang Xu, Yiqiang Chen

Publié 2026-02-04

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Qingyu Wu, Jianfei Shen, Feiyi Fan, Yang Gu, Chenyang Xu, Yiqiang Chen

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayiez d'apprendre à un robot à reconnaître des activités humaines — comme marcher, courir ou monter les escaliers — en utilisant uniquement les données d'une montre connectée ou d'un bracelet de fitness. C'est ce qu'on appelle la Reconnaissance d'Activités Humaines (HAR - Human Activity Recognition).

Le problème est que les données provenant de ces montres sont « bruitées » et n'ont pas d'images ou de mots évidents attachés à elles. Ce ne sont que des chiffres bruts. Pour enseigner au robot, nous avons généralement besoin qu'un humain s'assoie là pour étiqueter des milliers d'heures de données (« Ceci est de la marche », « Ceci est de la position assise »). C'est lent, coûteux et ennuyeux.

Pour résoudre cela, les chercheurs utilisent une technique appelée Apprentissage Contrastif (Contrastive Learning). Voyez cela comme un jeu de « Cherchez l'erreur ». Vous montrez au robot deux versions légèrement différentes de la même activité (par exemple, un signal de marche avec un peu de bruit statique ajouté, et le signal original) . Le travail du robot est de réaliser : « Hé, c'est la même activité ! » et d'apprendre ce qui les rend similaires.

L'ancien problème : Le goulot d'étranglement de l'« Augmentation Manuelle »

Dans le passé, pour créer ces « versions différentes » pour le jeu, les humains devaient décider manuellement comment perturber les données. Ils disaient : « Ajoutons un peu de bruit ici », ou « Retournons le signal à l'envers ».

Mais voici le piège : Ce qui fonctionne pour une activité peut en ruiner une autre. Tout comme vous n'utiliseriez pas la même épice pour cuisiner un steak et une salade, la « meilleure » façon de perturber un signal de course est différente de celle d'un signal de sommeil. Les humains devaient deviner et tester différentes combinaisons pour chaque nouveau jeu de données, ce qui représentait une charge énorme et ne fonctionnait souvent pas bien dans toutes les situations.

La nouvelle solution : AutoCL (Le Chef Auto-didacte)

La recherche introduit une nouvelle méthode appelée AutoCL (Auto-Augmentation Contrastive Learning). Au lieu qu'un chef humain devine quelles épices ajouter, AutoCL est comme un chef auto-didacte qui apprend à « assaisonner » les données lui-même.

Voici comment cela fonctionne, en utilisant des analogies simples :

Le Générateur Intelligent (Le Chef) :
Au lieu de nourrir le robot avec des données de capteurs brutes et désordonnées, le système regarde d'abord l'« essence » ou la « saveur » des données (appelées plongements de caractéristiques ou feature embeddings). Il ignore le bruit de fond et se concentre sur le motif central.
- Analogie : Imaginez que vous essayez de reconnaître une chanson. Au lieu d'écouter l'enregistrement entier et bruyant, vous fredonnez d'abord la mélodie principale. Le « Chef » (une partie spéciale de l'IA) regarde cette mélodie et décide : « D'accord, pour créer une bonne version d'entraînement de cette chanson, je devrais l'accélérer un peu », ou « Je devrais inverser le rythme ». Il crée une nouvelle version automatiquement.
Les Jumeaux Siamois (Les Jumeaux) :
Le système utilise un « Réseau Siamois », ce qui revient à avoir deux jumeaux identiques.
- Le Jumeau A regarde l'activité originale.
- Le Jumeau B regarde la nouvelle version de l'activité, créée automatiquement par le « Chef ».
- Le système force les jumeaux à être d'accord sur le fait qu'ils regardent la même activité. S'ils sont d'accord, le système apprend.
L'astuce du « Stop-Gradient » (Le Bandeau sur les yeux) :
L'un des plus grands risques est que le « Chef » puisse devenir paresseux et simplement copier la chanson originale exactement. Si la nouvelle version est identique à l'ancienne, les jumeaux n'apprennent rien de nouveau.
- Pour empêcher cela, les chercheurs utilisent une conception de Stop-Gradient. C'est comme mettre un bandeau sur les yeux d'un des jumeaux pendant le processus d'apprentissage. Le « Chef » ne peut pas voir les détails exacts des données originales pendant qu'il crée la nouvelle version ; il doit se fier à l'« essence » qu'il a apprise précédemment. Cela force le système à apprendre la véritable signification de l'activité, et non pas seulement à mémoriser le bruit.
La « Réduction de Corrélation » (Le Club de la Variété) :
Le système a également une règle : « Ne rendez pas la nouvelle version trop similaire à l'ancienne ». Il essaie activement de rendre les deux versions suffisamment différentes pour constituer un défi, mais suffisamment similaires pour être la même activité. Cela garantit que le robot apprend des caractéristiques robustes, et non de simples coups de chance.

Les Résultats : Pourquoi c'est important

Les chercheurs ont testé ce « Chef Auto-didacte » sur quatre jeux de données du monde réel différents (comme PAMAP2 et UCIHAR).

L'ancienne méthode : Les humains devaient essayer différentes combinaisons de trucs manuels (bruit, inversion, mise à l'échelle) pour voir ce qui fonctionnait le mieux. Parfois cela fonctionnait ; parfois non.
La méthode AutoCL : Le système a découvert de lui-même la meilleure façon de « perturber » les données, sans l'aide humaine.

Le résultat : AutoCL a battu les meilleures méthodes existantes dans presque tous les tests. Il a reconnu les activités avec plus de précision, même lorsqu'il y avait très peu de données étiquetées pour commencer.

L'essentiel

Cette recherche montre que nous n'avons plus besoin que des humains devinent manuellement comment modifier les données des capteurs. En laissant l'IA apprendre à créer ses propres exemples d'entraînement basés sur les propres motifs des données, nous pouvons construire des systèmes de reconnaissance d'activité plus intelligents, plus flexibles, qui fonctionnent mieux et nécessitent moins d'efforts humains. C'est comme passer d'un étudiant qui mémorise un manuel à un étudiant qui apprend à écrire le manuel lui-même.

Résumé Technique : Auto-Augmentation par Apprentissage Contrastif pour la Reconnaissance d'Activités Humaines basée sur les Wearables

Énoncé du Problème

La reconnaissance d'activités humaines (HAR - Human Activity Recognition) utilisant des capteurs portables (ex: IMU) repose traditionnellement sur l'apprentissage supervisé, ce qui impose une lourde charge d'annotation manuelle et manque de robustesse lors de l'application à de nouvelles tâches, de nouveaux types de capteurs ou de nouvelles positions. L'apprentissage auto-supervisé (SSL), en particulier l'apprentissage contrastif (CL - Contrastive Learning), est apparu comme une alternative performante pour apprendre des représentations sans étiquettes. Cependant, les approches actuelles de CL font face à un goulot d'étranglement critique : elles dépendent fortement de stratégies d'augmentation de données manuelles pour construire des paires d'échantillons positifs.

Dans le contexte de l'HAR par capteurs portables, les signaux de capteurs possèdent une faible information sémantique par rapport aux images. Par conséquent, la sélection de stratégies d'augmentation efficaces (ex: jittering, mise à l'échelle, permutation) est peu intuitive et dépend fortement de la tâche. La stratégie optimale varie selon le nombre de capteurs, les taux d'échantillonnage et les modalités, rendant les méthodes de CL existantes peu généralisables et peu flexibles. Il existe un besoin pour une méthode de bout en bout qui élimine la charge manuelle de la conception de stratégies d'augmentation pour les données de capteurs à faible sémantique.

Méthodologie : AutoCL

Les auteurs proposent AutoCL, un cadre d'apprentissage contrastif d'auto-augmentation de bout en bout conçu spécifiquement pour l'HAR basée sur les wearables. L'innovation centrale est un générateur intégré au réseau qui apprend à produire des vues augmentées directement à partir des données, plutôt que de s'appuyer sur des transformations manuelles prédéfinies.

Architecture

AutoCL utilise une architecture de réseau siamois avec un squelette (backbone) partagé et un générateur intégré :

Encodeur ( $f_\theta$ ) & Projecteur ( $p_\theta$ ) : Un réseau entièrement convolutif (FCN) à 3 couches sert de squelette pour extraire les plongements de caractéristiques (feature embeddings) à partir des données de séries temporelles brutes des capteurs. Un perceptron multicouche (MLP) projette ces plongements dans un espace latent.
Générateur ( $g_\xi$ ) : Contrairement au CL standard où l'augmentation est appliquée aux entrées brutes, le générateur d'AutoCL prend les plongements de caractéristiques ( $y_\theta$ ) du squelette comme entrée. Ce choix de conception est motivé par la nécessité de réduire l'impact du bruit et des informations redondantes inhérentes aux signaux bruts des capteurs. Le générateur utilise une unité récurrente à porte bidirectionnelle (BiGRU) à 3 couches suivie d'une couche de convolution de groupe 1-D pour produire un échantillon auto-augmenté ( $x'_{\theta, \xi}$ ).
Objectif d'entraînement : Le modèle maximise l'accord par paire entre la projection de l'échantillon original et la projection de l'échantillon auto-augmenté en utilisant la perte NT-Xent.

Stratégies Techniques Clés

Pour s'assurer que le générateur apprenne des augmentations significatives plutôt que de s'effondrer vers une application d'identité (ce qui réduirait la difficulté contrastive), les auteurs introduisent deux mécanismes spécifiques :

Réduction de la corrélation : Un terme de régularisation est ajouté à la fonction de perte pour maximiser la diversité entre les échantillons originaux et augmentés. Cela empêche le générateur de simplement copier l'entrée (approximant un auto-encodeur) et encourage l'apprentissage de variations distinctes et sémantiquement cohérentes.
Stop-Gradient (Arrêt du gradient) : Une opération de stop-gradient est appliquée à la projection de l'échantillon original ( $y_\theta$ ) pendant la mise à jour du générateur. Cela garantit que le générateur apprend à augmenter en se basant sur la représentation de caractéristique actuelle sans déstabiliser la dynamique d'entraînement de l'encodeur par des boucles de rétropropagation.

Contributions Clés

Première auto-augmentation de bout en bout pour l'HAR par wearables : L'article présente la première étude menant l'apprentissage contrastif d'auto-augmentation de bout en bout pour les signaux de capteurs portables, éliminant le besoin de construire manuellement des stratégies d'augmentation.
Conception d'architecture novatrice : Les auteurs conçoivent un cadre où un générateur apprend l'auto-augmentation à partir de plongements de caractéristiques latents plutôt qu'à partir des données brutes. Cette approche est empiriquement démontrée comme étant supérieure à la génération d'augmentations directement à partir des signaux bruts, car elle filtre le bruit et la redondance.
Apprentissage de représentations amélioré : L'intégration des stratégies de stop-gradient et de réduction de la corrélation est proposée pour améliorer les capacités d'apprentissage de représentation de l'encodeur, empêchant le surapprentissage et garantissant que la tâche contrastive reste exigeante.
Flexibilité pilotée par les données : L'étude démontre que l'espace des opérations d'augmentation pilotées par les données apprises par le modèle est bien plus vaste que les stratégies définies par l'humain, offrant une meilleure adaptabilité aux divers scénarios d'HAR.

Résultats Expérimentaux

La méthode AutoCL a été évaluée sur quatre jeux de données HAR largement utilisés : PAMAP2, UCIHAR, UTD-MHAD et DSADS. L'évaluation a suivi un protocole SSL standard : pré-entraînement sur des données non étiquetées suivi d'une classification à peu d'exemples (few-shot classification) (ajustement fin sur 20 % de données étiquetées).

Performance : AutoCL a atteint des performances de pointe (SOTA) sur les quatre jeux de données, surpassant de manière significative les lignes de base de CL existantes (SimCLR, SimSiam, BYOL, NNCLR) qui reposaient sur diverses combinaisons de stratégies d'augmentation manuelles (Jittering, Scaling, Permutation).
- Exemple : Sur le jeu de données DSADS, AutoCL a atteint une précision de 96,05 %, dépassant la meilleure ligne de base d'augmentation manuelle (BYOL avec S+J) qui atteignait 95,77 %.
Études d'ablation : La suppression des stratégies Stop-Gradient (SG) ou de Réduction de la Corrélation (CR) a entraîné des baisses de performance, confirmant leur nécessité pour la stabilité et l'efficacité du processus d'auto-augmentation.
Étude empirique d'architecture : La comparaison d'AutoCL (basé sur les plongements de caractéristiques) contre une variante générant des augmentations à partir des données brutes (AutoCL-D) a montré que l'approche basée sur les plongements (AutoCL-E) produisait systématiquement de meilleurs résultats, particulièrement sur les jeux de données présentant un bruit élevé ou des variations d'activité continues.
Visualisation : Les visualisations t-SNE des représentations apprises ont montré qu'AutoCL produit des clusters plus discernables et mieux séparés par rapport aux lignes de base. De plus, la visualisation des échantillons générés a révélé que le modèle apprend des opérations diverses (mise à l'échelle, inversion, recadrage) qui vont au-delà des simples règles définies par l'humain.

Signification et Revendications

L'article affirme qu'AutoCL répond à une limitation fondamentale de l'application de l'apprentissage contrastif à l'HAR par capteurs portables : la dépendance à des stratégies d'augmentation manuelles et non généralisables. En déplaçant le processus d'augmentation vers un composant apprenable et piloté par les données opérant dans l'espace latent, la méthode :

Réduit la charge manuelle de conception des pipelines d'augmentation pour les données de capteurs à faible sémantique.
Améliore la robustesse en apprenant à augmenter en se basant sur les représentations de caractéristiques, atténuant ainsi le bruit des capteurs.
Démontre une meilleure généralisabilité, car la stratégie d'augmentation apprise s'adapte aux caractéristiques spécifiques du jeu de données sans intervention humaine.

Les auteurs concluent que pour les données à faible sémantique, une approche d'auto-augmentation pilotée par les données détient un potentiel plus grand pour la cohérence sémantique et la performance que les stratégies implémentées manuellement, offrant une direction prometteuse pour les futurs modèles génériques en informatique portable (wearable computing).