🤖 machine learning

What changes after deployment? A survey on On-device Learning in TinyML

Cet article passe en revue environ 70 travaux sur l'apprentissage sur l'appareil (On-device Learning - ODL) pour le TinyML, en les catégorisant par régimes de changement de distribution afin d'analyser comment les différents types de changements influencent les scénarios applicables, les choix matériels et les structures de solutions, tout en soulignant l'écart persistant entre les références méthodologiques et le déploiement en conditions réelles.

Auteurs originaux : Massimo Pavan, Luca Pezzarossa, Fabrizio Pittorino, Manuel Roveri, Xenofon Fafoutis

Publié 2026-06-01

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Massimo Pavan, Luca Pezzarossa, Fabrizio Pittorino, Manuel Roveri, Xenofon Fafoutis

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez un minuscule assistant robotique super intelligent vivant à l'intérieur d'un petit appareil, comme une montre connectée ou un capteur d'usine. Ce robot a été formé dans une grande et luxueuse école (un ordinateur puissant) pour reconnaître des choses — comme votre voix, un son spécifique ou un type de mouvement. Une fois la formation terminée, le robot est expédié dans sa nouvelle maison (le petit appareil) pour faire son travail.

Le Problème : Le Choc du « Nouveau Quartier »
L'article soutient qu'il existe un problème majeur avec cette configuration. L'école où le robot a appris était parfaite et propre. Mais le monde réel est désordonné. Le monde réel change. Peut-être que le bruit de fond devient plus fort, que votre voix semble différente quand vous êtes fatigué, ou qu'une machine commence à vibrer d'une nouvelle manière.

Autrefois, le robot continuait simplement de faire ce qu'on lui avait enseigné, même s'il se trompait. C'est comme un élève qui aurait mémorisé le corrigé d'un examen, mais qui serait confus lorsque le professeur pose une question légèrement différente. L'article appelle cela un « changement de distribution ». En gros, les données que le robot voit après son déploiement sont différentes des données qu'il a vues à l'école.

La Solution : Le Robot Apprend sur le Tas
Pour corrir cela, les auteurs ont passé en revue environ 70 projets différents où ces minuscules robots apprennent à apprendre pendant qu'ils travaillent. C'est ce qu'on appelle l'« Apprentissage sur l'Appareil » (On-Device Learning). Au lieu d'être statique, le robot s'adapte à son nouveau quartier en temps réel.

Cependant, l'article souligne que tous les « nouveaux quartiers » ne sont pas les mêmes. Ils classent les changements en trois scénarios distincts, comme trois types différents d'expériences de déménagement :

Le « Déménagement Unique » (Régime de Changement Unique) :
Imaginez que vous emménagez dans une nouvelle maison, et que les meubles sont disposés différemment, mais qu'ils restent ainsi pour toujours. Le robot doit juste apprendre cette nouvelle disposition une seule fois, rapidement, et puis c'est fini. Il n'a pas besoin de continuer à apprendre indéfiniment.
- Exemple : Enseigner à une enceinte connectée à reconnaître votre voix spécifique ou un nouveau mot-clé que vous venez de prononcer.
Le « Changement de Météo Constant » (Régime de Dérive de Concept) :
Imaginez que vous conduisez une voiture où les conditions routières changent toutes les quelques minutes — pluie, puis soleil, puis brouillard, puis glace. Le robot doit constamment ajuster son style de conduite, oubliant les anciennes règles (comme « conduire vite sur route sèche ») et apprenant les nouvelles immédiatement. C'est un cycle ininterrompu d'adaptation.
- Exemple : Un capteur de pression dans une usine qui dérive lentement à cause de la chaleur ou de l'usure et qui nécessite un réétalonnage constant.
La « Bibliothèque en Expansion Perpétuelle » (Régime d'Apprentissage Continu) :
Imaginez que vous êtes un bibliothécaire qui reçoit de nouveaux livres chaque semaine, mais que vous avez une petite étagère. Vous devez apprendre les nouveaux livres sans jeter les anciens que vous connaissez déjà. Si vous oubliez les anciens livres pour faire de la place aux nouveaux, c'est ce qu'on appelle l'« oubli catastrophique ». Le robot doit continuer à ajouter de nouvelles connaissances sans perdre les anciennes.
- Exemple : Une interface cerveau-ordinateur qui apprend de nouvelles commandes d'un utilisateur au fil du temps tout en se souvenant des anciennes.

La Réalité du Matériel
L'article examine également les « cerveaux » (le matériel) sur lesquels vivent ces robots. Ce ne sont pas des ordinateurs portables puissants ; ce sont de minuscules puces avec une mémoire et une batterie très limitées.

Puces Minuscules (Ultra-Contraintes) : Elles sont comme des calculatrices de poche. Elles ne peuvent gérer que le scénario du « Déménagement Unique ». Elles sont trop faibles pour continuer à apprendre constamment.
Puces Standards (Microcontrôleurs Standard - MCU) : Elles sont comme des smartphones basiques. Elles peuvent gérer les trois scénarios, mais elles luttent avec la « Bibliothèque en Expansion Perpétuelle » car elles tombent à court de mémoire en essayant de tout mémoriser.
Super Puces (Plateformes PULP) : Elles sont comme des mini-superordinateurs. Ce sont les seules assez puissantes pour gérer efficacement le scénario de la « Bibliothèque en Expansion Perpétuelle », mais elles sont coûteuses et difficiles à programmer.

Le Grand Décalage
Les auteurs ont trouvé un étrange fossé dans le monde de la recherche :

Les « Scientifiques de Laboratoire » testent principalement leurs robots sur des ensembles de données d'images parfaites et complexes (comme des photos de chats et de chiens) qui sont trop lourdes pour les vrais petits appareils. Ils se concentrent sur la perfection de l'algorithme d'apprentissage dans un vide.
Les « Bâtisseurs du Monde Réel » travaillent sur des problèmes réels comme la réparation de capteurs ou la reconnaissance de gestes, mais ils ne disposent souvent pas de tests standardisés pour comparer leur travail.

À cause de cela, les « Scientifiques de Laboratoire » construisent des moteurs sophistiqués qui ne rentrent pas dans les voitures des « Bâtisseurs du Monde Réel ». L'article suggère que nous avons besoin de meilleures façons de tester ces robots ensemble, en considérant l'ensemble du système (le cerveau, la mémoire et la méthode d'apprentissage) plutôt qu'une seule partie.

En Résumé
Cet article est une carte du paysage actuel des « robots apprenants » sur de petits appareils. Il nous dit que pour rendre ces robots utiles dans le monde réel, nous devons cesser de les traiter comme des machines statiques. Nous devons les concevoir pour qu'ils gèrent trois types de changements spécifiques (unique, constant ou croissant), les faire correspondre au bon type de « cerveau » (matériel), et arrêter de les tester de manière isolée. Nous devons construire de meilleurs outils pour aider les ingénieurs à concevoir le robot entier à la fois, et non pièce par pièce.

Résumé Technique : Que change-t-il après le déploiement ? Une enquête sur l'apprentissage sur l'appareil (On-device Learning) en TinyML

1. Énoncé du problème

Les modèles d'apprentissage automatique déployés sur des dispositifs de classe microcontrôleur (TinyML) sont confrontés à un défi fondamental : le changement de distribution post-déploiement. Les modèles entraînés hors ligne sur des ensembles de données organisés sous-performent souvent lorsqu'ils sont exposés à des conditions réelles où les distributions de données dérivent après le déploiement. Bien que l'Apprentissage sur l'Appareil (On-Device Learning - ODL) réponde à cela en exécutant le processus d'apprentissage directement sur le dispositif, la littérature existante manque d'une caractérisation unifiée de la manière dont les changements de distribution se produisent. Les enquêtes précédentes n'ont pas explicitement distingué les différents types de régimes de changement de distribution, menant à une confusion entre des solutions qui opèrent sous des contraintes et des hypothèses fondamentalement différentes. De plus, un écart persistant existe entre les bancs d'essai méthodologiques (souvent centrés sur l'image) et les scénarios de déploiement réels (souvent centrés sur les capteurs), entravant le transfert des avancées algorithmiques vers les applications pratiques.

2. Méthodologie

Cet article présente une enquête exhaustive d'environ 70 travaux d'ODL dans le domaine du TinyML. L'enquête est structurée autour d'un principe organisateur primaire : le régime de changement de distribution. Les auteurs classent la littérature en trois régimes distincts basés sur la nature du processus de génération de données ( $P$ ) après le temps de déploiement $T$ :

Régime de Changement Unique (Single-Change Regime) : La distribution change exactement une fois au moment du déploiement ( $p_{T-1} \neq p_T$ ) et reste stable par la suite. Le défi est l'adaptation rapide et efficace aux nouvelles conditions pour la durée de vie restante du dispositif.
Régime de Dérive de Concept (Concept Drift Regime) : La distribution change plusieurs fois de manière continue et imprévisible ( $p_{t-1} \neq p_t$ ). L'accent est mis sur l'adaptation rapide aux nouvelles conditions tout en écartant ou en dévaluant les connaissances passées non pertinentes.
Régime d'Apprentissage Continu (Continual Learning Regime) : De nouveaux concepts sont introduits de manière incrémentale au fil du temps. La solution doit accumuler de nouvelles connaissances sans oublier les informations précédemment apprises (traitant ainsi l'oubli catastrophique). Bien que formellement similaire à la dérive de concept en termes de changement de distribution, l'hypothèse concernant la pertinence des connaissances passées et les critères d'évaluation diffère significativement.

Pour chaque régime, l'enquête analyse la littérature à travers trois lentilles complémentaires :

Lentille d'Application : Les contextes et tâches du monde réel abordés (ex: détection de mots-clés, calibration de capteurs, interfaces cerveau-machine).
Lentille Matérielle (Hardware) : Les dispositifs cibles, allant des processeurs ultra-contraints (ex: Cortex-M0, ISPU) aux MCU standards (Cortex-M4/M7) et aux plateformes parallèles à ultra-basse consommation (PULP).
Lentille de Solution : La composition technique des solutions ODL, décomposée en quatre composants :
- $R(\cdot)$ : Réduction de dimensionnalité (ex: CNN gelés, extracteurs de caractéristiques statistiques).
- $B$ : Gestion des données (stratégies de mise en mémoire tampon, conditions d'admission/déclenchement).
- $f_t(\cdot)$ : L'algorithme de ML (ex: DNN, SVM, KNN).
- $L$ : Le mécanisme d'apprentissage (ex: rétropropagation, mises à jour par propagation directe uniquement, génération de prototypes).

L'enquête formalise également le problème de l'ODL, définissant les contraintes sur la mémoire ( $M_D$ ), la fréquence d'horloge ( $F_D$ ), la puissance et le temps d'exécution ( $E$ ), et établit des protocoles d'évaluation spécifiques à chaque régime (ex: évaluation préquentiale pour la dérive de concept, évaluation longitudinale pour l'apprentissage continu).

3. Contributions Clés

Taxonomie centrée sur les régimes : C'est la première enquête qui organise toute la littérature ODL autour du régime de changement de distribution (Changement Unique, Dérive de Concept, Apprentissage Continu), arguant que les solutions conçues pour un régime ne sont pas directement comparables à celles d'un autre en raison des différences d'hypothèses sur les connaissances passées et les objectifs d'adaptation.
Portée exhaustive : L'enquête couvre environ 70 travaux, élargissant considérablement les efforts précédents (qui en recensaient environ 10) et capturant le corpus substantiel de recherches publiées après 2023.
Analyse multi-lentilles : En analysant les travaux simultanément à travers les lentilles d'application, de matériel et de solution, l'enquête révèle des modèles transversaux, tels que la corrélation entre la capacité matérielle et la complexité du régime, ainsi que le désalignement entre la recherche orientée méthode et la recherche orientée application.
Identification des lacunes structurelles : L'article identifie un décalage entre les contributions méthodologiques (souvent focalisées sur l'optimisation de la rétropropagation sur des benchmarks standards) et les travaux orientés application (qui privilégient l'efficacité des étiquettes et les contraintes du monde réel). Il souligne que les travaux méthodologiques traitent rarement simultanément de la rareté des données étiquetées et des contraintes complètes du pipeline (mémoire, latence, puissance).

4. Résultats et Constatations Clés

Constatations sur les Applications

Désalignement des tâches : Les travaux orientés méthode utilisent principalement des benchmarks de classification d'images (CIFAR, MNIST) qui sont souvent trop exigeants en calcul pour un TinyML réel. Inversement, les travaux orientés application se concentrent sur des tâches telles que la détection de mots-clés (KWS), la reconnaissance d'activités humaines (HAR) et la calibration de capteurs, qui manquent de benchmarks standardisés.
Stratégies d'acquisition d'étiquettes : Les travaux orientés application réussis traitent l'acquisition d'étiquettes comme une exigence de conception de premier ordre. Les stratégies incluent l'apprentissage à quelques exemples (few-shot learning), l'apprentissage auto-supervisé (utilisant des capteurs auxiliaires), l'apprentissage non supervisé (pour la détection d'anomalies) et l'étiquetage implicite via des stimuli structurés.
Distribution des régimes : Les travaux orientés application sont fortement concentrés dans le régime de Changement Unique (ex: personnalisation de la KWS, calibration de capteurs). Les régimes de Dérive de Concept et d'Apprentissage Continu sont dominés par les travaux orientés méthode, avec très peu de déploiements d'applications réelles rapportés.

Constatations sur le Matériel (Hardware)

Corrélation Matériel-Régime : Il existe une relation monotone entre la capacité matérielle et la complexité du régime.
- Les processeurs ultra-contraints (Cortex-M0, ISPU) apparaissent presque exclusivement dans le régime de Changement Unique en raison de leurs limites strictes de mémoire et de calcul.
- Les MCU standards (Cortex-M4/M7) couvrent les trois régimes mais sont sous-représentés dans l'Apprentissage Continu en raison des contraintes de mémoire pour les tampons de relecture (replay buffers).
- Les plateformes PULP (multi-cœurs, ex: GAP9) dominent le régime d'Apprentissage Continu, car elles sont la seule classe actuellement capable de supporter les exigences élevées de mémoire et de calcul des algorithmes d'apprentissage continu.
Lacunes de reporting : Le reporting matériel est incohérent. Des métriques comme la RAM de pointe et l'énergie sont souvent rapportées par instance, par batch ou par époque sans standardisation, rendant la comparaison entre les travaux difficile.

Constatations sur les Solutions

Modèles de composants :
- Réduction de dimensionnalité ( $R$ ) : Les CNN pré-entraînés gelés sont le choix dominant pour les entrées image/audio, tandis que des fonctions identité ou des extracteurs statistiques sont utilisés pour les données de capteurs de faible dimension.
- Gestion des données ( $B$ ) : Le fonctionnement entièrement en ligne ( $|\Delta|=1$ ) domine les régimes de Changement Unique et de Dérive de Concept. La mise en mémoire tampon explicite est structurellement nécessaire dans l'Apprentissage Continu pour prévenir l'oubli catastrophique.
- Mécanisme d'apprentissage ( $L$ ) : La rétropropagation complète est le standard pour l'Apprentissage Continu (supportée par des tampons de relecture). Dans le Changement Unique et la Dérive de Concept, des alternatives plus légères (mises à jour par propagation directe uniquement, classificateurs basés sur des prototypes, KNN) sont prévalentes.
Écart d'optimisation : Les travaux méthodologiques optimisent intensément la rétropropagation (sparsification, quantification), pourtant ces optimisations sont rarement adoptées dans les déploiements orientés application. Cela suggère un décalage où les améliorations algorithmiques ne sont pas validées par rapport aux contraintes complètes du pipeline (ex: stratégie d'étiquetage, coûts de mise en mémoire tampon des données).

5. Signification et Revendications

L'article affirme que le régime de changement de distribution est le facteur critique, bien que précédemment négligé, qui détermine la faisabilité et la conception des solutions ODL. En distinguant explicitement le Changement Unique, la Dérive de Concept et l'Apprentissage Continu, l'enquête fournit un cadre pour une comparaison significative qui manquait à la littérature antérieure.

Les auteurs affirment modestement que leur travail met en lumière un écart structurel dans le domaine : les progrès algorithmiques et le développement d'applications progressent en parallèle avec une faible fertilisation croisée. Ils soutiennent que le domaine nécessite :

Des cadres d'évaluation standardisés : Des benchmarks qui fixent les budgets matériels, les composants de solution et les contraintes de déploiement (incluant la rareté des étiquettes) pour permettre une comparaison équitable.
Des outils de conception de bout en bout : Des frameworks logiciels qui traitent l'ensemble du pipeline ODL ( $R, B, f, L$ ) comme des objets optimisables conjointement, plutôt que d'optimiser les composants isolément.
Du matériel pour l'ODL : Un passage de l'adaptation des architectures d'entraînement dans le cloud vers la conception de matériel spécifiquement dédié aux contraintes de l'ODL (étiquettes rares, pas de validation sur l'appareil, budgets de puissance serrés).

L'enquête conclut que si l'ODL élargit le champ des applications TinyML, réaliser cette vision nécessite de traiter le désalignement entre les benchmarks méthodologiques et les scénarios de déploiement réels, particulièrement en ce qui concerne l'efficacité des étiquettes et les demandes spécifiques des régimes d'apprentissage non stationnaires.