Embedded Machine Learning for Microcontroller-Class Edge Devices: Data, Feature, Evaluation, and Deployment Pipelines

Résumé technique : Apprentissage automatique embarqué pour les dispositifs de bord de classe microcontrôleur

Énoncé du problème
L'article traite des défis d'ingénierie liés au déploiement de l'inférence d'apprentissage automatique (ML) sur des dispositifs de bord de classe microcontrôleur. Contrairement aux serveurs cloud ou aux ordinateurs monocartes, les microcontrôleurs fonctionnent sous des contraintes sévères : mémoire vive (RAM) et flash limitées, budgets énergétiques stricts, et la nécessité d'un fonctionnement déterministe et en temps réel sans mémoire virtuelle. Le problème central est que les flux de travail ML standards, souvent conçus pour des environnements à hautes ressources, ne tiennent pas compte des exigences de co-conception de l'acquisition de signaux, de la représentation des caractéristiques, de l'architecture du modèle et de l'exécution au runtime sur ces plateformes contraintes. Un système embarqué fiable doit non seulement exécuter un modèle probabiliste, mais aussi l'intégrer dans une boucle de contrôle déterministe qui gère l'échantillonnage, le tamponnage et l'actionnement sans perte de données ni violation de latence.

Méthodologie
L'article propose une synthèse orientée système d'un flux de travail de ML embarqué, traitant le processus comme un cycle d'ingénierie en boucle fermée plutôt que comme un pipeline d'entraînement linéaire. La méthodologie est illustrée par deux études de cas représentatives :

1. Reconnaissance de mouvement inertiel : Des données brutes d'accéléromètre triaxiaux sont capturées dans des fenêtres de deux secondes. Au lieu de nourrir directement un réseau avec les échantillons bruts, le pipeline calcule des caractaux de type Valeur efficace (RMS) et Densité spectrale de puissance (PSD). Cela réduit la dimensionnalité de l'entrée de centaines d'échantillons bruts à un vecteur compact de 33 caractéristiques, qui est ensuite classifié par un petit réseau entièrement connecté.
2. Détection de mots-clés (Keyword Spotting) : L'audio est échantillonné, passe par un filtre anti-repliement et est converti en coefficients cepstraux sur l'échelle de Mel (MFCC). Une approche par fenêtre glissante met à jour la matrice MFCC, qui est ensuite traitée par un réseau de neurones convolutifs (CNN) unidimensionnel compact pour distinguer les mots-clés cibles du bruit et des mots inconnus.

La méthodologie met l'accent sur des décisions d'ingénierie spécifiques souvent omises dans les introductions génériques au ML :

• Curation des données : S'assurer que les données d'entraînement correspondent aux conditions de déploiement (orientation du capteur, gain, bruit) et incluent des exemples négatifs représentatifs (bruit, états de repos) pour prévenir les problèmes de déséquilibre de classes.
• Extraction de caractéristiques comme compression : Utiliser des caractéristiques informées par le signal (RMS, PSD, MFCC) pour réduire la demande en mémoire et en multiplications-accumulations (MAC), échangeant efficacement le volume de données brutes contre l'efficacité computationnelle.
• Co-conception au runtime : Implémenter l'allocation statique de la mémoire, le double-buffering pour l'acquisition et l'inférence, ainsi qu'un ordonnancement déterministe (utilisant des minuteurs, des tâches RTOS ou le DMA) pour garantir que l'inférence se termine dans le pas de la fenêtre (window stride).
• Évaluation : Aller au-delà de la simple précision pour utiliser des matrices de confusion, des scores F1 par classe et un lissage temporel afin d'évaluer la fiabilité dans des scénarios réels et déséquilibrés.

Contributions clés
La principale contribution de l'article est un pipeline de référence centré sur le déploiement qui relie la curation des données, le fenêtrage, l'extraction de caractéristiques, l'entraînement, l'évaluation et l'exécution au runtime. Les contributions spécifiques clés incluent :

• Un flux de travail unifié : Une approche structurée applicable à divers frameworks (ex. : Edge Impulse, TensorFlow Lite Micro, CMSIS-NN) qui donne la priorité à la transition des signaux bruts vers des tenseurs d'entrée bornés.
• Règles de conception pratiques : Huit règles exploitables pour les ingénieurs, incluant le fait de commencer par les budgets de ressources, de traiter les jeux de données comme des artefacts de test de produit, de valider à travers des variations réalistes (utilisateurs, environnements) et de versionner l'ensemble du pipeline (modèle + prétraitement + seuils).
• Cadre d'évaluation : Un ensemble de métriques adaptées au déploiement embarqué, soulignant qu'un modèle est déterminé par une combinaison de qualité prédictive (précision, rappel, F1) et de faisabilité au niveau système (latence, utilisation RAM/Flash, énergie par inférence).
• Motifs d'études de cas : Une analyse détaillée montrant comment la reconnaissance de mouvement fenêtrée et la détection de mots-clés en streaming partagent une structure commune : acquisition à taux fixe, fenêtrage borné, extraction de caractéristiques compacte, inférence légère et logique de décision déterministe.

Résultats et conclusions
L'article ne présente pas de nouveaux résultats expérimentaux ou de comparaison de modèles spécifiques entre eux. Au lieu de cela, il synthétise des pratiques d'ingénierie établies en un cadre cohérent. Les « résultats » sont les motifs de conception dérivés et la démonstration que :

• L'extraction de caractéristiques (ex. : convertir 375 valeurs d'accéléromètre brutes en 33 caractéristiques) réduit considérablement la dimensionnalité d'entrée du modèle, rendant les classificateurs à faible empreinte réalisables sur des microcontrôleurs.
• Le déséquilibre des classes est un mode de défaillance critique ; les modèles entraînés sans exemples négatifs représentatifs (bruit, repos) échouent souvent lors du déploiement malgré une haute précision sur des ensembles de test équilibrés.
• Le déploiement nécessite plus que la conversion de modèle ; il nécessite une allocation statique de la mémoire, une taille de tenseur soigneusement définie et une logique de post-traitement (seuils, hystérésis, machines à états) pour convertir les sorties probabilistes en actions déterministes.
• Le rapport scientifique dans ce domaine est souvent insuffisant ; l'article plaide pour un rapport complet des spécifications de l'appareil, des fréquences d'horloge, des empreintes mémoire et de la latence de bout en bout pour assurer la reproductibilité.

Signification et affirmations
L'article affirme que l'apprentissage automatique embarqué doit être traité comme une discipline de conception au niveau système plutôt que comme le simple acte de placer un modèle entraîné sur un petit dispositif. Sa signification réside dans le déplacement de l'attention de la nouveauté algorithmique vers la robustesse de l'ingénierie. Les auteurs soutiennent que les choix de conception les plus critiques surviennent souvent en dehors du réseau de neurones lui-même — dans les taux d'échantillonnage, les longueurs de fenêtre, la sélection des caractéristiques et l'ordonnancement au runtime.

L'article conclut que les progrès futurs dans ce domaine dépendent de la co-conception rigoureuse de la collecte de données, de la représentation des caractéristiques, de l'exécution au runtime et des contraintes matérielles. Il postule que pour que le ML embarqué mûrisse, la communauté doit aller au-delà du rapport de la précision hors ligne et proposer des solutions holistiques et déployables qui tiennent compte de l'énergie, de la latence, de la mémoire et de la fiabilité sur le terrain à long terme. Le flux de travail présenté sert de blueprint pour construire des systèmes intelligents robustes, respectueux de la vie privée et maintenables sur du matériel aux ressources limitées.