Lightweight and Scalable Transfer Learning Framework for Load Disaggregation

Ce papier présente RefQuery, un cadre d'apprentissage par transfert léger et évolutif pour la désagrégation de charge qui utilise des empreintes d'appareils compactes et un réseau préentraîné figé pour permettre une adaptation efficace aux nouvelles maisons avec peu de données, rendant ainsi le déploiement temps réel possible sur des appareils à ressources limitées.

L'essentiel

Imaginez que votre tableau électrique est comme un orchestre géant. Chaque appareil électroménager (frigo, machine à laver, four) joue sa propre partition. Le problème, c'est que le compteur intelligent ne vous donne qu'un seul enregistrement : le bruit global de tout l'orchestre joué en même temps.

L'objectif de la NILM (Surveillance Non Intrusive de la Charge) est de réécouter cet enregistrement unique et de dire : "Ah, là c'est le frigo qui a démarré, et là c'est le four qui s'est allumé."

Le papier que vous avez soumis propose une nouvelle méthode appelée RefQuery. Voici comment cela fonctionne, expliqué simplement avec des analogies du quotidien.

1. Le Problème : L'Orchestre change de ville

Jusqu'à présent, les ordinateurs étaient très bons pour écouter l'orchestre d'une maison spécifique (disons, la maison de M. Martin). Mais si on envoyait ce même "oreille d'ordinateur" dans la maison de Mme. Dupont, ça ne marchait plus.

• Pourquoi ? Parce que le frigo de M. Martin fait un bruit différent de celui de Mme. Dupont. Les habitudes sont différentes.
• L'ancien problème : Pour adapter le système à chaque nouvelle maison, il fallait souvent réapprendre tout le système de zéro, ou installer un modèle différent pour chaque appareil. C'était lent, lourd et impossible à faire sur un petit boîtier connecté (comme un compteur intelligent) qui a peu de mémoire.

2. La Solution : RefQuery, le "Chef d'Orchestre" universel

Les auteurs proposent RefQuery, une méthode intelligente qui fonctionne comme un chef d'orchestre universel avec un carnet de notes très léger.

Voici les trois étapes de leur méthode, imagées :

Étape 1 : L'Entraînement (Le Chef apprend la musique)

Le système est d'abord entraîné sur des données de nombreuses maisons (la "source"). Il apprend à reconnaître les motifs de base : "Quand on entend ce type de bourdonnement, c'est souvent un appareil qui s'allume."

• L'analogie : C'est comme un chef d'orchestre qui a joué dans 20 orchestres différents. Il connaît par cœur la partition générale. Il ne change rien à sa connaissance de la musique (le modèle est "figé").

Étape 2 : L'Adaptation (Le "Sifflet" personnalisé)

Maintenant, on arrive dans une nouvelle maison (la "cible"). Au lieu de réapprendre toute la musique, le système demande : "Quel est le son exact de ce frigo ici ?"

• La magie : Le système ne touche pas à son cerveau (le modèle principal reste intact). Il crée juste une petite carte d'identité numérique (un "embedding") pour chaque appareil de cette maison précise.
• L'analogie : Imaginez que le chef d'orchestre a un sifflet. Pour chaque nouvel appareil, il ne réapprend pas à jouer, il ajuste juste la fréquence de son sifflet pour correspondre exactement au son de ce frigo précis. C'est ultra-rapide et ça ne prend presque pas de place.

Étape 3 : La Détection (L'écoute en direct)

Une fois que le système a ces petites cartes d'identité (les "empreintes digitales" des appareils), il peut écouter le courant électrique en temps réel.

• Comment ? Il compare le bruit du courant avec la carte d'identité du frigo. Si ça correspond, il dit : "Le frigo est allumé !"
• L'avantage : Comme le chef d'orchestre n'a pas besoin de réapprendre la musique, il peut ajouter un nouvel appareil (ex: un four à micro-ondes) en quelques secondes, juste en créant une nouvelle carte d'identité.

Pourquoi c'est révolutionnaire ?

1. Léger comme une plume :
   Les anciennes méthodes étaient comme des camions de déménagement (trop gros pour un petit boîtier). RefQuery est comme un sac à dos. Il est si léger qu'on peut le faire tourner directement sur le compteur électrique de la maison, sans envoyer les données vers un serveur lointain (ce qui protège la vie privée).

2. Économique en données :
   Habituellement, il faut des semaines de données pour entraîner un modèle. Ici, avec RefQuery, il suffit de quelques jours (voire une journée) de données pour adapter le système à une nouvelle maison. C'est comme apprendre à reconnaître le visage d'un ami en le voyant juste une fois, au lieu de devoir le voir tous les jours pendant un an.

3. Flexible :
   Si vous achetez un nouvel appareil demain, pas besoin de changer tout le système. Le système crée juste une nouvelle "carte d'identité" pour cet appareil et continue de fonctionner.

En résumé

RefQuery est une méthode intelligente qui permet de décomposer la consommation électrique de chaque appareil dans n'importe quelle maison, même si on ne l'a jamais vue avant.

Au lieu de réapprendre tout le système pour chaque maison (ce qui est lent et coûteux), il utilise un modèle de base fixe et crée juste de petites empreintes digitales pour chaque appareil local. C'est rapide, précis, et parfait pour les petits appareils connectés de nos maisons intelligentes.

Résumé technique

1. Problématique

La Surveillance de Charge Non Intrusive (NILM) vise à estimer la consommation électrique au niveau de chaque appareil à partir d'un signal électrique global mesuré à un seul point (le compteur principal). Bien que les approches par apprentissage profond (Deep Learning) aient amélioré la précision, elles se heurtent à deux défis majeurs pour un déploiement réel sur des appareils de périphérie (edge devices) :

• Généralisation inter-domaines : Les modèles entraînés sur un ensemble de données source (ex: maisons britanniques) perdent en précision lorsqu'ils sont déployés dans une maison cible différente en raison des variations des caractéristiques des appareils, des habitudes d'utilisation et des charges de fond.
• Contraintes de ressources et d'évolutivité : Les méthodes existantes sont souvent trop lourdes pour les dispositifs à ressources limitées (mémoire, calcul). De plus, l'approche classique « un modèle par appareil » augmente linéairement le stockage avec le nombre d'appareils, tandis que les modèles multi-appareils fixes manquent de flexibilité pour l'ajout dynamique de nouveaux appareils sans réentraînement complet.

2. Méthodologie : Le Cadre RefQuery

L'article propose RefQuery, un cadre de décomposition de charge multi-appareils et multi-tâches basé sur l'apprentissage par transfert. Son innovation centrale réside dans l'utilisation d'empreintes d'appareils (embeddings) compactes pour conditionner un modèle unique, évitant ainsi la nécessité d'avoir un ensemble de sortie fixe.

Le processus se déroule en trois étapes :

• Étape I : Entraînement sur le domaine source

  • Un réseau de neurones partagé (extracteur de caractéristiques $f_\theta$ et tête de prédiction $h_\phi$) est entraîné sur des données étiquetées provenant de plusieurs bâtiments sources.
  • Le modèle apprend à mapper une fenêtre de référence (représentant l'activité typique d'un appareil) et une fenêtre de requête (le signal global) vers une prédiction de puissance et d'état (ON/OFF).
  • L'architecture utilise un encodeur CNN 1D léger (5 couches convolutives) et une tête multitâche optimisant conjointement la perte de puissance (MSE) et la perte d'état (BCE).

• Étape II : Adaptation légère sur le domaine cible

  • Pour s'adapter à une nouvelle maison cible, le réseau principal (poids $\theta$ et $\phi$) est complètement gelé.
  • Seule une empreinte de référence spécifique à l'appareil ($\tilde{e}^{(k)}_r$) est apprise pour chaque nouvel appareil cible via une rétropropagation légère.
  • Cela ne nécessite que l'optimisation de $E$ paramètres (la dimension de l'embedding) par appareil, au lieu de réentraîner tout le réseau. Cela permet une personnalisation rapide avec très peu de données étiquetées.

• Étape III : Inférence sur le domaine cible

  • Le modèle utilise l'empreinte apprise et le signal global pour décomposer la charge en temps réel.
  • Le système est capable d'ajouter de nouveaux appareils de manière incrémentielle sans modifier les paramètres globaux du modèle.

3. Contributions Clés

• Cadre conditionné par empreinte : RefQuery permet à un seul modèle partagé de gérer de nombreux appareils en changeant uniquement l'embedding de référence, éliminant la rigidité des architectures à ensemble d'appareils fixe.
• Mécanisme d'adaptation ultra-léger : La séparation stricte entre le modèle global (gelé) et les paramètres spécifiques à l'appareil (embeddings) réduit drastiquement les besoins en calcul et en mémoire lors de l'adaptation.
• Évolutivité incrémentielle : Contrairement aux méthodes « un modèle par appareil » ou aux réseaux multi-tâches complexes, RefQuery permet d'ajouter des appareils sans réentraînement coûteux, idéal pour le déploiement sur edge.
• Validation rigoureuse : L'approche a été testée sur trois jeux de données publics (REDD, UK-DALE, REFIT) avec des scénarios de transfert inter-domaines et de données limitées.

4. Résultats Expérimentaux

Les expériences comparent RefQuery à des baselines de pointe (SA-S2P, MA-CNN, MA-TRF) :

• Précision et Robustesse :
  • RefQuery atteint des performances compétitives, surpassant souvent les méthodes basées sur CNN et Transformer, notamment sur les appareils multi-états (lave-vaisselle, machine à laver).
  • Dans des scénarios de données limitées (1 jour d'adaptation), RefQuery démontre une stabilité supérieure, avec une dégradation de la précision (F1-score) nettement moindre que les autres méthodes.
• Efficacité Computationnelle et Stockage :
  • Stockage : RefQuery réduit le stockage de 99,6 % par rapport à l'approche « un modèle par appareil » (SA-S2P) et de 90 % par rapport aux méthodes Transformer.
  • Temps d'adaptation : L'adaptation est environ 70 à 85 fois plus rapide que les baselines, car elle ne met à jour que quelques centaines de paramètres au lieu de tout le réseau.
  • Inférence : Le temps d'inférence est également significativement plus rapide (jusqu'à 9 fois plus rapide que SA-S2P), rendant le système viable pour le temps réel sur des processeurs faibles.
• Évolutivité : Le coût computationnel par appareil ajouté est négligeable, contrairement aux autres méthodes où l'ajout d'un appareil augmente la charge de manière disproportionnée.

5. Importance et Signification

Ce travail propose une voie pratique vers le déploiement de la NILM sur des dispositifs de périphérie contraints. En résolvant le compromis entre précision, flexibilité et coût computationnel, RefQuery permet :

1. La confidentialité des données : Tout le traitement et l'adaptation se font localement sur l'appareil.
2. La scalabilité économique : Un seul modèle peut être déployé dans des millions de foyers et s'adapter à chaque maison individuellement sans coût de stockage exponentiel.
3. La viabilité industrielle : La capacité à s'adapter avec très peu de données et à fonctionner en temps réel sur du matériel peu puissant rend cette technologie prête pour une intégration massive dans les compteurs intelligents et les systèmes de gestion de l'énergie domestique.

En résumé, RefQuery représente une avancée significative en transformant la NILM d'un problème nécessitant des modèles lourds et spécifiques en une solution légère, adaptable et scalable.