Active Learning for Optimal Experimental Design in Machine Learning-Based Building Energy System Identification

Résumé Technique : Apprentissage Actif pour la Conception Expérimentale Optimale dans l'Identification de Systèmes Énergétiques de Bâtiments basée sur l'Apprentissage Automatique

Énoncé du Problème
Les techniques d'apprentissage automatique (ML) sont de plus en plus adoptées pour identifier la dynamique des systèmes énergétiques de bâtiments (BES), particulièrement la dynamique thermique des CVC (chauffage, ventilation et climatisation), en raison de leur flexibilité par rapport à la modélisation physique. Cependant, la performance de ces modèles fondés sur les données dépend fortement de la qualité des données d'entraînement. Les approches standards reposent souvent sur l'apprentissage passif (PL) avec des entrées de commande uniformément aléatoires (ex. : PRBS, bruit blanc), ce qui peut être inefficace et nécessite des ensembles de données massifs pour estimer précisément la dynamique des systèmes non linéaires. L'article répond au besoin de conception expérimentale optimale (OED) pour déterminer quelles expériences mener afin de collecter les données les plus informatives. Bien que l'OED et l'apprentissage actif (AL) partagent des mécanismes sous-jacents, les études existantes sur l'énergie du bâtiment ont largement appliqué des fonctions d'acquisition uniques et ad hoc sans comparaison systématique entre différents paradigmes d'AL ou classes de modèles ML. De plus, de nombreux travaux antérieurs se concentrent sur la prédiction ou la classification statique plutôt que sur l'identification de systèmes dynamiques en ligne sous des contraintes de commande réalistes.

Méthodologie
L'étude propose une comparaison systématique de quatorze techniques d'AL appliquées à l'identification de la dynamique thermique des bâtiments. La méthodologie est structurée autour des composants suivants :

1. Formulation du Système : Le problème est modélisé comme un système dynamique à temps discret où l'objectif est d'apprendre une approximation de la fonction non linéaire inconnue $f$ régissant la transition de l'état $x_k$ et de l'entrée de commande $u_k$ vers l'état suivant $x_{k+1}$.
2. Classes de Modèles : Deux architectures de ML distinctes sont évaluées :
   • Déterministe : Un réseau de neurones (NN) à propagation avant (feedforward) approximant la dynamique via des prédictions ponctuelles.
   • Stochastique : Un processus gaussien (GP) fournissant une distribution prédictive a posteriori avec des estimations d'incertitude natives.
3. Taxonomie de l'Apprentissage Actif : Les quatorze techniques sont classées en quatre groupes basés sur la logique de leur fonction d'acquisition :
   • Espace de Données : Méthodes reposant sur la structure géométrique (Échantillonnage Gourmand [Greedy Sampling], Pondération par l'Inverse de la Distance [Inverse Distance Weighting]).
   • Incertitude : Méthodes ciblant les régions de haute incertitude prédictive (Échantillonnage par Comité [Query-by-Committee], Dropout de Monte Carlo pour les NN ; Maximisation de la Variance, Réduction de la Variance Intégrée pour les GP).
   • Gain d'Information : Méthodes ciblant l'estimation des hyperparamètres (Information de Fisher, Entropie de Shannon pour les GP).
   • Changement de Modèle : Méthodes ciblant la plus grande mise à jour attendue des paramètres du modèle (Maximisation du Changement de Modèle Attendu [Expected Model Change Maximization], Maximisation du Changement de la Dernière Couche [Maximize Last Layer Change] pour les NN ; Borne de Confiance Supérieure [Upper Confidence Bound], Probabilité d'Amélioration pour les GP).
4. Configuration Expérimentale : Tous les algorithmes sont implémentés et évalués sur le simulateur haute fidélité BOPTEST, qui utilise Modelica pour modéliser des dynamiques CVC réalistes. L'étude emploie un cadre d'apprentissage en ligne avec des mises à jour par lots (réentraînement tous les 10 échantillons).
5. Scénarios de Test : La performance est évaluée à travers six scénarios variant en :
   • Taille Initiale du Jeu de Données : 2 points de données (pénurie de données) vs 10 points de données.
   • Contraintes de Commande : Contraintes de rampe serrées (simulant des limites CVC réalistes) vs contraintes de rampe larges.
   • Métriques d'Évaluation : Erreur Quadratique Moyenne (RMSE) calculée sur trois fenêtres temporelles (0–2h, 0–12h, 0–24h) et rapportée à la fois comme moyenne de fenêtre et comme valeurs du pas de temps final.

Principales Contributions
L'article présente trois contributions primaires :

1. Taxonomie Systématique : Il classifie formellement et dérive les fonctions d'acquisition pour quatorze techniques d'AL à travers les deux classes de modèles déterministes (NN) et stochastiques (GP), organisées selon les quatre catégories mentionnées ci-dessus.
2. Évaluation Haute Fidélité : Contrairement aux études antérieures reposant sur des jeux de données statiques ou des bancs d'essai virtuels simples, ce travail implémente et évalue toutes les techniques sur le simulateur BOPTEST, intégrant des dynamiques CVC et des contraintes de commande réalistes.
3. Comparaison Empirique Complète : L'étude fournit une analyse empirique large à travers diverses tailles de données initiales et contraintes opérationnelles, comparant toutes les méthodes d'AL à une base de référence d'apprentissage passif (PL) avec des entrées uniformément aléatoires.

Résultats
Les résultats de la simulation indiquent que les modèles basés sur l'AL surpassent généralement l'apprentissage passif (PL) avec des entrées de commande uniformément aléatoires, atteignant des réductions d'erreur allant jusqu'à 54 % dans des scénarios spécifiques. Cependant, l'ampleur et la cohérence de ces améliorations varient considérablement selon la fonction d'acquisition, la classe de modèle et le régime de fonctionnement :

• Régime de Pénurie de Données (2 points initiaux, contraintes serrées) : Les méthodes d'AL montrent les bénéfices les plus significatifs.
  • Pour les modèles GP, la Réduction de la Variance Intégrée (IVR) et la Pondération par l'Inverse de la Distance (IDWGP) ont performé fortement, l'IDWGP atteignant une réduction de RMSE de 54 % dans la fenêtre 0–12h.
  • Pour les modèles NN, l'Échantillonnage par Comité (QBC) et les méthodes de Changement de Modèle basées sur le gradient (EMCM, MLLC) ont apporté les plus grandes améliorations, le QBC réduisant la RMSE moyenne de 27 à 42 % dans les premières fenêtres.
• Régime de Richesse de Données (10 points initiaux, contraintes larges) : L'avantage de l'AL sur le PL diminue. Dans plusieurs scénarios à horizon moyen ou long, le PL a performé de manière comparable ou supérieure à certaines méthodes d'AL (ex. : GSGP et SE pour les GP ; MCD pour les NN).
• Observations Spécifiques aux Modèles :
  • Processus Gaussiens : La catégorie Gain d'Information (Information de Fisher) est devenue la plus performante une fois les contraintes de rampe modérément assouplies. La méthode de l'espace de données GSGP a systématiquement échoué à s'améliorer par rapport au PL dans tous les scénarios.
  • Réseaux de Neurones : L'Échantillonnage d'Incertitude (spécifiquement le QBC) est resté la catégorie la plus systématiquement compétitive. Le Dropout de Monte Carlo (MCD) n'a pas réussi à s'améliorer par rapport au PL dans le scénario de pénurie de données, suggérant des problèmes de calibration dans ce contexte.
• Tendance Générale : Les bénéfices de l'OED sont les plus prononcés et les plus fiables lorsque les données d'entraînement initiales sont rares et que la plage de commande admissible est étroitement contrainte.

Signification et Revendications
L'article affirme que la conception expérimentale basée sur l'apprentissage actif est un outil précieux pour l'identification des systèmes énergétiques de bâtiments, particulièrement dans le régime de pénurie de données où la collecte de données est coûteuse ou chronophage. Il établit qu'aucune fonction d'acquisition unique n'est universellement supérieure ; le choix optimal dépend de la classe de modèle (déterministe vs stochastique) et des contraintes opérationnelles spécifiques (disponibilité des données et limites de rampe de commande).

L'étude sert de référence de base (benchmark) pour les recherches futures, soulignant que bien que l'AL puisse réduire considérablement l'erreur de modèle (jusqu'à 54 % dans les meilleurs cas), ses bénéfices ne sont pas garantis dans toutes les conditions. Les auteurs concluent modestement que leur travail se concentre sur un système relativement simple (quatre entrées, une sortie) et n'évalue pas les coûts computationnels, suggérant que les travaux futurs devraient étendre ces conclusions à des systèmes non linéaires plus complexes et inclure une analyse statistique des coûts de calcul.