Active Learning for Optimal Experimental Design in Machine Learning-Based Building Energy System Identification

Technische Samenvatting: Active Learning voor Optimaal Experimenteel Ontwerp in Machine Learning-gebaseerde Identificatie van Gebouwenergiesystemen

Probleemstelling
Machine learning (ML)-technieken worden steeds vaker toegepast voor het identificeren van de dynamiek van gebouwenergiesystemen (BES), met name de thermische dynamiek van HVAC-systemen, vanwege hun flexibiliteit in vergelijking met fysische modellering. De prestaties van deze datagestuurde modellen zijn echter sterk afhankelijk van de kwaliteit van de trainingsdata. Standaard benaderingen vertrouwen vaak op passief leren (PL) met uniform willekeurige controle-inputs (bijv. PRBS, witte ruis), wat inefficiënt kan zijn en enorme hoeveelheden gegevens vereist om nietlineaire systeemdynamica nauwkeurig te schatten. Dit artikel adresseert de behoefte aan Optimal Experimental Design (OED) om te bepalen welke experimenten uitgevoerd moeten worden om de meest informatieve data te verzamelen. Hoewel OED en Active Learning (AL) vergelijkbare onderliggende mechanismen delen, hebben bestaande studies naar gebouwenergie grotendeels enkelvoudige, ad-hoc acquisitiefuncties toegepast zonder een systematische vergelijking tussen verschillende AL-paradigma's of ML-modelklassen. Bovendien richten veel eerdere werken zich op statische voorspelling of classificatie in plaats van online dynamische systeemidentificatie onder realistische controlebeperkingen.

Methodologie
De studie stelt een systematische vergelijking voor van veertien AL-technieken toegepast op de identificatie van thermische dynamiek van gebouwen. De methodologie is gestructureerd rond de volgende componenten:

1. Systeemformulering: Het probleem wordt gemodelleerd als een discreet-tijd dynamisch systeem waarbij het doel is om een benadering te leren van de onbekende nietlineaire functie $f$ die de transitie regelt van staat $x_k$ en controle-input $u_k$ naar de opvolgerstoestand $x_{k+1}$.
2. Modelklassen: Twee verschillende ML-architecturen worden geëvalueerd:
   • Deterministisch: Een Feedforward Neuraal Netwerk (NN) dat de dynamiek benadert via puntvoorspellingen.
   • Stochastisch: Een Gaussian Process (GP) die een posterior predictieve distributie biedt met natuurlijke onzekerheidsschattingen.
3. Active Learning Taxonomie: De veertien technieken zijn gecategoriseerd in vier groepen op basis van hun acquisitiefunctie-logica:
   • Data Ruimte: Methoden die vertrouwen op geometrische structuur (Greedy Sampling, Inverse Distance Weighting).
   • Onzekerheid: Methoden die zich richten op regio's met hoge predictieve onzekerheid (Query-by-Committee, Monte Carlo Dropout voor NN; Maximize Variance, Integrated Variance Reduction voor GP).
   • Informatiewinst: Methoden die zich richten op hyperparameter-schatting (Fisher Information, Shannon Entropy voor GP).
   • Modelverandering: Methoden die zich richten op de grootste verwachte update van modelparameters (Expected Model Change Maximization, Maximize Last Layer Change voor NN; Upper Confidence Bound, Probability of Improvement voor GP).
4. Experimentele Opstelling: Alle algoritmen zijn geïmplementeerd en geëvalueerd op de BOPTEST high-fidelity simulator, die Modelica gebruikt om realistische HVAC-dynamiek te modelleren. De studie maakt gebruik van een online leerframework met batch-updates (her-trainen elke 10 samples).
5. Testscenario's: Prestaties worden beoordeeld aan de hand van zes scenario's die variëren in:
   • Initiële Datasetgrootte: 2 datapunten (data-schaars) versus 10 datapunten.
   • Controlebeperkingen: Strakke ramp-beperkingen (simulatie van realistische HVAC-limieten) versus brede ramp-beperkingen.
   • Evaluatiemetrieken: Root Mean Square Error (RMSE) berekend over drie tijdvensters (0–2u, 0–12u, 0–24u) en gerapporteerd als zowel venstergemiddelde als finale tijdstapwaarden.

Belangrijkste Bijdragen
Het artikel levert drie primaire bijdragen:

1. Systematische Taxonomie: Het classificeert formeel en leidt acquisitiefuncties af voor veertien AL-technieken over zowel deterministische (NN) als stochastische (GP) modelklassen, georganiseerd in de vier genoemde categorieën.
2. High-Fidelity Evaluatie: In tegenstelling tot eerdere studies die steunen op statische datasets of eenvoudige virtuele testbedden, implementeert en evalueert dit werk alle technieken op de BOPTEST-simulator, waarbij realistische HVAC-dynamiek en controlebeperkingen worden meegenomen.
3. Uitgebreide Empirische Vergelijking: De studie biedt een brede empirische analyse over variërende initiële datagrootte en operationele beperkingen, waarbij alle AL-methoden worden afgezet tegen een passief leer-baseline met uniform willekeurige inputs.

Resultaten
De simulatie-resultaten geven aan dat AL-gebaseerde modellen over het algemeen beter presteren dan passief leren (PL) met uniform willekeurige controle-inputs, waarbij foutreducties tot 54% worden bereikt in specifieke scenario's. Echter, de omvang en consistentie van deze verbeteringen variëren aanzienlijk per acquisitiefunctie, modelklasse en operationeel regime:

• Data-schaarse Regime (2 initiële punten, strakke beperkingen): AL-methoden tonen de meest significante voordelen.
  • Voor GP-modellen presteerden Integrated Variance Reduction (IVR) en Inverse Distance Weighting (IDWGP) sterk, waarbij IDWGP een 54% RMSE-reductie bereikte in het 0–12u venster.
  • Voor NN-modellen boden Query-by-Committee (QBC) en gradiënt-gebaseerde Model Change methoden (EMCM, MLLC) de grootste verbeteringen, waarbij QBC de gemiddelde RMSE in vroege vensters met 27–42% verminderde.
• Data-rijke Regime (10 initiële punten, losse beperkingen): Het voordeel van AL ten opzichte van PL neemt af. In verschillende scenario's met een middelmatig tot lang horizont presteerde PL vergelijkbaar met of zelfs beter dan specifieke AL-methoden (bijv. GSGP en SE voor GP; MCD voor NN).
• Model-specifieke Observaties:
  • Gaussian Processes: De Informatiewinst categorie (Fisher Information) werd de sterkste performer zodra de ramp-beperkingen matig werden versoepeld. De Data Ruimte methode GSGP faalde consistent in het verbeteren ten opzichte van PL in alle scenario's.
  • Neurale Netwerken: Uncertainty Sampling (met name QBC) bleef de meest consistent concurrerende categorie. Monte Carlo Dropout (MCD) slaagde er niet in om te verbeteren ten opzichte van PL in het data-schaarse scenario, wat wijst op kalibratieproblemen in deze context.
• Algemene Trend: De voordelen van OED zijn het meest uitgesproken en betrouwbaar wanneer de initiële trainingsdata schaars is en het toegestane controlebereik strikt beperkt is.

Betekenis en Claims
Het artikel claimt dat Active Learning-gebaseerd experimenteel ontwerp een waardevol instrument is voor de identificatie van gebouwenergiesystemen, met name in het data-schaarse regime waar het verzamelen van data duur of tijdrovend is. Het stelt vast dat er geen enkele acquisitiefunctie universeel superieur is; de optimale keuze hangt af van de modelklasse (deterministisch versus stochastisch) en de specifieke operationele beperkingen (beschikbaarheid van data en controle-ramp-limieten).

De studie dient als een baseline benchmark voor toekomstig onderzoek, waarbij wordt benadrukt dat hoewel AL de modelerror aanzienlijk kan verminderen (tot 54% in de beste gevallen), de voordelen niet gegarandeerd zijn in alle omstandigheden. De auteurs concluderen bescheiden dat hun werk zich richt op een relatief eenvoudig systeem (vier inputs, één output) en de computationele kosten niet beoordeelt, wat suggereert dat toekomstig werk deze bevindingen naar complexere nietlineaire systemen moet uitbreiden en een statistische analyse van de computationele overhead moet bevatten.