A Bayesian Optimization-Based AutoML Framework for Non-Intrusive Load Monitoring

Technische Samenvatting: Een op Bayesiaanse Optimalisatie gebaseerd AutoML-framework voor Non-Intrusive Load Monitoring

Probleemstelling
Non-Intrusive Load Monitoring (NILM), of energie-disaggregatie, heeft als doel het stroomverbruik van individuele apparaten te schatten door het geaggregeerde elektriciteitsverbruik van een woning te analyseren. Hoewel Intrusive Load Monitoring (ILM) een hoge nauwkeurigheid biedt via specifieke sensoren, is dit onpraktisch vanwege de hoge installatiekosten en privacyzorgen. NILM biedt een kosteneffectief alternatief, maar is sterk afhankelijk van complexe machine learning (ML)-pipelines. Traditioneel vereist het ontwikkelen van deze pipelines aanzienlijke domeinkennis in data science om handmatig modellen te selecteren en hyperparameters af te stemmen. Dit handmatige proces is tijdrovend, evalueert vaak slechts één model tegelijk en kan leiden tot suboptimale configuraties. Het artikel adresseert de behoefte aan een geautomatiseerd, toegankelijk framework dat systematisch optimale ML-modellen en hyperparameters kan identificeren voor energie-disaggregatie zonder dat hiervoor geavanceerde ML-expertise van de praktijkbeoefenaar vereist is.

Methodologie
De auteurs stellen AutoML4NILM voor, een flexibel, open-source framework dat Automated Machine Learning (AutoML) integreert met Bayesiaanse Optimalisatie om het NILM-probleem op te lossen.

1. Framework Architectuur: Het systeem automatiseert het ontwerp van ML-pipelines door modelselectie en hyperparameter-tuning te behandelen als een zoekprobleem. Het definieert een uitgebreide zoekruimte die 11 verschillende algoritmen omvat, waaronder:

   • Traditionele ML: Decision Trees (DT), Random Forests (RF).
   • Deep Learning: Fully-Connected Neural Networks, Gated Recurrent Units (GRU), Window-based GRU, Seq2Seq, Seq2Point, Long Short-Term Memory (LSTM) en Denoing Autoencoders (DAE).
   • Probabilistisch/Combinatorisch: Factorial Hidden Markov Models (FHMM) en Combinatorische Optimalisatie (CO).

2. Hyperparameter Zoekruimte: Het framework verkent een diverse set hyperparameters voor deze modellen, waaronder:

   • Boom-gebaseerd: Criterion, minimum samples split, aantal estimators.
   • Neurale Netwerken: Optimizers (Adam, Nadam), leersnelheden, verliesfuncties, aantal lagen, dropout-waarschijnlijkheid, sequentielengte en window-grootte.

3. Optimalisatiestrategie: De kernmotor maakt gebruik van Bayesiaanse Optimalisatie via de Hyperopt-bibliotheek. In tegen tegenstelling tot Grid- of Random Search, die evaluaties onafhankelijk behandelen, gebruikt Hyperopt Sequential Model-Based Optimization (SMBO) met Tree-structured Parzen Estimators (TPE). Deze aanpak gebruikt informatie uit eerdere evaluaties om intelligent door de zoekruimte te navigeren, waarbij de Expected Improvement (EI)-criterium wordt geoptimaliseerd om de beste modelconfiguratie met minder iteraties te vinden.

4. Experimentele Opzet:

   • Dataset: De UK-DALE dataset, die geaggregeerde en apparaat-specifieke gegevens bevat van vijf Britse huishoudens (2013–2015).
   • Preprocessing: Gegevens werden gesplitst in trainingssets (25 dagen), validatiesets (7 dagen) en testsets (de rest). Een bemonsteringsfrequentie van 60 Hz werd gekozen voor disaggregatie om een balans te vinden tussen detail en computationele kosten.
   • Metrieken: Prestaties werden geëvalueerd met behulp van Mean Absolute Error (MAE) voor regressienauwkeurigheid en Classification Accuracy voor staatdetectie (AAN/UIT).
   • Restricties: Experimenten waren beperkt tot 20 epochs en een maximaal aantal van 30 hyperparameter-evaluaties per algoritme vanwege beperkingen in computationele middelen (server crashes en onresponsiviteit traden op bij hogere evaluatieaantallen).

Belangrijkste Resultaten
De studie benchmarkte het AutoML4NILM-framework tegen de 11 ondersteunde algoritmen:

• Baseline Prestaties: Wanneer algoritmen afzonderlijk werden uitgevoerd met standaardconfiguraties, behaalde Seq2Point de laagste MAE (8,31) en een hoge nauwkeurigheid (97,98%). Omgekeerd presteerden Combinatorische Optimalisatie (CO) en FHMM slecht wat betreft MAE (respectievelijk 224 en 177,3), en Window-based GRU vertoonde de laagste nauwkeurigheid (80,9%).
• AutoML Optimalisatie: Wanneer het Bayesiaanse Optimalisatie-framework werd toegepast om hyperparameters af te stemmen:
  • Seq2Point bleef het superieure model, met een beste MAE van 7,12 met de configuratie: window size 20, learning rate 0,01 en Nadam optimizer.
  • Andere modellen vertoonden variërende graden van verbetering, maar geen enkele overtrof de geoptimaliseerde Seq2Point-prestaties.
  • Het framework identificeerde succesvol optimale configuraties binnen het beperkte budget van 30 evaluaties, wat de efficiëntie van Bayesiaanse Optimalisatie boven handmatige trial-and-error aantoont.

Betekenis en Claims
Het artikel positioneert AutoML4NILM als een belangrijke stap naar het democratiseren van NILM-onderzoek en -implementatie. De belangrijkste bijdragen zijn:

1. Toegankelijkheid: Het stelt domeinexperts in staat om geavanceerde ML-technieken toe te passen voor energie-disaggregatie zonder dat zij diepe expertise in data science of handmatige hyperparameter-tuning vereisen.
2. Efficiëntie: Het framework demonstreert een aanzienlijk verbeterde efficiëntie en superieure experimentele prestaties vergeleken met traditionele handmatige benaderingen die modellen één voor één evalueren.
3. Uitbreidbaarheid: Het framework is ontworpen met een modulaire architectuur die de toevoeging van nieuwe algoritmen en hyperparameters ondersteunt, wat verdere research en industriële adoptie bevordert.
4. Validatie: Door Seq2Point te identificeren als de optimale architectuur voor de UK-DALE dataset onder de geteste omstandigheden, valideert dit werk de effectiviteit van sequence-to-sequence modellen voor precieze, apparaat-specifieke energie-disaggregatie.

De auteurs concluderen dat hoewel de huidige implementatie wordt beperkt door computationele restricties (wat een uitputtend onderzoek van de zoekruimtes verhindert), het framework een gestructureerde referentiearchitectuur vormt voor zowel academische als industriële NILM-toepassingen, waardoor de weg van ruwe data naar geoptimaliseerde energiemonitoringsoplossingen wordt verkort.