Model Predictive Control and Moving Horizon Estimation using Statistically Weighted Data-Based Ensemble Models

Dit artikel stelt een nieuw raamwerk voor modelvoorspellende regeling voor dat gebruikmaakt van een op Mahalanobis-afstand gebaseerde gewogen ensemble van datagedreven modellen en een schattingwaarnemer met een bewegend horizon om complexe systemen effectief te regelen over meerdere bedrijfsomstandigheden.

De kern

Stel je voor dat je de kapitein bent van een enorm, complex schip (een stadsverwarmingssysteem) dat probeert te navigeren door veranderend weer. Soms is het water kalm en warm (zomeromstandigheden); op andere momenten is het stormachtig en bevriezend (winteromstandigheden). Om dit schip efficiënt en veilig te sturen, heb je een navigatieteam nodig dat precies kan voorspellen waar het schip de komende paar uur zal zijn.

Dit artikel introduceert een nieuwe manier om dat navigatieteam op te bouwen en een nieuwe manier om het schip te sturen. Hier is de uiteenzetting in eenvoudige termen:

Het Probleem: Één Kaart Is Niet Genoeg

Meestal proberen ingenieurs één enkel "black box"-model (zoals een superintelligente AI) te bouwen om te voorspellen hoe het schip zich in alle omstandigheden gedraagt. Maar net zoals één kaart niet perfect zowel een woestijn als een ijsberg kan weergeven, raakt één model vaak in de war wanneer het weer verandert. Het kan voorspellen dat het schip snel zal bewegen tijdens een storm, terwijl het in werkelijkheid vertraagt, wat leidt tot slechte beslissingen of schendingen van veiligheidsvoorschriften.

De Oplossing: Een Team van Specialisten (Ensemble-modellen)

In plaats van één generalist, stellen de auteurs voor om een team van specialisten in te huren.

• Specialist A is een expert op het gebied van "Zomeromstandigheden". Zij is uitsluitend getraind op zomerdata.
• Specialist B is een expert op het gebied van "Winteromstandigheden". Zij is uitsluitend getraind op winterdata.

Wanneer je een voorspelling nodig hebt, kies je er niet één uit; je vraagt beiden om hun mening en combineert hun antwoorden. Maar het lastige deel is: Hoeveel vertrouw je elke specialist?

De Innovatie 1: Het "Statistische Kompas" (Mahalanobis-afstand)

In het verleden zouden mensen het volgende doen:

1. Het gemiddelde nemen van beide meningen (50/50), wat vaak verkeerd is.
2. Vragen: "Wie had het in het verleden gelijk?" en hen meer vertrouwen. Maar in een regelsysteem kijk je naar de toekomst, en je kent de toekomst nog niet.

De auteurs stellen een nieuwe regel voor gebaseerd op Mahalanobis-afstand. Denk hierbij aan een statistisch kompas.

• Het systeem kijkt naar het huidige weer (de invoer, zoals temperatuur en last).
• Het vraagt zich af: "Hoe statistisch vergelijkbaar is het weer van vandaag met de data waar Specialist A van heeft geleerd? Hoe vergelijkbaar is het met Specialist B?"
• Als vandaag er heel erg uitziet als een "Zomerdag", geeft het kompas Specialist A een enorme stem (hoge weging) en Specialist B een kleine stem.
• Cruciaal is dat dit kompas alleen werkt op de invoer (wat je van plan bent als volgende te doen), niet op toekomstige uitkomsten (die je nog niet kent). Dit stelt het systeem in staat om het vertrouwen tussen specialisten soepel te verschuiven terwijl het weer verandert tijdens het voorspellingsvenster.

De Innovatie 2: De "Herinneringspad"-waarnemer (Moving Horizon Estimation)

Er is een tweede probleem. Deze AI-specialisten (specifiek Gated Recurrent Units, of GRU's) hebben een interne "herinnering" of "toestand" die hen helpt bij het maken van voorspellingen. Deze herinnering is echter onzichtbaar voor de kapitein; je kunt alleen de buitentemperatuur en waterstroom zien.

Als de kapitein de herinnering verkeerd inschat, zal de voorspelling van koers afwijken.

• Oude Manier: Laat het model gewoon op eigen kracht draaien (Open Loop). Als het een kleine fout maakt, groeit die fout steeds groter.
• Nieuwe Manier (MHE): De auteurs bouwden een "Herinneringspad"-waarnemer. In plaats van alleen naar de laatste seconde te kijken, kijkt hij terug naar de laatste 50 stappen uit de geschiedenis. Hij vraagt zich af: "Gezien alles wat de laatste 50 minuten is gebeurd, wat moet de interne herinnering dan zijn geweest om deze resultaten te produceren?"
• Vervolgens past hij de herinnering aan zodat deze perfect bij de geschiedenis past, voordat de volgende voorspelling wordt gedaan. Dit is als een detective die een misdaadschouwplein reconstrueert om de huidige situatie beter te begrijpen.

Het Resultaat: Een Soepelere, Goedkopere Rit

De auteurs hebben dit getest op een echt stadsverwarmingssysteem (het AROMA-systeem) dat schakelt tussen zomer- en wintermodi. Ze hebben hun nieuwe methode vergeleken met:

• Regelgebaseerd: Een eenvoudige, stijve set regels (zoals een mens die een handleiding volgt).
• Gemiddeld: Beide specialisten evenveel vertrouwen.
• Kleinste Kwadraten: Degene die het meest recentelijk gelijk had, meer vertrouwen.
• Vaste Mahalanobis: Het kompas gebruiken, maar alleen kijken naar het huidige moment, niet naar de toekomst.
• Hun Methode (MD-2): Het kompas gebruiken om het vertrouwen door het hele toekomstige voorspellingsvenster aan te passen.

De Bevindingen:

1. Besparingen: Hun methode bespaarde het meeste geld (economische prestatie) omdat ze beter dan de anderen veranderingen in het weer konden anticiperen.
2. Veiligheid: Het maakte de minste fouten met betrekking tot veiligheidslimieten (zoals water dat te heet of te koud wordt).
3. Nauwkeurigheid: De "Herinneringspad"-waarnemer verminderde de fouten in de interne voorspellingen van het model aanzienlijk, waardoor het hele systeem betrouwbaarder werd.

In het Kort

Dit artikel leert ons hoe we complexe systemen kunnen regelen door gebruik te maken van een team van gespecialiseerde AI-modellen in plaats van één generalist. Het gebruikt een statistisch kompas om te beslissen wie je moet vertrouwen op basis van de huidige omstandigheden, en een historische detective om de interne herinnering van de AI te corrigeren. Het resultaat is een systeem dat goedkoper is om te runnen en veiliger om te bedienen wanneer de omstandigheden veranderen.

Technische samenvatting

Technische Samenvatting: Model Predictive Control en Moving Horizon Estimation met behulp van Statistisch Gewogen Data-gebaseerde Ensemble-modellen

Probleemstelling
Model Predictive Control (MPC) is een dominante strategie voor het beheer van complexe systemen, maar de prestaties ervan zijn sterk afhankelijk van de nauwkeurigheid van het onderliggende voorspellingsmodel. Hoewel data-gebaseerde modellen (bijvoorbeeld neurale netwerken) voordelen bieden in ontwikkeling en beschikbaarheid van data, faalt een enkel black-boxmodel vaak om voorspellingsnauwkeurigheid te handhaven over diverse bedrijfsomstandigheden. Bovendien vertrouwen standaard ensemble-leerbenaderingen, die meerdere gespecialiseerde modellen combineren, doorgaans op statische weging of weging gebaseerd op eerdere uitvoerfouten. Deze methoden zijn suboptimaal voor MPC omdat ze dynamisch de gewichten niet kunnen aanpassen over de voorspellingshorizon, waar toekomstige toestands- en uitvoermetingen niet beschikbaar zijn. Daarnaast blijft het schatten van de interne toestanden van data-gebaseerde ensemble-modellen (die vaak geen fysieke betekenis hebben) terwijl toestandsbeperkingen worden afgedwongen, een onopgeloste uitdaging in de literatuur.

Methodologie
Het artikel stelt een unificerend kader voor dat Model Predictive Control (MPC) en Moving Horizon Estimation (MHE) integreert voor systemen die opereren onder meerdere condities. De kern van de aanpak omvat een ensemble van data-gebaseerde modellen (specifiek Gated Recurrent Units, of GRU's), waarbij elke expert is getraind op een dataset die overeenkomt met een specifiek operationeel domein.

1. Weging op basis van Mahalanobis-afstand:
   In plaats van statisch middelen of uitvoer-afhankelijke weging, stellen de auteurs een nieuwe combinatieregel voor waarbij ensemble-gewichten functies zijn van de systeeminput. Het gewicht toegewezen aan elk expertmodel $M^{[i]}$ op een specifiek tijdstip is omgekeerd evenredig met de statistische Mahalanobis-afstand tussen de huidige (of toekomstige) inputvector en de trainingsinputdata van die specifieke expert.
   $$\lambda^{[i]}_{MD}(u(h)) = \frac{1 / T^2(u(h), u^{[i]})}{\sum_{i=1}^{n} 1 / T^2(u(h), u^{[i]})}$$
   Dit maakt het mogelijk dat de gewichten dynamisch variëren over het voorspellingsvenster uitsluitend op basis van de bekende reeks toekomstige inputs, waardoor de MPC verschuivingen in bedrijfsomstandigheden kan anticiperen.

2. MHE-gebaseerde toestandsobservator:
   Om de uitdaging van toestandschatting voor data-gebaseerde modellen aan te pakken, wordt een Moving Horizon Estimation (MHE) observator ontwikkeld voor elke expert in het ensemble. Het MHE-probleem minimaliseert de fout tussen de door het model voorspelde uitvoer en de werkelijk gemeten procesuitvoer over een eindige verleden horizon. Cruciaal is dat deze formulering expliciet toestandsbeperkingen incorporateert (bijvoorbeeld amplitudegrenzen voor verborgen toestanden), waardoor wordt gegarandeerd dat de geschatte toestanden die worden gebruikt om de MPC te initialiseren, fysiek consistent zijn met de interne beperkingen van het model.

Belangrijkste Bijdragen
Het artikel levert twee primaire bijdragen:

• Een nieuwe MPC-formulering: Het introduceert een MPC-regelaar die een data-gebaseerd ensemble gebruikt waarbij combinatiewichten worden bepaald door de statistische nabijheid (Mahalanobis-afstand) tussen de geoptimaliseerde inputs en de trainingsdata van elke expert. Dit maakt input-afhankelijke, horizon-variërende gewichten mogelijk zonder toekomstige uitvoermetingen te vereisen.
• Een beperkte toestandsobservator: Het stelt een nieuw observatorontwerp voor ensemble-modellen voor op basis van MHE. Deze methode maakt nauwkeurige schatting van toestanden voor alle ensemble-experts mogelijk terwijl toestandsbeperkingen strikt worden afgedwongen, een vermogen dat in de literatuur eerder niet werd aangepakt voor ensemble-modellen.

Numerieke Resultaten
Het kader werd gevalideerd op een benchmark Verwarmingsnetwerk voor Wijken (District Heating System, DHS) met meerdere bedrijfsomstandigheden (die zomer- en winterlastprofielen simuleren). Het systeem werd gecontroleerd met een MPC met een horizon van 72 stappen, waarbij vier wegingstrategieën werden vergeleken:

• AV: Eenvoudig rekenkundig middelen.
• LS: Kleinste-kwadratenoptimalisatie gebaseerd op de afgelopen 100 tijdstappen.
• MD-1: Mahalanobis-gebaseerde gewichten vastgezet op de waarde van de vorige tijdstap.
• MD-2: Mahalanobis-gebaseerde gewichten geoptimaliseerd als functie van inputs over de volledige voorspellingshorizon.

De resultaten toonden aan dat de voorgestelde MD-2-strategie de beste economische prestatie (laagste kosten) behaalde en de minste beperkingsovertredingen vertoonde in vergelijking met de andere MPC-strategieën en een regelgebaseerde basislijn. Specifiek vertoonden AV- en LS-strategieën beperkingsovertredingen, terwijl de Mahalanobis-gebaseerde benaderingen haalbaarheid handhaafden. De MD-2-benadering presteerde beter dan MD-1 door eerder te reageren op toekomstige veranderingen in condities, wat het voordeel van horizon-variërende gewichten benadrukt. Bovendien verlaagde de MHE-gebaseerde observator significant de voorspelfout voor de uitvoer op één stap voor de individuele modellen in vergelijking met open-lustoestandspropagatie.

Betekenis en Beweringen
De auteurs beweren dat hun methodologie significant beter presteert dan standaard middelen- en optimalisatie-gebaseerde methoden voor gewichtsselectie, zowel wat betreft economische prestaties als het voldoen aan beperkingen. Zij stellen dat de voorgestelde Mahalanobis-gebaseerde combinatieregel een robuuste oplossing is voor het hanteren van variërende bedrijfsomstandigheden binnen een MPC-kader, omdat deze uitsluitend afhankelijk is van beschikbare inputdata in plaats van niet-beschikbare toekomstige uitvoer. Bovendien onderstreept het artikel dat de MHE-gebaseerde observator effectief de kritieke kwestie van toestandschatting voor data-gebaseerde modellen onder beperkingen aanpakt, wat leidt tot verbeterde gesloten-lusprestaties. De rekenlast van de voorgestelde methode wordt als redelijk beschouwd, ondanks de toegevoegde complexiteit. Toekomstig werk wordt geïdentificeerd als het integreren van dit kader in actieve leeromgevingen voor informatieve data-acquisitie.