Efficient reformulations of ReLU deep neural networks for surrogate modelling in power system optimisation

Technische Samenvatting: Efficiënte Herformuleringen van ReLU Deep Neural Networks voor Surrogate Modellering in de Optimalisatie van Energiesystemen

Probleemstelling
De decarbonisatie van energiesystemen heeft complexe, niet-lineaire interacties geïntroduceerd die worden gedreven door gedistribueerde energiebronnen, welke moeilijk te vangen zijn met conventionele optimalisatiemodellen. Hoewel Machine Learning (ML)-gebaseerde surrogate modellering, met name gebruikmakend van Rectified Linear Unit (ReLU) Deep Neural Networks (DNN's), een veelbelovende oplossing biedt voor het representeren van deze gedragingen, brengt het integreren van ReLU DNN's direct in optimalisatiekaders significante uitdagingen met zich mee. Standaard benaderingen met Mixed-Integer Programming (MIP) herformuleringen (bijv. Big-M beperkingen) introduceren binaire variabelen voor elke neuron, wat leidt tot computationele onhandelbaarheid naarmals de netwerkdiepte en -breedte toenemen. Daarentegen verbeteren bestaande Linear Programming (LP) relaxaties, zoals Penalised Convex Area Relaxation (PCAR) en Penalised Convex Triangle Area Relaxation (PCTAR), de handelbaarheid, maar ze vertrouwen zwaar op heuristische straftermen. Deze op straffen gebaseerde methoden missen vaak gegarandeerde nauwkeurigheid (tightness) en robuustheid, wat resulteert in gevoeligheid voor hyperparameter-afstemming en potentiële degradatie van de oplingskwaliteit.

Methodologie
Het artikel stelt een nieuwe LP-herformulering voor een specifieke klasse van ReLU DNN's, getiteld convexified (cvxd) ReLU DNN's. Het kerninzicht van de wiskunde berust op Theorem 2.1, die vaststelt dat als de output van een ReLU DNN wordt geminimaliseerd binnen een optimalisatieprobleem, en de gewichtsmatrices van alle lagen vanaf de tweede laag elementgewijs niet-negatief zijn ($W_l \geq 0$ voor $l \geq 2$), de niet-convexe ReLU-activatiefuncties in die lagen kunnen worden vervangen door lineaire ongelijkheden zonder verlies van nauwkeurigheid (tightness).

Specifiek:

1. Convexificatie: De methode beperkt de gewichtsmatrices van de verborgen lagen (van laag $k$ naar de output) tot niet-negatieve waarden. Deze structurele beperking zorgt ervoor dat de minimalisatie-doelstelling door het netwerk wordt gepropageerd, waardoor de $\max(\cdot, 0)$ beperkingen kunnen worden vervangen door lineaire ongelijkheden ($h_l \geq W_l h_{l-1} + b_l$ en $h_l \geq 0$).
2. Toepassingscontext: De methode wordt toegepast binnen een Optimisation with Constraint Learning (OCL) raamwerk. De auteurs leren een responsfunctie van prosumers (een niet-lineaire, niet-convexe verzadigingscurve) met behulp van een ReLU DNN en integreren deze in het winstmaximalisatieprobleem van een energie-aggregator voor de Deense tertiaire capaciteitsmarkt (mFRR).
3. Benchmarking: De voorgestelde herformulering wordt geëvalueerd tegen State-of-the-Art (SOTA) alternatieven:
   • MIP-gebaseerd: Standaard Big-M herformulering met gebruik van de Gurobi ML package.
   • LP-gebaseerd: PCAR en PCTAR relaxaties.
   • Conventioneel: Piecewise Linearisation (PWL).

Belangrijkste Bijdragen

• Hanteerbare LP Herformulering: Het artikel introduceert een methode om ReLU DNN's om te zetten in strakke LP-formuleringen door niet-negatieve gewichten af te dwingen op lagen die op de eerste volgen. Dit elimineert de noodzaak voor binaire variabelen, wat de computationele complexiteit aanzienlijk vermindert vergeleken met MIP-benaderingen.
• Gegarandeerde Nauwkeurigheid (Tightness): In tegen tegenoverstel bij de strafgebaseerde relaxaties (PCAR/PCTAR), garandeert de voorgestelde methode nauwkeurigheid en precisie over diverse netwerkarchitecturen en inputcondities, mits aan de minimalisatie- en niet-negativiteitsvoorwaarden voor gewichten wordt voldaan.
• Systematische Evaluatie: De studie biedt een uitgebreide benchmark over meerdere neurale netwerkarchitecturen (variërend in breedte en diepte) en marktprijsscenario's (laag, medium, hoog), waarbij de schaalbaarheid en betrouwbaarheid van de aanpak wordt aangetoond.

Resultaten
De evaluatie werd uitgevoerd met een casestudy van een aggregator die biedt in de Deense mFRR-markt, gebruikmakend van 30.000 trainingsdatapunten en getest over 30 marktscenario's.

• Computationele Prestaties: De voorgestelde LP-herformulering presteerde aanzienlijk beter dan de MIP-gebaseerde (Gurobi ML) en PWL-benaderingen wat betreft snelheid. Terwijl Gurobi ML en PWL vaak seconden tot uren nodig hadden (of niet binnen de tijdslimiet convergeerden voor bredere netwerken), loste de voorgestelde methode problemen op in milliseconden (bijv. 34 ms voor scenario's met hoge prijzen versus 1–3 seconden voor andere).
• Oplossingskwaliteit: De voorgestelde methode bereikte gerealiseerde winsten die vergelijkbaar waren met de best presterende methoden (PWL en MIP), doorgaans binnen 1% van de top performer. In tegenstelling hiertoe resulteerden PCAR en PCTAR regelmatig in economische verliezen, vooral in scenario's met lage prijzen, vanwege hun op straffen gebaseerde structuur die de schatting van flexibiliteitskosten verkeerd uitvoert.
• Schaalbaarheid: De voorgestelde methode behield een consistente prestatie en nauwkeurigheid naarmate de netwerkbreedte en -diepte toenamen. In tegenstelling hiertoe vertoonde Gurobi ML ernstige schaalbaarheidsproblemen, waarbij de runtime sterk steeg en de MIP-gaps aanzienlijk groter werden voor bredere netwerken (bijv. 400 neuronen). PCAR en PCTAR vertoonden inconsistente nauwkeurigheid en een hoge gevoeligheid voor de afstemming van de strafparameter.
• Nauwkeurigheid: Het voorgestelde model behaalde consistent Root Mean Square Error (RMSE) waarden die dicht bij de trainings-RMSE van de onderliggende cvxd DNN lagen, wat de nauwkeurigheid (tightness) van de herformulering bevestigt.

Betekenis en Claims
Het artikel claimt dat convexified ReLU DNN's, wanneer zij gekoppeld worden aan de voorgestelde LP-herformulering, een schaalbare en betrouwbare methodologie bieden voor de integratie van geleerde surrogate modellen in de optimalisatie van energiesystemen. De betekenis ligt in het overbruggen van de kloof tussen de expressieve kracht van deep learning en de computationele vereisten van grootschalige optimalisatie.

De auteurs benadrukken dat hoewel de methode vereist dat de output van het netwerk wordt geminimaliseerd en niet-negativiteitsbeperkingen op gewichten oplegt (wat de klasse van leerbare functies beperkt tot convexe en monotoon stijgende relaties), het erin slaagt complexe flexibiliteitskostenfuncties in de geteste casestudy effectief te vatten. Het werk positioneert zichzelf als een algemene methodologische vooruitgang die de heuristische afstemming en het gebrek aan garanties voor nauwkeurigheid bij bestaande LP-relaxaties vermijdt, waardoor het geschikt is voor toepassingen zoals de modellering van generatorkosten, CO2-emissieschatting en chance-constrained formuleringen waarbij de doelstelling gericht is op minimalisatie. De auteurs merken op dat de primaire focus ligt op de demonstratie van de eigenschappen van de herformulering, waarbij de specifieke aggregator-toepassing dient als voertuig voor validatie.