Efficient reformulations of ReLU deep neural networks for surrogate modelling in power system optimisation

Sintesi Tecnica: Riformulazioni efficienti di reti neurali profonde ReLU per la modellazione surrogata nell'ottimizzazione dei sistemi elettrici

Definizione del problema
La decarbonizzazione dei sistemi elettrici ha introdotto interazioni complesse e non lineari guidate dalle risorse energetiche distribuite, che sono difficili da catturare utilizzando i modelli di ottimizzazione convenzionali. Sebbene la modellazione surrogata basata sul Machine Learning (ML), in particolare l'utilizzo di Reti Neurali Profonde (DNN) con unità rettificate lineari (ReLU), offra una soluzione promettente per rappresentare tali comportamenti, l'integrazione diretta delle ReLU DNN nei framework di ottimizzazione presenta sfide significative. Gli approcci standard che utilizzano riformulazioni di Programmazione Lineare Mista (MIP) (ad esempio, vincoli Big-M) introducono variabili binarie per ogni neurone, portando all'intrattabilità computazionale all'aumentare della profondità e della larghezza della rete. Al contrario, le esistenti rilassazioni di Programmazione Lineare (LP), come la Penalised Convex Area Relaxation (PCAR) e la Penalised Convex Triangle Area Relaxation (PCTAR), migliorano la trattabilità ma si affidano pesantemente a termini di penalità euristici. Questi metodi basati su penalità spesso mancano di una compattezza (tightness) e robustezza garantite, risultando sensibili alla sintonizzazione degli iperparametri e al potenziale degrado della qualità della soluzione.

Metodologia
Il documento propone una nuova riformulazione LP per una specifica classe di ReLU DNN, denominata ReLU DNN convessificate (cvxd). L'intuizione matematica centrale risiede nel Teorema 2.1, il quale stabilisce che se l'output di una ReLU DNN viene minimizzato all'interno di un problema di ottimizzazione, e le matrici dei pesi di tutti gli strati dal secondo strato in poi sono vincolate a essere elemento per elemento non negative ($W_l \geq 0$ per $l \geq 2$), le funzioni di attivazione ReLU non convesse in quegli strati possono essere sostituite da disuguaglianze lineari senza perdere compattezza.

Nello specifico:

1. Convessificazione: Il metodo vincola le matrici dei pesi degli strati nascosti (dallo strato $k$ all'output) a essere non negative. Questo vincolo strutturale assicura che l'obiettivo di minimizzazione si propaghi attraverso la rete, permettendo la sostituzione dei vincoli $\max(\cdot, 0)$ con disuguaglianze lineari ($h_l \geq W_l h_{l-1} + b_l$ e $h_l \geq 0$).
2. Contesto di applicazione: Il metodo è applicato all'interno di un framework di Ottimizzazione con Apprendimento dei Vincoli (OCL). Gli autori apprendono una funzione di risposta dei prosumer (una curva di saturazione non lineare e non convessa) utilizzando una ReLU DNN e la integrano nel problema di massimizzazione del profitto di un aggregatore di energia per il mercato della capacità terziaria danese (mFRR).
3. Benchmarking: La riformulazione proposta è valutata rispetto alle alternative allo stato dell'arte (SOTA):
   • Basata su MIP: Riformulazione standard Big-M utilizzando il pacchetto Gurobi ML.
   • Basata su LP: Rilassamenti PCAR e PCTAR.
   • Convenzionale: Linearizzazione a tratti (PWL).

Contributi Chiave

• Riformulazione LP Trattabile: Il documento introduce un metodo per convertire le ReLU DNN in formulazioni LP compatte imponendo pesi non negativi sugli strati successivi al primo. Ciò elimina la necessità di variabili binarie, riducendo significativamente la complessità computazionale rispetto agli approcci MIP.
• Compattezza Garantita: A differenza delle rilassazioni basate su penalità (PCAR/PCTAR), il metodo proposto garantisce compattezza e accuratezza attraverso varie architetture di rete e condizioni di input, a condizione che siano soddisfatti i requisiti di minimizzazione e di pesi non negativi.
• Valutazione Sistematica: Lo studio fornisce un benchmark completo tra diverse architetture di reti neurali (variando larghezza e profondità) e scenari di prezzi di mercato (bassi, medi, alti), dimostrando la scalabilità e l'affidabilità dell'approccio.

Risultati
La valutazione è stata condotta tramite un caso di studio di un aggregatore che partecipa al mercato mFRR danese, utilizzando 30.000 punti di dati di addestramento e testando su 30 scenari di mercato.

• Prestazioni Computazionali: La proposta riformulazione LP ha superato significativamente gli approcci basati su MIP (Gurobi ML) e PWL in termini di velocità. Mentre Gurobi ML e PWL richiedevano spesso secondi o ore (o fallivano la convergenza entro i limiti di tempo per reti più larghe), il metodo proposto ha risolto i problemi in millisecondi (ad esempio, 34 ms per scenari ad alta tariffa rispetto a 1–3 secondi per altri).
• Qualità della Soluzione: Il metodo proposto ha ottenuto profitti realizzati comparabili ai migliori metodi (PWL e MIP), tipicamente entro l'1% del top performer. Al contrario, PCAR e PCTAR hanno spesso causato perdite economiche, specialmente in scenari a prezzi bassi, a causa della loro struttura guidata dalla penalità che porta a una stima errata dei costi di flessibilità.
• Scalabilità: Il metodo proposto ha mantenuto prestazioni e compattezza costanti all'aumentare della larghezza e della profondità della rete. Al contrario, Gurobi ML ha mostrato gravi problemi di scalabilità, con tempi di esecuzione che aumentavano drasticamente e gap MIP che si allargavano significativamente per reti più ampie (ad esempio, 400 neuroni). PCAR e PCTAR hanno mostrato un'accuratezza inconsistente e un'alta sensibilità alla sintonizzazione del parametro di penalità.
• Accuratezza: Il modello proposto ha costantemente raggiunto valori di Errore Quadratico Medio (RMSE) vicini al RMSE di addestramento della ReLU DNN sottostante, confermando la compattezza della riformulazione.

Significatività e Rivendicazioni
Il documento afferma che le ReLU DNN convessificate, quando accoppiate con la proposta riformulazione LP, offrono una metodologia scalabile e affidabile per integrare modelli surrogati appresi nell'ottimizzazione dei sistemi elettrici. La significatività risiede nel colmare il divario tra la potenza espressiva del deep learning e i requisiti computazionali della grande ottimizzazione.

Gli autori sottolineano che, sebbene il metodo richieda che l'output della rete venga minimizzato e imponga vincoli di non negatività sui pesi (limitando la classe di funzioni apprendibili a relazioni convesse e monotonicamente crescenti), esso riesce a catturare funzioni di costo della flessibilità complesse nel caso di studio testato. Il lavoro posiziona la proposta come un avanzamento metodologico generale che evita la sintonizzazione euristica e la mancanza di garanzie di compattezza associate alle esistenti rilassazioni LP, rendendolo adatto ad applicazioni quali la modellazione dei costi dei generatori, la stima delle emissioni di CO2 e le formulazioni con vincoli di probabilità, dove l'obiettivo comporta una minimizzazione. Gli autori notano che il focus primario è la dimostrazione delle proprietà della riformulazione piuttosto che lo specifico caso di studio dell'aggregatore, che funge da veicolo di validazione.