Optimal Transport-based Permutation-Invariant Bayesian Optimization of Offshore Wind Farm Layouts

Sintesi Tecnica: Ottimizzazione Bayesiana di Layout di Parchi Eolici Offshore basata sul Trasporto Ottimale e l'Invarianza per Permutazione

1. Definizione del Problema

Il documento affronta l'ottimizzazione globale di funzioni obiettivo black-box, costose da valutare e non convesse, definite su layout. Un layout è definito come una nuvola di punti (un insieme di $m$ punti in uno spazio $d$-dimensionale) dove l'ordine dei punti non influenza il valore della funzione obiettivo. Questo scenario è distinto dall'ottimizzazione standard di nuvole di punti in cui l'ordine dei punti è rilevante.

La sfida principale identificata è il "meccanismo di replicazione". Nelle approcci di vettorizzazione standard, in cui una nuvola di punti $P \in \mathbb{R}^{m \times d}$ viene trattata come un vettore in $\mathbb{R}^{md}$, la funzione obiettivo $f(P)$ diventa invariante rispetto alle permutazioni delle righe di $P$. Di conseguenza, se il vero problema presenta un singolo layout ottimale globale, la formulazione vettorizzata crea $m!$ (fattoriali) ottimi globali. Questa replicazione infesta lo spazio di ricerca con ottimi locali e globali ridondanti, creando una funzione estremamente "oscillante" (wiggling). Tale condizione ostacola la convergenza degli algoritmi standard di Ottimizzazione Bayesiana (BO), che faticano a distinguere la vera funzione sottostante dalle sue permutazioni.

Gli autori applicano questa formulazione del problema a un caso industriale reale: l'ottimizzazione dei layout di parchi eolici offshore. Data l'identità delle turbine eoliche, scambiare qualsiasi coppia di turbine non cambia la Produzione Annua di Energia (Aresa/AEP), rendendo il problema invariante per permutazione.

2. Metodologia: PIBO

Gli autori propongono PIBO (Permutation-Invariant Bayesian Optimization), un framework che sfrutta la teoria del Trasporto Ottimale (OT) per imporre direttamente l'invarianza per permutazione all'interno del ciclo di BO.

Componenti Tecniche Chiave:

• Nuvola di Punti di Riferimento: Una nuvola di punti di riferimento $\bar{P}$ viene campionata da una distribuzione normale multivariata al di fuori dello spazio di ricerca fisico. Ciò garantisce che la matrice dei costi tra $\bar{P}$ e qualsiasi layout candidato $P$ sia in "posizione generale", facilitando piani di trasporto unici.
• Rappresentazione del Flusso Ottimale: Invece di ottimizzare direttamente sulle nuvole di punti $P$, PIBO ottimizza sul flusso ottimale $X$. Per un layout candidato $P$, il flusso è definito come $X = P - \bar{P}$, derivato dalla mappa di trasporto ottimale $T^*$ che minimizza la distanza euclidea al quadrato tra $\bar{P}$ e $P$.
  • Matematicamente, il problema è inquadrato utilizzando la formulazione di Monge (un problema di assegnazione) o la sua rilassazione lineare, la formulazione di Kantorovich.
  • Il flusso $X^*$ viene calcolato come $X^* = (T^{*\top} - I)\bar{P}$, dove $T^*$ è la matrice di trasporto ottimale.
• BO sui Flussi: Il modello surrogato a Processo Gaussiano (GP) viene adattato sullo spazio dei flussi ottimali $X$ piuttosto che sui layout grezzi. La funzione di acquisizione (specificamente GP-UCB) viene ottimizzata su questo spazio di flusso.
• Gestione dei Vincoli: I vincoli fisici (ad esempio, la distanza minima $\rho$ tra le turbine) sono riformulati in termini di flussi. Gli autori dimostrano che se i punti di riferimento sono sufficientemente vicini, il vincolo $\|p_i - p_j\| \geq \rho$ può essere riscritto come $\|x_i - x_j\| \geq \| \bar{p}_i - \bar{p}_j \| + \rho$, permettendo ai vincoli di essere gestiti direttamente durante l'ottimizzazione della funzione di acquisizione.
• Iterazione: In ogni iterazione, un nuovo flusso $X'$ viene proposto dalla funzione di acquisizione. Viene risolto un problema di Kantorovich tra $\bar{P}$ e il layout implicito $\bar{P} + X'$ per garantire che il flusso risultante sia un piano di trasporto ottimale valido prima di valutare la funzione obiettivo.

3. Contributi Principali

1. Algoritmo PIBO: La proposta di un approccio di ottimizzazione bayesiana invariante per permutazione basato sulla teoria del Trasporto Ottimale, specificamente progettato per l'ottimizzazione su layout in spazi continui.
2. Applicazione nel Mondo Reale: La valutazione di PIBO sull'ottimizzazione di layout di parchi eolici offshore, un problema caratterizzato da asset identici e invarianza per permutazione.
3. Validazione Empirica: Dimostrazione che PIBO supera la BO vanilla (sia nello spazio fisico che nello spazio di flusso) e i metodi di base (Random Search, TPE) sia in termini di valore obiettivo ottimale che di efficienza computazionale.
4. Open Source: Il rilascio del codice per garantire la replicabilità.

4. Risultati Sperimentali

Gli autori hanno valutato PIBO contro diversi baseline su un caso di test che coinvolge $m=5$ turbine eoliche identiche in un dominio $[0,1]^2$ con un vincolo di separazione minima.

• Performance:

  • PIBO (utilizzando un kernel esponenziale e un bonus di incertezza $\xi=6$) ha ottenuto il valore obiettivo medio (AEP) più alto tra tutti i metodi.
  • La BO vanilla sui flussi (senza l'imposizione dell'invarianza per permutazione) ha performato meglio della BO vanilla sulle nuvole di punti, ma peggio di PIBO.
  • TPE (Tree-Parzen Estimator) e i metodi di ricerca casuale (LHS, URS) sono stati superati da tutte le varianti di BO.
  • Nello specifico, PIBO con il kernel esponenziale e $\xi=6$ ha prodotto un valore migliore medio di 70,77, rispetto a 70,66 per la BO vanilla sui flussi e 69,82 per la BO vanilla sulle nuvole di punti.

• Efficienza Computazionale:

  • Nonostante l'overhead di risolvere un problema di programmazione lineare (formulazione di Kantorovich) a ogni iterazione, PIBO è stato circa due volte più veloce delle altre varianti di BO.
  • Tempo medio per iterazione (fitting GP + acquisizione): 347,9 secondi per PIBO rispetto a ~692 secondi per la BO vanilla sui flussi.
  • Gli autori attribuiscono questo aumento di velocità alla semplificazione del processo di fitting del GP; modellando la funzione sottostante fluida sui layout invece della funzione replicata e "oscillante" sulle nuvole di punti, il modello surrogato converge più efficientemente.

• Analisi Qualitativa:

  • Le visualizzazioni dei migliori layout mostrano che PIBO produce soluzioni con flussi non incrociati (coerenti con la teoria OT), mentre la BO vanilla sui flussi produceva spesso flussi incrociati, indicando una mancanza di vera invarianza per permutazione.
  • PIBO è stato l'unico metodo capace di inferire un'organizzazione non lineare dello spazio fisico in regioni di influenza associate a turbine specifiche.

5. Significato e Rivendicazioni

Il documento afferma che il meccanismo di replicazione nelle formulazioni standard di BO per problemi di layout è una barriera primaria alla convergenza. Utilizzando il Trasporto Ottimale per mappare lo spazio di ricerca in uno spazio di flussi ottimali, PIBO elimina efficacementamente questa ridondanza.

Gli autori dichiarano che l'invarianza per permutazione è la "chiave per ottenere le migliori prestazioni" rispetto sia alla BO standard che ai baseline non basati su surrogati. Inoltre, evidenziano un risultato controintuitivo: l'imposizione dell'invarianza per permutazione tramite OT, che aggiunge un passaggio di programmazione lineare, riduce effettivamente il costo computazionale totale perché semplifica drasticamente il passaggio di fitting del GP.

Il documento conclude notando i limiti riguardanti la scalabilità per nuvole di punti molto grandi ($m > 1000$), dove il costo di risoluzione del problema di Kantorovich potrebbe diventare proibitivo, suggerendo che l'ordinamento prefissato (prefixed sorting) potrebbe essere un'alternativa in tali casi. Il lavoro futuro suggerito riguarda l'ottimizzazione dell'acquisizione per batch-BO e le estensioni multi-obiettivo.