Accelerating Multi-Objective Bayesian Optimisation via Predictive-Gradient Catalysts

Sintesi Tecnica: Accelerazione della Ottimizzazione Bayesiana Multi-Obiettivo tramite Catalizzatori di Gradiente Predittivo

Definizione del Problema
L'Ottimizzazione Bayesiana Multi-Obiettivo (MOBO) è un framework utilizzato per ottimizzare funzioni obiettivo costose, rumorose o black-box, bilanciando esplorazione ed esploitazione attraverso modelli surrogati probabilistici, tipicamente Processi Gaussiani (GP). Sebbene efficace, la MOBO affronta spesso sfide quando i budget di valutazione sono limitati, in particolare nel navigare i compromessi necessari per approssimare l'insieme di Pareto. Sebbene i concetti di stazionarietà basati sul gradiente siano ben stabiliti nell'ottimizzazione multi-obiettivo deterministica, la loro integrazione nella MOBO è rimasta in gran parte inesplorata. I metodi esistenti di accelerazione basati sul gradiente sono spesso limitati a contesti a singolo obiettivo o strettamente accoppiati a specifiche funzioni di acquisizione, limitandone la generalizzabilità.

Metodologia
Gli autori propongono un meccanismo di accelerazione generale che sfrutta i gradienti predittivi dei processi gaussiani come segnali ausiliari "catalizzatori". Invece di sostituire le esistenti funzioni di acquisizione conformi a Pareto, questo framework le aumenta con informazioni di stazionarietà locale derivate dai gradienti del surrogato.

Il nucleo della metodologia prevede:

1. Modellazione del Surrogato: L'approccio assume l'indipendenza condizionale tra gli obiettivi, modellando ciascuno con un GP individuale. La media predittiva ($\mu_i$) e la varianza ($\sigma^2_i$) vengono calcolate, e il gradiente atteso della media predittiva viene derivato analiticamente.
2. Framework Catalitico: Il metodo formula un problema decisionale bi-obiettivo per selezionare il prossimo punto di valutazione:
   • Criterio Globale ($g_1$): Massimizzare una funzione di acquisizione standard conforme a Pareto $\alpha(x)$ (es. EHVI, AugTch).
   • Criterio Locale ($g_2$): Minimizzare l'ampiezza del gradiente predittivo pesato, $\|\gamma \cdot \nabla \hat{f}(x)\|$, dove $\gamma$ rappresenta i coefficienti di combinazione convessa che soddisfano le condizioni di Fritz–John (FJ) per la stazionarietà di Pareto.
   • Scalarizzazione: Questi due criteri sono combinati utilizzando una scalarizzazione di Tchebycheff aumentata per creare una funzione di acquisizione unificata $\alpha_{CAT}(x)$. Questa penalizza i candidati che sono inferiori sia in termini di performance globale che di stazionarietà locale.

Vengono investigate due specifiche istanze del catalizzatore:

• Catalizzatore Basato su MGDA: Utilizza l'Algoritmo di Discesa del Gradiente Multiplo (MGDA) per determinare adattivamente il vettore di peso $\gamma$ in ogni punto $x$. Questo trova la combinazione convessa dei gradienti con la minima norma Euclidea, soddisfacendo localmente le condizioni FJ.
• Catalizzatore a Pesi Predefiniti (W): Utilizza un insieme fissato di vettori di peso predefiniti (dopo normalizzazione min-max) per discretizzare le direzioni di ricerca. Questo approccio sacrifica il rigoroso soddisfacimento delle condizioni FJ per la robustezza e un'esplorazione mirata, il che è benefico sotto budget di valutazione ristretti.

Contributi Chiave

• Framework Catalitico: Un nuovo framework che sfrutta i gradienti predittivi dei GP per accelerare la convergenza della MOBO senza alterare la struttura sottostante delle funzioni di acquisizione standard.
• Dualità delle Istanze: L'introduzione di due strategie di catalizzatore: un approccio adattivo basato su MGDA fondato sulla teoria della stazionarietà di Pareto, e un approccio a pesi predefiniti per un'esplorazione focalizzata dei trade-off.
• Integrazione Principata: Un metodo formale per integrare i segnali catalitici con le funzioni di acquisizione standard tramite scalarizzazione di Tchebycheff aumentata.
• Valutazione Empirica: Esperimenti estesi sul benchmark suite DTLZ (2 obiettivi, 10 variabili decisionali) confrontando i metodi proposti con i baseline (EHVI, AugTch, tMPoI, SAF).

Risultati e Analisi
Gli esperimenti sono stati condotti sui problemi benchmark DTLZ1–DTLZ7 con un budget di $30n$ valutazioni. Le scoperte chiave includono:

• Dipendenza dall'Accuratezza del Surrogato: L'efficacia dell'accelerazione dipende fortemente dall'accuratezza dei modelli surrogati. Quando i surrogati sono accurati (indicato da un basso Standardised Log Loss, SLL), l'approccio catalitico produce miglioramenti significativi.
• Correlazione con la Stazionarietà: Il framework performa meglio su problemi che esibiscono un comportamento stazionario (dove le perturbazioni locali inducono variazioni simili nello spazio degli obiettivi).
  • DTLZ2 e DTLZ5: Questi problemi hanno mostrato una forte stazionarietà e un'elevata accuratezza del surrogato. I metodi catalitici hanno costantemente superato i baseline (celle verdi nelle mappe di significatività).
  • DTLZ1 e DTLZ3: Questi problemi hanno esibito non-stazionarietà e qualità del surrogato inconsistente. L'approccio catalitico ha mostrato poco o nessun miglioramento rispetto ai baseline (celle grigie).
  • DTLZ4 e DTLZ6: Qualità del surrogato mista o scarsa hanno portato a una degradazione delle performance in diversi casi (celle rosse), evidenziando il rischio di utilizzare i gradienti quando i surrogati sono inaffidabili.
• MGDA vs. Pesi Predefiniti: In tutti i confronti a coppie, la variante a Pesi Predefiniti (W) ha generalmente superato la variante adattiva MGDA. Gli autori suggeriscono che per l'ottimizzazione costosa con budget limitati, concentrare la ricerca su un insieme grossolano e finito di direzioni promettenti è più efficace rispetto al tentativo di approssimare finemente l'intero insieme di Pareto globale tramite direzioni locali adattive.

Significatività e Rivendicazioni
Il paper sostiene che la catalisi del gradiente predittivo offre un meccanismo pratico per migliorare l'efficienza nell'ottimizzazione multi-obiettivo costosa, a condizione che i modelli surrogati sottostanti siano accurati e il problema esibisca una approssimativa stazionarietà. Gli autori sottolineano che questo approccio non sostituisce le esistenti funzioni di acquisizione, ma le potenzia con informazioni locali, consentendo una convergenza più rapida verso l'insieme di Pareto globale.

La significatività risiede nel colmare il divario tra la teoria della stazionarietà basata sul gradiente e la MOBO, dimostrando che anche con budget limitati, sfruttare la regolarità (smoothness) dei gradienti predittivi dei GP può guidare la ricerca in modo più efficace rispetto alle sole funzioni di acquisizione standard. Gli autori notano con modestia che, sebbene la valutazione attuale sia limitata alla suite DTLZ con 2 obiettivi e 10 dimensioni, il framework è progettato per scalare ad dimensioni più elevate grazie alla derivazione analitica dei gradienti e all'efficienza computazionale del solver MGDA. Il lavoro futuro è suggerito per contesti vincolati, ambienti rumorosi e problemi ad alta dimensionalità.