Posterior and Likelihood Sensitivity in Bayesian Distributionally Robust Optimization

Sintesi Tecnica: Sensibilità della Posteriore e della Verosimiglianza nella Ottimizzazione Distribuzionalmente Robusta Bayesiana

Definizione del Problema
I modelli bayesiani forniscono un quadro per apprendere dai dati combinando una funzione di verosimiglianza $L_\theta(\cdot)$ e una distribuzione a priori $\rho$ per formare una distribuzione predittiva. Tuttavia, i decisori (DM) devono spesso affrontare preoccupazioni riguardanti la specificazione errata del modello (misspecification). Nello specifico, il costo atteso di una decisione può essere altamente sensibile alle deviazioni dalla distribuzione predittiva assunta. Mentre la letteratura esistente affronta la robustezza nell'ottimizzazione empirica, vi è la necessità di quantificare la sensibilità delle decisioni bayesiane rispetto alle deviazioni in due componenti distinte: la distribuzione posteriore (che rappresenta l'incertezza dei parametri) e la funzione di verosimiglianza (che rappresenta il modello strutturale del processo di generazione dei dati). Il presente articolo affronta il problema della caratterizzazione e della gestione del compromesso tra performance (costo atteso) e robustezza contro queste specifiche fonti di incertezza.

Metodologia
Gli autori introducono i concetti di sensibilità della posteriore nel caso peggiore e sensibilità della verosimiglianza nel caso peggiore. Questi sono definiti all'interno di un quadro di Ottimizzazione Distribuzionalmente Robusta (DRO) Bayesiana.

1. Insiemi di Incertezza: La metodologia definisce insiemi di incertezza per la posteriore $\eta$ e la verosimiglianza $Q_\theta$ utilizzando misure di deviazione $d(\cdot|\cdot)$.

   • $P(\epsilon) = \{ \eta \mid d(\eta|\rho) \le \epsilon \}$ rappresenta le deviazioni dalla posteriore nominale.
   • $L_\theta(\delta) = \{ Q \mid d(Q|L_\theta) \le \delta \}$ rappresenta le deviazioni dalla verosimiglianza nominale per ogni parametro $\theta$.

2. Costo Atteso nel Caso Peggiore: Gli autori formulano il costo atteso nel caso peggiore $V(\epsilon, \delta)$ come un problema di massimizzazione annidata:
   $$V(\epsilon, \delta) = \max_{\eta \in P(\epsilon)} \mathbb{E}_\eta \left[ \max_{Q_\theta \in L_\theta(\delta)} \mathbb{E}_{Q_\theta}[f(\theta, Y)] \right]$$
   Qui, la massimizzazione interna tiene conto delle deviazioni della verosimiglianza nel caso peggiore condizionate a $\theta$, e la massimazione esterna tiene conto delle deviazioni della posteriore nel caso peggiore sull'intero spazio dei parametri.

3. Regolarizzazione ed Espansione della Sensibilità: Basandosi su tecniche di ottimizzazione empirica robusta (facendo riferimento specificamente ai lavori [8, 9, 10]), gli autori derivano un'espansione locale del costo nel caso peggiore per piccole dimensioni degli insiemi di incertezza ($\epsilon, \delta$). Sotto l'Assunzione 4.1 (riguardante il comportamento dei costi di ambiguità), si dimostra che il costo nel caso peggiore è approssimativamente il costo atteso nominale più una somma pesata di termini di sensibilità:
   $$V(\epsilon, \delta) \approx \mathbb{E}_\rho[\mathbb{E}_{L_\theta}[f]] + g(\delta)\mathbb{E}_\rho[S_{L_\theta}(f)] + g(\epsilon)S_\rho(\mathbb{E}_{L_\theta}[f])$$
   dove $g(\cdot)$ è una funzione determinata dalla misura di deviazione, $S_{L_\theta}$ è la sensibilità della verosimiglianza e $S_\rho$ è la sensibilità della posteriore.

4. Misure di Deviazione Specifiche: L'articolo deriva esplicitamente queste sensibilità per le $\phi$-divergenze smooth. In questo caso, le misure di sensibilità corrispondono alle deviazioni standard:

   • Sensibilità della Posteriore: Proporzionale alla deviazione standard del costo atteso condizionato sotto la posteriore, $\sigma_\rho(\mathbb{E}_{L_\theta}[f])$.
   • Sensibilità della Verosimiglianza: Proporzionale all'aspettativa a posteriori della deviazione standard condizionata del costo, $\mathbb{E}_\rho[\sigma_{L_\theta}(f)]$.
     Il framework consente inoltre scenari "mix and match" in cui vengono utilizzate diverse misure di deviazione (ad esempio, $\phi$-divergenza per la posteriore e misure basate su CVaR per la verosimiglianza).

Contributi Chiave

• Metriche di Sensibilità Innovative: L'articolo introduce misure quantitative distinte per la sensibilità delle decisioni bayesiane alla misspecification della posteriore rispetto alla misspecification della verosimiglianza.
• Decomposizione della Robustezza: Dimostra che un problema di DRO bayesiano può essere approssimato come un problema nominale regolarizzato in cui il regolarizzatore è una somma pesata delle sensibilità della posteriore e della verosimiglianza. Ciò stabilisce un legame diretto tra robustezza distribuzionale e analisi della sensibilità.
• Comportamento Asintotico: Un risultato teorico critico è il comportamento differenziale delle due sensibilità durante l'apprendimento. L'articolo dimostra che la sensibilità della posteriore svanisce quando la distribuzione posteriore degenera in una massa puntiforme (ovvero, quando l'incertezza dei parametri viene eliminata attraverso l'apprendimento). Al contrario, la sensibilità della verosimiglianza non svanisce anche quando i parametri sono noti, poiché riflette l'incertezza intrinseca della distribuzione dei dati $Y$ dato $\theta$.
• Trade-off di Pareto: Gli autori mostrano che la risoluzione di un problema di DRO bayesiano traccia una frontiera quasi Pareto-ottimale tra performance (costo atteso) e robustezza (sensibilità della posteriore e della verosimiglianza).

Risultati
L'articolo valida questi risultati teorici attraverso un'applicazione di pricing in cui la domanda è distribuita normalmente con parametri $a$ e $b$ ignoti.

• Effetti dell'Apprendimento: Gli esperimenti numerici mostrano che man mano che la varianza della posteriore diminuisce (simulando l'accumulo di dati), la sensibilità della posteriore diminuisce e infine svanisce. Tuttavia, la sensibilità della verosimiglianza rimane costante, confermando che l'apprendimento riduce l'incertezza dei parametri ma non l'incertezza strutturale del modello.
• Analisi delle Frontiere: Le frontiere reward-sensibilità illustrano come la DRO permetta di ridurre significativamente la sensibilità con un costo minimo per la ricompensa attesa, specialmente quando l'incertezza iniziale dei parametri è elevata.
• Indipendenza: Nel caso specifico dell'esempio di pricing, la frontiera reward-sensibilità della verosimiglianza è stata trovata indipendente dalla varianza della posteriore, mentre la frontiera reward-sensibilità della posteriore era indipendente dalla varianza della verosimiglianza (una proprietà specifica della struttura lineare-quadratica dell'esempio).

Significato e Rivendicazioni
L'articolo sostiene di fornire un approccio sistematico per i decisori preoccupati della fragilità delle loro assunzioni. Distinguendo tra sensibilità della posteriore e della verosimiglianza, il framework permette ai DM di identificare quale componente del loro modello (stima dei parametri vs. forma strutturale) stia guidando le preoccupazioni di robustezza.

• Robustezza vs. Performance: Il significato primario risiede nel formalizzare il "prezzo della robustezza" come un compromesso tra costo atteso e sensibilità.
• Guida per la Progettazione di Sistemi: Gli autori suggeriscono che queste misure di sensibilità possono guidare la selezione degli insiemi di incertezza e identificare quando il costo della robustezza è elevato, potenzialmente suggerendo una riprogettazione del sistema.
• Limiti dell'Apprendimento: Un insight chiave è che, mentre l'apprendimento dei dati elimina la sensibilità della posteriore, esso non elimina la sensibilità della verosimiglianza. Pertoco, una decisione bayesiana robusta deve tenere conto della potenziale misspecification del modello di verosimiglianza anche dopo che i parametri sono stati ben stimati.

L'articolo conclude che una formulazione distribuzionalmente robusta offre un meccanismo quasi Pareto-ottimale per bilanciare la performance e la robustezza contro entrambi i tipi di incertezza del modello.