Posterior and Likelihood Sensitivity in Bayesian Distributionally Robust Optimization

Resumo Técnico: Sensibilidade de Posterior e de Verossimilhança em Otimização Distribuicionalmente Robusta Bayesiana

Declaração do Problema
Modelos bayesianos fornecem um arcabouço para aprender com dados ao combinar uma função de verossimilhança $L_\theta(\cdot)$ e uma distribuição a priori $\rho$ para formar uma distribuição preditiva. No entanto, tomadores de decisão (TDs) frequentemente enfrentam preocupações relativas à especificação incorreta do modelo. Especificamente, o custo esperado de uma decisão pode ser altamente sensível a desvios da distribuição preditiva assumida. Embora a literatura existente aborde a robustez na otimização empírica, há uma necessidade de quantificar a sensibilidade das decisões bayesianas especificamente a desvios em dois componentes distintos: a distribuição posterior (representando a incerteza do parâmetro) e a função de verossimilhança (representando o modelo estrutural do processo de geração de dados). O artigo aborda o problema de caracterizar e gerenciar o equilíbrio entre desempenho (custo esperado) e robustez contra essas fontes específicas de incerteza.

Metodologia
Os autores introduzem os conceitos de sensibilidade de posterior de pior caso e sensibilidade de verossimilhança de pior caso. Estes são definidos dentro de um arcabouço de Otimização Distribuicionalmente Robusta (DRO) Bayesiana.

1. Conjuntos de Incerteza: A metodologia define conjuntos de incerteza para a posterior $\eta$ e para a verossimilhança $Q_\theta$ usando medidas de desvio $d(\cdot|\cdot)$.

   • $P(\epsilon) = \{ \eta \mid d(\eta|\rho) \le \epsilon \}$ representa desvios da posterior nominal.
   • $L_\theta(\delta) = \{ Q \mid d(Q|L_\theta) \le \delta \}$ representa desvios da verossimilhança nominal para cada parâmetro $\theta$.

2. Custo Esperado de Pior Caso: Os autores formulam o custo esperado de pior caso $V(\epsilon, \delta)$ como um problema de maximização aninhada:
   $$V(\epsilon, \delta) = \max_{\eta \in P(\epsilon)} \mathbb{E}_\eta \left[ \max_{Q_\theta \in L_\theta(\delta)} \mathbb{E}_{Q_\theta}[f(\theta, Y)] \right]$$
   Aqui, a maximização interna considera desvios de verossimilhança de pior caso condicionais a $\theta$, e a maximização externa considera desvios de posterior de pior caso sobre o espaço de parâmetros.

3. Regularização e Expansão de Sensibilidade: Baseando-se em técnicas de otimização empírica robusta (especificamente referenciando os trabalhos [8, 9, 10]), o artigo deriva uma expansão local do custo de pior caso para pequenos tamanhos de conjunto de incerteza ($\epsilon, \delta$). Sob a Hipótese 4.1 (relativa ao comportamento dos custos de ambiguidade), mostra-se que o custo de pior caso é aproximadamente o custo esperado nominal mais uma soma ponderada de termos de sensibilidade:
   $$V(\epsilon, \delta) \approx \mathbb{E}_\rho[\mathbb{E}_{L_\theta}[f]] + g(\delta)\mathbb{E}_\rho[S_{L_\theta}(f)] + g(\epsilon)S_\rho(\mathbb{E}_{L_\theta}[f])$$
   onde $g(\cdot)$ é uma função determinada pela medida de desvio, $S_{L_\theta}$ é a sensibilidade de verossimilhança e $S_\rho$ é a sensibilidade de posterior.

4. Medidas de Desvio Específicas: O artigo deriva explicitamente essas sensibilidades para $\phi$-divergências suaves. Neste caso, as medidas de sensibilidade correspondem a desvios padrão:

   • Sensibilidade de Posterior: Proporcional ao desvio padrão do custo esperado condicional sob a posterior, $\sigma_\rho(\mathbb{E}_{L_\theta}[f])$.
   • Sensibilidade de Verossimilhança: Proporcional à esperança a posteriori do desvio padrão condicional do custo, $\mathbb{E}_\rho[\sigma_{L_\theta}(f)]$.
     O arcabouço também permite cenários de "mistura e combinação" onde diferentes medidas de desvio (por exemplo, $\phi$-divergência para a posterior e medidas baseadas em CVaR para a verossimilhança) são utilizadas.

Principais Contribuições

• Métricas de Sensibilidade Inovadoras: O artigo introduz medidas quantitativas distintas para a sensibilidade das decisões bayesianas à especificação incorreta da posterior versus à especificação incorreta da verossimilhança.
• Decomposição da Robustez: Demonstra que um problema de DRO Bayesiano pode ser aproximado como um problema nominal regularizado onde o regularizador é uma soma ponderada de sensibilidades de posterior e de verossimilhança. Isso estabelece uma ligação direta entre robustez distribuicional e análise de sensibilidade.
• Comportamento Assintótico: Um achado teórico crítico é o comportamento diferencial das duas sensibilidades conforme o aprendizado ocorre. O artigo prova que a sensibilidade de posterior desaparece quando a distribuição posterior degenera para uma massa pontual (ou seja, quando a incerteza do parâmetro é eliminada através do aprendizado). Em contraste, a sensibilidade de verossimilhança não desaparece mesmo quando os parâmetros são conhecidos, pois ela reflete a incerteza inerente na distribuição dos dados $Y$ dado $\theta$.
• Compromissos de Pareto: Os autores mostram que resolver um problema de DRO Bayesiano traça uma fronteira quase Pareto-ótima entre desempenho (custo esperado) e robustez (sensibilidade de posterior e de verossimilhança).

Resultos
O artigo valida esses achados teóricos através de uma aplicação de precificação onde a demanda é normalmente distribuída com parâmetros $a$ e $b$ desconhecidos.

• Efeitos de Aprendizado: Experimentos numéricos mostram que, conforme a variância da posterior diminui (simulando o acúmulo de dados), a sensibilidade da posterior diminui e eventualmente desaparece. No entanto, a sensibilidade de verossimilhança permanece constante, confirmando que o aprendizado reduz a incerteza do parâmetro, mas não a incerteza estrutural do modelo.
• Análise de Fronteira: As fronteiras de recompensa-sensibilidade ilustram que o DRO permite reduzir a sensibilidade significativamente com um custo mínimo para a recompensa esperada, particularmente quando a incerteza inicial do parâmetro é alta.
• Independência: No exemplo específico de precificação, a fronteira de recompensa-sensibilidade de verossimilhança foi encontrada como independente da variância da posterior, enquanto a fronteção de recompensa-sensibilidade de posterior foi independente da variância da verossimilhança (uma propriedade específica da estrutura linear-quadrática do exemplo).

Significância e Alegações
O artigo alega fornecer uma abordagem sistemática para tomadores de decisão preocupados com a fragilidade de suas suposições. Ao distinguir entre a sensibilidade de posterior e de verossimilhança, o arcabouço permite que os TDs identifiquem qual componente de seu modelo (estimativa de parâmetros vs. forma estrutural) está impulsionando as preocupações de robustez.

• Robustez vs. Desempenho: A principal significância reside na formalização do "preço da robustez" como um compromisso entre o custo esperado e a sensibilidade.
• Orientação para Design de Sistemas: Os autores sugerem que essas medidas de sensibilidade podem guiar a seleção de conjuntos de incerteza e identificar quando o custo da robustez é alto, potencialmente induzindo o redesenho do sistema.
• Limitações do Aprendizado: Um insight fundamental é que, embora o aprendizado de dados elimine a sensibilidade de posterior, ele não elimina a sensibilidade de verossimilhança. Portanto, uma decisão bayesiana robusta deve considerar o potencial de especificação incorreta do modelo de verossimilhança mesmo após os parâmetros estarem bem estimados.

O artigo conclui que uma formulação distribuicionalmente robusta oferece um mecanismo quase Pareto-ótimo para equilibrar o desempenho e a robustez contra ambos os tipos de incerteza de modelo.