Beyond Expected Information Gain: Stable Bayesian Optimal Experimental Design with Integral Probability Metrics and Plug-and-Play Extensions

Título: Beyond EIG: Stable BOED with IPMs

Autores: Di Wu, Ling Liang e Haizhao Yang.

1. O Problema

O Projeto Experimental Bayesiano Ótimo (BOED) é um quadro rigoroso para selecionar experimentos que maximizem a informação adquirida sobre parâmetros desconhecidos, especialmente em cenários com recursos limitados (onde simulações são caras ou a aquisição de dados é difícil).

O método clássico de BOED busca maximizar o Ganho de Informação Esperado (EIG), definido através da Divergência de Kullback-Leibler (KL) entre a distribuição a posteriori e a priori. No entanto, o artigo identifica três gargalos fundamentais nesta abordagem tradicional:

1. Instabilidade Computacional: A avaliação do EIG envolve expectativas aninhadas (nested expectations), que são caras e sofrem de alta variância em métodos de Monte Carlo padrão.
2. Sensibilidade a Eventos Raros e Caudas: Como o EIG depende de uma razão de densidades logarítmica ($\log(p(y|x)/p(y))$), ele é extremamente sensível a subestimações de cauda, regiões de verossimilhança próxima de zero e eventos raros. Pequenos erros em modelos substitutos (surrogates) nessas regiões podem fazer a utilidade "explodir" logaritmicamente.
3. Incompatibilidade com Aproximações Empíricas: A divergência KL exige que as distribuições sejam absolutamente contínuas uma em relação à outra. Em pipelines modernos que usam aproximações empíricas (partículas discretas) para prioris e posteriors, a KL pode não estar bem definida ou ser instável.

2. Metodologia Proposta

Os autores propõem um novo quadro de BOED baseado em Métricas de Probabilidade Integral (IPMs - Integral Probability Metrics), substituindo a divergência baseada em densidades por métricas que medem a discrepância entre distribuições através de funções de teste.

Definição da Utilidade

Em vez de maximizar o EIG (KL), o objetivo é maximizar uma utilidade baseada em IPM:
$$U_F(\xi) = \mathbb{E}_{p(y|\xi)} [\gamma_F(p(x), p(x|y, \xi))]$$
Onde $\gamma_F$ é uma IPM induzida por uma classe de funções $F$. O artigo foca em três IPMs principais:

1. Distância de Wasserstein-1 ($W_1$): Induzida por funções 1-Lipschitz.
2. Discrepância de Máxima Média (MMD): Induzida pela bola unitária de um Espaço de Hilbert de Reprodutor de Kernel (RKHS).
3. Distância de Energia (ED): Uma métrica baseada em distâncias semimétricas, equivalente a uma MMD com um kernel específico.

Abordagem "Plug-and-Play"

O framework é modular. Embora a teoria seja desenvolvida para IPMs, o pipeline de amostragem permite a extensão para outras discrepâncias geométricas, como estimadores de transporte ótimo neural (OT-ICNN), sem alterar a estrutura fundamental do BOED.

3. Contribuições Principais

A. Garantias Teóricas de Estabilidade

Os autores estabelecem limites de perturbação para a utilidade do projeto sob erros de modelo e prioris:

• Estabilidade em Relação ao Modelo (Likelihood): Eles definem um "perfil de crescimento" ($\omega_F(x)$) para as funções de teste.
  • Para IPMs limitadas (como MMD com kernels limitados), a utilidade é uniformemente estável, independentemente de erros nas caudas da distribuição.
  • Para IPMs ilimitadas (como Wasserstein e ED), a estabilidade depende das condições de cauda da prior e da suavidade do modelo direto (ex: Lipschitz global), mas ainda evita a instabilidade logarítmica da KL.
• Estabilidade em Relação à Prior: Ao contrário da KL, que falha entre distribuições contínuas e discretas, as IPMs operam diretamente sobre medidas de probabilidade. Isso fornece uma justificação teórica sólida para o uso de aproximações empíricas (partículas) em pipelines computacionais.

B. Estimação Baseada em Amostras sem Densidade

A metodologia elimina a necessidade de estimar densidades ou calcular razões de log-densidades explicitamente.

• As utilidades são estimadas diretamente a partir de amostras via distâncias pares (pairwise distances) ou kernels.
• Isso resulta em uma aceleração computacional significativa e evita o custo de estimativas de densidade em alta dimensão.

C. Extensões para Alta Dimensão

O artigo demonstra que o pipeline baseado em amostras pode integrar estimadores neurais (como OT-ICNN) para calcular distâncias de Wasserstein em espaços de alta dimensão, onde métodos tradicionais de Monte Carlo aninhado (NMC) falham devido à variância exponencial.

4. Resultados Experimentais

Os autores validaram o framework em quatro cenários:

1. Validação Analítica (Teste A/B):

   • Em um problema com solução fechada, a utilidade baseada em Wasserstein ($W_1$) identificou o mesmo ótimo global que a KL, confirmando que a mudança de métrica não distorce o objetivo fundamental, mas oferece maior estabilidade.

2. Desempenho Computacional (Aprendizado de Preferências):

   • Velocidade: A avaliação de utilidade baseada em IPM foi ~40x mais rápida que a baseada em KL (0.3s vs 14s por design), pois eliminou a etapa de estimativa de densidade.
   • Paisagem de Otimização: As utilidades baseadas em IPM produziram regiões de "quase-ótimo" (high-utility basins) muito mais amplas e suaves. Enquanto a KL concentrava o ótimo em uma região estreita (sensível a discretização e ruído), as IPMs permitiram que múltiplos designs próximos ao ótimo fossem considerados viáveis, tornando a seleção de designs mais robusta.

3. Extensões Plug-and-Play (Alta Dimensão - 64D):

   • Em um modelo linear-Gaussiano de 64 dimensões, o estimador neural de Wasserstein (OT-ICNN) recuperou a utilidade exata com erro relativo < 3%.
   • Em contraste, o estimador clássico de EIG via Monte Carlo aninhado falhou completamente, apresentando erros relativos superiores a 500x devido à variância explosiva em alta dimensão.

4. Robustez a Não-Gaussianidade (Modelo Bimodal de 32D):

   • Em um cenário com posterior bimodal (ambiguidade de sinal), a aproximação variacional Gaussiana para EIG falhou, invertendo a classificação dos melhores designs (recomendando designs ruins).
   • O framework baseado em Wasserstein manteve a classificação correta, demonstrando robustez a geometrias de posterior complexas que confundem métodos baseados em densidade.

5. Significado e Impacto

Este trabalho representa uma mudança de paradigma no BOED:

• Mudança de Foco: De uma utilidade baseada em informação (KL/densidade) para uma utilidade baseada em geometria (IPM/transporte).
• Robustez: Resolve o problema intrínseco de instabilidade da KL em caudas de distribuição e em aproximações discretas, que são comuns na prática computacional moderna.
• Escalabilidade: Torna o BOED viável em problemas de alta dimensão e com modelos complexos, onde métodos tradicionais de estimativa de EIG são computacionalmente proibitivos ou estatisticamente instáveis.
• Flexibilidade: A estrutura "plug-and-play" permite que pesquisadores incorporem novas métricas de discrepância geométrica (como transporte ótimo neural) sem reescrever todo o framework de otimização.

Em resumo, o artigo demonstra que substituir o EIG clássico por utilidades baseadas em IPMs oferece um equilíbrio superior entre estabilidade teórica, eficiência computacional e robustez prática em cenários de design experimental realistas.