Robust Surrogate-Based Bayesian Inference via Sampling-Based Adaptive Active Learning (SALE)

Resumo Técnico: Inferência Bayesiana Robusta Baseada em Surrogates via Aprendizado Ativo Adaptativo Baseado em Amostragem (SALE)

Definição do Problema
Métodos padrão de inferência Bayesiana, como o Markov chain Monte Carlo (MCMC), tornam-se computacionalmente intratáveis quando as avaliações da verossimilhança ou do log-posterior são dispendiosas. Esse custo surge em cenários envolvendo simuladores, constantes de normalização dependentes de parâmetros, integração repetida sobre estruturas latentes ou soluções numéricas para problemas inversos. Sob orçamentos de avaliação limitados, as abordagens existentes baseadas em surrogates enfrentam uma tensão fundamental: elas devem simultaneamente localizar regiões de alta massa posterior e calibrar a precisão do modelo surrogate nessas regiões.

Métodos existentes frequentemente dependem exclusivamente de Otimização Bayesiana (BO) para encontrar regiões de alta probabilidade ou de Redução de Incerteza (UR) para refinar o surrogate. No entanto, estratégias puras de BO tratam o log-densidade como um objetivo de caixa-preta, falhando em explorar estruturas de log-densidade e potencialmente explorando regiões irrelevantes. Por outro lado, estratégias de UR ponderadas pela posterior podem ser induzidas ao erro por alta incerteza nas fases iniciais do aprendizado, desperdiçando avaliações em regiões com massa posterior verdadeira negligenciável. Além disso, garantias teóricas para designs sequenciais de UR ponderados pela posterior são geralmente inexistentes, particularmente no que diz respeito a limites explícitos dependentes do orçamento para o erro de aproximação do surrogate final.

Metodologia: Aprendizado Ativo Adaptativo Baseado em Amostragem (SALE)
O autor propõe o SALE, um framework de aprendizado ativo baseado em Processos Gaussianos (GP) que unifica localização e calibração através de uma medida de design sequencial comum: a Posterior Esperada (EP), denotada como $\bar{\pi}_t$.

1. A Posterior Esperada (EP):
   Em vez de usar apenas a média da posterior do GP ($\mu_t$) como o único surrogate, o SALE utiliza a EP, definida como a média das leis posteriores induzidas pelos caminhos de amostra do GP: $\bar{\pi}_t(A) = \int \pi(A|g) P_t(dg)$. Teoricamente, $\bar{\pi}_t$ minimiza a perda de Kullback–Leibler (KL) condicional esperada entre os estimadores dados a informação atual. Crucialmente, o SALE utiliza $\bar{\pi}_t$ não apenas como um output inferencial, mas como a lei orientadora para o design sequencial.

2. Alocação Dependente de Estado:
   O SALE aloca dinamicamente o orçamento de avaliação entre dois ramos baseando-se em um estado latente $S_t$:

   • Localização (BO): Quando a resolução do design em torno do atual maximizador é baixa, o algoritmo prioriza a BO para localizar regiões de alta posterior.
   • Calibração (UR): À medida que a resolução melhora, o algoritmo muda para UR para garantir a precisão da aproximação em regiões relevantes para a inferência.
     Um proxy para a probabilidade de descoberta de valores não resolvidos é usado para determinar a alocação, garantindo que a UR receba uma fração assintótica positiva de avaliações.

3. Objetivo Anelado (AO) para BO:
   Para o ramo de localização, o SALE introduz o Objetivo Anelado, que faz a média de leis posteriores $\tau$-temperadas induzidas pelos caminhos de amostra do GP.

   • Quando $\tau=1$, o AO é igual à EP ($\bar{\pi}_t$).
   • Conforme $\tau \to 0$, o AO aproxima-se de Thompson Sampling (TS).
   • O $\tau$-temperamento positivo regulariza a lei de consulta contra perturbações do caminho do surrogate, proporcionando a estabilidade que o TS carece quando o surrogate possui alta incerteza (por exemplo, contendo picos artificiais estreitos).
   • A amostragem do AO é realizada via Exchange Simulated Annealing (ESA), que lida com as constantes de normalização intratáveis introduzindo desenhos auxiliares.

4. Calibração Ponderada pela EP (UR):
   Para o ramo de calibração, o SALE define uma regra de UR ideal que maximiza a redução esperada em uma funcional de variância que controla a distância de Variação Total (TV) entre a EP e a verdadeira posterior.

   • A regra ideal é computacionalmente dispendiosa. O SALE implementa um proxy prático que restringe os candidatos à amostra atual da EP, utiliza um temperamento de pesos dependente de estado (inclinando para altas médias do GP durante a localização) e emprega um proxy de ranking local baseado na incerteza e na média da posterior do GP.

Principais Contribuições

1. Medida de Design Unificada: O SALE é o primeiro framework a utilizar a Posterior Esperada ($\bar{\pi}_t$) como uma medida de design sequencial comum tanto para restrição de região (localização) quanto para calibração.
2. Trade-off Estabilidade-Otimização: O artigo caracteriza o trade-off do Objetivo Anelado (AO). Prova-se que o $\tau$-temperamento positivo estabiliza a distribuição de consulta contra perturbações do surrogate (via um limite de continuidade $W_{1,\infty}$-para-TV) enquanto quantifica o penalidade de otimização associada através de limites de regret Bayesiano.
3. Garantias Teóricas para UR: O autor deriva um limite explícito dependente do orçamento para o erro de TV esperado da EP final sob um design de UR sequencial ideal ponderado pela posterior. Eles também estabelecem uma taxa de TV esperada para o proxy de UR implementado, mostrando que ela coincide com a ordem polinomial da regra ideal até fatores logarítmicos.
4. Robustez: O framework é projetado para evitar as falhas severas observadas em baselines externas, alternando adaptativamente entre localização e calibração.

Resultados e Desempenho Empírico
O autor avalia o SALE através de benchmarks analíticos (ex: Quartic-tail Gaussian, Neal's Funnel, Rosenbrock, Bimodal Mixture), likelihoods simulados (Spatial Matérn GRF, problema inverso de Lotka–Volterra) e duas aplicações do mundo real (Modelos de Escolha Discreta Dinâmica para substituição de motores de ônibus e detecção de Galáxias Ultra-Difusas).

• Robustez: Embora nenhum método domine todos os problemas em termos de taxa de convergência mediana, o SALE demonstra robustez superior. Ele consistentemente reduz o erro de Variação Total (TV) em todos os cenários e evita as falhas severas (altos erros de TV) observadas em vários baselines externos (ex: GP-UCB, log-GP entropy).
• Localização vs. Calibração: Estudos de ablação confirmam que a combinação de restrição guiada por $\bar{\pi}_t$, alocação dependente de estado e o Objetivo Anelado é crítica. Remover a fase de localização (UR-Only) ou a restrição (No Restriction) leva a erros e variabilidade significativamente maiores.
• Aplicações:
  • No modelo de Substituição de Motores de Ônibus, o SALE alcançou uma aproximação de posterior comparável a uma cadeia MCMC de referência (inicializada no modo do SALE) utilizando apenas 520 avaliações de verossimilhança contra 40.000 da referência, uma redução de aproximadamente 77 vezes.
  • Na detecção de Galáxias Ultra-Difusas (UDG), o SALE produziu marginais posteriores mais confiáveis para parâmetros não lineares e um mapa de intensidade de resíduo mais preciso em comparação com um surrogate GP-UCB e uma abordagem de linearização iterativa (inlabru).

Significância e Alegações
O artigo alega que o SALE fornece um framework robusto e principiado para inferência Bayesiana quando as avaliações de verossimilhança são caras. Ao alavancar a Posterior Esperada como uma lei de design unificadora, o SALE efetivamente preenche a lacuna entre encontrar regiões de alta probabilidade e calibrar o surrogate nelas. As contribuições teóricas fornecem os primeiros limites explícitos dependentes de orçamento para designs de UR sequenciais ponderados pela posterior, abordando uma lacuna entre a teoria e a prática de orçamento finito. Os resultados empíricos sugerem que o design sequencial, quando acoplado a uma exploração principiada da estrutura da posterior (via EP e AO), pode suportar inferência Bayesiana confiável onde métodos tradicionais falham ou exigem recursos computacionais proibitivos.