Robust Surrogate-Based Bayesian Inference via Sampling-Based Adaptive Active Learning (SALE)

Resumen Técnico: Inferencia Bayesiana Robusta Basada en Sustitutos mediante Aprendizaje Activo Adaptativo Basado en Muestreo (SALE)

Planteamiento del Problema
Los métodos estándar de inferencia bayesiana, como el método de Monte Carlo por cadenas de Markov (MCMC), se vuelven computacionalmente intratables cuando las evaluaciones de la verosimilitud o del log-posterior son costosas. Este gasto surge en escenarios que involucran simuladores, constantes de normalización dependientes de parámetros, integración repetida sobre estructuras latentes o soluciones numéricas a problemas inversos. Bajo presupuestos de evaluación limitados, los enfoques actuales basados en sustitutos enfrentan una tensión fundamental: deben localizar simultáneamente las regiones de alta masa posterior y calibrar la precisión del modelo sustituto dentro de dichas regiones.

Los métodos existentes suelen depender exclusivamente de la Optimización Bayesiana (BO) para encontrar regiones de alta probabilidad o de la Reducción de la Incertidumbre (UR) para refinar el sustituto. Sin embargo, las estrategias de BO pura suelen tratar el log-posterior como un objetivo de caja negra, fallando al explotar las estructuras de densidad de log y explorando potencialmente regiones irrelevantes. Por el contrario, las estrategias de UR ponderadas por la posterior pueden ser inducidas al error por una alta incertidumbre en las etapas tempranas del aprendizaje, desperdiciando evaluaciones en regiones con masa posterior verdadera insignificante. Además, faltan garantías teóricas para los diseños de UR secuenciales ponderados por la posterior, particularmente en lo que respecta a límites explícitos dependientes del presupuesto sobre el error de aproximación del sustituto final.

Metodología: Aprendizaje Activo Adaptativo Basado en Muestreo (SALE)
El autor propone SALE, un marco de aprendizaje activo basado en Procesos Gaussianos (GP) que unifica la localización y la calibración a través de una medida de diseño secuencial común: la Posterior Esperada (EP), denotada como $\bar{\pi}_t$.

1. La Posterior Esperada (EP):
   En lugar de usar la media del GP ($\mu_t$) como el único sustituto, SALE utiliza la EP, definida como la media de las leyes posteriores inducidas por las trayectorias de muestra del GP: $\bar{\pi}_t(A) = \int \pi(A|g) P_t(dg)$. Teóricamente, $\bar{\pi}_t$ minimiza la pérdida de divergencia de Kullback–Leibler (KL) condicional esperada entre los estimadores dada la información actual. Crucialmente, SALE utiliza $\bar{\pi}_t$ no solo como un resultado inferencial, sino como la ley guía para el diseño secuencial.

2. Asignación Dependiente del Estado:
   SALE asigna dinámicamente el presupuesto de evaluación entre dos ramas basadas en un estado latente $S_t$:

   • Localización (BO): Cuando la resolución del diseño alrededor del maximizador actual es baja, el algoritmo prioriza la BO para localizar regiones de alta posterior.
   • Calibración (UR): A medida que la resolución mejora, el algoritmo se desplaza hacia la UR para asegurar la precisión de la aproximación en regiones relevantes para la inferencia.
     Se utiliza un proxy de la probabilidad de descubrimiento de valores no resueltos para determinar la asignación, asegurando que la UR reciba una fracción de evaluaciones positiva asintóticamente.

3. Objetivo de Recocido (AO) para BO:
   Para la rama de localización, SALE introduce el Objetivo de Recocido (Annealed Objective, AO), que promedia las leyes posteriores $\tau$-templadas inducidas por las trayectorias de muestra del GP.

   • Cuando $\tau=1$, el AO es igual a la EP ($\bar{\pi}_t$).
   • A medida que $\tau \to 0$, el AO se aproxima al Muestreo de Thompson (TS).
   • El templado positivo de $\tau$ regulariza la ley de consulta contra las perturbaciones de la trayectoria del sustituto, proporcionando una estabilidad que el TS carece cuando el sustituto tiene una alta incertidumbre (por ejemplo, cuando contiene picos artificiales estrechos).
   • El muestreo de la AO se logra mediante el Recocido de Simulación de Intercambio (ESA), que gestiona las constantes de normalización intratables mediante la introducción de extracciones auxiliares.

4. Calibración Ponderada por la EP (UR):
   Para la rama de calibración, SALE define una regla de UR ideal que maximiza la reducción esperada en un funcional de varianza que controla la distancia de Variación Total (TV) entre la EP y la verdadera posterior.

   • La regla ideal es computacionalmente costosa. SALE implementa un proxy práctico que restringe los candidatos a la muestra actual de la EP, utiliza un templado de pesos dependiente del estado (inclinándose hacia medias altas del GP durante la localización) y emplea un proxy de clasificación local basado en la incertidumbre del GP y la media de la posterior.

Contribuciones Clave

1. Medida de Diseño Unificada: SALE es el primer marco que utiliza la Posterior Esperada ($\bar{\pi}_t$) como una medida de diseño secuencial común tanto para la restricción de la región (localización) como para la calibración.
2. Compromiso de Estabilidad-Optimización: El artículo caracteriza el compromiso del Objetivo de Recocido (AO). Se demuestra que el templado positivo de $\tau$ estabiliza la distribución de consulta contra las perturbaciones del sustituto (vía un límite de continuidad $W_{1,\infty}$-a-TV) mientras se cuantifica la penalización de optimización asociada mediante límites de arrepentimiento bayesiano (Bayesian regret).
3. Garantías Teóricas para UR: El autor deriva un límite explícito dependiente del presupuesto sobre el error de TV esperado de la EP final bajo un diseño de UR secuencial ponderado por la posterior ideal. Además, establece una tasa de TV esperado para el proxy de UR implementado, mostrando que coincide con el orden polinómico de la regla ideal hasta factores logarítmicos.
4. Robustez: El marco está diseñado para evitar los fallos severos observados en las líneas base externas mediante la alternancia adaptativa entre localización y calibración.

Resultos y Desempeño Empírico
El autor evalúa SALE a través de bancos de pruebas analíticos (ej. Gaussiana de cola Cuártica, Embudo de Neal, Rosenbrock, Mezcla Bimodal), verosimilitudes simuladas (GRF de Matérn Espacial, problema inverso de Lotka–Volterra) y dos aplicaciones del mundo real (Modelos de Decisión Discreta Dinámica para el reemplazo de motores de autobuses y detección de Galaxias Ultra-Difusas).

• Robustez: Aunque ningún método domina todos los problemas en términos de tasa de convergencia mediana, SALE demuestra una robustez superior. Reduce consistentemente el error de Variación Total (TV) en todos los entornos y evita los fallos severos (errores altos de TV) observados en varias líneas base externas (ej. GP-UCB, entropía de log-GP).
• Localización vs. Calibración: Los estudios de ablación confirman que la combinación de la restricción guiada por $\bar{\pi}_t$, la asignación dependiente del estado y el Objetivo de Recocido es crítica. Eliminar la fase de localización (Solo-UR) o la restricción (Sin Restricción) conduce a un error y una variabilidad significativamente mayores.
• Aplicaciones:
  • En el modelo de Reemplazo de Motores de Autobús, SALE logró una aproximación de la posterior comparable a una cadena de referencia MCMC (inicializada en el modo de SALE) utilizando solo 520 evaluaciones de verosimilitud frente a las 40,000 de la referencia, una reducción de aproximadamente 77 veces.
  • En la detección de Galaxias Ultra-Difusas (UDG), SALE produjo marginales posteriores más fiables para parámetros no lineales y un mapa de intensidad de residuos más preciso en comparación con un sustituto GP-UCB y un enfoque de linealización iterativa (inlabru).

Significancia y Reivindicaciones
El artículo sostiene que SALE proporciona un marco principista y robusto para la inferencia bayesiana cuando las evaluaciones de la verosimilitud son costosas. Al aprovechar la Posterior Esperada como una ley de diseño unificadora, SALE cierra eficazmente la brecha entre la búsqueda de regiones de alta probabilidad y la calibración del sustituto dentro de ellas. Las contribuciones teóricas proporcionan los primeros límites explícitos dependientes del presupuesto para los diseños de UR secuenciales ponderados por la posterior, abordando un vacío entre la teoría y la práctica de presupuesto finito. Los resultados empíricos sugieren que el diseño secuencial, cuando se combina con un uso principista de la estructura de la posterior (vía la EP y el AO), puede soportar una inferencia bayesiana fiable donde los métodos tradicionales fallan o requieren recursos computacionales prohibitivos.