Resumen Técnico: Optimización Bayesiana Multiobjetivo para la Inferencia Libre de Verosimilitud en Modelos de Muestreo Secuencial

1. Planteamiento del Problema

En muchos dominios científicos, particularmente en la modelización del comportamiento del consumidor y la psicología, los modelos estadísticos se definen mediante procesos generativos (simuladores) que producen datos sintéticos. Si bien esto es natural para incorporar el conocimiento del dominio, estos modelos suelen poseer funciones de verosimilitud intratables, lo que imposibilita la inferencia bayesiana tradicional. La Inferencia Libre de Verosimilitud (LFI, por sus siglas en inglés), o Inferencia Basada en Simulación (SBI), aborda esto dependiendo únicamente de las simulaciones del modelo.

Un desafío específico surge al tratar con datos de múltiples fuentes (por ejemplo, resultados de elección y tiempos de respuesta en Modelos de Muestreo Secuencial). Los métodos de LFI eficientes existentes, como la Optimización Bayesiana para la Inferencia Libre de Verosimilitud (BOLFI), requieren típicamente combinar las discrepancias de múltiples fuentes de datos en una única métrica escalar. Esta combinación suele ser arbitraria; si no se maneja con extremo cuidado, puede conducir a:

• Pérdida de información: La importancia relativa de las diferentes fuentes de datos puede quedar oscurecida.
• Cuantificación de la incertidumbre conservadora: El posterior resultante puede ser excesivamente difuso.
• Incapacidad para detectar conflictos: Si las fuentes de datos proporcionan información conflictiva (por ejemplo, debido a una especificación errónea del modelo), una única discrepancia combinada puede fallar al intentar explorar simultáneamente las regiones de alta verosimilitud de todas las fuentes.

Los métodos actuales de estimación de densidad estructurada (como la verosimilitud sintética) suelen requerir simulaciones excesivas, lo que los hace inadecuados para simuladores computacionalmente costosos.

2. Metodología: MOBOLFI

Los autores proponen la Optimización Bayesiana Multiobjetivo para la Inferencia Libre de Verosimilitud (MOBOLFI). Este método extiende el enfoque de fuente única de BOLFI para manejar datos de múltiples fuentes, tratando las discrepancias de cada fuente de datos como objetivos separados en un marco de optimización multiobjetivo.

Mecanismo Central

1. Discrepancia Multidimensional: En lugar de una única discrepancia $\Delta$, MOBOLFI define un vector de discrepancias $\mathbf{D}(\theta) = (D_1(\theta), \dots, D_K(\theta))^\top$, donde cada $D_k$ representa la discrepancia esperada entre los datos simulados y observados para la $k$-ésima fuente de datos.
2. Modelado de Sustituto (Surrogate Modeling): Se utiliza un Proceso Gaussiano (GP) multivariante como modelo sustituto para la función de discrepancia valorada en vector $\mathbf{D}(\theta)$. Este modelo captura no solo la incertidumbre en cada discrepancia, sino también la estructura de dependencia (covarianza) entre las discrepancias de las diferentes fuentes de datos.
3. Optimización Bayesiana Multiobjetivo (MOBO): El algoritmo emplea MOBO para seleccionar secuencialmente los parámetros de simulación $\theta$. Específicamente, utiliza la función de adquisición de Mejora del Hipervolumen Esperado con Ruido (NEHVI). Esto guía la búsqueda hacia la "frontera de Pareto", el conjunto de valores de parámetros donde las discrepancias para todas las fuentes de datos se minimizan simultáneamente (o donde no se puede mejorar una sola fuente sin empeorar otra).
4. Aproximación de la Verosimilitud: Una vez entrenado el modelo sustituto GP, este aproxima la distribución de las discrepancias. La verosimilitud para los datos conjuntos y para las fuentes de datos individuales se aproxima utilizando la función de distribución acumulativa (CDF) de una distribución normal multivariante derivada de las predicciones del GP.
   • La verosimilitud conjunta se aproxima como $p(\mathbf{S}_{obs}|\theta) \propto \Phi(\mathbf{t}; \boldsymbol{\mu}_n(\theta), \boldsymbol{\Sigma}_n(\theta) + \boldsymbol{\Sigma})$.
   • Las verosimilitudes marginales y condicionales para fuentes individuales (por ejemplo, $p(T_{obs}|\theta)$) se derivan mediante la descomposición de la probabilidad multivariante, permitiendo la inferencia separada en subconjuntos de los datos.

Detalles de Implementación

• Selección de Tolerancia: El vector de tolerancia $\mathbf{t}$ se establece basándose en el $q$-cuantil de las discrepancias de entrenamiento (por ejemplo, $q=0.05$).
• Escalamiento: Para asegurar la estabilidad numérica y una exploración efectiva, las discrepancias se escalan (por ejemplo, usando la Desviación Absoluta de la Media) de modo que operen en magnitudes similares antes de ser introducidas en el algoritmo MOBO.
• Muestreo del Posterior: Las aproximaciones de verosimilitud se utilizan dentro de algoritos de Monte Carlo por Cadenas de Markov (específicamente, MCMC de Evolución Diferencial) para muestrear de la posterior aproximada sin necesidad de más simulaciones costosas.

3. Contribuciones Clave

El artículo describe tres contribuciones principales:

1. Exploración Eficiente de Regiones de Alta Verosimilitud Disjuntas: MOBOLFI puede explorar regiones de alta verosimilitud para múltiples fuentes de datos en una sola ejecución, incluso cuando estas regiones son disjuntas (un escenario común en la especificación errónea del modelo). Esto es difícil para los enfoques de un solo objetivo, que pueden quedar atrapados en óptimos locales de una métrica combinada.
2. Evitación de la Pérdida de Información: Al evitar la necesidad de combinar las discrepancias en un único escalar, MOBOLFI preserva el contenido de información distintivo de cada fuente de datos. Esto evita la cuantificación de la incertidumbre "altamente conservadora" que suele verse cuando se usan pesos arbitrarios para combinar discrepancias.
3. Capacidades Diagnósticas: El método permite la aproximación de las verosimilitudes para fuentes de datos individuales. Esto permite a los investigadores:
   • Comprobar la existencia de información conflictiva entre las fuentes de datos (verificación del modelo).
   • Determinar la importancia relativa de fuentes de datos específicas para la estimación de parámetros individuales.

4. Resultados Experimentales

Los autores validan MOBOLFI a través de tres ejemplos:

A. Ejemplo de Juego (Movimiento Browniano)

• Configuración: Un modelo sintético con dos fuentes de datos (observaciones Normales y movimiento Browniano discretizado) que estima un parámetro de 10 dimensiones.
• Hallazgos:
  • MOBOLFI produjo posteriores con menor varianza y mayor alineación con el posterior real en comparación con BOLFI con una suma ponderada de discrepancias.
  • MOBOLFI recuperó con éxito el posterior real para fuentes de datos individuales (condicionando solo a una fuente) sin costo computacional adicional tras la ejecución conjunta.
  • En un escenario de especificación errónea (donde las dos fuentes de datos fueron generadas por parámetros reales distintos), MOBOLFI identificó la información conflictiva, mientras que BOLFI produjo un modo del posterior situado entre las verdades conflictivas, fallando en capturar las distintas regiones de alta verosimilitud.

B. MLBA Sintético (Acumulador Balístico Lineal de Múltiples Atributos)

• Configuración: Un SSM utilizado para la toma de decisiones, ajustado a datos sintéticos de elección y tiempo de respuesta (RT). La verosimilitud de forma cerrada del MLBA sirvió como "estándar de oro".
• Hallazgos:
  • Los posteriores de MOBOLFI estuvieron significativamente más cerca del estándar de oro de forma cerrada que los posteriores de BOLFI.
  • MOBOLFI demostró que los datos de Tiempo de Respuesta (RT) eran cruciales para estimar los parámetros de la parte final (umbral de decisión/dificultad), mientras que los datos de Elección (CH) eran más informativos para los parámetros de la parte frontal (preferencias).
  • En escenarios de especificación errónea, MOBOLLI exploró el espacio de parámetros efectivamente, identificando óptimos locales cerca de los parámetros reales conflictivos, mientras que BOLFI falló en explorar la región completa de alta verosimilitud para ambas fuentes simultáneamente.

C. Datos del Mundo Real (Conductores de Transporte de Pasajeros)

• Configuración: Un estudio empírico sobre las preferencias de conductores de transporte de pasajeros en Singapur hacia vehículos eléctricos (EV), utilizando datos de elección y RT.
• Hallazgos:
  • Las aproximaciones de MOBOLFI estuvieron mucho más cerca de las estimaciones de verosimilitud de forma cerrada que las de BOLFI.
  • El análisis reveló que, mientras los datos de elección impulsaban la estimación de los parámetros de preferencia, los datos de RT eran esenciales para la estimación del umbral de decisión.
  • Los datos conjuntos proporcionaron estimaciones más eficientes que las fuentes de datos marginales por sí solas.

D. Ejemplo del Centro de Guardería (Apéndice)

• Configuración: Inferencia sobre tasas de transmisión bacteriana utilizando estadísticas de resumen de múltiples centros.
• Hallazgos: MOBOLFI se comportó competitivamente con BOLFI incluso en este contexto de fuente única (cuando los resúmenes de datos fueron particionados), demostrando robustez.

5. Significado y Reivindicaciones

El artículo afirma que MOBOLFI ofrece un marco robusto para la inferencia bayesiana en modelos complejos y computacionalmente costosos con múltiples fuentes de datos. Su importancia radica en:

• Manejo de la Especificación Errónea: Proporciona un mecanismo para detectar y analizar conflictos entre fuentes de datos, lo cual es crítico para un análisis confiable en modelos complejos como los SSM.
• Eficiencia de Simulación: Logra aproximaciones precisas con menos simulaciones que los métodos que requieren grandes lotes de datos para la estimación de densidad, lo que lo hace adecuado para simuladores costosos.
• Interpretabilidad: Al separar las contribuciones de verosimilitud, ofrece una visión más profunda sobre qué fuentes de datos impulsan la estimación de parámetros específicos, una característica que se pierde en los enfoques de discrepancia única.

Los autores señalan que, aunque MOBOLFI está motivado por los SSM, es aplicable a cualquier problema de LFI con múltiples fuentes de datos. Reconocen que aún quedan desafíos, como la sensibilidad a la elección de las estadísticas de resumen y la inicialización del algoritmo de BO, sugiriendo estas como áreas para la investigación futura.