Profile Bayesian Optimization for Expensive Computer Experiments

Resumen Técnico: Optimización Bayesiana de Perfil para Experimentos Computacionales Costosos

Planteamiento del Problema
El artículo aborda el desafío de optimizar simulaciones computacionales de caja negra, deterministas y costosas, donde el objetivo es identificar "óptimos de perfil" en lugar de un único óptimo global. En estos escenarios, las entradas se dividen en un único parámetro de control ($x^\star$) y múltiples parámetros de molestia ($x_{-\star}$). El objetivo es estimar la función $T(x^\star) = \min_{x_{-\star}} f(x^\star, x_{-\star})$ a lo largo de todo el rango plausible de $x^\star$.

La Optimización Bayesiana (BO) estándar es inadecuada para esta tarea porque típicamente apunta a un único mínimo global, descuidando a menudo la exploración de todo el rango del parámetro de control. Los métodos de optimización de perfil existentes, como la Mejora Esperada de Perfil (PEI, por sus siglas en inglés) propuesta por Ginsbourger et al. (2014), sufren dos limitaciones principales:

1. Intratabilidad Computacional: Dependen de rejillas densas para la selección de candidatos, lo cual se vuelve inviable en dimensiones superiores a dos.
2. Desequilibrio entre Exploración y Explotación: Al igual que la Mejora Esperada (EI) tradicional, la PEI tiende a sobreexplotar las regiones cercanas al mínimo global, fallando en explorar adecuadamente todo el rango del parámetro de control.

Los autores están motivados por una aplicación de ingeniería específica: el diseño de un difusor para un Combustor de Detonación Rotativa (RDC). La simulación es computacionalmente costosa (de 10 minutos a varias horas por ejecución) y no estacionaria debido a la dinámica de la combustión. El objetivo es mapear la pérdida de energía mínima (pérdida de presión) como una función de la longitud del difusor ($x^\star$), optimizando sobre cinco parámetros de molestia (puntos de curvatura y ubicación del bypass) para informar las compensaciones de diseño entre la eficiencia y las restricciones físicas.

Metodología
Los autores proponen un nuevo procedimiento de Optimización Bayesiana de Perfil (PBO) que integra el modelado de sustitución con una estrategia de adquisición de dos etapas.

1. Modelado de Sustitución:

   • El método utiliza sustitutos de Proceso Gaussiano (GP) o Proceso Gaussiano Profundo (DGP). Se destaca que los DGP son capaces de manejar superficies de respuesta no estacionarias comunes en simulaciones físicas.
   • Para estimar $T(x^\star)$, los autores generan muestras posteriores conjuntas del sustituto. Para cada muestra, identifican el valor de respuesta mínimo para cada $x^\star$ único. La distribución empírica de estos mínimos proporciona una estimación $\hat{T}(x^\star)$ junto con la cuantificación de la incertidumbre (UQ) mediante intervalos de credibilidad.
   • Para gestionar los costos computacionales en altas dimensiones, se emplea la aproximación de Vecchia para un muestreo eficiente de la posterior conjunta.

2. Tricands Modificados (Generación de Candidatos):

   • Para evitar el cuello de botella computacional de las rejillas densas, los autores adaptan el enfoque de "tricands" (candidatos de triangulación) de Gramacy et al. (2022).
   • En lugar de una rejilla completa, los candidatos se generan utilizando una triangulación de Delaunay de los parámetros de molestia observados ($X_{-\star}$). Los "candidatos internos" se colocan en los centros geométricos de los componentes de la triangulación, y los "candidatos de franja" se colocan cerca de los límites.
   • Se crea una rejilla semi-densa de 1D para el parámetro de control $x^\star$. El conjunto final de candidatos ($X_{tri+}$) es el producto cartesiano de la rejilla $x^\star$ y los tricands de los parámetros de molestia. Esto permite una estimación eficiente de los mínimos sin evaluar miles de millones de puntos.

3. Esquema de Adquisición de Dos Etapas:
   La selección del siguiente punto de evaluación $x_{n+1} = \{x^\star_{n+1}, x_{-\star, n+1}\}$ ocurre en dos pasos distintos:

   • Etapa 1 (Exploración de $x^\star$): El algoritmo selecciona el valor del parámetro de control $x^\star_{n+1}$ que exhibe la mayor incertidumbre (el ancho del intervalo de credibilidad más grande) en la estimación actual de $\hat{T}(x^\star)$. Esto se inspira en el criterio de Aprendizaje Activo de MacKay y asegura que todo el rango del parámetro de control sea explorado.
   • Etapa 2 (Explotación de $x_{-\star}$): Una vez fijado $x^\star_{n+1}$, el algoritmo selecciona los parámetros de molestia $x_{-\star, n+1}$ maximizando la Mejora Esperada de Perfil (PEI) a lo largo de esa sección específica. Esto enfoca la búsqueda en encontrar la configuración de molestia óptima para el parámetro de control elegido.

Resultados Clave
Los autores validan el procedimiento PBO a través de pruebas de referencia sintéticas y la aplicación motivadora del RDC:

• Pruebas de Referencia Sintéticas:

  • Funciones Estacionarias (Branin 2D, Kyger 3D): PBO superó a la BO estándar, al Muestreo de Hipercubo Latino (LHS) aleatorio y al método PEI original. PBO logró un Error Cuadrático Medio (RMSE) más bajo e intervalos de credibilidad más estrechos, manteniendo una cobertura cercana al 95%. Crucialmente, PBO exploró con éxito todo el rango de $x^\star$, mientras que PEI y la BO estándar agruparon las adquisiciones cerca de los mínimos globales, dejando partes del perfil sin explorar.
  • Función No Estacionaria (Squiggle 4D): Utilizando sustitutos DGP, PBO demostró una precisión superior en comparación con los sustitutos GP. Aunque las predicciones de DGP mostraron una cobertura ligeramente menor (indicando exceso de confianza), arrojaron un RMSE y una Desviación Absolta Máxima (MaxAD) significativamente menores que los métodos basados en GP.

• Aplicación Motivadora (Difusor RDC):

  • Aplicado a una simulación de 6D (1 control, 5 de molestia), el PBO con sustitutos DGP se ejecutó durante 150 evaluaciones.
  • La estimación del perfil resultante proporcionó cuantificación de la incertidumbre en todo el rango de longitudes del difusor.
  • Al compararse con un optimizador evolutivo multiobjetivo de vanguardia (CADO) ejecutado con el mismo presupuesto (113 evaluaciones), PBO identificó diseños con menores pérdidas de presión que el frente de Pareto encontrado por CADO. Además, PBO proporcionó un perfil continuo de óptimos, mientras que CADO solo proporcionó un conjunto discreto de puntos de compromiso.

Significancia y Reivindicaciones
El artículo afirma que la Optimización Bayesiana de Perfil ofrece un marco robusto para estimar los óptimos de perfil en experimentos computacionales costosos donde el rango del parámetro de control es de interés primordial.

• Novedad: La principal contribución es el esquema de adquisición de dos etapas que separa explícitamente la exploración del parámetro de control de la explotación de los parámetros de molestia. Esto evita la "sobreexplotación" común en la BO y la PEI tradicionales.
• Escalabilidad: Al combinar los tricands modificados con la aproximación de Vecchia, el método extiende la optimización de perfil a dimensiones más altas (demostrado hasta 6D) donde los métodos previos basados en rejillas fallaron.
• Flexibilidad: El procedimiento es compatible tanto con sustitutos estacionarios (GP) como no estacionarios (DGP), lo que lo hace aplicable a simulaciones físicas complejas con cambios de régimen.
• Impacto Práctico: En la aplicación RDC, el método permitió la toma de decisiones informada al cuantificar la compensación entre la longitud del difusor y la pérdida de energía, identificando diseños que superaron a los enfoques de optimización multiobjetivo existentes.

Los autores señalan modestamente algunas limitaciones, incluyendo la suposición de óptimos de perfil únicos para cada sección de $x^\star$ y el costo computacional de generar suficientes muestras posteriores para la cobertura de DGP en altas dimensiones. Sugieren que el trabajo futuro podría involucrar sustitutos mejorados por gradientes y calibración bayesiana con datos físicos.