Resumen Técnico: Explotación de la Separabilidad en la Optimización Bayesiana de Caja Gris Multiescala

Definición del Problema

El artículo aborda problemas de optimización de caja gris donde las variables de decisión se particionan naturalmente en dos grupos distintos:

1. Variables de caja negra ($x_{BB}$): Entradas para una función $f_{BB}$ costosa y no diferenciable (por ejemplo, resultados de simulaciones de la Teoría del Funcional de la Densidad o experimentos complejos).
2. Variables de caja blanca ($x_{WB}$): Variables gobernadas por ecuaciones conocidas, diferenciables y de forma cerrada (por ejemplo, balances de masa/energía, relaciones termodinámicas) que dependen de la salida de la función de caja negra.

El objetivo es minimizar una función $J(x_{WB}, y, x_{BB})$ sujeta a restricciones de igualdad de caja blanca $f_{WB}(x_{WB}, y) = 0$ y restricciones de desigualdad $g(x_{WB}, y, x_{BB}) \leq 0$, donde $y = f_{BB}(x_{BB})$.

El desafío central identificado es que la optimización estándar basada en sustitutos monolíticos (que trata todo el sistema como una única caja negra) obliga al modelo sustituto a aprender tanto la estructura desconocida de la caja negra como la física conocida de la caja blanca. Esta redundancia conduce a la "maldición de la dimensionalidad", requiriendo significativamente más evaluaciones costosas para construir un modelo preciso sobre el espacio combinado $[x_{WB}, x_{BB}]$. Además, los métodos estándar suelen manejar las restricciones mediante funciones de penalización o restricciones de probabilidad, lo que puede derivar en soluciones infactibles o errores de aproximación.

Metodología: Reformulación Bivel

Los autores proponen un marco de optimización bayesiana (BO) bivel que explota la separabilidad de la estructura del problema. El método se basa en la Asunción 1, que postula que para cualquier entrada de caja negra $x_{BB}$ fija, la optimización resultante sobre las variables de caja blanca $x_{WB}$ es un programa no lineal (NLP) bien planteado y resoluble hasta la optimalidad global.

La optimización se descompone de la siguiente manera:

• Bucle Exterior (Optimización Bayesiana): Se construye un sustituto de Proceso Gaussiano (GP) únicamente sobre el espacio de baja dimensión de la caja negra $x_{BB}$. El sustituto modela la función de valor escalar $x_{BB} \mapsto J(x_{WB}^*, y, x_{BB})$, donde $x_{WB}^*$ es la solución óptima al problema interno. La función de adquisición (Mejora Esperada) selecciona el siguiente candidato $x_{BB}$.
• Bucle Interno (Solucionador de NLP Global): Para cada candidato $x_{BB}$ propuesto por el bucle exterior, se evalúa la función de caja negra para obtener $y$. Luego, un optimizador global (específicamente Basin-Hopping con minimización local SLSQP, o multi-inicio SLSQP) resuelve exactamente el subproblema de caja blanca:
  $$\min_{x_{WB}} J(x_{WB}, y, x_{BB}) \quad \text{sujeto a} \quad f_{WB}(x_{WB}, y) = 0, \quad g(x_{WB}, y, x_{BB}) \leq 0$$
  Si el problema interno es infactible para un $y$ dado, se devuelve una penalización grande al bucle exterior.

Propiedades Técnicas Clave:

• Reducción de Dimensionalidad: El sustituto GP opera en $\mathbb{R}^{n_{BB}}$ en lugar de $\mathbb{R}^{n_{WB} + n_{BB}}$.
• Satisfacción Exacta de Restricciones: Las restricciones de caja blanca se satisfacen exactamente por el solucionador interno siempre que este converja a un punto factible, eliminando la necesidad de funciones de penalización, aproximaciones de momentos o restricciones de probabilidad dentro del modelo sustituto.
• Sustituto Escalar: A diferencia de los métodos que sustituyen salidas intermedias $y$ (que requieren GPs multisalida), este método sustituye directamente el valor objetivo óptimo final.

Contribuciones Clave

1. Reformulación Bivel: Una estrategia de descomposición novedosa que reduce la dimensión del sustituto de $n_{WB} + n_{BB}$ a $n_{BB}$ asegurando la satisfacción exacta de las restricciones para el subproblema de caja blanca sin funciones de penalización.
2. Suite de Benchmarks: La creación de una suite exhaustiva de 13 problemas de caja gris separables (que van desde funciones sintéticas hasta aplicaciones de ingeniería como diseño de CSTR, intercambiadores de calor y separación de membranas). Esta suite incluye de 2 a 5 variables totales y de 0 a 3 restricciones, con óptimos globales verificados.
3. Evidencia Empírica: Pruebas extensas a través de 8,450 ejecuciones de optimización independientes (8,190 ejecuciones de BO, 130 de NLP, 130 de Basin-Hopping). El estudio evalúa sistemáticamente los hiperparámetros (tamaño de muestra inicial, parámetro de exploración) y las elecciones del solucionador interno.

Resultados

La estrategia de BO bivel propuesta demuestra mejoras significativas de rendimiento sobre la BO de caja negra estándar y los modelos base de búsqueda global:

• Reducción de Regret: La BO bivel logra un regret entre 11 y 108 veces menor que la BO de caja negra en todos los 13 problemas. La media geométrica de mejora es de 3,192 veces para la variante del solucionador interno SLSQP.
• Eficiencia: El método alcanza soluciones de alta calidad con menos evaluaciones de caja negra. En 10 de 13 problemas, la BO bivel iguala el rendimiento final de la BO de caja negra (después de 250 evaluaciones) utilizando menos del 10% del presupuesto de evaluación.
• Factibilidad: La BO bivel logra una factibilidad del 100% en 8 de 12 problemas con restricciones, mientras que la BO de caja negra desperdicia entre el 6% y el 72% de su presupuesto en consultas infactibles.
• Robustez: La ventaja se mantiene a través de diferentes tamaños de inicialización y parámetros de exploración.
• Comparación de Solucionadores: Aunque el solucionador interno de multi-inicio SLSQP es generalmente más rápido y robusto para regiones factibles estrechas, el solucionador de Basin-Hopping (BH) proporciona un rendimiento superior en problemas con paisajes internos altamente multimodales (ej. Rastrigin), aunque puede tener dificultades con regiones factibles estrechas (ej. Small-Feasible-Region 1).

Significado y Reivindicaciones

El artículo afirma que la fuente principal de la ventaja observada es estructural, no algorítmica. Las ganancias se derivan enteramente de la explotación de la estructura de problema separable —reduciendo la dimensión del sustituto y satisfaciendo las restricciones exactamente— en lugar de de nuevas funciones de adquisición o elecciones de kernel.

Los autores argumentan que los sustitutos monolíticos "desperdician muestras aprendiendo lo que ya se sabe". Al resolver exactamente el subproblema conocido (caja blanca) y aproximar solo el componente desconocido (caja negra), el método supera la maldición de la dimensionalidad inherente a los problemas de caja gris de alta dimensión. El artículo posiciona esta descomposición bivel como un enfoque fundamentado para el diseño de ingeniería multiescala donde las simulaciones costosas (caja negra) alimentan modelos macroscópicos bien comprendidos (caja blanca).

El trabajo no pretende resolver funciones compuestas no separables ni reemplazar métodos que dependen de la propagación de la incertidumbre para la toma de decisiones adversas al riesgo (como COBALT o BOCF), señalando que esos métodos abordan configuraciones donde la asunción de separabilidad no se cumple. En su lugar, ofrece una solución especializada y de alto rendimiento para la clase específica de problemas donde existe la separabilidad de variables.