Resumen Técnico: Optimización Bayesiana por Lotes Escalable Mediante Funciones de Adquisición de Subespacios

Planteamiento del Problema

La Optimización Bayesiana (BO) es un marco poderoso para resolver problemas de optimización de caja negra costosos. Aunque la BO estándar opera de forma secuencial, seleccionando un punto de muestra a la vez, este enfoque es ineficiente cuando se dispone de recursos de computación paralela. Para aprovechar el paralelismo, se requieren algoritmos de Optimización Bayesiana por Lotes (Batch Bayesian Optimization) que permitan evaluar múltiples muestras simultáneamente.

Sin embargo, los enfoques de lote existentes enfrentan problemas significativos de escalabilidad a medida que el tamaño del lote ($q$) aumenta:

• Mejora Esperada Multi-punto (qEI): Aunque es teóricamente sólido, la optimización de qEI implica un espacio de búsqueda de dimensión $d \times q$ (donde $d$ es la dimensión del problema). A medida que $q$ crece, el costo computacional de evaluar la función de distribución acumulativa multivariante y la dificultad de optimizar la función de adquisición aumentan exponencialmente, volviendo a qEI y sus variantes (p. ej., FqEI, qLogEI) poco prácticos para tamaños de lote grandes (típicamente $q > 10$).
• Enfoques Heurísticos (p. ej., Kriging Believer, Constant Liar, Local Penalization): Estos métodos a menudo dependen de "puntos falsos" o funciones de penalización artificiales para simular efectos de lote. A medida que el tamaño del lote aumenta, la acumulación de estos puntos artificiales degrada la precisión del modelo de Proceso Gaussiano (GP), pudiendo desviar la dirección de búsqueda y reducir la eficiencia de la optimización.
• Enfoques Multi-objetivo y Multi-modelo: Los métodos que entrenan múltiples modelos sustitutos o resuelven problemas de optimización multi-objetivo suelen incurrir en altos costos computacionales que no escalan bien con tamaños de lote grandes.

El desafío central abordado en este trabajo es diseñar una estrategia de adquisición por lotes que sea computacionalmente tratable y efectiva para evaluaciones de lote a gran escala sin sufrir la maldición de la dimensionalidad o la degradación del modelo.

Metodología

Los autores proponen un nuevo enfoque llamado Funciones de Adquisición de Subespacios, que extiende las funciones de adquisición existentes (específicamente la Mejora Esperada, pero también adaptable a PI y UCB) para operar dentro de subespacios seleccionados aleatoriamente y alineados con los ejes.

Concepto Central: Mejora Esperada de Subespacio (SSEI)

En lugar de buscar $q$ puntos en el espacio de diseño completo de $d$ dimensiones simultáneamente, el método:

1. Selecciona Subespacios: Selecciona aleatoriamente un conjunto de subespacios alineados con los ejes. Un subespacio de $k$ dimensiones alineado con los ejes se define eligiendo $k$ coordenadas de las $d$ dimensiones originales mientras se fijan las $d-k$ coordenadas restantes a los valores de la mejor solución actual ($x_{min}$).
2. Optimiza Localmente: Para cada subespacio seleccionado, la función de adquisición estándar (p. ej., EI) se optimiza únicamente sobre las $k$ variables activas. Las variables no seleccionadas permanecen fijas en $x_{min}$.
3. Genera el Lote: Se selecciona un punto de consulta de cada subespacio único. Si el tamaño de lote requerido $q$ excede el número de subespacios disponibles ($N = 2^d - 1$), el método emplea la Mejora Esperada Multi-Punto de Subespacio (SSqEI), que optimiza múltiples puntos dentro de un mismo subespacio.

Marco Computacional

El algoritmo propuesto (Algoritmo 1) opera de la siguiente manera:

• Inicialización: Generar muestras iniciales y entrenar un modelo GP.
• Selección de Subespacios: Dibujar aleatoriamente un entero $k \in [1, d]$ y luego una combinación aleatoria de $k$ coordenadas para formar un subespacio. Esto evita el costo computacional de enumerar todos los subespacios posibles.
• Optimización de la Adquisición:
  • Si $q \le N$: Seleccionar $q$ subespacios distintos y optimizar la SSEI estándar en cada uno para encontrar un punto por subespacio.
  • Si $q > N$: Distribuir los $q$ puntos a través de los $N$ subespacios disponibles (optimizando múltiples puntos por subespacio usando SSqEI).
• Evaluación: Evaluar el lote resultante de $q$ puntos en paralelo.
• Actualización: Actualizar el modelo GP con las nuevas observaciones y repetir.

La dimensionalidad del problema de optimización para la función de adquisición se reduce de $d \times q$ a aproximadamente $k \times 1$ (o $k \times q_i$ para SSqEI), donde la dimensión esperada $E[k] \approx d/2$. Esto reduce significativamente la complejidad de la optimización de la adquisición.

Contribuciones Clave

1. Estrategia de Lote Escalable: El artículo introduce un método para extender la optimización bayesiana a grandes tamaños de lote mediante la descomposición de la selección de lotes en optimizaciones de subespacios independientes o de baja dimensión, evitando la complejidad exponencial de qEI.
2. Simplicidad y Generalidad: El enfoque no requiere hiperparámetros adicionales y es aplicable a una amplia gama de funciones de adquisición (demostrado en EI, PI y UCB). Es conceptualmente simple: "dibujar subespacios, optimizar localmente, agregar".
3. Robustez ante la Dimensionalidad: Al restringir la búsqueda a subespacios alineados con los ejes anclados en la mejor solución actual, el método equilibra naturalmente la exploración (vía selección aleatoria de subespacios) y la explotación (vía búsqueda local alrededor de $x_{min}$), lo que lo hace particularmente efectivo en espacios de alta dimensión.

Resultados Experimentales

Los autores evaluaron el método propuesto (SSEI) contra diez algoritmos de lote de vanguardia (incluyendo qEI, qLogEI, FqEI, TuRBO, MSMR, MACE, PEI, EIMI, KB y Búsqueda Aleatoria) en 60 problemas de referencia sintéticos (GPMean, SumSquares, Rosenbrock, etc.) a través de dimensiones $d \in \{2, 4, 8, 10, 20, 30\}$ y tamaños de lote $q \in \{1, 2, 4, 8, 16, 32, 64, 128\}$.

• Desempeño vs. BO Secuencial: Cuando $q=1$, SSEI se desempeña de manera similar a la EI estándar en problemas de baja dimensión, pero supera significativamente a esta en problemas de alta dimensión ($d \ge 8$). Los autores atribuyen esto al hecho de que la EI secuencial tiene dificultades para optimizar la función de adquisición en altas dimensiones, mientras que la búsqueda local en subespacios de SSEI encuentra mejores óptimos locales para la función de adquisición.
• Escalabilidad con el Tamaño del Lote:
  • Lotes Pequeños a Medianos ($q \le 32$): SSEI logra una aceleración casi lineal en términos de tiempo de ejecución (iteraciones) manteniendo un desempeño comparable o mejor que otros métodos de lote cuando se mide por evaluaciones de función.
  • Lotes Grandes ($q = 128$): SSEI supera significativamente a todos los algoritmos de lote comparados, incluyendo las variantes de qEI que fallan o se degradan significamente a esta escala. El método propuesto converge más rápido y encuentra mejores soluciones finales.
• Comparación con Algoritmos Específicos:
  • vs. qEI/qLogEI/FqEI: SSEI es superior, especialmente a medida que $d$ y $q$ aumentan, porque evita la maldición de la dimensionalidad de $d \times q$.
  • vs. TuRBO: SSEI se desempeña de manera competitiva, superando a menudo a TuRBO en dimensiones bajas a medias y igualándolo en dimensiones altas.
  • vs. Métodos Basados en Penalización (PEI, EIMI, KB): SSEI supera consistentemente a estos métodos, que sufren de degradación del modelo a medida que el tamaño del lote crece.
• Generalizabilidad: El enfoque de subespacios se aplicó con éxito a la Probabilidad de Mejora (SSPI) y al Límite Superior de Confianza (SSUCB), mostrando ganancias de desempeño similares sobre sus contrapartes multi-punto (qPI, qUCB).

Significado y Reivindicaciones

El artículo afirma que las Funciones de Adquisición de Subespacios propuestas proporcionan una solución simple, eficiente y escalable para la optimización bayesiana por lotes. La principal significancia radica en permitir el uso de recursos de computación paralela a gran escala (gran $q$) sin los cuellos de botella computacionales o la degradación de precisión asociados con los métodos existentes.

Los autores enfatizan que:

• El método mitiga eficazmente la maldición de la dimensionalidad en la optimización de la función de adquisición.
• Ofrece un equilibrio práctico entre la exploración global (vía selección aleatoria de subespacios) y la explotación local (vía fijación de variables no seleccionadas).
• Es una extensión "plug-and-play" que puede aplicarse a diversas funciones de adquisición y es particularmente valiosa para problemas de optimización costosos donde la evaluación paralela es factible.

El trabajo concluye que la selección de puntos de consulta desde múltiples subespacios diferentes es una estrategia prometedora para la optimización bayesiana por lotes a gran escala, ofreciendo mejoras significativas en la velocidad de convergencia y la calidad de la solución en comparación con los enfoques actuales de vanguardia.