Sequential Experimental Designs for Kriging Model

Resumen Técnico: Diseños Experimentales Secuenciales para Modelos de Kriging

Planteamiento del Problema
Los experimentos computacionales suelen depender de modelos de Kriging (procesos gaussianos) como modelos sustitutos para aproximar sistemas físicos e ingenieriles complejos. El objetivo principal es minimizar la discrepancia entre el sustituto y el modelo real en todo el dominio experimental. Si bien los diseños de llenado de espacio de una sola etapa son comunes, estos dependen de supuestos a priori y pueden fallar al no cubrir regiones críticas, lo que conlleva un desperdicio de recursos. Los diseños secuenciales ofrecen una alternativa dinámica mediante la adición iterativa de puntos basada en los datos acumulados. Sin embargo, los métodos secuenciales existentes enfrentan dos limitaciones significativas:

1. Los diseños secuenciales por lotes (batch) basados en observaciones están poco estudiados. En muchos escenarios prácticos (por ejemplo, simulaciones aeroespaciales de alta fidelidad), los costos fijos de configurar un experimento (calibración, inicialización) son altos, mientras que el costo marginal de añadir múltiples puntos dentro de una sola ronda es insignificante. Los métodos actuales rara vez abordan este escenario de "lote" de manera efectiva.
2. Ineficiencia de los diseños secuenciales de un solo punto. Los enfoques tradicionales de un solo punto requieren numerosas rondas iterativas para acumular suficientes datos, lo que prolonga los ciclos experimentales y conduce a un uso ineficiente de los recursos. Además, la selección de lotes ingenuos suele resultar en el agrupamiento de puntos alrededor de una única ubicación óptima, fallando en la exploración efectiva del espacio de diseño.

Metodología
El artículo propone un marco integral para abordar estas brechas, que comprende dos nuevos criterios de selección y un algoritmo general de diseño secuencial por lotes.

1. Nuevos Criterios de Selección:

   • Criterio basado en el Gradiente ($\phi_{gra}$): Motivado por la observación de que las regiones con magnitudes de gradiente grandes suelen requerir un muestreo más denso para reducir el error de ajuste, este criterio selecciona puntos que maximizan la magnitud esperada del gradiente de la función real, $\|\nabla f(x)\|$, manteniendo la distancia de los puntos existentes. Incorpora un término para la variabilidad de la respuesta local ($|\hat{y}_X(x) - f(x^*)|$) para asegurar que se seleccionen puntos donde la función realmente varía. Teóricamente, este criterio aproxima el límite superior del error de predicción.
   • Criterio basado en la Varianza ($\phi_{var}$): Este criterio tiene como objetivo minimizar el error máximo de ajuste seleccionando puntos que maximizan una función derivada de la varianza de la predicción y la varianza de la estimación del gradiente. Está fundamentado en límites teóricos que muestran que el error de estimación está regulado tanto por la varianza de la predicción como por la varianza del gradiente.

2. Marco de Diseño Secuencial de Top-$b$ Basado en Clústeres:
   Para extender cualquier criterio secuencial de un solo punto a un escenario de lote (donde se añaden $b > 1$ puntos por iteración), los autores proponen un algoritmo de agrupamiento (Algoritmo 2).

   • Mecanismo: En lugar de simplemente seleccionar los $b$ mejores puntos que maximizan el criterio $\phi$ (lo que resultaría en un agrupamiento cerca de un único máximo global), el algoritmo discretiza el espacio de diseño y ordena los puntos candidatos según sus valores de $\phi$.
   • Lógica de Clústeres: Los puntos se asignan a clústeres basados en la proximidad espacial y reglas de densidad (controladas por los parámetros $\alpha$ y $\beta$). El algoritmo identifica máximos locales distintos (clústeres) y selecciona el punto representativo de los $b$ mejores clústeres.
   • Objetivo: Este enfoque evita el agrupamiento de puntos, asegura una exploración diversa de las regiones de alto valor y permite que cualquier criterio de un solo punto existente se adapte a escenarios de lote.

Contribuciones Clave

• Dos Nuevos Criterios: La introducción de los criterios basados en el gradiente y en la varianza, que ofrecen distintas perspectivas teóricas sobre la minimización del error de ajuste global (error promedio vs. error máximo).
• Marco General de Lotes: Un novedoso marco de "top-$b$ basado en clústeres" que resuelve el problema inherente de agrupamiento de puntos de la selección de lotes ingenuos, permitiendo la extensión eficiente de cualquier criterio secuencial a escenarios de lote.
• Justificación Teórica: El artículo proporciona lemas y teoremas que establecen que los criterios propuestos se relacionan con los límites superiores de los errores de predicción y las varianzas del gradiente, ofreciendo una base teórica para sus estrategias de selección.

Resultos
Los autores evaluaron los métodos propuestos frente a criterios existentes (incluyendo variantes de Mejora Esperada, minimización de varianza y discrepancia de mezcla) utilizando siete funciones de prueba (Branin, Hartman, Ackley, Zakharov, Rosenbrock, etc.) con diversas dimensiones.

• Desempeño de Un Solo Punto: En términos de Error Cuadrático Medio (RMSE), el criterio basado en el gradiente generalmente superó a los métodos existentes. Para el Error Absoluto Máximo (MAE), el criterio basado en la varianza demostró un desempeño superior.
• Desempeño por Lotes: Los diseños de top-$b$ basados en clústeres generados mediante los nuevos criterios superaron consistentemente a los diseños por lotes basados en criterios existentes y al diseño uniforme secuencial de referencia.
• Eficiencia: Los diseños por lotes lograron un desempeño comparable a, y en algunos casos mejor que, sus contrapartes de un solo punto, reduciendo significativamente el número de rondas experimentales (iteraciones).

Significancia y Reivindicaciones
El artículo afirma que los métodos propuestos abordan limitaciones críticas en la literatura actual de diseño secuencial, específicamente la falta de diseños por lotes basados en observaciones efectivos y la ineficiencia de los enfoques de un solo punto. Al demostrar que el criterio basado en el gradiente minimiza el error promedio y el criterio basado en la varianza minimiza el error máximo, los autores proporcionan herramientas dirigidas a los profesionales para objetivos de optimización específicos. Además, el marco de lotes propuesto se presenta como una solución versátil que mejora la eficiencia de los recursos al reducir las rondas experimentales sin sacrificar la precisión del ajuste, lo que lo hace particularmente adecuado para experimentos computacionales de alto costo de recursos. Los autores concluyen que sus criterios y marco propuestos generalmente superan a los enfoques existentes en términos de precisión de ajuste.