Resumen Técnico: SMOG – Meta-Aprendizaje Escalable para Optimización Bayesiana Multiobjetivo

Enunciado del Problema

La optimización multiobjetivo (MOO) implica encontrar soluciones Pareto-óptimas para problemas con objetivos en competencia (por ejemplo, rendimiento frente a coste). En muchas aplicaciones del mundo real, como el ajuste industrial, el descubrimiento de materiales y el diseño de sistemas de aprendizaje automático, la evaluación de estos objetivos es costosa, lo que resulta en un régimen de pocos datos donde la Optimización Bayesiana (BO) es efectiva.

Aunque las organizaciones a menudo poseen datos históricos de tareas de optimización relacionadas, aprovechar estos datos mediante meta-aprendizaje para entornos multiobjetivo sigue siendo poco explorado. Los enfoques existentes enfrentan tres desafíos principales:

1. Transferencia consciente de la incertidumbre: En MOO, el "óptimo" es un conjunto de Pareto y la toma de decisiones depende de criterios conscientes de la incertidumbre (por ejemplo, el volumen hipervolumen). Transferir conocimiento requiere propagar la incertidumbre de la meta-tarea para evitar un sesgo excesivamente confiado derivado de tareas desajustadas.
2. Escalabilidad: Los modelos de Procesos Gaussianos (GP) totalmente conjuntos para múltiples tareas son principistas pero computacionalmente inviables para muchas meta-tareas debido a la escalabilidad cúbica en el número total de observaciones.
3. Correlaciones cruzadas entre objetivos: Los objetivos en MOO a menudo están correlacionados. Tratarlos independientemente desperdicia información valiosa, sin embargo, la mayoría de los métodos de meta-aprendizaje escalables para BO están diseñados para la transferencia de un solo objetivo e ignoran estas dependencias.

Los métodos actuales carecen de una propagación de incertidumbre principista, no escalan con el número de meta-tareas o ignoran las correlaciones cruzadas entre objetivos.

Metodología: SMOG

Los autores proponen SMOG (Meta-Aprendizaje Escalable para Procesos Gaussianos Multiobjetivo), un modelo sustituto que combina meta-aprendizaje con optimización multiobjetivo utilizando un GP de múltiples salidas. SMOG está diseñado para satisfacer tres requisitos clave: propagación de incertidumbre totalmente bayesiana, escalabilidad lineal con el número de meta-tareas y la capacidad de aprender correlaciones entre objetivos.

Arquitectura Central

SMOG extiende el marco ScaML-GP al entorno de múltiples salidas. Modela la función de la tarea objetivo $f_t$ como una suma de funciones de meta-tarea escaladas y una función residual específica de la tarea:
$$f_{t,o} = \tilde{f}_{t,o} + \sum_{m \in \mathcal{M}} w_{m,o} f_{m,o}$$
donde $w_{m,o}$ son pesos específicos del objetivo.

El método se basa en tres supuestos estructurales:

1. Independencia Distinta de Meta-Tareas: Los modelos de meta-tarea no están correlacionados entre sí ($\text{Cov}(f_{m,o}, f_{m',o'}) = 0$ para $m \neq m'$). Esto asegura la escalabilidad.
2. Acoplamiento Estructurado: La tarea objetivo se acopla a las meta-tareas mediante una combinación lineal de las funciones de meta-tarea con pesos específicos del objetivo. Crucialmente, la función residual de la tarea no está correlacionada con las funciones de meta-tarea. Esto evita que la cantidad de hiperparámetros crezca cuadráticamente con el número de tareas.
3. Inferencia Modular de Hiperparámetros: Los hiperparámetros de las meta-tareas se infieren independientemente de los datos de la tarea (sin retroalimentación), permitiendo una posterior modular.

El Kernel SMOG

El kernel conjunto sobre todas las tareas y objetivos se construye para ser disperso. Al aplicar los supuestos anteriores, las matrices de co-regionalización (que modelan las correlaciones entre tareas y objetivos) se vuelven dispersas, reduciendo el número de parámetros del kernel de $O(M^3 O^3)$ a $O(M O^3)$, donde $M$ es el número de meta-tareas y $O$ es el número de objetivos.

Condicionar sobre los metadatos produce un prior de forma cerrada para la tarea objetivo:

• Media: Una suma ponderada de las medias posteriores de los GPs individuales de meta-tarea.
• Covarianza: Una suma del kernel residual de la tarea y una suma ponderada de las covarianzas posteriores de las meta-tareas. Los pesos son productos $w_{m,o} w_{m,o'}$, que acoplan explícitamente los bloques completos de covarianza entre objetivos.

Kernel Equicorrelacionado

Para manejar las correlaciones residuales de la tarea objetivo con datos limitados, SMOG emplea una estructura de kernel equicorrelacionado para la matriz de acoplamiento entre objetivos $K_{Obj}$. Esto restringe los parámetros libres de $O^2$ a $O+1$ (un único parámetro de correlación $\rho$ compartido entre todos los pares y escalas individuales $\sigma_i$), asegurando la identificabilidad en regímenes de pocos datos.

Algoritmo

El proceso de entrenamiento (Algoritmo 1) implica:

1. Entrenar GPs de múltiples salidas individuales para cada meta-tarea y optimizar sus hiperparámetros.
2. Construir el prior de la tarea objetivo almacenando en caché las posteriores de las meta-tareas y calculando la suma ponderada.
3. Optimizar los hiperparámetros de la tarea objetivo.
4. Condicionar el prior sobre los datos de la tarea para obtener la posterior final.

La complejidad computacional escala linealmente con el número de meta-tareas $M$, haciéndolo factible para escenarios con muchas tareas relacionadas.

Contribuciones Clave

1. Primer Sustituto Unificado: SMOG es el primer sustituto que entrega simultáneamente propagación de incertidumbre totalmente bayesiana sobre datos de meta-tarea, escalabilidad lineal en el número de meta-tareas y correlaciones aprendidas entre objetivos en el régimen de pocos datos.
2. Garantías Teóricas: El artículo proporciona pruebas de que el kernel propuesto es válido (semidefinido positivo) y de que la condición sobre los metadatos produce una posterior GP válida con una expresión de forma cerrada.
3. Integración Práctica: El sustituto resultante se integra perfectamente con funciones de adquisición estándar de BO multiobjetivo (por ejemplo, LogExpectedHypervolumeImprovement).
4. Ablación y Análisis: Los autores demuestran que el ScaML-GP de un solo objetivo es un caso especial de SMOG y analizan el impacto del acoplamiento cruzado entre objetivos.

Resultados Experimentales

Los autores evaluaron SMOG frente a una amplia gama de líneas base, incluyendo GPs sin meta-aprendizaje (Ind. GP, MO-GP), métodos de meta-aprendizaje de un solo objetivo adaptados a MOO (Ind. ScaML-GP, Ind. RGPE, Ind. SGPT, Ind. ABLR, Ind. GC3P) y el único otro método de meta-aprendizaje MOO (MO-TPE).

Benchmarks:

• Sintéticos: Funciones Branin-Currin y Hartmann6 adaptadas con 2 y 4 objetivos.
• Mundo Real: HPOBench (optimización de hiperparámetros para redes neuronales en 4 conjuntos de datos) y un benchmark de Terreno (optimización de trayectoria de UAV).

Hallazgos:

• Rendimiento: SMOG logra consistentemente el menor o casi el menor arrepentimiento acumulado de volumen hipervolumen en todos los benchmarks sintéticos y del mundo real.
• Meta-Aprendizaje vs. Independencia: Aunque tratar los objetivos independientemente (Ind. SMOG) captura la mayoría de las ganancias del meta-aprendizaje, SMOG muestra una ventaja distintiva en problemas con mayor cantidad de objetivos (por ejemplo, Hartmann6 con 4 objetivos), confirmando el beneficio de modelar las correlaciones cruzadas entre objetivos.
• Robustez: SMOG se desempeña de manera robusta a través de números variables de meta-tareas y observaciones. Aunque algunas líneas base (por ejemplo, Ind. ABLR, Ind. SGPT) superan a SMOG en conjuntos de datos específicos, a menudo luchan en otros, mientras que SMOG mantiene un rendimiento general sólido.
• Calidad del Sustituto: SMOG reduce significativamente el Error Cuadrático Medio (RMSE) en comparación con las líneas base sin meta-aprendizaje. La calibración (medida por la Densidad Predictiva Negativa Logarítmica) es competitiva, aunque los métodos de transferencia paramétrica a veces logran una mejor calibración en funciones sintéticas suaves.

Significado y Afirmaciones

El artículo afirma que SMOG llena una brecha crítica en la literatura al proporcionar un algoritmo práctico y principista que combina meta-aprendizaje y optimización multiobjetivo.

• Eficiencia: Al propagar la incertidumbre de los metadatos y explotar las correlaciones cruzadas entre objetivos, SMOG mejora la eficiencia de la muestra, permitiendo a los profesionales encontrar buenas soluciones con menos evaluaciones costosas.
• Escalabilidad: La escalabilidad lineal con respecto al número de meta-tareas permite el uso de grandes repositorios de datos históricos de optimización, lo cual era computacionalmente prohibitivo anteriormente para modelos GP totalmente conjuntos.
• Aplicabilidad: El método es directamente aplicable a campos de alto impacto como la ingeniería aeroespacial, la ciencia de materiales y el diseño de sistemas de aprendizaje automático, donde los compromisos entre objetivos en competencia son comunes y los datos son escasos.

Los autores reconocen limitaciones, señalando que el método asume que las tareas comparten los mismos espacios de búsqueda y objetivo, y se basa en supuestos que pueden limitar la flexibilidad en comparación con los modelos basados en redes neuronales cuando hay abundancia de datos. Sin embargo, en el régimen objetivo de datos escasos y ruidosos, SMOG ofrece una solución robusta y fundamentada teóricamente.