Resumen Técnico: NeurGO – Aprendizaje para Generar Candidatos de Élite para la Optimización de Caja Negra Meta (Meta-Black-Box Optimization)

1. Definición del Problema

El artículo aborda la Optimización de Caja Negra Costosa (EBBO, por sus siglas en inglés), una clase de problemas de optimización global donde la función objetivo $f: \Omega \to \mathbb{R}$ es accesible únicamente mediante evaluaciones, los gradientes no están disponibles y el presupuesto de evaluación ($B_{max}$) es estrictamente limitado. Tales escenarios son comunes en el ajuste de hiperparámetros y el diseño de ingeniería.

El desafío central es aproximarse al óptimo global con la menor cantidad de evaluaciones de la función posible. Los paradigmas existentes enfrentan limitaciones específicas:

• Optimización Bayesiana (BO) y Algoritmos Evolutivos Asistidos por Surrogates (SAEAs): Estos dependen de la construcción de modelos sustitutos (surrogates, como los Procesos Gaussianos) para aproximar el paisaje de aptitud (fitness landscape). Sin embargo, bajo presupuestos ajustados, la limitada cantidad de datos suele derivar en modelos imprecisos (el problema del "arranque en frío" o cold-start) y sesgo del modelo, lo que puede atrapar la búsqueda en óptimos locales. Además, entrenar modelos sustitutos desde cero para cada nueva tarea limita la generalización entre tareas.
• Optimización de Caja Negra Meta (MetaBBO) Tradicional: Aunque estos métodos aprenden estrategias de búsqueda transferibles, muchos todavía tratan a los Algoritmos Evolutivos (EAs) como el optimizador subyacente. En consecuencia, desperdician una parte significativa del presupuesto generando y evaluando grandes poblaciones de descendencia, muchas de las cuales son inferiores.

2. Metodología: NeurGO

Los autores proponen NeurGO, un marco de trabajo de MetaBBO generativo diseñado para sintetizar directamente un pequeño conjunto de candidatos de alta calidad ("élite") a partir de estados de población históricos, evitando la necesidad de grandes poblaciones de descendencia o el ajuste de un modelo sustituto en línea. El marco consta de tres etapas principales:

2.1 Descripción de la Arquitectura

NeurGO está construido sobre una arquitectura base de Transformer y comprende dos módulos principales:

1. Codificador de Contexto de Población (PCE): Codifica el estado de la población actual en una representación de alta dimensión que captura las tendencias evolutivas.
2. Decodificador de Síntesis de Élite (ESD): Mapea la representación codificada a un pequeño lote de $k$ soluciones candidatas ($k \ll N$, donde $N$ es el tamaño de la población) para su evaluación costosa.

2.2 Codificador de Contexto de Población (PCE)

El PCE procesa la población como una secuencia para capturar interacciones globales.

• Ordenamiento de la Población: La población se ordena por aptitud en orden ascendente. Esto actúa como un codificador posicional relativo implícito, priorizando a los individuos de alto rendimiento sin depender de escalas de aptitud específicas.
• Atención Dual de Rango-Aptitud (Rank-Fitness Dual-Aware Attention): En lugar de proyecciones estándar aprendidas, el mecanismo de atención se construye utilizando:
  • Rama de Aptitud: Los valores de aptitud normalizados ($\tilde{F}_t$) se proyectan para crear consultas (queries) y claves (keys) conscientes de la aptitud, agregando la población ordenada basándose en las relaciones de aptitud.
  • Rama de Rango: Una matriz entrenable ($A_{rank}$) captura la información de ordenamiento.
  • Estas ramas se fusionan mediante pesos aprendibles ($\lambda_{rank}, \lambda_{fit}$).
• Fusión Residual con Perturbación: Para prevenir la convergencia prematura y fomentar la exploración, una Red de Alimentación hacia Adelante (FFN) introduce una perturbación no lineal aprendible a la salida de la atención. La representación refinada final ($X^{ref}_t$) es una fusión residual de la población ordenada original, las características agregadas por atención y las características perturbadas por la FFN.

2.3 Decodificador de Síntesis de Élite (ESD)

El ESD genera $k$ candidatos de élite directamente a partir de la representación refinada de la población.

• Concatenación de Características de Múltiples Fuentes: El decodificador concatena tres fuentes: la población bruta ordenada ($X^{sort}_t$), la aptitud normalizada ($\tilde{F}_t$) y la representación refinada ($X^{ref}_t$).
• Agregación Ponderada: Un MLP ($g_\phi$) calcula una matriz de puntuación que cuantifica la contribución de cada individuo a cada uno de los $k$ candidatos. La normalización Softmax produce los pesos de contribución ($P_t$). Los candidatos finales ($X^{cand}_t$) se sintetizan agregando la representación de la población refinada utilizando estos pesos: $X^{cand}_t = P_t^\top X^{ref}_t$. Esto asegura que los candidatos permanezcan anclados a la distribución de la población actual, evitando propuestas fuera de la distribución (out-of-distribution).

2.4 Objetivo de Entrenamiento: Pérdida de Calidad-Diversidad (QD)

NeurGO se entrena mediante meta-aprendizaje utilizando una función de pérdida compuesta para equilibrar la calidad de la solución y la diversidad de la búsqueda:

• Pérdida de Calidad ($L_{qual}$): Mide la mejora del mejor candidato en el conjunto sintetizado respecto al mejor individuo en la población parental. Los valores de aptitud se normalizan mediante z-score para manejar las diferencias de escala entre tareas.
• Pérdida de Diversidad ($L_{div}$): Fomenta que los candidatos se dispersen en el espacio de decisión maximizando la distancia euclidiana media entre pares de los candidatos sintetizados, normalizada por los límites del espacio de búsqueda.
• Objetivo Total: $L_{QD} = L_{qual} + \lambda L_{div}$, donde $\lambda$ decae linealmente durante el entrenamiento para cambiar el enfoque de la exploración hacia la convergencia.

3. Contribuciones Clave

1. Marco de Trabajo de MetaBBO Generativo: NeurGO introduce un paradigma que sintetiza directamente candidatos de élite a partir de estados de población, eliminando la ineficiencia de generar grandes poblaciones de descendencia en entornos de optimización costosa.
2. Arquitectura de Extremo a Extremo con Objetivo QD: El artículo presenta un modelo generativo unificado que aprende un mapeo de estados de población a soluciones, mientras equilibra explícitamente la velocidad de convergencia (calidad) y la diversidad de búsqueda (diversidad) mediante una función de pérdida personalizada.
3. Validación Empírica: Benchmarking extensivo demuestra que NeurGO logra una convergencia más rápida y un rendimiento final superior comparado con EAs clásicos, SAEAs, BO y otros baselines de MetaBBO.

4. Resultados Experimentales

Los autores evaluaron NeurGO en las suites de prueba CEC 2008 y COCO BBOB con una dimensionalidad de $D=10$ y un presupuesto estricto de $MaxFE = 300$.

• Comparación con EAs: NeurGO superó a los algoritmos evolutivos clásicos (DE, GA, SHADE, CMA-ES) en la mayoría de las funciones de prueba. Los autores atribuyen esto a la capacidad de NeurGO para evitar el desperdicio de evaluaciones en individuos de baja calidad mediante la generación de candidatos de élite dirigidos.
• Comparación con SAEAs y BO: NeurGO demostró mayor estabilidad y rendimiento que los métodos basados en modelos sustitutos (EGO, SACOSO, TurBO, HEBO). Aunque los métodos de BO pueden ser competitivos en funciones complejas específicas, NeurGO mostró ventajas más consistentes, particularmente porque evita el ruido y el sesgo asociados con el ajuste de modelos sustitutos en línea bajo datos limitados.
• Comparación con MetaBBO: NeurGO logró mejor rendimiento final y estabilidad que otros optimizadores basados en aprendizaje (B2Opt, LGA, LES). Exhibió una mayor generalización entre funciones, particularmente en las funciones de meta-prueba de CEC.
• Análisis de Convergencia: Las gráficas de convergencia mostraron que NeurGO logra caídas abruptas de la aptitud temprano en el proceso de optimización (alrededor de las 100 evaluaciones), lo que sugiere que el prior aprendido mediante meta-aprendizaje localiza eficazmente las regiones prometedoras.
• Estudio de Ablación: Eliminar el módulo PCE o sus componentes internos (atención, FFN, conexiones residuales) degradó significativamente el rendimiento, confirmando la necesidad de aprender una representación rica del contexto de la población en lugar de depender de una simple recombinación.

5. Significación y Reivindicaciones

El artículo sostiene que NeurGO ofrece una alternativa robusta a los paradigmas tradicionales de optimización costosa al desplazar el enfoque de modelar la función objetivo (surrogates) hacia modelar el proceso de búsqueda (priors generativos).

• Eficiencia: Al sintetizar solo unos pocos candidatos de alto valor por iteración, NeurGO maximiza la utilidad de cada evaluación costosa.
• Generalización: El marco aprovecha el entrenamiento cruzado de tareas para aprender priors de búsqueda transferibles, reduizando la dependencia de la sintonización de hiperparámetros específica de la tarea o de modelos sustitutos precisos en línea.
• Robustez: El método es menos sensible al problema de "arranque en frío" y al sesgo del modelo que afectan a los métodos asistidos por modelos sustitutos en regímenes de bajo presupuesto.

Los autores concluyen que NeurGO aborda eficazmente el cuello de botella de eficiencia en la optimización de caja negra costosa, proporcionando una solución estable y de alto rendimiento donde los métodos tradicionales encuentran dificultades bajo restricciones de presupuesto.