WASHH: An Anchor-Aware Whale-Guided Selection Hyper-Heuristic for Continuous Optimization and SVC Configuration

Resumen Técnico: WASHH – Un Hiperaheurístico de Selección Guiado por Ballenas con Conciencia de Anclajes

Planteamiento del Problema
El artículo aborda el desafío de la optimización de caja negra continua bajo presupuestos de evaluación estrictos, un escenario común en la configuración de algoritmos, la optimización de hiperparámetros y el diseño basado en simulación. En estos entornos, el paisaje de búsqueda suele ser desconocido antes de la evaluación, y el comportamiento de búsqueda efectivo en una fase puede ser ineficaz en otra. Confiar en un único metaheurístico (por ejemplo, el Algoritmo de Optimización de Ballenas o la Optimización por Enjambre de Partículas) puede ser poco fiable, ya que diferentes fases del problema requieren distintos equilibrios de explotación, memoria, diversidad y refinamiento local. Además, en entornos de Diseño de Algoritmos Asistido por Aprendizaje (LEAD), los datos de entrenamiento fuera de línea pueden ser limitados, lo que hace necesario un optimizador que se adapte basándose en observaciones en línea sin consumir el presupuesto con componentes de aprendizaje pesados.

Metodología: WASHH
Los autores proponen WASHH (Hiperaheurístico de Selección Adaptativa Guiado por Ballenas), un marco que trata diversos mecanismos de búsqueda como comportamientos seleccionables dentro de un único controlador adaptativo, en lugar de como optimizadores mutuamente excluyentes.

1. Portafolio de Operadores: El núcleo de WASHH es un portafolio heterogéneo de comportamientos de búsqueda:

   • Movimientos guiados por WOA: Proporcionan un cerco centrado en el incumbent y una búsqueda en espiral para la explotación.
   • Memoria al estilo PSO: Reutiliza la información de los mejores personales y globales.
   • Promedio de líderes al estilo GWO: Estabiliza la dirección de actualización utilizando los tres mejores individuos.
   • Variación al estilo DE: Introduce variación diferencial para la diversidad de la población.
   • Búsqueda por coordenadas locales: Realiza un refinamiento local.
   • Refinamiento guiado por anclajes: Un componente novedoso que utiliza configuraciones de referencia de bajo costo (anclajes), como centros de cajas, hiperparámetros predeterminados o configuraciones históricamente efectivas.

2. Controlador de Selección Adaptativa: Un controlador de recompensas en línea asigna el presupuesto de evaluación entre estos comportamientos. Muestrea operadores basándose en puntuaciones de recompensa normalizadas derivadas de las mejoras observadas. Las puntuaciones se suavizan exponencialmente con un suelo de exploración pequeño para evitar que cualquier comportamiento sea descartado permanentemente.

3. Refinamiento Guiado por Anclajes: Este mecanismo utiliza un conjunto de configuraciones de referencia ($A$) para guiar la búsqueda sin eludir la evaluación de caja negra. Las soluciones propuestas siguen la forma $x' = a + \gamma(x^* - a) + \epsilon$, donde $a$ es un anclaje, $x^*$ es el incumbent global actual y $\epsilon$ es una perturbación local. Crucialmente, cada solución propuesta, incluidas aquellas derivadas de anclajes, es evaluada por la función objetivo original de caja negra. Cerca del final del presupuesto, el algoritmo reserva una porción de evaluaciones para búsquedas deterministas en el vecindario de anclajes y por coordenadas.

Contribuciones Clave

• Diseño de Algoritmos: La introducción de un hiperaheurístico de selección adaptativa que integra la explotación guiada por WOA con la selección de comportamientos en línea y el refinamiento basado en anclajes.
• Evaluación Comparativa: Una comparación reproducible frente a WOA, GWO, PSO, DE, LWOA (una variante de WOA) y RandomHH en diez funciones de referencia de 30 dimensiones (que abarcan paisajes unimodales, multimodales, engañosos y mal condicionados).
• Estudio de Caso de Aplicación: Una demostración de WASHH en la configuración de hiperparámetros de un Clasificador de Vectores de Soporte (SVC) para el diagnóstico de cáncer de mama bajo un presupuesto fijo de 300 evaluaciones.

Resultados Experimentales

• Rendimiento en Pruebas de Referencia: En diez funciones de 30 dimensiones con 12.000 evaluaciones y 10 ejecuciones independientes, WASHH logró el mejor rango promedio de 1.10. Fue el mejor o empató por el mejor en las diez funciones.
  • Mejoró estrictamente sobre el WOA base en ocho funciones (Sphere, Bent Cigar, Zakharov, Rosenbrock, Ackley, Schwefel, Levy, Michalewicz).
  • Empató con WOA en el óptimo numérico (media cero) en Rastrigin y Griewank.
  • Se observaron ganancias significativas en paisajes complejos (por ejemplo, reduciendo la función objetivo media en Zakharov de $3.73 \times 10^2$ a $0.00$).
• Estudio de Ablación: Eliminar el refinamiento por anclajes causó la degradación de rendimiento más significativa (el rango promedio aumentó de 2.10 a 3.50, y la cuenta de mejores/empates bajó de 10 a 3), lo que indica que es el contribuyente dominante al rendimiento en pruebas de referencia deterministas. Eliminar la selección adaptativa tuvo un efecto menor, pero degradó el rendimiento en funciones como Michalewicz, donde seleccionar un comportamiento basado en memoria fue superior a la ruta predeterminada de WOA.
• Configuración de SVC: En la tarea de diagnóstico de cáncer de mama, WASHH logró la pérdida de registro de validación media más baja (0.076273) en comparación con todos los demás optimizadores (por ejemplo, WOA: 0.077961, PSO: 0.076361), demostrando estabilidad a través de 10 semillas.

Significado y Afirmaciones
El artículo afirma que WASHH representa una dirección práctica y ligera para los sistemas LEAD. Su significado radica en:

1. Adaptatividad sin Aprendizaje Pesado: Logra adaptatividad reasignando ensayos entre comportamientos de búsqueda existentes basándose en recompensas en línea, evitando el costo de entrenar modelos sustitutos complejos.
2. Utilización del Conocimiento Previo: El componente "consciente de anclajes" aprovecha eficazmente puntos de referencia de bajo costo (como configuraciones predeterminadas) para guiar la intensificación de la búsqueda mientras mantiene la integridad del bucle de evaluación de caja negra.
3. Robustez: Al combinar múltiples sesgos complementarios (explotación, memoria, variación y refinamiento), WASHH evita las trampas de comprometerse con una única regla de actualización fija, haciéndolo más robusto a través de diversos tipos de paisajes que las líneas base de métodos únicos.

Los autores concluyen que, si bien la evaluación actual es controlada (pruebas de referencia deterministas y un caso específico de HPO), los resultados sugieren que los hiperaheurísticos de selección con conciencia de anclajes son una estrategia viable cuando las configuraciones previas están disponibles pero requieren optimización específica para la tarea. Se sugiere trabajo futuro para evaluar el método en paisajes ruidosos, con restricciones y rotados.