Green Optimization: Energy-aware Design of Metaheuristics by Using Machine Learning Surrogates to Cope with Real Problems

Resumen Técnico: Optimización Verde de Metaheurísticas con Surrogados de Aprendizaje Automático

1. Planteamiento del Problema

La resolución de problemas de optimización del mundo real, como la planificación de semáforos en ciudades inteligentes, implica funciones objetivo computacionalmente costosas (simulaciones detalladas de tráfico). Los metaheurísticos tradicionales (como Algoritmos Genéticos - GA, y Optimización por Enjambre de Partículas - PSO) requieren miles de evaluaciones de estas funciones, lo que genera un alto consumo de energía, tiempo de ejecución y uso de memoria.

Aunque los modelos sustitutos (surrogates), como las Redes Neuronales (NN), se utilizan comúnmente para aproximar funciones costosas y reducir el tiempo de cómputo, la literatura existente ha ignorado casi por completo el perfil energético de su integración. No está claro si el ahorro en tiempo de evaluación compensa el costo energético del entrenamiento y la inferencia del modelo, ni cómo afectan las estrategias de entrenamiento (pre-entrenamiento estático vs. reentrenamiento iterativo) a la eficiencia global y la precisión.

2. Metodología

Los autores proponen un marco de evaluación holístico que integra el consumo de energía, el tiempo y la memoria junto con la precisión de la solución.

• Problema de Estudio: Optimización multiobjetivo de la planificación de semáforos en tres ciudades reales (Málaga, Estocolmo y París) utilizando el simulador SUMO. El objetivo es minimizar el tiempo de viaje, las esperas y maximizar el flujo de tráfico.
• Algoritmos Base: Se implementaron PSO y GA estándar.
• Estrategias de Surrogados (NN): Se integraron modelos de Redes Neuronales como sustitutos de la función de aptitud (fitness). Se compararon cuatro configuraciones principales:
  1. Pre-entrenamiento con datos pequeños (ps): Entrenamiento único con un conjunto de datos inicial reducido.
  2. Pre-entrenamiento con datos grandes (pl): Entrenamiento único con un conjunto de datos extenso (hasta 8192 muestras).
  3. Reentrenamiento con datos pequeños (rs): Entrenamiento inicial pequeño seguido de actualizaciones iterativas durante la búsqueda.
  4. Reentrenamiento con datos grandes (rl): Entrenamiento inicial grande con actualizaciones iterativas.
• Medición: Se utilizó la tecnología Intel RAPL (vía pyRAPL) para medir el consumo de energía de CPU y DRAM, y tracemalloc para el uso de memoria. Se analizaron 50,000 evaluaciones para modelar la distribución de costos (encontrando una distribución log-normal).

3. Contribuciones Clave

1. Evaluación Holística de Energía: Se redefine la eficiencia de los algoritmos de optimización, incorporando no solo el tiempo de ejecución, sino el consumo energético y el uso de memoria como métricas primarias.
2. Análisis de la Compensación (Trade-off): Se cuantifica el costo energético del entrenamiento de NN frente al ahorro obtenido durante la inferencia. Se demuestra que un entrenamiento inicial grande puede ser más eficiente a largo plazo debido a la esparsidad generada en la red.
3. Descubrimiento de Esparsidad: Se identifica que los conjuntos de datos de entrenamiento más grandes conducen a redes neuronales con mayor proporción de activaciones cero (debido a la función ReLU), lo que reduce el costo computacional y energético por inferencia.
4. Comparación de Estrategias: Se evalúa sistemáticamente cuándo es preferible el pre-entrenamiento estático frente al reentrenamiento dinámico, dependiendo de las restricciones de energía y la complejidad del problema.

4. Resultados Principales

• Reducción Masiva de Recursos:

  • El uso de un sustituto bien entrenado puede reducir el consumo de energía hasta un 98% y el tiempo de ejecución en un 98% en comparación con la evaluación directa de la función real.
  • El uso de memoria se reduce aproximadamente un 99% durante la fase de evaluación de soluciones (aunque el algoritmo completo consume más memoria debido a la carga del modelo NN).

• Impacto del Tamaño del Conjunto de Datos:

  • Contrario a la intuición, entrenar con conjuntos de datos más grandes (ej. 8192 muestras) resulta en una menor energía por inferencia (hasta un 24% menos que con conjuntos pequeños) debido a la mayor esparsidad de la red.
  • Aunque el entrenamiento inicial es costoso, el punto de equilibrio (break-even point) se alcanza tras unas 2,874 inferencias, haciendo que el enfoque de "datos grandes" sea más eficiente energéticamente para optimizaciones de larga duración.

• Rendimiento de los Algoritmos:

  • PSO vs. GA: Los algoritmos basados en PSO se benefician más del reentrenamiento dinámico debido a que mantienen una mayor diversidad en la población, lo que permite al sustituto adaptarse a nuevas regiones de búsqueda. Los GA tienden a converger demasiado rápido, limitando la utilidad del reentrenamiento.
  • Mejor Estrategia:
    • SAPSO-rs (Reentrenamiento con datos pequeños): Logra el mejor equilibrio entre eficiencia energética y calidad de solución en etapas tempranas de la búsqueda.
    • SAPSO-pl (Pre-entrenamiento con datos grandes): Ofrece una eficiencia energética superior en optimizaciones de larga duración, aunque con una inversión inicial alta.
    • SAPSO-ps (Pre-entrenamiento con datos pequeños): Suele estancarse rápidamente debido a la baja precisión del modelo en regiones no exploradas.

• Precisión: Los modelos pre-entrenados con grandes conjuntos de datos mantienen un error porcentual absoluto medio (MAPE) bajo y estable. El reentrenamiento mejora la precisión en PSO, pero no necesariamente en GA debido a la pérdida de diversidad.

5. Significado e Impacto

Este trabajo es fundamental para el campo de la Computación Verde (Green Computing) y la IA Sostenible.

• Cambio de Paradigma: Demuestra que la optimización no debe medirse solo por la velocidad o la calidad de la solución, sino por el costo energético total (entrenamiento + inferencia).
• Guía Práctica: Proporciona directrices claras para ingenieros y científicos de datos:
  • Si las restricciones de energía son críticas y el tiempo de búsqueda es largo, invertir en un entrenamiento inicial grande es la estrategia más eficiente a largo plazo.
  • Si se busca un equilibrio rápido y el algoritmo mantiene diversidad (como PSO), el reentrenamiento iterativo es superior.
  • El uso ciego de sustitutos sin considerar el perfil energético puede ser contraproducente si no se gestiona adecuadamente la memoria y el costo de entrenamiento.
• Aplicabilidad: Aunque se probó en gestión de tráfico, la metodología es aplicable a cualquier problema de optimización del mundo real con funciones objetivo costosas (diseño de ingeniería, logística, finanzas), promoviendo el desarrollo de algoritmos más sostenibles.

En conclusión, el estudio valida que la integración de modelos de aprendizaje automático en metaheurísticas, cuando se diseña con conciencia energética, ofrece beneficios sustanciales (hasta un 98% de ahorro), pero requiere una selección cuidadosa de la estrategia de entrenamiento y el algoritmo base para maximizar la eficiencia global.