Efficient reformulations of ReLU deep neural networks for surrogate modelling in power system optimisation

Resumen Técnico: Reformulaciones Eficientes de Redes Neuronales Profundas ReLU para el Modelado de Sustitutos en la Optimización de Sistemas Eléctricos

Planteamiento del Problema
La descarbonización de los sistemas eléctricos ha introducido interacciones complejas y no lineales impulsadas por recursos energéticos distribuidos, las cuales son difíciles de capturar mediante modelos de optimización convencionales. Si bien el modelado de sustitutos basado en Aprendizaje Automático (ML) —particularmente utilizando Redes Neuronales Profundas (DNN) con Unidades Lineales Rectificadas (ReLU)— ofrece una solución prometedora para representar estos comportamientos, la integración directa de las DNN ReLU en marcos de optimización presenta desafíos significativos. Los enfoques estándar que utilizan reformulaciones de Programación Entera Mixta (MIP) (por ejemplo, restricciones Big-M) introducen variables binarias para cada neurona, lo que conduce a la intratabilidad computacional a medida que la profundidad y el ancho de la red aumentan. Por el contrario, las relaxaciones de Programación Lineal (LP) existentes, como la Relaxación de Área Convexa Penalizada (PCAR) y la Relaxación de Área de Triángulo Convexo Penalizada (PCTAR), mejoran la tratabilidad pero dependen en gran medida de términos de penalización heurísticos. Estos métodos basados en penalizaciones suelen carecer de una estrechez (tightness) y robustez garantizadas, lo que resulta en sensibilidad al ajuste de hiperparámetros y una potencial degradación de la calidad de la solución.

Metodología
El artículo propone una nueva reformulación de LP para una clase específica de DNN ReLU, denominada DNN ReLU convexificada (cvxd). La idea matemática central se basa en el Teorema 2.1, que establece que si la salida de una DNN ReLU se minimiza dentro de un problema de optimización, y las matrices de pesos de todas las capas desde la segunda capa en adelante se restringen a ser no negativas elemento a elemento ($W_l \geq 0$ para $l \geq 2$), las funciones de activación ReLU no convexas en esas capas pueden reemplazarse por desigualdades lineales sin perder la estrechez.

Específicamente:

1. Convexificación: El método restringe las matrices de pesos de las capas ocultas (desde la capa $k$ hasta la salida) para que sean no negativas. Esta restricción estructural asegura que la optimización del objetivo se propague a través de la red, permitiendo el reemplazo de las restricciones $\max(\cdot, 0)$ por desigualdades lineales ($h_l \geq W_l h_{l-1} + b_l$ y $h_l \geq 0$).
2. Contexto de Aplicación: El método se aplica dentro de un marco de Optimización con Aprendizaje de Restricciones (OCL). Los autores aprenden una función de respuesta de prosumidor (una curva de saturación no lineal y no convexa) utilizando una DNN ReLU y la integran en el problema de maximización de beneficios de un agregador para el mercado de capacidad terciaria danés (mFRR).
3. Evaluación Comparativa (Benchmarking): La reformulación propuesta se evalúa frente a alternativas de vanguardia (SOTA):
   • Basada en MIP: Reformulación Big-M estándar utilizando el paquete Gurobi ML.
   • Basada en LP: Relaxaciones PCAR y PCTAR.
   • Convencional: Linealización por Tramos (PWL).

Contribuciones Clave

• Reformulación LP Tratable: El artículo introduce un método para convertir DNN ReLU en formulaciones LP estrechas mediante la imposición de pesos no negativos en las capas posteriores a la primera. Esto elimina la necesidad de variables binarias, reduciendo significativamente la complejidad computacional en comparación con los enfoques MIP.
• Estrechez Garantizada: A diferencia de las relaxaciones basadas en penalizaciones (PCAR/PCTAR), el método propuesto garantiza la estrechez y la precisión en diversas arquitecturas de red y condiciones de entrada, siempre que se cumplan las condiciones de minimización y de no negatividad de los pesos.
• Evaluación Sistemática: El estudio proporciona un benchmark exhaustivo a través de múltiples arquitecturas de redes neuronales (variando anchura y profundidad) y escenarios de precios de mercado (bajo, medio, alto), demostrando la escalabilidad y fiabilidad del enfoque.

Resultados
La evaluación se llevó a cabo mediante un caso de estudio de un agregador que licita en el mercado mFRR danés, utilizando 30,000 puntos de datos de entrenamiento y realizando pruebas en 30 escenarios de mercado.

• Desempeño Computacional: La reformulación LP propuesta superó significativamente a los enfoques basados en MIP (Gurobi ML) y PWL en términos de velocidad. Mientras que Gurobi ML y PWL a menudo requerían segundos o incluso horas (o fallaban en converger dentro de los límites de tiempo para redes más anchas), el método propuesto resolvió los problemas en milisegundos (por ejemplo, 34 ms para escenarios de precios altos frente a 1–3 segundos para otros).
• Calidad de la Solución: El método propuesto logró beneficios realizados comparables a los de los mejores métodos (PWL y MIP), situándose típicamente dentro del 1% del mejor ejecutor. En contraste, PCAR y PCTAR resultaron frecuentemente en pérdidas económicas, particularmente en escenarios de precios bajos, debido a su estructura de estimación errónea de los costos de flexibilidad.
• Escalabilidad: El método propuesto mantuvo un desempeño y una estrechez consistentes a medida que aumentaban el ancho y la profundidad de la red. En contraste, Gurobi ML exhibió problemas severos de escalabilidad, con un aumento drástico en el tiempo de ejecución y una ampliación significativa de las brechas MIP para redes más anchas (por ejemplo, 400 neuronas). PCAR y PCTAR mostraron una precisión inconsistente y una alta sensibilidad al ajuste del parámetro de penalización.
• Precisión: El modelo propuesto alcanzó consistentemente valores de Error Cuadrático Medio (RMSE) cercanos al RMSE de entrenamiento de la DNN cvxd subyacente, confirmando la estrechez de la reformulación.

Significancia y Reivindicaciones
El artículo afirma que las DNN ReLU convexificadas, cuando se combinan con la reformulación propuesta, ofrecen una metodología escalable y fiable para integrar modelos de sustitutos aprendidos en la optimización de sistemas eléctricos. La significancia radica en cerrar la brecha entre el poder expresivo del aprendizaje profundo y los requisitos computacionales de la optimización a gran escala.

Los autores enfatizan que, si bien el método requiere que la salida de la red se minimice e impone restricciones de no negatividad en los pesos (limitando la clase de funciones aprendibles a relaciones convexas y monótonamente crecientes), logra capturar funciones complejas de costos de flexibilidad en el caso de estudio probado. El trabajo se posiciona como un avance metodológico general que evita el ajuste heurístico y la falta de garantías de estrechez asociados con las relaxaciones de LP existentes, lo que lo hace adecuado para aplicaciones tales como el modelado de costos de generación, la estimación de emisiones de CO2 y las formulaciones con restricciones de probabilidad donde el objetivo implica la minimización. Los autores señalan que el enfoque principal es la demostración de las propiedades de la reformulación más que la aplicación específica del agregador, la cual sirve como vehículo de validación.