Diff2SP: Diffusion Models for Correlated Scenario Generation in Stochastic Programming

Resumen Técnico de Diff2SP: Modelos de Difusión para la Generación de Escenarios Correlacionados en Programación Estocástica

Planteamiento del Problema
La generación de escenarios es un componente fundamental de la programación estocástica (SP), donde un conjunto finito de escenarios representativos aproxima la incertidumbre subyacente para informar la toma de decisiones. Las metodologías existentes enfrentan compromisos significativos entre fidelidad, diversidad y costo computacional. Las técnicas clásicas basadas en muestreo (por ejemplo, Monte Carlo) a menudo requieren un gran número de escenarios para capturar eventos de cola raros y de alto costo, así como dependencias complejas, lo que las hace computacionalmente costosas. Por el contrario, los enfoques de aprendizaje supervisado requieren pares de entrada-salida fijos y no logran generar escenarios diversos y realistas más allá de patrones predefinidos. Si bien se han aplicado modelos generativos no supervisados como las Redes Generativas Antagónicas (GAN) a la generación de escenarios, estas sufren de inestabilidad en el entrenamiento, colapso de modo (mode collapse) y una falta de estimaciones explícitas de verosimilitud, lo que dificulta la evaluación de la representación de eventos de cola o las dependencias entre variables. Crucialmente, la mayoría de los métodos existentes tratan la generación de escenarios y la toma de decisiones posterior como pasos separados, generando escenarios para coincidir con las distribuciones de datos históricos en lugar de para optimizar la calidad de la decisión.

Metodología: El Marco de Trabajo Diff2SP
Los autores proponen Diff2SP, un marco generativo basado en difusión que integra los objetivos de optimización estocástica posteriores directamente en el proceso de generación de escenarios. El marco consta de tres componentes principales:

1. Arquitectura de Difusión con Transformers:

   • El núcleo utiliza un Modelo Probabilístico de Difusión de Eliminación de Ruido (DDPM). El proceso de difusión corrompe progresivamente las muestras de datos (por ejemplo, series temporales multivariantes de viento, solar y carga) con ruido gaussiano a lo largo de $K$ pasos.
   • El proceso inverso aprende a eliminar el ruido, sintetizando nuevas muestras mediante la eliminación iterativa del ruido.
   • A diferencia de los DDPM estándar que suelen utilizar arquitecturas U-Net (basadas en CNN), Diff2SP emplea una arquitectura basada en Transformers para la red de eliminación de ruido. Esto permite al modelo capturar dependencias temporales de largo alcance y correlaciones complejas entre variables mediante mecanismos de autoatención, los cuales son críticos para series temporales multivariantes de alta dimensión.
   • El modelo admite la generación condicional, lo que le permite adaptarse a contextos exógenos (por ejemplo, hora del día, variables meteorológicas) a través de un vector de condicionamiento $c$ opcional.

2. Entrenamiento Guiado por Optimización:

   • Diff2SP introduce un objetivo de entrenamiento unificado que combina tres componentes de pérdida:
     • Pérdida de Predicción de Ruido: Entrenamiento estándar de DDPM para estimar el ruido añadido.
     • Pérdida de Reconstrucción: Fomenta la recuperación de muestras temporalmente consistentes.
     • Pérdida de Optimización: Un término novedoso que penaliza las discrepancias en el valor objetivo óptimo del problema de SP posterior cuando se utilizan los escenarios generados frente a los datos históricos.
   • Para permitir el entrenamiento basado en gradientes a través de la pérdida de optimización, el problema de SP se integra como una capa de optimización diferenciable dentro de la red neuronal. Los gradientes se propagan a través de la solución óptima mediante la diferenciación implícita de las condiciones de optimalidad (basada en Fiacco e Ishizuka, 1990).
   • La pérdida total es una suma ponderada: $L_k(\theta) = \lambda_{noise}L_{noise} + \lambda_{recon}L_{recon} + \lambda_{opt}L_{opt}$.

3. Justificación Teórica:

   • El artículo establece límites de arrepentimiento (regret bounds) que vinculan la precisión distributiva (medida por la distancia 1-Wasserstein) con la calidad de la decisión.
   • Deriva garantías de complejidad de muestra, demostrando que, al minimizar directamente una pérdida consciente de la optimización, Diff2SP logra una tasa de arrepentimiento de decisión de $O(N^{-1/2})$. En contraste, las GAN, que minimizan la divergencia estadística (por ejemplo, Jensen-Shannon) de forma indirecta, logran una tasa más lenta de $O(N^{-1/4})$.

Contribuciones Clave

1. Desarrollo del Marco de Trabajo: Los autores desarrollan un marco basado en difusión que incrusta un problema de optimización estocástica como una capa diferenciable, acoplando el modelado de la incertidumbre con la toma de decisiones posterior.
2. Garantías Teóricas de Arrepentimiento: Establecen límites de arrepentimiento que cuantifican cómo los errores en la distribución de incertidumbre aprendida se traducen en pérdidas en la calidad de la decisión, demostando que el entrenamiento consciente de la decisión ofrece garantías teóricas más sólidas que el simple emparejamiento de distribuciones.
3. Análisis de Complejidad de Muestra: El artículo deriva límites de complejidad de muestra para la generación de escenarios consciente de la optimización, comparándolos con el aprendizaje basado en GAN para mostrar que la incorporación directa de objetivos de decisión conduce a una convergencia más rápida y una mejor robustez.

Resultados Empíricos
El marco fue evaluado tanto en conjuntos de datos sintéticos como en datos del mundo real:

• Experimentos Sintéticos: Utilizando una distribución gaussiana multivariante sintética, Diff2SP demostró una eficiencia de muestra superior para recuperar estructuras de correlación en comparación con las GAN, particularmente en regímenes de pocas muestras. En tareas de programación cuadrática posteriores, Diff2Sp logró consistentemente menores errores de optimización a través de diferentes números de escenarios generados.
• Estudio de Caso del Mundo Real: Aplicado a una tarea de programación estocástica de sistemas de potencia que involucra series temporales de viento, solar y carga en seis regiones de la huella de MISO. El modelo generó escenarios utilizados para resolver un problema de Flujo de Potencia Óptimo de Corriente Continua (DC OPF).
  • Fidelidad Estadística: Los escenarios generados capturaron los principales picos y valles, aunque se observaron sobreestimaciones menores de los picos extremos.
  • Calidad de la Decisión: Un estudio de ablación comparó el modelo completo de Diff2SP contra un modelo de difusión base y una variante sin la pérdida de optimización. El modelo completo, que incorpora la pérdida de optimización, logró el error compuesto más bajo en todos los indicadores de evaluación (desviación del objetivo, desviación de media/covarianza y violaciones de límites de línea). Esto confirmó que los objetivos puramente estadísticos no logran preservar las estructuras críticas para la decisión, mientras que el entrenamiento guiado por optimización asegura la alineación con las restricciones y costos posteriores.

Significancia y Reivindicaciones
El artículo afirma que Diff2SP aborda el compromiso persistente entre la fidelidad estadística y la relevancia de la decisión en la generación de escenarios. Al incrustar el problema de SP directamente en el bucle de entrenamiento, el marco genera escenarios que no solo son estadísticamente coherentes, sino también "conscientes de la decisión". Los autores enfatizan que, si bien la difusión no es estrictamente necesaria para los límites de arrepentimiento teóricos (cualquier generador suficientemente regularizado podría teóricamente lograrlos), su objetivo de entrenamiento estable y diferenciable la hace prácticamente superior a los modelos adversarios como las GAN para incorporar pérdidas de alta varianza y no convexas que dependen de la decisión. El trabajo demuestra que integrar objetivos de optimización en el modelado generativo conduce a una mejor robustez y calidad de decisión en entornos de incertidumbre complejos y correlacionados, destacando específicamente las aplicaciones en los sistemas energéticos modernos con alta penetración de energías renovables.