Active Learning for Optimal Experimental Design in Machine Learning-Based Building Energy System Identification

Resumen Técnico: Aprendizaje Activo para el Diseño Experimental Óptimo en la Identificación de Sistemas de Energía de Edificios Basada en Aprendizaje Automático

Planteamiento del Problema
Las técnicas de aprendizaje automático (ML) se adoptan cada vez más para identificar la dinámica de los sistemas de energía de edificios (BES), particularmente la dinámica térmica de los HVAC, debido a su flexibilidad en comparación con el modelado basado en la física. Sin embargo, el rendimiento de estos modelos basados en datos depende fuertemente de la calidad de los datos de entrenamiento. Los enfoques estándar suelen depender del aprendizaje pasivo (PL) con entradas de control uniformemente aleatorias (p. ej., PRBS, ruido blanco), lo que puede ser ineficiente y requiere conjuntos de datos masivos para estimar con precisión la dinámica de sistemas no lineales. El artículo aborda la necesidad de un Diseño Experimental Óptimo (OED) para determinar qué experimentos realizar para recolectar los datos más informativos. Si bien el OED y el Aprendizaje Activo (AL) comparten mecanismos subyacentes, los estudios de energía de edificios existentes han aplicado mayoritariamente funciones de adquisición únicas y ad-hoc sin una comparación sistemática entre diferentes paradigmas de AL o clases de modelos de ML. Además, muchos trabajos previos se centran en la predicción o clasificación estática en lugar de la identificación de sistemas dinámicos en línea bajo restricciones de control realistas.

Metodología
El estudio propone una comparación sistemática de catorce técnicas de AL aplicadas a la identificación de la dinámica térmica de edificios. La metodología se estructura en torno a los siguientes componentes:

1. Formulación del Sistema: El problema se modela como un sistema dinámico de tiempo discreto donde el objetivo es aprender una aproximación de la función no lineal desconocida $f$ que gobierna la transición del estado $x_k$ y la entrada de control $u_k$ al estado sucesor $x_{k+1}$.
2. Clases de Modelos: Se evalúan dos arquitecturas de ML distintas:
   • Determinista: Una Red Neuronal (NN) de alimentación hacia adelante (feedforward) que aproxima la dinámica mediante predicciones puntuales.
   • Estocástica: Un Proceso Gaussiano (GP) que proporciona una distribución predictiva posterior con estimaciones de incertidumbre nativas.
3. Taxonomía de Aprendizaje Activo: Las catorce técnicas se categorizan en cuatro grupos basados en su lógica de función de adquisición:
   • Espacio de Datos: Métodos que dependen de la estructura geométrica (Greedy Sampling, Inverse Distance Weighting).
   • Incertidumbre: Métodos que apuntan a regiones de alta incertidumbre predictiva (Query-by-Committee, Monte Carlo Dropout para NN; Maximize Variance, Integrated Variance Reduction para GP).
   • Ganancia de Información: Métodos que apuntan a la estimación de hiperparámetros (Fisher Information, Shannon Entropy para GP).
   • Cambio del Modelo: Métodos que apuntan al mayor cambio esperado en los parámetros del modelo (Expected Model Change Maximization, Maximize Last Layer Change para NN; Upper Confidence Bound, Probability of Improvement para GP).
4. Configuración Experimental: Todos los algoritmos se implementan y evalúan en el simulador de alta fidelidad BOPTEST, que utiliza Modelica para modelar la dinámica realista de los HVAC. El estudio emplea un marco de aprendizaje en línea con actualizaciones por lotes (reentrenamiento cada de 10 muestras).
5. Escenarios de Prueba: El rendimiento se evalúa a través de seis escenarios que varían en:
   • Tamaño Inicial del Conjunto de Datos: 2 puntos de datos (escasez de datos) frente a 10 puntos de datos.
   • Restricciones de Control: Restricciones de rampa estrictas (que simulan límites realistas de HVAC) frente a restricciones de rampa amplias.
   • Métricas de Evaluación: Error Cuadrático Medio (RMSE) computado sobre tres ventanas temporales (0–2h, 0–12h, 0–24h) y reportado tanto como media de la ventana como valores del paso de tiempo final.

Contribuciones Clave
El artículo realiza tres contribuciones primarias:

1. Taxonomía Sistemática: Clasifica formalmente y deriva funciones de adquisición para catorce técnicas de AL a través de ambas clases de modelos (determinista (NN) y estocástica (GP)), organizadas en las cuatro categorías mencionadas anteriormente.
2. Evaluación de Alta Fidelidad: A diferencia de estudios previos que dependen de conjuntos de datos estáticos o bancos de pruebas virtuales simples, este trabajo implementa y evalúa todas las técnicas en el simulador BOPTEST, incorporando dinámicas de HVAC y restricciones de control realistas.
3. Comparación Empírica Exhaustiva: El estudio proporciona un amplio análisis empírico a través de variaciones en el tamaño inicial de los datos y las restricciones operativas, comparando todos los métodos de AL contra un baseline de aprendizaje pasivo (PL) con entradas uniformemente aleatorias.

Resultados
Los resultados de la simulación indican que los modelos basados en AL generalmente superan al aprendizaje pasivo (PL) con entradas de control uniformemente aleatorias, logrando reducciones de error de hasta un 54% en escenarios específicos. Sin embargo, la magnitud y consistencia de estas mejoras varían significamente según la función de adquisición, la clase de modelo y el régimen operativo:

• Régimen de Escasez de Datos (2 puntos iniciales, restricciones estrictas): Los métodos de AL muestran los beneficios más significativos.
  • Para modelos GP, Integrated Variance Reduction (IVR) e Inverse Distance Weighting (IDWGP) funcionaron fuertemente, con IDWGP logrando una reducción de RMSE del 54% en la ventana de 0–12h.
  • Para modelos NN, Query-by-Committee (QBC) y los métodos de Cambio de Modelo basados en gradiente (EMCM, MLLC) proporcionaron las mayores mejoras, con QBC reduciendo el RMSE medio entre un 27% y 42% en las ventanas tempranas.
• Régimen de Abundancia de Datos (10 puntos iniciales, restricciones laxas): La ventaja de AL sobre PL disminuye. En varios escenarios de horizonte medio a largo, el PL funcionó de manera comparable o incluso mejor que ciertos métodos de AL (p. ej., GSGP y SE para GP; MCD para NN).
• Observaciones Específicas del Modelo:
  • Procesos Gaussianos: La categoría de Ganancia de Información (Fisher Information) se convirtió en el componente con mejor desempeño una vez que las restricciones de rampa se relajaron moderadamente. El método de Espacio de Datos GSGP falló consistentemente en mejorar sobre el PL en todos los escenarios.
  • Redes Neuronales: La categoría de Muestreo de Incertidumbre (específicamente QBC) se mantuvo como la categoría más consistentemente competitiva. Monte Carlo Dropout (MCD) no logró mejorar sobre el PL en el escenario de escasez de datos, lo que sugiere problemas de calibración en este contexto.
• Tendencia General: Los beneficios del OED son más pronunciados y fiables cuando los datos de entrenamiento iniciales son escasos y el rango de control admisible está estrictamente limitado.

Significancia y Afirmaciones
El artículo afirma que el Diseño Experimental basado en Aprendizaje Activo es una herramienta valiosa para la identificación de sistemas de energía de edificios, particularmente en el régimen de escasez de datos, donde la recolección de datos es costosa o lenta. Establece que no existe una función de adquisición única que sea universalmente superior; la elección óptima depende de la clase de modelo (determinista vs. estocástica) y de las restricciones operativas específicas (disponibilidad de datos y límites de rampa de control).

El estudio sirve como un punto de referencia (benchmark) para investigaciones futuras, destacando que, si bien el AL puede reducir significativamente el error del modelo (hasta un 54% en los mejores casos), sus beneficios no están garantizados en todas las condiciones. Los autores concluyen modestamente que su trabajo se centra en un sistema relativamente simple (cuatro entradas, una salida) y no evalúa los costos computacionales, sugiriendo que el trabajo futuro debería extender estos hallazgos a sistemas no lineales más complejos e incluir un análisis estadístico de la sobrecarga computacional.