Active Learning for Optimal Experimental Design in Machine Learning-Based Building Energy System Identification

Resumo Técnico: Aprendizado Ativo para Design Experimental Ótimo na Identificação de Sistemas de Energia de Edificações Baseada em Aprendizado de Máquina

Definição do Problema
Técnicas de aprendizado de máquina (ML) estão sendo cada vez mais adotadas para identificar a dinâmica de sistemas de energia de edificações (BESs), particularmente a dinâmica térmica de HVAC, devido à sua flexibilidade em comparação com a modelagem baseada em física. No entanto, o desempenho desses modelos orientados por dados depende fortemente da qualidade dos dados de treinamento. Abordagens padrão frequentemente dependem de aprendizado passivo (PL) com entradas de controle uniformemente aleatórias (ex: PRBS, ruído branco), o que pode ser ineficiente, exigindo conjuntos de dados massivos para estimar com precisão a dinâmica de sistemas não lineares. O artigo aborda a necessidade de um Design Experimental Ótimo (OED) para determinar quais experimentos realizar para coletar os dados mais informativos. Embora o OED e o Aprendizado Ativo (AL) compartilhem mecanismos subjacentes, estudos existentes de energia de edificações têm aplicado majoritariamente funções de aquisição únicas e ad hoc, sem uma comparação sistemática entre diferentes paradigmas de AL ou classes de modelos de ML. Além disso, muitos trabalhos anteriores focam em predição ou classificação estática, em vez de identificação de sistemas dinâmicos online sob restrições de controle realistas.

Metodologia
O estudo propõe uma comparação sistemática de quatorze técnicas de AL aplicadas à identificação da dinâmica térmica de edificações. A metodologia é estruturada em torno dos seguintes componentes:

1. Formulação do Sistema: O problema é modelado como um sistema dinâmico de tempo discreto, onde o objetivo é aprender uma aproximação da função não linear desconhecida $f$ que governa a transição do estado $x_k$ e entrada de controle $u_k$ para o estado sucessor $x_{k+1}$.
2. Classes de Modelos: Duas arquiteturas distintas de ML são avaliadas:
   • Determinística: Uma Rede Neural Feedforward (NN) aproximando a dinâmica via predições pontuais.
   • Estocástica: Um Processo Gaussiano (GP) fornecendo uma distribuição preditiva posterior com estimativas de incerteza nativas.
3. Taxonomia de Aprendizado Ativo: As quatorze técnicas são categorizadas em quatro grupos baseados em sua lógica de função de aquisição:
   • Espaço de Dados: Métodos que dependem da estrutura geométrica (Greedy Sampling, Inverse Distance Weighting).
   • Incerteza: Métodos que visam regiões de alta incerteza preditiva (Query-by-Committee, Monte Carlo Dropout para NN; Maximize Variance, Integrated Variance Reduction para GP).
   • Ganho de Informação: Métodos que visam a estimativa de hiperparâmetros (Fisher Information, Shannon Entropy para GP).
   • Mudança do Modelo: Métodos que visam a maior atualização esperada nos parâmetros do modelo (Expected Model Change Maximization, Maximize Last Layer Change para NN; Upper Confidence Bound, Probability of Improvement para GP).
4. Configuração Experimental: Todos os algoritmos são implementados e avaliados no simulador de alta fidelidade BOPTEST, que utiliza Modelica para modelar dinâmicas realistas de HVAC. O estudo emprega um framework de aprendizado online com atualizações em lote (retreinamento a cada 10 amostras).
5. Cenários de Teste: O desempenho é avaliado em seis cenários variando em:
   • Tamanho Inicial do Conjunto de Dados: 2 pontos de dados (escassez de dados) vs. 10 pontos de dados.
   • Restrições de Controle: Restrições de rampa rígidas (simulando limites realistas de HVAC) vs. restrições de rampa amplas.
   • Métricas de Avaliação: Erro Quadrático Médio (RMSE) computado sobre três janelas temporais (0–2h, 0–12h, 0–24h) e reportado tanto como média da janela quanto como valores do passo de tempo final.

Principais Contribuições
O artigo apresenta três contribuições primárias:

1. Taxonomia Sistemática: Classifica formalmente e deriva funções de aquisição para quatorze técnicas de AL através de ambas as classes de modelos determinísticos (NN) e estocásticos (GP), organizadas nas quatro categorias mencionadas acima.
2. Avaliação de Alta Fidelidade: Diferente de estudos anteriores que dependem de conjuntos de dados estáticos ou bases de teste virtuais simples, este trabalho implementa e avalia todas as técnicas no simulador BOPTEST, incorporando dinâmicas de HVAC e restrições de controle realistas.
3. Comparação Empírica Abrangente: O estudo fornece uma análise empírica ampla através de variados tamanhos iniciais de dados e restrições operacionais, comparando todas as técnicas de AL contra um baseline de aprendizado passivo (PL) com entradas uniformemente aleatórias.

Resultos
Os resultados da simulação indicam que modelos baseados em AL geralmente superam o aprendizado passivo (PL) com entradas de controle uniformemente aleatórias, alcançando reduções de erro de até 54% em cenários específicos. No entanto, a magnitude e a consistência dessas melhorias variam significativamente conforme a função de aquisição, a classe do modelo e o regime operacional:

• Regime de Escassez de Dados (2 pontos iniciais, restrições rígidas): Métodos de AL mostram os benefícios mais significativos.
  • Para modelos GP, o Integrated Variance Reduction (IVR) e o Inverse Distance Weighting (IDWGP) tiveram desempenho forte, com o IDWGP alcançando uma redução de 54% no RMSE na janela de 0–12h.
  • Para modelos NN, Query-by-Committee (QBC) e métodos de Mudança de Modelo baseados em gradiente (EMCM, MLLC) proporcionaram as maiores melhorias, com o QBC reduzindo o RMSE médio em 27–42% nas janelas iniciais.
• Regime de Abundância de Dados (10 pontos iniciais, restrições amplas): A vantagem do AL sobre o PL diminui. Em vários cenários de horizonte médio a longo, o PL apresentou desempenho comparável ou superior a métodos específicos (ex: GSGP e SE para GP; MCD para NN).
• Observações Específicas do Modelo:
  • Processos Gaussianos: A categoria de Ganho de Informação (Fisher Information) tornou-se o performer mais forte uma vez que as restrições de rampa foram moderadamente relaxadas. O método de Espaço de Dados GSGP falhou consistentemente em melhorar em relação ao PL em todos os cenários.
  • Redes Neurais: A amostragem de Incerteza (especificamente QBC) permaneceu a categoria mais consistentemente competitiva. O Monte Carlo Dropout (MCD) falhou em melhorar em relação ao PL no cenário de escassez de dados, sugerindo problemas de calibração neste contexto.
• Tendência Geral: Os benefícios do OED são mais pronunciados e confiáveis quando o conjunto de dados de treinamento inicial é escasso e o intervalo de controle admissível é rigidamente restrito.

Significância e Alegações
O artigo alega que o Design Experimental baseado em Aprendizado Ativo é uma ferramenta valiosa para a identificação de sistemas de energia de edificações, particularmente no regime de escassez de dados, onde a coleta de dados é cara ou demorada. Estabelece-se que nenhuma função de aquisição única é universalmente superior; a escolha ideal depende da classe do modelo (determinístico vs. estocástico) e das restrições operacionais específicas (disponibilidade de dados e limites de rampa de controle).

O estudo serve como um benchmark de base para pesquisas futuras, destacando que, embora o AL possa reduzir significativamente o erro do modelo (até 54% nos melhores casos), seus benefícios não são garantidos em todas as condições. Os autores concluem modestamente que seu trabalho foca em um sistema relativamente simples (quatro entradas, uma saída) e não avalia custos computacionais, sugerindo que trabalhos futuros devem estender esses achados para sistemas não lineares mais complexos e incluir análise estatística de overhead computacional.