Efficient reformulations of ReLU deep neural networks for surrogate modelling in power system optimisation

Resumo Técnico: Reformulações Eficientes de Redes Neurais Profundas ReLU para Modelagem de Substitutos em Otimização de Sistemas de Potência

Definição do Problema
A descarbonização dos sistemas de potência introduziu interações complexas e não lineares impulsionadas por recursos energéticos distribuídos, que são difíceis de capturar utilizando modelos de otimização convencionais. Embora a modelagem de substitutos (surrogate modelling) baseada em Aprendizado de Máquina (ML), particularmente utilizando Redes Neurais Profundas (DNNs) com Unidade Linear Retificada (ReLU), ofereça uma solução promissora para representar esses comportamentos, integrar DNNs ReLU diretamente em estruturas de otimização apresenta desafios significativos. Abordagens padrão utilizando reformulações de Programação Inteira Mista (MIP) (ex: restrições Big-M) introduzem variáveis binárias para cada neurônio, levando à intratabilidade computacional conforme a profundidade e a largura da rede aumentam. Por outro lado, relaxações de Programação Linear (LP) existentes, como a Relaxação de Área Convexa Penalizada (PCAR) e a Relaxação de Área Triangular Convexa Penalizada (PCTAR), melhoram a tratabilidade, mas dependem fortemente de termos de penalidade heurísticos. Esses métodos baseados em penalidade frequentemente carecem de rigidez (tightness) e robustez garantidas, resultando em sensibilidade ao ajuste de hiperparâmetros e potencial degradação da qualidade da solução.

Metodologia
O artigo propõe uma nova reformulação de LP para uma classe específica de DNNs ReLU, denominada DNNs ReLU convexificadas (cvxd). A percepção matemática central baseia-se no Teorema 2.1, que estabelece que, se a saída de uma DNN ReLU for minimizada dentro de um problema de otimização, e as matrizes de pesos de todas as camadas da segunda camada em diante forem restritas a serem elemento a elemento não negativas ($W_l \geq 0$ para $l \geq 2$), as funções de ativação ReLU não convexas nessas camadas podem ser substituídas por desigualdades lineares sem perda de rigidez.

Especificamente:

1. Convexificação: O método restringe as matrizes de pesos das camadas ocultas (da camada $k$ até a saída) para serem não negativas. Esta restrição estrutural garante que a minimização do objetivo se propague pela rede, permitindo a substituição das restrições $\max(\cdot, 0)$ por desigualdades lineares ($h_l \geq W_l h_{l-1} + b_l$ e $h_l \geq 0$).
2. Contexto de Aplicação: O método é aplicado dentro de uma estrutura de Otimização com Aprendizado de Restrições (OCL). Os autores aprendem uma função de responsividade de prosumer (uma curva de saturação não linear e não convexa) usando uma DNN ReLU e a inserem no problema de maximização de lucro de um agregador para o mercado de capacidade terciária dinamarquês (mFRR).
3. Benchmarking: A reformulação proposta é avaliada contra alternativas de Estado da Arte (SOTA):
   • Baseada em MIP: Reformulação Big-M padrão usando o pacote Gurobi ML.
   • Baseada em LP: Relaxações PCAR e PCTAR.
   • Convencional: Linearização por Partes (PWL).

Principais Contribuições

• Reformulação de LP Tratável: O artigo introduz um método para converter DNNs ReLU em formulações de LP rigorosas ao impor pesos não negativos nas camadas subsequentes à primeira. Isso elimina a necessidade de variáveis binárias, reduzindo significamente a complexidade computacional em comparação com abordagens MIP.
• Rigidez Garantida: Ao contrário das relaxações baseadas em penalidade (PCAR/PCTAR), o método proposto garante rigidez e precisão através de várias arquiteturas de rede e condições de entrada, desde que as condições de minimização e de pesos não negativos sejam atendidas.
• Avaliação Sistemática: O estudo fornece um benchmarking abrangente através de múltiplas arquiteturas de redes neurais (variando largura e profundidade) e cenários de preços de mercado (baixo, médio, alto), demonstrando a escalabilidade e confiabilidade da abordagem.

Resultos
A avaliação foi conduzida através de um estudo de caso de um agregador operando no mercado mFRR dinamarquês, utilizando 30.000 pontos de dados de treinamento e testando em 30 cenários de mercado.

• Desempenho Computacional: A proposta de reformulação de LP superou significativamente as abordagens baseadas em MIP (Gurobi ML) e PWL em termos de velocidade. Enquanto o Gurobi ML e o PWL frequentemente exigiam segundos ou horas (ou falhavam em convergir dentro dos limites de tempo para redes mais largas), o método proposto resolveu problemas em milissegundos (ex: 34 ms para cenários de preços altos vs. 1–3 segundos para outros).
• Qualidade da Solução: O método proposto alcançou lucros realizados comparáveis aos dos melhores métodos (PWL e MIP) em todos os cenários, tipicamente dentro de 1% do melhor executor. Em contraste, PCAR e PCTAR resultaram frequentemente em perdas econômicas, particularmente em cenários de preços baixos, devido à sua estrutura de estimativa incorreta de custos de flexibilidade.
• Escalabilidade: O método proposto manteve desempenho e rigidez consistentes à medida que a largura e a profundidade da rede aumentavam. Em contraste, o Gurobi ML exibiu sérios problemas de escalabilidade, com o tempo de execução aumentando drasticamente e os gaps de MIP alargando-se significativamente para redes mais largas (ex: 400 neurônios). PCAR e PCTAR mostraram precisão inconsistente e alta sensibilidade ao ajuste do parâmetro de penalidade.
• Precisão: O modelo proposto alcançou consistentemente valores de Erro Quadrático Médio (RMSE) próximos ao RMSE de treinamento da DNN cvxd subjacente, confirmando a rigidez da reformulação.

Significância e Alegações
O artigo afirma que as DNNs ReLU convexificadas, quando pareadas com a proposta reformulação de LP, oferecem uma metodologia escalável e confiável para integrar modelos de substitutos aprendidos em otimização de sistemas de potência. A significância reside em preencher a lacuna entre o poder expressivo do aprendizado profundo e os requisitos computacionais da otimização de larga escala.

Os autores enfatizam que, embora o método exija que a saída da rede seja minimizada e imponha restrições de não-negatividade aos pesos (limitando a classe de funções aprendíveis a relações convexas e monotonicamente crescentes), ele captura com sucesso funções complexas de custo de flexibilidade no caso de teste. O trabalho posiciona-se como um avanço metodológico geral que evita o ajuste heurístico e a falta de garantias de rigidez associados às relaxações de LP existentes, tornando-o adequado para aplicações como modelagem de custo de geradores, estimativa de emissões de CO2 e formulações com restrições de chance, onde o objetivo envolve minimização. Os autores observam que o foco principal é a demonstração das propriedades da reformulação, e não a aplicação específica do agregador, que serve como um veículo de validação.