Interpretable Kolmogorov-Arnold Network with Feature-Isolated Temporal Attention Mechanism for Electricity Load Forecasting

Resumo Técnico: Rede Kolmogorov-Arnold Interpretável com Atenção Temporal Isolada de Características para Previsão de Carga Elétrica

Declaração do Problema
A previsão precisa da carga elétrica é fundamental para a estabilidade, eficiência e viabilidade econômica dos sistemas de potência. Embora os modelos de aprendizado profundo (ex: Transformers, LSTMs) tenham alcançado alta precisão preditiva, eles operam tipicamente como "caixas pretas", carecendo da interpretabilidade necessária para compreender os impulsionadores específicos dos resultados das previsões. Essa opacidade dificulta a capacidade dos operadores de sistema de entender como fatores exógenos complexos, particularmente os padrões de mobilidade humana, influenciam o consumo de eletricidade. Além disso, a aplicação direta da emergente Rede Kolmogorov-Arnold (KAN) à previsão de séries temporais enfrenta desafios, incluindo instabilidade de treinamento e uma incapacidade de modelar efetivamente dependências temporais complexas sem adaptações arquiteturais específicas. Abordagens híbridas existentes que meramente substituem camadas de Perceptron Multicamadas (MLP) por módulos KAN frequentemente falham em aproveitar plenamente a interpretabilidade inerente da KAN, pois não preservam a dinâmica distinta de cada característica de entrada individual.

Metodologia: O Framework LoadKAN
Para abordar essas lacunas, os autores propõem o LoadKAN, um novo framework híbrido e interpretável projetado para a previsão de carga elétrica. A arquitetura consiste em dois estágios sinérgicos:

1. Mecanismo de Atenção Temporal com Isolamento de Características:

   • Objetivo: Processar cada sequência de características de entrada (ex: carga histórica, clima e seis métricas distintas de mobilidade humana) independentemente, antes que ocorra qualquer interação entre características.
   • Mecanismo: O lote de entrada é transposto e projetado em um espaço de incorporação (embedding) de maior dimensão via convoluções 1D. Crucialmente, o modelo emprega um mecanismo de Autoatenção de Múltiplas Cabeças (MHSA) por característica. Diferente das arquiteturas padrão que emaranham todas as características em embeddings latentes, este estágio trata o histórico temporal de cada característica como uma sequência independente.
   • Agregação: A informação temporal para cada característica é agregada selecionando a saída do último passo temporal, seguido por uma convolução 1D isolada por característica e uma ativação tangente hiperbólica ($\tanh$). Isso produz uma representação escalar destilada e temporalmente consciente para cada característica, garantindo que as dinâmicas temporais únicas de variáveis como "Varejo e Recreação" ou "Residencial" sejam preservadas sem dominância de sinal ou propagação de ruído de outras características.

2. Módulo KAN Interpretável:

   • Objetivo: Mapear as representações de características processadas para a previsão de carga futura, mantendo a transparência estrutural.
   • Mecanismo: As características destiladas são alimentadas em uma camada KAN construída com funções de ativação B-spline aprendíveis nas arestas. Com base no Teorema da Representação de Kolmogorov-Arnold, o modelo aproxima a função multivariada como uma soma de funções univariadas: $\hat{y} = \sum f_m(r_m) + \beta$.
   • Interpretabilidade: Como a entrada para a camada KAN consiste em representações de características isoladas, as funções spline aprendidas modelam explicitamente a relação não linear entre uma característica do mundo real específica (ex: mobilidade para parques) e a carga elétrica. Isso permite a visualização direta das relações funcionais (ex: pontos de saturação, efeitos de limiar) sem depender de ferramentas de explicação post-hoc como SHAP ou LIME.

Principais Contribuições

• Inovação Arquitetural: O artigo introduz o LoadKAN, que integra de forma única um mecanismo de atenção temporal isolada de características com um módulo KAN. Este design evita o emaranhamento das dinâmicas das características, um pré-requisito para uma interpretabilidade significativa na previsão de séries temporais.
• Validação Empírica: O framework foi avaliado em conjuntos de dados de três mercados de eletricidade representativos dos EUA: NYISO, CAISO e ERCOT. O estudo demonstra que o LoadKAN alcança um desempenho competitivo contra benchmarks de caixa preta extensivamente ajustados (incluindo Informer, TCN e Transformer), frequentemente obtendo resultados de alto nível (ex: melhor desempenho no ERCOT).
• Ablação de Características de Mobilidade: O estudo quantifica o impacto dos dados de mobilidade humana, mostrando que a integração dessas características melhora significavelmente a precisão da previsão em todos os modelos, com o LoadKAN demonstrando uma forte aptidão para aproveitar essa informação suplementar.
• Interpretabilidade Granular: O artigo fornece uma análise detalhada das relações não lineares aprendidas entre seis padrões de mobilidade e a carga elétrica. Ele revela dependências específicas de mercado, como a influência variável do uso de transporte público em NYISO versus a mobilidade comercial em CAISO, e a sensibilidade dominante da mobilidade relacionada a parques em ERCOT e NYISO.

Resultos

• Desempenho: O LoadKAN mantém-se consistentemente no nível superior dos benchmarks. No mercado ERCOT, alcançou o melhor desempenho geral (MAPE: 2,91%, $R^2$: 0,9429), superando o melhor baseline (Transformer). Em NYISO e CAISO, permaneceu altamente competitivo, com valores de MAPE dentro de 0,17% e 0,13% dos melhores modelos, respectivamente, enquanto oferecia interpretabilidade superior.
• Impacto da Mobilidade: A inclusão de características de mobilidade humana resultou em uma redução média de MAPE de aproximadamente 16,28% e RMSE de 16,90% em todos os modelos e mercados.
• Análise de Sensibilidade: A análise quantitativa de sensibilidade das funções de ativação aprendidas revelou comportamentos regionais distintos. Por exemplo, a mobilidade de "Parques" exibiu a maior sensibilidade em NYISO e ERCOT, enquanto as características comerciais (Locais de Trabalho, Varejo) mostraram maior sensibilidade em CAISO. A análise também revelou relações complexas, não lineares e às vezes contraintuitivas, como o aumento da presença residencial correlacionando-se com a redução da carga do sistema em certos mercados, provavelmente devido à substituição de atividades comerciais intensivas em energia.

Significância e Alegações
O artigo afirma que o LoadKAN consegue unir com sucesso o poder preditivo do aprendizado profundo e a interpretabilidade estrutural necessária para a tomada de decisão informada em sistemas de energia. Ao evitar a natureza de "caixa preta" das redes neurais padrão e as limitações das estruturas KAN puras em dados de séries temporais, o LoadKAN oferece um mecanismo transparente para entender como impulsionadores específicos, particularmente a mobilidade humana, influenciam a demanda de eletricidade. Os autores enfatizam que sua abordagem permite visualizar e quantificar as dependências não lineares entre as características de entrada e as previsões de carga, fornecendo insights que são frequentemente obscurecidos por modelos opacos. Esta capacidade é apresentada como um habilitador crucial para compreender o impacto de características exógenas dinâmicas na de consumo de eletricidade, apoiando operações de sistema mais informadas em um cenário energético em evolução.