Interpretable Physics Extraction from Data for Linear Dynamical Systems using Lie Generator Networks

Título: Extração de Física Interpretável de Dados para Sistemas Dinâmicos Lineares usando Redes de Gerador de Lie (LGN)

1. O Problema

A identificação de sistemas dinâmicos lineares a partir de dados é fundamental em áreas como teoria de controle, análise de circuitos e dinâmica molecular. O objetivo é recuperar a matriz geradora do sistema, $A(t)$, a partir de trajetórias observadas, permitindo a interpretação de propriedades físicas como estabilidade, frequências naturais e taxas de amortecimento (autovalores).

As abordagens atuais enfrentam limitações críticas:

• Métodos Clássicos (Identificação por Mínimos Quadrados): Dependem da estimativa de derivadas numéricas, o que amplifica o ruído dos dados. Em sistemas de alta dimensão, a regressão não restrita sobre $n^2$ parâmetros frequentemente leva a soluções fisicamente inválidas (ex: autovalores com parte real positiva em sistemas que deveriam ser estáveis).
• Neural ODEs (Equações Diferenciais Ordinárias Neurais): Oferecem flexibilidade ao aprender campos vetoriais não lineares, mas utilizam integração numérica passo a passo. Isso acumula erros de integração ao longo do tempo e não garante a preservação de invariantes físicos (como dissipação de energia ou conservação).
• Redes Neurais Estruturadas (HNNs, LNNs): Preservam estruturas conservativas (como volume no espaço de fase), mas geralmente falham em representar sistemas dissipativos reais de forma nativa ou exigem extensões complexas que ainda dependem de integração numérica.
• Falta de Interpretabilidade: Modelos de "caixa preta" não fornecem diretamente os polos, frequências naturais ou razões de amortecimento do sistema físico subjacente.

2. Metodologia: Redes de Gerador de Lie (LGN)

Os autores propõem as Redes de Gerador de Lie (LGN), uma abordagem que aprende diretamente a matriz geradora $A(t)$ e evolui os estados através de exponenciação de matriz, em vez de integração numérica.

Principais Pilares da Metodologia:

• Formulação Baseada em Exponenciação:

  • Para sistemas lineares invariantes no tempo (LTI), a solução exata é $x(t) = \exp(At)x_0$. A LGN aprende $A$ e calcula a trajetória diretamente via $\exp(At)$.
  • Para sistemas variantes no tempo (LTV), utiliza-se a Expansão de Magnus. A solução é escrita como $x(t) = \exp(\Omega(t))x_0$, onde $\Omega(t)$ é uma série que corrige a não-comutatividade dos geradores ao longo do tempo. A LGN utiliza truncamentos de ordem superior (ex: LGN-M2) para garantir precisão local $O(\Delta t^{2m+1})$.

• Estrutura por Construção (Decomposição S-D):

  • Para garantir estabilidade e dissipação física, a matriz geradora é parametrizada como $A = S - D$.
  • $S$ (Anti-simétrica): Representa a troca de energia conservativa entre variáveis de estado.
  • $D$ (Diagonal positiva): Representa perdas irreversíveis (dissipação).
  • Garantia Teórica: Esta parametrização garante matematicamente que todos os autovalores de $A$ tenham parte real não positiva ($\text{Re}(\lambda) \leq 0$) e que a energia quadrática $\|x\|^2$ decaia monotonicamente. Isso é imposto pela arquitetura, não pela função de perda.

• Objetivo de Aprendizado:

  • Minimiza a perda de reconstrução entre os estados observados e as previsões da LGN ($\mathcal{L} = \sum \|x_i - \hat{x}(t_i)\|^2$).
  • O treinamento é feito via diferenciação automática através da exponenciação de matriz, permitindo o ajuste end-to-end dos parâmetros de $A(t)$.

3. Contribuições Chave

1. Mudança de Paradigma: Substitui a integração numérica (passo a passo) pela exponenciação de matriz (solução fechada), eliminando o erro de integração e preservando a estrutura física exata.
2. Garantia de Estabilidade Arquitetural: A decomposição $S-D$ impõe restrições físicas (estabilidade e dissipação) diretamente na parametrização do modelo, atuando como regularização implícita robusta contra ruído.
3. Extração de Física Interpretável: Diferente de redes neurais que aprendem funções de aproximação, a LGN recupera a matriz $A$ diretamente. Seus autovalores revelam imediatamente os polos do sistema, frequências naturais e taxas de amortecimento.
4. Unificação de Casos: O framework cobre sistemas conservativos, dissipativos, invariantes no tempo (LTI) e variantes no tempo (LTV) em uma única estrutura.

4. Resultados Experimentais

Os autores avaliaram a LGN em quatro cenários de complexidade crescente:

• Experimento 1 (Circuitos LC e RLC - 2D):

  • A LGN alcançou precisão de máquina ($10^{-14}$) tanto para sistemas conservativos (LC) quanto dissipativos (RLC).
  • Redes Neurais (HNN e Neural ODE) tiveram erros ordens de magnitude maiores. HNN falhou catastroficamente no caso dissipativo (RLC) por não poder modelar dissipação, enquanto Neural ODE violou a conservação de energia em 14,5% dos passos de tempo.

• Experimento 2 (Oscilador LTV - 2D):

  • Em um sistema com dissipação variante no tempo, a LGN-SD (com estrutura S-D) superou significativamente as Neural ODEs, alcançando um erro normalizado (NRMSE) de 0,037 contra 0,55 da Neural ODE, usando apenas 153 parâmetros contra ~4.500.
  • A LGN demonstrou que a viés indutivo linear (aprender $A$) é superior à representação temporal flexível de redes neurais para sistemas lineares.

• Experimento 3 (Escalabilidade - RLC Ladder 100D):

  • Em um sistema de 100 dimensões, a identificação linear clássica (mínimos quadrados) falhou completamente, produzindo 16 autovalores instáveis (parte real positiva) e erro infinito.
  • A LGN sem restrições (LGN-FA) encontrou uma solução estável, mas com autovalores fisicamente incorretos (erro médio 500x maior que o verdadeiro).
  • A LGN-SD recuperou todos os 100 autovalores com alta precisão (erro médio < 2% em relação à verdade), demonstrando que as restrições estruturais são essenciais para a identificação correta em alta dimensão.

• Experimento 4 (Robustez ao Ruído):

  • Sob ruído aditivo de até 10%, a LGN manteve o erro de recuperação de autovalores abaixo de 1%.
  • Métodos clássicos degradaram linearmente com o ruído (erro de ~8% a 10% de ruído), pois a estimativa de derivada amplifica o ruído. A restrição S-D atua como um filtro regularizador eficaz.

• Comparação Adicional (Apêndice):

  • Em sistemas rígidos (stiff), a LGN superou a Dissipative SymODEN em duas ordens de magnitude, conseguindo recuperar modos lentos que o treinamento por janelas temporais curtas ($\tau$-horizon) da SymODEN falhou em capturar.

5. Significado e Conclusão

O trabalho demonstra que, para sistemas lineares, a abordagem de "aprender a função não linear" (como em Neural ODEs) é desnecessária e prejudicial. Ao focar na recuperação do gerador linear $A$ e impor restrições físicas via arquitetura (decomposição S-D), a LGN oferece:

• Precisão Superior: Eliminação de erros de integração e derivação numérica.
• Interpretabilidade Física: O modelo não apenas prevê trajetórias, mas identifica os parâmetros físicos fundamentais do sistema.
• Robustez: Capacidade de identificar sistemas estáveis e dissipativos corretamente mesmo a partir de dados ruidosos e de alta dimensão.

A LGN eleva o aprendizado de máquina de uma ferramenta de interpolação de trajetórias para uma ferramenta de identificação de sistemas, permitindo extrair física interpretável (polos, frequências, amortecimento) diretamente de dados observados, o que é crucial para projeto inverso, validação física e controle de sistemas reais.