Invariant Manifolds of Discrete-time Dynamical Systems with Nonlinear Exosystems via Hybrid Physics-Informed Neural Networks

Resumo Técnico: Variedades Invariantes de Sistemas Dinâmicos de Tempo Discreto com Exossistemas Não Lineares via Redes Neurais Híbridas Informadas pela Física

Enunciado do Problema
O artigo aborda o desafio de aproximar variedades invariantes (VIs) para sistemas dinâmicos de tempo discreto acionados por dinâmicas autônomas exógenas (exossistemas). Tais sistemas hierárquicos ou acoplados são prevalentes na teoria de controle (por exemplo, regulação de saída não linear) e na modelagem de comportamento coletivo (por exemplo, dinâmicas líder-seguidor no tráfego, bandos de pássaros e cardumes de peixes). Embora as VIs forneçam um quadro rigoroso para redução de dimensionalidade e análise de estabilidade, seu cálculo em configurações de tempo discreto permanece difícil. Métodos tradicionais, como expansões em série de potências locais (PSE), sofrem com a "maldição da dimensionalidade" em relação ao crescimento combinatório dos coeficientes e são limitados pelo raio de convergência, frequentemente falhando longe do ponto de equilíbrio. Por outro lado, abordagens puramente baseadas em dados ou redes neurais informadas pela física (PINNs), embora escaláveis, podem carecer da interpretabilidade e das propriedades de convergência local rápida das expansões em série próximas aos equilíbrios.

Metodologia
Os autores propõem uma estrutura híbrida de aprendizado de máquina informada pela física que combina sinergicamente séries polinomiais multivariadas e redes neurais (NNs) rasas para aproximar a relação funcional $x = \pi(y)$ que define a VI.

1. Formulação Matemática: O problema é apresentado como a resolução de um sistema de equações funcionais não lineares (EFNs) derivadas da condição de invariância:
   $$\pi(Ay + g(y)) = B\pi(y) + Cy + f(\pi(y), y)$$
   onde $y$ representa o estado do exossistema e $x$ o estado acionado.

2. Arquitetura Híbrida: A aproximação $\tilde{\pi}_{HxS}(y)$ é construída como uma função por partes:

   • Dentro de um hiperretângulo $D$ (centrado no equilíbrio): Uma série polinomial (Potência, Legendre ou Chebyshev) é utilizada para explorar propriedades de convergência geométrica/exponencial próximas ao equilíbrio.
   • Fora de $D$: Uma rede neural feedforward de camada única (SLFNN) é empregada para aproveitar capacidades de aproximação universal em regiões onde séries polinomiais podem divergir ou onde o raio de convergência é excedido.
   • Continuidade: Uma função de comutação baseada em Heaviside garante continuidade $C^0$ na fronteira $\partial D$, imposta via uma penalidade de continuidade na função de perda.

3. Otimização: A tarefa de aprendizado é formulada como um problema de otimização informada pela física, minimizando uma função de perda composta que compreende:

   • Resíduos das EFNs: Imposição da equação de invariância em pontos de colocação.
   • Restrição de Equilíbrio: Garantia de que a variedade passe pelo ponto de equilíbrio.
   • Restrição de Continuidade: Correspondência das saídas polinomiais e da NN na fronteira.

   A otimização é resolvida usando o algoritmo Levenberg–Marquardt (LM). Crucialmente, os autores derivam expressões analíticas para todas as derivadas dos resíduos em relação aos coeficientes polinomiais e parâmetros da NN, argumentando que essa abordagem produz confiabilidade e eficiência superiores em comparação com diferenças finitas ou diferenciação automática, particularmente para sistemas rígidos.

4. Fundamentos Teóricos: O artigo estabelece um teorema de aproximação universal para o componente NN autônomo sob suposições específicas (regularidade de Barron da VI, continuidade de Lipschitz das dinâmicas do sistema e composição limitada da medida em relação ao exossistema). O teorema garante uma taxa de convergência $L^2$ de $O(L^{-1/2})$ em relação à largura da rede $L$.

Principais Contribuições

• Esquema Híbrido: Introdução de uma arquitetura híbrida novel que integra a interpretabilidade e a convergência local das séries polinomiais com o poder de aproximação global das redes neurais para VIs de tempo discreto.
• Derivadas Analíticas: Derivação de derivadas analíticas de forma fechada para os resíduos do esquema híbrido, facilitando a otimização robusta via LM.
• Garantias Teóricas: Estabelecimento de um teorema de aproximação universal e taxas de convergência para o componente NN aplicado a equações de invariância de tempo discreto.
• Benchmarking: Avaliação numérica abrangente comparando o esquema híbrido contra PINNs autônomos e PSEs tradicionais.

Resultados
O quadro foi avaliado em dois exemplos de referência:

1. Biorreator Enzimático (1D acionado, 1D exossistema): O esquema híbrido (usando séries de Potência, Legendre ou Chebyshev) alcançou erros relativos médios $L^2$ na ordem de $10^{-5}$, superando significativamente o PSE autônomo (erros $\sim 10^{-3}$) e superando ligeiramente a PINN autônoma. A abordagem híbrida demonstrou alta precisão próxima ao equilíbrio (devido ao componente polinomial) e manteve precisão longe dele (devido ao componente NN).
2. Modelo de Seguimento de Carros (20D acionado, 2D exossistema): Neste caso de maior dimensionalidade, o esquema híbrido novamente superou o PSE (erros $\sim 10^{-2}$) e mostrou precisão global ligeiramente melhor que a PINN autônoma (erros $\sim 10^{-3}$). O esquema híbrido generalizou com sucesso para a variedade de 20 dimensões, mantendo distribuição homogênea de erros em todo o domínio.

Um caso de validação adicional com uma VI analítica conhecida ($x = \ln(1+y)$) confirmou que, enquanto expansões puramente polinomiais falham fora de seu raio de convergência, o esquema híbrido mantém precisão em todo o domínio, com desempenho melhorando à medida que o grau polinomial aumenta.

Significado e Alegações
O artigo alega que o esquema híbrido informada pela física proposto oferece uma vantagem comparativa sobre expansões polinomiais autônomas e redes neurais autônomas. Especificamente:

• Supera a limitação de localidade das séries polinomiais, que falham fora de seu raio de convergência.
• Melhora as PINNs autônomas ao aproveitar a convergência rápida dos polinômios próximos ao equilíbrio, resultando em maior precisão numérica nessa região.
• Fornece uma solução de um passo, plug-and-play que evita a complexidade de linearizar o problema ou usar procedimentos de múltiplos passos frequentemente exigidos por métodos tradicionais.

Os autores observam modestamente que, embora o método seja altamente eficaz para variedades de baixa a média dimensionalidade (onde a complexidade polinomial permanece tratável), o crescimento combinatório dos coeficientes permanece um gargalo para dimensões muito altas. Eles sugerem que, para tais casos, uma aproximação via PINN autônoma pode ser mais apropriada. O artigo conclui identificando direções de trabalho futuro, incluindo a análise rigorosa das propriedades de convergência do esquema híbrido e a incorporação de bases de produto tensorial parcimoniosas.