Resumo Técnico: Regressão Entrópica por DMD (ERDMD)

Definição do Problema

A Decomposição de Modos Dinâmicos (DMD) tornou-se uma ferramenta padrão para a descoberta de modelos baseados em dados, particularmente na dinâmica de fluidos e sistemas caóticos. No entanto, a DMD padrão frequentemente apresenta dificuldades com dados multiescala e atratores caóticos, onde modelos simples de defasagem (lag) falham em fornecer previsões de longo prazo precisas. Embora o HODMD (Higher-Order DMD) e os métodos Hankel-DMD tentem abordar isso incorporando atrasos temporais, eles tipicamente dependem de defasagens de tempo uniformes ou requerem a seleção manual de dimensões de incorporação (embedding). A literatura existente sugere que defasagens de tempo não uniformes podem gerar modelos mais ricos do ponto de vista da teoria da informação, contudo, há uma carência de métodos totalmente automáticos para descobrir o conjunto ideal de defasagens não uniformes para uma determinada série temporal. Além disso, determinar o modelo "mais provável" muitas vezes exige navegar por um vasto espaço de potenciais combinações de defasagem sem um critério robusto de seleção, especialmente na presença de ruído.

Metodologia

Os autores propõem a Regressão Entrópica por DMD (ERDMD), um método que funde a estrutura HODMD com a Regressão Entrópica (ER), uma técnica derivada da teoria da informação e da entropia de causalidade. O objetivo central é descobrir modelos DMD de defasagem não uniforme esparsos que maximizem o fluxo de informação referente à evolução da série temporal.

O método opera em três estágios distintos, formalizados no Algoritmo 1:

1. Inicialização: O processo começa com um modelo mínimo contendo apenas a defasagem unitária ($l=1$), correspondente a uma matriz DMD padrão $K_1$.
2. Fase de Construção (Build Phase): O algoritmo testa iterativamente a adição de defasagens candidatas a partir de um conjunto de potenciais atrasos. Para cada defasagem candidata, um novo modelo é construído. O algoritmo calcula a Entropia de Causalidade (uma generalização da entropia de transferência) para medir a informação mútua condicional entre o modelo proposto e o estado alvo, condicionado ao modelo atual. Especificamente, busca-se maximizar:
   $$\tilde{I} = \arg\max_j I(Y^+_d, K(l_t)Y^-(l_t) \mid K(l_c)Y^-(l_t))$$
   onde $Y^+_d$ é o estado alvo, $l_c$ é o conjunto atual de defasagens, e $l_t$ é o conjunto de teste incluindo uma nova defasagem. Se o ganho de informação for estatisticamente significativo (verificado via testes de permutação/shuffle), a defasagem é adicionada ao modelo.
3. Fase de Poda (Prune Phase): Uma vez esgotada a fase de construção, o algoritmo testa a necessidade de cada defasagem selecionada. Ele remove uma defasagem por vez e calcula a perda de informação. Se a remoção de uma defasagem resultar em uma diminuição estatisticamente insignificante de informação (ou seja, o ganho de informação é efetivamente zero), essa defasagem é podada do modelo.

O modelo resultante é uma combinação linear esparsa de estados com defasagem temporal:
$$y_{j+1} = \sum_{k=1}^{N_L} K_{l_k} y_{j+1-l_k}$$
onde o conjunto de defasagens $\{l_k\}$ é não uniforme e descoberto automaticamente. Os autores também caracterizam as propriedades espectrais do modelo resultante construindo uma matriz companheira $K_a$ e analisando as raízes do polinômio característico associado, permitindo a separação da dinâmica com base nas escalas de tempo.

Principais Contribuições

• Descoberta Automática de Defasagem: O artigo introduz um mecanismo totalmente automático para determinar defasagens de tempo não uniformas ideais para modelos DMD, indo além das estruturas de defasagem fixa ou uniforme comuns no HODMD e Hankel-DMD.
• Seleção Baseada em Teoria da Informação: Ao utilizar a Regressão Entrópica e a Entropia de Causalidade, o método seleciona termos do modelo com base em sua capacidade de fornecer a maior quantidade de informação sobre a evolução do sistema, em vez de depender puramente da minimização de mínimos quadrados.
• Modelos Esparsos e Robustos: Demonstra-se que os modelos resultantes são altamente esparsos (utilizando um número mínimo de termos) enquanto mantêm alta fidelidade na reconstrução. O uso da teoria da informação proporciona robustez inerente a dados ruidosos.
• Decomposição Espectral: A estrutura de defasagem não uniforme permite uma caracterização mais clara do espectro de Koopman, possibilitando a separação de modos dinâmicos rápidos e lentos através da análise de polinômios reduzidos derivados das matrizes de defasagem.

Resultados

Os autores validam o ERDMD em três sistemas dinâmicos caóticos:

1. Sistema Lorenz-63:

   • Com uma defasagem máxima de $d=150$, o ERDMD convergiu para um modelo altamente esparso com defasagens $l_c = \{1, 149\}$.
   • Embora o HODMD completo (usando todas as defasagens) tenha mostrado um erro de reconstrução ligeiramente menor, o modelo ERDMD demonstrou um desempenho de previsão superior, sugerindo que o HODMD completo estava sofrendo de overfitting.
   • A análise espectral revelou que o amortecimento na dinâmica foi impulsionado pela disparidade nos valores de defasagem.
   • Quando a defasagem máxima foi reduzida para $d=100$, o algoritmo selecionou um conjunto de defasagens mais complexo ($l_c = \{1, 15, 26, \dots, 99\}$), destacando a adaptabilidade do método ao horizonte temporal disponível.

2. Sistema Rössler:

   • Este sistema exibe dinâmica multiescala (oscilações planares rápidas e crescimento lento).
   • O ERDMD identificou com sucesso um conjunto não uniforme de defasagens ($l_c = \{1, 3, 170, 436, 553, 665, 988\}$) que capturou tanto as escalas rápidas quanto as lentas.
   • As normas das matrizes de defasagem abrangeram dez ordens de magnitude, com defasagens curtas ($1, 3$) possuindo normas grandes e defasagens longas possuindo normas minúsculas.
   • A análise espectral mostrou que o polinômio reduzido derivado das defasagens longas aproximou com precisão as escalas mais lentas, enquanto as defasagens curtas capturaram os modos instáveis rápidos.

3. Equação de Kuramoto–Sivashinsky (KS):

   • Aplicado a um sistema caótico de maior dimensão e extensão espacial ($L=11$).
   • O método convergiu para um modelo esparso com defasagens $l_c = \{1, 123, 141, 158\}$.
   • A reconstrução foi bem-sucedida, embora os autores notem que, para horizontes de reconstrução mais longos, os erros se acumularam mais rapidamente do que no modelo HODMD completo.
   • A análise espectral novamente mostrou uma clara separação de modos baseada nos valores de defasagem, sendo que os modos mais instáveis correspondiam à defasagem mais curta ($K_1$).

Significância e Alegações

O artigo afirma que o ERDMD realiza a ambição de trabalhos anteriores (como [8]) de encontrar operadores de Koopman exatos em sistemas ergódicos, fornecendo uma maneira prática e automática de determinar incorporações de tempo não uniformes. A principal significância reside na capacidade de construir modelos de alta fidelidade e mínimos que são robustos ao ruído e capazes de identificar características multiescala sem ajuste manual.

Os autores explicitamente reconhecem limitações:

• No caso da equação de Kuramoto–Sivashinsky, o método teve dificuldade em reconstruir perfeitamente atratores estranhos de maior dimensão ao longo de horizontes longos em comparação ao HODMD completo, indicando que modelos DMD com defasagem otimizada podem não ser suficientes para todos os sistemas caóticos de alta dimensão.
• Eles sugerem que trabalhos futuros devem acoplar o ERDMD com estratégias de redes neurais autoencodadoras (como em [12]) para abordar essas deficiências.
• O artigo observa que, embora o método seja robusto ao ruído, o teste em dados reais ruidosos permanece uma fronteira para investigações futuras.

O trabalho posiciona o ERDMD como uma abordagem complementar aos métodos existentes de descoberta de redes causais, oferecendo uma ferramenta específica para a construção de modelos de passo de tempo que são simultaneamente esparsos e dinamicamente informativos.