Discovery of Nonlinear Dynamics with Automated Basis Function Generation

Resumo Técnico: Descoberta de Dinâmicas Não Lineares com Geração Automatizada de Funções de Base

Enunciado do Problema
A descoberta de equações matemáticas governantes a partir de dados observacionais é um desafio fundamental na modelagem científica, particularmente quando a estrutura subjacente é desconhecida. Os métodos existentes enfrentam uma dicotomia:

• Identificação Esparsa de Dinâmicas Não Lineares (SINDy): Embora eficaz na produção de modelos parcimoniosos e interpretáveis, o SINDy depende de uma biblioteca de funções de base candidatas especificada pelo usuário. Se termos críticos forem omitidos devido a dinâmicas não convencionais ou ignorância do domínio, o método falha. Por outro lado, enriquecer a biblioteca para evitar omissões introduz multicolinearidade severa, desestabilizando a regressão esparsa e inflando a incerteza dos coeficientes.
• Regressão Simbólica (SR): Abordagens como o PySR oferecem flexibilidade ilimitada ao buscar no espaço de expressões matemáticas sem uma biblioteca pré-construída. No entanto, são computacionalmente intensivas, altamente sensíveis ao ruído de medição e propensas a produzir equações superajustadas e numericamente instáveis que falham durante a integração de longo horizonte. Além disso, a SR padrão otimiza variáveis de estado independentemente, lutando para impor a estrutura acoplada de sistemas dinâmicos multidimensionais.

O problema central abordado é a falta de um método capaz de construir automaticamente uma biblioteca mínima e fisicamente adequada de funções a partir de dados brutos, sem conhecimento prévio, equilibrando a expressividade da SR com a robustez da regressão esparsa.

Metodologia: O Framework AutoSINDy
Os autores propõem o AutoSINDy, um framework híbrido "Descobrir-Então-Resolver" que decompõe o problema de descoberta de equações em três estágios sequenciais:

1. Estágio 1: Mineração Simbólica (Descobrir)

   • Em vez de aplicar regressão simbólica à trajetória completa, o método opera em $K$ trechos de dados curtos e aleatoriamente amostrados (janelas bootstrap).
   • O PySR (uma ferramenta de regressão simbólica evolutiva multi-população) é aplicado a cada trecho para minerar formas funcionais candidatas.
   • Crucialmente, o método colhe toda a frente de Pareto-ótima de expressões, não apenas o único melhor modelo. Isso garante que sub-termos atômicos estruturalmente corretos sejam capturados, mesmo que a expressão completa seja um ajuste pobre para uma janela local específica.
   • Composições trigonométricas aninhadas são explicitamente proibidas para evitar identidades degeneradas.

2. Estágio 2: Curadoria de Biblioteca (Curar)

   • O pool bruto de expressões simbólicas é processado para construir uma biblioteca compacta e não redundante.
   • Decomposição: As expressões são analisadas e decompostas em sub-termos atômicos aditivos (ex: $3x^2 + 2\sin(y) \to \{x^2, \sin(y)\}$).
   • Expansão: Estratégias configuráveis (Suave, Severa ou Híbrida) expandem termos polinomiais ou trigonométricos agrupados em monômios para garantir cobertura.
   • Poda de Colinearidade: Um procedimento de seleção progressiva gulosa classifica os candidatos por complexidade (contagem de operadores) e os filtra. Um candidato é aceito apenas se sua correlação com os termos já aceitos estiver abaixo de um limiar ($\rho_{max}$) ou se seu Fator de Inflação de Variância (VIF) for aceitável. Isso impõe a ** navalha de Occam** ao nível da biblioteca, garantindo que termos mais simples sejam preferidos em relação a termos complexos e redundantes.

3. Estágio 3: Identificação Esparsa (Identificar)

   • A biblioteca curada é alimentada em um otimizador SINDy (STLSQ ou SR3).
   • Uma abordagem de Ensemble (inspirada no E-SINDy) é utilizada: $B$ replicatas bootstrap são extraídas e modelos esparsos são ajustados a cada uma.
   • Um filtro de inclusão de corte rígido retém apenas os termos que aparecem em uma fração especificada pelo usuário ($\kappa$) dos modelos bootstrap. Isso fornece forte rejeição de ruído, descartando termos espúrios que aparecem apenas devido a artefatos de ruído.
   • O framework suporta tanto bibliotecas separadas (por variável de estado) quanto bibliotecas unificadas (compartilhadas entre variáveis), com bibliotecas separadas produzindo melhor parcimônia nos experimentos.

Principais Contribuições

1. Geração Automatizada e Livre de Suposições de Biblioteca: Um motor baseado em PySR que minera formas funcionais candidatas a partir de dados bootstrap sem exigir especificação prévia da estrutura matemática, abordando diretamente o gargalo de design de biblioteca do SINDy.
2. Pipeline de Curadoria Simbólica Principiada: Um mecanismo de três estágios (decomposição, expansão, poda de colinearidade) que transforma a saída desestruturada de algoritmos genéticos em uma base linear limpa e não redundante, adequada para regressão esparsa robusta.
3. Identificação Esparsa Baseada em Ensemble: Integração da biblioteca curada com otimizadores SINDy e filtragem de ensemble bootstrap para alcançar alta robustez ao ruído e interpretabilidade.
4. Benchmarking Sistemático: Avaliação abrangente em seis sistemas não lineares canônicos (oscilatórios, de ciclo limite e caóticos) sob níveis variados de ruído, comparando contra o SINDy padrão com bibliotecas enriquecidas e o PySR autônomo.

Resultados
Experimentos extensivos em seis sistemas de referência (Oscilador Harmônico, Pêndulo Amortecido, Oscilador Modulada, Van der Pol, Oscilador de Duffing e Lorenz Complexo) demonstram:

• Recuperação da Verdade Terrena: O AutoSINDy alcança uma taxa de recuperação da verdade terrena de 92,8% em todos os ensaios (definida como $R^2 > 0,99$ em uma trajetória de validação limpa e não vista). Isso supera significativamente o SINDy Padrão (58,9%) e o PySR Padrão (28,3%).
• Estabilidade de Simulação: O AutoSINDy exibe superior estabilidade de simulação de longo horizonte, com 0% de falhas de integração rígida (NaN/Inf ou divergência) em 180 ensaios. Em contraste, o SINDy Padrão falhou em 51,7% dos ensaios e o PySR Padrão em 75,0% dos ensaios.
• Parcimônia: O AutoSINDy recupera equações com complexidade (contagem de operadores) dentro de 1–2 operadores da verdade terrena. O SINDy Padrão produziu equações com complexidade de até 29,2$\times$ a verdade terrena (ex: 175 operadores para Van der Pol vs. 6 reais), enquanto o PySR Padrão frequentemente sub-comprimiu, omitindo termos críticos.
• Robustez ao Ruído: O AutoSINDy mantém alta precisão mesmo em altos níveis de ruído ($\sigma = 0,05$), enquanto as linhas de base degradam significativamente ou falham completamente.
• Eficiência Computacional: Embora o tempo de descoberta seja comparável ao PySR autônomo (devido ao motor compartilhado), as equações compactas resultantes tornam o AutoSINDy o método mais rápido para simulação, pois a complexidade reduzida evita a rigidez numérica associada a equações inchadas.

Significado e Afirmações
O artigo afirma que o AutoSINDy conecta com sucesso a lacuna entre a flexibilidade da regressão simbólica e a robustez da identificação esparsa. Ao automatizar o gargalo de engenharia de características, ele permite a descoberta de termos governantes corretos sem conhecimento prévio do domínio. Os autores afirmam que o método produz equações que não são apenas estruturalmente precisas, mas também dinamicamente estáveis e interpretáveis, oferecendo um caminho escalável para descobrir dinâmicas complexas em sistemas biológicos e físicos onde a forma matemática é desconhecida. O trabalho enfatiza que a precisão preditiva em dados de treinamento é insuficiente; o verdadeiro valor científico exige equações que permaneçam estáveis sob integração forward e possuam baixa complexidade simbólica.