LeARN: Learnable and Adaptive Representations for Nonlinear Dynamics in System Identification

Resumo Técnico: LeARN – Representações Aprendíveis e Adaptativas para Dinâmicas Não Lineares

Problema
A identificação de sistemas, a derivação de modelos matemáticos a partir de dados de entrada-saída, enfrenta desafios significativos em sistemas dinâmicos não lineares, particularmente para a robótica operando em ambientes não estruturados. Embora os modelos tradicionais baseados em física ofereçam interpretabilidade, eles têm dificuldade com não linearidades complexas, perturbações desconhecidas e entradas de alta dimensão. Métodos orientados a dados como o Sparse Identification of Nonlinear Dynamics (SINDy) surgiram como uma solução, destilando a dinâmica em combinações lineares interpretáveis de funções de base. No entanto, o SINDy depende fortemente de conhecimento especializado do domínio para construir uma biblioteca pré-definida de funções de base (ex: termos polinomiais, trigonométricos). Essa dependência limita a adaptabilidade ao encontrar dinâmicas desconhecidas ou em evolução. Por outro lado, abordagens de aprendizado profundo (ex: aproximadores universais, PINNs) carecem da interpretabilidade estrutural necessária para aplicações críticas de segurança. Tentativas existentes de aprender transformações de coordenadas latentes muitas vezes sacrificam a interpretabilidade das equações dinâmicas resultantes.

Metodologia
Os autores propõem o LeARN (Learnable and Adaptive Representations for Nonlinear Dynamics), um framework projetado para preencher a lacuna entre a expressividade do aprendizado profundo e a interpretabilidade do SINDy sem exigir conhecimento prévio do domínio.

1. Biblioteca de Base Aprendível: Diferente do SINDy, que utiliza uma biblioteca fixa $\Theta(\cdot)$, o LeARN parametriza a biblioteca de funções de base usando uma Rede Neural Profunda (DNN) leve, denotada por $\Theta(X; \psi)$. Esta rede aprende a forma funcional das funções de base diretamente dos dados no espaço de estado físico.
2. Seleção de Características: O framework decompõe a dinâmica do sistema em $\dot{x} \approx \Theta(X; \psi)E(X; \phi)^T$, onde $E(X; \phi)$ é uma segunda DNN atuando como uma matriz de seleção de características. Esta estrutura mimetiza a regressão esparsa do SINDy, permitindo que o modelo identifique quais características de entrada contribuem dominantemente para a dinâmica, mantendo assim a interpretabilidade estrutural em relação à importância das características, mesmo que a forma funcional das funções de base seja aprendida.
3. Meta-Aprendizado para Adaptação: Para lidar com condições de ruído variáveis e dinâmicas de sistemas em evolução, o LeARN emprega o Model-Agnostic Meta-Learning (MAML). O processo de meta-treinamento otimiza os parâmetros iniciais ($\psi, \phi$) através de uma distribuição de tarefas (ex: diferentes condições de vento). Isso garante que o modelo possua uma inicialização robusta que permite uma rápida adaptação a ambientes não vistos via poucos passos de gradiente durante a implantação online.
4. Adaptação Online: Durante a implantação, o modelo se adapta a novas tarefas (ex: novas velocidades de vento) usando uma perda de adaptação que inclui um regularizador para impor continuidade de Lipschitz nas entradas de estado, garantindo estabilidade.

Principais Contribuições

1. Eliminação de Bibliotecas Pré-definidas: O LeARN remove a exigência de uma biblioteca de funções pré-definida e de conhecimento especializado do domínio, aprendendo as funções de base diretamente dos dados.
2. Adaptabilidade via Meta-Aprendizado: Ao realizar o meta-aprendizado da biblioteca de funções de base, o framework permite a rápida adaptação a mudanças na dinâmica e condições ruidosas.
3. Interpretabilidade Equilibrada: O uso de DNNs leves permite modelar não linearidades complexas enquanto mantém a interpretabilidade através da estrutura de esparsidade da matriz de seleção de características aprendida, identificando as características de entrada dominantes.

Resultados Experimentais
O framework foi validado no dataset Neural Fly, um benchmark desafiador envolvendo o voo de um quadrotor sob várias condições de vento. Os autores compararam o LeARN contra o SINDy em três formulações da dinâmica do quadrotor:

• Dinâmica translacional parcial.
• Dinâmica de atitude parcial.
• Dinâmica completa do sistema (combinando translação e atitude).

Descobertas de Desempenho:

• Generalização: O LeARN demonstrou um desempenho de generalização competitivo em comparação ao SINDy.
• Escalabilidade de Dimensionalidade: Uma descoberta fundamental é que a lacuna de desempenho entre o LeARN e o SINDy diminui conforme a dimensionalidade do espaço de características de entrada aumenta. Para a dinâmica completa do sistema (maior dimensão), o LeARN alcançou uma diferença de erro de generalização de apenas 0,001811 em relação ao SINDy, sugerindo uma escalabilidade superior para sistemas complexos e de alta dimensão.
• Comparação Qualitativa: Comparações visuais da dinâmica total através de diferentes condições de vento (ex: 35wind, 70wind, 100wind) mostraram que o LeARN captura efetivamente a evolução dinâmica, correspondendo ao ground truth e ao desempenho do SINDy.

Significância e Alegações
O artigo posiciona o LeARN como um passo em direção à descoberta autônoma de sistemas dinâmicos. Sua principal significância reside em sua capacidade de descobrir os princípios governantes de sistemas complexos sem extensas intervenções específicas de domínio. Os autores alegam que o LeARN oferece um caminho para sistemas robóticos robustos, versáteis e adaptáveis, capazes de operar com segurança em ambientes reais e não estruturados. Ao aprender as funções de base diretamente, o framework aborda as limitações de escalabilidade e flexibilidade do SINDy, preservando a interpretabilidade necessária para aplicações críticas de segurança. O trabalho sugere potencial futuro na monitoração de saúde de sistemas via identificação baseada em dados e modelagem de dinâmicas residuais intrínsecas.