Learning Dynamics from Input-Output Data with Hamiltonian Gaussian Processes

Resumo Técnico: Aprendizado de Dinâmicas a partir de Dados de Entrada-Saída com Gaussian Processes Hamiltonianos

1. Problema e Motivação

O aprendizado de modelos dinâmicos de sistemas físicos a partir de dados limitados é crucial para o controle baseado em modelos e para a compreensão de sistemas complexos. Abordagens recentes de Machine Learning informado por física (Physics-Informed ML) buscam incorporar leis de conservação (como a conservação de energia) para garantir previsões fisicamente consistentes.

No entanto, a maioria dos trabalhos existentes que utilizam Gaussian Processes (GPs) Hamiltonianos enfrenta uma limitação restritiva: eles exigem medições completas do estado do sistema, ou seja, dados de posição e momento (ou velocidade). Em muitos cenários práticos, medições de velocidade ou momento são raras, difíceis de obter ou ruidosas (requerendo diferenciação numérica instável).

O problema central abordado neste artigo é: Como aprender modelos de dinâmica Hamiltoniana não-conservativos (com dissipação e forças externas) e quantificar a incerteza, utilizando apenas dados de entrada-saída (posição e forças de controle), sem acesso direto a medições de velocidade ou momento?

2. Metodologia Proposta

Os autores propõem um esquema de identificação de sistema totalmente Bayesiano que combina Gaussian Processes de Rank Reduzido (Reduced-Rank GPs) com a estrutura da mecânica Hamiltoniana.

• Formulação Hamiltoniana Não-Conservativa:
  O sistema é modelado por equações de estado contínuas que descrevem a evolução da energia:
  $$\dot{x} = (J(x) - R(x)) \nabla_x H(x) + G(x)u + w$$
  Onde:

  • $H(x)$ é a função Hamiltoniana (energia) desconhecida.
  • $J(x)$ é a matriz de interconexão (anti-simétrica).
  • $R(x)$ é a matriz de dissipação (simétrica, semi-definida positiva), permitindo modelar perdas de energia.
  • $G(x)$ é a matriz de entrada para forças externas $u$.
  • O modelo lida com ruído de processo e medição.

• Modelagem com Reduced-Rank GPs:
  Para evitar a complexidade computacional $O(T^3)$ dos GPs tradicionais (onde $T$ é o número de dados), utiliza-se uma aproximação de Rank Reduzido (Solin & Särkkä, 2020).

  • A função Hamiltoniana $H(x)$ é aproximada por uma expansão em autofunções de dimensão finita $M$.
  • O gradiente da Hamiltoniana ($\nabla_x H$), necessário para a dinâmica, é modelado linearmente em relação aos parâmetros do modelo (coeficientes da expansão).
  • Isso permite expressões de gradiente em forma fechada e complexidade computacional independente da dimensão dos dados de treinamento ($O(M)$ para previsão).

• Esquema de Inferência Bayesiana (Particle Gibbs):
  Como não se tem acesso direto a $H(x)$ ou $\dot{x}$, apenas a saída $y$ (posição), os autores utilizam um método Particle Markov Chain Monte Carlo (PMCMC), especificamente um esquema Particle Gibbs:

  1. Inferência de Estados Latentes: Usa Sequential Monte Carlo (SMC) condicional para estimar as trajetórias dos estados ocultos ($x_t$) e do gradiente da Hamiltoniana ($h_t$) dados os parâmetros.
  2. Aprendizado de Parâmetros:
     • Parâmetros do GP ($\theta$): Estimados em forma fechada devido à conjugação do prior (Normal-Inverse Gamma) e à linearidade do modelo.
     • Hiperparâmetros Estruturais ($\vartheta_S$): Coeficientes de amortecimento e estruturas de matrizes desconhecidas são aprendidos via passos de Metropolis-Hastings dentro do esquema Gibbs.
     • Hiperparâmetros do Kernel ($\vartheta_K$): Também aprendidos via Metropolis-Hastings.

3. Principais Contribuições

1. Aprendizado apenas com Dados Entrada-Saída: É a primeira abordagem de GP Hamiltoniano que dispensa medições de momento/velocidade, aprendendo diretamente de posições e forças de entrada.
2. Modelo Não-Conservativo: O método captura explicitamente a troca de energia com o ambiente (forças externas) e a dissipação (amortecimento), ao contrário de muitos trabalhos anteriores focados apenas em sistemas conservativos.
3. Identificação Bayesiana Completa: O método fornece distribuições de probabilidade (incerteza) não apenas para as previsões, mas também para os parâmetros estruturais (ex: coeficiente de amortecimento) e hiperparâmetros do kernel, algo que métodos frequentistas não fazem.
4. Eficiência Computacional: O uso de GPs de rank reduzido permite que o modelo escale melhor com o tamanho dos dados em comparação com GPs exatos, mantendo a capacidade de aprendizado em forma fechada para os parâmetros principais.

4. Resultados Experimentais

O método foi avaliado em um estudo de caso de simulação com um oscilador não-harmônico (com Hamiltoniana $H(q, p) = \frac{q^2}{2} + \frac{p^2}{2} + 2\cos q$) sujeito a forças externas e amortecimento.

• Comparação: O método proposto (usando apenas dados de posição) foi comparado com:
  • O mesmo método aplicado em um cenário ideal com dados de estado completo (posição + momento).
  • Um modelo de GP Hamiltoniano exato (Beckers et al., 2022) que requer dados de estado completo.
• Desempenho:
  • O modelo proposto aprendeu o mapa de fluxo dinâmico com precisão comparável (RMSE similar) ao modelo que tinha acesso a dados de momento, apesar de usar apenas dados de posição ruidosos.
  • A complexidade de previsão foi significativamente menor ($O(M)$ vs $O(T)$).
  • O método conseguiu inferir corretamente a densidade de probabilidade do coeficiente de amortecimento (embora com um leve viés devido a questões de identificabilidade no cenário de entrada-saída, corrigido com restrições de simetria).
  • As simulações forward do modelo aprendido reproduziram fielmente o comportamento físico do sistema, incluindo a dissipação de energia e a resposta a entradas externas.

5. Significado e Conclusão

Este trabalho preenche uma lacuna crítica entre o aprendizado de dinâmica informado por física e a identificação de sistemas Bayesiana prática. Ao eliminar a necessidade de medições de velocidade/momento, o método torna a modelagem física consistente viável para uma gama muito mais ampla de aplicações industriais e robóticas, onde sensores de velocidade são inexistentes ou caros.

A capacidade de quantificar a incerteza sobre parâmetros físicos estruturais (como o amortecimento) e estados ocultos, utilizando apenas dados de entrada e saída, abre caminho para controle baseado em modelos mais robusto e seguro, permitindo que sistemas aprendam leis físicas fundamentais diretamente de dados operacionais limitados.

Limitações e Trabalhos Futuros:
Os autores reconhecem que a complexidade computacional do esquema baseado em partículas ainda cresce com a dimensão do problema e que a identificabilidade do Hamiltoniano a partir de dados de entrada-saída pode exigir restrições de simetria ou conhecimento prévio em sistemas complexos.