Identification of Gaussian Process State-Space Models with Particle Stochastic Approximation EM

Resumo Técnico: Identificação de Modelos de Espaço de Estados de Processos Gaussianos com EM de Aproximação Estocástica de Partículas

Enunciado do Problema
O artigo aborda o desafio de identificar sistemas dinâmicos não lineares onde a dinâmica de transição de estado subjacente é desconhecida e complexa. A identificação de sistemas tradicional frequentemente depende de modelos paramétricos (por exemplo, equações específicas de movimento ou redes neurais de estrutura fixa). No entanto, selecionar uma estrutura paramétrica apropriada é difícil sem conhecimento prévio detalhado, e fixar o número de parâmetros limita inerentemente a complexidade das funções que podem ser ajustadas, o que pode levar ao subajuste (underfitting) ou sobreajuste (overfitting).

Os autores propõem o uso de Modelos de Espaço de Estados de Processos Gaussianos (GP-SSMs) para superar essas limitações. Um GP-SSM trata a função de transição de estado como uma variável aleatória extraída de um processo Gaussiano (GP) a priori, fornecendo uma representação bayesiana não paramétrica. Isso permite capturar uma ampla gama de dinâmicas não lineares enquanto quantifica a incerteza. O problema específico abordado é a identificação de máxima verossimilhança (ML) dos hiperparâmetros que regem esses processos Gaussianos e as características de ruído, mantendo a descrição não paramétrica completa das dinâmicas.

Metodologia
A dificuldade central na estimativa de ML para GP-SSMs é que a função de verossimilhança exige a marginalização (integração) das trajetórias de estado latentes ($x_{0:T}$) e das funções de transição desconhecidas ($f_{1:T}$). Embora as funções desconhecidas possam ser marginalizadas analiticamente para gerar uma distribuição a priori sobre as trajetórias de estado, a integral resultante sobre o espaço de estados é analiticamente intratável.

Para resolver isso, os autores utilizam o algoritmo EM de Aproximação Estocástica de Partículas (PSAEM). Esta abordagem combina dois componentes principais:

1. EM de Aproximação Estocástica (SAEM): Em vez de calcular a expectativa exata da log-verossimilhança dos dados completos (que é intratável), o SAEM mantém uma aproximação estocástica da função $Q$ auxiliar. Esta é atualizada iterativamente usando amostras da distribuição de suavização (smoothing distribution).
2. Monte Carlo via Cadeia de Markov de Partículas (PMCMC): Como a amostragem direta da distribuição de suavização $p(x_{0:T} | y_{0:T}, \theta)$ é impossível, os autores utilizam o Gibbs de Partículas com Amostragem de Ancestrais (PGAS). O PGAS constrói um núcleo de Markov que deixa a distribuição de suavização invariante, permitendo a geração de trajetórias de amostra $x_{0:T}^{[k]}$ para atualizar a aproximação da função $Q$.

O algoritmo procede iterativamente:

• E-step (Simulação): Uma nova trajetória de estado é amostrada usando PGAS dado os atuais estimadores de parâmetros.
• Atualização: A aproximação estocástica da função $Q$ é atualizada usando a log-verossimilhança da nova trajetória.
• M-step (Otimização): Os parâmetros $\theta$ (hiperparâmetros da média/covariância do GP e variâncias de ruído) são atualizados maximizando a função $Q$ aproximada usando um método quase-Newton (BFGS).

Principais Contribuições

• Estrutura Algorítmica: O artigo apresenta um método para a identificação de máxima verossimilhança de GP-SSMs que evita a necessidade de conjuntos de dados de pseudo-dados ou rótulos fracos de estados não observados, que foram limitações em abordagens anteriores.
• Integração de PGAS e SAEM: Demonstra a aplicação do Gibbs de Partículas com Amostragem de Ancestrais dentro de uma estrutura de EM de Aproximação Estocástica para lidar com a integração intratável necessária para a identificação de GP-SSM.
• Riqueza Não Paramétrica: O método retém a natureza totalmente não paramétrica do modelo de sistema. Ao marginalizar analiticamente a parte não paramétrica do modelo, a abordagem efetivamente faz a média sobre todas as dinâmicas possíveis consistentes com a a priori do GP, agindo como uma salvaguarda contra o sobreajuste (semelhante ao Bayes Empírico).

Resultados Experimentais
Os autores validam o método em dois tipos de sistemas:

1. Sistema Linear: Um sistema dinâmico linear foi identificado usando funções de covariância linear e exponencial quadrática.
   • Ao usar uma função de covariância linear, o modelo convergiu com sucesso para parâmetros equivalentes a um modelo de espaço de estados linear com distribuições a priori Gaussianas.
   • Ao usar uma covariância exponencial quadrática (não linear) em dados lineares, o modelo identificou corretamente o sistema, mas exibiu alta incerteza (barras de erro largas) em regiões onde os dados eram esparsos ou o modelo era menos confiante, demonstrando a capacidade do modelo de quantificar a incerteza mesmo quando o sistema real é mais simples que a classe do modelo.
2. Sistema Não Linear: Um sistema não linear complexo com um gradiente acentuado na função de transição de estado e uma função de medição quadrática (induzindo bimodalidade) foi identificado.
   • Usando uma função de covariância Matérn (que permite menos suavidade que a exponencial quadrática) na direção do estado, o modelo capturou com sucesso as transições abruptas e as dinâmicas subjacentes.
   • O modelo identificado forneceu previsões probabilísticas com barras de erro que refletiam a incerteza, particularmente em regiões distantes dos dados de treinamento.

Significância e Alegações
O artigo afirma que os GP-SSMs oferecem uma estrutura flexível para identificação de sistemas não lineares que incorpora suposições de alto nível (como suavidade) sem restringir o modelo a uma forma paramétrica específica. O método PSAEM proposto permite a estimação dos hiperparâmetros do modelo via máxima verossimilhança enquanto preserva a riqueza não paramétrica das dinâmicas.

Os autores enfatizam que esta abordagem fornece previsões probabilísticas com incerteza quantificada, o que é crucial para aplicações como controle adaptativo e robótica, onde as estratégias de controle podem depender da confiança nas dinâmicas do sistema. O método é apresentado como uma alternativa robusta às soluções totalmente Bayesianas (que exigem priors sobre os parâmetros) e à identificação paramétrica padrão, oferecendo um equilíbrio entre flexibilidade e viabilidade computacional através do uso de inferência baseada em partículas.