Latent Dynamics-Aware OOD Monitoring for Trajectory Prediction with Provable Guarantees

Título: Monitoramento OOD Consciente de Dinâmicas Latentes para Previsão de Trajetória com Garantias Prováveis

1. Problema e Motivação

Em Sistemas Ciber-Físicos (SCF) críticos para a segurança, como veículos autônomos (AVs), a previsão de trajetória é fundamental para o planejamento e controle. No entanto, modelos de aprendizado profundo, embora precisos em dados de validação (distribuição interna ou In-Distribution - ID), sofrem degradação em cenários de fora da distribuição (OOD). Esses cenários surgem devido a incertezas ambientais (ex.: neve, chuva) ou comportamentos raros de tráfego.

Os desafios principais identificados são:

• Natureza Sequencial e Não Estacionária: Erros de previsão não são independentes; eles evoluem com o tempo e mudam de modo conforme o contexto de direção (ex.: tráfego fluido vs. congestionamento). Métodos de detecção de anomalias quadro a quadro (frame-wise) falham em capturar essa acumulação temporal.
• Limitações da Quantificação de Incerteza (UQ): Métodos como Redes Bayesianas ou Dropout de Monte Carlo são computacionalmente caros para previsões multi-agente e tendem a perder calibração sob deslocamentos de distribuição severos, gerando falsas confianças.
• Falta de Garantias Formais: É crucial ter garantias matemáticas sobre o atraso de detecção e as taxas de alarme falso, algo que muitos métodos heurísticos não oferecem.

O objetivo é modelar a evolução temporal dos erros de previsão como um processo de Detecção de Mudança Mais Rápida (Quickest Change Detection - QCD), onde o "mudança" representa o início de um evento OOD.

2. Metodologia Proposta: DC-MMD

Os autores propõem o DC-MMD (Data-driven Cumulative Maximum Mean Discrepancy), uma extensão do método DC-MMD para o domínio de direção autônoma.

A. Modelagem de Erros com HMM

A premissa central é que os erros de previsão, mesmo em condições normais (ID), não são estacionários. Eles alternam entre dois modos latentes:

1. Modo de Baixo Risco: Previsões estáveis em tráfego rotineiro.
2. Modo de Alto Risco: Erros elevados durante interações complexas (ex.: fusão de faixas, cruzamentos).

Essa dinâmica é modelada por um Modelo Oculto de Markov (HMM), onde o estado latente ($Z_t \in \{L, H\}$) governa a distribuição de emissão do erro ($e_t$). O modelo captura a dependência temporal e a persistência desses modos.

B. Abordagem de Detecção (QCD)

O problema é formulado como a detecção de um ponto de mudança ($\tau^*$) onde a distribuição dos erros muda de $f_t$ (ID) para $g_t$ (OOD).

• Estatística Utilizada: Em vez de usar apenas o erro escalar, o método monitora a segunda ordem dos erros (pares consecutivos $x_t = (e_{t-1}, e_t)$) para capturar a dinâmica do HMM.
• MMD (Maximum Mean Discrepancy): Utiliza-se o MMD em um Espaço de Hilbert de Kernel Reprodutor (RKHS) para medir a divergência entre a distribuição empírica dos erros recentes e uma distribuição de referência construída a partir de dados ID.
• Regra de Decisão CUSUM: Um algoritmo cumulativo (CUSUM) acumula a divergência MMD ao longo do tempo. Um evento OOD é declarado quando a soma acumulada supera um limiar $b$.
• Vantagem Chave: Diferente de métodos anteriores que exigem conhecimento prévio da distribuição pós-mudança, o DC-MMD é livre de distribuição para o estado pós-mudança, exigindo apenas que as distribuições pré e pós sejam distinguíveis.

C. Garantias Teóricas

O artigo fornece garantias prováveis baseadas na teoria de processos estocásticos:

• Atraso de Detecção (WADD): Limites superiores para o atraso médio de detecção no pior caso.
• Taxa de Alarme Falso (MTFA): O tempo médio até um alarme falso cresce exponencialmente com o limiar, permitindo um controle rigoroso.
• Optimalidade de Ordem: O método atinge a ordem ótima de $O(\log \gamma)$ para o atraso de detecção sob restrições de alarme falso.

3. Contribuições Principais

1. Detecção Consciente de Latência: Reformulou o monitoramento OOD como um problema QCD sobre um processo de erro acionado por HMM, capturando a dinâmica não estacionária real.
2. Robustez a Caudas Pesadas: O método demonstra estabilidade mesmo quando as suposições de cauda leve (Gaussianas) são violadas, superando métodos baseados em verossimilhança.
3. Robustez a Distribuições Pós-Mudança Desconhecidas: Não requer conhecimento prévio de como o erro se comportará após a mudança, tornando-o prático para cenários do mundo real.
4. Validação em Tempo Real: O método possui complexidade computacional $O(1)$ por passo (após atualização recursiva), sendo adequado para sistemas embarcados de alta frequência.

4. Resultados Experimentais

Os autores avaliaram o DC-MMD em três conjuntos de dados reais: NGSIM (autoestrada), nuScenes (urbano misto) e ApolloScape (urbano denso e não estruturado), utilizando modelos de previsão como GRIP++ e FQA.

• Desempenho de Detecção:
  • O DC-MMD superou consistentemente as baselines (incluindo CUSUM clássico, GMM-CUSUM e métodos de UQ como NLL e lGMM).
  • Redução de 15% a 35% no atraso de detecção (WADD) em comparação com a melhor baseline sequencial, mantendo taxas de alarme falso equivalentes.
  • AUROC superior (ex.: 0.93 no NGSIM vs. 0.88 do Mode-CUSUM).
• Robustez a Caudas Pesadas:
  • Sob distribuições de erro Laplace e Student-t (caudas pesadas), métodos baseados em verossimilhança (G-CUSUM) sofreram degradação de até 52% no atraso.
  • O DC-MMD manteve-se estável, com degradação mínima (6-9%).
• Cenários Desconhecidos:
  • Em cenários onde a distribuição pós-mudança é desconhecida, o DC-MMD competiu diretamente com o "Robust CUSUM" (projetado para esse fim), superando métodos que assumem modelos paramétricos específicos.
• Eficiência Computacional:
  • O método é executado em < 0.01ms por passo, classificando-se como "Excelente" para tempo real, comparável a métodos simples como NLL, mas com muito mais poder de detecção.

5. Significado e Conclusão

Este trabalho preenche uma lacuna crítica na segurança de veículos autônomos ao fornecer um mecanismo de monitoramento que é:

1. Teoricamente Fundamentado: Oferece garantias matemáticas rigorosas sobre o desempenho.
2. Praticamente Viável: Não requer re-treinamento do modelo de previsão, é agnóstico à arquitetura do modelo e tem custo computacional mínimo.
3. Adaptativo: Capaz de lidar com a complexidade dinâmica e não estacionária do tráfego real, onde os erros evoluem de forma latente.

A proposta sugere que o monitoramento de erros de previsão deve ir além da análise estática ou quadro a quadro, incorporando a dinâmica temporal latente para garantir a segurança operacional contínua em ambientes imprevisíveis.