AeroCast: Probabilistic 3D Trajectory Prediction for Non-Cooperative Aerial Obstacles via Transformer-MDN Architecture

Resumo Técnico: AeroCast

Definição do Problema

Veículos aéreos autônomos (UAVs) operando em espaço aéreo compartilhado enfrentam um desafio crítico de segurança: prever as posições futuras de obstáculos não cooperativos (ex: pássaros, drones não controlados, detritos) para executar manobras evasivas antes que as colisões se tornem inevitáveis. Diferente de sistemas cooperativos que compartilham intenção, agentes não cooperativos exibem um movimento multimodal que preditores determinísticos não conseguem representar adequadamente.

As soluções existentes sofem de limitações específicas:

• Estimadores baseados em física (ex: filtros de Kalman, IMM) dependem de modelos de movimento predefinidos (velocidade constante, curva coordenada) que falham em capturar as manobras erráticas e abruptas de agentes não cooperativos.
• Métodos baseados em aprendizado recorrente (ex: GRU, LSTM) produzem previsões pontuais determinísticas, não oferecendo informações distribuicionais para planejadores downstream sobre confiança ou pontos de ramificação comportamental. Além disso, seu processamento sequencial cria um gargalo na captura de precursores cinemáticos de longo alcance da iniciação de manobras.
• Abordagens baseadas em Transformers ainda não foram aplicadas especificamente à predição de obstáculos aéreos não cooperativos com um cabeçote de saída probabilística multimodal visando incerteza calibrada.

Metodologia: Arquitetura AeroCast

O artigo propõe o AeroCast, um framework de predição de trajetória probabilística projetado para prever distribuições de misturas Gaussianas por passo de tempo sobre deslocamentos 3D futuros.

1. Representação de Entrada

• Codificação de Deslocamento Consecutivo: Em vez de coordenadas brutas, o modelo recebe deslocamentos consecutivos ($\delta_t = x_{t+1} - x_t$) concatenados com velocidade ($v_t$). Isso fornece invariância de translação e distribuições de entrada limitadas, adequadas para modelagem de mistura Gaussiana.
• Normalização: Os deslocamentos são normalizados por uma constante de escala ($\lambda = 2,5$ m) para concentrar a massa de entrada dentro de $[-1, 1]^3$.

2. Arquitetura do Modelo

• Encoder: Um encoder Pre-LN Transformer (4 camadas, 512 dimensões ocultas, 8 cabeças de atenção) processa o histórico de observação de 2 segundos (20 passos de tempo a 10 Hz). O mecanismo de autoatenção permite que cada passo de tempo acesse diretamente todos os outros ($O(1)$ caminho de informação), facilitando a captura de precursores globais de manobra.
• Cabeçote de Saída (Output Head): Um cabeçote de Rede de Densidade de Mistura (MDN) prevê parâmetros para um Modelo de Mistura Gaussiana (GMM) com $K=5$ componentes. Ele produz pesos de mistura ($\pi$), médias ($\mu$) e covariâncias diagonais ($\Sigma$) para deslocamentos 3D futuros ao longo de um horizonte de 5 segundos (50 passos de tempo).
• Inferência: Na inferência, o componente de mistura dominante é selecionado e a soma cumulativa reconstrói a trajetória 3D.

3. Objetivo de Treinamento e Calibração

• Função de Perda: O modelo é treinado para maximizar a Log-Verossimilhança Negativa (NLL) dos deslocamentos observados. Para evitar a degenerescência de modo (onde os componentes se espalham para cobrir os dados sem se ancorar na verdade fundamental), um pequeno termo de Erro Quadrático Médio (MSE) auxiliar é aplicado ao componente dominante ($k^*$).
• Piso de Sigma (Sigma Floor): Um piso de variância ($\sigma_{min} = 0,05$ m) é imposto nas desvios padrão previstos, correspondendo ao nível de ruído do sensor para evitar predições de massa pontual degeneradas.
• Aprendizado por Currículo: Uma estratégia de escalonamento de comprimento de sequência aumenta gradualmente o comprimento efetivo da observação durante o início do treinamento para estabilizar a convergência.

Principais Contribuições

1. Preditor Probabilístico Transformer-MDN: O AeroCast é o primeiro framework que combina um encoder Pre-LN Transformer com um cabeçote MDN especificamente para obstáculos aéreos 3D não cooperativos, alcançando uma redução de 50% no Erro de Deslocamento Médio (ADE) e no Erro de Deslocamento Final (FDE) em comparação com bases recorrentes fortes.
2. Codificação Invariante de Translação e Protocolo de Calibração: O uso de codificação de deslocamento consecutivo garante invariância de translação. O protocolo de treinamento (NLL + MSE de ancoragem de modo + piso de sigma) evita o colapso da variância e produz estimativas de incerteza passíveis de avaliação via Erro de Calibração Esperado (ECE).
3. Benchmarking Abrangente: O artigo introduz um dataset híbrido real-e-sintético de 90.116 sequências de janela deslizante de 113 voos de quadricópteros através de nove categorias de movimento cinematicamente diversas (ex: Hélice, Estrela, Aleatório). Ele fornece uma avaliação padronizada cobrindo ADE, FDE, NLL, CRPS e ECE.
4. Desempenho em Tempo Real: A inferência completa em 0,1 ms por amostra, compatível com implantação embarcada a 100 Hz.

Resultados Experimentais

Avaliado em um conjunto de validação retido contra quatro bases (GRU-MDN, LSTM-MDN, BiGRU-MDN, MLP-MDN) com orçamentos de parâmetros equivalentes:

• Acurácia: O AeroCast atinge um ADE de 0,055 m e um FDE de 0,099 m, reduzindo os erros em aproximadamente 50% em relação à base mais forte (BiGRU-MDN: ADE 0,111 m, FDE 0,190 m).
• Qualidade Probabilística: Registra a menor Log-Verossimilhança Negativa (-13,28) e o menor Score de Probabilidade Classificado Contínuamente (0,049), indicando superioridade em precisão de distribuição e calibração.
• Análise de Horizonte: A lacuna de desempenho entre o AeroCast e as bases aumenta além da marca de 2 segundos, sugerindo que a atenção global do Transformer captura melhor as assinaturas cinemáticas de longo alcance do que modelos recorrentes sequenciais.
• Achados de Ablação:
  • Entrada de Velocidade: A remoção das características de velocidade causa a degradação mais severa na calibração (ECE sobe de 0,647 para 0,788), destacando seu papel crítico na distinção entre obstáculos lentos vs. rápidos.
  • Codificação Posicional: Essencial para a coerência de longo horizonte; sua remoção quadruplica o FDE (0,099 m para 0,410 m).
  • Capacidade do Modelo: Modelos maiores melhoram significativamente a precisão geométrica do modo dominante.

Significância e Limitações

O artigo afirma que o AeroCast fornece uma solução robusta e em tempo real para o planejamento consciente de risco em espaço aéreo compartilhado, ao modelar explicitamente a incerteza multimodal. O framework aborda os desafios específicos da dinâmica de voo livre 3D, que diferem fundamentalmente das restrições de domínio terrestre (topologia de estradas, normas sociais).

Os autores mantêm um escopo modesto em relação às suas afirmações:

• Escopo: A avaliação é limitada a cenários de obstáculo único e a um dataset específico de voos de quadricópteros em ambientes internos (suplementado por dados sintéticos).
• Limitações: A generalização para ambientes externos, veículos maiores ou agentes biológicos permanece não testada. Interações entre múltiplos obstáculos não são abordadas.
• Trabalhos Futuros: Os autores identificam extensões para cenários de múltiplos agentes, adaptação online para agentes específicos e integração com planejadores de horizonte recorrente como próximos passos necessários.

O trabalho estabelece um novo benchmark para a predição de obstáculos aéreos não cooperativos 3D, demonstrando que arquiteturas probabilísticas baseadas em Transformers podem superar significativamente métodos físicos e recorrentes na captura de comportamentos aéreos complexos e multimodais.