Generative Augmentation of Imbalanced Flight Records for Flight Diversion Prediction: A Multi-objective Optimisation Framework

Resumo Técnico: Augmentação Generativa de Registros de Voo Desequilibrados para Previsão de Desvios

1. O Problema

Os desvios de voo (flight diversions) são eventos raros, mas de alto impacto, na aviação, envolvendo custos operacionais elevados e riscos de segurança. A previsão confiável desses eventos é crucial para a eficiência operacional e a segurança, mas enfrenta um desafio fundamental: o desequilíbrio severo de classes nos dados históricos.

• Dados: O conjunto de dados utilizado contém aproximadamente 61.000 voos domésticos dos EUA, dos quais apenas 127 são desvios (classe minoritária).
• Limitação: Modelos de aprendizado de máquina treinados exclusivamente nesses dados tendem a ser enviesados para a classe majoritária (voos normais), falhando em identificar os desvios.
• Falta de Dados: Além do desequilíbrio, os dados públicos frequentemente carecem de recursos fortemente correlacionados com a causa do desvio (como condições meteorológicas específicas ou falhas técnicas em tempo real), dificultando a discriminação por modelos convencionais.

2. Metodologia

Os autores propõem uma abordagem que utiliza modelos generativos para criar dados sintéticos de desvios de voo, preenchendo a lacuna da classe minoritária. O núcleo da metodologia é um framework de otimização multi-objetivo acoplado a uma busca automatizada de hiperparâmetros.

A. Modelos Generativos Avaliados:
Foram comparados quatro modelos para gerar registros sintéticos:

1. Gaussian Copula (GC): Modelo estatístico com estimativa de densidade de kernel (KDE), servindo como baseline.
2. TVAE (Tabular Variational Autoencoder): Modelo de aprendizado profundo para dados tabulares.
3. CTGAN (Conditional Tabular GAN): GAN adaptado para dados tabulares com amostragem condicional.
4. CopulaGAN: Combina transformações de cópula com aprendizado adversarial.

B. Framework de Otimização Multi-Objetivo:
Em vez de usar configurações padrão, os hiperparâmetros dos modelos foram otimizados usando o algoritmo TPE (Tree-structured Parzen Estimator). A função objetivo foi projetada para maximizar/minimizar simultaneamente quatro métricas críticas:

• Realismo: Percentual de rotas (origem-destino) que existem nos dados históricos.
• Diversidade: Capacidade de cobrir os padrões e clusters dos dados reais (avaliado via PCA e t-SNE).
• Fidelidade: Dificuldade de um classificador distinguir entre dados reais e sintéticos (medida pelo F1-score; quanto menor, melhor).
• Utilidade (Utility): Desempenho preditivo ao treinar um classificador de desvios com dados aumentados (medido pelo PR-AUC).

C. Avaliação em Seis Estágios:
Os dados sintéticos foram submetidos a uma avaliação rigorosa cobrindo: Realismo, Diversidade, Validade Operacional (ex: correlação entre distância e tempo de voo), Similaridade Estatística, Fidelidade e Utilidade Preditiva.

3. Principais Contribuições

1. Framework de Otimização Multi-Objetivo: Desenvolvimento de uma função de custo personalizada para ajustar hiperparâmetros de modelos generativos especificamente para eventos raros em aviação, equilibrando realismo, fidelidade e utilidade preditiva.
2. Avaliação Holística: Demonstração de que a qualidade de dados sintéticos não pode ser avaliada por uma única métrica, exigindo uma abordagem multifacetada (estatística, operacional e preditiva).
3. Validação de Augmentação Sintética: Evidência empírica de que a adição de dados sintéticos otimizados supera significativamente os modelos treinados apenas com dados reais, mesmo na ausência de recursos fortemente correlacionados com a causa do desvio.
4. Análise de Tamanho de Augmentação: Investigação de como o volume de dados sintéticos adicionados (de 300 a 200.000 registros) afeta a performance, identificando pontos de saturação e trade-offs entre detecção de eventos raros e falsos positivos.

4. Resultados Chave

• Melhoria na Qualidade dos Dados: A otimização multi-objetivo resultou em ganhos substanciais em relação às configurações padrão:
  • Realismo: O TVAE otimizado teve uma melhoria de 7 vezes na pontuação de realismo (rotas válidas). CTGAN e CopulaGAN dobraram sua pontuação.
  • Diversidade: Os modelos otimizados cobriram melhor a variabilidade dos dados reais, evitando a colapso de modos (mode collapse).
  • Fidelidade: Os dados sintéticos otimizados tornaram-se indistinguíveis dos reais para classificadores (F1-score próximo de 0,5 em testes de distinção).
• Performance Preditiva (Utilidade):
  • Modelos treinados com dados aumentados (Real + Sintético) superaram consistentemente os modelos treinados apenas com dados reais (cenário TRTR).
  • O PR-AUC (área sob a curva precisão-recall) aumentou significativamente, indicando melhor capacidade de detectar os desvios raros.
  • Trade-off no Tamanho: Aumentar o número de registros sintéticos melhorou o PR-AUC inicialmente, mas após certo ponto (próximo ao equilíbrio de classes), o MCC (Coeficiente de Correlação de Matthews) começou a cair devido ao aumento de falsos positivos, sugerindo que existe um tamanho ótimo de augmentação.
• Arquitetura: Aumentar a profundidade das redes (número de camadas) degradou o desempenho com dados limitados, enquanto aumentar a capacidade das camadas iniciais (número de neurônios) melhorou os resultados.

5. Significado e Conclusão

Este estudo demonstra que a Inteligência Artificial Generativa, quando devidamente otimizada, é uma ferramenta viável e poderosa para mitigar o problema de dados desequilibrados na aviação.

• Impacto Operacional: Permite a criação de modelos de previsão de desvios mais robustos e precisos, essenciais para a gestão de tráfego aéreo e segurança, mesmo com dados históricos escassos.
• Generalização: Embora focado em desvios de voo, a metodologia é independente de recursos (feature-independent) e pode ser aplicada a qualquer domínio onde eventos raros de alto impacto precisem ser previstos a partir de dados limitados.
• Futuro: Os autores sugerem o uso de métricas compostas (como média de MCC e PR-AUC) para otimização e a expansão da validação com restrições operacionais específicas do domínio (ex: envelopes de voo).

Em suma, o trabalho valida que a augmentação sintética inteligente não apenas preenche lacunas de dados, mas efetivamente melhora a capacidade de generalização e detecção de eventos críticos em sistemas complexos como a aviação.