Resumen Técnico: TailBooster

1. Declaración del Problema

Los sistemas de transporte aéreo enfrentan riesgos operativos, económicos y de seguridad significativos debido a eventos extremos, tales como retrasos severos en la llegada y tiempos de vuelo anormales. Estos eventos son inherentemente raros en los registros históricos, lo que crea un problema fundamental de aprendizaje para los modelos de aprendizaje automático: las colas de la distribución de las métricas operativas continuas están escasamente pobladas, proporcionando una señal de entrenamiento insuficiente para tareas de regresión. En consecuencia, los modelos generalizan bien bajo condiciones nominales, pero fallan precisamente donde la predicción precisa es más crítica: en los extremos.

Los enfoques existentes de aumento de datos sintéticos no logran abordar dos limitaciones simultáneas para los registros tabulares de tipos mixtos:

1. Subrepresentación de la Cola: Los modelos generativos convencionales (GANs, VAEs, Difusión) priorizan las regiones de alta densidad de la distribución de datos, subrepresentando sistemáticamente las colas de la distribución, independientemente de qué tan bien aproximen la distribución general.
2. Invalidación Operativa: Los modelos generativos estándar no ofrecen garantías de preservar las correlaciones operativas entre características. Frecuentemente producen instancias operativamente inviables (por ejemplo, tiempos de vuelo cortos emparejados con largas distancias de vuelo) que no pueden utilizarse para entrenar sistemas de toma de decisiones descendentes.

Si bien la Teoría de Valores Extremos (EVT) ofrece una base estadística para el modelado de colas, los modelos generativos aumentados por EVT existentes están diseñados para espacios de características continuos y homogéneos, y no se extienden a los datos tabulares de tipo mixto característicos de la aviación. Además, los enfoques con restricciones de dominio suelen depender de reglas simbólicas diseñadas manualmente que requieren conocimiento específico del dominio y no son fácilmente transferibles.

2. Metodología: Marco de Trabajo TailBooster

El artículo propone TailBooster, un marco generativo de doble capa que combina el modelado generativo con dos capas de detección de anomalías para producir registros de vuelo sintéticos con una mejor representatividad extrema y validez operativa. El marco es totalmente basado en datos y agnóstico al modelo respecto al componente generativo.

Arquitectura y Flujo de Trabajo

El flujo de trabajo procesa los registros de vuelos históricos a través de las siguientes etapas:

1. Entrada: El marco acepta un conjunto de datos históricos completo ($D$), una lista de características objetivo definida por el usuario ($T$) cuyas colas requieren aumento (por ejemplo, "Tiempo de Vuelo", "Retraso de Llegada"), y una lista de características operativamente correlacionadas ($X_c$) utilizadas para aprender las restricciones de factibilidad.
2. Capa Estadística (1ª Detección de Anomalías):
   • Extracción de Subconjunto Extremo: Utilizando el método del Rango Intercuartílico (IQR), el marco aísla subconjuntos extremos ($E^{(j)}$) para cada característica objetivo $f_j \in T$. Los registros que caen fuera de las cercas de Tukey ($Q_1 - 1.5 \cdot IQR$ o $Q_3 + 1.5 \cdot IQR$) son extraídos.
   • Propósito: Esto proporciona una señal de entrenamiento concentrada en la cola para modelos generativos dedicados, abordando la escasez de ejemplos extremos en el conjunto de datos completo.
3. Etapa Generativa:
   • Se entrenan múltiples modelos generativos: uno sobre el conjunto de datos histórico completo ($D_0$) para preservar los patrones nominales, y uno sobre cada subconjunto extremo ($E^{(j)}$) para amplificar las señales de la cola.
   • Elección del Modelo: Los autores utilizan un Autoencoder Variacional Tabular (TVAE) por su estabilidad de entrenamiento y menor costo computacional en comparación con los modelos de difusión, aunque el marco es agnóstico a la arquitectura generativa específica.
   • Muestreo: Se muestrean registros sintéticos de todos los modelos entrenados.
4. Filtro de Validez Relacional:
   • Un paso de muestreo de rechazo elimina los registros sintéticos donde el par de aeropuertos de origen-destino no existe en los datos históricos. Esto asegura que todos los registros correspondan a rutas operativamente plausibles.
5. Capa de Aprendizaje Profundo (2ª Detección de Anomalías):
   • Limpieza Operativa: Autoencoders pre-entrenados se entrenan en las características operativamente correlacionadas ($X_c$) de los datos históricos reales para aprender la envolvente operativa empírica (por ejemplo, la relación entre distancia y tiempo de vuelo).
   • Filtrado: Los registros sintéticos pasan a través de estos autoencoders. Los registros con errores de reconstrucción que superan un umbral (establecido en el percentil 99 de los errores en los datos reales) son descartados por ser operativamente inválidos. Este paso impone la validez sin requerir reglas físicas diseñadas a mano.

Conjuntos de Datos de Salida

El marco produce tres conjuntos de datos distintos para la evaluación:

• Sintético Naïve ($S_{naïve}$): Salida filtrada por validez del modelo entrenado con el conjunto de datos completo, sin aumento de extremos ni limpieza operativa.
• Sintético Aumentado ($S_{aug}$): Registros sintéticos combinados y limpiados de todos los modelos (conjunto de datos completo + subconjuntos extremos).
• Real Aumentado ($D_{aug}$): Los datos históricos reales originales enriquecidos con los registros extremos sintéticos limpios.

3. Contribuciones Clave

La investigación realiza cuatro contribuciones principales:

1. Marco de Doble Capa: Una arquitectura novedosa para datos tabulares de tipo mixto que integra modelos generativos profundos con detección de anomalías estadística (IQR) y de aprendizaje profundo (autoencoder) para abordar simultáneamente la subrepresentación de la cola y asegurar la validez operativa de manera totalmente basada en datos.
2. Limpieza Operativa Basada en Datos: Una demostración de que un mecanismo de limpieza basado en autoencoders mejora notablemente la validez operativa de los registros sintéticos en comparación con la generación convencional, eliminando la necesidad de reglas simbólicas específicas del dominio.
3. Evidencia de Utilidad Predictiva: Evidencia empírica de que el aumento dirigido de valores extremos mejora consistentemente la predictibilidad de eventos extremos en seis modelos de regresión que abarcan tres familias distintas (ensambles basados en árboles, basados en núcleos e basados en instancias).
4. Evaluación Comparativa: Una evaluación exhaustiva que muestra ganancias de calidad medibles tanto para profesionales con acceso a datos reales (vía aumento) como para aquellos sin ellos (vía datos sintéticos de alta calidad), superando a los datos sintéticos generados convencionalmente.

4. Resultados Experimentales

El marco fue evaluado con registros de vuelos domésticos de EE. UU. (Estado de Nueva York, enero de 2023) en cinco dimensiones: diversidad, similitud estadística, fidelidad, validez operativa y utilidad.

• Verificaciones de Preservación:

  • Diversidad: El marco mantuvo la cobertura de todos los clústeres históricos en las proyecciones PCA y t-SNE.
  • Similitud Estadística: El conjunto de datos Sintético Aumentado logró una similitud general del 86.26% (frente al 79.98% del Sintético Naïve), con ganancias significativas en la similitud bivariante debido a la limpieza operativa.
  • Fidelidad: El conjunto de datos Sintético Aumentado fue más difícil de distinguir de los datos reales que el baseline Sintético Naïve, particularmente dentro de los subconjuntos extremos (la discriminabilidad cayó de ~0.90 a ~0.55 para tiempos de vuelo extremos). Las verificaciones de memorización (Distancia al Registro más Cercano) confirmaron que no hubo un sobreajuste significativo.

• Objetivos Primarios de Mejora:

  • Validez Operativa: El análisis visual de las correlaciones por pares (por ejemplo, Tiempo de Vuelo vs. Distancia) mostró que el conjunto de datos Sintético Naïve contenía registros implausibles (por ejemplo, tiempos de vuelo cortos para distancias largas). El flujo de trabajo de TailBooster eliminó con éxito estas violaciones y cubrió las colas extremas observadas en los datos reales.
  • Utilidad (Desempeño de Regresión): Entrenar con el conjunto de datos Sintético Aumentado redujo el Error Absoluto Medio (MAE) significativamente en comparación con el Sintético Naïve:
    • Tiempo de Vuelo Extremo: Reducción del 47–49% en el MAE a través de seis algoritmos de regresión.
    • Retraso de Llegada Extremo: Reducción del 29–57% en el MAE.
  • Real Aumentado: Entrenar con datos reales enriquecidos con extremos sintéticos ($D_{aug}$) superó consistentemente el entrenamiento con datos reales por sí solos, reduciendo el MAE para el tiempo de vuelo extremo de 6.34–9.88 min a 2.57–8.59 min.

5. Significancia y Reivindicaciones

El artículo afirma que TailBooster aborda una brecha crítica en la literatura donde ningún enfoque existente apunta simultáneamente a la subrepresentación de la cola en registros tabulares de tipo mixto y asegura la validez operativa sin depender de reglas de dominio diseñadas a mano.

• Para Profesionales con Datos: El marco ofrece un método para enriquecer los conjuntos de datos históricos existentes con extremos sintéticos operativamente válidos, mejorando directamente la predictibilidad de eventos raros de alto impacto como los retrasos severos.
• Para Profesionales sin Datos: Proporciona un mecanismo para generar datos sintéticos de alta calidad que preservan tanto los patrones nominales como las estructuras de valores extremos, permitiendo el desarrollo de modelos y el benchmarking donde el acceso a registros operativos reales está restringido.
• Generalizabilidad: Al ser totalmente basado en datos y agnóstico al modelo, el marco es transferible a cualquier dominio donde la predicción de eventos extremos sea crítica y no se disponga de ecuaciones físicas rectoras específicas o reglas simbólicas para la validez.

Los autores señalan limitaciones, incluyendo la evaluación en un único conjunto de datos temporal y geográfico, la evaluación visual en lugar de cuantitativa de la validez operativa, y el tamaño modesto de los subconjuntos extremos utilizados para el entrenamiento. Sugieren que trabajos futuros podrían explorar umbrales adaptativos, remuestreo ligero para colas extremadamente dispersas e la integración de mecanismos informados por la física donde existan leyes rectoras.