Heteroscedastic Diffusion for Multi-Agent Trajectory Modeling

Resumen Técnico: Difusión Heterocedástica para Modelado de Trayectorias Multiagente

Enunciado del Problema
El modelado de trayectorias multiagente se ha centrado tradicionalmente en la predicción de estados futuros, descuidando a menudo tareas más amplias como la finalización de trayectorias (inferir porciones faltantes u no observadas de una trayectoria). Los métodos existentes, incluidos aquellos basados en GAN, CVAE y Modelos Probabilísticos de Difusión Estándar (DDPM), típicamente predicen estados de agentes sin proporcionar medidas de incertidumbre heterocedástica a nivel de estado. Además, los métodos de muestreo multi-modal populares carecen de estimaciones de probabilidad de error para cada escena generada bajo las mismas observaciones previas, lo que dificulta clasificar la fiabilidad de las predicciones en el momento de la inferencia. Persiste una brecha crítica en la capacidad de cuantificar la probabilidad de cada estado predicho y de clasificar múltiples modos generados según su proximidad a la verdad fundamental.

Metodología
Los autores introducen U2Diffine, un modelo de difusión unificado diseñado para realizar la finalización de trayectorias mientras ofrece simultáneamente estimaciones de incertidumbre heterocedástica a nivel de estado. El marco se basa en los siguientes componentes centrales:

1. Marco Unificado de Difusión: Inspirado en CSDI (Imputación de Difusión Basada en Puntuación Condicional), el modelo utiliza un MambaSSM bidireccional para el procesamiento temporal y un Transformador Social para las interacciones entre agentes, reemplazando a los codificadores Transformer tradicionales para manejar mejor las dinámicas temporales sin codificaciones posicionales fijas.
2. Estimación de Incertidumbre Heterocedástica: A diferencia de las pérdidas de desruido estándar que predicen un único vector de ruido, U2Diffine modela el ruido inverso como una distribución gaussiana bivariada. Aprende tanto el estado medio del ruido ($\epsilon^\mu_\theta$) como una matriz de covarianza $2 \times 2$ ($\epsilon^\Sigma_\theta$) para cada agente en cada paso de tiempo. Esto se logra aumentando la pérdida de desruido estándar con un término de Logaritmia Negativa de Verosimilitud (NLL), permitiendo al modelo capturar la incertidumbre dependiente de los datos (aleatoria), incluidas las dependencias direccionales y las elipses de incertidumbre rotadas.
3. Muestreo Gaussiano Inverso (U2Diffine): Para propagar la incertidumbre del espacio latente al espacio de estados real, los autores derivan una aproximación de Taylor de primer orden. Este método linealiza la red de puntuación alrededor de la media actual para calcular las matrices jacobianas ($J_s$), que se utilizan para actualizar la matriz de covarianza durante el proceso de muestreo inverso. Esto proporciona estimaciones de incertidumbre precisas, robustas y consistentes a nivel de estado, sin recurrir a costosas muestras de Monte Carlo.
4. Línea Base Acelerada (U2Diff): Para abordar el costo computacional del cálculo de gradientes requerido para el Jacobiano, los autores proponen U2Diff. Esta variante asume un gradiente cero ($J_s = 0$) y utiliza un modelo de incertidumbre univariada más simple. Para mitigar una posible inflación de la varianza, emplea una estrategia de "retraso de varianza", iniciando la propagación de la incertidumbre solo después de un paso intermedio de desruido. Este enfoque reduce el tiempo de inferencia en aproximadamente 4x manteniendo un error de desplazamiento competitivo.
5. Red Neuronal de Clasificación (RankNN): Para abordar el desafío de clasificar múltiples modos generados, los autores introducen una arquitectura supervisada de post-procesamiento. RankNN toma como entrada los modos generados, sus medias predichas y sus varianzas. Procesa estos datos a través de un Bloque Socio-temporal y un Transformador de Múltiples Escenas para generar una puntuación de probabilidad de error para cada modo. El modelo se entrena para maximizar la correlación de Spearman entre estas puntuaciones predichas y el Error Real de Desplazamiento Promedio de Escena (SADE).

Contribuciones Clave

• Marco Unificado: Un enfoque basado en difusión para la finalización de trayectorias multiagente que integra predicción, imputación e inferencia de agentes no observados dentro de un único marco adaptable a números variables de agentes y pasos de tiempo.
• Incertidumbre a Nivel de Estado: Aumento del marco de difusión con una pérdida de logaritmia negativa de verosimilitud bivariada para habilitar la estimación de incertidumbre heterocedástica para cada estado latente predicho.
• Propagación Analítica de Incertidumbre: Desarrollo de una aproximación de Taylor de primer orden para el Muestreo Gaussiano Inverso, propagando la incertidumbre latente al espacio de salida para generar estimaciones precisas a nivel de estado.
• Estimación de Probabilidad de Error: Una arquitectura supervisada de post-procesamiento novedosa (RankNN) que proporciona estimaciones de probabilidad de error para cada modo generado, demostrando una alta correlación con los errores de la verdad fundamental.
• Eficiencia: La propuesta de U2Diff, una variante más rápida que evita el cálculo de gradientes durante el muestreo, ofreciendo una inferencia $\sim4\times$ más rápida con un error de desplazamiento comparable.

Resultados Experimentales
El método fue evaluado en cuatro conjuntos de datos deportivos desafiantes: NBA, Basketball-U, Football-U y Soccer-U.

• Finalización de Trayectorias: U2Diffine y U2Diff superaron a los métodos más avanzados (incluido UniTraj) en los tres conjuntos de datos de finalización. Cabe destacar que U2Diffine logró mejoras de aproximadamente 33% y 44% en minSADE20 en los conjuntos de datos Football-U y Soccer-U, respectivamente.
• Predicción de Trayectorias: En el conjunto de datos NBA, el enfoque unificado logró un rendimiento de vanguardia en métricas a nivel de escena (minSADE20/minSFDE20), superando a métodos líderes como LED, MART y MoFlow en más de un 3%, a pesar de utilizar una estrategia de muestreo i.i.d. directa.
• Calidad de la Incertidumbre: Los modelos lograron altas Tasas de Precisión (AccRate), con U2Diffine alcanzando más del 95% en los conjuntos de datos Football-U y Soccer-U. El modelado bivariado permitió la predicción de elipses de incertidumbre rotadas que se alinearon bien con las distribuciones de datos espaciales.
• Rendimiento de Clasificación: El marco RankNN mejoró significativamente la correlación entre la incertidumbre predicha y el error real. Mientras que las métricas de incertidumbre simples (AvgUcty) mostraron una correlación moderada (Spearman $\rho \approx 0.3$), las probabilidades de error predichas por RankNN lograron altas correlaciones ($\rho$ oscilando entre 0.58 y 0.79). Esto permitió una clasificación efectiva de los modos generados, reduciendo significativamente el error de escena Top-1 en comparación con la selección aleatoria o basada en varianza.

Significado
El artículo afirma que este trabajo establece un nuevo referente para la finalización y predicción de trayectorias al abordar la falta crítica de cuantificación de incertidumbre en entornos multiagente. Al proporcionar incertidumbre heterocedástica a nivel de estado y un mecanismo para clasificar los modos generados por probabilidad de error, el enfoque mejora la fiabilidad de las trayectorias generadas en entornos interactivos complejos como los deportes. Los autores enfatizan que, aunque U2Diffine ofrece una estimación de verosimilitud superior mediante una propagación analítica rigurosa, U2Diff proporciona una alternativa práctica y de alta velocidad para aplicaciones donde la latencia de inferencia es crítica. La integración de RankNN cierra aún más la brecha entre la diversidad generativa y la utilidad práctica al permitir a los usuarios seleccionar las predicciones más fiables de un conjunto de modos generados.