Can Attribution Predict Risk? From Multi-View Attribution to Planning Risk Signals in End-to-End Autonomous Driving

Resumen Técnico: La Atribución Predice el Riesgo en la Conducción Autónoma de Extremo a Extremo

Enunciado del Problema
Los modelos de conducción autónoma de extremo a extremo mapean entradas de sensores multivista crudas directamente a trayectorias de planificación, ofreciendo una mejor integración del sistema pero introduciendo procesos de toma de decisiones opacos. Si bien los métodos existentes de interpretabilidad generan explicaciones textuales o entrenan modelos de monitoreo auxiliares, a menudo fallan en revelar la evidencia visual específica que subyace a la generación de trayectorias o permanecen desacoplados del proceso de planificación. Existe una brecha crítica en determinar si los mapas de atribución, típicamente utilizados para explicación post-hoc, pueden servir como señales predictivas para el riesgo de planificación. Específicamente, no está claro si la distribución de la dependencia de un planificador sobre la evidencia visual a través de seis vistas de cámara se correlaciona con errores de trayectoria o riesgos de colisión.

Metodología
Los autores proponen un marco de atribución jerárquico diseñado específicamente para planificadores de extremo a extremo multivista. La metodología consta de tres componentes principales:

1. Atribución Jerárquica de Grueso a Fino:

   • Entrada y Particionamiento: El sistema toma imágenes de cámara sincronizadas de seis vistas y particiona cada vista en subregiones utilizando segmentación de superpíxeles SLICO.
   • Función Objetivo: A diferencia de la atribución basada en clasificación que maximiza la confianza de la clase, este marco utiliza la consistencia de trayectoria L2 como objetivo. Define una función de conjunto $F(S)$ basada en la suficiencia (mantener las regiones $S$ conserva la trayectoria original) y la necesidad (eliminar las regiones $S$ causa una desviación significativa).
   • Estrategia de Búsqueda: Para abordar el costo computacional de evaluar subconjuntos en un espacio de seis vistas, se emplea una búsqueda voraz de grueso a fino.
     • Etapa Gruesa: Las subregiones adyacentes se fusionan en grupos. El algoritmo clasifica globalmente estos grupos para identificar clústeres de alta contribución.
     • Etapa de Refinamiento: Dentro de los grupos mejor clasificados, el algoritmo realiza una búsqueda más fina sobre subregiones individuales, utilizando los grupos precedentes como un prefijo condicional. Esto produce un tensor de saliencia por píxel fiel $T$.

2. Derivación de Señales de Riesgo:
   Tratando el tensor de saliencia como una distribución de probabilidad sobre el espacio conjunto de píxeles multivista, los autores extraen tres estadísticas complementarias para cuantificar la "sobre-dependencia", hipotetizando que una planificación robusta debe evitar concentrar la dependencia en evidencia limitada:

   • Entropía de Atribución ($H$): Mide la concentración global de la atribución en todo el espacio de seis vistas. Una baja entropía indica dependencia de un pequeño conjunto de ubicaciones visuales.
   • Varianza Espacial Dentro de Cámara ($\sigma^2_{sp}$): Caracteriza la dispersión espacial de la atribución dentro de vistas de cámara individuales. Una baja varianza indica una dependencia altamente localizada dentro de una vista.
   • Coeficiente de Gini Transversal a Cámaras ($Gini_{cam}$): Cuantifica el desequilibrio de la masa de atribución a través de las seis cámaras. Valores altos indican una dependencia desproporcionada de vistas específicas.

3. Marco de Predicción de Riesgo:
   Estas estadísticas se utilizan como características para predecir dos proxies de riesgo de planificación:

   • Error de Trayectoria: Medido por el Error de Desplazamiento Promedio (ADE).
   • Riesgo de Colisión: Un indicador binario de si la trayectoria predicha interseca un obstáculo.
     Los autores ajustan regresión de cresta para el ADE y regresión logística para la detección de colisiones, evaluando el rendimiento mediante la correlación de Spearman y el AUROC.

Contribuciones Clave

• Atribución Predictiva: El artículo investiga y valida que la atribución puede extenderse más allá de la explicación post-hoc para servir como una señal predictiva del riesgo de planificación en la conducción autónoma de extremo a extremo.
• Algoritmo de Atribución Multivista: Un método novedoso de atribución de grueso a fino que trata las seis vistas de cámara como un espacio de búsqueda unificado, utilizando la consistencia de trayectoria L2 en lugar de la confianza de clasificación.
• Estadísticas de Riesgo: La definición de tres estadísticas (Entropía, Varianza Espacial, Gini) que cuantifican la sobre-dependencia global, dentro de la vista y transversal a las vistas, respectivamente.
• Validación Empírica: Experimentos exhaustivos en el conjunto de datos nuScenes utilizando tres planificadores distintos (BridgeAD, UniAD, GenAD) que demuestran la correlación entre los patrones de atribución y el riesgo.

Resultados Experimentales
Los experimentos se realizaron en el conjunto de validación de nuScenes con BridgeAD, UniAD y GenAD:

• Correlación de Riesgo: Las estadísticas de atribución muestran una correlación significativa con el riesgo de planificación. Para la predicción de colisiones, el modelo conjunto logró un AUROC de 0.77 ± 0.04 a través de los tres planificadores. Para el error de trayectoria, la correlación de Spearman alcanzó 0.30 ± 0.07.
• Generalización: La señal de riesgo se generaliza a escenas retenidas (división 80/20) con degradación insignificante (AUROC 0.77 ± 0.09), lo que indica que la señal está vinculada a la estructura de atribución y no a la disposición específica de objetos de la escena.
• Robustez: Reemplazar la atribución jerárquica propuesta con una línea base de muestreo aleatorio (RISE) produjo señales más débiles pero consistentes (AUROC 0.67 ± 0.11), lo que sugiere que las estadísticas de riesgo no son artefactos del algoritmo de atribución específico.
• Variables de Control: La asociación entre atribución y riesgo persiste incluso cuando se controla la configuración de objetos de la escena (por ejemplo, cantidad de objetos, dispersión espacial), confirmando que la señal refleja la dependencia visual del planificador y no simplemente la complejidad de la escena.
• Eficiencia: La búsqueda jerárquica es significativamente más rápida que la búsqueda voraz exacta (EAGLE) mientras mantiene una alta fidelidad (más cercana a EAGLE que a RISE).

Significado y Afirmaciones
El artículo afirma que los patrones de atribución proporcionan señales de advertencia útiles para el riesgo a nivel de decisión en planificadores de conducción de extremo a extremo. Al tratar la atribución como un objeto de medición en lugar de solo una herramienta de visualización, el marco permite auditorías escalables previas al despliegue. Permite a los desarrolladores identificar escenas donde la dependencia del planificador sobre la evidencia visual está concentrada, espacialmente difusa o distribuida de manera desigual de formas que coexisten con un riesgo elevado.

Los autores mantienen una postura modesta, enfatizando que estas estadísticas son señales diagnósticas y no certificaciones de seguridad. Señalan que, si bien las señales se correlacionan con el riesgo a nivel de población, no garantizan la seguridad por muestra. El marco se presenta como una herramienta complementaria a las evaluaciones de seguridad existentes del lado de la salida (como verificaciones de error de trayectoria) y la simulación de bucle cerrado, ayudando a localizar escenarios propensos a fallos de manera más eficiente que la inspección visual por sí sola. La principal limitación reconocida es el costo computacional de la atribución de alta fidelidad, que actualmente impide el monitoreo en línea en tiempo real, aunque los resultados sugieren el potencial para futuros métodos de atribución de alta fidelidad en tiempo real.