Is Your Trajectory Displacement Safe in Long-tail?

Resumen Técnico: ¿Es segura su trayectoria de desplazamiento en escenarios de cola larga (long-tail)?

Planteamiento del Problema
A pesar del crecimiento significativo en los conjuntos de datos de conducción autónoma, los escenarios de cola larga siguen siendo un cuello de botella crítico para la evaluación. Los procesos de evaluación existentes sufren tres limitaciones principales:

1. Desalineación con las Preferencias Humanas: Las métricas de bucle cerrado (p. ej., PDMS, RFS) suelen saturarse entre planificadores fuertes y no logran capturar matices a nivel de interacción, como ceder el paso de forma agresiva o aceleraciones inseguras que evitan colisiones simuladas pero violan las normas de seguridad del mundo real.
2. Falta de Verificabilidad y Explicabilidad: Los benchmarks actuales dependen de puntuaciones escalares agregadas o verificaciones de eventos basadas en reglas (p. ej., recuentos de colisiones) que son toscas, vulnerables al "reward hacking" y carecen de explicaciones diagnósticas para los fallos.
3. Potencial Discriminativo Insuficiente: Como se muestra en benchmarks existentes como WOD-E2E, las altas puntuaciones de retroalimentación de evaluadores (RFS) y el bajo error de desplazamiento promedio (ADE) no se correlacionan de manera fiable con la seguridad en escenarios de cola larga. Los planificadores de última generación pueden exhibir fallos sustanciales relacionados con la seguridad incluso cuando alcanzan puntuaciones agregadas de primer nivel.

El problema central es la ausencia de un benchmark que sea simultáneamente alineado con el humano, consciente de la seguridad, verificable y explicable para evaluar trayectorias de planificación en entornos complejos de cola larga.

Metodología: FluidTest
Los autores proponen FluidTest, un proceso de evaluación que replantea la evaluación de la planificación como una detección de amenazas adicionales. En lugar de calificar una trayectoria de forma aislada, FluidTest pregunta: Dada una trayectoria de referencia experta, ¿el desplazamiento del planificador introduce nuevos comportamientos de conducción inseguros?

El proceso consta de tres componentes principales:

1. Protocolo de Anotación Humana Pareada:

   • Los anotadores comparan la trayectoria del planificador contra una trayectoria de referencia experta dentro del mismo contexto visual.
   • Asignan una de tres etiquetas: Y (se introdujo una amenaza adicional), N (no hay amenaza adicional a pesar de la desviación geométrica), o No estoy seguro (abstención debido a la incertidumbre futura o evidencia insuficiente).
   • Este enfoque pareado está diseñado para ser más fiable para los anotadores que las escalas de calificación escalar.

2. Taxonomía de Amenazas Semánticas:

   • El sistema utiliza una taxonomía de 32 categorías de amenazas semánticas, derivadas del Manual del Conductor del DMV de California.
   • Las categorías incluyen fallos deterministas (p. ej., colisiones), riesgos de interacción (p. ej., fallo al ceder el paso), violaciones de la vía (p. ej., conducción fuera de la carretera) y problemas de calidad de la política (p. ej., bloquear el tráfico).
   • La métrica principal es la Tasa de No Introducción de Amenazas Adicionales (NATR), definida como $1 - r(A)$, donde $r(A)$ es la tasa de violaciones para un conjunto de amenazas $A$.

3. Sistema de Verificación de Tres Agentes:

   • Para garantizar la precisión y la auditabilidad, FluidTest emplea un bucle de verificación neuro-simbólico:
     • Fiscal (Prosecutor): Un Modelo de Lenguaje-Visión (VLM) propone clases de amenazas candidatas basadas en la comprensión semántica de la escena.
     • Detector: Verifica las propuestas utilizando grafos de decisión fundamentados en evidencia. Estos grafos imponen un razonamiento estructurado, requiriendo evidencia visual explícita (p. ej., geometría de la trayectoria, estados de semáforos, ocupación de carriles) antes de confirmar una amenaza.
     • Juez (Judge): Realiza comprobaciones de reflexión y consistencia. Si el bucle no puede resolver una ambigüedad, el caso se envía a revisores humanos para su adjudicación final.
   • Este diseño híbrido combina la flexibilidad de los LLM para la traducción semántica con el rigor de los módulos simbólicos para la validación.

Contribuciones Clave

1. Identificación de la Saturación de Métricas: El artículo demuestra que las métas saturadas como PDMS y RFS escalar no logran capturar amenazas de planificación complejas en escenarios de cola larga.
2. Propuesta de NATR: Los autores introducen la Tasa de No Introducción de Amenazas Adicionales (NATR) como una métrica de seguridad alineada con el humano que mide directamente la introducción de riesgos adicionales en relación con el comportamiento experto.
3. Pipeline FluidTest: Un protocolo de benchmarking integral y explicable que cuenta con una taxonomía de 32 amenazas, una WebUI pareada para la anotación y un sistema de verificación de múltiples agentes con bucles de reflexión.
4. Recursos Abiertos: Lanzamiento de una WebUI, código de etiquetado, código de entrenamiento, checkpoints para el modelo de detección de amenazas del Fiscal y un leaderboard (FluidTest Safety Arena) para el benchmarking de nuevos planificadores.

Resultados Experimentales
Los experimentos se realizaron en el conjunto de validación WOD-E2E (filtrado a 151 escenarios de alta calidad) utilizando tres planificadores: Poutine (basado en VLM), RAP (end-to-end clásico) y VMA (planificador interno de alto rendimiento).

• Consistencia Humana: Los anotadores investigadores lograron una alta tasa de superposición del 79.31% y un coeficiente $\kappa$ de Fleiss de 0.7145, lo que indica que el protocolo de etiquetado es robusto cuando los anotadores son entrenados en preferencias de seguridad específicas.
• Desalineación de Métricas:
  • Poutine logró el ADE de 5s más bajo (2.44) pero el NATR más bajo (0.35), lo que significa que el 65% de sus trayectorias introdujeron amenazas adicionales.
  • RAP tuvo el peor ADE de 5s (2.62) pero el mejor NATR (0.49).
  • Esto confirma que el error de desplazamiento y las puntuaciones de retroalimentación escalar están desalineados con las preferencias de seguridad humanas.
• Detección de Amenazas: FluidTest identificó amenazas adicionales en el 65% de las trayectorias de Poutine y en el 51% de las de RAP, revelando fallos de seguridad sustanciales ocultos por altas puntuaciones de RFS.
• Estabilidad de Casos Difíciles: A diferencia de PDMS y RFS, que seleccionan "casos difíciles" dependientes del planificador (baja superposición entre planificadores), NATR identifica fallos de cola larga estables. La superposición de casos de fallo entre Poutine y RAP bajo NATR fue del 73%, significativamente mayor que la superposición del 25% observada para RFS o el 56% para el ADE de 5s.

Significancia y Reivindicaciones
El artículo afirma que FluidTest proporciona un benchmark más estable, interpretable e independiente del planificador para la seguridad de la planificación en cola larga. Al cambiar el enfoque de la evaluación de "¿qué tan cerca está la trayectoria del experto?" a "¿introduce la trayectoria nuevos riesgos?", los autores argumentan que los planificadores de última generación actuales siguen siendo propensos a fallos de seguridad relevantes que las métricas agregadas oscurecen.

Los autores señalan modestamente las limitaciones: la escalabilidad del entrenamiento de diversos anotadores, la dependencia de la proyección de trayectoria fiable y la fundamentación visual, y el hecho de que la actual taxonomía de 32 amenazas aún no es exhaustiva. Sin embargo, sostienen que la NATR ofrece una visión de la seguridad semánticamente significativa y necesaria que las métricas existentes no pueden proporcionar.