Technische Zusammenfassung: DriveSafer

Problemstellung

Während End-to-End (E2E)-Modelle für autonomes Fahren auf komplexen Benchmarks zunehmend Fähigkeiten unter Beweis stellen, neigen sie in sicherheitskritischen Szenarien immer noch zu einer signifikanten Anzahl katastrophaler Ausfälle. Die Autoren beobachten, dass viele dieser Ausfälle auf Verstöße gegen physikalische Zwangsbedingungen und Sicherheitsanforderungen zurückzuführen sind, was zu unsicheren Verhaltensweisen wie Kollisionen, Ausbrechen aus erlaubten Bereichen oder Abweichen von der intendierten Fahrtrichtung führt.

Aktuelle Evaluierungsmetriken, wie der L2-Abstandsfehler von Ground-Truth-Trajektorien, verschleiern diese kritischen Ausfälle oft. Ein Modell kann zwar State-of-the-Art-Leistung bei Trajektorienfehlermetriken erzielen, zeigt dennoch gefährliche „blinde" Verhaltensweisen. Die Arbeit argumentiert, dass durchschnittliche Verbesserungen der Planungsqualität unzureichend sind; die primäre Herausforderung liegt im „langen Schwanz" katastrophaler Ausfälle (definiert als Predictive Driver Model Score, PDMS, von 0). Diese Ausfälle umfassen:

1. Kollisionen mit sich bewegenden Objekten (Fahrzeuge oder Fußgänger).
2. Ausbrechen aus dem erlaubten befahrbaren Bereich (z. B. auf Gehwege).
3. Signifikante Abweichungen von der intendierten Fahrtrichtung.

Methodik

Die Autoren schlagen DriveSafer vor, ein fehlerbewusstes Sicherheitsframework, das generative E2E-Planer explizit auf sicheres Verhalten ausrichtet. Das Framework operiert auf einem Basismodell, DiffusionDrive, und führt die Sicherheitsdurchsetzung durch zwei synergetische Phasen ein:

1. Sicherheitsbewusstes Training

DriveSafer modifiziert die Trainingszielsetzung, indem es spezialisierte, physikinformierte und sicherheitsbewusste Verlustfunktionen neben dem Basisverlust ($L_{base}$) integriert. Der Gesamtverlust ist definiert als:
$$L_{total} = L_{base} + \lambda_{DAC}L_{DAC} + \lambda_{Col}L_{Col} + \lambda_{Comf}L_{Comf}$$

• Einhaltung des befahrbaren Bereichs ($L_{DAC}$): Bestraft vorhergesagte Trajektorien, die die aus der zugrundeliegenden Karte abgeleitete Maske des befahrbaren Bereichs verlassen.
• Kollisionsvermeidung ($L_{Col}$): Bestraft Trajektorien, die innerhalb eines bestimmten Distanzschwellenwerts ($d_{col}$) zu umgebenden Agenten kommen.
• Komfort ($L_{Comf}$): Reduziert plötzliche Bewegungsänderungen (Ruck), um den Fahrkomfort zu gewährleisten.

Um die Unfähigkeit des Basismodells zu adressieren, zukünftige Positionen anderer Agenten vorherzusagen (was die Kollisionswahrnehmung während der Inferenz begrenzt), führen die Autoren eine leichtgewichtige Adapter-Schicht ein. Diese Schicht sagt die Bewegung anderer Verkehrsteilnehmer für zukünftige Zeitschritte voraus und ermöglicht so eine gemeinsame Vorhersage und Planung.

2. Sicherheitsführung zur Inferenzzeit

In Anbetracht der stochastischen Natur von Diffusionsmodellen und potenzieller Sensorrauschen setzt DriveSafer während der Inferenz eine Führungsstrategie ein, um nicht machbare Trajektorien abzulehnen:

• Generierung alternativer Hypothesen: Das System generiert alternative Trajektorien basierend auf dem am höchsten vorhergesagten Modus des Diffusionsmodells. Diese Alternativen umfassen:
  • Variationen in Fahrtrichtung und Geschwindigkeit (5% Variation).
  • Laterale Trajektorienverschiebungen im Submeter-Bereich.
  • Nutzung des zweit- und dritthöchsten bewerteten Modus des Diffusionsmodells.
• Sicherheitsbewertung und Auswahl: Unter Verwendung vorhergesagter Agentenpositionen und der zugrundeliegenden Karte werden diese alternativen Trajektorien mittels Sicherheitsmetriken bewertet. Die sicherste Trajektorie wird als endgültige Ausgabe ausgewählt und lenkt das Fahrzeug effektiv von unsicheren Verhaltensweisen weg.

Hauptbeiträge

Die Arbeit skizziert vier primäre Beiträge:

1. DriveSafer-Framework: Ein fehlerzentriertes Sicherheitsdurchsetzungsframework für E2E-Planung, das katastrophale Ausfälle durch synergetische Sicherheitsdurchsetzung während des Trainings und der Inferenz adressiert.
2. Sicherheitsbewusste Trainingsstrategie: Die Einführung spezialisierter Verluste (befahrbarer Bereich, Kollision, Komfort) und eines integrierten, leichtgewichtigen Vorhersagemoduls für gemeinsame Vorhersage und Planung.
3. Führung zur Inferenzzeit: Eine Methode, die alternative Trajektorien generiert und bewertet, um den Planer auf sicherheitskonforme Ausgaben zu lenken.
4. Leistungsverbesserung: Eine nachgewiesene Reduktion katastrophaler Ausfälle auf dem NAVSIM-Benchmark im Vergleich zu State-of-the-Art-Baselines.

Experimentelle Ergebnisse

Das Framework wurde auf dem NAVSIM-Benchmark, speziell dem navtest-Split, evaluiert, der dichten urbanen Verkehr und komplexe Szenarien aufweist.

• Reduktion katastrophaler Ausfälle: DriveSafer reduzierte die Anzahl katastrophaler Ausfälle (PDMS = 0) um 48% im Vergleich zur DiffusionDrive-Baseline (Reduktion der Fälle von 653 auf 340).
• Einhaltung des befahrbaren Bereichs: Es wurde eine Reduktion der Ausfälle bezüglich der Einhaltung des befahrbaren Bereichs um >65% verzeichnet (von 448 Fällen auf 154).
• Gesamter PDMS-Score: Das Modell erreichte einen PDMS-Score von 90,3, eine Verbesserung von 2,2 Punkten gegenüber der DiffusionDrive-Baseline (88,1).
• Submetriken: Bemerkenswerte Verbesserungen wurden bei den Submetriken Einhaltung des befahrbaren Bereichs (DAC) und Eigenfortschritt (EP) beobachtet.
• Qualitative Analyse: Visuelle Beispiele zeigen, wie DriveSafer Szenarien korrigiert, in denen das Basismodell außerorts fuhr, die intendierte Richtung verletzte oder mit Fußgängern und entgegenkommenden Fahrzeugen kollidierte.

Bedeutung und Behauptungen

Die Arbeit vertritt die These, dass die Praxistauglichkeit des autonomen Fahrens derzeit durch eine signifikante Anzahl katastrophaler Ausfälle begrenzt ist, unabhängig von durchschnittlichen Leistungsmetriken. Die Bedeutung von DriveSafer liegt in seiner fehlerzentrierten Sichtweise, die die Minderung lebensbedrohlicher Szenarien über marginale Verbesserungen des durchschnittlichen Trajektorienfehlers stellt.

Die Autoren behaupten, dass explizite Sicherheitsführung in E2E-Systemen auf die direkte Reduktion von Fällen katastrophaler Ausfälle ausgerichtet sein sollte. Durch die Kombination von Trainingszeit-Zwangsbedingungen mit Inferenzzeit-Führung bietet DriveSafer einen Weg zu einem sichereren Einsatz in der realen Welt. Die Autoren geben an, dass ihr zukünftiges Ziel darin besteht, DriveSafer für den Einsatz in realen autonomen Fahrzeugen (AVs) zu erweitern, um seine Auswirkungen unter realen Bedingungen zu bewerten, mit dem ultimativen Ziel, katastrophale Ausfälle auf Null zu reduzieren.