Technische Zusammenfassung: ScenePilot

Problemstellung

Sicherheitskritische Szenarien sind für die Bewertung von Systemen des autonomen Fahrens (AV) unerlässlich, treten jedoch in natürlichen Fahrprotokollen extrem selten auf, was simulationsbasierte Stresstests erforderlich macht. Bestehende Methoden zur Szenariengenerierung behandeln umgebende Akteure typischerweise als Gegner, die darauf trainiert sind, Kollisionen herbeizuführen. Diese Ansätze leiden jedoch unter zwei Hauptbeschränkungen:

1. Physikalische Ungültigkeit: Methoden, die physikalische Grenzen zwischen Fahrzeug und Straße nicht explizit modellieren, erzeugen oft „visuell extreme", aber physikalisch unlösbare Unfälle (z. B. die eine unendliche Verzögerung erfordern). Diese Fehler testen die numerische Robustheit, anstatt echte Mängel im Autonomie-Stack aufzudecken.
2. Übermäßige Abhängigkeit von einzelnen Einschränkungen:
   • Physik-beschränkte Methoden beschränken Akteure auf physikalisch realisierbare Verhaltensweisen, kollabieren jedoch oft zu extremen Manövern, die physikalische Grenzen ausreizen, und übersehen dabei den breiteren Bereich von Interaktionen, die physikalisch lösbar sind, aber dennoch AV-Ausfälle verursachen.
   • Policy-beschränkte Methoden lenken die Generierung hin zur Fähigkeitsgrenze eines spezifischen Reglers. Obwohl sie für die Diagnose dieses spezifischen Stacks handlungsleitend sind, verankern sie die Generierung an einer controllerabhängigen Grenze und versagen darin aufzuzeigen, wie nah das AV an den fundamentalen physikalischen Grenzen der Umgebung operiert.

Die Arbeit argumentiert, dass der aussagekräftigste Bereich das „Grenzbereichsband" (boundary band) ist: Szenarien, die im Prinzip physikalisch lösbar sind (zulässige Dynamiken existieren, um eine Kollision zu vermeiden), aber dennoch aufgrund spezifischer Einschränkungen des eingesetzten Autonomie-Stacks zu einem Ausfall führen.

Methodik: ScenePilot

ScenePilot ist ein auf Machbarkeit ausgerichteter, grenzgetriebener Rahmenwerk, das darauf abzielt, dieses Grenzbereichsband zu adressieren. Es formuliert die Szenariengenerierung als eingeschränktes multi-objektives Markov-Entscheidungsproblem (MDP) unter Verwendung von Reinforcement Learning (RL).

1. Dual-Signal-Formulierung

Der Rahmenwerk trennt physikalische Machbarkeit von der AV-Policy-Fähigkeit mittels zweier pro-Schritt-Signale:

• Physikalischer Machbarkeits-Score ($\sigma$): Abgeleitet aus einer physikalischen Grenz-Variante des Responsibility-Sensitive Safety (RSS)-Modells. Im Gegensatz zum Standard-RSS, das konservative Reaktionszeiten enthält, berechnet diese Variante die theoretische Bremsgrenzdistanz basierend auf maximaler physikalisch machbarer Verzögerung.
  • $\sigma \geq 0$: Der Frame ist physikalisch machbar (eine Kollision ist durch zulässiges Bremsen/Lenken vermeidbar).
  • $\sigma < 0$: Der Frame ist physikalisch unmöglich (Kollision ist unvermeidbar).
  • Der Score aggregiert longitudinale und laterale Margen, unter Berücksichtigung der Fahrzeuggeometrie und der Zeit bis zur Kollision (TTC), um zu bestimmen, ob orthogonale Manöver eine Kollision verhindern können.
• AV-Risiko-Vorhersager ($\Phi$): Ein online-gelerntes, leichtgewichtiges Kritiker-Netzwerk, das das momentane Sicherheitsrisiko des Ego-Fahrzeugs schätzt. Es wird durch potentialbasierte Belohnungsformung trainiert, um ein dichtes, differenzierbares Signal der Kollisionswahrscheinlichkeit zu liefern, unabhängig von der Policy eines spezifischen Reglers.

2. Eingeschränkte multi-objektive Optimierung

Das Ziel ist die Maximierung des AV-Risikos ($J_\phi$) bei gleichzeitiger Aufrechterhaltung der physikalischen Machbarkeit ($J_\sigma \geq \epsilon$). Das Ziel wird wie folgt formuliert:
$$\max_{\pi} J_\phi(\pi) \quad \text{s.t.} \quad J_\sigma(\pi) \geq \epsilon$$
wobei $\epsilon$ eine Steuergröße ist, die die Machbarkeitsschwelle durchläuft.

3. Schlüsselmechanismen

• Schrittweise Machbarkeitsbewusste Abschirmung: Um zu verhindern, dass die Policy in physikalisch unmögliche Bereiche driftet oder Grenznähe-Verletzungen ignoriert, führen die Autoren eine Abschirmmaske ein. Wenn eine Machbarkeitsverletzung vorliegt oder unmittelbar bevorsteht ($h_t > 0$), priorisiert das Policy-Update den Machbarkeitsvorteil ($A_\sigma$); andernfalls wird auf Risiko optimiert ($A_\phi$). Dies stellt sicher, dass der Agent in Grenznähe bleibt, ohne in unmögliche Artefakte zu kollabieren.
• Machbarkeitsschwellen-Durchlauf: Das System verwendet einen gaußförmigen Zeitplan für $\epsilon$, der nahe am physikalischen Limit beginnt und die Marge schrittweise erhöht. Dies ermöglicht dem Agenten, ein Spektrum des Grenzbereichsbandes zu erkunden, anstatt auf eine einzelne schmale Menge extremer Manöver zu kollabieren.

Hauptbeiträge

1. Grenzbereichsband-Formulierung: Eine neuartige Formulierung, die physikalische Machbarkeit von der AV-Policy-Fähigkeit trennt und explizit den Bereich anvisiert, in dem Interaktionen physikalisch lösbar, aber policy-unzulässig sind.
2. Eingeschränkter adversarischer Generator: Ein multi-objektives RL-Rahmenwerk, das einen physik-abgeleiteten Score ($\sigma$) und einen online-gelernten Risikovorhersager ($\Phi$) koppelt und schrittweise Abschirmung sowie Schwellen-Durchläufe nutzt, um Proben im nahen, machbaren Grenzbereich zu konzentrieren.
3. Empirische Validierung: Nachweis, dass ScenePilot Szenarien mit höheren Kollisionsraten generiert, während die physikalische Gültigkeit erhalten bleibt, und dass adversarische Feinabstimmung auf diesen Szenarien die nachgelagerte Robustheit konsistent verbessert.

Experimentelle Ergebnisse

Experimente wurden auf dem SafeBench-Benchmark im CARLA-Simulator durchgeführt.

• Sicherheitskritikalität: Im Vergleich zu State-of-the-Art-Baselines (einschließlich Learning-to-Collide, AdvSim, ChatScene und SCENGE) erreichte ScenePilot die höchste mittlere Kollisionsrate (CR) von 0,893 und den niedrigsten Gesamtwert (OS) von 0,476 über acht Basisverkehrszenarien.
• Transferfähigkeit: Die generierten Szenarien blieben über heterogene AV-Stacks hinweg effektiv, einschließlich CARLA Autopilot, AIM-BEV, TransFuser, BehaviorAgent und verschiedenen Deep-RL-Reglern (SAC, PPO, TD3). ScenePilot erhöhte die durchschnittliche CR von 0,380 (Baseline KING) auf 0,490 im Szenario „Unprotected Left-turn".
• Physikalische Gültigkeit: Die Analyse zeigte, dass ScenePilot signifikant weniger physikalisch ungültige Frames im Vergleich zu ChatScene produzierte, was bestätigt, dass seine Ausfälle nicht von physikalisch unmöglichem Verhalten abhängen.
• Nachgelagerte Nützlichkeit: Adversarische Feinabstimmung einer Ego-Policy unter Verwendung von ScenePilot-generierten Szenarien reduzierte die nachgelagerte Kollisionsrate von 0,854 (vor-trainiert) auf 0,072 und übertraf dabei die Feinabstimmung mit Szenarien anderer Generatoren.
• Abdeckung: Die Methode deckte einen breiteren Teil des „physikalisch machbaren, aber AV-unmachbaren" Lückenbandes ab (gemessen durch den Gap Coverage Score) im Vergleich zu Baselines und vermied dabei den Kollaps in zu milde oder extreme Bereiche.

Bedeutung und Behauptungen

Die Arbeit behauptet, dass ScenePilot ein rigoroseres Bewertungswerkzeug für das autonome Fahren bietet, indem es Kompetenzlücken isoliert – Ausfälle, die aus Einschränkungen des aktuellen Autonomie-Stacks resultieren und nicht aus unvermeidbaren physikalischen Zwängen. Durch den Fokus auf das „Grenzbereichsband" generiert die Methode Szenarien, die:

• Aussagekräftig sind: Sie enthüllen echte algorithmische Schwächen statt numerischer Randfälle.
• Handlungsleitend sind: Sie liefern gezielte Trainingsdaten, die die Robustheit eingesetzter Systeme verbessern.
• Generalisierbar sind: Sie bleiben über diverse Reglerarchitekturen hinweg herausfordernd.

Die Autoren positionieren diese Arbeit als einen Schritt hin zu einer systematischen Sicherheitsgewährleistung, die über die einfache Maximierung von Ausfällen hinausgeht, um den nuancierten Raum zwischen physikalischer Möglichkeit und algorithmischer Fähigkeit zu erkunden.