Riepilogo Tecnico: DriveSafer

Enunciato del Problema

Sebbene i modelli di guida autonoma End-to-End (E2E) abbiano dimostrato capacità crescenti su benchmark complessi, rimangono soggetti a un numero significativo di fallimenti catastrofici in scenari critici per la sicurezza. Gli autori osservano che molti di questi fallimenti derivano da violazioni dei vincoli fisici e dei requisiti di sicurezza, portando a comportamenti insicuri come collisioni, uscita dalle aree percorribili consentite o deviazioni dalle direzioni previste.

Le attuali metriche di valutazione, come l'errore di distanza L2 rispetto alle traiettorie di verità fondamentale, spesso mascherano questi fallimenti critici. Un modello può ottenere prestazioni all'avanguardia sulle metriche di errore della traiettoria pur esibendo ancora comportamenti pericolosi e "ciechi". Il documento sostiene che i miglioramenti medi nella qualità della pianificazione sono insufficienti; la sfida principale è la "coda lunga" dei fallimenti catastrofici (definiti come un Punteggio del Modello di Guida Predittivo, o PDMS, di 0). Questi fallimenti includono:

1. Collisioni con oggetti in movimento (veicoli o pedoni).
2. Uscita dall'area percorribile consentita (ad esempio, sui marciapiedi).
3. Deviazioni significative dalla direzione di guida prevista.

Metodologia

Gli autori propongono DriveSafer, un framework di sicurezza consapevole dei fallimenti progettato per indirizzare esplicitamente i pianificatori generativi E2E verso comportamenti sicuri. Il framework opera su un modello di base, DiffusionDrive, e introduce l'applicazione della sicurezza attraverso due fasi sinergiche:

1. Addestramento Consapevole della Sicurezza

DriveSafer modifica la funzione obiettivo di addestramento incorporando funzioni di perdita specializzate, informate dalla fisica e consapevoli della sicurezza, insieme alla perdita di base ($L_{base}$). La perdita totale è definita come:
$$L_{total} = L_{base} + \lambda_{DAC}L_{DAC} + \lambda_{Col}L_{Col} + \lambda_{Comf}L_{Comf}$$

• Conformità all'Area Percorribile ($L_{DAC}$): Penalizza le traiettorie previste che escono dalla maschera dell'area percorribile derivata dalla mappa sottostante.
• Evitamento delle Collisioni ($L_{Col}$): Penalizza le traiettorie che si avvicinano entro una soglia di distanza specifica ($d_{col}$) agli agenti circostanti.
• Comfort ($L_{Comf}$): Riduce i cambiamenti improvvisi di movimento (jerk) per garantire il comfort dei passeggeri.

Per affrontare l'incapacità del modello di base di prevedere le future posizioni degli agenti (che limita la consapevolezza delle collisioni durante l'inferenza), gli autori introducono un strato adattatore leggero. Questo strato prevede il movimento di altri agenti stradali per i prossimi passi temporali, abilitando la previsione e la pianificazione congiunte.

2. Guida alla Sicurezza in Fase di Inferenza

Riconoscendo la natura stocastica dei modelli di diffusione e il possibile rumore dei sensori, DriveSafer impiega una strategia di guida durante l'inferenza per rifiutare le traiettorie non fattibili:

• Generazione di Ipotesi Alternative: Il sistema genera traiettorie alternative basate sulla modalità prevista principale dal modello di diffusione. Queste alternative includono:
  • Variazioni di assetto e velocità (variazione del 5%).
  • Spostamenti laterali della traiettoria inferiori al metro.
  • Utilizzo della seconda e terza modalità più votate dal modello di diffusione.
• Valutazione e Selezione della Sicurezza: Utilizzando le posizioni previste degli agenti e la mappa sottostante, queste traiettorie alternative vengono valutate mediante metriche di sicurezza. La traiettoria più sicura viene selezionata come output finale, spingendo efficacemente il veicolo lontano da comportamenti insicuri.

Contributi Chiave

Il documento delinea quattro contributi principali:

1. Framework DriveSafer: Un framework di applicazione della sicurezza centrato sui fallimenti per la pianificazione E2E che mira ai fallimenti catastrofici attraverso un'applicazione sinergica della sicurezza durante l'addestramento e l'inferenza.
2. Strategia di Addestramento Consapevole della Sicurezza: L'introduzione di funzioni di perdita specializzate (area percorribile, collisione, comfort) e di un modulo di previsione integrato e leggero per la previsione e la pianificazione congiunte.
3. Guida in Fase di Inferenza: Un metodo che genera e valuta traiettorie alternative per indirizzare il pianificatore verso output conformi alla sicurezza.
4. Miglioramento delle Prestazioni: Una riduzione dimostrata dei fallimenti catastrofici sul benchmark NAVSIM rispetto alle baseline all'avanguardia.

Risultati Sperimentali

Il framework è stato valutato sul benchmark NAVSIM, specificamente sulla divisione navtest, che presenta traffico urbano denso e scenari complessi.

• Riduzione dei Fallimenti Catastrofici: DriveSafer ha ridotto il numero di fallimenti catastrofici (PDMS = 0) del 48% rispetto alla baseline DiffusionDrive (riducendo i casi da 653 a 340).
• Conformità all'Area Percorribile: Si è registrata una riduzione >65% dei fallimenti di conformità all'area percorribile (da 448 casi a 154).
• Punteggio PDMS Complessivo: Il modello ha ottenuto un punteggio PDMS di 90.3, un miglioramento di 2.2 punti rispetto alla baseline DiffusionDrive (88.1).
• Sub-metriche: Sono state osservate migliorie notevoli nelle sub-metriche di Conformità all'Area Percorribile (DAC) e Progresso dell'Ego (EP).
• Analisi Qualitativa: Gli esempi visivi dimostrano DriveSafer correggere scenari in cui il modello di base usciva dalla strada, violava le direzioni previste o collideva con pedoni e veicoli in arrivo.

Significato e Affermazioni

Il documento sostiene che la praticità della guida autonoma E2E è attualmente limitata da un numero significativo di fallimenti catastrofici, indipendentemente dalle metriche di prestazione media. Il significato di DriveSafer risiede nella sua visione centrata sui fallimenti, che dà priorità alla mitigazione di scenari che mettono in pericolo la vita rispetto a miglioramenti marginali nell'errore medio della traiettoria.

Gli autori affermano che la guida esplicita alla sicurezza nei sistemi E2E dovrebbe essere orientata alla riduzione diretta dei casi di fallimento catastrofico. Combinando vincoli durante l'addestramento con una guida in fase di inferenza, DriveSafer offre un percorso verso un dispiegamento più sicuro nel mondo reale. Gli autori dichiarano che il loro obiettivo futuro è estendere DriveSafer per il dispiegamento nel mondo reale su veicoli autonomi (AV) per valutarne l'impatto in condizioni reali, con l'obiettivo ultimo di ridurre i fallimenti catastrofici a zero.