Can Attribution Predict Risk? From Multi-View Attribution to Planning Risk Signals in End-to-End Autonomous Driving

Riepilogo Tecnico: L'Attribuzione Predice il Rischio nella Guida Autonoma End-to-End

Enunciato del Problema
I modelli di guida autonoma end-to-end mappano direttamente gli input grezzi dei sensori multi-vista sulle traiettorie di pianificazione, offrendo un'integrazione di sistema migliorata ma introducendo processi decisionali opachi. Sebbene i metodi esistenti di interpretabilità generino spiegazioni testuali o addestrino modelli di monitoraggio ausiliari, spesso non riescono a rivelare le prove visive specifiche alla base della generazione della traiettoria o rimangono disaccoppiati dal processo di pianificazione. Esiste un divario critico nel determinare se le mappe di attribuzione, tipicamente utilizzate per la spiegazione post-hoc, possano fungere da segnali predittivi per il rischio di pianificazione. Nello specifico, non è chiaro se la distribuzione della dipendenza di un pianificatore dalle prove visive attraverso sei viste della telecamera sia correlata agli errori di traiettoria o ai rischi di collisione.

Metodologia
Gli autori propongono un framework di attribuzione gerarchico progettato specificamente per pianificatori end-to-end multi-vista. La metodologia consta di tre componenti principali:

1. Attribuzione Gerarchica da Grossolano a Fine:

   • Input e Partizionamento: Il sistema prende immagini sincronizzate da sei telecamere e partiziona ogni vista in sottoregioni utilizzando la segmentazione in superpixel SLICO.
   • Funzione Obiettivo: A differenza dell'attribuzione basata sulla classificazione che massimizza la confidenza della classe, questo framework utilizza la coerenza della traiettoria L2 come obiettivo. Definisce una funzione di insieme $F(S)$ basata sulla sufficienza (mantenere le regioni $S$ mantiene la traiettoria originale) e sulla necessità (rimuovere le regioni $S$ causa una deviazione significativa).
   • Strategia di Ricerca: Per affrontare il costo computazionale della valutazione di sottoinsiemi in uno spazio a sei viste, viene impiegata una ricerca greedy da grossolano a fine.
     • Fase Grossolana: Le sottoregioni adiacenti vengono fuse in gruppi. L'algoritmo classifica globalmente questi gruppi per identificare cluster ad alto contributo.
     • Fase di Affinamento: All'interno dei gruppi meglio classificati, l'algoritmo esegue una ricerca più fine sulle singole sottoregioni, utilizzando i gruppi precedenti come prefisso condizionale. Ciò produce un tensore di salienza per pixel fedele $T$.

2. Derivazione dei Segnali di Rischio:
   Trattando il tensore di salienza come una distribuzione di probabilità sullo spazio congiunto dei pixel delle sei telecamere, gli autori estraggono tre statistiche complementari per quantificare la "sovra-dipendenza", ipotizzando che una pianificazione robusta dovrebbe evitare di concentrare la dipendenza su prove limitate:

   • Entropia di Attribuzione ($H$): Misura la concentrazione globale dell'attribuzione su tutto lo spazio delle sei viste. Una bassa entropia indica una dipendenza da un piccolo insieme di posizioni visive.
   • Varianza Spaziale Intracamera ($\sigma^2_{sp}$): Caratterizza la diffusione spaziale dell'attribuzione all'interno delle singole viste della telecamera. Una bassa varianza indica una dipendenza altamente localizzata all'interno di una vista.
   • Coefficiente di Gini Inter-camera ($Gini_{cam}$): Quantifica lo squilibrio della massa di attribuzione tra le sei telecamere. Valori elevati indicano una dipendenza sproporzionata da viste specifiche.

3. Framework di Previsione del Rischio:
   Queste statistiche sono utilizzate come caratteristiche per prevedere due proxy del rischio di pianificazione:

   • Errore di Traiettoria: Misurato dall'Errore Medio di Spostamento (ADE).
   • Rischio di Collisione: Un indicatore binario che stabilisce se la traiettoria prevista interseca un ostacolo.
     Gli autori adattano una regressione ridge per l'ADE e una regressione logistica per il rilevamento delle collisioni, valutando le prestazioni tramite correlazione di Spearman e AUROC.

Contributi Chiave

• Attribuzione Predittiva: Il documento investiga e convalida che l'attribuzione possa estendersi oltre la spiegazione post-hoc per fungere da segnale predittivo per il rischio di pianificazione nella guida autonoma end-to-end.
• Algoritmo di Attribuzione Multi-vista: Un metodo di attribuzione da grossolano a fine innovativo che tratta sei viste della telecamera come uno spazio di ricerca unificato, utilizzando la coerenza della traiettoria L2 invece della confidenza di classificazione.
• Statistiche di Rischio: La definizione di tre statistiche (Entropia, Varianza Spaziale, Gini) che quantificano rispettivamente la sovra-dipendenza globale, intravista e intervista.
• Convalida Empirica: Esperimenti completi sul dataset nuScenes utilizzando tre pianificatori distinti (BridgeAD, UniAD, GenAD) che dimostrano la correlazione tra pattern di attribuzione e rischio.

Risultati Sperimentali
Gli esperimenti sono stati condotti sul set di validazione nuScenes con BridgeAD, UniAD e GenAD:

• Correlazione con il Rischio: Le statistiche di attribuzione mostrano una correlazione significativa con il rischio di pianificazione. Per la previsione delle collisioni, il modello congiunto ha raggiunto un AUROC di 0,77 ± 0,04 tra i tre pianificatori. Per l'errore di traiettoria, la correlazione di Spearman ha raggiunto 0,30 ± 0,07.
• Generalizzazione: Il segnale di rischio si generalizza a scene non incluse nel training (split 80/20) con degradazione trascurabile (AUROC 0,77 ± 0,09), indicando che il segnale è legato alla struttura dell'attribuzione piuttosto che a specifici layout di oggetti nella scena.
• Robustezza: Sostituire l'attribuzione gerarchica proposta con una baseline di campionamento casuale (RISE) ha prodotto segnali più deboli ma coerenti (AUROC 0,67 ± 0,11), suggerendo che le statistiche di rischio non sono artefatti del particolare algoritmo di attribuzione.
• Variabili di Controllo: L'associazione tra attribuzione e rischio persiste anche controllando per la configurazione degli oggetti della scena (ad esempio, numero di oggetti, diffusione spaziale), confermando che il segnale riflette la dipendenza visiva del pianificatore e non la mera complessità della scena.
• Efficienza: La ricerca gerarchica è significativamente più veloce della ricerca greedy esatta (EAGLE) mantenendo un'alta fedeltà (più vicina a EAGLE che a RISE).

Significato e Affermazioni
Il documento afferma che i pattern di attribuzione forniscono segnali di avvertimento utili per il rischio a livello decisionale nei pianificatori di guida end-to-end. Trattando l'attribuzione come un oggetto di misurazione e non solo come uno strumento di visualizzazione, il framework abilita un'audit scalabile pre-deploy. Consente agli sviluppatori di identificare le scene in cui la dipendenza di un pianificatore dalle prove visive è concentrata, spazialmente diffusa o distribuita in modo disuguale in modi che co-occorrono con un rischio elevato.

Gli autori mantengono una posizione modesta, sottolineando che queste statistiche sono segnali diagnostici e non certificazioni di sicurezza. Osservano che, sebbene i segnali siano correlati al rischio a livello di popolazione, non garantiscono la sicurezza per singolo campione. Il framework è presentato come uno strumento complementare alle valutazioni di sicurezza esistenti basate sull'output (come i controlli dell'errore di traiettoria) e alla simulazione in ciclo chiuso, aiutando a localizzare scenari inclini al guasto in modo più efficiente rispetto alla sola ispezione visiva. La principale limitazione riconosciuta è il costo computazionale dell'attribuzione ad alta fedeltà, che attualmente preclude il monitoraggio online in tempo reale, sebbene i risultati suggeriscano il potenziale per futuri metodi di attribuzione in tempo reale ad alta fedeltà.