Can Attribution Predict Risk? From Multi-View Attribution to Planning Risk Signals in End-to-End Autonomous Driving

Technische Samenvatting: Attributie Voorspelt Risico in End-to-End Autonoom Rijden

Probleemstelling
End-to-end modellen voor autonoom rijden mappingen ruwe multi-view sensorinvoer direct naar planningsbanen, wat een betere systeemintegratie biedt maar ook ondoorzichtige besluitvormingsprocessen introduceert. Hoewel bestaande methoden voor interpretabiliteit tekstuele verklaringen genereren of aanvullende bewakingsmodellen trainen, slagen ze er vaak niet in om het specifieke visuele bewijs onderliggend aan de baanproductie bloot te leggen, of ze blijven losgekoppeld van het planningsproces. Er bestaat een kritieke kloof in het bepalen of attributiemaps – doorgaans gebruikt voor post-hoc verklaring – kunnen dienen als voorspellende signalen voor planningsrisico. Specifiek is het onduidelijk of de verdeling van de afhankelijkheid van een planner van visueel bewijs over zes cameraweergaven correleert met baanfouten of botsingsrisico's.

Methodologie
De auteurs stellen een hiërarchisch attributiekader voor dat specifiek is ontworpen voor multi-view end-to-end planners. De methodologie bestaat uit drie hoofdcomponenten:

1. Hiërarchische Grof-naar-Fijne Attributie:

   • Invoer & Partitionering: Het systeem neemt gesynchroniseerde zes-view cameraafbeeldingen en partitioneert elke weergave in subregio's met behulp van SLICO superpixel-segmentatie.
   • Doelfunctie: In tegenstelling tot classificatie-gebaseerde attributie die de class-convictie maximaliseert, gebruikt dit kader L2-baanconsistentie als doel. Het definieert een setfunctie $F(S)$ gebaseerd op toereikendheid (het behouden van regio's $S$ behoudt de originele baan) en noodzaak (het verwijderen van regio's $S$ veroorzaakt een significante afwijking).
   • Zoekstrategie: Om de rekenkosten van het evalueren van subsets over een zes-view ruimte aan te pakken, wordt een grof-naar-fijne greedy-search toegepast.
     • Grof Stadium: Aanliggende subregio's worden samengevoegd tot groepen. Het algoritme rangschikt deze groepen globaal om clusters met hoge bijdrage te identificeren.
     • Verfijning Stadium: Binnen de top-gerangschikte groepen voert het algoritme een fijnere zoektocht uit over individuele subregio's, waarbij de voorgaande groepen worden gebruikt als een conditioneel prefix. Dit levert een trouw per-pixel salientietensor $T$ op.

2. Afleiding van Risicosignalen:
   Door de salientietensor te behandelen als een kansverdeling over de gezamenlijke multi-camera pixelruimte, extraheren de auteurs drie complementaire statistieken om "over-afhankelijkheid" te kwantificeren, met de hypothese dat robuuste planning moet vermijden om afhankelijkheid te concentreren op beperkt bewijs:

   • Attributie-entropie ($H$): Meet de globale concentratie van attributie over de gehele zes-view ruimte. Lage entropie duidt op afhankelijkheid van een kleine set visuele locaties.
   • Ruimtelijke variantie binnen camera ($\sigma^2_{sp}$): Karakteriseert de ruimtelijke spreiding van attributie binnen individuele cameraweergaven. Lage variantie duidt op sterk gelokaliseerde afhankelijkheid binnen een weergave.
   • Cross-camera Gini-coëfficiënt ($Gini_{cam}$): Kwantificeert de onbalans van attributiemassa over de zes camera's. Hoge waarden duiden op disproportionele afhankelijkheid van specifieke weergaven.

3. Risicovoorspellend Kader:
   Deze statistieken worden gebruikt als kenmerken om twee planningsrisico-proxy's te voorspellen:

   • Baanfout: Gemeten door de Average Displacement Error (ADE).
   • Botsingsrisico: Een binaire indicator of de voorspelde baan een obstakel kruist.
     De auteurs passen ridge-regressie toe voor ADE en logistische regressie voor botsingsdetectie, en evalueren de prestaties via Spearman-correlatie en AUROC.

Belangrijkste Bijdragen

• Voorspellende Attributie: Het artikel onderzoekt en valideert dat attributie verder kan gaan dan post-hoc verklaring om te dienen als een voorspellend signaal voor planningsrisico in end-to-end autonoom rijden.
• Multi-view Attributie-algoritme: Een nieuw grof-naar-fijne attributiemethode die zes cameraweergaven behandelt als een verenigde zoekruimte, waarbij L2-baanconsistentie wordt gebruikt in plaats van classificatie-convictie.
• Risicostatistieken: De definitie van drie statistieken (Entropie, Ruimtelijke Variantie, Gini) die respectievelijk globale, binnen-weergave en cross-weergave over-afhankelijkheid kwantificeren.
• Empirische Validatie: Uitgebreide experimenten op de nuScenes-validatieset met drie verschillende planners (BridgeAD, UniAD, GenAD) die de correlatie tussen attributiemodellen en risico aantonen.

Experimentele Resultaten
Experimenten werden uitgevoerd op de nuScenes-validatieset met BridgeAD, UniAD en GenAD:

• Risicocorrelatie: De attributiestatistieken tonen een significante correlatie met planningsrisico. Voor botsingsvoorspelling bereikte het gezamenlijke model een AUROC van 0,77 ± 0,04 over de drie planners. Voor baanfout bereikte de Spearman-correlatie 0,30 ± 0,07.
• Generalisatie: Het risicosignaal generaliseert naar vastgehouden scènes (80/20-split) met verwaarloosbare degradatie (AUROC 0,77 ± 0,09), wat aangeeft dat het signaal verbonden is aan de attributiestructuur en niet aan specifieke scène-objectindelingen.
• Robuustheid: Het vervangen van de voorgestelde hiërarchische attributie door een random-sampling-baseline (RISE) leverde zwakkere maar consistente signalen op (AUROC 0,67 ± 0,11), wat suggereert dat de risicostatistieken geen artefacten zijn van het specifieke attributie-algoritme.
• Controlevariabelen: De associatie tussen attributie en risico blijft bestaan, zelfs wanneer gecontroleerd wordt voor scène-objectconfiguratie (bijv. objectaantal, ruimtelijke spreiding), wat bevestigt dat het signaal de visuele afhankelijkheid van de planner weerspiegelt en niet louter de scènecomplexiteit.
• Efficiëntie: De hiërarchische zoektocht is aanzienlijk sneller dan exacte greedy-search (EAGLE) terwijl het hoge trouw behoudt (nader aan EAGLE dan RISE).

Betekenis en Claims
Het artikel claimt dat attributiemodellen nuttige waarschuwingssignalen bieden voor beslissingsniveau-risico in end-to-end rijplanners. Door attributie te behandelen als een meetobject in plaats van slechts een visualisatietool, maakt het kader schaalbaar auditing voorafgaand aan implementatie mogelijk. Het stelt ontwikkelaars in staat scènes te identificeren waar de afhankelijkheid van een planner van visueel bewijs geconcentreerd, ruimtelijk diffuus of ongelijk verdeeld is op manieren die samen voorkomen met verhoogd risico.

De auteurs houden een bescheiden standpunt, met de nadruk dat deze statistieken diagnostische signalen zijn en geen veiligheidscertificering. Zij merken op dat hoewel de signalen op populatieniveau correleren met risico, ze geen veiligheid per steekproef garanderen. Het kader wordt gepresenteerd als een aanvullend hulpmiddel voor bestaande output-zijde veiligheidsbeoordelingen (zoals controle van baanfouten) en gesloten-lus-simulatie, waarmee het helpen om foutgevoelige scenario's efficiënter te lokaliseren dan visuele inspectie alleen. De primaire beperking die wordt erkend, is de rekenkosten van hoge-trouw attributie, wat momenteel real-time online monitoring uitsluit, hoewel de resultaten de potentie aangeven voor toekomstige real-time, hoge-trouw attributiemethoden.