Technische Samenvatting: CADET – Fysica-gegronde Causale Audit en Training-vrije Deconfounding van End-to-End Driving Planners

1. Probleemstelling

End-to-end (E2E) autonome rijplanners, getraind via imitation learning op grote gelogde datasets, zijn gevoelig voor causale verwarring (causal confusion). Deze modellen maken vaak gebruik van spuriële correlaties—statistische sluiproutes waarbij scèneulementen (bijv. specifieke gevels van gebouwen, objecten langs de weg) samen voorkomen met expertacties in de trainingsdata, maar deze acties niet causaal bepalen. Hoewel dergelijke modellen een lage open-loop verplaatsingsfout (L2) en botsingsratio kunnen bereiken, brengt hun afhankelijkheid van niet-causale aanwijzingen de betrouwbaarheid in long-tail of distributieverschuivingsscenario's in gevaar.

Huidige evaluatiemetrieken (L2-verplaatsing, botsingsratio) worden gedomineerd door de ego-status en slagen er niet in te detecteren of een planner vertrouwt op spuriële aanwijzingen. Bovendien vereisen bestaande oplossingen, zoals causale-interventie training (bijv. CausalVAD), het hertrainen van grote modellen en kunnen ze planners die al zijn uitgerold niet auditeren of repareren. Er is een kritiek gat in training-vrije tools die in staat zijn om de spuriële afhankelijkheid in vooraf getrainde E2E-planners te auditeren, te benchmarken en te repareren zonder parameterupdates.

2. Methodologie: Het CADET-framework

CADET (Causal Auditing and Deconfounding at Test-time) is een training-vrij framework dat is ontworpen om spuriële afhankelijkheid in bevroren E2E-planners te auditeren, te benchmarken en te repareren. Het werkt volledig via forward passes op een enkele GPU en bestaat uit drie kerncomponenten:

A. Fysica-gegronde Causale Afhankelijkheidsscore (PCR)

Om ware causale agenten te onderscheiden van spuriële correlaten, voegt CADET drie signalen samen tot een score per query ($PCR_i$):

1. Model Invloed ($\tilde{I}_i$): Meet de verandering in het geplande traject wanneer een specifieke agent-query wordt geablateerd (verwijderd). Hoge invloed geeft aan dat het model op de agent vertrouwt.
2. Fysica-Geometrische Prior ($\rho_i$): Een externe, distributie-onafhankelijke ankerwaarde afgeleid van de outputs van de perceptiemodule (3D-box, snelheid, klasse, betrouwbaarheid). Het berekent de fysieke plausibiliteit van een agent die de beslissing beïnvloedt op basis van:
   • Time-to-Collision (TTC).
   • Relevantie voor de rijbaan (padoverlap).
   • Dynamische versus statische staat.
   • Detectiebetrouwbaarheid.
   • Functie: Fungeert als een "harde poort". Als een agent fysiek plausibel is ($\rho_i$ is hoog), wordt deze beschermd tegen het worden gemarkeerd als spuriëel, ongeacht de modelinvloed.
3. Cross-omgeving Stabiliteit ($\sigma_i$): Meet de variantie van de modelinvloed over verschillende omgevingen (bijv. weer, tijdstip). Hoge variantie markeert lokaal spuriële afhankelijkheid die de fysica-prior mogelijk mist.

De uiteindelijke score wordt berekend als $PCR_i = \tilde{I}_i \cdot (1 - \rho_i) \cdot (1 + \lambda \sigma_i)$, onderworpen aan een harde poort die voorkomt dat fysiek plausibele agenten worden gemarkeerd.

B. Counterfactual Robustness Benchmark

CADET introduceert een gestandaardiseerd protocol om de afhankelijkheid van spuriële versus causale factoren te kwantificeren met behulp van drie perturbatie-families en bijbehorende metrieken:

• Spuriële Perturbatie: Verwijderen van fysiek irrelevante agenten. Metriek: Causal Stability Index (CSI) (meet planstabiliteit; hoger is beter).
• Causale-Link Perturbatie: Modificeren van causale agenten (bijv. remmend voertuig voorop). Metriek: Causal Response Index (CRI) (meet de richting van de juiste reactie; hoger is beter).
• Distributie-Shift Perturbatie: Toepassen van stijlverschuivingen (bijv. dag naar nacht) terwijl de causale structuur behouden blijft. Metriek: Causal Consistency Score (CCS) (meet de consistentie van het plan; hoger is beter).

C. Test-time Causal Masking (TCM)

Tijdens de inferentie onderdrukt CADET gemarkeerde spuriële queries (die een hoge $PCR_i$ en lage $\rho_i$ hebben) en plant opnieuw met behulp van alleen de resterende causale agenten. Dit fungeert als een benaderde $do(\cdot)$ interventie, waardoor spuriële confounding tijdens de implementatie wordt verwijderd met minimale overhead en zonder training.

3. Belangrijkste Bijdragen

1. Fysica-gegronde Causale Audit (PCR): Een training-vrije, model-agnostische score die spuriële afhankelijkheid identificeert door perturbatie-gebaseerde invloed te fuseren met een fysica-geometrische prior. Het dient als een hard extern arbiter onafhankelijk van statistieken uit trainingsdata.
2. Counterfactual Robustness Benchmark: Een gestandaardiseerd protocol met drie perturbatie-families en metrieken (CSI, CRI, CCS) om de mate van spuriële afhankelijkheid in vooraf getrainde planners te kwantificeren.
3. Training-vrije Deconfounding (TCM): Een methode om gemarkeerde spuriële queries te onderdrukken tijdens de inferentie, wat de counterfactual robuustheid verbetert zonder hertraining of parameterupdates.
4. Reproduceerbaarheid: De gehele pipeline is enkel voor inferentie, draait op een enkele 16 GB GPU en wordt als open-source toolkit vrijgegeven.

4. Experimentele Resultaten

De auteurs evalueerden CADET in twee instellingen: een gecontroleerde synthetische benchmark (SpurGen) en een real-world audit van een vooraf getrainde SparseDrive planner op nuScenes.

• SpurGen (Synthetisch): In een benchmark waar de spuriële/causale status door constructie bekend is, faalden single-signal baselines:
  • Alleen invloed: Hoge recall maar lage precisie (0.35–0.39) omdat het geen onderscheid kan maken tussen causale agenten en spuriële sluiproutes met een hoge invloed.
  • Alleen fysica: Lage precisie (<0.20) omdat het alle fysiek implausibele objecten markeert, inclusief onschuldige afleiders die het model negeert.
  • Alleen invariantie: Lage precisie en recall door het falen van de "faithfulness assumption" (globale spuriële correlaties lijken invariant).
  • CADET (PCR): Behaalde 0.942 precisie en 0.886 recall (F1: 0.913), waarbij spuriële afhankelijkheden succesvol werden geïsoleerd door zowel een hoge invloed als fysieke implausibiliteit te vereisen.
• nuScenes (Real-world Audit):
  • De vooraf getrainde SparseDrive planner bleek overwegend causaal (9,5× hogere invloed voor causale agenten versus spuriële agenten).
  • Echter, in specifieke frames beïnvloedde de meest invloedrijke fysiek irrelevante agent het plan even sterk als een gemiddelde causale agent.
  • TCM Effect: Het toepassen van TCM verwijderde de spuriële afhankelijkheid, waardoor de Causal Stability Index (CSI) steeg van ~0.47 naar ~0.96.
  • L2 Blindheid: Cruciaal is dat, hoewel TCM de causale gedrag van de planner aanzienlijk veranderde, de open-loop L2-verplaatsingsfout vrijwel onveranderd bleef (1.90 $\to$ 1.98). Dit demonstreert empirisch dat standaard verplaatsingsmetrieken blind zijn voor causale robuustheid.

5. Betekenis en Claims

Het artikel beweert dat CADET een kritiek gat adresseert in de implementatie van E2E autonome systemen: het onvermogen om causale verwarring te auditeren en te repareren in bevroren, reeds uitgerolde modellen.

• Methodologische Verschuiving: De auteurs stellen dat open-loop L2-verplaatsing onvoldoende is voor de evaluatie van E2E-planners omdat het wordt gedomineerd door de ego-status en ongevoelig is voor de vraag of de planner redeneert over causale of spuriële aanwijzingen. Zij stellen voor dat causale-robuustheidsmetrieken (zoals CSI en per-agent invloed statistieken) de verplaatsingsfout moeten vergezellen.
• Praktisch Nut: In tegen tegenstelling tot eerdere causale methoden die hertraining vereisen, biedt CADET een onmiddellijk, training-vrij diagnostisch en reparatie mechanisme. Het stelt ontwikkelaars in staat om "verborgen" afhankelijkheid van spuriële kenmerken (bijv. een specifiek reclamebord of brievenbus) te identificeren die tot fouten in long-tail scenario's kunnen leiden.
• Beperkingen: De auteurs merken bescheiden op dat CADET afhankelijk is van de kwaliteit van de upstream perceptiemodule; als de detector faalt, is de fysica-prior aangetast. Daarnaast biedt het, hoewel het de betrouwbaarheid verbetert via een fysica-anker, geen wiskundige garantie voor het scheiden van ware oorzaken van globaal spuriële correlaten onder alle omstandigheden van faithfulness-falen.

Samenvattend biedt CADET een noodzakelijke tool voor de "audit en repair" fase van E2E driving, en toont het aan dat sterke planners nog steeds ernstige, gelokaliseerde causale verwarringen kunnen bevatten die standaard metrieken niet detecteren.