Technische Samenvatting: EnDfuser – Ensemble Diffusion voor Onzekerheidsschatting in End-to-End Autonomie

Probleemstelling

End-to-end (E2E) systemen voor autonoom rijden (AD) maken snelle vooruitgang, met name in gesloten-lus simulatieomgevingen zoals CARLA. Er blijft echter een aanzienlijke beperking bestaan: veel E2E-planningsystemen negeren onzekerheid als onderdeel van het planningsproces of vertrouwen op gespecialiseerde representaties die gebrek aan generaliseerbaarheid hebben. In het domein van autonoom rijden is kwantificering van onzekerheid (UQ) cruciaal, omdat onbetrouwbare voorspellingen kunnen leiden tot catastrofale gevolgen. Bronnen van onzekerheid omvatten sensorruis, verschuivingen in verdeling en architecturale tekortkomingen. Hoewel eerdere methoden hebben geprobeerd dit aan te pakken met Bayesiaanse benaderingen, Monte Carlo dropout of ensembles, is er behoefte aan een methode die modellering van onzekerheid direct integreert in de module voor trajectplanning, zonder complexe architecturale wijzigingen of gespecialiseerde discrete classifiers te vereisen.

Methodologie

De auteurs stellen EnDfuser voor, een end-to-end riadsysteem dat een denoising diffusion probabilistic model (DDPM) gebruikt als trajectplanner. Het systeem is ontworpen om de posterior-verdeling van trajecten te modelleren, waardoor een natuurlijk mechanisme voor onzekerheidsschatting wordt geboden via ensemble diffusion.

Architectuur

EnDfuser bouwt voort op de perceptie-ruggengraat van TransFuser++ (TF++), die RGB-afbeeldingen en LiDAR-features in vogelperspectief (BEV) fuseert. Het vervangt echter de transformer+GRU-planningsmodule van TF++ door een diffusion transformer.

• Input Conditioning: Het diffusiemodel is geconditioneerd op verrijkte BEV-features, die de rijinstructie (doelpunt), huidige snelheid en de diffusiestap $k$ omvatten.
• Trajectrepresentatie: De output is een set van 8 waypoints met een onderlinge afstand van 250 ms, wat een planningshorizon van 2 seconden vertegenwoordigt.
• Ensemble-Generatie: In plaats van zich vast te leggen op één punt-schatting, genereert EnDfuser een verdeling van kandidaat-trajecten (specifiek 128 kandidaten in de experimenten) vanuit één perceptieframe. Dit wordt bereikt via parallelle batch-sampling op een GPU.
• Efficiëntie bij Inferentie: Het systeem maakt gebruik van een DDIM (Denoising Diffusion Implicit Models)-schema, wat hoogwaardige trajectgeneratie mogelijk maakt met slechts 2 denoising-stappen, en zo realtime prestaties garandeert (ongeveer 29 FPS).

Kwantificering van Onzekerheid

De kerninnovatie ligt in het benutten van het ensemble van gegenereerde trajecten om onzekerheid te schatten:

1. Transformatie naar Besturingscommando's: De set van 128 trajectkandidaten ($T_t$) wordt omgezet in een set besturingscommando's ($K_t$), specifiek gewenste snelheid en giekhoek, met behulp van een logica die is afgeleid van de PID-controller van TF++.
2. Berekening van Variantie: Het systeem berekent de variantie van de voorspelde snelheidsverdeling ($\hat{\sigma}^2_s$) over de 128 kandidaten. De auteurs identificeren snelheidsvariantie als de primaire indicator van onzekerheid, waarbij zij opmerken dat giek in deze specifieke taakontwerp vaak afhankelijk is van snelheid.
3. Veiligheidsregel: Een simpele, regelgebaseerde veiligheidsheuristiek wordt geïntroduceerd: als de snelheidsvariantie $\hat{\sigma}^2_s$ een drempel $\lambda$ overschrijdt, overschrijft de agent de gewenste snelheid met 0 m/s (remmen).

Belangrijkste Bijdragen

Het artikel schetst drie primaire bijdragen:

1. EnDfuser Agent: De presentatie van een eenvoudige E2E-rijagent die in staat is planningsonzekerheid te modelleren in gesloten-lus CARLA-scenario's met behulp van een op diffusie gebaseerde planner.
2. Prestatieverbetering: Aantonen dat een eenvoudige, op onzekerheid gebaseerde heuristiek (de remregel) de rijscore van de agent met 1,7% verhoogt op de LAV-benchmark.
3. Distributie-analyse: Bewijs dat de posterior-trajectverdeling de "lange staart" van de rijverdeling kan onthullen, met name door gebeurtenissen van potentieel veiligheidskritieke situaties en data-bias (zoals labelruis) te benadrukken.

Experimentele Resultaten

Het systeem werd geëvalueerd op de LAV- en Longest6-benchmarks binnen de CARLA-simulatie.

• LAV Benchmark: De basisconfiguratie van EnDfuser (zonder de veiligheidsregel) presteerde al beter dan de TF++-baseline in Driving Score (DS) en Infraction Score (IS). Met de toegepaste veiligheidsregel (drempel $\lambda = 0,4$) verbeterde de DS verder tot 78,1 (vergeleken met 70,0 van TF++), en daalde het aantal voertuigbotsingen per kilometer.
• Longest6 Benchmark: Hoewel EnDfuser-varianten over het algemeen lagere scores behaalden dan TF++ op deze complexere benchmark, slaagde de veiligheidsregel erin het aantal voertuigbotsingen te verminderen van 1,1 naar 1,02 botsingen per kilometer. Dit vertaalde zich echter niet in een hogere algehele DS vanwege een afweging die leidde tot meer route-timeouts.
• Locatie van Onzekerheid: Analyse van de snelheidsvariantiekaart toonde aan dat hoge onzekerheid ("pieken") consistent correleerde met kruispunten, bochten en interacties met dynamische agenten.
• Categorisatie van Onzekerheid: Visuele inspectie van de 100 frames met de hoogste variantie toonde aan dat 83% voorkwam tijdens interacties met andere agenten. De analyse identificeerde ook causale verwarring (onzekerheid zonder duidelijke visuele oorzaak) en laterale labelruis (waarbij voorspellingen zich uitstrekten voorbij bekende doelpunten als gevolg van beperkingen in de trainingsdata).

Betekenis en Claims

De auteurs positioneren EnDfuser als een belangrijke stap richting onzekerheidsbewuste besluitvorming in E2E-rijbeleid.

• Drop-in Vervanging: Het artikel beweert dat ensemble diffusion kan dienen als een "drop-in vervanging" voor traditionele modules voor plannen met punt-schattingen, en effectief de onzekerheid van de posterior-trajectverdeling modelleert.
• Interpreteerbaarheid: Door de volledige set kandidaat-trajecten te observeren, biedt het systeem interpreteerbaarheid voor onzekere, multimodale toekomstige ruimtes, waardoor detectie mogelijk wordt van veiligheidskritieke situaties die door schatters met één punt zouden kunnen worden gemist.
• Data-mining: De methode biedt een potentieel hulpmiddel voor het filteren van trainingsdata, specifiek om de "lange staart" van de rijverdeling en gebieden met hoge agent-onzekerheid te identificeren, inclusief gevallen van labelruis.

Het artikel behoudt een bescheiden toon met betrekking tot zijn beperkingen, en erkent dat de huidige veiligheidsheuristiek simpel is en mogelijk niet goed generaliseert. Het merkt op dat de methode momenteel geen onderscheid maakt tussen aleatorische en epistemische onzekerheid, en suggereert dat toekomstig werk geavanceerdere maatregelen (bijvoorbeeld entropie) en dynamische veiligheidsheuristieken moet verkennen.