💻 computer science

DriveSafer: End-to-End Autonomous Driving with Safety Guidance

DriveSafer is een nieuw veiligheidskader voor end-to-end autonoom rijden dat generatieve planners expliciet stuurt naar veilig gedrag door middel van beperkingen tijdens het trainingsproces en begeleiding tijdens de inferentie, waardoor het aantal catastrofale fouten en overtredingen van voorschriften op de NAVSIM-benchmark in vergelijking met de meest geavanceerde modellen aanzienlijk wordt verminderd.

Oorspronkelijke auteurs: Shounak Sural, Raj Rajkumar

Gepubliceerd 2026-05-19

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Shounak Sural, Raj Rajkumar

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een gloednieuwe, ongelooflijk getalenteerde robotchauffeur leert om door stadsstraten te navigeren. Deze robot, gebouwd met "End-to-End" AI, is als een wonderkind dat miljoenen uren aan rijvideo's heeft bekeken. Het kan complex verkeer aan, op snelwegen invoegen en reageren op voetgangers beter dan bijna iedereen anders.

Er is echter een addertje onder het gras: hoewel deze robot uitstekend presteert bij de gemiddelde rit, heeft het af en toe "hersenvriezingen" die leiden tot rampzalige ongelukken. Het kan plotseling besluiten om op de stoep te rijden, tegen een voetganger aanrijden, of een bord "rechtsaf" negeren en rechtstreeks de tegenliggende rijbaan inrijden. Dit zijn geen kleine fouten; het zijn catastrofale storingen die de robot onveilig maken voor gebruik in de echte wereld.

Het artikel introduceert DriveSafer, een nieuw systeem dat niet alleen is ontworpen om de robot een "betere" chauffeur in het algemeen te maken, maar specifiek deze gevaarlijke hersenvriezingen moet stoppen. Denk aan DriveSafer als een veiligheidstrainer die in twee distincte fasen met de robot werkt: tijdens zijn "schooltijd" (training) en terwijl het daadwerkelijk "rijdt" (inference).

Het Probleem: De "Gemiddelde" Valstrik

De auteurs merkten op dat eerdere veiligheidscontroles leken op het beoordelen van een leerling uitsluitend op basis van hun gemiddelde tentamenscore. Een leerling kon een gemiddelde van 95% halen, maar slaagde toch niet voor het examen dat het meest telt: de "raak de muur niet" test. Zelfs de beste bestaande robotchauffeurs (zoals een genaamd DiffusionDrive) behaalden hoge gemiddelde scores, maar crashten nog steeds in zeldzame, gevaarlijke situaties.

De Oplossing: DriveSafer

DriveSafer fungeert als een streng maar behulpzame mentor die twee hoofdtools gebruikt:

1. Trainingstijd: De "Veiligheidshuiswerk"

Wanneer de robot leert, voegt DriveSafer speciale "veiligheidshuiswerk" toe aan het curriculum.

De Analogie: Stel je voor dat je een kind fietsen leert. In plaats van ze gewoon te laten rijden, zet je stabilisatiewieltjes op (beperkingen) en geef je ze een zachte duw als ze te ver leunen (verliesfuncties).
Hoe het werkt: Het systeem leert de robot drie specifieke regels:
1. Blijf op de Weg: Rijd niet van de verharding of op de stoep.
2. Houd Afstand: Kom niet te dicht bij andere auto's of mensen.
3. Wees Vlot: Maak geen plotselinge, schokkerige bewegingen die passagiers ziek zouden maken.
Als de robot probeert een pad te leren dat deze regels schendt, krijgt het een "straf" (een wiskundige score daalt), waardoor het gedwongen wordt om vanaf het begin veiligere gewoonten aan te leren.

2. Inference-tijd: De "Veiligheidsdubbelcheck"

Zelfs met goede training kan de robot tijdens het daadwerkelijke rijden nog steeds een moment van twijfel of verwarring hebben. DriveSafer voegt een stap voor een "tweede mening" toe voordat de robot een zet doet.

De Analogie: Stel je voor dat je op het punt staat een drukke straat over te steken. Je kijkt links, dan rechts, en denk je dan: "Wacht, wat als ik één stap naar links zet? Dat zou misschien veiliger zijn." Je genereert een paar snelle "wat-als" scenario's in je hoofd voordat je een stap zet.
Hoe het werkt:
- De robot genereert zijn primaire plan (bijv. "Linksaf").
- DriveSafer genereert direct een paar alternatieve plannen (bijv. "Linksaf maar iets langzamer", of "Linksaf maar iets naar rechts verschuiven").
- Het controleert al deze opties tegen een kaart en de posities van andere auto's.
- Als het oorspronkelijke plan eruit ziet alsof het een voetganger kan raken of van de weg kan rijden, verwerpt DriveSafer het en kiest in plaats daarvan het veiligste alternatieve plan.

De Resultaten: Minder Crashes, Veiligere Wegen

De auteurs hebben dit systeem getest op een beroemde rijbenchmark genaamd NAVSIM, die vol zit met lastige, realistische scenario's.

De Grote Winst: In vergelijking met de vorige beste robotchauffeur, verminderde DriveSafer het aantal catastrofale storingen (crashes of van de weg rijden) met 48%.
Het Stoepprobleem: Specifiek werden storingen waarbij de auto buiten het toegestane weggedeelte reed, met meer dan 65% gereduceerd.
Visueel Bewijs: Het artikel toont voorbeelden waar de oude robot rechtstreeks de massa voetgangers in of op de stoep reed, maar DriveSafer de auto succesvol naar een veilige stop of een ander pad stuurde.

Samenvatting

Kortom, DriveSafer is een raamwerk dat erkent: "We kunnen niet hopen dat de robot perfect is; we moeten actief voorkomen dat het levensbedreigende fouten maakt." Door strikte veiligheidsregels tijdens het leren te combineren met een "dubbelcheck"-systeem tijdens het rijden, verandert het een briljante maar roekeloze robotchauffeur in een veel veiligere, met name gericht op de worst-case scenario's die echte schade kunnen veroorzaken.

Technische Samenvatting: DriveSafer

Probleemstelling

Hoewel End-to-End (E2E) modellen voor autonoom rijden groeiende capaciteiten hebben aangetoond op complexe benchmarks, blijven ze vatbaar voor een significant aantal catastrofale fouten in veiligheidskritieke scenario's. De auteurs observeren dat veel van deze fouten voortkomen uit schendingen van fysieke beperkingen en veiligheidsvereisten, wat leidt tot onveilig gedrag zoals botsingen, het verlaten van toegestane gebieden of het afwijken van de beoogde richting.

Huidige evaluatiemetrics, zoals de L2-afstandsfout ten opzichte van ground truth-trajecten, maskeren deze kritieke fouten vaak. Een model kan state-of-the-art prestaties behalen op trajectfout-metrics en toch gevaarlijk "blind" gedrag vertonen. Het artikel betoogt dat gemiddelde verbeteringen in planningskwaliteit ontoereikend zijn; de primaire uitdaging is de "lange staart" van catastrofale fouten (gedefinieerd als een Predictive Driver Model Score, of PDMS, van 0). Deze fouten omvatten:

Botsingen met bewegende objecten (voertuigen of voetgangers).
Het verlaten van het toegestane rijgebied (bijvoorbeeld op stoepen rijden).
Significante afwijkingen van de beoogde rijrichting.

Methodologie

De auteurs stellen DriveSafer voor, een veiligheidsframework dat bewust is van fouten en is ontworpen om generatieve E2E-planners expliciet naar veilig gedrag te sturen. Het framework werkt op een basismodel, DiffusionDrive, en introduceert veiligheidsafdwinging via twee synergetische fasen:

1. Veiligheidsbewuste Training

DriveSafer past het trainingsdoel aan door gespecialiseerde, fysiek geïnformeerde en veiligheidsbewuste verliesfuncties naast de basisverliesfunctie ( $L_{base}$ ) op te nemen. Het totale verlies wordt gedefinieerd als:
$L_{total} = L_{base} + \lambda_{DAC}L_{DAC} + \lambda_{Col}L_{Col} + \lambda_{Comf}L_{Comf}$

Compliance met Rijbaar Gebied ( $L_{DAC}$ ): Straft voorspelde trajecten af die het rijbaar gebied verlaten, zoals afgeleid van de onderliggende kaart.
Botsingsvermijding ( $L_{Col}$ ): Straft trajecten af die binnen een specifieke drempelafstand ( $d_{col}$ ) van omringende agenten komen.
Comfort ( $L_{Comf}$ ): Vermindert plotselinge bewegingsveranderingen (jerk) om het comfort van passagiers te waarborgen.

Om het onvermogen van het basismodel om toekomstige locaties van agenten te voorspellen aan te pakken (wat de botsingsbewustzijn tijdens inferentie beperkt), introduceren de auteurs een lichtgewicht adapterlaag. Deze laag voorspelt de beweging van andere wegagenten voor toekomstige tijdstappen, waardoor gezamenlijke voorspelling en planning mogelijk worden.

2. Veiligheidsgeleiding tijdens Inferentie

Gezien de stochastische aard van diffusiemodellen en potentiële sensorruis, hanteert DriveSafer een geleidingsstrategie tijdens inferentie om niet-voldoende trajecten te verwerpen:

Generatie van Alternatieve Hypothesen: Het systeem genereert alternatieve trajecten op basis van de top-voorspelde modus van het diffusiemodel. Deze alternatieven omvatten:
- Variaties in koers en snelheid (5% variatie).
- Zijwaartse trajectverschuivingen van minder dan een meter.
- Gebruik van de op één na en op twee na hoogst gerangschikte modi van het diffusiemodel.
Veiligheidsscore en Selectie: Met behulp van voorspelde agentposities en de onderliggende kaart worden deze alternatieve trajecten gescoord met veiligheidsmetrics. Het veiligste traject wordt geselecteerd als de uiteindelijke output, wat het voertuig effectief "aanspoort" weg van onveilig gedrag.

Belangrijkste Bijdragen

Het artikel schetst vier primaire bijdragen:

DriveSafer Framework: Een op fouten gericht veiligheidsafdwingingsframework voor E2E-planning dat catastrofale fouten aanpakt via synergetische veiligheidsafdwinging tijdens training en inferentie.
Veiligheidsbewuste Trainingsstrategie: De introductie van gespecialiseerde verliesfuncties (rijbaar gebied, botsing, comfort) en een geïntegreerde, lichtgewicht prognosemodule voor gezamenlijke voorspelling en planning.
Geleiding tijdens Inferentie: Een methode die alternatieve trajecten genereert en evalueert om de planner naar veiligheidsconforme outputs te sturen.
Prestatieverbetering: Een aangetoonde reductie van catastrofale fouten op de NAVSIM-benchmark in vergelijking met state-of-the-art baselines.

Experimentele Resultaten

Het framework werd geëvalueerd op de NAVSIM-benchmark, specifiek de navtest-verdeling, die dichte stedelijke verkeerssituaties en complexe scenario's kenmerkt.

Reductie van Catastrofale Fouten: DriveSafer verlaagde het aantal catastrofale fouten (PDMS = 0) met 48% ten opzichte van de DiffusionDrive-baseline (reductie van 653 gevallen naar 340).
Compliance met Rijbaar Gebied: Er was een reductie van >65% in fouten met betrekking tot compliance met het rijbaar gebied (van 448 gevallen naar 154).
Totale PDMS-score: Het model behaalde een PDMS-score van 90,3, een verbetering van 2,2 punten ten opzichte van de DiffusionDrive-baseline (88,1).
Sub-metrics: Opmerkelijke verbeteringen werden waargenomen in de sub-metrics Rijbaar Gebied Compliance (DAC) en Eigen Vooruitgang (EP).
Kwalitatieve Analyse: Visuele voorbeelden tonen aan hoe DriveSafer scenario's corrigeert waarin het basismodel buiten de weg reed, de beoogde richting schond, of botste met voetgangers en tegemoetkomende voertuigen.

Betekenis en Claims

Het artikel stelt dat de praktische toepasbaarheid van autonoom rijden met E2E-systemen momenteel wordt beperkt door een significant aantal catastrofale fouten, ongeacht gemiddelde prestatiemetrics. De betekenis van DriveSafer ligt in zijn op fouten gerichte visie, waarbij prioriteit wordt gegeven aan het mitigeren van levensbedreigende scenario's boven marginale verbeteringen in gemiddelde trajectfout.

De auteurs beweren dat expliciete veiligheidsgeleiding in E2E-systemen gericht moet zijn op de directe reductie van gevallen van catastrofale fouten. Door beperkingen tijdens training te combineren met geleiding tijdens inferentie, biedt DriveSafer een weg naar veiligere implementatie in de echte wereld. De auteurs stellen dat hun toekomstige doel is DriveSafer uit te breiden voor implementatie in de echte wereld op autonome voertuigen (AV's) om de impact in reële omstandigheden te beoordelen, met als ultiem doel catastrofale fouten tot nul te reduceren.