⚡ electrical engineering

Herding End-to-End Autonomous Driving via Neuro-Symbolic Safety Guards

Dit artikel introduceert een lichtgewicht, niet-trainbare neuro-symbolische veiligheidsbewaker die wordt gekoppeld aan end-to-end autonome rijaagents om expliciete verkeersregels af te dwingen door onveilige commando's te vervangen door veilige alternatieven, wat het aantal botsingen aanzienlijk vermindert en de succespercentages op long-tail benchmarks verbetert zonder de algehele rijprestaties aan te tasten.

Oorspronkelijke auteurs: Simón Patiño Idarraga, Erick Silva, Rehana Yasmin, Ali Shoker

Gepubliceerd 2026-08-13

📖 3 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Simón Patiño Idarraga, Erick Silva, Rehana Yasmin, Ali Shoker

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een robot leert rijden door hem duizenden video's van auto's op de weg te laten zien. Dit wordt "end-to-end" leren genoemd, waarbij de robot naar de camera kijkt en direct beslist hoe hij het stuur moet draaien of het gaspedaal moet indrukken, precies zoals een menselijk brein dat doet. Het is geweldig in het herkennen van patronen; als hij een rode auto voor zich ziet, weet hij dat hij moet afremmen omdat hij dat al een miljoen keer heeft gezien. Maar hier komt het lastige deel: de robot is een patroonherkenningsmachine, geen regelvolger. Hij begrijpt niet echt waarom hij voor een rood licht moet stoppen of hoe de natuurkunde werkt. Hij gokt alleen op basis van wat hij eerder heeft gezien. Als hij een vreemde situatie tegenkomt die hij niet in zijn trainingsvideo's heeft gezien — zoals een enorme opblaasbare eend die de weg blokkeert of een geschilderde muur die op een oprit lijkt — kan hij het fout hebben en crashen. Dit is een groot probleem, want zelfs als een robotbestuurder 99% van de tijd perfect rijdt, kan die ene fout catastrofaal zijn. We hebben een manier nodig om de robot vrij te laten rijden, maar met een vangnet dat hem opvangt als hij iets gevaarlijks probeert te doen.

Dit artikel introduceert een slimme oplossing genaamd een "neuro-symbolische veiligheidsbewaker". Denk aan de robotbestuurder als een getalenteerde maar impulsieve tiener die leert autorijden, en de veiligheidsbewaker als een strenge, regelvolgende ouder die op de passagiersstoel zit. De tiener (de robot) neemt alle beslissingen over het rijden en stelt voor waarheen hij wil gaan. Maar voordat de auto daadwerkelijk beweegt, controleert de ouder (de veiligheidsbewaker) het plan van de tiener aan de hand van een eenvoudige lijst met onbreekbare regels, zoals "rij nooit een voetganger aan" of "stop voor een rood licht". Als het plan van de tiener veilig is, zegt de ouder niets en laat hij hem rijden. Maar als de tieler een rood licht negeert of tegen een muur aanrijdt, grijpt de ouder onmiddellijk in en stuurt de auto naar het dichtstbijzijnde veilige alternatief. Het beste eraan is dat de ouder niets nieuws hoeft te leren en de manier waarop de tiener leert niet verandert. Ze staan er gewoon, klaar om in te grijpen wanneer dat absoluut noodzakelijk is.

De onderzoekers hebben dit idee getest met een zeer slimme, geavanceerde robotbestuurder genaamd TransFuser v6. Ze plaatsten de veiligheidsbewaker voor de bestuurder en lieten hem door een reeks lastige, zeldzame rijsituaties gaan die de robot nog nooit eerder had gezien. De resultaten waren indrukwekkend. Wanneer de robot deze onbekende, gevaarlijke situaties tegenkwam, hielp de veiligheidsbewaker hem om 15% vaker succesvol te zijn. Nog belangrijker nog: het verminderde gevaarlijke botsingen met wel 53%. De bewaker maakte de robot niet alleen veiliger; het maakte hem betrouwbaarder zonder de algehele scores van het rijden te verlagen. Het artikel laat zien dat door een lichtgewicht, op regels gebaseerde "beschermengel" aan het einde van een leersysteem toe te voegen, we de flexibiliteit van een slimme robot kunnen behouden terwijl we ervoor zorgen dat hij nooit de basiswetten van de natuurkunde en het verkeer overtreedt. De auteurs maten deze verbeteringen in computersimulaties, wat aantoont dat deze aanpak een belangrijke stap kan zijn naar het maken van autonome voertuigen die we echt kunnen vertrouwen.

Technische Samenvatting: Herding End-to-End Autonoom Rijden via Neuro-Symbolische Veiligheidsbewakers

1. Probleemstelling

Moderne end-to-end (E2E) autonome rijdende agenten behalen een hoge gemiddelde prestatie op standaard benchmarks, maar schenden regelmatig de basisverkeersregels in zeldzame, scenario's met hoge consequenties (bijv. het negeren van een rood licht, het niet voorrang verlenen aan voetgangers). De oorzaak is structureel: deze agenten leren statistische patronen uit trainingsdata in plaats van de onderliggende fysieke condities die veiligheid garanderen. Bijgevolg zijn hun besluitvormingsprocessen opaak en worden veiligheidsbeperkingen niet expliciet afgedwongen. Deze broosheid leidt tot fouten in "long-tail" situaties—zeldzame gebeurtenissen die een menselijke bestuurder als overduidelijk zou ervaren—wat het publieke vertrouwen ondermijnt en implementatie belemmert. Huidige oplossingen, zoals Safe Reinforcement Learning (Safe-RL) shielding, beperken acties tijdens de training, terwijl regelgebaseerde planners de geleerde controller volledig vervangen. Er is behoefte aan een mechanisme dat veiligheidsrestricties afdwingt op een bevroren, getraind beleid zonder de kerncapaciteiten van perceptie en planning van de agent te wijzigen of te hertrainen.

2. Methodologie

Het artikel stelt een neuro-symbolische veiligheidsbewaker voor, een lichtgewicht module die wordt gekoppeld aan de definitieve commando-interface van een reeds getrainde E2E-agent. De bewaker werkt tijdens de uitvoering en grijpt alleen in wanneer dat nodig is om te voorkomen dat het voertuig in een onherstelbare of gevaarlijke staat terechtkomt.

Architectuur en Workflow:
Het systeem functioneert in drie stadia (Lezen, Redeneren, Beperken) zonder de gewichten van het neurale netwerk te wijzigen:

Lezen (Read): De bewaker heeft toegang tot gestructureerde scènesignalen die al door de E2E-stack tijdens de forward pass worden blootgesteld. Dit omvat objectdetecties ( $K$ ), een bird's-eye-view semantische kaart ( $B$ ), radar-returns ( $V$ ) en de eigen geplande trajecten van de agent ( $W$ ).
Redeneren (Reason): Een reeks van vijf expliciete, gesloten vorm regels verwerkt deze signalen. Elke regel afleidt een specifieke grens op de besturingscommando's (gas/rem of sturen) op basis van gevestigde fysieke modellen:
- R1 (Planned-Path Collision Safeguard): Gebruikt Responsibility-Sensitive Safety (RSS) om botsingen met obstakels op het beoogde pad te voorkomen, waarbij onderscheid wordt gemaakt tussen dreigingen op het pad en rommel buiten het pad.
- R2 (Speed-Limit Compliance): Zorgt ervoor dat het voertuig binnen de stedelijke snelheidsenveloppen blijft.
- R3 (Red-Light Stop Compliance): Forceert een stop wanneer een rood licht actief is en de resterende afstand onvoldoende is voor veilige passage.
- R4 (Pedestrian Right-of-Way Protection): Handhaaft vroegtijdige voorrangverlening voor voetgangers in de oversteekcorridor.
- R5 (Speed-Conditioned Steering Stability): Beperkt stuurhoeken op basis van voert speedsnelheid met behulp van een kinematisch fietsmodel om verlies van grip te voorkomen.
Beperken (Restrict): De bewaker definieert een haalbare set $C(o)$ op basis van de actieve regelgrenzen. Het lost een kwadratisch programmeerprobleem (QP) op om het nominale commando van de agent ( $x_0$ ) te projecteren op het dichtstbijzijnde punt binnen deze veilige set ( $x^*$ ). Als het oorspronkelijke commando veilig is, blijft het ongewijzigd; als het onveilig is, wordt het minimaal aangepast naar het dichtstbijzijnde veilige alternatief.

Kernprincipes van het Ontwerp:

Architectuur-onafhankelijkheid: De bewaker koppelt aan elk E2E-model dat scènesignalen blootstelt, waardoor het beleid intact blijft.
Traceerbaarheid: Elke interventie is deterministisch en direct herleidbaar naar een specifieke regel, wat het systeem controleerbaar maakt.
Geen Hertraining: De bewaker vereist geen leren en voegt geen geleerde componenten toe.

3. Belangrijkste Bijdragen

Neuro-symbolische Veiligheidsbewaker: Een nieuw module die een bevroren neurale agent omhult, waarbij de flexibiliteit van geleerde beleid wordt gecombineerd met de garanties van expliciete regels. In tegenstelling tot Safe-RL beperkt het de training niet; in tegenstelling tot regelgebaseerde planners vervangt het de controller niet.
Gegronde Verkeersveiligheidsregels: Vijf regels afgeleid in gesloten vorm van gevestigde veiligheidsprincipes (RSS) en voertuigdynamica (fietsmodel). Deze reduceren complexe veiligheidseisen tot enkele grenzen op gas, rem of sturen, waardoor correcties verifieerbaar zijn tegen fysieke criteria in plaats van afgestemde heuristieken.
Gemeten Robuustheid en Veiligheidswinst: Empirische validatie die aantoont dat de bewaker de veiligheid op long-tail benchmarks aanzienlijk verbetert terwijl de algemene rijvaardigheid behouden blijft.

4. Experimentele Resultaten

De bewaker werd geëvalueerd op de Fail2Drive en Bench2Drive benchmarks met behulp van de state-of-the-art TransFuser v6 (TFv6) agent als casestudy. De evaluatie richtte zich op een generalisatiesplit waarbij hazard-scenario's werden gepresenteerd met onbekende objecten en lay-outs.

Veiligheidsverbeteringen: Op de generalisatiesplit verhoogde de bewaker de Success Rate (SR) met 15% en verminderde de veiligheidskritische botsingen met wel 53%.
Behoud van Competentie: De Driving Score (DS) bleef grotendeels onveranderd. Het harmonisch gemiddelde (HM) van DS en SR verbeterde met 7,8% op de generalisatiesplit, wat aangeeft dat de bewaker erin slaagt zeldzame fouten te mitigeren zonder de prestaties op bekende routes te verslechteren.
Generalisatie-robuustheid: De bewaker verminderde de prestatiedaling (competentieverlies) bij de overgang van in-distributie naar generalisatiesplits van 18,4% (alleen TFv6) naar 9,8% (TFv6 + Guard), het kleinste verlies onder de geteste geleerde agenten.
Trade-offs: Interventies resulteerden voornamelijk in "verloren tijd" (bijv. stoppen voor obstakels die mogelijk passeerbaar waren of wachten op openingen), wat leidde tot een lichte toename van timeout-overtredingen. Echter, deze trade-off voorkwam succesvol botsingen.

5. Betekenis en Claims

Het artikel betoogt dat de primaire waarde van autonome rijagementsystemen niet moet worden beoordeeld op basis van de afgelegde afstand of gemiddelde route scores, maar op de garanties die hun commando's voldoen onder zeldzame, hoog-consequente condities.

Vertrouwen en Implementatie: Door het besluitvormingsproces controleerbaar te maken en ervoor te zorgen dat veiligheidsrestricties expliciet worden afgedwongen, adresseert de bewaker de "broosheid" van geleerde agenten in zeldzame scenario's, wat publiek vertrouwen en regelgevende goedkeuring kan versnellen.
Efficiëntie: De aanpak biedt een "plug-and-play" veiligheidslaag die geen hertraining van grote modellen vereist, waardoor het toepasbaar is op bestaande en toekomstige E2E-agenten.
Evaluatieparadigma: De resultaten suggereren dat huidige benchmarks voorzichtig stoppen en botsingen mogelijk als categorisch verschillende uitkomsten moeten behandelen in plaats van gewogen overtredingen, aangezien een veiligheidsbewaker de voortgang op de route kan benadelen om catastrofale fouten te voorkomen.

De auteurs concluderen dat een neuro-symbolische bewaker een getrainde bestuurder in staat stelt om de geleerde flexibiliteit te behouden terwijl strikt wordt voldaan aan de fysieke en juridische restricties die vereist zijn voor veilige inzet.