Beyond Fixed Thresholds and Domain-Specific Benchmarks for Explainable Multi-Task Classification in Autonomous Vehicles

Dit artikel stelt een adaptieve methodologie voor de selectie van drempelwaarden voor om de beperkingen van vaste drempelwaarden in de perceptie voor autonoom rijden met meerdere taken te overwinnen en introduceert het IUST-XAI-AD-dataset om cross-culturele verklaarbaarheid en een robuustere evaluatie van systemen voor autonome voertuigen mogelijk te maken.

De kern

Stel je voor dat je een robot leert autorijden. Je wilt dat de robot niet alleen weet wat hij moet doen (zoals "stop" of "linksaf slaan"), maar ook kan uitleggen waarom hij het doet (zoals "omdat er een voetganger is" of "omdat het licht rood is"). Dit is het doel van Uitlegbare AI in zelfrijdende auto's.

Er zijn echter twee grote problemen die de auteurs van dit artikel hebben ontdekt:

1. De "Eén-maat-past-voor-alles"-regel: De meeste robots zijn geprogrammeerd met een starre regel: "Als je meer dan 50% zeker bent, neem dan een beslissing." De auteurs noemen dit een "vaste drempel". Ze betogen dat dit vergelijkbaar is met een mens te vertellen: "Als je 50% zeker bent dat het regent, pak dan een paraplu." Dat werkt niet goed! Soms moet je 90% zeker zijn voordat je handelt (zoals stoppen voor een kind), en soms is 50% voldoende. Het artikel toont aan dat het gebruik van één enkele 50%-regel voor elke situatie ertoe leidt dat de robot meer fouten maakt.
2. De "Westerse Bias" in training: De meeste robots worden getraind op gegevens uit plaatsen zoals Californië of Duitsland. Maar autorijden in Teheran, Iran, is heel anders. Er zijn meer motorfietsen, ander verkeersgedrag en verschillende wegopstellingen. Als je een robot alleen traint op Westerse wegen, kan hij in de war raken wanneer hij een chaotische straat in het Midden-Oosten ziet.

Hieronder wordt uitgelegd hoe de auteurs deze problemen hebben opgelost, simpel uitgelegd:

1. Het "Zekerheidsknopje" afstellen (De Drempel)

Stel je het brein van de robot voor als een volumeknop voor elke beslissing.

• De Oude Manier: Iedereen draaide de knop precies op "5" (50% zekerheid) en raakte hem daarna nooit meer aan.
• De Nieuwe Manier: De auteurs testten de knop op elke instelling van 1 tot 10. Ze ontdekten dat de robot voor sommige taken (zoals beslissen om te "stoppen") het beste werkt wanneer de knop op "3" staat (30% zekerheid). Voor andere taken (zoals uitleggen waarom hij stopt) is "4" (40%) beter.

De Analogie: Stel je voor dat je een bewaker bent die ID's controleert.

• Als je te streng bent (hoge drempel), laat je niemand binnen, zelfs niet als ze vriendelijk zijn (je mist goede kansen).
• Als je te losjes bent (lage drempel), laat je iedereen binnen, inclusief slechte actoren (je maakt gevaarlijke fouten).
• De auteurs ontdekten dat voor verschillende soorten "slechte actoren" (verschillende rijtaken) je een ander niveau van strengheid nodig hebt. Door de "strengheidsknop" voor elke specifieke taak aan te passen, werd de robot veel slimmer en veiliger.

2. De Nieuwe "Rijschool voor Midden-Oosters Verkeer" (De Dataset)

De auteurs realiseerden zich dat bestaande rijdatasets vergelijkbaar waren met een rijschool die je alleen leerde rijden op lege, rechte snelwegen in Europa. Ze leerden je niet hoe je een drukke, chaotische marktstraat in Iran moest hanteren.

• De Oplossing: Ze creëerden een nieuwe dataset genaamd IUST-XAI-AD.
• Wat erin zit: 958 echte foto's gemaakt in Qom, Iran.
• Waarom het speciaal is: Het is als een "hard mode"-level in een videospel. Het heeft veel meer motorfietsen, meer voetgangers en complexere verkeerspatronen dan de standaarddatasets.
• Het Resultaat: Toen ze hun robot testten op deze nieuwe "hard mode", had hij meer moeite dan op de makkelijke Europese wegen. Dit bewijst dat de nieuwe dataset een betere, zwaardere test is om te zien of een robot echt klaar is voor de echte wereld.

3. Het "Waarom" is Net Even Belangrijk als het "Wat"

De robot moet twee dingen tegelijk doen:

1. Actie: "Stop de auto."
2. Reden: "Omdat een persoon overstapt."

De auteurs ontdekten dat de robot eigenlijk beter is in het raden van de actie (Stop/Ga) dan in het raden van de reden (Waarom?). Het is als een student die "Waar/Niet Waar"-vragen gemakkelijk kan beantwoorden, maar moeite heeft met het schrijven van het essay waarin wordt uitgelegd waarom het antwoord waar is. Door hun nieuwe "afgestelde knoppen" (drempels) te gebruiken, hielpen ze de robot om beter te worden in zowel de actie als de uitleg.

De Conclusie

Het artikel zegt:

• Stop met het gebruik van dezelfde 50%-regel voor alles. Pas je zekerheidsniveaus aan op basis van de specifieke taak.
• Test robots niet alleen op Westerse wegen. Je moet ze testen op diverse, chaotische wegen (zoals die in het Midden-Oosten) om te zien of ze echt veilig zijn.
• Uitlegbaarheid is cruciaal. Een zelfrijdende auto is niet zomaar een machine; het moet kunnen vertellen waarom het een beslissing heeft genomen, zodat mensen erop kunnen vertrouwen.

Door de "knoppen" te repareren en te testen op "zwaardere wegen", hebben de auteurs een betere basis gelegd voor zelfrijdende auto's die overal ter wereld vertrouwd kunnen worden, niet alleen op plekken die op Californië lijken.

Technische samenvatting

Technische Samenvatting: Voorbij Vaste Drempels en Domeinspecifieke Benchmarks voor Verklaarbare Multi-Task Classificatie in Autonome Voertuigen

Probleemstelling
Systemen voor autonoom rijden vertrouwen op deep learning-modellen die vaak "black boxes" zijn en de transparantie missen die vereist is voor veilige, kritieke implementatie en menselijk vertrouwen. Hoewel multi-task learning-frameworks zijn ontwikkeld om gelijktijdig rijacties en hun onderliggende redenering te voorspellen (Verklaarbare AI of XAI), lopen huidige benaderingen tegen twee primaire beperkingen aan. Ten eerste vertrouwen ze grotendeels op vaste betrouwbaarheidsdrempels (doorgaans 0,5) om continue modeluitkomsten om te zetten in discrete voorspellingen. Deze "one-size-fits-all"-benadering negeert de variërende complexiteit en class-ongelijkgewichten die inherent zijn aan verschillende voorspellingstaken, wat kan leiden tot suboptimale prestaties of veiligheidsrisico's. Ten tweede zijn bestaande evaluatiebenchmarks, zoals Berkeley Deep Drive (BDD-OIA) en nuScenes Action and Reasons (nu-AR), sterk gekanteld naar westerse rijcontexten. Dit gebrek aan culturele diversiteit beperkt de beoordeling van de generaliseerbaarheid van modellen over verschillende verkeerspatronen, verkeersinfrastructuur en rijgedrag wereldwijd, met name in het Midden-Oosten.

Methodologie
De auteurs stellen een tweeledige methodologische vooruitgang voor om deze hiaten aan te pakken:

1. Analyse van de Gevoeligheid van Betrouwbaarheidsdrempels:
   In plaats van een statische drempel te gebruiken, introduceren de auteurs een systematisch kader om beslissingsgrenzen voor multi-task classificatie te optimaliseren. Ze definiëren aparte betrouwbaarheidsdrempels ($\tau_A$ voor actie en $\tau_R$ voor reden) en voeren een grid-search uit over het bereik [0, 1] met een stapgrootte van 0,1. Het kader evalueert vier verschillende metrieken: F1-actie-overal, F1-actie-gemiddeld, F1-reden-overal en F1-reden-gemiddeld. Dit maakt het mogelijk om optimale paren drempels te identificeren die de prestaties voor specifieke taken maximaliseren, met erkenning dat actie- en redenvoorspellingen mogelijk verschillende betrouwbaarheidsniveaus vereisen.

2. Constructie van de IUST-XAI-AD Dataset:
   Om het gebrek aan cultureel diverse benchmarks aan te pakken, introduceren de auteurs de IUST-XAI-AD dataset. Verzameld in Qom, Iran, bestaat deze dataset uit 958 dashcam-beelden die onder verschillende lichtomstandigheden zijn vastgelegd. Elke afbeelding is handmatig geannoteerd door experts met:

   • Actielabels: 4 categorieën (Vooruit bewegen, Stoppen/vertragen, Links afslaan, Rechts afslaan).
   • Redenlabels: 21 categorieën die de rijbeslissing verklaren (bijv. "Obstakel: persoon", "Verkeerslicht is groen").
     De dataset wordt geanalyseerd op complexiteit met behulp van een gewogen score ($C$) die rekening houdt met de dichtheid van voetgangers, motorrijders en voertuigen, waarbij hogere gewichten worden toegekend aan kwetsbare weggebruikers (voetgangers en motorrijders) om hun hogere risicoprofiel te weerspiegelen.

Belangrijkste Bijdragen
Het artikel presenteert drie onderling verbonden bijdragen:

• Systematische Drempeloptimalisatie: Een demonstratie dat vaste drempels suboptimaal zijn voor multi-task scenario's. De auteurs bieden een methodologie om taakspecifieke optimale drempels te identificeren, waarbij blijkt dat de piekprestaties aanzienlijk variëren tussen actie- en redentaken.
• Nieuwe Benchmark (IUST-XAI-AD): De introductie van een dataset die specifiek is ontworpen voor verklaarbare computer vision in Perzische rijcontexten. Deze dataset adresseert de culturele en regionale bias in bestaande benchmarks en biedt een uitdagendere omgeving met een hogere objectdichtheid en onderscheidende verkeerspatronen.
• Uitgebreide Cross-Context Validatie: Een uitgebreide evaluatie van een eerder voorgesteld attention-based multi-task model over drie datasets (BDD-OIA, nu-AR en IUST-XAI-AD). Dit omvat een vergelijkende analyse van modelprestaties, complexiteitsmetrieken en feature-embeddings om de robuustheid in verschillende culturele omgevingen te beoordelen.

Experimentele Resultaten

• Gevoeligheid van Drempels: Analyse op de BDD-OIA dataset toont aan dat de conventionele drempel van 0,5 niet optimaal is. De piek F1-actie-overal-score treedt op bij een drempel van 0,3 (71,85%), terwijl de piek F1-reden-overal-score optreedt bij 0,4 (54,77%). De studie identificeert een "robust werkgebied" tussen 0,3 en 0,5 waar alle metrieken binnen 1% van hun piekwaarden blijven, wat suggereert dat hoewel tuning voordelig is, een reeks drempels bijna-optimale resultaten kan opleveren.
• Dataset Complexiteit: De IUST-XAI-AD dataset vertoont aanzienlijk hogere complexiteit (score van 2,0038) in vergelijking met BDD-OIA (0,8062) en nu-AR (0,5752). Dit wordt gedreven door een hogere dichtheid van voertuigen (1,66 per afbeelding versus 0,70 in BDD-OIA) en een drastisch hogere dichtheid van motorrijders (0,164 per afbeelding, wat 19–24 keer hoger is dan in westerse datasets), wat gemengde verkeersomstandigheden weerspiegelt die gebruikelijk zijn in steden in het Midden-Oosten.
• Modelprestaties: Bij testen op IUST-XAI-AD presteerde het attention-based model van de auteurs beter dan de NLE-DM-baseline in 9 van de 12 metrieken. Echter, de algehele prestatiemetrieken (F1-scores) daalden aanzienlijk op IUST-XAI-AD in vergelijking met BDD-OIA, wat aangeeft dat culturele en omgevingsverschillen fundamenteel nieuwe uitdagingen presenteren waar huidige modellen moeite mee hebben om zonder specifieke aanpassing naar te generaliseren.
• Feature-analyse: t-SNE-visualisaties van geleerde features tonen aan dat het model de data succesvol clusterde op basis van zowel actieklassen als omgevingscontext (bijv. het scheiden van verkeersinfrastructuur van dynamische obstakels), hoewel er enige overlap blijft bestaan.

Betekenis en Claims
Het artikel claimt dat het werk de state-of-the-art in verklaarbare multi-task learning voor autonoom rijden vooruitbrengt door zowel methodologische tools als praktische evaluatiemiddelen te bieden.

• Methodologisch: Het daagt de standaardpraktijk van vaste drempelbepaling uit en betoogt dat drempelselectie een ontwerpkieze moet zijn gebaseerd op specifieke operationele prioriteiten (bijv. het balanceren van precisie en recall) in plaats van een vast optimalisatieprobleem.
• Praktisch: De IUST-XAI-AD dataset dient als een cruciaal hulpmiddel voor het evalueren van de cross-culturele generalisatie van autonome systemen, waarbij systematische hiaten in modelrobustheid worden belicht die door evaluaties in één domein worden gemist.
• Breder Impact: De auteurs stellen dat hun gecombineerde bijdragen de ontwikkeling versnellen van betrouwbaardere, verklaarbare en cultureel adaptieve autonome rij-systemen die geschikt zijn voor wereldwijde implementatie. Ze benadrukken dat uitgebreide validatie over diverse contexten essentieel is voor het beoordelen van de echte veiligheid en robuustheid van deze systemen.

Het artikel concludeert met de opmerking dat hoewel het huidige werk een basis legt voor culturele diversiteit en drempeloptimalisatie, toekomstig onderzoek zich moet richten op fine-tuning en drempelgevoeligheid specifiek voor ongunstige weersomstandigheden en de evaluatie verder moet uitbreiden naar een bredere reeks geografisch diverse datasets.