Trust–reliance alignment is context-sensitive in automated driving: a within-person secondary analysis of open experimental data
Deze studie heranalyseert experimentele gegevens om aan te tonen dat hoewel het moment-tot-moment vertrouwen van een individu in automatisering over het algemeen overeenkomt met diens beslissingen tot vertrouwen, deze relatie aanzienlijk zwakker is in snelwegcontexten vergeleken met suburbane contexten, wat suggereert dat interfaceontwerp prioriteit moet geven aan het ondersteunen van tijdige controleherbeoordeling in plaats van simpelweg te streven naar het verhogen van gemiddelde vertrouwensniveaus.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Wanneer een auto zelf rijdt, is de mens aan boord niet louter een passagier; hij is een partner in een voortdurend verschuivende dans van verantwoordelijkheid. Het voertuig regelt het sturen en de snelheid, maar de persoon moet beslissen hoeveel vertrouwen hij op elk gegeven moment in de machine stelt. Deze relatie rust op twee verschillende zaken. Ten eerste is er vertrouwen, wat een gevoel is—een algemeen geloof dat de technologie veilig en betrouwbaar is. Ten tweede is er afhankelijkheid, wat de daadwerkelijke keuze is om de auto de controle te laten overnemen of om het stuur weer terug te pakken. In de echte wereld bewegen deze twee niet altijd in hetzelfde tempo. Een bestuurder kan over het algemeen vertrouwen hebben in een zelfrijdend systeem, maar toch aarzelen om het de controle te laten overnemen in een plotselinge, gevaarlijke situatie. Begrijpen hoe deze gevoelens en acties met elkaar verbonden zijn, vooral wanneer de omstandigheden op de weg veranderen, is essentieel voor het bouwen van voertuigen die mensen veilig houden.
Onderzoekers hebben onlangs nauwkeurig naar deze verbinding gekeken door gegevens te heranalyseren uit een groot experiment met 206 gediplomeerde bestuurders. In de oorspronkelijke studie bekeken deze deelnemers videoscènes van een zelfrijdende auto die door twee zeer verschillende omgevingen navigeerde: een drukke snelweg en een rustige buitenwijk. Elk scenario bevatte een moment van verrassing, zoals een andere auto die gevaarlijk dichtbij invoegt of een voertuig dat onverwacht afremt, gevolgd door een oplossing. Na het bekijken van elke scène werd de bestuurder gevraagd om te kiezen hoeveel controle hij aan het geautomatiseerde systeem wilde geven, variërend van het volledig overnemen van het stuur tot het laten rijden van de auto met de ogen van de weg. Ze beoordeelden ook hoeveel ze het voertuig op dat specifieke moment vertrouwden. De nieuwe analyse nam deze reacties en maakte onderscheid tussen het algemene, langdurige vertrouwen van de bestuurder en de momentelijk veranderende veranderingen in vertrouwen. Dit stelde de onderzoekers in staat om te zien of een persoon meer controle overhandigde wanneer het vertrouwen piekte, en of dat patroon standhield in verschillende soorten omgevingen.
De bevindingen schetsen een duidelijk maar genuanceerd beeld. Wanneer het vertrouwen van een bestuurder in het systeem toenam voor een specifieke scène, was hij inderdaad bereid om de auto meer controle te geven. Deze link tussen gevoel en actie was sterk en consistent, zelfs nadat rekening was gehouden met de leeftijd van de bestuurder, hun algemene houding tegenover robots en hoe vaak zij reden. De context van de rit deed echter net zo zwaar mee als het gevoel zelf. In de hogesnelheidsscènes op de snelweg kozen bestuurders er consequent voor om meer controle voor zichzelf te houden, ongeacht hoeveel vertrouwen ze in de auto hadden. Zelfs wanneer een bestuurder veel vertrouwen had in het systeem, zorgde het gevaar van de snelwegomgeving ervoor dat zij de controle terugnamen, waardoor de mate van automatisering die zij bereid waren te accepteren, afnam. Bovendien was de verbinding tussen vertrouwen en actie zwakker op de snelweg dan in de buitenwijken. In de buitenwijksetting leidde een stijging in vertrouwen tot een directere toename in het laten rijden van de auto, terwijl op de snelweg die link losser was en bestuurders voorzichtiger bleven.
De studie onderzocht ook hoe bestuurders reageerden wanneer de onverwachte gebeurtenissen plaatsvonden en vervolgens werden opgelost. Wanneer een verrassing optrad, daalden zowel het vertrouwen als de bereidheid om de auto te laten rijden. Wanneer de situatie werd opgelost, herstelde het vertrouwen vaak snel, maar herstelde de bereidheid om de auto te laten rijden niet altijd in dezelfde mate. Dit suggereert dat een bestuurder kan begrijpen dat een probleem is opgelost en zich weer veilig kan voelen, maar toch nog steeds aarzelt om de volledige controle over te dragen. De onderzoekers ontdekten dat het simpelweg tonen van meer informatie op het scherm dit gat niet dichte. Het bieden van een gedetailleerd beeld van wat de auto zag en plande, zorgde er niet voor dat de link tussen vertrouwen en afhankelijkheid sterker of consistenter werd. De extra informatie hielp de bestuurders niet om hun gevoelens te vertalen naar betere beslissingen over de controle.
Deze resultaten suggereren dat het ontwerpen van zelfrijdende auto's meer vereist dan alleen proberen mensen een goed gevoel te geven over de technologie. Het doel moet niet zijn om het gemiddelde niveau van vertrouwen te maximaliseren dat een bestuurder voelt, maar om de bestuurder te ondersteunen bij het maken van de juiste beslissing op het juiste moment. Een systeem dat betrouwbaar aanvoelt op een rustige dag, kan nog steeds nauwlettend worden gemonitord op een drukke snelweg. De studie geeft aan dat interfaces en veiligheidsprotocollen zich moeten richten op het helpen van bestuurders om de controle snel te heroverwegen wanneer de situatie verandert, in plaats van ervan uit te gaan dat een hoge vertrouwensscore betekent dat de bestuurder klaar is om los te laten. De belangrijkste factor is niet alleen of een bestuurder de auto vertrouwt, maar of hij zijn afhankelijkheid kan aanpassen aan de directe risico's van de weg.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.