💻 computer science

Explainable artificial intelligence in interface design influences user outcomes and cybersecurity literacy

Deze studie toont aan dat het integreren van uitlegbare kunstmatige intelligentie (XAI) in interface-ontwerptools de gebruikersresultaten, waaronder creatief zelfvertrouwen, waargenomen leren, vertrouwen, autonomie en bruikbaarheid, tijdens UI-ontwerptaken aanzienlijk verbetert, wat suggereert dat XAI kritische betrokkenheid bij AI-aanbevelingen bevordert, terwijl het tegelijkertijd de noodzaak voor toekomstig onderzoek benadrukt om de impact ervan direct te meten op gedragingen met betrekking tot cybersecurity- en privacygeletterdheid.

Oorspronkelijke auteurs: Ahmed Al-sa'di, Mahmoud Al-Sarayreh, Esraa Ahmad

Gepubliceerd 2026-09-25

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Ahmed Al-sa'di, Mahmoud Al-Sarayreh, Esraa Ahmad

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

In de digitale wereld zijn de schermen die we aanraken en de knoppen waar we op klikken niet neutraal. Ze zijn ontworpen met een specifieke intentie, soms om ons zachtjes te begeleiden en soms om ons te sturen naar keuzes die we misschien niet zouden maken als we er meer over na zouden denken. Deze manipulatieve ontwerpen, vaak dark patterns genoemd, maken misbruik van de manier waarop ons brein werkt. Ze gebruiken visuele trucs, verwarrende lay-outs en automatische standaardinstellingen om ons persoonlijke gegevens te laten delen, instemming te laten geven voor indringende machtigingen, of ons te laten aanmelden voor terugkerende betalingen zonder dat we de kosten volledig beseffen. Het probleem is niet alleen dat deze ontwerpen bestaan, maar dat ze leunen op onze snelheid en onoplettendheid. Wanneer een beslissing gemakkelijk aanvoelt en weinig inspanning vereist, klikken we vaak zonder vragen te stellen. Om onszelf te beschermen, hebben we meer nodig dan alleen kennis; we hebben interfaces nodig die ons aanmoedigen om te pauzeren, beter te kijken en te begrijpen wat er van ons wordt gevraagd.

Dit is waar het idee van uitlegbare kunstmatige intelligentie (explainable AI) om de hoek komt kijken. Stel je een computerprogramma voor dat je helpt bij het ontwerpen van een website of een app. Een standaardversie van een dergelijk hulpmiddel biedt simpelweg een suggestie: "Plaats deze knop hier." Het geeft het antwoord, maar niet de reden. Een uitlegbare versie doet echter meer. Het biedt dezelfde suggestie, maar geeft ook een duidelijke uitleg over waarom deze is gemaakt, welke afwegingen zijn overwogen en hoe zeker het systeem is van zijn keuze. Het doel is om de passieve gebruiker te veranderen in een actieve partner die het advies kan evalueren in plaats van het alleen maar te accepteren. Onderzoekers vragen zich al lang af of deze extra laag van transparantie mensen daadwerkelijk helpt om te leren, meer vertrouwen te krijgen in het systeem en meer controle te voelen over hun eigen beslissingen.

Een team van onderzoekers zette zich af om dit idee te testen in een gecontroleerd experiment met 128 deelnemers. Zij vroegen deze individuen om een specifieke taak uit te voeren: het ontwerpen van een dashboard voor een gezondheidsonderzoeksteam. Het dashboard moest onderzoekers helpen bij het bijhouden van wervingscijfers, deadlines en rapportages voor verschillende lopende studies. De deelnemers hadden dertig minuten de tijd om interfacecomponenten voor dit scenario te creëren met behulp van een AI-ondersteunde tool. De onderzoekers verdeelden de groep in twee teams. Eén team gebruikte een standaard AI-tool die ontwerpvoorstellen bood zonder extra context. Het andere team gebruep een uitlegbare AI-tool die dezelfde suggesties presenteerde, maar ook een paneel bevatte dat de ontwerpprincipes, de context en de potentiële afwegingen voor elke aanbeveling uitlegde.

De resultaten lieten een duidelijk verschil zien in hoe de twee groepen de taak ervoren. Degenen die de uitlegbare tool gebruikten, rapporteerden een significante boost in hun creatieve zelfvertrouwen. Vóór de taak was hun geloof in hun vermogen om ideeën te creëren lager, maar daarna steeg dit veel sterker dan bij de groep die de standaardtool gebruikte. De groep met de uitlegbare tool vond ook dat ze meer hadden geleerd van de ervaring, vertrouwde de AI-suggesties meer en voelde een sterker gevoel van autonomie over hun uiteindelijke beslissingen. Ze beoordeelden het systeem als veel bruikbaarder en boeiender. Sterker nog, de groep met de uitleg had veel vaker interactie met de interface; zij openden de uitlegpanelen om de details te lezen, terwijl de andere groep op minder informatieve elementen klikte.

De onderzoekers waren echter voorzichtig over wat deze resultaten precies betekenden. Hoewel de deelnemers meer zelfvertrouwen en leerden tijdens de ontwerptaak, heeft de studie niet getest of deze ervaring hen beter maakt in het herkennen van misleidende ontwerpen in de echte wereld. Het experiment bevatte geen tests voor privacygeletterdheid, noch werd gemeten of de deelnemers weerstand konden bieden aan dark patterns wanneer zij daarmee geconfronteerd werden in een later stadium. De studie sloot expliciet de mogelijkheid uit dat zij hadden bewezen dat uitlegbare AI een schild tegen manipulatie creëert. In plaats daarvan suggereren de bevindingen dat het verstrekken van redenen naast AI-suggesties de directe ervaring van het gebruik van het hulpmiddel verbetert en gebruikers het gevoel geeft meer bekwaam en geïnformeerd te zijn tijdens het ontwerpproces.

De studie benadrukte ook dat de voordelen niet beperkt waren tot degenen die al experts waren in technologie. Zelfs deelnemers met minder bekendheid met kunstmatige intelligentie vertoonden winst in zelfvertrouwen en leren wanneer zij toegang hadden tot de uitleg. Dit suggereert dat de waarde van transparantie niet alleen voor de technisch onderlegde mensen is, maar ook een breder scala aan gebruikers kan ondersteunen. Toch merkten de auteurs op dat het experiment een enkele sessie was die ongeveer vijfenveertig minuten duurde. Zij konden niet vaststellen of deze gevoelens van zelfvertrouwen en vertrouwen in de loop van de tijd zouden aanhouden of dat ze zouden worden overgedragen op andere situaties, zoals het nemen van beslissingen over persoonlijke gegevens of beveiliging.

Uiteindelijk wijst het onderzoek op een veelbelovende richting voor hoe we interageren met intelligente systemen. Door uitleg toe te voegen aan AI-suggesties, kunnen ontwerpers hulpmiddelen creëren die gebruikers het gevoel geven meer controle te hebben en eerder bereid zijn om kritisch met de technologie om te gaan. Deze aanpak sluit aan bij groeiende regelgevende inspanningen, zoals die in de Europese Unie, die eisen dat AI-systemen met een hoog risico transparant genoeg zijn zodat gebruikers ze goed kunnen begrijpen en gebruiken. Hoewel deze studie het bredere probleem van cybersecurity of privacy-manipulatie niet heeft opgelost, heeft het aangetoond dat wanneer een AI-tool de tijd neemt om zijn denkproces uit te leggen, mensen zich meer zelfverzekerd voelen, meer leren en meer vertrouwen in het proces hebben. De volgende stap voor de wetenschap is om te zien of deze toegenomen betrokkenheid kan worden vertaald naar echte bescherming tegen de misleidende ontwerpen die ons digitale leven bedreigen.

Technische Samenvatting: Verklarende Kunstmatige Intelligentie in Interfaceontwerp Beïnvloedt Gebruikersresultaten en Cybersecurity-geletterdheid

1. Probleemstelling

Het artikel behandelt het snijvlak van interfaceontwerp, kunstmatige intelligentie (AI) en de beveiligingsgeletterdheid van gebruikers. Het stelt dat "dark patterns"—interfaceontwerpen die gebruikers manipuleren tot keuzes die strijdig zijn met hun belangen (bijv. gegevensverstrekking, indringende toestemmingen)—aandachtsbeperkingen en snelle besluitvorming uitbuiten. Hoewel regelgeving zoals de EU Digital Services Act en de EU AI Act transparantie voorschrijft, garandeert louter transparantie geen gebruikersgeletterdheid of beschermend gedrag.

Het kernprobleem dat wordt onderzocht, is of Explainable Artificial Intelligence (XAI), wanneer geïntegreerd in interfaceontwerptools, competenties kan bevorderen die relevant zijn voor privacy en cybersecurity. Specifiek vragen de auteurs zich af of het verstrekken van rationales en afwegingen naast door AI gegenereerde aanbevelingen gebruikers stimuleert om te pauzeren, kritisch te evalueren en dieper betrokken te raken bij systeemoutputs, waardoor mogelijk de "kritische betrokkenheid" wordt opgebouwd die nodig is om zich te verzetten tegen misleidende interfaces. De studie merkt een gebrek aan bewijs op over de vraag of interactie ondersteund door uitleg daadwerkelijk deze competenties ontwikkelt of slechts het vertrouwen vergroot zonder de kalibratie van besluitvorming te verbeteren.

2. Methodologie

De studie maakte gebruik van een gecontroleerd experiment tussen groepen met 128 deelnemers die via Prolific werden geworven. Deelnemers werden willekeurig toegewezen aan een van de twee condities:

XAI-conditie ( $n=64$ ): Deelnemers gebruikten een AI-ondersteunde UI-ontwerptool waarbij elke ontwerp suggestie werd vergezeld door een verklaringspaneel. Dit paneel bevatte de ontwerp-rationale, contextuele overwegingen, potentiële afwegingen en een betrouwbaarheidsindicator.
Standaard AI-conditie ( $n=64$ ): Deelnemers gebruikten dezelfde tool en ontvingen identieke ontwerpsuggesties, maar zonder het speciale verklaringspaneel.

Taak:
Deelnemers voltooiden een 30 minuten durende UI-ontwerptaak gericht op het verbeteren van een dashboard voor de administratie van gezondheidsonderzoek (monitoring van werving en deadlines). De taak was expliciet niet-klinisch om te voorkomen dat medische kennis vereist was.

Metingen:

Creatieve Zelfvertrouwen (Creative Confidence): Gemeten via een 3-items Likert-schaal voor en na de taak om de "winst" te berekenen.
Percepties na de Taak: Gerapporteerd vertrouwen, waargenomen autonomie en waargenomen leren (elk bestaande uit 3-items Likert-schalen).
Gebruiksgemak (Usability): Gemeten met de System Usability Scale (SUS).
Taakkwaliteit: Beoordeeld door twee geblindeerde beoordelaars op een schaal van 0–100.
Geregistreerde Interacties: Automatisch opgenomen tellingen van gebruikersinteracties (het openen van verklaringspanelen in XAI versus het klikken op tooltips/metadata in de Standaard-conditie).
Covariaten: Eerdere AI-vertrouwdheid en UI-ontwerpervaring werden tijdens de werving gestratificeerd.

Analyse:
De gegevens werden geanalyseerd met behulp van independent-samples t-testen voor verschillen tussen groepen, gepaarde t-testen voor veranderingen binnen groepen en Pearson-correlaties. Hiërarchische regressiemodellen werden gebruikt om voorspellers van de winst in creatief zelfvertrouwen te evalueren. Effectgroottes werden gerapporteerd met behulp van Cohen's $d$ .

3. Belangrijkste Resultaten

De studie vond statistisch significante verschillen die gunstig waren voor de XAI-conditie over meerdere zelfgerapporteerde en gedragsmatige metrieken:

Creatief Zelfvertrouwen: De XAI-groep vertoonde een significant grotere winst in creatief zelfvertrouwen ( $d=0.68$ ) vergeleken met de Standaard-groep. Beide groepen verbeterden, maar de XAI-groep verbeterde meer.
Waargenomen Leren: De XAI-conditie leverde een grote effectgrootte op voor waargenomen leren ( $d=1.17$ ), wat aangeeft dat deelnemers het gevoel hadden meer te hebben geleerd van de taak.
Gerapporteerd Vertrouwen: Het vertrouwen in de AI-tool was significant hoger in de XAI-conditie ( $d=0.97$ ).
Waargenomen Autonomie: Deelnemers in de XAI-conditie rapporteerden een hogere waargenomen autonomie ( $d=0.42$ ).
Gebruiksgemak: De SUS-score was significant hoger voor de XAI-conditie ( $M=71.52$ ) vergeleken met de Standaard-conditie ( $M=58.36$ ), met een effectgrootte van $d=1.78$ . De gemiddelde score van de XAI-groep overschreed de drempel voor "boven gemiddeld" (68), terwijl de Standaard-groep dat niet deed.
Taakkwaliteit: De XAI-groep produceerde kwalitatief betere ontwerpen ( $M=82.80$ ) dan de Standaard-groep ( $M=75.54$ ), met een grote effectgrootte ( $d=0.97$ ).
Geregistreerde Interacties: Het aantal interacties was significant hoger in de XAI-conditie ( $d=2.66$ ). De auteurs merken echter op dat deze tellingen verschillende acties vertegenwoordigen (openen van panelen versus klikken op tooltips) en niet als equivalente maten voor betrokkenheid moeten worden behandeld.
Correlaties: Over de volledige steekproef correleerden de geregistreerde interactietellingen positief met waargenomen leren, gebruiksgemak, gerapporteerd vertrouwen en taakkwaliteit. Echter, in de Standaard-groep correleerden de interactietellingen niet met de uitkomsten.

4. Belangrijkste Bijdragen

Het artikel levert empirisch bewijs dat XAI-versterkt interfaceontwerp de gebruikersresultaten tijdens AI-ondersteunde taken positief beïnvloedt. Specifiek toont het aan dat het verstrekken van rationales en afwegingen naast AI-suggesties:

Het creatieve zelfvertrouwen en de waargenomen leren vergroot.
Gerapporteerd vertrouwen en waargenomen autonomie versterkt.
De gebruiksgemaksscores en de taakkwaliteit verbetert.
Hogere niveaus van interactie met de interface stimuleert.

De studie ondersteunt de hypothese dat verklaringen kunnen dienen als een interfacefunctie die kritische betrokkenheid bij AI-aanbevelingen bevordert, waarbij men verder gaat dan eenvoudige transparantie naar actieve gebruikersbetrokkenheid.

5. Betekenis en Claims

De auteurs hanteren een bescheiden en precieze reikwijdte met betrekking tot de betekenis van hun bevindingen:

Relevantie voor Geletterdheid, Niet Bewijs van Veerkracht: Het artikel stelt expliciet dat de resultaten niet aantonen dat XAI de privacygeletterdheid, cybersecurity-geletterdheid of de weerstand tegen dark patterns verbetert. De studie mat geen herkenning van dark patterns, vermijdingsgedrag of vertrouwen-kalibratie (de afstemming van vertrouwen op de nauwkeurigheid van het systeem).
Potentieel versus Gedemonstreerd Transfer: De bevindingen suggereren een potentiële relevantie voor privacy- en cybersecuritygeletterdheid. De auteurs stellen dat door kritische betrokkenheid en waargenomen autonomie te bevorderen tijdens een ontwerptaak, XAI mogelijk toekomstige interventies voor privacybeslissingen kan informeren. Echter, directe transfer naar beveiligingscontexten (bijv. het verzetten tegen phishing of misleidende toestemmingsstromen) blijft een openstaande vraag die aparte tests vereist.
Vertrouwen-Kalibratie: De studie vond een hoger gerapporteerd vertrouwen in de XAI-groep, maar verduidelijkt dat dit niet gelijkstaat aan gekalibreerd vertrouwen. Hoger vertrouwen zonder nauwkeurigheidsmaten zou potentieel kunnen leiden tot overmatige afhankelijkheid als de AI onjuist is.
Beperkingen: De auteurs erkennen beperkingen, waaronder het gebrek aan longitudinale data (het aanhouden van effecten), de specifieke aard van de taak (niet-klinisch, niet-beveiligingstechnisch) en de bron van werving (Prolific-gebruikers), wat de generaliseerbaarheid naar populaties met een lagere digitale geletterdheid kan beperken.

Concluderend stelt het artikel vast dat door uitleg ondersteunde interfaces de gebruikerservaring en zelfeffectiviteit verbeteren in AI-ondersteunde ontwerptaken. Zij kaderen deze uitkomsten als een noodzakelijke basis voor toekomstig onderzoek naar de vraag of dergelijke interfaces effectief gedragsmatige veerkracht tegen misleidende ontwerppatronen kunnen opbouwen, in plaats van te beweren dat zij het probleem van cybersecurity-geletterdheid direct hebben opgelost.