From Dyad to Triad: Eliciting XAI Requirements in Stroke Rehabilitation

De Onzichtbare Coach en de Stille Patiënt

Stel je voor dat je leert fietsen, maar in plaats van een ouder die het zadel vasthoudt, wordt je begeleid door een robot. Deze robot ziet je wiebelen en weet precies wanneer je dreigt te vallen. Maar hier komt de crux: de robot spreekt nooit. Hij kantelt alleen het stuur of stopt de pedalen. Je zou gefrustreerd kunnen raken en je afvragen: "Trap ik te hard? Is de batterij bijna leeg? Is de robot kapot?" Dit is de wereld van Explainable AI (XAI). In eenvoudige termen is XAI de kunst van het laten vertellen door computerprogramma's waarom ze een beslissing hebben genomen, in plaats van alleen het resultaat aan ons te tonen.

Stel je nu voor dat deze robot een overlevende van een beroerte helpt om opnieuw te leren hoe hij zijn arm moet bewegen. Een beroerte is als een stroomstoring in de bedrading van de hersenen, wat mensen vaak het vermogen ontneemt om duidelijk te spreken of complexe ideeën snel te verwerken. Jarenlang zijn artsen de "coaches" geweest in dit scenario, waarbij ze aan patiënten uitlegden waarom een oefening mislukte en hoe ze dit konden herstellen. Maar naarmate technologie bijspringt om te helpen, verandert het team van een duo (arts en patiënt) naar een trio (arts, patiënt en robot). De grote vraag is: hoe vraag je aan iemand die worstelt met het vinden van de juiste woorden, wat voor soort "uitleg" hij nodig heeft van een robot? Als je vraagt: "Geef je de voorkeur aan een contrastieve of een contrafectuele uitleg?", kijken ze je misschien alleen maar glazig aan. Dit artikel duikt in dat exacte probleem en probeert te achterhalen hoe we kunnen luisteren naar patiënten die niet altijd voor zichzelf kunnen spreken, zodat de robots die zij gebruiken niet alleen werken, maar ook daadwerkelijk begrijpelijk voor hen zijn.

---

Van "Wat?" naar "Waarom?"

Dit artikel gaat over een slim experiment dat is ontworpen om een communicatiepuzzel op te lossen. De onderzoekers wilden weten wat overlevenden van een beroerte daadwerkelijk willen begrijpen van de AI-systemen die hen helpen bij hun herstel. Maar er was een hindernis: veel van deze patiënten hebben afasie, een conditie die het moeilijk maakt om te spreken of complexe taal te begrijpen. Als je hen direct vraagt: "Welke vorm van transparantie wenst u van dit algoritme?", kunnen ze vastlopen, of erger nog, simpelweg "ja" zeggen tegen alles wat je voorstelt omdat ze niet lastig willen zijn.

Het team, onder leiding van Param Rajpura en Yogesh Kumar Meena, besloot te stoppen met het stellen van abstracte vragen en begon verhalen te tonen. Ze creëerden een video-gebaseerd scaffolding-protocol. Denk bij "scaffolding" (steigers bouwen) aan de tijdelijke houten steunconstructies die bouwers gebruiken om een muur te helpen bouwen. Hier was de "houtsoort" een reeks korte video's van twee minuten waarin een personage genaamd Sunita probeert een hersen-computerinterface (BCI) te gebruiken om haar arm te bewegen. De video's toonden realistische problemen — zoals het feit dat de machine soms wel en soms niet werkt, of verwarrende feedback geeft — maar ze toonden niet de oplossing. In plaats daarvan stopten de video's precies op het moment van verwarring, met de vraag aan de kijkers: "Wat zou Sunita hierbij helpen?"

Om het meeste uit deze video's te halen, gebruikten de onderzoekers vier speciale trucs, of "scaffolding-benaderingen", om patiënten te helpen hun behoeften te uiten:

1. De "Bekend Systeem" Brug (Analogical Bridging): In plaats van te praten over "neurale signalen" of "impedantie", vergeleken de begeleiders de AI met dingen die iedereen kent. Zo vergeleken ze bijvoorbeeld een slecht hersensignaal met een verbroken mobiel telefoongesprek. Plotseling werd het idee van "het signaal repareren" volkomen logisch voor een patiënt die nog nooit van EEG-technologie had gehoord.
2. Het "Derde Persoon" Schild (Projective Personas): Direct aan een patiënt vragen: "Maakt u zich zorgen over uw privacy?", kan beangstigend of beschamend aanvoelen. Daarom vroegen de onderzoekers: "Waar zou een sceptisch persoon zich zorgen over maken?" Dit stelde patiënten in staat om hun angsten te uiten zonder dat ze zich zwak voelden.
3. De "A of B" Keuze (Binary Forcing): Soms zijn open vragen te zwaar. De onderzoekers vereenvoudigden de zaken: "Wilt u een kleine samenvatting of een uitgebreid rapport?" of "Moet de machine u vertellen wat u moet doen, of moet een mens het uitleggen?" Dit verminderde de mentale belasting en liet patiënten duidelijke keuzes maken.
4. De "Stilte is Goud" Regel (Extended Response Time): Ze gaven patiënten 15 tot 30 seconden stilte nadat een vraag was gesteld. Voor iemand met afasie is die extra tijd het verschil tussen een lege blik en een doordachte reactie.

Wat ze vonden: Een menigte van verschillende stemmen

De studie omvatte drie overlevenden van een beroerte (van wie er twee leden aan matige tot ernstige afasie) en drie mantelzorgers. De resultaten waren verrassend en lieten zien dat patiënten geen uniforme groep zijn.

• Ze willen verschillende nivechten van detail: De ene patiënt wilde een klein, simpel rapport ("Vertel me gewoon of ik het gedaan heb"), terwijl een andere patiënt een gedetailleerde, stap-voor-stap analyse wilde van elke enkele beweging. Als de ontwerpers slechts één persoon hadden gevraagd, hadden ze wellicht een systeem gebouwd dat de ander zou irriteren.
• Ze vertrouwen verschillende "coaches": Wanneer de arts iets anders zei dan de machine, vertrouwden sommige patiënten de arts, terwijl anderen vertrouwden op de cijfers van de machine omdat zij die als meer "objectief" ervoeren. Interessant genoeg zeiden ze allemaal, ongeacht wie ze vertrouwden, dat ze harder zouden werken als ze zich ondersteund voelden.
• Ze willen verschillende soorten hulp: Sommige patiënten wilden dat de machine rechtstreeks tegen hen sprak, zodat ze hun eigen fouten konden herstellen. Anderen gaven de voorkeur aan een familielid of een mens die de fout eerst uitlegt, omdat ze nog niet genoeg zelfvertrouwen hadden om met een machine te communiceren.

De Verborgen Valstrik: De "Expert" Bias

Het artikel werpt ook een licht op een lastig probleem: de onderzoekers zelf kunnen onbedoeld de zaken in de war schoppen. Door hun eigen interacties te observeren, ontdekten ze drie manieren waarop ze onbedoeld de antwoorden stuurden:

1. De "Meer is Beter" Bias: Wanneer een patiënt om een simpel rapport vroeg, vat de begeleider dit soms samen als een "volledig rapport", omdat de begeleider ervan uitging dat complexiteit is wat de AI kan bieden. Dit wist onbedoeld de werkelijke voorkeur van de patiënt voor eenvoud uit.
2. De "Ja, dat wist ik al" Bias: Wanneer een patiënt een verrassend antwoord gaf (zoals te zeggen dat ze wild dat de machine hun gedachten kende), ging de begeleider soms snel over naar de volgende verwachte vraag, waardoor een waardevol inzicht werd gemist.
3. Het "Dokter in de Kamer" Effect: Omdat er een arts aanwezig was, zeiden patiënten soms dat ze de arts meer vertrouwden dan de machine, zelfs als ze eigenlijk de voorkeur gaven aan de machine. De aanwezigheid van autoriteit veranderde het antwoord.

De Conclusie

Dit artikel suggereert dat we niet zomaar kunnen aannemen dat we weten wat patiënten nodig hebben. We kunnen een robotcoach niet ontwerpen op basis van wat een arts denkt dat een patiënt nodig heeft, of wat een softwareontwikkelaar voorstelt het beste is. De studie laat zien dat we met de juiste instrumenten — zoals video's, eenvoudige analogieën en voldoende tijd — de echte stemmen kunnen horen van patiënten die moeite hebben met spreken.

De auteurs benadrukken echter dat dit een formatieve studie is, wat betekent dat het een eerste stap is om de methode te testen, en niet een definitieve oplossing voor de hele wereld. Ze werkten slechts met zes mensen in één centrum in India. Ze beweren niet dat ze het probleem voor elke beroertelepati overal ter wereld hebben opgelost. In plaats daarvan bieden ze een protocol (een recept) en een reeks waarschuwingen (een checklist van biases om te vermijden) voor iedereen die probeert AI te ontwerpen voor mensen met communicatiebarrières.

De grote les? Betrouwbare AI gaat niet alleen over het slim maken van de code; het gaat erom dat we ervoor zorgen dat de mensen die het gebruiken ook daadwerkelijk begrijpen wat de code zegt. En om dat te doen, moeten we leren om op een geheel nieuwe manier te luisteren.