From Dyad to Triad: Eliciting XAI Requirements in Stroke Rehabilitation

Der unsichtbare Coach und der stille Patient

Stellen Sie sich vor, Sie lernen Fahrradfahren, aber anstatt dass ein Elternteil den Sattel hält, führt Sie ein Roboter. Dieser Robbot kann Ihr Wackeln sehen und weiß genau, wann Sie kurz davor sind, hinzufallen. Aber hier ist der Haken: Der Roboter spricht nie. Er neigt lediglich den Lenker oder stoppt die Pedale. Sie könnten frustriert sein und sich fragen: „Habe ich zu fest getreten? Ist der Akku leer? Ist der Roboter kaputt?“ Dies ist die Welt der Erklärbaren KI (Explainable AI – XAI). Vereinfacht ausgedrückt ist XAI die Kunst, Computerprogramme dazu zu bringen, uns zu sagen, warum sie eine Entscheidung getroffen haben, anstatt uns nur das Ergebnis zu zeigen.

Stellen Sie sich nun vor, dieser Roboter hilft einem Schlaganfallpatienten dabei, wieder zu lernen, wie er seinen Arm bewegt. Ein Schlaganfall ist wie ein Stromausfall in der Verkabelung des Gehirns, der Menschen oft dazu führt, dass sie nicht mehr klar sprechen oder komplexe Ideen schnell verarbeiten können. Jahrelang waren Ärzte in diesem Szenario die „Coaches“, die den Patienten erklärten, warum eine Übung misslungen ist und wie man sie korrigiert. Doch während die Technologie einspringt, um zu helfen, verändert sich das Team von einem Duo (Arzt und Patient) zu einem Trio (Arzt, Patient und Roboter). Die große Frage lautet: Wie fragt man einen Menschen, der Schwierigkeiten hat, die richtigen Worte zu finden, welche Art von „Erklärung“ er von einem Roboter benötigt? Wenn Sie ihn fragen: „Bevorzugen Sie eine kontrastive oder eine kontrafaktische Erklärung?“, starrt er Sie vielleicht nur an. Dieses Paper befasst sich mit genau diesem Problem und versucht herauszufinden, wie man Patienten zuhört, die nicht immer für sich selbst sprechen können, damit die Roboter, die sie benutzen, nicht nur funktionieren, sondern für sie auch tatsächlich Sinn ergeben.

---

Von „Was?“ zu „Warum?“

In diesem Paper geht es um ein kluges Experiment, das darauf ausgelegt ist, ein Kommunikationsrätsel zu lösen. Die Forscher wollten wissen, was Schlaganfallpatienten tatsächlich von den KI-Systemen verstehen müssen, die ihnen bei der Genesung helfen. Es gab jedoch eine Hürde: Viele dieser Patienten leiden unter Aphasie, einer Erkrankung, die das Sprechen oder das Verständnis komplexer Sprache erschwert. Wenn man sie direkt fragt: „Welche Art von Transparenz wünschen Sie sich von diesem Algorithmus?“, bleiben sie vielleicht stecken oder sagen im schlimmsten Fall einfach „Ja“ zu dem, was man ihnen vorschlägt, weil sie nicht umständlich sein wollen.

Das Team unter der Leitung von Param Rajpura und Yogesh Kumar Meena entschied sich dagegen, abstrakte Fragen zu stellen, und begann stattd� Jahrgeschichten zu zeigen. Sie entwickelten ein videobasiertes Scaffolding-Protokoll (Gerüstbau-Protokoll). Denken Sie bei „Scaffolding“ an die temporären Holzstützen, die Bauarbeiter verwenden, um eine Wand zu errichten. Hier war das „Holz“ eine Serie kurzer, zweiminütiger Videos, die einen Charakter namens Sunita zeigen, die versucht, eine Gehirn-Computer-Schnittstelle (BCI) zu nutzen, um ihren Arm zu bewegen. Die Videos zeigten realistische Probleme – wie etwa, dass die Maschine manchmal funktioniert und manchmal nicht oder verwirrendes Feedback gibt – aber sie zeigten nicht die Lösung. Stattdessen endeten die Videos genau in dem Moment der Verwirrung mit der Frage an die Zuschauer: „Was würde Sunita hier helfen?“

Um das Beste aus diesen Videos herauszuholen, nutzten die Forscher vier spezielle Tricks oder „Scaffolding-Ansätze“, um den Patienten zu helfen, ihre Bedürfnisse auszudrücken:

1. Die Brücke zum „vertrauten System“ (Analogischer Brückenschlag): Anstatt über „neuronale Signale“ oder „Impedanz“ zu sprechen, verglichen die Moderatoren die KI mit Dingen, die jeder kennt. Zum Beispiel verglichen sie ein schlechtes Gehirnsignal mit einem abgebrochenen Mobilfunkgespräch. Plötzlich ergab die Idee, das „Signal zu reparieren“, für einen Patienten, der noch nie etwas von EEG-Technologie gehört hatte, vollkommen Sinn.
2. Der „Dritte-Person-Schild“ (Projektive Personas): Einen Patienten direkt zu fragen: „Sind Sie besorgt um Ihre Privatsphäre?“, kann beängstigend oder peinlich sein. Deshalb fragten die Forscher: „Was würde eine skeptische Person befürchten?“ Dies ermöglichte es den Patienten, ihre Ängste zu äußern, ohne das Gefühl zu haben, Schwäche zuzugeben.
3. Die „A oder B“-Wahl (Binäre Erzwingung): Manchmal sind offene Fragen zu schwerfällig. Die Forscher vereinfachten die Sache: „Möchten Sie eine winzige Zusammenfassung oder einen riesigen Bericht?“ oder „Soll die Maschine Ihnen sagen, was Sie tun sollen, oder soll ein Mensch es erklären?“ Dies reduzierte die kognitive Belastung und ließ die Patienten klare Entscheidungen treffen.
4. Die „Schweigen ist Gold“-Regel (Verlängerte Antwortzeit): Sie ließen den Patienten 15 bis 30 Sekunden Stille nach einer Frage. Für jemanden mit Aphasie ist diese zusätzliche Zeit der Unterschied zwischen einem leeren Blick und einer durchdachten Antwort.

Was sie fanden: Eine Menge unterschiedlicher Stimmen

Die Studie umfasste drei Schlaganfallüberlebende (von denen zwei eine mittelschwere bis schwere Aphasie hatten) und drei pflegende Angehörige. Die Ergebnisse waren überraschend und zeigten, dass Patienten keine einheitliche Gruppe sind.

• Sie wollen unterschiedliche Detailgrade: Ein Patient wollte einen winzigen, einfachen Bericht („Sagen Sie mir einfach, ob ich es geschafft habe“), während ein anderer eine detaillierte Analyse jedes einzelnen Schrittes wollte. Wenn die Designer nur eine Person gefragt hätten, hätten sie vielleicht ein System gebaut, das den anderen genervt hätte.
• Sie vertrauen unterschiedlichen „Coaches“: Wenn der Arzt etwas anderes sagte als die Maschine, vertrauten einige Patienten dem Arzt, während andere den Zahlen der Maschine vertrauten, weil sie diese als „objektiver“ empfanden. Interessanterweise sagten alle, dass sie härter arbeiten würden, wenn sie sich unterstützt fühlten, ungeachtet dessen, wem sie vertrauten.
• Sie wollen unterschiedliche Arten der Hilfe: Einige Patienten wollten, dass die Maschine direkt zu ihnen spricht, damit sie ihre eigenen Fehler korrigieren können. Andere bevorzugten es, dass ein Familienmitglied oder ein Mensch den Fehler zuerst erklärt, da sie noch nicht das Selbstvertrauen hatten, mit einer Maschine zu kommunizieren.

Die versteckte Falle: Der „Experten“-Bias

Das Paper beleuchtet auch ein tückisches Problem: Die Forscher selbst können unbeabsichtigt Dinge verändern. Durch die Beobachtung ihrer eigenen Interaktionen fanden sie drei Wege, wie sie unbewusst die Antworten steuerten:

1. Der „Mehr ist besser“-Bias: Wenn ein Patient nach einem einfachen Bericht verlangte, fasste der Moderator dies manchmal als „vollständigen Bericht“ zusammen, weil er davon ausging, dass Komplexität das ist, was die KI leisten kann. Dies löschte versehentlich die tatsächliche Präferenz des Patienten für Einfachheit aus.
2. Der „Ja, das wusste ich schon“-Bias: Wenn ein Patient eine überraschende Antwort gab (wie z. B. zu sagen, dass er möchte, dass die Maschine seine Gedanken kennt), glitt der Moderator manchmal schnell zur nächsten erwarteten Antwort über und verpasste so eine wertvolle Erkenntnis.
3. Der „Arzt im Raum“-Effekt: Da ein Arzt anwesend war, sagten Patienten manchmal, dass sie dem Arzt mehr vertrauen als der Maschine, selbst wenn sie eigentlich die Maschine bevorzugten. Die Anwesenheit einer Autoritätsperson veränderte die Antwort.

Das Fazit

Dieses Paper legt nahe, dass wir nicht einfach davon ausgehen können, dass wir wissen, was Patienten brauchen. Wir können keinen Roboter-Coach entwerfen, basierend auf dem, was ein Arzt glaubt, was ein Patient braucht, oder auf dem, was sich ein Softwareentwickler vorstellt. Die Studie zeigt, dass wir mit den richtigen Werkzeugen – wie Videos, einfachen Analogien und viel Zeit – die echten Stimmen der Patienten hören können, die Schwierigkeiten beim Sprechen haben.

Die Autoren betonen jedoch vorsichtig, dass es sich um eine formative Studie handelt, was bedeutet, dass es ein erster Schritt ist, um die Methode zu testen, und nicht die endgültige Lösung für die ganze Welt. Sie arbeiteten nur mit sechs Personen in einem Zentrum in Indien. Sie behaupten nicht, das Problem für jeden Schlaganfallüberlebenden überall gelöst zu haben. Stattdessen bieten sie ein Protokoll (ein Rezept) und eine Reihe von Warnungen (eine Checkliste der Biases, die zu vermeiden sind) für jeden an, der KI für Menschen mit Kommunikationsbarrieren entwickeln möchte.

Die große Lektion? Vertrauenswürdige KI bedeutet nicht nur, den Code intelligent zu machen; es geht darum sicherzustellen, dass die Menschen, die ihn benutzen, auch tatsächlich verstehen, was der Code sagt. Und um das zu erreichen, müssen wir lernen, auf eine ganz neue Weise zuzuhören.