From Dyad to Triad: Eliciting XAI Requirements in Stroke Rehabilitation

L'entraîneur invisible et le patient silencieux

Imaginez que vous apprenez à faire du vélo, mais qu'au lieu d'un parent tenant la selle, c'est un robot qui vous guide. Ce robot voit vos vacillements et sait exactement quand vous êtes sur le point de tomber. Mais voici le hic : le robot ne parle jamais. Il se contente d'incliner le guidon ou d'arrêter les pédales. Vous pourriez être frustré, en vous demandant : « Ai-je pédalé trop fort ? La batterie est-elle faible ? Le robot est-il cassé ? » C'est le monde de l'IA explicable (XAI). En termes simples, l'XAI est l'art de faire en sorte que les programmes informatiques nous disent pourquoi ils ont pris une décision, plutôt que de simplement nous montrer le résultat.

Maintenant, imaginez que ce robot aide un survivant d'un accident vasculaire cérébral (AVC) à réapprendre à bouger le bras. Un AVC est comme une coupure de courant dans le câblage du cerveau, laissant souvent les personnes incapables de parler clairement ou de traiter rapidement des idées complexes. Pendant des années, les médecins ont été les « entraîneurs » dans ce scénario, expliquant aux patients pourquoi un exercice a échoué et comment le corriger. Mais à mesure que la technologie intervient pour aider, l'équipe passe d'un duo (médecin et patient) à un trio (médecin, patient et robot). La grande question est la suivante : comment demander à une personne qui lutte pour trouver les mots justes quel genre d'« explication » elle attend d'un robot ? Si vous lui demandez : « Préférez-vous une explication contrastive ou une explication contrefactuelle ? », elle risque de simplement vous regarder fixement. Cet article explore précisément ce problème, en essayant de comprendre comment écouter des patients qui ne peuvent pas toujours parler pour eux-mêmes, afin que les robots qu'ils utilisent ne soient pas seulement fonctionnels, mais qu'ils fassent réellement sens pour eux.

---

De « Quoi ? » à « Pourquoi ? »

Cet article porte sur une expérience ingénieuse conçue pour résoudre un casse-tête de communication. Les chercheurs voulaient savoir ce dont les survivants d'AVC ont réellement besoin de comprendre de la part des systèmes d'IA qui les aident à récupérer. Mais il y avait un obstacle : beaucoup de ces patients souffrent d'aphasie, une condition qui rend difficile la parole ou la compréhension de langages complexes. Si vous leur demandez directement : « Quel type de transparence voulez-vous de cet algorithme ? », ils pourraient rester bloqués ou, pire, dire simplement « oui » à tout ce que vous suggérez par peur de poser problème.

L'équipe, dirigée par Param Rajpura et Yogesh Kumar Meena, a décidé de cesser de poser des questions abstraites pour commencer à montrer des histoires. Ils ont créé un protocole d'étayage basé sur la vidéo. Pensez à l'« étayage » comme aux supports en bois temporaires que les constructeurs utilisent pour aider à bâtir un mur. Ici, le « bois » était une série de courtes vidéos de 2 minutes montrant un personnage nommé Sunita essayant d'utiliser une interface cerveau-machine (ICM) pour bouger son bras. Les vidéos montraient des problèmes réalistes — comme une machine qui fonctionne parfois mais pas d'autres fois, ou qui donne des retours confus — mais elles ne montraient pas la solution. Au lieu de cela, les vidéos s'arrêtaient juste au moment de la confusion, demandant aux spectateurs : « Qu'est-ce qui aiderait Sunita ici ? »

Pour tirer le meilleur parti de ces vidéos, les chercheurs ont utilisé quatre astuces spéciales, ou « approches d'étayage », pour aider les patients à exprimer leurs besoins :

1. Le pont du « système familier » (Pont analogique) : Au lieu de parler de « signaux neuronaux » ou d'« impédance », les facilitateurs comparaient l'IA à des choses que tout le monde connaît. Par exemple, ils ont comparé un mauvais signal cérébral à un appel de téléphone portable interrompu. Soudain, l'idée de « réparer le signal » devenait parfaitement claire pour un patient qui n'avait jamais entendu parler de la technologie EEG.
2. Le bouclier de la « tierce personne » (Personnages projectifs) : Demander directement à un patient : « Êtes-vous inquiet pour votre vie privée ? » peut être effrayant ou embarrassant. Ainsi, les chercheurs ont demandé : « De quoi une personne sceptique s'inquiéterait-elle ? ». Cela permettait aux patients d'exprimer leurs craintes sans avoir l'impression d'admettre une faiblesse.
3. Le choix « A ou B » (Forçage binaire) : Parfois, les questions ouvertes sont trop lourdes. Les chercheurs ont simplifié les choses : « Voulez-vous un petit résumé ou un rapport volumineux ? » ou « La machine doit-elle vous dire quoi faire, ou un humain doit-il expliquer l'erreur ? ». Cela réduisait la charge mentale et permettait aux patients de faire des choix clairs.
4. La règle du « Silence est d'or » (Temps de réponse prolongé) : Ils accordaient aux patients 15 à 30 secondes de silence après avoir posé une question. Pour une personne atteinte d'aphasie, ce temps supplémentaire est la différence entre un regard vide et une réponse réfléchie.

Ce qu'ils ont trouvé : Une foule de voix différentes

L'étude a impliqué trois survivants d'AVC (dont deux présentaient une aphasie modérée à sévère) et trois aidants familiaux. Les résultats ont été surprenants et ont montré que les patients ne sont pas un groupe uniforme.

• Ils veulent des niveaux de détail différents : Un patient voulait un rapport minuscule et simple (« Dites-moi juste si je l'ai fait »), tandis qu'un autre voulait un compte rendu détaillé, mouvement par mouvement. Si les concepteurs n'avaient interrogé qu'une seule personne, ils auraient pu construire un système qui agacerait l'autre.
• Ils font confiance à des « entraîneurs » différents : Quand le médecin disait une chose et la machine une autre, certains patients faisaient confiance au médecin, tandis que d'autres faisaient confiance aux chiffres de la machine car ils les jugeaient plus « objectifs ». Curieusement, peu importe qui ils faisaient confiance, tous ont déclaré qu'ils travailleraient plus dur s'ils se sentaient soutenus.
• Ils veulent des types d'aide différents : Certains patients voulaient que la machine leur parle directement pour qu'ils puissent corriger leurs propres erreurs. D'autres préféraient qu'un membre de la famille ou un humain explique d'abord l'erreur, car ils ne se sentaient pas encore assez confiants pour discuter avec une machine.

Le piège caché : Le biais de l'« expert »

L'article met également en lumière un problème délicat : les chercheurs eux-mêmes peuvent accidentellement fausser les résultats. En observant leurs propres interactions, ils ont découvert trois façons dont ils orientaient involontairement les réponses :

1. Le biais du « Plus est mieux » : Lorsqu'un patient demandait un rapport simple, le facilitateur le résumait parfois en tant que « rapport complet » parce qu'il supposait que la complexité était ce que l'IA pouvait offrir. Cela effaçait accidentellement la préférence réelle du patient pour la simplicité.
2. Le biais du « Oui, je le savais » : Lorsqu'un patient donnait une réponse surprenante (comme dire qu'il voulait que la machine connaisse ses pensées), le facilitateur passait parfois rapidement à la réponse suivante attendue, manquant ainsi une information précieuse.
3. L'effet du « Docteur dans la pièce » : Parce qu'un médecin était présent, les patients disaient parfois qu'ils faisaient plus confiance au médecin qu'à la machine, même s'ils préféraient réellement la machine. La présence de l'autorité changeait la réponse.

La conclusion

Cet article suggère que nous ne pouvons pas simplement supposer que nous savons ce dont les patients ont besoin. Nous ne pouvons pas concevoir un robot entraîneur basé sur ce qu'un médecin pense qu'un patient a besoin, ou sur ce qu'un ingénieur logiciel imagine être le mieux. L'étude montre qu'avec les bons outils — comme les vidéos, les analogies simples et beaucoup de temps — nous pouvons entendre les vraies voix des patients qui luttent pour parler.

Cependant, les auteurs précisent qu'il s'agit d'une étude formative, ce qui signifie qu'il s'agit d'une première étape pour tester la méthode, et non d'une solution finale pour le monde entier. Ils n'ont travaillé qu'avec six personnes dans un seul centre en Inde. Ils ne prétendent pas avoir résolu le problème pour tous les survivants d'AVC partout. Au lieu de cela, ils proposent un protocole (une recette) et un ensemble d'avertissements (une liste de contrôle des biais à éviter) pour quiconque tente de concevoir une IA pour les personnes ayant des barrières de communication.

La grande leçon ? Une IA de confiance ne consiste pas seulement à rendre le code intelligent ; il s'agit de s'assurer que les personnes qui l'utilisent peuvent réellement comprendre ce que le code dit. Et pour faire cela, nous devons apprendre à écouter d'une toute nouvelle manière.