Strategic Patient Involvement in Medical AI Co-Design: A Pilot Study in Heart Failure

Dans les services d'urgence des hôpitaux du monde entier, les médecins sont confrontés chaque jour à une question difficile et urgente : lorsqu'un patient arrive avec une insuffisance cardiaque, peut-il rentrer chez lui en toute sécurité, ou doit-il rester hospitalisé ? Cette décision est cruciale. Renvoyer une personne malade trop tôt peut entraîner une nouvelle visite ou pire encore, tandis que garder une personne stable à l'hôpital gaspille des ressources et retarde les soins pour les autres. Pour aider à faire ces choix, des scientifiques construisent des programmes informatiques qui utilisent l'intelligence artificielle pour prédire le risque d'un patient. Ces outils analysent des données médicales pour deviner qui pourrait empirer son état. Cependant, pendant longtemps, ces outils ont été conçus par des médecins et des ingénieurs qui décident quelles informations sont importantes et à quoi les résultats doivent ressembler. Les personnes qui vivent réellement avec cette pathie cardiaque, et qui doivent vivre avec les conséquences de ces décisions, ont rarement été sollicitées pour aider à façonner les outils eux-mêmes.

Une nouvelle étude pilote menée par une équipe de chercheurs en Espagne et aux Pays-Bas demande ce qui se passe lorsque l'on inverse ce scénario. Au lieu de demander aux patients de simplement regarder un produit fini et de dire s'ils l'aiment, les chercheurs ont invité des personnes souffrant d'insuffisance cardiaque à concevoir l'outil de toutes pièces. L'objectif était de voir si les patients, lorsqu'ils recevaient le véritable pouvoir de décider du fonctionnement de la technologie, créeraient quelque chose de différent de ce que les experts avaient imaginé. L'étude a révélé que lorsque les patients étaient traités comme des partenaires stratégiques plutôt que comme de simples testeurs, ils réimaginaient complètement l'outil. Ils l'ont éloigné d'un simple calculateur pour médecins pour en faire un guide de soutien pour les patients, un outil qui s'exprime en langage clair, respecte leurs besoins émotionnels et refuse de donner une réponse lorsqu'il n'est pas sûr de lui.

Les chercheurs ont réuni onze personnes ayant une expérience vécue de l'insuffisance cardiaque lors d'un atelier de deux jours à Barcelone. Avant de se rencontrer en personne, les participants ont suivi un cours en ligne pour apprendre les bases du fonctionnement de l'intelligence artificielle, afin que tout le monde parte sur un pied d'égalité. Une fois arrivés, on ne leur a pas demandé de critiquer un prototype. Au contraire, on leur a donné la liberté de décider de ce que l'outil devait être, à qui il devait servir et comment il devait se compendre. L'atelier était structuré autour des principes d'une technologie digne de confiance, guidant le groupe à travers des activités telles que la cartographie du parcours d'un patient, la création de personas pour différents types de personnes et la mise en situation de la manière dont l'outil s'intégrerait dans une véritable visite médicale. Les participants travaillaient en deux groupes distincts et, de manière remarquable, les deux groupes sont arrivés à un design presque identique sans s'être parlé.

Le changement le plus frappant opéré par les participants concernait la finalité même de l'outil. Le projet avait débuté avec l'idée d'un écran destiné aux médecins dans les services d'urgence pour les aider à décider des sorties d'hospitalisation. Les patients ont immédiatement souligné une faille dans ce raisonnement : si l'outil n'est destiné qu'aux médecins, les patients eux-mêmes ne le voient jamais, et ils ne comprennent jamais le risque ou le plan. Ils ont insisté pour que l'outil soit une application mobile pour le patient. Ils voulaient être ceux qui saisissent leurs propres informations, et non simplement subir la collecte de leurs données par une machine. Ils ont soutenu que l'outil ne devrait pas seulement regarder un instantané de leur fonction cardiaque lors d'une crise, mais devrait les comprendre en tant que personnes entières. Cela impliquait d'inclure des détails sur leur vie, tels que leur régime alimentaire, leurs pratiques religieuses, leur situation de logement et leur capacité à voyager, car tous ces facteurs modifient la manière dont une prédiction de risque s'applique à eux.

En ce qui concerne la manière dont l'outil doit présenter ses résultats, les participants ont rejeté les chiffres froids et bruts courants dans les statistiques médicales. Ils ont expliqué que voir une probabilité de décès spécifique, telle que « 6,4 pour cent », était terrifiant et inutile. Au lieu de cela, ils voulaient que le risque soit présenté sous forme de catégories larges et compréhensibles, comme faible, moyen ou élevé. Plus important encore, ils voulaient que l'outil leur dise quoi faire ensuite. Un score de risque seul n'est qu'un chiffre ; un score de risque associé à une étape claire et exploitable, telle que « appelez votre médecin aujourd'hui » ou « surveillez votre poids », est une chose qu'une personne peut utiliser. Ils voulaient également que l'outil soit honnête sur ses propres limites. Si l'ordinateur ne disposait pas de suffisamment de données pour faire une estimation fiable pour une personne spécifique, les participants ont déclaré que l'outil devrait simplement dire : « Je ne peux pas vous répondre pour le moment », plutôt que de donner un chiffre faux ou trompeur. Ils considéraient ce silence comme une forme d'honnêteté et un moyen de bâtir la confiance, plutôt que comme un échec de la technologie.

Le design comprenait également un moyen pour les patients de contrôler la quantité d'informations qu'ils souhaitaient recevoir. Les participants ont reconnu qu'en période de maladie aiguë, ils pourraient ne pas avoir l'énergie de lire une explication complexe. Ils ont conçu un système où ils pouvaient choisir le niveau de détail. Ils pouvaient voir un résumé simple, ou, s'ils le souhaitaient, cliquer pour voir des informations plus techniques sur la manière dont la prédiction a été établie. Cela leur donnait le pouvoir de décider de la quantité d'informations qu'ils pouvaient gérer à n'importe quel moment donné. Ils ont également souligné que l'outil devait être un pont entre eux et leurs médecins, leur permettant de partager leurs données personnelles avec leur équipe de soins et de recevoir des mises à jour en retour, créant ainsi un partenariat plutôt qu'un flux d'informations unidirectionnel.

Malgré le succès de l'atelier, les participants ont été réalistes quant aux défis qui subsistent. Ils ont souligné que transformer ces idées en un produit réel et fonctionnel est difficile. Ils ont noté que les lois sur la confidentialité des données, le coût de construction et de maintenance des logiciels, ainsi que la manière dont les hôpitaux sont financés créent souvent des barrières qui empêchent les bonnes idées d'atteindre le produit final. Un participant a noté qu'un seul atelier ne suffit pas à résoudre ces problèmes structurels profonds, et que le processus d'implication des patients doit être normalisé et soutenu par un financement et un temps appropriés. Les chercheurs ont acquiescé, notant que si les patients ont produit une vision claire et cohérente, le chemin allant de cette vision à un outil entre les mains d'un médecin reste incertain.

Cette étude suggère que lorsque les personnes ayant une expérience vécue sont disposées à concevoir la technologie qui affecte leur vie, elles ne se contentent pas de modifier l'interface ; elles redéfinissent le problème. Elles ont déplacé l'attention d'un outil aidant un médecin à gérer un lit d'hôpital vers un outil aidant une personne à gérer sa vie. Elles ont montré que pour une technologie à enjeux élevés, particulièrement lorsqu'elle implique le risque de décès, les besoins émotionnels et pratiques de l'utilisateur sont aussi importants que l'exactitude mathématique de l'algorithme. Ce travail démontre que les patients sont capables de pensée stratégique sur des systèmes complexes, à condition d'être traités comme des partenaires et non comme des sujets. Bien que l'outil décrit dans cette étude ne soit pas encore en usage, les spécifications de conception créées par le groupe offrent un nouveau modèle pour la manière dont l'intelligence artificielle médicale pourrait être construite pour servir les personnes qu'elle est censée aider, plutôt que simplement les systèmes qui les utilisent.