Trust in, acceptance of, and responsibility for, artificial intelligence in healthcare: patient and healthcare practitioner considerations

Cette étude qualitative menée aux Pays-Bas révèle que, bien que les professionnels de santé et les patients partagent des préoccupations communes concernant la responsabilité de l'IA en santé, leurs perspectives divergent sur des aspects clés tels que la validation technique et l'intégration clinique pour les premiers, et l'attention humaine et la confiance pour les seconds.

L'essentiel

🏥 L'Intelligence Artificielle à l'Hôpital : Qui fait confiance à qui ?

Imaginez que l'hôpital est un grand navire en pleine mer. Depuis quelques années, on a installé un nouveau GPS ultra-sophistiqué (l'Intelligence Artificielle ou IA) pour aider le capitaine (le médecin) à naviguer et à décider quand il est temps de faire descendre les passagers (les patients) à terre (les renvoyer à la maison après une opération).

Mais avant d'activer ce GPS, les chercheurs de l'Erasmus MC à Rotterdam ont posé une question simple : Est-ce que tout le monde est d'accord pour utiliser ce GPS ?

Ils ont interrogé deux groupes : les médecins et infirmières (l'équipage) et les patients (les passagers). Voici ce qu'ils ont découvert, traduit avec des images simples.

---

1. Le niveau de compréhension : "Je connais le nom, mais pas le moteur" 🤔

Tout le monde sait que l'IA existe, un peu comme tout le monde connaît les voitures électriques. Mais la façon dont on les comprend varie :

• Les médecins : Certains sont comme des mécaniciens qui connaissent le moteur. Ils parlent de "données", de "validation" et d'erreurs de 10 %. D'autres disent : "C'est un peu flou pour moi, c'est juste un gros mot à la mode."
• Les patients : Pour eux, l'IA, c'est un peu comme un robot dans un film. Ils savent que ça existe, mais ils ne savent pas comment ça marche.
• Le point clé : Personne ne rejette l'IA par peur, mais tout le monde dit : "Je ne peux pas faire confiance à une boîte noire si je ne comprends pas ce qu'il y a dedans."

2. La boussole humaine vs. Le GPS (L'autonomie) 🧭

C'est ici que ça devient intéressant.

• Les médecins disent : "Le GPS est bien, mais c'est moi le capitaine. Si le GPS dit 'tourne à gauche' mais que mon 'feeling' (mon expérience) me dit 'non, il y a un iceberg', je fais confiance à mon feeling." Ils ont peur de devenir des robots qui suivent aveuglément la machine.
• Les patients disent : "Je veux que le capitaine m'écoute. Si le GPS dit que je peux partir, mais que je me sens mal, je veux pouvoir dire : 'Attendez, je ne suis pas prêt'."
• Le conflit : Les médecins pensent que les patients ne veulent pas savoir comment le GPS fonctionne. Mais les patients disent : "Si vous utilisez un robot pour décider de ma santé, je veux savoir pourquoi !".

3. La responsabilité : Qui est le coupable si on se trompe ? ⚖️

Imaginez que le GPS vous mène dans un fossé. Qui est responsable ?

• Les médecins disent : "C'est moi le capitaine, c'est ma responsabilité finale. Je dois vérifier le GPS." Mais ils avouent aussi que c'est compliqué : "Si le GPS est nul, est-ce que c'est la faute du médecin ou de l'usine qui a fabriqué le GPS ?"
• Les patients sont plus détendus : "Tant que le médecin prend la décision finale, c'est lui le responsable. Je lui fais confiance."
• La leçon : Les médecins sont très stressés par cette responsabilité, alors que les patients font confiance à l'humain, pas à la machine.

4. La confiance : On ne fait pas confiance à la machine, on fait confiance à la personne 🤝

C'est la découverte la plus importante de l'étude.

• Pour les médecins, la confiance en l'IA se gagne comme on gagne la confiance en un nouveau collègue : il faut des preuves, des tests, et il faut surveiller qu'il ne fait pas d'erreurs avec le temps.
• Pour les patients, la confiance en l'IA est indirecte. Ils ne font pas confiance au GPS, ils font confiance au médecin. Si le médecin dit : "J'ai vérifié ce GPS et il a raison", alors le patient accepte.
• L'analogie : C'est comme si vous preniez un taxi. Vous ne faites pas confiance au moteur de la voiture, vous faites confiance au chauffeur qui sait conduire. Si le chauffeur utilise un GPS, vous vous fiez à son jugement pour savoir si le GPS a raison.

5. Le travail quotidien : Un outil ou une charge supplémentaire ? 🛠️

• L'espoir : Tout le monde espère que l'IA va faire le travail ennuyeux (compter les chiffres, remplir des dossiers) pour que les médecins aient plus de temps pour parler aux patients. "Si l'ordinateur peut lire 1000 dossiers en une seconde, laissez-le faire !".
• La peur : Les médecins ont peur que l'IA devienne une nouvelle corvée. "Si je dois cliquer sur 100 boutons pour utiliser le GPS, je vais préférer ne pas l'utiliser." Ils veulent que ça s'intègre parfaitement, comme un outil qui glisse dans la poche, sans effort.

---

🎯 Le message final en une phrase

Cette étude nous dit que pour que l'IA fonctionne à l'hôpital, il ne suffit pas de créer une machine intelligente. Il faut construire un pont entre la technologie et l'humain.

Les médecins doivent apprendre à utiliser l'outil sans perdre leur "boussole intérieure", et les patients doivent sentir que leur voix compte toujours, même quand un ordinateur donne son avis. L'IA ne doit pas remplacer le médecin, ni le patient, mais servir de super-assistant qui respecte les deux.

En résumé : Pas d'IA sans confiance, et pas de confiance sans transparence et sans humain au volant. 🚗💨

Résumé technique

1. Problématique et Contexte

Bien que l'intelligence artificielle (IA) suscite un engouement majeur dans le secteur de la santé avec des investissements massifs, un fossé d'implémentation persiste : seulement environ 2 % des modèles d'IA parviennent à être déployés au chevet du patient.
L'étude identifie plusieurs lacunes critiques :

• Manque de recherche empirique : Peu d'études comparent les perspectives des professionnels de santé (HCP) et des patients sur l'IA.
• Défiance et adoption : La méfiance envers les systèmes, les questions de responsabilité, de confiance et d'acceptabilité freinent l'adoption clinique.
• Biais épistémique : Il existe un risque que les praticiens utilisent l'IA non pas comme un outil d'aide, mais comme une autorité pour convaincre les patients, potentiellement au détriment de l'autonomie et de la relation médecin-patient.

L'objectif de cette recherche est d'analyser qualitativement les attitudes, la confiance et la perception de la responsabilité envers l'IA dans un contexte clinique réel (un modèle de décision de sortie hospitalière après chirurgie digestive).

2. Méthodologie

L'étude adopte une approche qualitative exploratoire basée sur des entretiens semi-structurés.

• Lieu et Population : L'étude s'est déroulée au Erasmus MC (Rotterdam, Pays-Bas) au sein du département de chirurgie oncologique et gastro-intestinale.
• Échantillon : 30 participants recrutés par échantillonnage raisonné :
  • 18 professionnels de santé (10 chirurgiens, 8 infirmiers).
  • 12 patients ayant subi une chirurgie gastro-intestinale dans les 12 mois précédents.
• Données : Les entretiens (30-45 min) ont été menés en personne (pour les HCP) ou en ligne (pour les patients).
• Analyse : Les données ont été transcrites et analysées via le logiciel ATLAS.ti. Une analyse thématique a été réalisée en combinant un codage déductif (basé sur la littérature existante) et inductif (émergeant des données), permettant d'identifier les thèmes dominants et les divergences entre les groupes.

3. Contributions Clés

Cette étude apporte plusieurs contributions originales :

1. Comparaison directe des parties prenantes : C'est l'une des rares études qualitatives à comparer systématiquement les perceptions des praticiens et des patients sur les mêmes thèmes (confiance, responsabilité, acceptation) dans un seul cadre méthodologique.
2. Focus sur un cas clinique réel : L'étude ne se base pas sur des concepts abstraits, mais sur un modèle d'IA validé (le modèle DESIRE) utilisé pour les décisions de sortie hospitalière, augmentant la pertinence pratique des résultats.
3. Identification de l'écart épistémique : Elle met en lumière comment les praticiens sous-estiment souvent le désir des patients de comprendre le rôle de l'IA et la nature de la confiance (centrée sur le médecin pour les patients, centrée sur la validation technique pour les médecins).

4. Résultats Principaux

L'analyse a révélé trois catégories thématiques majeures avec 10 sous-catégories :

A. Connaissances de l'IA (AI Knowledge)

• HCP : La littératie est inégale. Certains médecins parlent de validation technique, tandis que d'autres ont une compréhension superficielle. La plupart soulignent l'importance de comprendre les limites et les sources de données plutôt que le code source.
• Patients : La connaissance est souvent médiatique ("surface-level"). Cependant, ils ne rejettent pas l'IA par ignorance ; ils considèrent que la compréhension est une condition pour une confiance éclairée.

B. Éthique et Relation Médecin-Patient

• Autonomie :
  • Les HCP craignent le biais d'automatisation et insistent sur le maintien du "humain dans la boucle" et de l'intuition clinique.
  • Les patients expriment une préoccupation majeure : ne pas être "entendus" ou avoir leur voix étouffée par une recommandation algorithmique.
• Responsabilité :
  • Les HCP affirment que la responsabilité finale reste au médecin, mais reconnaissent une tension : ils assument la responsabilité de décisions basées sur des outils dont ils ne font pas entièrement confiance.
  • Les patients attribuent la responsabilité au médecin, mais certains perçoivent une dimension plus distribuée (développeurs, hôpital).
• Explicabilité :
  • Les HCP souhaitent une transparence sur les variables d'entrée pour valider la décision, mais jugent souvent inutile d'expliquer le "boîte noire" aux patients.
  • Découverte majeure : Contrairement aux suppositions des médecins, de nombreux patients souhaitent être informés de l'utilisation de l'IA et de son rôle dans leur prise de décision.

C. Implications Opérationnelles et Cliniques

• Intégration au flux de travail : L'acceptation est conditionnée à une intégration transparente dans le dossier médical électronique (DME). Les HCP craignent que l'IA n'ajoute une charge administrative supplémentaire.
• Qualité des données : Préoccupation majeure concernant la qualité des données d'entraînement, les biais (représentativité des populations) et la généralisabilité des modèles à d'autres contextes cliniques.
• Confiance :
  • Pour les HCP, la confiance est épistémique : elle dépend de la validation, de la surveillance continue et de la preuve de performance.
  • Pour les patients, la confiance est relationnelle : elle est médiatisée par la confiance en leur médecin traitant, et non en l'algorithme lui-même.

5. Signification et Conclusion

Cette étude démontre que le déploiement réussi de l'IA en santé ne dépend pas uniquement de la précision technique des modèles, mais de la gestion des dimensions éthiques et relationnelles.

• Divergence des attentes : Il existe un décalage significatif entre ce que les médecins pensent que les patients veulent (souvent peu d'informations techniques) et ce que les patients expriment réellement (désir de transparence et d'inclusion).
• Risque d'injustice épistémique : L'utilisation de l'IA comme "preuve" pour convaincre un patient réticent risque de marginaliser la voix du patient.
• Recommandations :
  • Nécessité de programmes de formation à la littératie en IA pour les deux groupes.
  • Conception de systèmes centrés sur l'utilisateur qui s'intègrent fluidement au flux de travail clinique sans alourdir la charge administrative.
  • Adoption d'une approche de communication adaptative pour informer les patients sur le rôle de l'IA, préservant ainsi l'autonomie et la relation de confiance.

En somme, l'adoption de l'IA en santé exige une approche holistique qui combine rigueur technique, gouvernance éthique et attention particulière à la dynamique de la relation soignant-soigné.