When Do Physicians Trust AI? The Role of Clinical Context in Decision Support: SMART vignette study
Cette étude portant sur 420 médecins américains révèle que l'exposition préalable à l'IA, plutôt que le contexte clinique spécifique ou la quantité d'informations fournies, est le principal facteur influençant positivement la confiance et l'assurance des médecins envers les outils d'aide à la décision clinique assistés par l'IA.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans la médecine moderne, les médecins commencent à utiliser un nouveau genre d'assistant : l'intelligence artificielle. Ces programmes informatiques, souvent appelés systèmes d'aide à la décision clinique, peuvent analyser les dossiers des patients et suggérer les étapes suivantes, comme prescrire un médicament ou orienter un patient vers un spécialiste. La promesse est que ces outils aideront les médecins à faire de meilleurs choix, plus rapidement. Cependant, un outil n'est utile que si la personne qui l'utilise lui fait suffisamment confiance pour l'écouter. Si un médecin ignore le conseil de l'ordinateur parce qu'il ne le comprend pas ou ne pense pas qu'il soit juste, la technologie échoue. La grande question pour les hôpitaux et les chercheurs n'est pas seulement de savoir si le logiciel fonctionne sur un ordinateur, mais de savoir ce qui rend un médecin humain assez confiant pour l'utiliser dans le monde réel. Est-ce le type de problème médical ? Est-ce la quantité d'informations que le médecin reçoit sur la façon dont l'ordinateur réfléchit ? Ou est-ce simplement si le médecin a déjà utilisé ce genre de technologie auparavant ?
Une équipe de chercheurs de l'Université de Stanford s'est donné pour mission de répondre à ces questions en demandant à quatre cent vingt médecins de famille et de médecine interne aux États-Unis de s'imaginer dans des situations médicales spécifiques. Ils ne leur ont pas demandé d'utiliser un véritable programme informatique sur de vrais patients. À la place, ils ont utilisé une méthode de sondage soigneusement conçue où les médecins lisaient de courtes histoires, ou vignettes, concernant une femme de trente-trois ans nommée Jess, qui présentait les symptômes d'un problème de santé. Dans certaines histoires, Jess avait besoin d'une prescription pour la dépression, tandis que dans d'autres, elle avait besoin d'une orientation vers un spécialiste pour des problèmes d'attention. Les chercheurs ont modifié les détails de l'histoire pour tester trois éléments différents. Premièrement, ils ont changé le type de décision médicale, comparant une prescription à une orientation. Deuxièmement, ils ont changé la quantité d'informations que le médecin recevait sur l'outil d'intelligence artificielle lui-même ; certains médecins recevaient une description courte, tandis que d'autres recevaient une description beaucoup plus longue incluant des détails sur l'origine de l'outil et la manière dont il avait été entraîné. Troisièmement, ils ont examiné le propre parcours des médecins, en notant lesquels avaient déjà utilisé l'intelligence artificielle dans leurs recherches ou leur pratique.
Les chercheurs voulaient voir si ces changements augmenteraient ou diminueraient la confiance des médecins dans leur décision finale. Ils émettaient l'hypothèse que les médecins se sentiraient plus confiants s'ils en savaient plus sur le fonctionnement de l'outil, et qu'ils seraient plus sceptiques vis-à-vis de l'outil lorsque la décision impliquait des risques plus élevés, comme la prescription d'un nouveau médicament. Ils se demandaient également si les médecins ayant déjà une familiarité avec l'intelligence artificielle réagiraient différemment à la quantité d'informations fournies. L'étude a révélé que la quantité d'informations n'avait pas autant d'importance que prévu. Que le médecin lise cinq phrases ou dix phrases sur l'outil, sa confiance dans la décision restait la même. Le type de décision médicale n'a pas non plus modifié la confiance globale des médecins, mais cela a changé la perception qu'ils avaient de l'outil lui-même. Lorsque le scénario impliquait la prescription d'un médicament, les médecins étaient moins enclins à croire que l'outil donnerait des conseils cohérents pour chaque patient et étaient plus susceptibles de se fier à leur propre jugement plutôt qu'à la suggestion de l'ordinateur. En revanche, lorsque le scénario impliquait une orientation, ils étaient plus disposés à faire confiance à la cohérence de l'outil.
La découverte la plus significative, cependant, est venue de l'examen des expériences passées des médecins. L'étude a montré que les médecins ayant déjà utilisé l'intelligence artificielle dans leurs recherches ou leur pratique clinique se sentaient nettement plus confiants dans leurs décisions finales lors de l'utilisation de l'outil. Ces médecins expérimentés étaient également plus susceptibles de dire que l'outil améliorait les soins qu'ils pouvaient fournir et que le résultat de l'ordinateur contribuait à leur choix final. Cela suggère que la familiarité engendre la confiance. Curieusement, les chercheurs ont constaté que l'expérience préalable ne poussait pas les médecins à faire une confiance aveugle à l'outil ; au contraire, elle les rendait plus sûrs de leur propre capacité à utiliser l'outil efficacement. L'étude a également écarté l'idée que le simple fait de déverser plus de détails techniques sur le logiciel sur un médecin permettrait de renforcer sa confiance. En fait, l'information supplémentaire n'avait aucun impact mesurable sur leur confiance ou sur leur perception de l'efficacité de l'outil.
Ces résultats suggèrent que la voie vers l'intégration de l'intelligence artificielle en médecine dépend moins de la perfection du manuel d'utilisation que de la préparation des personnes qui l'utiliseront. Les chercheurs concluent que la formation des futurs médecins devrait se concentrer sur la manière de peser les suggestions de l'ordinateur aux côtés de leur propre jugement clinique, plutôt que de simplement leur apprendre comment manipuler le logiciel. Si les médecins doivent faire confiance à ces outils, ils doivent comprendre comment les utiliser en contexte, et leur confiance semble croître naturellement avec l'expérience. L'étude souligne que, bien que la technologie progresse rapidement, l'élément humain demeure le facteur critique. Pour que l'intelligence artificielle aide réellement les patients, la communauté médicale doit s'assurer que les médecins se sentent prêts et disposés à travailler aux côtés de celle-ci, une préparation qui semble provenir de l'exposition et de la pratique plutôt que de la simple accumulation de données.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.