Public perceptions of AI-driven decision-making in healthcare: A structural equation modeling approach

Imaginez le système de santé comme une immense bibliothèque animée où les médecins sont les bibliothécaires en chef. Pendant des années, ils ont été les seuls autorisés à chercher des livres, à organiser les étagères et à recommander des histoires pour vous aider à vous sentir mieux. Mais récemment, un nouveau genre d'assistant est arrivé : un bibliothécaire robotique super rapide et super intelligent, propulsé par l'intelligence artificielle (IA). Ce robot peut scanner des millions de livres en une seconde, repérer des modèles que les humains pourraient manquer, et même suggérer l'histoire parfaite pour votre humeur spécifique. Cela semble incroyable, n'est-ce pas ? Mais voici le hic : ce n'est pas parce que le robot est rapide que tout le monde lui fait confiance. Certains craignent que le robot ne se trompe dans l'histoire, qu'il vole leurs secrets ou qu'il remplace entièrement le bibliothécaire humain.

Cette étude plonge dans l'esprit des gens ordinaires pour répondre à une grande question : faisons-nous confiance à ce nouveau bibliothécaire robotique, ou avons-nous peur qu'il gâche notre santé ? Pour comprendre les réponses, nous devons savoir quelques choses. Premièrement, il y a la « littératie en IA », ce qui est juste une façon sophistiquée de dire : « Savez-vous comment ce cerveau robotique fonctionne ? » Ensuite, il y a la « familiarité », qui est simplement la fréquence à laquelle vous avez vu ou utilisé ces robots dans votre vie quotidienne. Enfin, il y a l'idée de la « supervision humaine », qui est la croyance que le bibliothécaire humain est toujours aux commandes, surveillant le travail du robot pour s'assurer qu'il fait ce qu'il faut. Les chercheurs voulaient voir si le fait d'en savoir plus sur le robot, de l'utiliser soi-même ou de faire confiance au bibliothécaire humain changeait la perception que nous avons de son utilité, de ses risques ou de son équité.

Les chercheurs, une équipe de l'Université d'Amsterdam, ont décidé de prendre un instantané géant du public néerlandais pour voir ce qu'ils pensent réellement. Ils ont demandé à près de 4 000 personnes — environ la moitié d'hommes et la moitié de femmes, avec un âge moyen de 52 ans — de remplir un sondage. Ils n'ont pas seulement demandé : « Aimez-vous l'IA ? » Ils ont décomposé cela en trois sentiments spécifiques : la prise de décision automatisée (PDA) dans les soins de santé est-elle utile ? Est-elle risquée ? Et est-elle équitable ?

Pour trouver les réponses, ils ont utilisé un outil mathématique spécial appelé Modélisation par Équations Structurelles. Considérez cela comme une carte géante et complexe qui relie différents points. Les chercheurs ont dessiné des lignes entre des éléments comme « Combien savez-vous sur l'IA ? » et « Pensez-vous que c'est risqué ? » pour voir quels points tiraient les cordes les plus fortes. Ils ont regardé si les personnes utilisant des chatbots pour des conseils de santé ressentaient les choses différemment de celles qui utilisent seulement Google. Ils ont également vérifié si les personnes faisant confiance à leurs médecins pour faire la différence entre une note écrite par un humain et une note écrite par une IA se sentaient plus en sécurité vis-à-vis de l'ensemble du système.

Alors, qu'a révélé la carte ? Les résultats sont un peu comme des montagnes russes avec des rebondissements surprenants.

Premièrement, plus les gens en savaient sur les différents types d'IA (comme les chatbots, les deepfakes ou l'IA générative), plus ils pensaient qu'elle pouvait être utile. C'est comme savoir comment fonctionne un tour de magie permet d'apprécier davantage le talent du magicien. Mais voici le rebondissement : cette familiarité a aussi fait qu'ils pensaient qu'elle était plus risquée. Il semble que lorsque vous en savez un peu plus sur le robot, vous réalisez qu'il ne s'agit pas seulement d'un outil parfait ; c'est un outil puissant qui peut mal fonctionner. Ainsi, en savoir plus ne les a pas seulement rendus amoureux de l'outil ; cela les a aussi rendus plus conscients des dangers. Donc, en savoir plus ne les a pas seulement rendus admiratifs ; cela a aussi accru leur vigilance face aux dangers.

Deuxièmement, l'étude a découvert quelque chose de très intéressant concernant le bibliothécaire humain. Le facteur le plus important qui a fait penser aux gens que l'IA était équitable et utile était leur confiance dans la capacité du médecin à faire la distinction entre un contenu généré par une IA et un contenu humain. Si une personne croyait : « Mon médecin peut repérer si un ordinateur a écrit ceci », elle était beaucoup plus susceptible de penser que l'ensemble du système était équitable. Il s'avère que nous nous soucions moins de faire confiance au robot lui-même que de faire confiance à l'humain qui tient la laisse du robot. Si nous pensons que l'humain est aux commandes et peut repérer les erreurs, nous nous sentons en sécurité.

Troisièmement, les personnes qui utilisaient réellement des agents conversationnels (comme des chatbots ou des assistants virtuels) pour obtenir des informations de santé ressentaient les choses différemment des autres. Ces utilisateurs pensaient que le système était moins risqué et plus équitable. C'est comme faire du vélo : la première fois que l'on monte dessus, on se sent chancelant et effrayé. Mais une fois qu'on l'a conduit quelques fois, cela semble normal et sûr. Utiliser ces outils semblait transformer le robot effrayant en un assistant amical. Cependant, l'étude a noté que la plupart des personnes interrogées n'utilisaient pas encore très souvent ces chatbots, donc cet effet de « faire du vélo » n'avait pas encore eu lieu pour tout le monde.

Curieusement, l'étude a également examiné si les personnes utilisant des sites web de santé traditionnels (comme les pages officielles d'hôpitaux) ressentaient les choses différemment. Il s'est avéré que le fait de s'appuyer sur ces sources numériques « à l'ancienne » faisait penser aux gens que l'IA était plus risquée, mais cela ne changeait pas vraiment leur opinion sur son utilité ou son équité. C'est comme si le fait de s'en tenir aux « vieilles méthodes » rendait le nouveau robot encore plus suspect.

Une chose que l'étude n'a pas trouvée est un lien fort entre la « littératie en IA » (votre compréhension de la technologie) et le sentiment que l'IA est risquée. Vous pourriez penser que si vous comprenez le fonctionnement d'un moteur de voiture, vous auriez moins peur de lui. Mais pour l'IA, comprendre son fonctionnement n'a pas nécessairement rendu les gens plus sereins face aux risques. Les chercheurs suggèrent que cela pourrait être dû au fait que comprendre la technologie permet à certains de voir clairement les dangers, tandis que d'autres deviennent trop confiants, ce qui s'annule mutuellement.

Les chercheurs ont pris soin de préciser que cette étude est un instantané dans le temps, et non un film sur le futur. Ils ne peuvent pas affirmer avec certitude que l'utilisation de chatbots provoque chez les gens un sentiment de moindre peur ; ils savent simplement que les deux phénomènes vont de pair. Ils ont également noté que leur sondage utilisait des questions simples, de sorte qu'il pourrait y avoir plus de nuances dans ces sentiments qu'ils n'ont pu saisir.

En fin de compte, l'histoire que raconte ce document est celle de la confiance. Elle suggère que pour que l'IA devienne véritablement une partie utile des soins de santé, nous n'avons pas seulement besoin de meilleurs robots. Nous devons nous assurer que les gens font confiance aux médecins humains qui les utilisent. Si les gens croient que leurs médecins peuvent surveiller l'IA et détecter toute erreur, le public est beaucoup plus susceptible de voir la technologie comme équitable et utile. Mais si nous oublions l'humain dans la boucle, le robot pourrait simplement nous apparaître comme une machine effrayante et risquée.