Generative artificial intelligence in medical postgraduates: a qualitative study of perceived risks, benefits, and responsible use

Imaginez le monde de la médecine comme une immense bibliothèque ancienne où chaque livre contient un secret de guérison. Pendant des siècles, les médecins et les étudiants ont dû lire chaque page à la main pour trouver la bonne réponse. Mais récemment, un nouveau genre d'assistant magique est arrivé : l'Intelligence Artificielle Générative, ou IA générative. Considérez cela comme un bibliothécaire robotique super rapide et super intelligent, capable de lire des millions de livres en une seconde, de les résumer et même de rédiger une histoire pour vous. Cela ressemble à un rêve devenu réalité, n'est-ce pas ? Mais voici le piège : ce bibliothécaire robot peut parfois inventer des choses, oublier de vérifier ses faits, et si vous le laissez écrire votre histoire à votre place, vous pourriez oublier comment écrire la vôtre.

Cet article plonge dans un groupe très spécifique de personnes qui commencent tout juste à utiliser ce robot magique : les étudiants de deuxième cycle en médecine en Chine. Ce sont les jeunes médecins en formation qui apprennent à devenir des experts. Les chercheurs voulaient savoir : ces étudiants adorent-ils le robot ? En ont-ils peur ? Et surtout, comment décident-ils quand laisser le robot les aider et quand faire le travail eux-mêmes ? Ils ne se sont pas contentés de demander une réponse par « oui » ou par « non » ; ils se sont assis pour avoir des conversations profondes afin de comprendre les véritables pensées, peurs et espoirs de ces étudiants face à cette nouvelle technologie.

L'Étude : Écouter les futurs médecins

Les chercheurs ont interrogé 18 étudiants de première année de master issus de cinq spécialités médicales différentes, comme la neurologie (médecins du cerveau), la psychiatrie (médecins de l'esprit) et la radiologie (médecins de l'imagerie). Tous ces étudiants avaient déjà essayé d'utiliser des outils d'IA comme ChatGPT ou DeepSeek pour leurs travaux scolaires. L'équipe a écouté attentivement ce qu'ils disaient, en cherchant des modèles dans leurs récits. Ils ont découvert que les étudiants ont une vision très claire et équilibrée : ils voient l'IA générative comme une « épée à double tranchant », ce qui signifie qu'elle possède un côté tranchant qui peut résoudre les problèmes rapidement, mais aussi un côté dangereux qui peut blesser si l'on n'y prend pas garde.

Le Bon Côté : Le partenaire surpuissant

Les étudiants étaient enthousiastes à l'idée de la quantité de temps que le robot leur fait gagner. Ils le décrivent comme un turbo pour leur cerveau.

• Accélérer la routine : Un étudiant a déclaré que l'IA l'aide à « localiser rapidement la littérature nécessaire », tandis qu'un autre a noté qu'elle peut « analyser rapidement les articles de synthèse ». C'est comme avoir un ami qui peut trouver les meilleurs livres de la bibliothèque en quelques secondes au lieu de plusieurs heures.
• Voir l'invisible : Les étudiants ont été impressionnés par la capacité de l'IA à repérer des détails minuscules que les humains manquent. Un étudiant a expliqué que pour les « petites sténoses [rétrécissements] difficiles à voir à l'œil nu, l'IA peut directement calculer le taux de sténose ». Un autre a mentionné qu'elle pouvait analyser d'énormes quantités de données protéiques pour trouver des marqueurs de maladies. C'est comme donner aux étudiants une vision de rayons X pour les données.
• Un compagnon de brainstorming : L'IA les aide également à relier des points qu'ils n'avaient pas vus auparavant. Un étudiant a dit qu'elle peut « analyser 4 000 articles médicaux... en 10 minutes », les aidant à faire émerger de nouvelles idées plus vite qu'ils ne pourraient le faire seuls.

Le Mauvais Côté : Les mauvaises habitudes du robot

Cependant, les étudiants ne faisaient pas une confiance aveugle. En fait, leur plus grande crainte était de devenir paresseux.

• La peur de la « rouille cérébrale » : C'était la préoccupation la plus courante, mentionnée par 16 étudiants sur 18. Ils craignaient que s'ils laissaient l'IA faire toute la réflexion, leur propre cerveau cesserait de fonctionner intensément. Un étudiant l'a dit crûment : « Utiliser l'IA directement mène à un manque de propre réflexion ». Un autre s'est inquiété que « l'utilisation à long terme de l'IA puisse mener à la paresse mentale ». Ils ont comparé cela à utiliser une calculatrice tellement souvent que l'on en oublie comment faire des mathématiques de base.
• Le problème des « Fake News » : Les étudiants ne faisaient pas confiance à l'IA pour être 100 % véridique. Ils ont noté que l'IA a tendance à « inventer des choses » ou à « halluciner ». Un étudiant s'est plaint que « la plupart des sources de littérature présentées par l'IA sont fausses ». C'est comme un bibliothécaire qui vous indique avec assurance un livre qui n'existe pas réellement.
• Vie privée et Responsabilité : Ils s'inquiétaient également des secrets des patients. S'ils saisissent des données de patients dans l'IA, ils craignent que les données ne fuient, entraînant de la discrimination ou des violations de la vie privée. De plus, ils étaient confus quant à la responsabilité en cas de mauvaise réponse de l'IA. Comme l'a dit un étudiant : « L'IA ne peut pas prendre la responsabilité – le développeur ou l'institution de l'utilisateur doit l'approuver ». Si le robot médecin commet une erreur, qui est responsable ? L'humain ? La machine ? La réponse est actuellement incertaine.

Les Règles : Comment jouer équitablement

Malgré les craintes, les étudiants ne voulaient pas bannir le robot. Ils ont utilisé un proverbe chinois pour expliquer leur position : « Nous ne devrions pas arrêter de manger de peur de s'étouffer ». Au lieu de cela, ils ont tracé une ligne très claire dans le sable sur ce qui est acceptable et ce qui ne l'est pas.

• Feu Vert (Autorisé) : Ils sont heureux d'utiliser l'IA pour polir leur anglais, vérifier leur code informatique ou générer un premier jet d'un article. Ils voient cela comme l'utilisation d'un outil pour les aider à travailler plus vite.
• Feu Rouge (Interdit) : Ils sont fermes sur le fait que l'IA ne devrait jamais générer le diagnostic d'un patient, manipuler des données privées de patients ou créer l'idée originale d'une étude de recherche. Un étudiant a déclaré : « J'utiliserai l'IA pour générer un premier jet, mais je vais certainement le réviser et le vérifier manuellement ». Ils veulent être les capitaines du navire, avec l'IA comme navigateur, et non le capitaine.

Ce qu'ils veulent : L'assistant IA parfait

Enfin, les étudiants ont dit aux chercheurs exactement ce dont ils auraient besoin pour se sentir en sécurité en utilisant ces outils. Ils ne veulent pas d'une « boîte noire magique » qui donne des réponses sans explication. Au lieu de cela, ils veulent une IA qui :

1. Connaît les règles : Elle doit baser ses réponses sur des preuves et des directives médicales réelles et de haute qualité, et non sur de simples suppositions.
2. Protège les secrets : Elle doit être aussi sécurisée qu'un coffre-fort de banque, en respectant les lois strictes sur la confidentialité (comme HIPAA ou le RGPD) pour protéger les données des patients.
3. Explique son travail : Elle ne doit pas seulement donner une réponse ; elle doit expliquer pourquoi elle a donné cette réponse, afin que l'étudiant puisse comprendre la logique.
4. Reste humble : Elle doit clairement se positionner comme un « assistant » du médecin, et jamais comme un remplaçant.

L'essentiel

L'étude suggère que ces futurs médecins ne sont pas de simples utilisateurs passifs de la technologie ; ils réfléchissent de manière critique à la façon de l'utiliser. Ils voient les immenses avantages de l'IA pour l'efficacité et la découverte, mais ils sont profondément préoccupés par la perte de leur propre capacité de pensée créative et critique. Ils ne demandent pas de jeter le robot ; ils demandent un robot qui soit honnête, sûr et clairement défini comme un aide, et non comme un chef. Leur voix suggère que pour que l'IA aide réellement la médecine, nous devons construire des outils qui respectent le jugement humain et maintiennent l'humain aux commandes.