Mastery Without a Master: Clinical Deskilling and the Post-Hegelian Paradox of Artificial Intelligence

Dans l'hôpital moderne, le travail d'un médecin a toujours été une conversation entre le jugement humain et le savoir accumulé. Pendant des siècles, ce jugement s'est construit par la pratique : un médecin apprend à diagnostiquer en voyant de nombreux patients, en pesant des indices incertains et en pratiquant les étapes mentales consistant à problématiser, à envisager des alternatives et à expliquer un choix. Ce processus ne consiste pas seulement à obtenir la bonne réponse aujourd'hui ; il s'agit de garder l'esprit assez vif pour obtenir la bonne réponse demain. Nous savons par l'expérience que les compétences, qu'elles soient chirurgicales ou de raisonnement, nécessitent un exercice régulier pour rester solides. Si une personne cesse de pratiquer une tâche complexe, même si elle détient toujours le titre d'expert, sa capacité à accomplir cette tâche sans aide peut s'étioler discrètement. C'est sur ce fond qu'une nouvelle question a émergé : que se passe-t-il lorsque les outils mêmes conçus pour aider les médecins à réfléchir changent aussi leur façon de réfléchir ?

Un article récent d'Andrea Mangiameli explore cette question en examinant comment l'intelligence artificielle remodèle la médecine clinique. L'auteur soutient que, bien que l'IA puisse accomplir de nombreuses tâches efficacement, le fait de s'appuyer trop lourdement sur elle pour le travail de raisonnement fondamental crée un danger caché. Ce danger n'est pas que la machine commette une erreur, mais que le médecin humain perde progressivement la capacité de réfléchir de manière autonome à un problème. L'article suggère que lorsqu'un médecin laisse de manière répétée un système d'IA cadrer un cas, générer une liste de possibilités ou rédiger une explication, il cesse de pratiquer ces muscles mentaux spécifiques. Avec le temps, cela mène à un état que l'auteur appelle « maîtrise abdiquée ». Dans cet état, le médecin détient toujours le titre officiel et la responsabilité finale des soins du patient, mais sa capacité réelle à exercer ce jugement de manière indépendante s'est érodée. Le système reste sous contrôle humain en nom, mais la capacité humaine requise pour le contrôler véritablement a diminué.

L'article construit cet argument en examinant comment les compétences se forment et se maintiennent. Il s'appuie sur l'idée que l'expertise professionnelle n'est pas une chose statique que l'on possède, mais une capacité vivante qui dépend d'une pratique continue. Lorsqu'un médecin utilise une IA pour résumer l'histoire d'un patient ou suggérer un diagnostic, il s'engage souvent dans un processus d'évaluation plutôt que de création. Il coche une case plutôt que de construire la boîte. L'auteur souligne que ce changement semble inoffensif sur le moment car les soins assistés paraissent souvent satisfaisants. L'IA fournit une réponse qui semble correcte, la paperasse est complète et le patient est traité. Cependant, l'article note que cette performance fluide cache un coût à long terme. Le médecin ne pratique plus le travail difficile de partir de zéro, de lutter avec l'incertitude ou de construire une explication inédite à partir de la base.

Ce processus est décrit comme un « paradoxe post-hégélien », une référence à une ancienne idée philosophique sur les maîtres et les serviteurs, mais appliquée ici aux médecins et aux machines. Dans l'idée originale, un maître qui compte entièrement sur un serviteur pour interagir avec le monde finit par perdre sa propre connexion avec ce monde. Dans la version médicale, le médecin est le maître et l'IA est le serviteur. Le paradoxe est que le médecin peut conserver l'autorité formelle tandis que l'IA effectue le gros du travail de raisonnement, pourtant la capacité propre du médecin à raisonner de manière indépendante disparaît lentement. L'article suggère qu'il ne s'agit pas d'une défaillance soudaine, mais d'une dérive graduelle. Un médecin peut utiliser l'IA pour une liste de problèmes, puis pour un diagnostic différentiel, puis pour un plan de traitement. Chaque étape ressemble à un petit raccourci raisonnable. Mais après des mois ou des années de ces petits raccourcis, le médecin peut se retrouver incapable de générer une liste de problèmes ou un plan de traitement sans la machine. L'autorité demeure, mais la substance de la compétence a été vidée.

La recherche souligne que ce problème est différent pour les médecins expérimentés et pour ceux qui sont encore en formation. Pour un médecin expérimenté, le risque est le « déclassement des compétences » (deskilling), où une capacité qu'il possédait autrefois est perdue parce qu'il ne l'utilise plus. Pour un stagiaire, le risque est la « maîtrise prématurément clôturée » (foreclosed mastery), où il n'a jamais la chance de construire la compétence en premier lieu. Si un étudiant en médecine commence toujours par un résumé généré par l'IA, il pourrait ne jamais apprendre comment transformer un récit de patient vague en un problème médical structuré. Il pourrait parvenir à la conclusion correcte, mais il aurait sauté l'effort mental qui construit la compréhension profonde nécessaire pour gérer des cas inhabituels ou complexes. L'article soutient que cela crée un fossé dangereux : le médecin peut suivre le chemin de l'IA, mais si le chemin disparaît ou mène à une impasse, le médecin peut ne pas avoir les ressources pour trouver une nouvelle voie.

L'auteur souligne que cela ne revient pas à blâmer les médecins pour l'utilisation de la technologie. L'article reconnaît que les médecins utilisent souvent l'IA parce qu'ils sont occupés, parce que l'hôpital l'attend d'eux ou parce que cela les aide à se concentrer sur d'autres aspects de leurs soins aux patients. Le problème est systémique. La façon dont les hôpitaux sont organisés, la façon dont les dossiers électroniques sont conçus et la façon dont la formation est conduite encouragent tous ce type de délégation. L'article note que les mesures actuelles de succès en médecine regardent souvent uniquement le résultat immédiat : le patient va-t-il mieux ? L'IA a-t-elle aidé ? Ces indicateurs ignorent le changement à long terme dans la capacité du médecin. Un médecin peut bien performer pendant des années avec l'assistance de l'IA, pour ensuite être confronté à une situation où l'IA échoue ou où le cas est trop unique pour le système, et le médecin se retrouve dépourvu de la compétence indépendante pour intervenir.

Le concept de « contrôle humain significatif » est central à la conclusion de l'article. L'auteur soutient que pour qu'un médecin soit véritablement en contrôle, il doit avoir la capacité réelle de questionner, de modifier ou de rejeter la suggestion de l'IA. Cette capacité n'est pas seulement un droit légal de signer un formulaire ; c'est une compétence pratique qui doit être maintenue vivante par la pratique. Si un médecin ne peut que répéter ce que dit l'IA, il n'exerce pas un contrôle significatif. Il ne fait que relayer un message. Le véritable contrôle exige la capacité de comprendre pourquoi une recommandation convient à un patient spécifique, de repérer quand elle ne convient pas, et de construire un plan différent lorsque le plan standard échoue. L'article suggère que cette capacité est fragile. Elle peut être préservée, mais seulement si le système médical crée intentionnellement de l'espace pour que les médecins pratiquent ces tâches difficiles et non assistées.

L'article ne prétend pas que l'IA est mauvaise ou qu'elle devrait être bannie. Au contraire, il avertit que la voie de la dépendance totale est un piège. Il suggère que l'avenir du jugement médical dépend de la façon dont nous gérons l'équilibre entre assistance et indépendance aujourd'hui. Si nous laissons l'IA faire toute la réflexion, nous risquons de créer une génération de médecins qui sont formellement responsables mais substantiellement incapables de penser par eux-mêmes. La solution proposée n'est pas d'arrêter d'utiliser les outils, mais de s'assurer que les outils ne remplacent pas la pratique qui garde l'esprit humain vif. Les médecins doivent continuer à cadrer les cas, générer des alternatives et justifier leurs choix, même lorsque l'IA propose de le faire pour eux. C'est la seule façon de garantir que, lorsque la machine se tait, le médecin est toujours capable de parler avec autorité.

Enfin, l'article présente un avertissement discret mais urgent sur la nature de l'expertise à l'ère de l'intelligence artificielle. Il suggère que la chose la plus précieuse qu'un médecin possède n'est pas son accès à l'information, mais sa capacité à synthétiser cette information en un jugement qui s'adapte à une vie humaine unique. Cette capacité se construit par le travail lent et souvent difficile de la pratique. Si ce travail est délégué, la capacité s'efface. L'article conclut que préserver la capacité humaine de juger n'est pas seulement un détail technique ; c'est une nécessité éthique. Un système peut sembler être sous contrôle humain, avec des médecins validant chaque décision, mais si les médecins ont perdu la capacité de prendre ces décisions de manière indépendante, le contrôle est une illusion. L'avenir de la médecine, suggère l'auteur, dépend de la reconnaissance que la façon dont nous utilisons nos outils aujourd'hui façonnera le type de médecins que nous aurons demain.