Language Models Reproduce Human Reductionist Bias and Decision Inconsistency in Neurodevelopmental Disorders Assessment

Dans le monde complexe des soins de santé mentale, les médecins et les psychologues sont souvent confrontés à une tâche difficile : décider si l'état d'une personne est suffisamment grave pour justifier un soutien gouvernemental. Il ne s'agit pas seulement de diagnostiquer une maladie ; il s'agit de juger dans quelle mesure une personne peut gérer sa propre vie. Dans de nombreux endroits, ce jugement détermine si une famille reçoit de l'argent pour les soins, un logement spécialisé ou le droit qu'un parent reste à la maison pour aider. La décision repose sur une question spécifique : cette personne peut-elle vivre de manière indépendante, ou a-t-elle besoin d'une aide constante pour ses besoins fondamentaux ? Pour les personnes présentant des troubles neurodéveloppementaux comme l'autisme ou le trouble du déficit de l'attention avec ou sans hyperactivité, la réponse est rarement simple. Leurs difficultés peuvent être invisibles dans le bureau d'un médecin, mais accablantes dans le monde réel. Parce que ces décisions ont un tel poids, un espoir grandissant voit en l'intelligence artificielle un moyen d'aider à les rendre plus équitables et plus cohérentes. Les modèles de langage étendus, ces puissants programmes informatiques capables d'écrire et de raisonner, sont testés pour voir s'ils peuvent agir comme des juges impartiaux. Mais avant de leur confier des choix aux enjeux aussi élevés, nous devons comprendre comment ils perçoivent le monde. Interprètent-ils les besoins humains de la même manière que les humains, ou passent-ils à côté des aspects sociaux subtils d'une vie qui rendent l'indépendance possible ?

Une équipe de chercheurs en Pologne s'est donné pour mission de tester cela en soumettant tant des experts humains que l'intelligence artificielle à une série rigoureuse d'épreuves. Ils ont réuni trente-cinq professionnels humains, un mélange de dix-huit médecins et de dix-sept psychologues, qui travaillent régulièrement au sein de commissions d'évaluation du handicap. Ce sont ces comités qui décident de l'attribution du soutien. Pour les comparer équitablement, les chercheurs ont également sélectionné sept modèles de langage différents provenant de grandes entreprises technologiques. L'objectif était de voir si les machines commettraient les mêmes erreurs que les humains, ou si elles apporteraient un nouveau type de biais. Les chercheurs ont conçu une étude qui examinait trois points spécifiques : si les décideurs pouvaient être trompés par l'ordre des informations ou par une photo trompeuse, quel était leur degré d'humilité concernant leurs propres connaissances, et, plus important encore, comment ils définissaient l'expression « besoins vitaux de base ».

L'expérience a débuté par une série d'études de cas fictives. Les experts humains et les modèles informatiques ont été invités à lire des descriptions de personnes présentant divers troubles, puis à répondre à deux questions. Premièrement, ils devaient évaluer le niveau de fonctionnement de la personne. Deuxièmement, ils devaient décider si cette personne avait besoin de soins constants ou d'assistance pour vivre de manière indépendante. Pour tester si les décideurs étaient facilement influençables par des détails non pertinents, les chercheurs ont utilisé quelques ruses. Dans certains cas, ils ont placé toutes les informations négatives sur les difficultés d'une personne au tout début du récit, espérant que le lecteur resterait figé sur ces premières impressions négatives. Dans d'autres cas, ils ont joint une photo d'une personne paraissant triste ou en détresse à un récit par ailleurs identique à un autre avec une photo neutre. Ils voulaient voir si le fait de voir un visage triste inciterait les experts à accorder plus de soutien, même si le texte indiquait que la personne allait bien.

Les résultats de ces ruses ont été étonnamment cohérents entre les deux groupes. Ni les experts humains ni les modèles d'intelligence artificielle n'ont montré de changement significatif dans leurs décisions en fonction de l'ordre du texte ou de l'émotion de la photo. Les deux groupes semblaient ignorer ces distractions pour se concentrer sur les faits essentiels du cas. C'était un soulagement, suggérant que les modèles n'étaient pas facilement dupés par les mêmes indices visuels ou textuels qui pourraient induire un humain en erreur. Cependant, lorsque les chercheurs ont approfondi l'analyse des décisions réelles, un autre type de problème est apparu. Ils ont constaté que ni les humains ni les machines n'étaient très cohérents dans leur logique. Une personne pouvait être évaluée comme ayant un niveau de fonctionnement « significativement altéré », et pourtant, cette même personne pouvait ne pas recevoir le soutien dont elle avait besoin. Inversement, quelqu'un évalué comme ayant un fonctionnement « moyen » pouvait tout de même bénéficier d'aide. La notation du niveau de fonctionnement de la personne ne permettait pas de prédire de manière fiable si elle recevrait le soutien. Cette incohérence existait tant chez les médecins humains que chez les modèles informatiques, suggérant que le passage de la description d'un problème à l'octroi d'une solution est un processus complexe et humain que les machines ont également hérité.

La partie la plus révélatrice de l'étude est sans doute celle où les chercheurs ont demandé aux participants d'expliquer leur raisonnement. Ils ont demandé aux humains et aux machines de définir ce que signifiait réellement les « besoins vitaux de base ». Ici, une division claire est apparue. Les psychologues humains avaient tendance à avoir une vision large. Ils incluaient le bien-être émotionnel, la capacité de communiquer et la connexion sociale comme des éléments essentiels d'une vie de base. Si une personne ne pouvait pas parler aux autres ou comprendre les codes sociaux, les psychologues considéraient cela comme un manquement à un besoin fondamental. Les médecins humains, en revanche, adoptaient une vision plus étroite. Ils se concentraient presque exclusivement sur la survie physique : la capacité de manger, de s'habiller, de marcher et d'utiliser les toilettes. Les modèles d'intelligence artificielle, de manière surprenante, ont pris le parti des médecins. Ils définissaient les besoins de base presque exclusivement en termes de survie biologique et de soins personnels. Ils mentionnaient rarement la communication ou l'interaction sociale, à moins que cela ne soit directement lié à la sécurité physique.

Cette différence de définition a eu un impact direct sur les décisions finales. Parce que les psychologues incluaient les difficultés sociales et de communication dans leur définition des « besoins de base », ils étaient beaucoup plus susceptibles d'accorder un soutien aux patients fictifs. Les médecins et les modèles d'intelligence artificielle, s'en tenant à une liste de contrôle biologique stricte, accordaient le soutien moins souvent. Même si les modèles affirmaient faire preuve d'une grande humilité concernant leurs connaissances — obtenant un score plus élevé au test d'humilité intellectuelle que les médecins humains — cette humilité ne rendait pas leurs décisions plus cohérentes ou plus alignées sur celles des experts humains. En fait, les scores élevés d'humilité des modèles semblaient être un trait superficiel, une façon de parler qui ne se traduisait pas par une compréhension plus profonde de la complexité humaine. Les machines étaient prêtes à admettre qu'elles pouvaient se tromper, mais elles opéraient toujours selon un cadre médical étroit qui occultait la réalité sociale des personnes qu'elles jugeaient.

L'étude conclut que, bien que l'intelligence artificielle puisse être capable d'ignorer des ruses simples comme une photo triste ou un ordre de phrases déroutant, elle n'est pas encore prête à remplacer le jugement humain dans ces domaines sensibles. Les modèles reproduisent une vision réductionniste de la vie humaine, qui privilégie l'indépendance physique sur la connexion sociale et communicative. En se concentrant uniquement sur la capacité du corps à fonctionner, les machines risquent de refuser le soutien à des personnes dont les plus grandes difficultés résident dans le domaine de l'interaction et de la compréhension. Les chercheurs suggèrent que pour que l'intelligence artificielle soit véritablement utile dans l'évaluation de la santé mentale et du handicap, elle doit apprendre à voir la personne dans sa globalité, et non simplement comme une machine biologique. Tant que la technologie ne pourra pas saisir tout le poids de ce que signifie mener une vie humaine, s'appuyer sur elle pour ces décisions pourrait simplement renforcer les perspectives étroites qui compliquent depuis longtemps le travail des experts humains.