Population representativeness cannot be assessed for most FDA-authorized AI medical devices targeting high-disparity conditions
Cette étude révèle que pour 76,6 % des dispositifs médicaux d'IA autorisés par la FDA ciblant des pathologies à fortes disparités, la représentativité de la population ne peut être évaluée à partir des registres publics en raison de données raciales non déclarées, une lacune qui persiste même en examinant la littérature évaluée par les pairs sous-jacente et soulignant l'échec des directives de divulgation actuelles à garantir l'évaluabilité de l'équité.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
L'intelligence artificielle est devenue discrètement un outil standard de la médecine moderne, aidant les médecins à lire des radiographies, à repérer des tumeurs et à prédire les risques cardiaques. Ces outils ne sont pas magiques ; ce sont des programmes informatiques entraînés sur de vastes quantités de données de patients pour reconnaître des modèles. Pour qu'un programme fonctionne bien pour tout le monde, il doit être entraîné sur un mélange de personnes qui ressemblent aux patients qu'il finira par traiter. Si un outil n'apprend que d'un seul type de personne, il peut échouer lorsqu'il est utilisé sur quelqu'un de différent, ce qui peut conduire à des diagnostics manqués ou à des traitements incorrects. C'est une question d'équité et de sécurité. Lorsqu'un dispositif médical est approuvé pour une utilisation, l'agence gouvernementale qui le réglemente, la Food and Drug Administration, publie un résumé des preuves. Ces documents sont censés être le registre public, montrant qui a été testé et comment le dispositif a performé. La question critique est de savoir si ces résumés racontent toute l'histoire sur les personnes sur lesquelles le dispositif a été testé, en particulier pour les maladies qui affectent certains groupes raciaux et ethniques plus sévèrement que d'autres.
Une équipe de chercheurs s'est donné pour mission de répondre à cette question en examinant presque tous les dispositifs médicaux d'intelligence artificielle approuvés aux États-Unis jusqu'à la fin de 2025. Ils ont examiné 1 428 dispositifs, allant d'outils qui scannent des images cérébrales à ceux qui analysent les rythmes cardiaques. Leur objectif était de voir si les documents publics permettaient à quiconque de juger si les personnes testées sur les dispositifs correspondaient aux personnes qui souffrent réellement des maladies que les dispositifs sont censés traiter. Les chercheurs ont constaté un fossé important dans les informations disponibles. Pour environ trois dispositifs sur quatre conçus pour traiter des pathologies où les disparités raciales sont connues, les documents publics ne rapportaient pas la race ou l'ethnie des personnes dans les données de test. Sans cette information de base, il est impossible de dire si le dispositif a été testé sur un mélange équitable de patients ou s'il a été testé uniquement sur un groupe qui ne représente pas la population globale.
Les chercheurs ont élaboré une liste de contrôle spécifique pour évaluer ces documents, recherchant des détails tels que la race, l'âge et la localisation des patients impliqués dans les tests. Ils ont découvert que, bien que certaines informations soient présentes, les données les plus cruciales concernant la race et l'ethnie étaient absentes dans la grande majorité des cas. Cette information manquante n'était pas seulement due au fait que les résumés étaient trop courts ; les chercheurs ont creusé plus loin et ont examiné les études scientifiques originales derrière les dispositifs. Même lorsqu'ils ont trouvé les articles de recherche complets, les données étaient toujours manquantes dans la plupart des cas. Cela suggère que le problème ne réside pas seulement dans la façon dont le gouvernement résume l'information, mais dans la recherche elle-même. Les études utilisées pour prouver l'efficacité de ces dispositifs ne comportent souvent pas assez de détails sur la démographie des patients impliqués.
L'étude a également révélé que lorsque les données étaient présentes, elles montraient souvent que les groupes de test ne correspondaient pas aux groupes les plus touchés par la maladie. Par exemple, certains dispositifs conçus pour détecter le cancer de la peau, une affection qui peut être plus difficile à diagnostiquer chez les personnes ayant une peau plus foncée, ont été testés presque entièrement sur des personnes à la peau claire. Dans d'autres cas, des dispositifs pour des maladies cardiaques ont été testés sur des populations qui ne reflétaient pas les taux plus élevés de maladies cardiaques observés dans certaines communautés minoritaires. Les chercheurs ont noté que si certains dispositifs fournissaient des informations excellentes et détaillées sur leurs groupes de test, ceux-ci étaient l'exception plutôt que la règle. La plupart du temps, le registre public ne contenait simplement pas les chiffres nécessaires pour porter un jugement équitable.
L'une des conclusions les plus frappantes fut que les chercheurs ne pouvaient pas évaluer de manière fiable l'équité des dispositifs en se basant uniquement sur le texte. Ils ont constaté que lorsqu'on demandait à des experts d'interpréter des descriptions vagues ou de juger si un groupe de patients correspondait bien à une maladie, les experts divergeaient souvent. Cependant, ils pouvaient s'accorder de manière fiable sur des faits simples et binaires : si un nombre était rapporté ou non. Cela a conduit l'équipe à conclure que le système actuel de rapport est insuffisant pour garantir l'équité. Les documents sont trop souvent silencieux sur les détails mêmes qui comptent le plus pour l'équité. Les chercheurs proposent une nouvelle norme simple pour ces rapports, exigeant que les fabricants listent des chiffres spécifiques concernant la race, l'âge et l'origine des personnes testées, plutôt que de rédiger de simples déclarations générales.
Les implications de ce travail sont claires pour les patients, les médecins et les hôpitaux. Si un hôpital souhaite acheter un nouvel outil d'intelligence artificielle pour aider à diagnostiquer une maladie, il ne peut actuellement pas consulter les documents d'approbation publics pour voir si cet outil a été testé sur des personnes semblables à ses propres patients. Il est laissé à l'aveugle. L'étude montre que pour les maladies les plus courantes et les plus mortelles, les outils déployés sont souvent construits sur des données qui ne reflètent pas la réalité des personnes qui en ont le plus besoin. Les chercheurs soulignent que ce n'est pas un problème qui peut être résolu en demandant simplement plus de texte ; l'industrie doit commencer à rapporter des données structurées et spécifiques. D'ici là, le registre public reste incomplet, laissant un angle mort critique dans la sécurité et l'équité de la technologie médicale qui façonne de plus en plus le système de santé américain.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.