Beyond Predictive Fairness: Quantifying Attribution Consistency Across Demographic Groups in Diabetic Retinopathy Screening
Cet article introduit l'Explanation Consistency Score (ECS) pour quantifier la similitude des cartes d'attribution entre les groupes démographiques dans le dépistage de la rétinopathie diabétique, révélant que si la performance prédictive varie selon l'ethnicité, les preuves visuelles utilisées par les modèles restent cohérentes, démontrant ainsi que l'équité prédictive et la cohérence de l'explication sont des dimensions complémentaires du comportement des modèles.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans le monde de l'imagerie médicale, les ordinateurs sont devenus remarquablement habiles pour repérer des maladies sur des photographies du corps humain. Ils peuvent scanner des images de la rétine, la couche sensible à la lumière située à l'arrière de l'œil, et identifier les signes de la rétinopathie diabétique, une affection qui peut conduire à la cécité si elle n'est pas traitée. Pour que ces systèmes soient dignes de confiance dans un hôpital, ils doivent être équitables. Cela signifie qu'ils doivent fonctionner aussi bien pour un patient d'un certain milieu que pour un patient d'un autre. Traditionnellement, les médecins et les chercheurs vérifiaient cette équité en examinant le score final : l'ordinateur a-t-il rendu le bon diagnostic ? S'il a manqué la maladie chez un groupe de personnes mais l'a détectée chez un autre, c'est un problème. Cependant, obtenir la bonne réponse n'est que la moitié de l'histoire. Un ordinateur pourrait arriver au bon diagnostic pour de mauvaises raisons, par exemple en remarquant un artéfact subtil dans l'image qui s'avère plus courant dans un groupe spécifique, plutôt qu'en voyant réellement la maladie elle-même. Pour vraiment faire confiance à ces outils, nous devons savoir non seulement ce qu'ils décident, mais aussi comment ils voient le monde.
Une équipe de chercheurs de l'Université de Tübingen, en Allemagne, s'est donné pour mission d'étudier cette couche de compréhension plus profonde. Ils ont posé une question simple mais profonde : lorsqu'un ordinateur regarde une image de l'œil pour trouver une rétinopathie diabétique, se concentre-t-il sur les mêmes parties de l'œil pour tout le monde, quelle que soit l'origine ethnique ? Pour trouver la réponse, ils se sont tournés vers une vaste collection d'images rétiniennes provenant de l'ensemble de données EyePACS, qui comprenait des photographies de patients de cinq origines ethniques majeures : latino-américaine, d'ascendance africaine, d'origine indienne, caucasienne et asiatique. Ils ont entraîné un système de vision par ordinateur standard pour distinguer les yeux sains des yeux présentant les premiers signes de la maladie. Une fois le système prêt, les chercheurs ne se sont pas contentés de vérifier s'il avait raison ou tort ; ils ont demandé au système de montrer son raisonnement. En utilisant une technique qui met en évidence les zones spécifiques d'une image qui ont influencé la décision, ils ont créé des cartes visuelles montrant exactement où l'ordinateur regardait.
Les chercheurs ont ensuite développé une nouvelle façon de mesurer la similitude de ces cartes visuelles entre les différents groupes. Ils ont comparé les modèles d'attention moyens de l'ordinateur pour chaque ethnie afin de voir si la focalisation changeait selon l'identité du patient. Ils ont découvert un décalage frappant entre la performance et l'attention. La capacité de l'ordinateur à identifier correctement la maladie variait considérablement d'un groupe à l'autre. Par exemple, il était bien meilleur pour détecter la maladie chez les patients d'origine indienne, avec une AUC de 0,83, comparativement à une AUC de 0,54 pour les patients caucasiens. Il s'agit d'un écart substantiel en matière d'équité prédictive. Pourtant, lorsque les chercheurs ont examiné les cartes visuelles, l'histoire changeait complètement. L'ordinateur regardait les mêmes endroits de la rétine pour chaque groupe. Que le patient soit d'origine indienne, africaine ou caucasienne, le système se concentrait systématiquement sur les mêmes caractéristiques rétiniennes pour prendre sa décision. La similitude de ces modèles visuels était extrêmement élevée, avec des scores de cohérence allant de 0,85 à 0,92 sur une échelle où un représente un accord parfait.
Pour s'assurer que ces résultats n'étaient pas simplement dus au fait que certains groupes présentaient des cas plus graves de la maladie, les chercheurs ont répété l'analyse en regroupant les patients strictement par la gravité de leur état. Même en comparant des patients présentant exactement le même stade de la maladie, l'ordinateur continuait de regarder les mêmes régions pour tout le monde. La cohérence restait élevée, suggérant que la différence de performance n'était pas causée par le fait que l'ordinateur utilisait une logique différente ou regardait des indices différents pour certaines personnes. Au contraire, l'ordinateur semblait appliquer le même raisonnement visuel à tous les patients, même s'il réussissait moins bien à appliquer ce raisonnement à certains groupes.
Cette découverte suggère que les deux principales façons dont nous jugeons habituellement l'équité de l'intelligence artificielle mesurent en réalité des choses différentes. Un système peut être équitable dans sa façon de penser, en se concentrant sur les mêmes preuves médicales pour tout le monde, tout en étant injuste dans ses résultats, en échouant à diagnostiquer certains groupes aussi souvent que d'autres. Les chercheurs n'ont trouvé aucun lien fort entre la performance de l'ordinateur et la cohérence de son regard sur les images. Cela signifie que rendre un modèle plus précis pour un groupe ne résoudra pas automatiquement la façon dont il voit le monde, et inversement, un modèle qui regarde les bonnes choses peut toujours peiner à obtenir les bonnes réponses pour tout le monde. L'étude conclut que pour construire une IA médicale véritablement digne de confiance, nous devons regarder au-delà du simple score final. Nous devons comprendre le raisonnement derrière la décision, en veillant à ce que l'ordinateur ne se contente pas de deviner correctement, mais qu'il voie la maladie de la même manière pour chaque patient.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.