Demographically-Conditioned Synthetic Medical Images for Bias Mitigation and Bias Detection in Disease Classifiers
Cet article propose l'utilisation d'un générateur synthétique conditionné par la démographie pour atténuer le biais d'entraînement par le préapprentissage et détecter le biais d'évaluation dans les classificateurs d'images médicales, démontrant que des cohortes minoritaires synthétiques peuvent surmonter les limitations de taille d'échantillon pour améliorer l'efficacité des classificateurs et fournir des audits d'équité fiables là où les données réelles sont rares.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous essayez d'apprendre à un robot à reconnaître différents types de fruits. Vous lui montrez des milliers d'images de pommes rouges, mais seulement une poignée de poires vertes. Le robot deviendra un expert pour repérer les pommes, mais il pourrait se tromper ou faire des erreurs lorsqu'il voit une poire, simplement parce qu'il n'en a pas vu assez. C'est un problème courant dans l'« apprentissage automatique » (machine learning), où les ordinateurs apprennent en regardant des données. Dans le monde de l'imagerie médicale, cela devient beaucoup plus grave. Si un programme informatique est entraîné pour détecter des maladies dans des scanners CT, mais que les données d'entraînement proviennent principalement d'hommes jeunes, le programme pourrait échouer à détecter la maladie chez des femmes âgées. Ce n'est pas seulement un simple bug ; c'est une forme de biais qui pourrait conduire à des décisions médicales injustes ou dangereuses.
Pour corriger cela, les scientifiques essaient souvent d'« auditer » l'ordinateur, en vérifiant son efficacité sur différents groupes de personnes. Mais voici le hic : dans le monde réel, il y a souvent très peu d'images de ces groupes minoritaires (comme les femmes âgées) pour les tester. C'est comme essayer de juger si un chef est bon pour cuisiner des plats végétaliens quand vous n'avez que trois repas végétaliens à goûter. La taille de l'échantillon est trop petite pour savoir avec certitude si le chef est réellement mauvais ou si vous avez simplement eu de la malchance avec les trois repas que vous avez essayés. Cet article s'attaque précisément à ce problème : comment entraîner une IA médicale équitable quand nous nons pas assez de données réelles, et comment la tester équitableement quand nos ensembles de test sont trop petits ?
Les chercheurs derrière cette étude ont décidé d'essayer une astuce ingénieuse : ils ont construit un générateur de « jumeau numérique ». Considérez cela comme une machine à art magique capable de créer de nouvelles images médicales fictives qui ont l'air réelles, mais qui sont inventées par un ordinateur. Ils ont appris à cette machine à créer des scanners CT spécifiquement pour les groupes qui manquent habituellement, comme les femmes âgées ou les hommes jeunes. Ils ont ensuite utilisé ces images fictives de deux manières. Premièrement, ils les ont utilisées pour le « pré-entraînement » de l'IA médicale, en lui donnant une base large et équilibrée avant de lui montrer les quelques images réelles dont ils disposaient. Deuxièmement, ils ont utilisé les images fictives comme un ensemble de test massif pour voir si l'IA était réellement équitable envers tout le monde.
Les résultats ont été étonnamment efficaces. Lorsqu'ils utilisaient les images fictives uniquement pour ajouter des données à la pile d'entraînement (en les mélangeant aux images réelles), cela améliorait les performances de l'IA par rapport à l'utilisation des seules données réelles, mais ce n'était pas la meilleure approche. C'était comme essayer d'apprendre une langue en lisant un dictionnaire et un roman exactement en même temps ; l'ordinateur devenait un peu confus quant à l'équilibre. Cependant, lorsqu'ils ont utilisé les images fictives d'abord pour construire une base solide, puis qu'ils ont affiné l'IA avec seulement une infime quantité de données réelles (seulement 1 % de la quantité habituelle), les résultats ont été incroyables. L'IA est devenue incroyablement précise et équitable, surpassant même les modèles entraînés sur de vastes quantités de données réelles. C'était comme si l'IA avait appris la « grammaire » de la maladie grâce aux livres fictifs, puis n'avait eu besoin que de quelques phrases réelles pour perfectionner son accent.
Du côté des tests, les images fictives se sont révélées être un super-héros pour les vérifications d'équité. Lorsque les chercheurs ont essayé de tester l'IA sur un petit groupe de patients réels, les résultats étaient fragiles et peu fiables car il y avait trop peu de personnes dans le groupe de test. Mais lorsqu'ils ont testé l'IA sur un vaste groupe de patients « fictifs » générés par leur machine, les résultats étaient beaucoup plus stables. Le test fictif pouvait prédire parfaitement quels groupes l'IA peinait à traiter (en les classant correctement), correspondant aux résultats que vous obtiendriez si vous aviez un ensemble de test réel massif et parfait. En fait, pour les groupes comptant le moins de patients réels, l'ensemble de test fictif était plusieurs fois plus fiable que le test réel. Il est toutefois important de noter que, bien que les données fictives soient excellentes pour identifier où se trouve le biais, les chiffres exacts (comme les scores de précision spécifiques) variaient légèrement par rapport aux données réelles, selon la manière dont l'ordinateur prenait sa décision finale.
L'article soutient explicitement l'idée qu'il ne faut pas simplement mélanger les données fictives et réelles dans un grand pot lors de l'entraînement. Ils ont découvert que, bien que cette approche d'« augmentation conjointe » ait aidé, l'approche en « deux étapes » (apprendre des données fictives d'abord, puis affiner avec les données réelles) était bien supérieure. Le secret résidait dans l'ordre des opérations : apprendre les bases à partir des données fictives équilibrées d'abord, puis affiner avec les données réelles plus tard. Ils ont également montré que, si les données fictives sont excellentes pour identifier où se situe le biais (le classement des groupes), on a toujours besoin de certaines données réelles pour obtenir les chiffres exacts pour les groupes qui sont bien représentés.
En résumé, cet article suggère que nous n'avons pas besoin d'attendre des décennies pour collecter suffisamment de données réelles afin de créer une IA médicale équitable. En utilisant une méthode d'entraînement intelligente en deux étapes avec des images synthétiques, nous pouvons créer des classificateurs équitables avec une fraction des données réelles, et nous pouvons utiliser ces mêmes images synthétiques pour auditer de manière fiable le système pour détecter les biais, en particulier pour les personnes qui sont habituellement laissées de côté. C'est une étape prometteuse vers la garantie que la technologie médicale fonctionne pour tout le monde, et pas seulement pour la majorité.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.