Text-to-image models globally default to male, enforce gender stereotypes, and penalize female and nonbinary representations
Cette étude présente la plus grande analyse mondiale des modèles de texte-vers-image, révélant qu'ils reviennent systématiquement à des représentations masculines, imposent des stéréotypes de genre rigides et marginalisent les identités non binaires, amplifiant ainsi les biais de genre structurels et causant des préjudices psychologiques aux groupes sous-représentés.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans le bourdonnement discret d'une ferme de serveurs, un nouveau genre d'artiste est à l'œuvre. Il ne tient ni pinceau ni appareil photo, mais écoute plutôt les mots et peint des images. Cette technologie, connue sous le nom de génération de texte en image, a connu une explosion de popularité, créant des milliards d'images en seulement quelques années. Ces systèmes sont entraînés sur de vastes collections de photos et de textes provenant d'Internet, apprenant à relier des mots comme « médecin » ou « mère » aux détails visuels qu'ils ont vus auparavant. Parce que ces outils sont désormais utilisés par des millions de personnes pour créer des publicités, des histoires et des designs, les images qu'ils produisent sont devenues une force puissante pour façonner la façon dont nous percevons le monde. Si une machine dessine systématiquement un médecin comme un homme et une infirmière comme une femme, cela ne reflète pas seulement une erreur ; cela renforce la croyance que ces rôles appartiennent à des genres spécifiques. La question que les chercheurs se posent désormais n'est pas seulement de savoir si ces machines commettent des erreurs, mais quel genre de monde elles sont en train de construire discrètement pour nous, une image à la fois.
Une équipe de chercheurs s'est donné pour mission d'étudier ce paysage caché en demandant à quatre modèles de pointe de génération de texte en image de produire près d'un million d'images. Ils n'ont pas simplement demandé des images aléatoires ; ils ont construit une expérience mondiale massive. Ils ont demandé aux modèles de dessiner des personnes de vingt-deux pays différents travaillant dans plus de cent métiers et accomplissant diverses activités quotidiennes. Crucialement, ils ont souvent laissé le genre de la personne non spécifié, demandant uniquement « une personne indienne travaillant comme traductrice » ou « un Allemand faisant du jardinage ». En analysant les résultats, l'équipe a découvert un schéma constant : lorsque l'invite ne spécifiait pas de genre, les modèles choisissaient presque toujours de dessiner un homme. En moyenne, 68,6 % des images générées à partir de ces requêtes neutres représentaient des hommes, un chiffre qui augmentait encore davantage pour les métiers impliquant l'autorité ou le pouvoir. Ce recours par défaut à la masculinité n'était pas uniforme à travers le monde ; il était plus prononcé dans les pays présentant des niveaux d'inégalité de genre plus élevés et des revenus plus faibles, suggérant que la technologie absorbe et amplifie les biais sociaux des lieux où elle est utilisée.
L'étude a également examiné de près la qualité des images produites. Lorsque les chercheurs demandaient des genres spécifiques, ils ont constaté que les images d'hommes étaient systématiquement jugées de meilleure qualité, plus réalistes et mieux comprises par l'ordinateur que les images de femmes. Cet écart était le plus important lorsque les femmes étaient représentées dans des métiers traditionnellement occupés par des hommes. Dans ces cas, les images de femmes étaient souvent jugées moins plausibles ou moins réalistes que les images d'hommes dans les mêmes rôles. Les modèles tombaient également dans des stéréotypes rigides concernant l'apparence que devraient avoir les hommes et les femmes. Les images d'hommes étaient fréquemment présentées comme sérieuses, musclées et plus âgées, tandis que les images de femmes étaient presque toujours représentées comme jeunes, minces, souriantes et séduisantes. Ce « stéréotypage bidirectionnel » signifie que les machines ne font pas seulement des hommes la norme, mais construisent activement deux scripts visuels très différents et limitants pour chaque genre.
La découverte la plus frappante concernait les personnes qui ne rentrent pas dans les catégories binaires d'homme ou de femme. Lorsque les chercheurs demandaient aux modèles de générer des personnes non binaires, les systèmes éprouvaient des difficultés significatives. Les images produites étaient souvent de piètre qualité, ne parvenaient pas à capturer l'invite, ou revenaient par défaut à la représentation de jeunes hommes. Cela suggère que pour ces modèles, les identités non binaires ne sont pas seulement sous-représentées, mais sont largement illisibles. Pour comprendre l'impact humain de ces conclusions, les chercheurs ont invité des milliers de personnes à visionner des images d'elles-mêmes — des personnes partageant la même nationalité et le même genre que les sujets des photos. Les retours furent révélateurs. De nombreux participants ont décrit un sentiment d'exclusion ou d'insécurité lorsqu'ils voyaient leur identité réduite à des modèles étroits et stéréotypés. Une personne a noté que voir un « modèle » de son identité était étrange, comme si la machine avait une idée très spécifique et limitée de ce qu'une personne de son pays devrait être. Cependant, lorsque les images brisaient ces stéréotypes — montrant une femme dans un rôle de haute direction ou une personne non binaire de manière authentique — les participants ont décrit un sentiment d'affirmation et d'autonomisation.
Les chercheurs soulignent que ces résultats ne sont pas la faute d'un seul modèle ou d'une seule entreprise. Ils ont testé quatre systèmes différents provenant de développeurs différents, incluant ceux basés en Allemagne, au Royaume-Uni et en Chine, et ont trouvé les mêmes schémas dans tous les cas. Cette cohérence pointe vers un problème plus profond ancré dans les données et les méthodes partagées utilisées pour entraîner ces technologies. L'étude conclut que ces machines ne sont pas des outils neutres ; elles encodent un ensemble de logiques de genre qui traitent l'homme comme le standard humain, pénalisent les femmes qui sortent des rôles traditionnels et effacent les identités non binaires. À mesure que ces systèmes s'intègrent dans notre vie quotidienne, les images qu'ils génèrent risquent de devenir une prophétie autoréalisatrice, rétrécissant discrètement notre imagination collective sur qui appartient à quel endroit et qui a le droit d'être vu.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.