Happy Young Women, Grumpy Old Men? Emotion-Driven Demographic Biases in Synthetic Face Generation
Cet article présente un audit systématique de huit modèles de pointe de génération de texte en image provenant d'institutions occidentales et chinoises, révélant que tous présentent des biais persistants liés à la démographie et aux émotions dans la génération de visages synthétiques, quelle que soit leur origine culturelle.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous possédez un artiste magique et surdoué, capable de dessiner n'importe quelle personne que vous décrivez par vos mots, simplement en vous écoutant. Vous dites : « Dessine une personne heureuse », et pof ! Un tableau apparaît. Vous dites : « Dessine une personne en colère », et une autre image surgit.
Ce document est comme un contrôle qualité de huit de ces artistes magiques (quatre venant de l'Ouest, comme les États-Unis et l'Europe, et quatre de Chine). Les chercheurs voulaient savoir : ces artistes sont-ils équitables, ou cachent-ils des préjugés ?
Voici ce qu'ils ont découvert, décomposé en histoires simples :
1. Le « réglage par défaut » est biaisé
Même quand vous ne dites pas à l'artiste qui dessiner (juste « une personne »), les artistes ne dessinent pas un mélange aléatoire de personnes du monde entier. Au lieu de cela, ils ont un réglage par défaut qui est fortement biaisé.
- Le « Club des Jeunes » : Si vous demandez une personne générique, les artistes dessinent presque toujours quelqu'un de jeune (entre 20 et 39 ans). Ils dessinent rarement des enfants ou des personnes âgées. C'est comme si les artistes pensaient que « adulte » ne signifie que « jeune adulte ».
- Le « Mur Blanc » : Les artistes dessinent de manière écrasante des visages blancs, même si les personnes blanches sont une minorité de la population mondiale. Ils dessinent à peine des personnes noires, asiatiques ou d'autres groupes raciaux.
- Le « Déséquilibre de Genre » : Certains artistes adorent dessiner des hommes (jusqu'à 90 % du temps), tandis que d'autres adorent dessiner des femmes (jusqu'à 80 %). Très peu parviennent à trouver le bon équilibre.
La grande surprise : Les chercheurs s'attendaient à ce que les artistes chinois dessinent plus de visages asiatiques parce qu'ils sont formés en Chine. Ce n'est pas le cas. Les artistes chinois dessinaient principalement des visages blancs, tout comme les artistes occidentaux. Il semble que tous ces artistes apprennent de la même bibliothèque de l'« internet mondial », qui est dominée par des images occidentales, ce qui les rend tous identiques.
2. L'émotion change l'image (L'effet « Anneau de Humeur »)
La partie la plus intéressante de l'étude est ce qui se passe lorsque vous ajoutez une émotion à la requête. Les chercheurs ont demandé aux artistes de dessiner des personnes « heureuses », « tristes », « en colère », « effrayées », etc.
Ils ont découvert que l'émotion ne changeait pas seulement le visage de la personne ; elle changeait qui était la personne.
- Le biais du « Heureux » : Lorsqu'on demande de dessiner une personne « heureuse », les artistes dessinent des visages qui ressemblent le plus à leur « réglage par défaut » : jeunes, blancs et souvent féminins. Le bonheur semble être lié à un look spécifique et idéalisé.
- Le basculement « Colère/Tristesse » : Lorsqu'on leur demande de dessiner quelqu'un d'« en colère », de « dégoûté » ou de « triste », les artistes changent de registre. Ils commencent soudainement à dessiner beaucoup plus souvent des personnes âgées, des hommes et des visages blancs.
- Analogie : C'est comme un directeur de casting pour un film. Si le scénario dit « protagoniste heureux », il engage une star jeune et belle. Mais si le scénario dit « méchant en colère » ou « vieil homme grincheux », il engage soudainement un homme blanc plus âgé. L'émotion déclenche un stéréotype sur qui est censé ressentir cela.
3. Le titre « Jeunes femmes heureuses, vieux hommes grincheux »
Le titre de l'article pose la question : « Happy Young Women, Grumpy Old Men ? » (Jeunes femmes heureuses, vieux hommes grincheux ?)
La réponse est oui.
- Le bonheur est presque exclusivement assigné aux jeunes femmes (et aux jeunes en général).
- Les émotions négatives (colère, dégoût, peur) sont disproportionnellement assignées aux hommes plus âgés et aux hommes blancs.
Cela crée un monde visuel où les jeunes femmes sont le « visage » de la joie, tandis que les hommes plus âgés sont le « visage » de la colère.
4. Le problème de la « Boîte Noire »
Les chercheurs ont noté que ces artistes sont des « boîtes noires ». Nous ne savons pas exactement sur quelles images ces artistes ont été entraînés car les entreprises ne partagent pas leurs données d'entraînement. Cependant, en observant le résultat, on peut voir que les artistes ont absorbé les biais d'Internet.
Même si les modèles chinois ont été entraînés en Chine, ils ont tout de même copié le biais occidental consistant à dessiner principalement des visages blancs. Cela suggère que la « culture internet » dont ces modèles tirent leur apprentissage est si dominante qu'elle supplante les contextes culturels locaux.
Résumé
L'article conclut que ces artistes d'IA ne sont pas neutres. Ils sont comme des miroirs qui ne reflètent pas le monde réel, mais plutôt une version déformée et stéréotypée de celui-ci.
- Ils ignorent les personnes âgées.
- Ils ignorent les personnes non blanches.
- Ils lient le bonheur à la jeunesse et à la beauté.
- Ils lient la colère et la négativité aux hommes plus âgés.
Les chercheurs avertissent que si nous utilisons ces outils pour créer du contenu (comme des publicités, des films ou des informations), nous allons accidentellement renforcer ces stéréotypes, faisant du monde un endroit où seuls les jeunes et les blancs sont heureux, et où seuls les hommes blancs âgés sont en colère. Ils suggèrent que nous devons vérifier ces outils plus souvent et exiger plus de transparence sur la façon dont ils sont construits.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.