Résumé technique : Étude des biais sociaux dans la génération d'images narratives

Énoncé du problème

Alors que les modèles de génération de texte en image (T2I) sont de plus en plus déployés dans les médias, l'éducation et le design, des préoccupations persistent concernant leur tendance à reproduire des biais sociaux. Les recherches antérieures ont largement documenté que les modèles T2I associent des catégories démographiques spécifiques à des professions, des traits et des rôles sociaux. Cependant, les évaluations de biais existantes se concentrent principalement sur la génération d'images photoréalistes à prise unique. Ce champ étroit laisse une lacune critique : il n'est pas clair si, et comment, les biais sociaux se manifestent dans les formats visuels narratifs (tels que les storyboards et les bandes dessinées), où le sens est construit à travers la continuité des personnages, le séquençage des événements, la progression temporelle et l'interaction entre les éléments visuels et textuels. Les auteurs postulent que les biais qui restent subtils ou invisibles dans les photos statiques peuvent devenir explicites ou amplifiés dans les formats de narration séquentielle.

Méthodologie

L'étude adapte le cadre BBG (Bias Benchmark for Generation), conçu à l'origine pour la génération de texte, pour évaluer les modèles de génération d'images. La méthodologie comprend les composantes suivantes :

• Construction des prompts : Les auteurs ont sélectionné 140 prompts de base issus du jeu de données BBG, couvrant sept catégories de biais sociaux : l'âge, le handicap, le genre, l'apparence physique, la race/nationalité, la religion et le statut socio-économique (SSE). Ces prompts étaient intentionnellement ambigus sur le plan contextuel, laissant non spécifiés certains attributs clés (par exemple, quel personnage possède un trait ou un résultat spécifique). Le jeu de données comprend 70 prompts en anglais et 70 en coréen pour étudier le biais translinguistique.
• Modèles évalués : Six modèles T2I de pointe ont été testés :
  • Propriétaires : GPT-Image-1.5, GPT-Image-2, Gemini-3.1-Flash-Image et Gemini-3-Pro-Image.
  • Open-Source : FLUX.1-Dev et SDXL.
• Paramètres de génération : Pour chaque prompt, les sorties ont été générées sous trois formats distincts :
  1. Image photoréaliste : Une image statique unique.
  2. Storyboard : Croquis rudimentaires se concentrant sur le cadrage des plans et la couverture de la caméra sans texte.
  3. Bande dessinée en quatre cases : Un récit séquentiel intégrant des éléments visuels avec des bulles de dialogue, des légendes et une narration.
• Protocole d'évaluation : Quatre auteurs ont annoté manuellement les images générées (2,4K au total) en se basant sur les réponses implicites aux questions de la BBG. Les sorties ont été étiquetées comme biaisées, contre-biaisées ou neutres. L'étude a également utilisé un codage thématique pour identifier les schémas visuels et narratifs récurrents. Une étude de cas sur la génération de vidéo (Sora-Pro-2 et Veo-3.1) a été menée pour étendre les conclusions aux médias temporels.

Résultats clés

Résultats quantitatifs

• Les formats narratifs amplifient le biais : Les modèles propriétaires ont généré nettement plus de sorties biaisées dans les formats narratifs par rapport aux photos. En moyenne, les modèles propriétaires ont produit 25,9 % de sorties biaisées lors de la génération de photos. Ce taux a augmenté de 9,6 points de pourcentage (pp) pour la génération de storyboards et de 18,2 pp pour la génération de bandes dessinées.
• Disparités linguistiques : La prévalence du biais était plus élevée dans les prompts coréens que dans les prompts anglais, les contextes coréens affichant un taux de sortie biaisée supérieur de 7,2 pp en moyenne. L'écart le plus important est apparu dans la génération de photos (par exemple, Nano Banana 2 a montré une augmentation de 17,4 pp).
• Performance des modèles ouverts : Les modèles ouverts (FLUX.1-Dev et SDXL) ont généré des sorties neutres dans 93,6 % des cas en moyenne. Cependant, les auteurs attribuent cela à une faible capacité de suivi des instructions plutôt qu'à une atténuation efficace des biais, notant que ces modèles échouaient souvent à incorporer les indices démographiques ou généraient un contenu culturellement inadéquat.

Résultats qualitatifs

• Biais explicite vs implicite : Dans la génération de photos, les biais sont souvent encodés par des indices visuels subtils (ex. : vêtements spécifiques, accessoires ou expressions). En revanche, les storyboards et les bandes dessinées révèlent les biais de manière plus explicite à travers le séquençage des événements, le positionnement des personnages, la résolution narrative et les éléments textuels (ex. : des bulles de dialogue énonçant explicitement des stéréotypes).
• Persistance des associations visuelles : Les associations visuelles stéréotypées (ex. : des individus « créatifs » représentés avec une mode décontractée/hippie ou des symboles d'ampoules) ont persisté à travers tous les formats, même lorsque le style de sortie changeait.
• Stéréotypes stratifiés : Les formats narratifs ont exposé des biais allant au-delà de la simple assignation de rôles. Par exemple, le raisonnement derrière l'échec ou la dépendance d'un personnage différait selon le stéréotype (ex. : la dépendance d'une infirmière est présentée comme une vulnérabilité émotionnelle, tandis que celle d'une personne aveugle est présentée comme un besoin pratique).
• Atténuation de surface : Les modèles tentaient parfois d'éviter le biais en introduisant des éléments anti-stéréotypés ou des fins moralisatrices (ex. : réconcilier des voisins en conflit). Cependant, les auteurs notent que cela ne supprime pas nécessairement les associations sous-jacentes, car des indices visuels subtils peuvent toujours renforcer les stéréotypes.
• Inadéquation culturelle : Dans les contextes coréens, les modèles ont fréquemment échoué à s'aligner sur les nuances culturelles, générant du texte en anglais ou des langues mixtes, ou produisant une imagerie occidentale ou trop traditionnelle de l'Asie de l'Est qui ne correspondait pas au contexte culturel du prompt.

Signification et contributions

L'article revendique trois contributions principales :

1. Première étude du biais narratif : Il présente la première investigation systématique du biais social dans les formats de génération d'images narratives, comparant les images photoréalistes aux storyboards et aux bandes dessinées en quatre cases.
2. Preuve du biais dépendant du format : Il démontre que les modèles propriétaires présentent un biais nettement plus élevé dans les formats narratifs (storyboards et bandes dessinées) que dans la génération d'images uniques, suggérant que les évaluations d'images uniques sont insuffisantes pour capturer toute l'étendue du biais des modèles.
3. Mécanismes qualitatifs : Il fournit des preuves qualitatives sur la manière dont les biais se manifestent différemment selon les formats — passant de indices visuels subtils dans les photos à un renforcement narratif et textuel explicite dans les bandes dessinées.

Les auteurs concluent que les formats d'images narratives servent de sonde plus puissante pour le biais des modèles que la seule génération de photos. Ils soutiennent que l'évaluation des systèmes T2I nécessite d'aller au-delà des sorties d'images uniques pour tenir compte de divers formats de génération, car les biais qui sont moins visibles dans les images statiques peuvent surgir et devenir plus préjudiciables dans les contextes de narration séquentielle. L'étude souligne également la nécessité d'évaluer les capacités multilingues et transculturelles, notant que les modèles actuels échouent souvent à ancrer les prompts dans leurs contextes culturels spécifiques.