Résumé technique : RAIGen – Identification d'attributs rares dans les modèles génératifs de texte-vers-image

1. Énoncé du problème

Les modèles de diffusion texte-vers-image (T2I), tels que Stable Diffusion, génèrent des images de haute fidélité mais héritent et amplifient les biais de leurs données d'entraînement. Alors que les travaux antérieurs traitent cela via des approches en ensemble fermé (atténuation des biais dans des catégories prédéfinies comme le genre ou la race) ou des approches en ensemble ouvert (identification des attributs majoritaires dominants), une lacune critique subsiste. Les méthodes existantes négligent la sous-représentation systématique d'attributs rares ou minoritaires qui sont encodés dans les représentations internes du modèle mais supprimés lors de la génération. Ces attributs peuvent être sociaux, culturels ou stylistiques et ne sont pas nécessairement connus a priori. La suppression des attributs dominants ne conduit pas automatiquement à l'amplification de ces caractéristiques sous-représentées ; elle réalloue souvent la masse de probabilité de manière inégale. Il est nécessaire d'avoir un cadre pour découvrir systématiquement ces attributs minoritaires « supprimés » sans dépendre d'étiquettes prédéfinies.

2. Méthodologie : Le cadre RAIGen

RAIGen est un cadre sans étiquette (label-free) conçu pour identifier les attributs rares directement à partir des représentations latentes internes des modèles de diffusion. Il opère à travers trois étapes principales :

2.1. Décomposition des caractéristiques via les Autoencodeurs Creux Matryoshka (MSAEs)

Pour mapper les représentations internes entrelacées en caractéristiques sémantiquement interprétables, RAIGen utilise des Autoencodeurs Creux Matryoshka (MSAEs).

• Entrée : Le cadre extrait les représentations de goulot d'étranglement ($h_t$) d'un modèle de diffusion pendant le processus d'échantillonnage inverse (généralement au dernier pas de temps où l'information sémantique est la plus exprimée).
• Architecture : Les MSAEs décomposent ces représentations en une hiérarchie de caractéristiques latentes éparses ($z$) à différents niveaux de granularité.
• Sélection du niveau : Bien que les MSAEs offrent des niveaux fins, RAIGen se concentre sur le niveau le plus grossier ($k_1$). Les niveaux plus fins ont tendance à fragmenter un concept unique en parties localisées et fragiles, tandis que le niveau le plus grossier produit des caractéristiques sémantiquement et spatialement cohérentes, adaptées à l'identification d'attributs globaux.

2.2. Le Score de Minorité

Pour distinguer les attributs rares et significatifs du bruit ou des caractéristiques communes, RAIGen introduit un Score de Minorité ($s$) qui combine deux signaux complémentaires :

1. Fréquence d'activation ($\nu$) : La proportion d'échantillons dans un ensemble de données où un neurone spécifique est actif. Les attributs rares correspondent à des neurones ayant une faible fréquence d'activation.
2. Distinction sémantique ($d$) : La distance cosinus entre le centroïde CLIP pondéré par l'activation du neurone ($\mu_i$) et le centroïde global de l'ensemble de données ($\mu_{D_c}$). Cela garantit que le neurone représente un concept qui dévie de manière significative de la moyenne sémantique de l'ensemble de données.

Le score est calculé comme suit :
$$s(z) = d \odot (1 - \nu)$$
Cette formulation privilégie les neurones qui sont à la fois infrequemment actifs et sémantiquement distincts.

2.3. Pipeline de découverte et de vérification

• Classement : Les neurones sont classés par leur Score de Minorité.
• Déduplication : Pour garantir un ensemble compact et diversifié, la redondance est évaluée via les distances cosinus par paires entre les centroïdes des neurones. Les neurones ayant des sémantiques similaires sont filtrés, ne conservant que le représentant au score le plus élevé.
• Interprétabilité : Les images les plus actives pour les neurones sélectionnés sont visualisées avec des cartes de chaleur d'activation MSAE. Des annotations lisibles par l'humain sont générées à l'aide de Modèles de Langage Multimodaux (MLLM) pour décrire les attributs découverts.
• Nature sans étiquette : Le processus ne nécessite aucune catégorie de minorité prédéfinie ou étiquette d'attribut, s'appuyant uniquement sur les représentations internes du modèle et un a priori sémantique pré-entraîné (CLIP) pour la mesure de la distinction.

3. Contributions clés

1. Premier cadre sans étiquette : RAIGen est le premier cadre, à la connaissance des auteurs, pour l'identification d'attributs rares dans les modèles de diffusion qui ne nécessite pas de catégories de minorités prédéfinies. Il déplace l'attention de l'identification des biais dominants vers la découverte de caractéristiques minoritaires supprimées encodées dans le modèle.
2. Nouvelle métrique de minorité : L'article propose une métrique combinant la fréquence d'activation des neurones et la distinction sémantique, validée comme un proxy fiable pour identifier les concepts sous-représentés.
3. Audit et amplification systématiques : RAIGen démontre sa capacité à révéler des attributs au-delà des catégories de justice fixes à travers plusieurs architectures (Stable Diffusion 1.4, 2, XL, et FLUX.1-schnell). Il permet également l'amplification ciblée de ces attributs rares via des interventions légères sur les prompts.

4. Résultats expérimentaux

Les auteurs ont évalué RAIGen sur Stable Diffusion v1.4, SDXL, et FLUX.1-schnell en utilisant WinoBias (basé sur les professions) et COCO (scènes diverses).

• Validation de l'heuristique : Dans un cadre de test contrôlé avec des facteurs rares de vérité terrain connus, les auteurs ont démontré que les latents les moins fréquemment activés dans les MSAEs se rapportent de manière disproportionnée à des caractéristiques rares (corrélation de Spearman $\rho \approx 0.991$), validant la fréquence d'activation comme un proxy de la rareté.
• Performance quantitative : Sur WinoBias et COCO, les attributs découverts par RAIGen présentaient une « Présence d'Attribut » nettement plus faible (environ 0.20) par rapport aux attributs majoritaires identifiés par OpenBias (environ 0.94), confirmant que RAIGen isole les caractéristiques supprimées.
• Résultats qualitatifs : RAIGen a réussi à découvrir divers attributs minoritaires, notamment :
  • Sociaux/Équité : Femmes médecins, femmes shérifs.
  • Contextuels/Stylistiques : Médecins dans des portraits encadrés, médecins avec des dossiers médicaux, trains avec de grands panaches de fumée, trains vus de profil avec flou de mouvement, et femmes avec des cheveux texturés afro-bouclés.
  • Trans-architecture : La méthode s'est généralisée aux modèles basés sur les transformers (FLUX.1-schnell), bien qu'avec des cartes de chaleur légèrement plus diffuses par rapport aux architectures U-Net.
• Étude utilisateur : Une étude avec 25 participants a confirmé que les attributs découverts par RAIGen sont perceptuellement rares. Pour cinq professions, les participants ont rapporté la présence de ces attributs dans moins de 3 images sur 10 en moyenne, validant que ces caractéristiques sont encodées mais sous-exprimées dans l'échantillonnage standard.
• Amplification : L'utilisation des annotations de RAIGen pour réviser les prompts a entraîné une réduction substantielle de l'écart de présence d'attribut (par exemple, de 0.50 à 0.22 dans SD v1.4), démontant que la réintroduction de descripteurs minoritaires augmente efficacement la couverture des modes sous-représentés.

5. Signification et affirmations

L'article positionne RAIGen comme un outil fondamental pour l'audit complet des modèles génératifs. Sa signification réside dans :

• Combler le fossé : Il répond à la limitation des outils actuels d'atténuation des biais qui ne traitent que les catégories connues ou les tendances majoritaires, permettant la découverte des « inconnus inconnus » dans l'espace latent du modèle.
• Découverte ancrée dans la représentation : En ancrant la découverte dans les représentations internes du modèle plutôt que dans des modèles de monde externes, RAIGen identifie les caractéristiques que le modèle a réellement apprises mais choisit de ne pas exprimer.
• Utilité pratique : Il fournit un mécanisme d'amplification ciblée, permettant aux développeurs d'améliorer systématiquement la diversité des sorties générées sans réentraîner le modèle.

Les auteurs maintiennent une position modeste, notant que RAIGen ne peut que faire émerger les attributs déjà encodés dans le modèle ; il ne peut pas découvrir des minorités socialement saillantes que le modèle n'a pas du tout appris. Ils suggèrent que RAIGen doit être considéré comme une composante d'un cadre d'audit hybride, complétant les priors sémantiques externes (comme les outils basés sur les LLM) pour fournir une vue complète de la sous-représentation. Ils reconnaissent également les risques de détournement, tels que la génération délibérée d'imagerie sensible ou stéréotypée, en insistant sur la nécessité d'une gouvernance et de garde-fous.