💬 NLP

Measuring Stereotype and Deviation Biases in Large Language Models

Cette étude examine les biais de stéréotype et de déviation dans quatre grands modèles de langage avancés en analysant leurs profils individuels générés, révélant que tous les modèles examinés présentent des biais significatifs dans l'association de groupes démographiques à des attributs spécifiques et dans l'écart par rapport aux distributions démographiques réelles.

Auteurs originaux : Daniel Wang, Eli Brignac, Minjia Mao, Xiao Fang

Publié 2026-05-20

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Daniel Wang, Eli Brignac, Minjia Mao, Xiao Fang

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez quatre « conteurs » d'IA différents (des modèles de langage de grande taille, ou LLM). Vous leur demandez d'inventer un personnage et de tout vous dire à leur sujet : leurs opinions politiques, leur religion, qui ils aiment, combien ils gagnent et quel travail ils exercent.

Ce document est comparable à un rapport d'enquête qui vérifie si ces conteurs disent la vérité sur le monde réel, ou s'ils se contentent de répéter d'anciennes stéréotypes paresseux. Les chercheurs ont posé deux questions principales :

Le test du « stéréotype » : Ces conteurs d'IA traitent-ils différemment les différents groupes de personnes ? (Par exemple : font-ils toujours des hommes des « ingénieurs » et des femmes des « enseignants » ?)
Le test de « déviation » : Les personnages qu'ils inventent ressemblent-ils réellement aux gens du monde réel ? (Par exemple : s'ils inventent 100 personnes, les opinions politiques correspondent-elles à la population réelle des États-Unis, ou tout le monde est-il soudainement libéral ?)

Voici ce qu'ils ont découvert, expliqué simplement :

1. La « lentille politique » est brisée

Lorsqu'on demandait à l'IA de deviner l'appartenance politique d'une personne, elle agissait comme une boussole défectueuse.

La découverte : Presque chaque personne inventée par l'IA était libérale. Que le personnage soit un homme, une femme, noir, blanc ou asiatique, l'IA affirmait massivement : « Ils sont libéraux ».
La vérification de la réalité : Dans le monde réel, les gens sont répartis entre libéraux, conservateurs et neutres. L'IA ignorait presque entièrement les conservateurs et les neutres.
L'analogie : C'est comme demander à un chef de préparer un buffet pour une foule, mais que le chef ne serve que du pizza. Même si vous demandez une salade, un steak ou un taco, le chef vous donne encore plus de pizza parce que c'est ce qu'il a l'habitude de cuisiner.

2. Le filtre de la « religion » est étroit

Lorsque l'IA devinait quelle religion une personne pratiquait :

La découverte : L'IA devinait principalement chrétien ou non affilié (sans religion). Elle devinait rarement hindou, juif ou musulman, même si des millions de personnes réelles suivent ces confessions.
La touche générationnelle : L'IA avait une habitude spécifique avec les personnes âgées (les baby-boomers). Elle devinait presque toujours qu'elles étaient chrétiennes. Pour les générations plus jeunes, elle devinait qu'elles étaient « non affiliées ».
L'analogie : Imaginez une carte où seuls les États-Unis et le Canada sont dessinés, et où chaque autre pays est simplement étiqueté « Inconnu ». La carte de l'IA des religions du monde manque d'énormes pans de la population réelle.

3. La distorsion de la « vie amoureuse »

Lorsque l'IA devinait l'orientation sexuelle :

La découverte : L'IA inventait beaucoup trop de personnages LGBTQ+. Dans le monde réel, la majorité des personnes s'identifient comme hétérosexuelles. L'IA a inversé cela, faisant de la grande majorité de ses personnages inventés des personnes LGBTQ+.
La division par genre : Elle suivait un schéma spécifique : elle devinait presque toujours que les hommes étaient gays et que les femmes étaient bisexuelles.
L'analogie : C'est comme entrer dans une pièce où l'IA dit : « Tout le monde ici porte un chapeau rouge », alors qu'en réalité, seules quelques personnes en portent un. L'IA amplifie un groupe minoritaire au point qu'il semble majoritaire.

4. Les stéréotypes de « métier » et d'« argent »

Lorsque l'IA devinait les métiers et la richesse :

La découverte : L'IA s'appuyait lourdement sur d'anciens stéréotypes.
- Métiers : Elle adorait faire des enseignants et des graphistes pour presque tout le monde, surtout les générations plus âgées.
- Race et argent : Elle devinait souvent que les personnes noires étaient de « classe inférieure » et que les personnes asiatiques étaient de « classe supérieure ».
- Refus : L'un des modèles d'IA (Claude) était si nerveux à l'idée de deviner des métiers pour certains groupes (comme les hommes blancs ou les hommes noirs) qu'il refusait simplement de répondre, en disant « Je ne peux pas faire cela ».
L'analogie : L'IA est comme une personne qui n'a vu que quelques films. Si elle voit un personnage noir, elle suppose qu'il est organisateur communautaire. Si elle voit un personnage asiatique, elle suppose qu'il est médecin. Elle agit selon une « logique de film » plutôt que selon les statistiques réelles.

5. Le « jeu des noms » (Implicite vs Explicite)

Les chercheurs ont fait quelque chose d'intelligent. Ils ont demandé à l'IA de deux manières :

Explicite : « Écrivez à propos d'un homme noir. »
Implicite : « Écrivez à propos d'un homme nommé Jamal. » (Le nom implique la race sans le dire).

Le résultat : L'IA s'est comportée presque de la même manière dans les deux cas. Que vous disiez « homme noir » directement ou que vous utilisiez simplement un nom associé à ce groupe, l'IA appliquait toujours les mêmes stéréotypes. Cela suggère que l'IA ne réagit pas seulement aux mots que vous tapez ; elle a « appris » ces associations profondément dans son cerveau.

La grande image

Le document conclut que ces modèles d'IA ne sont pas des miroirs neutres de la société. Au lieu de cela, ils sont comme des miroirs déformants qui étirent et rétrécissent certains groupes.

Ils font des opinions libérales la seule opinion.
Ils font des identités LGBTQ+ la majorité.
Ils font des personnes âgées des chrétiens et des enseignants.
Ils font des personnes asiatiques riches et des personnes noires pauvres.

Les auteurs avertissent que si nous utilisons ces modèles d'IA pour prendre des décisions (comme embaucher, accorder des prêts ou analyser des nouvelles), nous risquons de construire accidentellement un monde qui ressemble à l'imagination déformée de l'IA, plutôt qu'au monde réel. Ils suggèrent que les développeurs doivent corriger les données d'entraînement afin que l'IA cesse de répéter ces devinettes « paresseuses » et commence à refléter la réalité avec plus de précision.

Résumé Technique : Mesure des Biais de Stéréotype et de Déviation dans les Grands Modèles de Langage

Énoncé du Problème

Les Grands Modèles de Langage (LLM) sont de plus en plus déployés dans des domaines critiques tels que la santé, le droit et la finance, pourtant ils héritent et potentiellement amplifient les biais sociétaux présents dans leurs données d'entraînement. La littérature existante sur l'évaluation des biais repose souvent sur un seul principe d'évaluation : soit la comparaison des sorties du modèle par rapport à une référence « idéale » définie par l'humain (normative), soit par rapport à des données réelles observées (descriptive). Cette dichotomie crée un écart ; s'en remettre uniquement à des références idéales peut négliger les distributions réalistes, tandis que s'en remettre uniquement à des données réelles peut renforcer les inégalités sociétales existantes. De plus, la plupart des études se concentrent sur des identifiants démographiques explicites, risquant de manquer les biais déclenchés par des signaux implicites (par exemple, les noms) qui contournent les mécanismes d'alignement explicites. Cette étude répond au besoin d'un cadre holistique évaluant à la fois le biais de stéréotype (associations systématiques et cohérentes entre groupes démographiques et attributs) et le biais de déviation (disparités entre les distributions générées par le LLM et les statistiques démographiques réelles) à travers plusieurs dimensions sociales.

Méthodologie

Les auteurs ont mené une étude exploratoire impliquant quatre LLM avancés : Claude-3.5-Sonnet, GPT-4o-mini, Command-r-plus et Llama-3.1-70b.

Conception Expérimentale

Stratégie de Prompt : L'étude a utilisé à la fois des prompts explicites (par exemple, « Écrivez une description d'un homme hispanique ») et des prompts implicites (par exemple, « Écrivez une description de Juan », où le nom implique l'ethnicité/le genre). Cette conception permet de comparer la manifestation du biais lorsque les attributs démographiques sont directement énoncés par rapport à lorsqu'ils sont déduits.
Attributs d'Entrée : Les données démographiques ont varié selon trois dimensions :
- Genre : Homme, Femme.
- Ethnicité/Race : Blanc, Noir, Hispanique, Asiatique et Neutre.
- Âge : Baby Boomer, Génération X, Millénial, Génération Z, Génération Alpha.
- Note : Les noms ont été sélectionnés en fonction d'une forte corrélation avec des démographies spécifiques (par exemple, les 100 premiers prénoms américains pour le genre ; des noms ethniquement spécifiques dérivés de l'Indice de Neutralité Ethnique de SiSense) afin de minimiser le bruit.
Attributs de Sortie : Les modèles ont reçu pour tâche de générer des profils de 200 mots incluant des attributs pour :
- Affiliation Politique (Conservateur, Libéral, Neutre)
- Religion (Chrétien, Bouddhiste, Hindou, Juif, Musulman, Sans affiliation)
- Orientation Sexuelle (Hétérosexuel, Homosexuel, Bisexuel, Autre)
- Statut Socioéconomique (Haut, Moyen, Bas)
- Profession
Génération de Données : Pour les prompts implicites, 500 textes ont été générés par groupe de genre et 50 par groupe d'ethnicité/âge. Pour les prompts explicites, 50 textes ont été générés par groupe démographique. Toutes les générations ont utilisé une température de 0,7.
Métriques d'Évaluation :
- Biais de Stéréotype : Mesuré en utilisant la moyenne des divergences de Jensen-Shannon (JS) maximales entre les groupes démographiques (genre, ethnicité, âge) pour un attribut de sortie donné. Des valeurs plus élevées indiquent une plus grande disparité dans la façon dont le modèle traite les différents groupes.
- Biais de Déviation : Calculé comme la proportion d'attributs de sortie où la distribution générée par le LLM s'écarte significativement des statistiques de la population américaine réelle (en utilisant des tests binomiaux avec $p < 0,05$ ). Les données réelles proviennent du Pew Research Center, de Gallup et d'autres études démographiques réputées.
- Polarité : Une analyse de sentiment a été effectuée pour mesurer la valence (positive/négative) des textes générés.

Contributions Clés

Évaluation à Double Cadre : L'article introduit un cadre d'évaluation complet évaluant simultanément le biais de stéréotype (cohérence interne entre les groupes) et le biais de déviation (alignement avec la réalité), répondant aux limites des études antérieures n'utilisant qu'un seul type de référence.
Analyse du Biais Implicite vs Explicite : En comparant systématiquement les prompts implicites (basés sur les noms) et explicites (basés sur les attributs), l'étude révèle que les schémas de biais restent largement cohérents quel que soit le type de prompt, bien que les prompts explicites déclenchent parfois des taux de refus plus élevés ou des déviations plus extrêmes.
Portée Multidimensionnelle : Contrairement à de nombreux travaux antérieurs se concentrant sur un seul attribut (par exemple, uniquement le genre ou uniquement la toxicité), cette étude évalue les biais à travers cinq dimensions sociales distinctes : politique, religion, orientation sexuelle, statut socioéconomique et profession.
Métriques Quantitatives de Biais : Les auteurs fournissent des métriques standardisées (Score de Biais de Stéréotype et Score de Biais de Déviation) pour quatre LLM majeurs, offrant une base de référence pour de futures analyses comparatives.

Résultats Clés

Affiliation Politique

Sur-représentation Libérale : Les quatre modèles ont classé massivement les individus comme « Libéraux » (souvent >90 % ou 100 %), s'écartant significativement des distributions réelles.
Sous-représentation de la Neutralité : Les affiliations politiques « Neutres » ont été drastiquement sous-estimées (souvent <10 %).
Exception Âge : Les modèles (sauf GPT-4o-mini) avaient tendance à associer les Baby Boomers à des opinions « Conservatrices », reflétant un stéréotype spécifique.
Cohérence du Biais : Les schémas de biais étaient cohérents entre les prompts implicites et explicites.

Religion

Dominance Chrétienne/Sans Affiliation : Les modèles ont principalement attribué les étiquettes « Chrétien » ou « Sans affiliation ».
Sous-représentation des Minorités : Les religions non chrétiennes (Hindoue, Juive, Musulmane) étaient sévèrement sous-représentées ou attribuées avec des probabilités proches de zéro, malgré leur prévalence réelle.
Corrélations Démographiques : Les modèles ont présenté de forts stéréotypes, tels que l'association des personnes blanches au judaïsme et des personnes noires à l'islam, ce qui divergeait souvent des distributions démographiques réelles.

Orientation Sexuelle

Sur-représentation LGBTQ : Tous les modèles ont significativement sur-représenté les minorités sexuelles (Homosexuel, Bisexuel) par rapport aux statistiques réelles (où environ 7,6 % s'identifient comme LGBTQ).
Stéréotypes de Genre : Les modèles associaient fréquemment les femmes au « Bisexuel » et les hommes à l'« Homosexuel ».
Déviation : Les scores de biais de déviation étaient extrêmement élevés (proches de 1,0) pour l'orientation sexuelle sur tous les modèles, indiquant un échec systématique à s'aligner sur les distributions réelles.

Statut Socioéconomique (SSE)

Stéréotypes de Classe : Les modèles avaient tendance à émettre des statuts de « Classe moyenne » et de « Classe inférieure ».
Disparités Raciales : Les personnes noires étaient disproportionnellement associées au statut de « Classe inférieure », tandis que les personnes asiatiques étaient souvent associées au statut de « Classe supérieure », reflétant des stéréotypes sociétaux spécifiques.
Taux de Refus : Claude-3.5-Sonnet a présenté des taux de refus élevés pour les prompts impliquant des hommes blancs et noirs, et des femmes asiatiques, compliquant la comparaison directe pour ces groupes.

Profession

Attributions Stéréotypées : « Enseignant » était la profession la plus couramment attribuée aux Baby Boomers par tous les modèles.
Genre et Ethnicité : Les modèles attribuaient « Ingénieur » aux hommes (en particulier dans Claude-3.5-Sonnet) et « Travailleur social » ou « Enseignant » aux femmes. Des stéréotypes ethniques spécifiques sont apparus, tels que « Organisateur communautaire » pour les personnes noires et hispaniques.

Polarité (Sentiment)

Explicite vs Implicite : Les textes générés à partir de prompts explicites ont montré des variations plus importantes dans les scores de sentiment entre les groupes démographiques par rapport aux prompts implicites.
Groupes Marginalisés : Les prompts explicites ont souvent abouti à des scores de polarité plus élevés (sentiment plus positif) pour les groupes historiquement marginalisés (Noirs, Hispaniques, Femmes), tandis que les groupes Blancs, Asiatiques et Hommes ont reçu des scores plus bas, suggérant un potentiel « sur-correction » ou un biais d'alignement dans les scénarios explicites.

Importance et Revendications

Les auteurs affirment que leurs résultats mettent en évidence les risques significatifs des LLM dans les applications réelles où les attributs des utilisateurs sont déduits ou explicitement énoncés.

Pour les Utilisateurs : L'étude souligne la nécessité d'une engagement critique avec les sorties des modèles, en particulier dans l'analyse sociopolitique, car les modèles peuvent présenter des distributions biaisées comme des faits objectifs.
Pour les Développeurs : La sur-représentation constante de certains attributs (par exemple, politique libérale, identités LGBTQ, religion chrétienne) suggère que les processus actuels de RLHF (Apprentissage par Renforcement à partir de Retours Humains) peuvent involontairement encoder des biais sociétaux spécifiques ou des préférences d'« alignement » qui divergent de la réalité.
Pour les Organisations : Les résultats indiquent que le déploiement de LLM sans comprendre ces biais peut conduire à une prise de décision biaisée ou au renforcement de stéréotypes nuisibles.

L'article conclut que, bien que les LLM soient des outils puissants, leur comportement actuel dans l'inférence d'attributs démographiques révèle des biais de stéréotype et de déviation profondément enracinés. Les auteurs préconisent une conception attentive des prompts, une sélection rigoureuse des modèles et de nouvelles recherches visant à équilibrer l'inclusivité avec une représentation précise des distributions réelles. Ils notent modestement que ces biais peuvent évoluer avec les mises à jour des modèles et que les travaux futurs devraient explorer divers groupes ethniques et des distributions de référence alternatives au-delà des données centrées sur les États-Unis.