💬 NLP

Neuron-Level Interventions for Gendered and Gender-Neutral Generation in Language Models

Cet article introduit une méthode d'intervention au niveau des neurones qui identifie et manipule les neurones spécifiques au genre, principalement concentrés dans les premières couches des modèles de langage, afin de parvenir à un contrôle précis de la génération féminine, masculine et neutre tout en atténuant les biais et en préservant le sens sémantique.

Auteurs originaux : Zhiwen You, Nafiseh Nikeghbal, Jana Diesner

Publié 2026-06-01

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Zhiwen You, Nafiseh Nikeghbal, Jana Diesner

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un grand modèle de langage (comme ceux qui alimentent les chatbots) comme une immense usine en pleine effervescence. À l'intérieur de cette usine, il y a des millions de petits travailleurs appelés neurones. Lorsque vous demandez à l'usine d'écrire une phrase, ces travailleurs s'illuminent et se transmettent des messages les uns aux autres pour construire le résultat final.

Le problème est que, même lorsque vous demandez une histoire neutre (par exemple, « Le médecin a soigné le patient »), l'usine ajoute parfois accidentellement un biais de genre, transformant le médecin en « il » ou en « elle » en se basant sur de vieux stéréotypes.

Ce document est comme une équipe de détectives qui sont entrés dans l'usine pour découvrir exactement quels travailleurs sont responsables de la décision de savoir si une phrase sonne « masculine », « féminine » ou « neutre ».

Voici la décomposition de leur enquête utilisant des analogies simples :

1. La nouvelle carte : Trois couleurs, pas seulement deux

La plupart des études précédentes n'examinaient l'usine qu'à travers un prisme « binaire » : le travailleur rend-il les choses Rouges (Masculin) ou Bleues (Féminin) ? Elles ignoraient souvent les travailleurs Verts (Genre Neutre).

Les auteurs ont réalisé que, dans le monde réel, nous avons besoin des trois couleurs. Ils voulaient trouver les travailleurs spécifiques qui gèrent :

Rouge : Des mots comme il, homme, père.
Bleu : Des mots comme elle, femme, mère.
Vert : Des mots comme ils/elles (neutre), personne, parent.

2. Le travail de détective : Trouver les « spécialistes »

Les chercheurs ont développé une nouvelle méthode pour identifier ces travailleurs spécifiques. Ils n'ont pas simplement deviné ; ils ont utilisé une « fiche d'évaluation » pour voir quels neurones s'activaient le plus fortement lorsqu'ils parlaient d'un genre spécifique, tout en ignorant les autres.

La Découverte :
Ils ont découvert que ces travailleurs spécialistes du genre ne sont pas dispersés au hasard dans toute l'usine. Au contraire, ils sont regroupés dans les toutes premières pièces (les premières couches) de l'usine.

Analogie : Imaginez une course de relais. La décision de savoir « qui court cette course » (le genre) est prise presque immédiatement à la ligne de départ, et non à la ligne d'arrivée. Une fois que les premiers travailleurs ont décidé « C'est une histoire de "elle" », le reste de l'usine ne fait que suivre ce mouvement.

3. L'expérience : Le test du « bouton Muet »

Pour prouver qu'ils avaient trouvé les bons travailleurs, les chercheurs ont réalisé une « expérience contrôlée ». Ils ont pris une phrase et ont demandé au modèle de la réécrire dans un autre genre (par exemple, changer une histoire sur un « homme » en une histoire sur une « femme »).

La Référence : Sans aide, le modèle se confond souvent ou laisse fuiter des mots de la mauvaise catégorie (par exemple, dire « La femme pompier » mais utiliser « il » plus tard).
L'Intervention : Les chercheurs ont utilisé un « bouton muet » (masquage) pour faire taire tous les travailleurs sauf ceux responsables du genre cible.
- S'ils voulaient une histoire Féminine, ils faisaient taire les travailleurs « Masculins » et « Neutres » pour ne laisser parler que les travailleurs « Féminins ».
- Résultat : Le modèle devenait bien meilleur pour respecter le genre demandé. C'était comme couper le bruit de fond pour que la voix spécifique puisse être entendue clairement.

4. Les Résultats : Précision et Qualité

Le document affirme que leur méthode est meilleure que les tentatives précédentes car :

Moins de fuites : Elle empêche le modèle de mélanger accidentellement les genres (par exemple, dire « elle » quand vous avez demandé « ils/elles »).
Sens préservé : L'histoire n'a pas perdu son sens original ; elle a simplement changé les étiquettes de genre correctement.
Efficacité : Parce qu'ils ont découvert que les « travailleurs du genre » sont concentrés dans les premières couches, ils n'ont pas eu à éteindre toute l'usine, seulement quelques pièces spécifiques.

5. Les Datasets : Les « terrains d'entraînement »

Pour tester cela, les auteurs ont construit deux nouveaux « terrains d'entraînement » (jeux de données) remplis de milliers de phrases.

L'un des jeux de données a été créé en prenant des phrases genrées existantes et en les réécrivant de manière neutre.
L'autre a été construit de toutes pièces en utilisant un dictionnaire de termes genrés et neutres pour s'assurer que chaque phrase était parfaitement étiquetée comme Rouge, Bleu ou Vert.
Des humains ont vérifié ces phrases pour s'assurer qu'elles étaient grammaticalement correctes et qu'elles correspondaient réellement au genre prévu.

Résumé

En bref, ce document dit : « Nous avons trouvé les interrupteurs spécifiques dans le cerveau de l'IA qui contrôlent le genre. Ils sont principalement situés au tout début du processus de réflexion. En actionnant ces interrupteurs spécifiques et en faisant taire les autres, nous pouvons forcer l'IA à écrire dans un genre spécifique (masculin, féminin ou neutre) sans casser la phrase ou perdre le sens original. »

Les auteurs fournissent le code et les jeux de données afin que d'autres puissent essayer eux-mêmes cette technique de « basculement d'interrupteur ».

Résumé technique : Interventions au niveau des neurones pour la génération genrée et neutre dans les modèles de langage

Énoncé du problème
Les grands modèles de langage (LM) génèrent fréquemment un langage genré et renforcent les stéréotypes, même lorsqu'ils sont sollicités avec des entrées neutres. Si la recherche antérieure a examiné de manière approfondie le biais de genre à travers un prisme binaire (féminin vs masculin), la compréhension de la manière dont les formes neutres (ex. : le « they » singulier, titres de métiers neutres) sont encodées dans les représentations des modèles reste limitée. De plus, les stratégies d'atténuation existantes opèrent souvent au niveau de l'inférence (ex. : prompting en few-shot, contraintes structurées) sans localiser explicitement les mécanismes internes responsables du comportement genré. La question spécifique abordée est de savoir si les signaux liés au genre peuvent être localisés dans des neurones spécifiques au sein des réseaux de propagation directe (FFN) des Transformers et si ces neurones peuvent être manipulés causalement pour orienter la génération vers des formes féminines, masculines ou neutres tout en présant le sens sémantique.

Méthodologie
Les auteurs proposent un cadre d'intervention au niveau des neurones comprenant trois étapes principales :

Activation et identification des neurones :
L'étude se concentre sur les neurones intermédiaires au sein des blocs de Perceptron Multicouche (MLP) des modèles Transformer. Pour trois catégories de genre ( $g \in \{masculin, féminin, neutre\}$ ), les auteurs calculent les statistiques d'activation pour chaque neurone à travers des corpus de textes spécifiques au genre. Pour identifier les neurones fortement liés à un genre spécifique tout en minimisant le chevauchement, ils introduisent un Score d'Exclusivité Combiné. Ce score agrège trois mesures complémentaires pour chaque neurone $j$ dans la couche $l$ :
- Taille de l'effet (Cohen's $d$ ) : La différence standardisée de l'activation moyenne entre le genre cible et tous les autres genres.
- Différence de Log-Odds ( $\Delta$ ) : La probabilité relative d'une activation positive pour le genre cible par rapport aux autres.
- Différence de moyenne relative ( $r$ ) : La différence proportionnelle de l'amplitude d'activation.
  Un neurone est sélectionné pour un genre spécifique uniquement s'il atteint le score d'exclusivité le plus élevé pour cette catégorie et respecte des seuils prédéfinis sur ces trois métriques.
Génération contrôlée via le masquage :
Pour valider la causalité, les auteurs effectuent des interventions lors de l'inférence. Ils génèrent des sorties « de base » (baseline) et des sorties « masquées ». Dans la condition masquée, ils appliquent une stratégie de « conservation uniquement » : pour un genre cible $g$ , les neurones identifiés pour $g$ restent actifs, tandis que les neurones identifiés pour les deux autres genres sont masqués (désactivés). Cela permet de tester si les neurones identifiés sont suffisants pour orienter le modèle vers la forme de genre cible.
Protocole d'évaluation :
L'efficacité de l'intervention est évaluée à l'aide de deux ensembles de données : GCGender (dérivé d'ensembles de données binaires existants auxquels des versions neutres ont été ajoutées) et InclusiveGender (curaté à l'aide de dictionnaires de langage inclusif). Les métriques d'évaluation incluent :
- Analyse basée sur les mots-clés : Mesure du changement du ratio de termes spécifiques au genre (masculin, féminin, neutre) dans la sortie par rapport à la base de référence.
- Évaluation humaine : Évaluation de la « Préservation de l'idée globale » (rétention sémantique) et de la « Réalisation du genre cible » (exactitude de la formulation genrée).

Principales contributions

Analyse tripartite du genre : Ce travail étend les études antérieures sur le genre binaire en identifiant et en contrôlant explicitement les neurones pour trois catégories : féminine, masculine et neutre.
Nouvelle métrique d'identification : L'introduction d'un système de score d'exclusivité combiné pour isoler les neurones qui sont sans ambiguïté liés à une seule catégorie de genre, répondant ainsi au défi des activations chevauchantes.
Nouveaux jeux de données : La création de InclusiveGender (8 600 phrases par catégorie) et l'expansion de GCGender pour inclure des variantes neutres, validées par annotation humaine pour une haute qualité et une faible ambiguïté.
Validation causale : Un protocole rigoureux démontrant que le masquage de neurones spécifiques modifie causalement la sortie genrée tout en maintenant l'intégrité sémantique.

Résultats
Les expériences menées sur Llama-3.1-8B et Qwen2.5-7B ont produit les conclusions suivantes :

Distribution par couches : Les neurones spécifiques au genre ne sont pas répartis uniformément. Ils se concentrent fortement dans les premières couches (généralement les couches 0–3) des modèles, avec des contributions nettement plus faibles des couches intermédiaires et tardives. Cela contraste avec les méthodes concurrentes (LAPE, sNeuron-TST), qui ont tendance à identifier des neurones dans les couches ultérieures.
Précision du contrôle : La méthode proposée atteint un contrôle de genre plus précis que les bases de référence existantes. Lorsqu'on cible un genre spécifique, la méthode parvient à préserver ou augmenter le ratio de termes du genre cible tout en supprimant les termes non ciblés. Les méthodes concurrentes ont présenté une « fuite » plus élevée, gonflant souvent les ratios de genres non liés (ex. : augmentant les termes neutres lors du ciblage du masculin).
Compromis de qualité : L'évaluation humaine a montré que la méthode d'intervention améliore considérablement la « Réalisation du genre cible » par rapport aux bases de référence. Bien qu'il y ait eu une légère diminution de la « Préservation de l'idée globale » (attribuée à des jugements subjectifs sur les changements de formulation), le sens central a été largement conservé.
Sensibilité aux données : L'étude a noté que des ensembles d'entraînement plus petits (comme dans GCGender) peuvent conduire à une identification plus bruitée des neurones, particulièrement pour la catégorie neutre, suggérant que le volume de données impacte la précision du filtrage d'exclusivité.

Signification et affirmations
Le papier affirme fournir une approche simple mais efficace pour comprendre comment le genre est encodé dans les LM. En démontant que les représentations de genre sont localisées dans une petite fraction de neurones (souvent <0,5 % du total des paramètres) concentrés dans les premières couches, ce travail offre une explication mécaniste pour la génération genrée. Les auteurs affirment que leur intervention au niveau des neurones offre une compréhension plus claire du comportement interne des modèles que les stratégies d'atténuation basées uniquement sur la sortie. Ils positionnent ce travail comme une étape fondamentale vers une intervention contrôlée sur le genre, offrant un outil pour évaluer l'atténuation des biais basée sur les neurones et potentiellement pour réduire le biais de genre dans les futurs déploiements de modèles. Les auteurs restent modestes quant aux limites, reconnaissant que leurs conclusions sont actuellement restreintes aux modèles de 7–8 milliards de paramètres et que de plus petits ensembles de données peuvent introduire du bruit dans la sélection des neurones.