Résumé Technique : Désapprendre les Stéréotypes avant la Prise de Décision

Énoncé du Problème

Les grands modèles de langage (LLM) sont de plus en plus intégrés dans des systèmes de prise de décision socio-économiques à enjeux élevés, tels que le recrutement et la finance. Ces systèmes risquent d'amplifier les disparités sociales et économiques existantes car les LLM encodent souvent des biais de représentation intrinsèques (stéréotypes) dérivés de données d'entraînement historiques. Bien que des recherches antérieures aient étudié indépendamment les biais intrinsèques et les comportements injustes en aval, il reste incertain si l'atténuation du biais intrinsèque au niveau du modèle se traduit par des améliorations mesurables de l'équité en aval. Une lacune critique existe dans la compréhension de la manière dont le débaisage représentationnel se propage à travers le pipeline pour affecter les résultats de décision réels, car les stratégies d'atténuation intrinsèques et extrinsèques sont généralement étudiées de manière isolée.

Méthodologie : Désapprentissage de Concepts Sensibles à l'Équité (FACU)

Pour combler cette lacune, les auteurs proposent le Fairness-Aware Concept Unlearning (FACU), une méthode d'atténuation du biais intrinsèque conçue pour équilibrer les associations démographiques plutôt que de simplement les supprimer. Contra aux approches de désapprentissage de concepts standard qui visent à supprimer des concepts spécifiques (souvent pour la sécurité ou la confidentialité), FACU adapte le mécanisme pour régulariser explicitement les différences de probabilité entre les associations stéréotypées et anti-stéréotypées.

Mécanisme Central

FACU opère dans un cadre de prédiction du prochain jeton (next-token prediction) où un modèle assigne des probabilités à des candidats de réponses démographiques appariés (par exemple, « femmes » vs « hommes » pour une question socio-économique spécifique). La méthode définit un écart de probabilité ($GAP$) entre les candidats stéréotypés ($y_{stereo}$) et anti-stéréotypés ($y_{anti}$). L'objectif est de minimiser cet écart ($GAP \approx 0$) tout en préservant les capacités de modélisation du langage général du modèle.

L'objectif d'entraînement ($L_{total}$) est une combinaison pondérée de quatre termes de perte :

1. Perte de Désapprentissage ($L_{unlearn}$) : Réduit la probabilité des réponses stéréotypées (implémentée via une ascension de gradient sur ces jetons).
2. Perte d'Apprentissage ($L_{learn}$) : Augmente la probabilité des réponses anti-stéréotypées (descente de gradient standard).
3. Perte d'Écart ($L_{gap}$) : Un terme de régularisation de l'équité qui pénalise explicitement la différence au carré entre les probabilités des candidats stéréotypés et anti-stéréotypés. Cela empêche l'effondrement de probabilité ou l'inversion de biais (échanger un biais pour un autre).
4. Perte de Normalisation ($L_{norm}$) : Une pénalité de divergence KL par rapport à un modèle de référence gelé sur des invites neutres pour préserver le comportement de modélisation du langage général et éviter l'oubli catastrophique.

Configuration Expérimentale

Les auteurs ont évalué FACU sur trois LLM open-source optimisés pour l'instruction : Llama-3.1 (8B), Gemma-2 (2B) et Phi-3 Mini (3.8B).

• Évaluation Intrinsèque : Les benchmarks incluaient le sous-ensemble genre de SocioEconomicQA (entraînement), BBQ et CrowS-Pairs (hors distribution). Les métriques comprenaient le Ratio d'Association de la Pauvreté (PAR), l'iCAT (équilibre des stéréotypes vs qualité du langage) et la perplexité.
• Évaluation en Aval : Trois ensembles de données de prise de décision socio-économique (German Credit, ACS Employment, Adult) ont été utilisés pour des tâches de classification binaire.
• Configurations de Déploiement : Deux configurations ont été testées :
  1. LLM comme Extracteur de Caractéristiques : Embeddings de LLM gelés injectés dans un classifieur de régression logistique.
  2. LLM comme Classifieur : Le LLM est affiné (via LoRA) pour la tâche spécifique en aval.
• Comparaisons : FACU a été comparé à l'absence de mitigation, au désapprentissage de concept standard, à l'Optimisation de Préférence Directe (DPO) et à l'auto-débiaisage. Il a également été combiné avec des stratégies extrinsèques : l'Augmentation de Données Contrefactuelles (CDA) et l'auto-débiaisage.

Résultats Clés

1. Atténuation du Biais Intrinsèque (RQ1)

FACU a systématiquement obtenu les écarts de probabilité (GAP) les plus bas et les scores iCAT les plus élevés sur tous les modèles par rapport aux lignes de base.

• Supériorité sur le Désapprentissage : Le désapprentissage standard conduit souvent à un « effondrement de probabilité » (pousser les probabilités stéréotypées vers zéro et les anti-stéréotypées vers un) ou à une inversion de biais, particulièrement dans les petits modèles (Gemma, Phi). La régularisation explicite de l'écart de FACU a empêché cela, garantissant des associations équilibrées.
• Supériorité sur DPO : DPO a montré une réduction limitée du GAP et a considérablement dégradé les scores iCAT, suggérant que l'optimisation de préférence seule ne produit pas de manière fiable des représentations démographiques équilibrées.
• Généralisation : Malgré un entraînement uniquement sur SocioEconomicQA, FACU a réduit le biais intrinsèque sur des ensembles de données hors distribution (BBQ, CrowS-Pairs), indiquant qu'il capture des motifs de représentation plus larges plutôt que de surapprendre des stéréotypes spécifiques à un jeu de données.
• Performance : FACU a maintenu une perplexité stable, démontrant que la réduction du biais ne s'est pas faite au détriment de la qualité de la modélisation du langage.

2. Traduction de l'Équité en Aval (RQ2)

L'étude a révélé que l'atténuation du biais intrinsèque via FACU se traduit par des améliorations mesurables de l'équité en aval.

• Signification Statistique : Dans la plupart des configurations, les modèles mitigés avec FACU ont montré des améliorations statistiquement significatives des métriques d'équité de groupe (Parité Démographique et Égalité des Chances) par rapport aux modèles pré-entraînés. Les changements dans l'exactitude prédictive n'étaient pas statistiquement significatifs.
• Parité d'Exactitude : Bien que FACU ait démontré une tendance constante vers l'amélioration, reflétée par des p-valeurs nettement plus basses que les autres méthodes, ce résultat n'a pas atteint la signification statistique.
• Préservation de l'Utilité : Ces gains d'équité ont été obtenus sans dégradation statistiquement significative de l'exactitude prédictive.
• Cohérence : Des améliorations ont été observées tant dans le réglage du classifieur extracteur de caractéristiques que dans celui du classifieur affiné, bien que l'ampleur varie selon le modèle et le jeu de données.

3. Interaction avec les Stratégies Extrinsèques (RQ3)

Les auteurs ont étudié comment la mitigation intrinsèque interagit avec les méthodes extrinsèques (CDA et auto-débiaisage).

• Complémentarité : La combinaison de FACU avec le CDA a produit de nouvelles améliorations de l'équité, surpassant souvent l'une ou l'autre méthode utilisée isolément. Cela suggère que le débaisage intrinsèque et l'augmentation des données traitent différents aspects du problème de biais.
• Preuve Statistique : Les tests de signe appariés ont indiqué que la combinaison de FACU et du CDA a entraîné des gains agrégés statistiquement significatifs sur toutes les métriques d'équité, alors que le CDA seul n'était significatif que pour l'Égalité des Chances.
• Auto-Débiaisage : Bien que la combinaison de FACU avec l'auto-débiaisage ait montré certaines améliorations, les résultats étaient moins cohérents, particulièrement sur de petits jeux de données ou de petits modèles où les chutes d'exactitude ont distordu les métriques d'équité.

Signification et Revendications

L'article soutient qu'une atténuation du biais intrinsèque sensible à l'équité est une stratégie viable et efficace pour améliorer l'équité en aval dans les systèmes de décision socio-économique basés sur les LLM. Les points clés incluent :

1. Causalité Directe : L'étude fournit la preuve que la réduction du biais de représentation intrinsèque mène directement à des résultats plus équitables en aval, contestant l'idée que les biais intrinsèques et extrinsèques sont sans lien.
2. Équilibrage vs Suppression : Les auteurs soutiennent que l'équité nécessite l'équilibrage des associations démographiques plutôt que leur suppression. FACU démontre que la régularisation explicite des écarts de probabilité est plus efficace que le désapprentissage standard ou l'optimisation de préférence pour cet objectif.
3. Synergie de Pipeline : Les conclusions soulignent l'importance des efforts de mitigation partagés à la fois lors du développement du modèle (intrinsèque) et lors du déploiement en aval (extrinsèque). La combinaison de ces approches produit les améliorations d'équité les plus robustes.
4. Praticité : FACU offre une solution scalable ; il nécessite une intervention ponctuelle au niveau du modèle utilisant un petit jeu de données axé sur le biais, après quoi le modèle mitigé peut être réutilisé pour diverses tâches en aval sans réentraînement sur des contraintes d'équité spécifiques.

Les auteurs concluent que, bien que la performance prédictive soit souvent priorisée lors du déploiement, l'intégration d'un désapprentissage intrinsèque sensible à l'équité comme FACU peut améliorer l'équité dans les décisions automatisées sans sacrifier l'utilité.