Queer NLP: A Critical Survey on Literature Gaps, Biases and Trends

Ce sondage critique examine la littérature sur le NLP et les communautés LGBTQIA+, identifiant des tendances réactives et des lacunes méthodologiques tout en appelant à une approche plus proactive, inclusive et interdisciplinaire pour développer des technologies linguistiques plus justes.

L'essentiel

🌈 Le Rapport sur l'IA et la Communauté Queer : Une Carte au Trésor des Manquements

Imaginez que la technologie du Traitement Automatique du Langage (NLP), c'est comme un immense chef cuisinier robot qui apprend à parler en avalant des montagnes de livres, de tweets et d'articles sur internet. Ce robot est devenu très fort pour écrire, traduire et répondre aux questions. Mais, comme il a appris en regardant le monde tel qu'il est (et non tel qu'il devrait être), il a aussi avalé tous nos préjugés, nos stéréotypes et nos erreurs.

Ce papier est une enquête menée par un groupe de chercheurs (dont beaucoup font partie de la communauté LGBTQIA+) pour vérifier si ce chef robot est juste envers les personnes queer (les lesbiennes, gays, bi, trans, queer, etc.).

Voici ce qu'ils ont découvert, expliqué avec des métaphores simples :

1. Le Problème : Le Robot est "Cécé" (Cisnormatif)

Le robot a grandi dans un monde où l'on pense souvent qu'il n'y a que deux genres (homme/femme) et que l'hétérosexualité est la seule norme.

• L'analogie du miroir déformant : Quand une personne trans demande au robot de l'aider, le robot la regarde dans un miroir déformant. Il peut l'appeler par le mauvais nom, utiliser le mauvais pronom, ou pire, penser que son existence est "toxique" ou "haineuse" simplement parce qu'elle utilise des mots que le robot n'a jamais vus dans ses manuels scolaires.
• Le résultat : Le robot efface les personnes queer, les stéréotypes, ou les traite comme des monstres.

2. Ce que les chercheurs ont trouvé (Les Tendances)

Ils ont lu 86 articles scientifiques publiés sur ce sujet. Voici le résumé de leur enquête :

• 🇬🇧 Tout est en anglais : C'est comme si le chef cuisinier ne parlait que l'anglais. Presque toutes les études se concentrent sur l'anglais. Les langues comme le français, l'espagnol ou les langues africaines et asiatiques sont presque ignorées. C'est un peu comme si on essayait de comprendre la cuisine du monde entier en ne goûtant que des plats américains.
• 🔍 On cherche les problèmes, on ne les règle pas : La plupart des chercheurs agissent comme des pompiers qui attendent que le feu prenne pour venir éteindre l'incendie. Ils disent : "Regardez, ce robot est méchant avec les personnes trans !" Mais ils font rarement le travail de reconstruction pour créer un robot qui ne serait jamais méchant dès le départ. C'est une approche "réactive" (on réagit) plutôt que "proactive" (on prévient).
• 🧩 Les pièces manquantes (Les Lacunes) :
  • Pas de consultation : Les chercheurs construisent ces robots sans jamais demander aux personnes concernées (les personnes queer) ce qu'elles en pensent. C'est comme si un architecte construisait une maison pour une famille sans jamais parler à la famille pour savoir de quelles pièces elle a besoin.
  • Pas de mélange : On étudie souvent la "transidentité" ou l'homosexualité séparément, sans voir comment elles se mélangent avec la race, la religion ou le handicap. C'est comme regarder un arc-en-ciel en ne voyant que le rouge, puis seulement le bleu, sans jamais voir le spectre complet.

3. Les Exemples Concrets de Dérives

• Les insultes mal comprises : Si vous écrivez "Je suis gay", le robot peut parfois penser que c'est une insulte et vous bloquer, car il ne comprend pas le contexte.
• La traduction ratée : Si vous traduisez "Ils sont mariés" (deux hommes) d'une langue neutre vers le français, le robot va souvent choisir "Ils sont mariés" (homme/femme) par défaut, effaçant ainsi la réalité du couple.
• La voix : Les robots qui reconnaissent la voix (comme Siri ou Alexa) ont du mal avec les voix transgenres. Ils peuvent refuser de comprendre une voix qui ne correspond pas à leur idée fixe de "voix d'homme" ou "voix de femme".

4. La Solution : Comment réparer le robot ?

Les auteurs ne se contentent pas de pointer du doigt ; ils appellent à une révolution :

• 🤝 Inviter les invités à la table : Il faut que les personnes queer participent à la création des robots, pas seulement à la critique. Elles doivent être les architectes, pas juste les victimes.
• 🌍 Parler toutes les langues : Il faut arrêter de se concentrer uniquement sur l'anglais et créer des outils pour le français, le portugais, le hindi, etc.
• 🚫 Accepter le refus : C'est le point le plus important et le plus philosophique. Parfois, les personnes queer ne veulent pas être classées, étiquetées ou mesurées par une machine. Elles veulent pouvoir dire "Non, je ne rentre pas dans votre case". Le défi pour les chercheurs est de créer des systèmes qui respectent ce droit de dire "non" et de rester flous, plutôt que de forcer tout le monde à choisir une case "Homme" ou "Femme".

En résumé

Ce papier est un cri d'alarme et un plan d'action. Il dit : "Notre technologie actuelle est malade de ses préjugés. Nous avons passé trop de temps à constater les dégâts. Maintenant, il faut construire un monde numérique où les personnes queer ne sont pas seulement tolérées, mais où elles sont au cœur de la conception, avec toutes leurs nuances, leurs langues et leurs choix."

C'est un appel à transformer l'IA d'un miroir déformant en un miroir qui reflète la vraie beauté et la vraie diversité de l'humanité.

Résumé technique

Voici un résumé technique détaillé de l'article « Queer NLP: A Critical Survey on Literature Gaps, Biases and Trends » en français.

1. Problématique

L'intégration croissante des technologies de traitement du langage naturel (NLP) dans des domaines critiques (recrutement, santé, droit) pose un risque majeur de perpétuer et d'amplifier les préjudices sociaux envers les groupes marginalisés, en particulier la communauté LGBTQIA+.
Le problème central identifié par les auteurs est que la recherche actuelle en NLP aborde souvent les questions queer de manière réactive (dénoncer les biais) plutôt que proactive (créer des solutions inclusives). De plus, la littérature souffre de lacunes structurelles :

• Une domination de la langue anglaise et des perspectives occidentales.
• Une absence de prise en compte de l'intersectionnalité (croisement des identités).
• Un manque d'implication des parties prenantes (membres de la communauté queer) dans le développement et l'évaluation des modèles.
• Une approche binaire et cisnormative du genre et de la sexualité.

2. Méthodologie

Les auteurs ont mené une enquête systématique (survey) basée sur la méthodologie PRISMA pour analyser l'état de l'art du NLP queer.

• Collecte de données : Recherche dans l'anthologie ACL (Association for Computational Linguistics) et d'autres bases de données académiques (Semantic Scholar) en utilisant des mots-clés liés à l'identité queer (ex: queer, lgbt, transgender, non-binary).
• Filtrage : Après un filtrage manuel pour exclure les articles non pertinents (ex: auteurs homonymes, usage du mot "gay" sans contexte communautaire), la sélection finale comprend 86 articles (dont 67 publiés dans l'anthologie ACL).
• Annotation : Chaque article a été annoté selon plusieurs axes :
  • Tâche NLP (classification, traduction, etc.).
  • Groupes queer ciblés et types de préjudices abordés.
  • Méthodologies utilisées.
  • Implication des parties prenantes (stakeholders).
  • Prise en compte de l'intersectionnalité.
  • Diversité linguistique des données.
• Fiabilité : Une analyse de fiabilité inter-évaluateurs a été réalisée sur un sous-ensemble de papiers, montrant un accord élevé (90,09 %).

3. Contributions Clés

Cet article est la première enquête systématique couvrant l'ensemble des tâches NLP dans le contexte queer au sein de l'anthologie ACL. Ses contributions principales sont :

1. Cartographie de l'état de l'art : Une analyse détaillée des tendances actuelles par sous-domaine (modèles de langage, classification, traduction, reconnaissance vocale).
2. Identification des lacunes : Mise en évidence du manque de diversité linguistique, de l'absence d'approche intersectionnelle et de la faible participation des communautés concernées.
3. Perspective critique : Intégration de la théorie queer pour critiquer les fondements épistémologiques du NLP (catégorisation rigide, cisnormativité) et proposer des voies de recherche alternatives.
4. Appel à l'action : Une feuille de route pour passer d'une approche de "détection de biais" à une conception de systèmes justes et inclusifs.

4. Résultats Principaux

A. Tendances de Recherche

• Dominance de l'anglais : 76,7 % des papiers se concentrent sur l'anglais. Les autres langues sont principalement des langues européennes occidentales (allemand, italien, espagnol).
• Approche réactive : La majorité des travaux se concentrent sur l'évaluation des biais (via des méthodes basées sur des modèles ou des templates) plutôt que sur la création de nouvelles solutions ou la mitigation proactive.
• Sujets récurrents :
  • Pronoms : Une grande partie des travaux (30 %) traite des pronoms neutres et des néopronoms, souvent via des benchmarks de résolution de coréférence.
  • Insultes et identité : Détection des discours de haine, où les modèles ont tendance à sur-classer les termes identitaires queer comme toxiques (faux positifs).
  • Stéréotypes : Analyse des biais dans les données d'entraînement non curées.

B. Lacunes Critiques (Gaps)

• Absence de parties prenantes : Très peu d'articles impliquent des membres de la communauté queer dans la conception, la collecte de données ou l'évaluation. Les métriques automatiques remplacent souvent le feedback utilisateur.
• Manque d'intersectionnalité : Les études traitent rarement des identités croisées (ex: race + genre + sexualité) et ignorent les structures de pouvoir sous-jacentes.
• Anglocentrisme : Le domaine de la traduction automatique, bien que multilingue par nature, se concentre presque exclusivement sur des paires de langues incluant l'anglais.
• Traitement de la parole : Peu de données existent pour les voix trans et non-binaires. Les systèmes de reconnaissance automatique de la parole (ASR) et de synthèse (TTS) sont calibrés sur des normes binaires de genre.

C. Résultats par Domaine NLP

• Modèles de Langage (LLM) : Les biais se manifestent par l'effacement, la stigmatisation et le mauvais genre (misgendering). Les méthodes de mitigation (post-hoc) sont rares et difficiles à déployer à grande échelle.
• Classification de texte : Les systèmes de détection de haine échouent souvent à distinguer le langage réapproprié (slurs reclaimed) du discours de haine réel.
• Traduction : Difficultés majeures avec les pronoms neutres et les néopronoms, souvent ignorés ou traduits de manière binaire.
• Chatbots : Les applications de santé et de soutien émotionnel montrent des lacunes en termes de fiabilité et de sensibilité culturelle, bien que certains travaux tentent d'améliorer cela.

5. Signification et Perspectives Futures

Ce survey ne se contente pas de résumer le passé ; il propose une refonte des pratiques en NLP queer :

• Au-delà de la détection : Il faut passer de la simple identification des biais à la conception de systèmes qui permettent aux utilisateurs de refuser la catégorisation (concept de "refusal" ou refus de classification normative).
• Recherche participative : L'implication directe des communautés queer (recherche-action participative) est essentielle pour définir ce qui constitue un préjudice et pour collecter des données représentatives.
• Diversité linguistique et culturelle : Nécessité de soutenir les recherches en langues non-anglophones et de reconnaître les spécificités culturelles des identités queer (ex: Hijra en Asie du Sud), au-delà du modèle occidental.
• Interdisciplinarité : L'intégration de la théorie queer, de la sociolinguistique et des études de genre est cruciale pour dépasser les limites techniques actuelles et créer des systèmes éthiques.

En conclusion, l'article plaide pour un NLP qui ne se contente pas de "réparer" les systèmes existants, mais qui intègre activement les réalités queer dès la phase de conception, en reconnaissant la fluidité des identités et en rejetant les normes cis/hétéronormatives inhérentes aux données d'entraînement actuelles.