Standard Language Ideology in AI-Generated Language

Résumé Technique : L'idéologie de la langue standard dans le langage généré par l'IA

Énoncé du problème
Les grands modèles de langage (LLM) et les systèmes d'IA générative reproduisent et normalisent actuellement une « idéologie de la langue standard », un concept sociolinguistique décrivant le biais en faveur de variétés linguistiques spécifiques (particulièrement l'anglais américain standard, ou SAE) auxquelles sont accordés un prestige, une autorité et une légitimité supérieurs. Il ne s'agit pas simplement d'une disparité de performance où les modèles éprouvent des difficultés avec les dialectes non standards ; il s'agit d'un problème sociotechnique où les systèmes d'IA renforcent activement les hiérarchies linguistiques. Ces systèmes positionnent les variétés « standards » comme le mode par défaut approprié tout en marginalisant les variétés minoritaires (par exemple, l'anglais afro-américain, le singlish, les dialectes régionaux) par des mécanismes de stéréotypage, d'appropriation et d'effacement. L'article soutient que ces problèmes sont structurels plutôt que purement techniques, reflétant les rapports de force qui déterminent quelles langues sont préservées, filtrées ou amplifiées dans les données d'entraînement et les sorties de modèles.

Méthodologie
Les auteurs emploient une approche multidisciplinaire, synthétisant des preuves empiriques issues des évaluations existantes des LLM avec des cadres théoriques de la sociolinguistique et des études critiques du langage.

• Fondement théorique : L'analyse est ancrée dans les mécanismes de l'idéologie de la langue standard identifiés par les sociolinguistes : l'iconisation (lier les caractéristiques linguistiques à l'essence sociale), la récursivité fractale (projeter des oppositions au sein des sous-groupes) et l'effacement (obscurcir les faits qui contredisent le récit dominant).
• Processus analytique : L'équipe a mené une revue ciblée des études à grande échelle et des évaluations systématiques concernant le biais linguistique dans les LLM, complétée par une revue de littérature plus large sur l'inégalité linguistique. L'analyse était à la fois déductive (application des mécanismes sociolinguistiques établis comme échafaudage) et inductive (cartographie itérative des résultats empiriques à ces catégories).
• Synthèse : Les auteurs ont catégorisé les manifestations documentées de l'IA et les ont liées aux implications sociétales potentielles, créant un cadre structuré pour expliquer comment les biais linguistiques dans l'IA reflètent et renforcent les systèmes de pouvoir plus larges.

Principales contributions
La principale contribution de l'article est l'introduction de l'Idéologie de la langue standard générée par l'IA et d'une taxonomie facettée de problèmes ouverts qui opérationnalisent ce concept. Cette taxonomie dépasse le simple inventaire des erreurs de modèles pour catégoriser les mécanismes structurels par lesquels les LLM reproduisent les hiérarchies de pouvoir linguistiques. La taxonomie identifie cinq problèmes ouverts spécifiques :

1. Normalisation de la langue « standard » comme défaut : Les LLM reviennent systématiquement par défaut vers des variétés prestigieuses (SAE), même lorsqu'ils sont sollicités par des entrées non standards. Cela renforce l'idée que les variétés standards sont les seuls modes de communication « corrects » ou neutres, exacerbant potentiellement le biais d'automatisation où les utilisateurs font confiance aux sorties de l'IA qui s'alignent sur ces normes.
2. Qualité de service inégale pour les variétés minoritaires : Les locuteurs de variétés non standards sont confrontés à des performances dégradées, incluant une compréhension moindre, une classification erronée des entrées comme toxiques/haineuses, et un refus de répondre. Cela constitue un préjudice d'allocation, incitant au « codage alterné numérique » (digital code-switching) et imposant des coûts psychologiques aux utilisateurs.
3. Productions stéréotypées et racialisées : Lorsque les modèles génèrent du texte dans des variétés minoritaires, ils produisent souvent des contenus stylisés, caricaturaux ou dédaignants. Cela reflète une racialisation, où la forme linguistique devient un substitut d'identité sociale négative et de jugement moral.
4. Appropriation et marchandisation : Les LLM permettent l'extraction de la valeur culturelle et linguistique des communautés marginalisées sans responsabilité ni bénéfice pour ces communautés. Cela inclut le « minstrelisme linguistique » (des locuteurs non natifs utilisant l'IA pour s'approprier des dialectes) et l'effacement des origines historiques et ethniques de la langue (par exemple, rebaptiser l'AAE en « argot de la Gen Z »).
5. Suppression et effacement : Les efforts pour « éviter de nuire » en supprimant les productions non standards risquent de reproduire un effacement institutionnel, où les formes linguistiques légitimes sont poussées hors des infrastructures technologiques, rétrécissant l'avenir linguistique des écosystèmes d'IA.

Résultats et conclusions
L'article synthétise les preuves empiriques existantes pour démontrer que les LLM ne se contentent pas de « lutter » avec les variétés non standards, mais participent activement à la construction de hiérarchies linguistiques :

• Disparités de performance : Les études montrent une perplexité plus élevée et une précision moindre pour l'AAE et d'autres variétés non standards dans des tâches telles que la génération de texte et l'analyse de sentiment.
• Comportement de retour par défaut : La recherche indique que même lorsqu'ils sont sollicités avec des entrées non standards, les sorties des modèles reviennent à l'orthographe et à la syntaxe du SAE, avec des réductions significatives des traits dialectaux (par exemple, une réduction de plus de 96 % pour les entrées en anglais jamaïcain et afro-américain).
• Stéréotypage : Les locuteurs natifs jugent les productions de l'IA pour les variétés minoritaires comme étant nettement plus dédaignantes et condescendantes que les productions pour les variétés standards.
• Iniquités de données : La dominance de l'anglais dans les données d'entraînement (environ 60 % du contenu Internet contre 17 % des locuteurs mondiaux) et le filtrage des variétés non standards lors du forage de données (scraping) sont identifiés comme des conséquences matérielles de l'idéologie de la langue standard, et non de simples limitations techniques.
• Contexte de l'IA souveraine : L'article note que si les initiatives d'« IA souveraine » (par exemple, en Inde) visent à contrer la dominance de l'anglais, elles risquent de reproduire des hiérarchies linguistiques internes si elles privilégient des formes « standards » définies par l'État au détriment de la diversité dialectale et indigène.

Signification et recommandations
L'article affirme que ces problèmes ne peuvent être résolus par de simples correctifs d'ingénierie (par exemple, un meilleur équilibrage des données) car ils sont enracinés dans les rapports de force et les priorités institutionnelles. Les auteurs plaident pour un passage vers des résultats émancipateurs qui privilégient la responsabilité, l'agence communautaire, le contrôle et la propriété.

L'article propose trois recommandations concrètes pour les chercheurs, les bailleurs de fonds et les praticiens :

1. Élargir les métriques d'évaluation : Les cadres d'évaluation des modèles doivent explicitement inclure la variété linguistique comme une catégorie pour évaluer le préjudice (aux côtés de la race et du genre), en développant des tests pour détecter l'effacement, le stéréotypage et la condescendance.
2. Soutenir le développement dirigé par les communautés : Les institutions multilatérales doivent financer et soutenir les communautés linguistiques dans la création de leurs propres ensembles de données et modèles (par exemple, Masakhane, AI4Bharat, Te Hiku Media). Cela redonne l'autorité épistémique aux locuteurs et conteste les logiques d'appropriation.
3. Mettre en œuvre des processus participatifs : Les développeurs de systèmes d'IA dominants doivent engager les communautés minoritaires comme des partenaires égaux tout au long du cycle de vie de l'IA (collecte de données, entraînement, déploiement). Cela inclut une compensation équitable, le respect de la souveraineté des données et le passage de pratiques de données extractives à une participation non extractive.

L'article conclut que la diversité linguistique doit être reconnue non pas comme un défi technique à gérer, mais comme une ressource à protéger et à soutenir pour un avenir de l'IA juste. Il souligne qu'il n'y a pas de comportement unique « correct » pour les modèles de langage ; plutôt, l'accent doit être mis sur qui détient l'autorité pour décider de la manière dont ces systèmes se comportent.