Plurification in/of language technology -- The integration of culture in next-generation AI

Résumé technique : La plurification de la technologie du langage

Énoncé du problème
L'article traite du défi critique que représente l'opérationnalisation de la « culture » au sein du traitement du langage naturel (NLP) et de la technologie du langage (LT). Les approches actuelles traitent souvent la culture comme une variable statique et mesurable ou tentent de l'aborder simplement en ajoutant davantage d'exemples d'« autres cultures » aux données d'entraînement. Les auteurs soutiennent que cela est insuffisant car la culture est dynamique, possède une diversité interne et est profondément liée au pouvoir, à l'identité et au contexte. Les systèmes de NLP existants échouent fréquemment à modéliser les normes sociales et les connaissances de base qui façonnent l'interprétation, reproduisant souvent les discours dominants tout en sous-représentant les voix minoritaires, les savoirs locaux et les significations culturellement spécifiques. Le problème central est que l'alignement culturel ne peut être atteint par une adaptation technique superficielle (par exemple, le design de prompts ou la modération post-hoc), mais nécessite un changement fondamental vers des épistémologies plurielles — permettant à de multiples manières de connaître, ancrées localement, de coexister au sein de la conception technologique.

Méthodologie
L'article emploie une approche qualitative basée sur des cas, ancrée dans l'anthropologie de la technologie. Il utilise un modèle socio-technique de conception de la technologie du langage appelé les « cinq couches de l'activité technologique » (Koch et al., 2024) pour analyser et systématiser méthodiquement les approches existantes de la culture dans le NLP. Ce modèle organise l'analyse à travers cinq couches distinctes :

1. Noyau technologique : Logiciels, architectures de modèles, procédures d'entraînement et stratégies de décodage.
2. Domaine de la connaissance : Corpus, ressources linguistiques et catégories symboliques utilisés pour l'entraînement.
3. Écologies de la connaissance : Environnements sociaux, normatifs et pragmatiques plus larges (par exemple, les systèmes de savoirs locaux, les cadres juridiques).
4. Économies politiques : Pratiques d'extraction de données, travail d'annotation, financement et asymétries de pouvoir.
5. Contextes d'utilisation : Les contextes réels et les communautés où les technologies sont déployées et interprétées.

Les auteurs sélectionnent des exemples spécifiques de la recherche en NLP qui démontrent des tentatives d'intégration des dimensions culturelles à travers ces couches. Les critères de sélection se concentrent sur la question de savoir si une intervention élargit le décompte des langues/connaissances, remet en question les hypothèses universalisantes, implique une expertise locale, et s'il s'agit d'une caractéristique intégrée ou d'une adaptation superficielle de la sortie.

Contributions clés et analyse
L'article synthétise la recherche pour démontrer comment la « plurification » (l'intégration de multiples épistémologies) peut se produire à travers les cinq couches, allant au-delà d'une adaptation culturelle superficielle :

• Couche 1 (Noyau technologique) : L'article met en lumière les travaux sur le Universal Knowledge Core (UKC) (Giunchiglia et al.), qui propose une couche sémantique neutre vis-à-vis de la langue. Au lieu de centrer l'anglais comme langue pivot, l'UKC représente le sens au niveau du concept, permettant à de nombreuses langues de mapper leurs formes lexicales sur une structure partagée. Cela soutient des relations multilingues de type many-to-many sans homogénéisation linguistique.
• Couche 2 (Domaine de la connaissance) : L'analyse s'appuie sur les travaux de Steven Bird reliant le NLP à la documentation linguistique, soulignant que les jeux de données sont des artefacts construits possédant des histoires sociales. Elle préconise l'utilisation de déclarations de données (data statements) et de cadres d'annotation formels pour améliorer la disponibilité et l'interopérabilité des ressources pour les langues à faibles ressources. Les travaux de Giunchiglia sur les ontologies sont également cités pour montrer comment les représentations conceptuelles structurées peuvent aligner des systèmes de connaissances hétérogènes sans les forcer dans un schéma normatif unique.
• Couche 3 (Écologies de la connaissance) : L'article examine les cadres normatifs (par exemple, les cadres de l'IA de l'Union africaine, les directives de l'UNESCO) qui prônent une IA sensible à la diversité. Cependant, il note de manière critique que les cadres actuels pilotés par les entreprises restent souvent superficiels et orientés vers le profit, créant une « crise de la gouvernance de l'IA » où les savoirs locaux et régionaux ne sont pas adéquatement intégrés.
• Couche 4 (Économies politiques) : Les auteurs analysent la nature extractive de la LT actuelle, où les communautés sont traitées comme des sources de données plutôt que comme des co-concepteurs. Citant Nekoto et al. et Bird, l'article plaide pour une traduction automatique participative et un développement linguistique durable. Il souligne la nécessité d'une compensation équitable, de la propriété et du partage des bénéfices pour le travail impliqué dans la collecte et l'annotation des données, suggérant un passage de l'optimisation des benchmarks au bénéfice communautaire.
• Couche 5 (Contextes d'utilisation) : L'article soutient que l'adéquation culturelle est située et ne peut être validée uniquement par des métriques techniques. Il appelle à traiter les communautés de parole comme des autorités épistémiques. La « plurification » à ce niveau implique la création d'« espaces tiers » où les cadres locaux structurent les objectifs et l'évaluation des modèles, garantissant que les systèmes sont socialement intelligibles et non extractifs.

Résultats
L'analyse révèle que bien que la recherche en NLP ait progressé vers des systèmes culturellement sensibles (par exemple, la modélisation des dialectes, les données multilingues), la plupart des interventions restent partielles et focalisées sur les couches de sortie ou de représentation. Des questions plus profondes concernant le pouvoir, la gouvernance et le contexte social restent non résolues. L'article conclut que :

• La culture n'est pas une variable stable, mais un phénomène socio-technique dynamique.
• L'adaptation technique seule (par exemple, ajouter plus de données) ne parvient pas à traiter les causes profondes du désalignement culturel.
• Une véritable opérationnalisation de la culture nécessite une approche réflexive qui navigue les limites de la formalisation computationnelle.
• Les approches actuelles échouent souvent à suivre le changement culturel dans le temps ou à rendre compte des coûts élevés que cela implique.

Signification et revendications
L'article affirme que l'opérationnalisation de la culture dans le NLP nécessite une « approche socio-technique plurielle » plutôt qu'une correction purement technique. Sa signification réside dans le recadrage de la diversité culturelle non pas comme un problème de données à résoudre par davantage d'exemples, mais comme une orientation de conception qui doit imprégner toutes les couches de l'activité technologique. Les auteurs postulent que :

• La plurification est un processus continu : Ce n'est pas un état final, mais une orientation de conception continue qui redistribue l'autorité épistémique vers les communautés de parole.
• L'intégration socio-technique est essentielle : Un NLP conscient de la culture doit rendre compte de l'interaction entre les algorithmes, les données, les économies politiques et les contextes locaux.
• Limites de la formalisation : La nature dynamique et multidimensionnelle des contextes socio-culturels signifie que la culture ne peut être que partiellement formalisée ; le système doit rester réactif au désaccord et à la validité spécifique au contexte.

En fin de compte, l'article soutient que pour que la technologie du langage soit véritablement inclusive, elle doit dépasser « l'imaginaire d'une super-intelligence » et embrasser une conception pluriverselle qui reconnaît de multiples manières de connaître, ancrées localement.