The Digital Afterlife of Empires: Four Language Models Converge on the Same Imperial Cartography of Writing
Cet article soutient que les inégalités impériales historiques persistent dans les modèles de langage de grande taille contemporains à travers des données d'entraînement partagées, entraînant un sous-support numérique radical pour la plupart des systèmes d'écriture et des erreurs systématiques et convergentes à travers diverses architectures de modèles qui attribuent de manière disproportionnée des écritures non religieuses à un usage religieux.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
L'idée centrale : Le fantôme dans la machine
Imaginez que l'histoire soit une immense bibliothèque. Pendant 500 ans, de puissants empires (comme l'Espagne, la Grande-Bretagne ou la France) ont décidé quels livres garder, lesquels brûler et dans quelles langues écrire. Ils ont détruit de nombreux systèmes d'écriture locaux et en ont imposé d'autres.
Cet article soutient que les modèles de langage étendus (LLM) — les cerveaux d'IA derrière des outils comme ChatGPT — ne sont pas des inventions nouvelles et neutres. Au contraire, ils sont comme des fantômes qui hantent une bibliothèque construite par ces empires. Même si les empires ont disparu, leurs « fantômes » sont toujours présents dans le bâtiment. L'IA ne sait pas lire certaines langues non pas parce que les ingénieurs ont été méchants, mais parce que la bibliothèque (les données d'Internet) dont elle a appris est dépourvue de ces livres.
Les principales conclusions, détaillées
1. La « taxe numérique » (Pourquoi certaines langues coûtent plus cher)
Imaginez que vous passiez un péage pour entrer sur une autoroute.
- Les locuteurs anglais paient 1 $ pour parcourir 10 miles.
- Les locuteurs de langues minoritaires (comme le Limbu ou l'Adlam) sont facturés 31,70 $ pour parcourir exactement les mêmes 10 miles.
Pourquoi ? L'IA décompose le texte en petits morceaux appelés « tokens » (comme des briques de Lego).
- Pour l'anglais, l'IA possède une énorme boîte de briques de Lego préfabriquées. Elle les assemble facilement.
- Pour les écritures minoritaires, l'IA n'a pas les bonnes briques. Elle doit décomposer les lettres en octets bruts et dénués de sens (comme si l'on devait briser les briques de Lego en poussière de plastique pour tenter de les reconstruire à partir de zéro).
- Le résultat : Il faut 31 fois plus d'« effort de calcul » pour traiter une phrase en Limbu qu'en anglais. Ce n'est pas un bug ; c'est une « taxe » intégrée au système car ces langues ont été historiquement réprimées et possèdent moins de données sur Internet.
2. L'entonnoir numérique (Qui est entendu)
Les chercheurs ont examiné 300 systèmes d'écriture différents de l'histoire humaine. Ils ont cherché à voir comment le monde numérique les soutient.
- L'entonnoir : Imaginez un entonnoir géant.
- En haut : 300 écritures entrent.
- Au milieu : Beaucoup restent bloquées parce qu'elles ne sont pas dans le dictionnaire de l'ordinateur (Unicode) ou ne peuvent pas être lues par des scanners (OCR).
- En bas : Seules 29 écritures (moins de 10 %) parviennent jusqu'au fond de l'entonnoir.
- Le schéma : Les écritures qui parviennent au bout sont presque exclusivement celles utilisées par les empires historiques (latin, chinois, arabe, cyrillique). Les écritures qui restent bloquées sont celles que ces empires ont tenté d'effacer.
- La tragédie : 60 langues sont encore parlées par des populations vivantes aujourd'hui, mais le monde numérique les traite comme si elles étaient mortes. Elles sont « vivantes mais numériquement mortes ».
3. L'expérience des « quatre amis » (Ce n'est pas qu'une seule IA)
Pour prouver qu'il ne s'agissait pas d'une erreur d'une seule entreprise (comme OpenAI), les chercheurs ont posé les mêmes 3 000 questions sur les systèmes d'écriture à quatre familles d'IA différentes (Claude, GPT-4o, Grok et DeepSeek).
- La surprise : Ces quatre IA sont construites par des entreprises différentes, dans des pays différents, avec des codes différents. Elles ne devraient pas être d'accord sur leurs erreurs.
- La réalité : Elles étaient d'accord sur leurs erreurs 90 % du temps.
- L'analogie : Imaginez quatre élèves qui sont allés dans quatre écoles différentes. Si tous donnent la même mauvaise réponse à un examen d'histoire, ce n'est pas parce qu'ils se sont copiés, c'est parce qu'ils ont tous lu le même manuel scolaire biaisé.
- Le biais : Les IA se trompaient systématiquement de la même manière. Par exemple, si un script provenait d'un pays non occidental, les IA avaient une forte tendance à deviner : « Oh, cela doit être utilisé pour la religion », même si ce n'était pas le cas. Elles comblaient les vides avec des stéréotypes trouvés dans les données.
4. L'empire sans empereur
La conclusion la plus importante est que personne n'est actuellement responsable de ce biais.
- Les ingénieurs ne se sont pas assis en disant : « Créons une taxe pour les locuteurs du Limbu. »
- Le biais est structurel. Cela s'est produit ainsi :
- Les empires ont détruit des communautés et réduit le nombre de locuteurs.
- Moins de locuteurs signifiaient moins de livres et de sites web écrits dans ces langues.
- Moins de sites web signifiaient que l'IA n'avait aucune donnée pour apprendre.
- Pas de données signifie que l'IA est mauvaise dans cette langue.
- L'« Empire » n'a plus besoin de chef. Le dommage est ancré dans les statistiques. L'IA ne fait que des mathématiques basées sur un monde qui était déjà inégalitaire.
Le bug de la « Religion »
Un résultat spécifique s'est distingué : les IA étaient obsédées par l'idée de deviner que les écritures étaient « religieuses ».
- Sur l'ensemble des erreurs commises ensemble par les quatre IA, 43 % concernaient l'hypothèse qu'un script était utilisé pour la religion alors qu'il ne l'était pas.
- Pourquoi ? Internet est rempli de descriptions de l'époque coloniale de cultures non occidentales qui se concentraient lourdement sur leurs aspects « mystiques » ou « religieux », tout en ignorant leurs usages quotidiens, administratifs ou scientifiques. L'IA a appris que « Écriture non occidentale = Religion ».
La conclusion : Que peut-on faire ?
L'article suggère que nous ne pouvons pas simplement « réparer » l'IA en ajustant son code.
- Le problème : Le problème est la bibliothèque (les données d'entraînement), pas le lecteur (l'IA).
- La solution : Pour réparer cela, nous devons changer la bibliothèque. Nous devons ajouter plus de livres écrits par les personnes qui parlent ces langues, dans leurs propres écritures, décrivant leur propre vie.
- L'avertissement : Tant que nous ne le ferons pas, l'IA continuera d'être un miroir des 500 dernières années d'histoire, reflétant les mêmes inégalités, même si personne ne l'a intentionnellement voulu.
En bref : L'IA n'est pas cassée ; elle ne fait que répéter fidèlement l'histoire de ceux qui avaient le droit d'écrire et de ceux qui ont été réduits au silence. L'« au-delà numérique » des empires est toujours très vivant.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.