Epistemic Subordination: Generative AI and the Infrastructure of Knowledge

Dans le monde moderne, nous nous appuyons de plus en plus sur l'intelligence artificielle pour résumer les actualités, écrire des histoires et répondre à des questions. Ces systèmes, connus sous le nom d'IA générative, ne se contentent pas de récupérer des faits dans une base de données ; ils apprennent à prédire quels mots devraient suivre en étudiant de vastes quantités de textes provenant d'Internet. Ce processus crée un modèle statistique du langage humain, où le système apprend des modèles basés sur ce qu'il a lu le plus souvent. Depuis des décennies, les experts craignent que ces systèmes puissent être biaisés, c'est-à-dire qu'ils pourraient favoriser injustement un groupe de personnes par rapport à un autre. L'hypothèse habituelle est que ce biais provient d'erreurs spécifiques dans les données ou des choix faits par les programmeurs qui construisent les outils. Cependant, une nouvelle perspective suggère que le problème est bien plus profond et structurel. Il ne s'agit pas seulement que l'IA commette des erreurs, mais que le fondement même de la manière dont l'IA comprend le monde soit construit sur une manière unique et dominante de penser, faisant de toutes les autres manières de savoir des déviations.

Deux juristes, Gilad Abiri et Emanuel Towfigh, soutiennent que ce phénomène, qu'ils appellent subordination épistémique, représente un changement fondamental dans la manière dont la connaissance est organisée. Ils proposent que l'IA générative accomplisse ce qu'aucune technologie précédente n'a fait : elle encode la manière de savoir de la majorité comme l'infrastructure par défaut de toute connaissance. Dans ce système, les hypothèses culturelles, les langues et les styles de raisonnement de la majorité mondiale deviennent la norme invisible par rapport à laquelle tout le reste est mesuré. Le préjudice ne réside pas seulement dans le fait que l'IA produise des résultats injustes, mais qu'elle construise une réalité statistique où les cultures et les langues minoritaires sont structurellement reléguées au bas de l'échelle, non pas parce qu'elles sont exclues, mais parce qu'elles sont absorbées et aplaties en une moyenne homogène unique. Les auteurs montrent que ce problème unifie trois problèmes distincts souvent traités séparément : les résultats discriminatoires, les menaces pesant sur les cultures minoritaires et le rétrécissement du débat démocratique. Ils constatent que ceux-ci ne sont pas des bugs aléatoires, mais le résultat inévitable de la manière dont ces modèles sont construits.

Le mécanisme derrière cette subordination se déroule en trois étapes distinctes, en commençant par les données elles-mêmes. La plupart des modèles d'IA sont entraînés sur la totalité non structurée de l'expression humaine disponible sur Internet. Ce paysage numérique n'est pas neutre ; il est massivement dominé par le contenu en langue anglaise, les perspectives occidentales et les points de vue des populations ayant l'éducation et l'accès nécessaires pour publier en ligne. Lorsqu'un modèle apprend de ce corpus, il n'apprend pas seulement des mots ; il apprend les hypothèses culturelles et les cadres normatifs de cette majorité comme son défaut statistique. La deuxième étape rend ce défaut irréversible. Pendant l'entraînement, les données sont compressées en des milliards de paramètres statistiques qui ne peuvent être ni déballés ni tracés jusqu'à leurs sources originales. Contra irement aux anciens programmes informatiques où un programmeur pouvait pointer une règle spécifique causant un biais, ces modèles sont opaques par conception. Le biais n'est pas dans une seule ligne de code ou une variable spécifique ; il est tissé dans l'architecture entière du système.

La troisième étape concerne les outils utilisés pour rendre ces systèmes d'IA sûrs et équitables, appelés alignement des valeurs. Des techniques telles que l'apprentissage par renforcement à partir de la rétroaction humaine ajustent ce que le modèle dit pour le rendre plus poli ou moins préjudiciable. Cependant, les auteurs soutiennent que ces outils ne changent que le résultat, et non la connaissance sous-jacente. Lorsque les développeurs tentent de forcer un modèle à être diversifié, les résultats peuvent être absurdes, comme la génération d'images de soldats nazis de diverses origines raciales, car le socle du modèle n'a pas de véritable cadre pour la diversité contextuelle. Il tente simplement de supplanter grossièrement un défaut statistique qu'il ne peut véritablement comprendre. Par conséquent, le préjudice est produit au niveau de la construction, et non au niveau de la réponse finale. Le modèle ne se contente pas de produire des décisions biaisées ; il subordonne des formes entières de savoir et de culture en les traitant comme des déviations d'un standard auquel elles n'ont pris aucune part.

Cette réalité structurelle crée une crise pour les lois existantes conçues pour protéger les minorités. Les lois anti-discrimination, par exemple, fonctionnent en comparant une décision spécifique à une base neutre. Si une banque rejette une demande de prêt en se basant sur une règle spécifique qui nuit à un groupe protégé, la loi peut l'annuler. Mais l'IA générative n'offre aucun objectif discret de ce type. Le résultat discriminatoire est le produit de l'architecture entière, et non d'une règle identifiable. La « décision » est une supposition probabiliste, les « critères » sont des milliards de paramètres invisibles, et l'« entité » responsable est une chaîne de développeurs et de déployeurs. Les outils juridiques de l'intention et de la causalité perdent leur emprise car le préjudice n'est pas un acte spécifique d'exclusion, mais une condition d'inclusion où les points de vue minoritaires sont absorbés et aplatis.

La menace s'étend aux droits culturels et linguistiques, qui sont destinés à protéger les institutions minoritaires de la dominance de la majorité. Traditionnellement, une école minoritaire pouvait constituer sa propre bibliothèque ou choisir son propre programme pour préserver sa langue et ses traditions. Le biais culturel dans ces technologies résidait dans le contenu, qui pouvait être sélectionné. L'IA générative inverse cela. Le biais est dans l'architecture même du modèle. Une communauté minoritaire ne peut pas construire son propre modèle de base car le coût se chiffre en centaines de millions de dollars et les données requises n'existent pas à l'échelle d'Internet pour les petites langues. Des tests récents montrent que même les meilleurs modèles atteignent une précision élevée en anglais, mais chutent considérablement dans des langues comme le swahili ou le yoruba. Lorsqu'une école religieuse ou une classe de langue minoritaire utilise un assistant d'IA, elle importe un cadre normatif qui tend par défaut vers un raisonnement séculier et occidental. La technologie pénètre les espaces institutionnels que ces droits étaient censés protéger, restructurant le savoir de l'intérieur d'une manière que les outils précédents n'ont jamais faite.

Enfin, ce phénomène menace l'infrastructure même de la délibération démocratique. Une démocratie saine dépend de la disponibilité de cadres véritablement diversifiés pour comprendre les problèmes. Elle exige que les gens soient exposés à des points de vue qu'ils n'auraient pas choisis à l'avance. Cependant, si l'IA générative devient une source primaire d'information, elle homogénéise le champ épistémique. Les cadres minoritaires ne sont pas censurés ; ils sont absorbés dans les données d'entraînement du modèle mais structurellement subordonnés dans le résultat. Le discours public ne disparaîtra pas, mais il se déroulera de plus en plus dans un champ qui a déjà été aplati à la culture médiane. Les cadres juridiques conçus pour protéger le pluralisme des points de vue, tels que les règles de diversité des médias, supposent que les connaissances diverses existent indépendamment et qu'elles ont juste besoin d'un canal pour atteindre le public. La subordination épistémique fait s'effondrer cette hypothèse, rétrécissant le champ d'où surgit la parole diversifiée.

Les auteurs concluent que les réponses juridiques actuelles sont structurellement incapables d'atteindre ce problème car elles opèrent en aval, en régulant ce que font les systèmes d'IA plutôt que la manière dont ils sont construits. Les lois comme l'IA Act de l'Union européenne ou diverses réglementations étatiques se concentrent sur l'application de l'IA dans l'embauche ou le crédit, ou sur la sécurité du produit final. Elles ne traitent pas de la composition des données d'entraînement ni de l'architecture du modèle lui-même. La thèse centrale de l'essai est que la protection du pluralisme épistémique nécessite une orientation réglementaire fondamentalement différente. Le droit doit être poussé à gouverner au niveau de l'entraînement, en façonnant la composition des données, les méthodes d'alignement et l'architecture du modèle.

Il ne s'agit pas seulement d'une demande théorique ; des recherches récentes suggèrent que la capacité technique d'intervenir est réelle. Des scientifiques ont proposé des architectures modulaires où un modèle de base s'appuie sur de plus petits modèles spécifiques à une communauté pour préserver des perspectives distinctes. D'autres ont démontré comment construire systématiquement des données d'entraînement ancrées culturellement pour les langues sous-représentées, garantissant que la nuance est préservée plutôt qu'aplatie. Il existe également des méthodes pour générer des données d'entraînement synthétiques afin de représenter des perspectives culturelles spécifiques et pour redéfinir le processus d'alignement afin de représenter une distribution complète des valeurs humaines plutôt qu'un seul défaut. Bien que ces propositions ne soient pas des solutions achevées, elles démontrent que la voie technique existe. Ce qui manque encore, c'est la volonté politique et le cadre juridique pour exiger et permettre ces interventions. La tâche à venir est de construire des lois capables d'atteindre la construction même du modèle, garantissant que l'infrastructure de la connaissance ne subordonne pas la diversité même qu'elle prétend servir.