The Universality Myth: Epistemic Exclusion, Structural Power, and AI Governance in the Global South
Cet article soutient que l'universalité revendiquée des principaux cadres de gouvernance de l'IA est un mythe idéologique qui masque un mécanisme structurel d'exclusion épistémique, dans lequel les populations du Sud global manquent de la « littératie de contestation » nécessaire pour contester les systèmes d'IA, renforçant ainsi le pouvoir des déployeurs par une combinaison de privation de ressources conceptuelles, d'imaginaires sociotechniques déformés et de barrières structurelles bureaucratiques.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez un monde où les règles de construction et de contrôle de l'intelligence artificielle sont écrites dans une langue que la plupart des gens ne peuvent pas lire. Les dirigeants mondiaux et les grandes organisations prétendent souvent que ces règles s'appliquent à tous, partout, et qu'elles sont conçues pour protéger l'humanité et la planète. Ils parlent de principes universels qui devraient guider chaque nation. Mais un examen plus attentif révèle une réalité différente : pour de nombreuses communautés, en particulier celles du Sud global — un terme utilisé ici pour désigner les régions historiquement laissées de côté par la création de ces technologies — ces règles ne sont pas seulement difficiles à suivre ; elles sont invisibles. Les populations vivant sous ces systèmes manquent souvent des outils de base pour même reconnaître qu'un système d'intelligence artificielle prend des décisions concernant leur vie, et encore moins la capacité de remettre en question ces décisions. Il ne s'agit pas simplement d'un besoin de plus d'éducation ou d'un meilleur accès à Internet. C'est un fossé structurel où les concepts mêmes nécessaires pour comprendre et contester ces systèmes sont absents de la conversation publique.
Ce fossé est ce que les chercheurs Amulya N et Ashwini Prasad S, de l'Université RV, ont entrepris d'étudier. Ils soutiennent que l'idée d'une gouvernance de l'IA « universelle » est une illusion qui sert en réalité ceux qui détiennent le pouvoir. Les auteurs suggèrent que, tandis que les entreprises technologiques et les gouvernements s'efforcent d'apprendre aux gens comment utiliser les produits d'IA — comment faire défiler, cliquer et interagir — ils ne leur apprennent pas comment les gouverner. Il existe une différence cruciale entre savoir utiliser un outil et savoir tenir le fabricant de cet outil pour responsable. L'article postule que ce manque de « contestabilité » — la capacité de percevoir un système comme quelque chose qui peut être questionné et réglementé — n'est pas un accident. C'est une partie fonctionnelle de la manière dont le pouvoir opère. Quand les gens ne peuvent pas voir le système, ils ne peuvent pas le contester, et les entreprises qui le construisent ne font face à aucune pression pour changer.
Pour comprendre comment cela se produit, les chercheurs ont examiné deux lieux très différents : l'Inde et les nations de l'Afrique subsaharienne. Ils ont choisi ces lieux pour montrer que ce problème n'est pas propre à un seul pays ou à un seul type de gouvernement. En Inde, une nation dotée de sa propre industrie technologique puissante et d'un gouvernement important, le problème vient de l'intérieur. Le gouvernement a adopté une loi majeure sur la protection des données, mais le débat au parlement n'a duré qu'environ deux heures, et la loi finale comprenait de larges exemptions pour l'État lui-même. Le public, largement inconscient des détails de l'intelligence artificielle, ne possédait ni le vocabulaire ni la pression politique pour exiger de meilleures garanties. Le résultat fut une loi qui semblait protectrice sur le papier, mais qui offrait peu de protection réelle aux citoyens ordinaires. En Afrique subsaharienne, le problème vient de l'extérieur. Les pays de cette région adoptent des systèmes d'IA et des règles de gouvernance conçus en Europe ou aux États-Unis, souvent sans les institutions ou l'expertise locales nécessaires pour les appliquer. On leur dit que ces règles sont universelles, mais parce qu'elles ont été conçues pour des sociétés différentes, elles échouent souvent à protéger la population locale, la laissant soumise à des systèmes qu'elle ne peut ni auditer ni comprendre.
Les chercheurs ont découvert que cette invisibilité est maintenue par deux forces principales. Premièrement, il y a un manque de sensibilisation. Beaucoup de gens ignore ne savent tout simplement pas que l'IA prend des décisions concernant leurs prêts, leurs aides sociales ou leur sécurité. Deuxièmement, il existe une forme de désinformation, où les gens sont au courant de l'IA, mais seulement à travers des récits spécifiques qui cachent les dangers réels. Certains entendent dire que l'IA est une solution magique qui résoudra tous les problèmes de développement, tandis que d'autres sont poussés à craindre une invasion de robots de science-fiction. Ces récits détournent l'attention du mal réel et silencieux qui se produit actuellement : des algorithmes qui discriminent, des données qui sont volées et une infrastructure construite sans le consentement local. L'article soutient que ces récits ne sont pas de simples malentendus ; ce sont des caractéristiques structurelles qui empêchent les gens de poser les bonnes questions.
L'une des conclusions les plus frappantes de l'étude est que cet aveuglement s'étend même aux responsables gouvernementaux qui approuvent la construction des centres de données qui alimentent ces systèmes. En Inde, un seul centre de données peut nécessiter jusqu'à trente permis différents provenant de diverses agences gouvernementales. Un fonctionnaire peut approuver un permis de construire ou un raccordement électrique sans jamais savoir que le bâtiment est un centre de données destiné à un système d'intelligence artificielle. La paperasse ne demande pas cette information, et la fiche de poste de l'officiel n'inclut pas la compréhension de l'impact global de l'IA. Ils ne sont pas corrompus ; ils sont simplement inconscients. Ils permettent l'existence d'un système de gouvernance massif tout en étant totalement aveugles à son existence. Cela crée une situation où les personnes censées être aux commandes sont en fait tout aussi exclues de la connaissance que les citoyens qu'elles servent.
L'étude remet en question la croyance commune selon laquelle la solution consiste simplement à enseigner davantage de technologie aux gens. Les auteurs affirment que l'enseignement de l'utilisation de l'IA ne règle pas le problème si les personnes responsables n'ont aucun pouvoir légal pour arrêter les mauvais systèmes, ou si les lois elles-mêmes sont écrites pour exempter les puissants. Ajouter des voix à la conversation n'aide pas si la conversation se déroule dans une langue que ces voix ne peuvent pas parler, ou si les règles de la conversation sont fixées par des personnes qui n'ont pas besoin d'écouter. L'article conclut que l'affirmation d'une gouvernance universelle de l'IA est un mythe qui sert les intérêts de ceux qui construisent et déploient ces systèmes. Cela leur permet de prétendre qu'ils respectent les normes mondiales tout en opérant dans un espace où personne ne peut vérifier si ces normes sont réellement respectées. Tant que les personnes vivant sous ces systèmes ne disposeront pas des outils conceptuels pour voir le miroir tel qu'il est, le pouvoir de façonner l'avenir de l'intelligence artificielle restera hors de leur portée.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.