Lost in Translation: How Universal Ethical Values Fail to Translate Across Global Contexts

Imaginez un monde où un ensemble unique de règles est écrit pour guider la manière dont les machines intelligentes devraient se comporter, un livre de règles destiné à fonctionner partout, d'une ville animée en Europe à un village reculé en Afrique. C'est l'ambition actuelle de l'éthique de l'intelligence artificielle. Depuis des années, de grandes organisations et des entreprises technologiques se sont accordées sur une liste de valeurs fondamentales — l'équité, la transparence, la vie privée et la responsabilité — qu'elles estiment devoir régir ces systèmes. L'idée est que si nous définissons ces concepts avec suffisamment de clarté, ils fonctionneront de la même manière, quel que soit l'endroit où la technologie est utilisée. Mais cette approche suppose qu'une personne dans une culture comprenne la « justice » ou la « vie privée » exactement de la même manière qu'une personne dans une autre. Elle traite les valeurs humaines comme des constantes universelles, telles que la gravité, plutôt que comme des idées qui émanent d'histoires, de relations et de vies quotidiennes spécifiques.

Cette hypothèse est la question centrale que une équipe de chercheurs s'est proposée de tester. Ils voulaient savoir ce qui se passe lorsque ces règles mondiales rencontrent les réalités locales. Est-ce que les personnes qui construisent, utilisent et vivent réellement avec ces systèmes sont d'accord avec les définitions standards ? Ou voient-elles la technologie à travers un prisme différent ? Les chercheurs ne demandaient pas si la technologie fonctionnait techniquement, mais si la boussole morale qui la guide pointe dans la même direction pour tout le monde. Ils soupçonnaient que l'écart entre un livre de règles mondial et la vie locale pourrait être plus large que prévu, laissant potentiellement de nombreuses communautés de côté ou les forçant à accepter des valeurs qui ne correspondent pas à leurs besoins.

Pour trouver la réponse, les chercheurs se sont rendus dans dix pays différents à travers l'Afrique, l'Asie, l'Amérique latine, l'Europe, l'Amérique du Nord, les Caraïbes et l'Océanie. Ils n'ont pas étudié le code des machines elles-mêmes ; au lieu de cela, ils se sont assis avec quatorze experts qui vivent et travaillent dans ces régions diverses. Il ne s'agissait pas seulement de spécialistes en informatique, mais aussi de leaders communautaires, de journalistes et de défenseurs de politiques publiques qui comprennent à la fois la technologie et les courants culturels profonds de leurs pays respectifs. Au cours de sept mois, l'équipe a mené des conversations approfondies, demandant à ces experts d'expliquer comment ils perçoivent l'intelligence artificielle dans leurs propres quartiers et comment ils interprètent les grands mots éthiques utilisés dans les documents de politique mondiale.

Ce qui a émergé de ces conversations est le portrait clair d'un monde où l'expérience de la technologie est profondément inégale. Les experts ont décrit un paysage où l'accès à l'intelligence artificielle est souvent bloqué par des réalités physiques simples : un manque d'électricité fiable, des connexions internet instables ou l'absence d'appareils abordables. Dans de nombreux endroits, la technologie arrive non pas comme un outil neutre, mais comme quelque chose qui semble être extrait de la communauté plutôt que construit avec elle. Les chercheurs ont constaté que les gens dans ces régions ont souvent le sentiment que leurs données sont prises sans leur pleine compréhension ou leur consentement, utilisées pour entraîner des systèmes qui échouent ensuite à reconnaître leurs langues, leurs accents ou leurs nuances culturelles. Cela crée un sentiment d'extraction, où la communauté locale fournit le carburant pour la machine mais ne voit que peu de bénéfices, tandis que les décisions sur le fonctionnement de la machine sont prises loin de là par des personnes qui ne partagent pas leurs luttes quotidiennes.

La découverte la plus frappante, cependant, fut la manière dont les experts ont redéfini les mots mêmes utilisés pour gouverner ces systèmes. Lorsque les chercheurs ont interrogé sur la « vie privée », la définition mondiale standard se concentre sur le droit de l'individu à garder ses propres données secrètes. Mais dans beaucoup des cultures représentées dans l'étude, la vie privée n'est pas un bouclier individuel ; c'est une pratique collective. Pour ces experts, la vie privée concerne la famille ou la communauté. Décider quelles informations partager est une conversation de groupe, pesée par rapport au bien-être et à la réputation de l'ensemble du groupe, et non seulement par rapport aux droits d'une seule personne. Un système qui traite les données comme une propriété purement individuelle passe à côté de la façon dont ces communautés fonctionnent réellement.

De même, le concept de « transparence » a pris un sens différent. Dans le monde technologique mondial, la transparence signifie souvent ouvrir le code pour que les ingénieurs puissent voir comment fonctionne le calcul. Mais pour les experts de cette étude, la transparence concernait la confiance et la responsabilité. Ils n'avaient pas besoin de voir le code ; ils avaient besoin de pouvoir demander à un être humain : « Pourquoi avez-vous pris cette décision ? » et d'obtenir une réponse qui fasse sens dans leur propre langue et leur propre contexte. Si un agricurneur dans une zone rurale ne peut pas comprendre pourquoi une machine prédit la pluie ou la sécheresse, le système n'est pas transparent, quelle que soit l'ampleur de la documentation technique disponible. La confiance se construit par les relations et une communication claire, et non par l'accès à des algorithmes complexes.

L'idée de « justice » a également évolué. La vision standard recherche souvent l'égalité mathématique, garantissant que chaque groupe obtienne exactement le même résultat. Mais les experts ont soutenu que la véritable justice est une question d'équité et d'accès. Si un système est techniquement juste mais nécessite une connexion internet haut débit ou un smartphone pour être utilisé, il n'est pas juste pour la personne qui manque de ces ressources. La justice, selon eux, signifie s'assurer que le système est accessible à tous et que les personnes qui le conçoivent ont écouté les voix de celles qui seront les plus affectées par lui. C'est une question de justice structurelle, et non d'un simple calcul de chiffres.

Les chercheurs ont découvert que ces différences ne sont pas de simples malentendus mineurs ; ce sont ce qu'ils appellent des « écarts de traduction ». C'est l'espace où une règle universelle ne parvient pas à s'appliquer correctement dans un lieu spécifique. Lorsqu'un cadre mondial dit « soyez équitable », cela peut signifier une chose dans une salle de conseil à New York et quelque chose de totalement différent dans un village au Kenya. Lorsque ces écarts sont ignorés, le résultat est souvent un système qui semble étranger, peu fiable, voire nuisible pour les personnes qu'il est censé aider. Les experts ont décrit le sentiment d'être des étrangers dans leur propre futur technologique, regardant des décisions être prises pour eux par des autorités lointaines qui ne comprennent pas leurs valeurs locales.

En réponse à ces conclusions, les experts ont proposé une nouvelle voie à suivre. Ils ont suggéré qu'au lieu de vouloir imposer un ensemble unique de règles au monde entier, nous avons besoin d'un système de gouvernance qui permette à de nombreuses voix différentes de s'exprimer. Ils ont proposé que les communautés locales aient l'autorité de façonner la manière dont ces technologies sont conçues et utilisées dans leurs propres régions. Cela signifie passer d'un modèle où quelques institutions puissantes dictent les règles, à un modèle où la connaissance et la prise de décision sont partagées. Cela implique de reconnaître que les cultures locales possèdent leur propre sagesse profonde sur la manière de gérer les données, de construire la confiance et d'assurer la justice.

L'étude conclut que le chemin vers une intelligence artificielle éthique ne consiste pas à trouver une définition unique et parfaite d'une valeur qui fonctionnerait partout. Au contraire, il s'agit de créer un processus où ces valeurs peuvent être négociées et adaptées à mesure qu'elles passent d'un contexte à un autre. Cela exige d'écouter les personnes qui vivent réellement avec la technologie et de leur permettre de définir ce que signifient la justice, la vie privée et la confiance dans leur propre vie. En traitant les valeurs éthiques comme quelque chose qui doit être traduit et réimaginé pour chaque communauté, plutôt que comme un standard fixe à imposer, nous pouvons construire des systèmes qui sont non seulement plus intelligents, mais aussi plus justes et plus humains. Les chercheurs suggèrent que ce changement est essentiel si nous voulons que l'intelligence artificielle serve toute l'humanité, et non seulement quelques privilégiés.