Decolonizing AI Ethics in Education: A Systematic Review and Glocalized Framework (FGAIEE)

Imaginez un monde où les règles de conduite envers autrui sont écrites par un groupe unique de personnes, en utilisant uniquement leur propre histoire et leur propre langue, puis appliquées à tous les autres. C'est la réalité actuelle de l'intelligence artificielle dans les écoles. À mesure que les ordinateurs deviennent plus intelligents, ils sont de plus en plus utilisés pour noter des examens, recommander des leçons et même décider de l'admission à l'université. Mais les directives éthiques destinées à garantir l'équité de ces systèmes sont principalement créées dans des pays riches et occidentaux. Ces directives supposent que tout le monde pense, parle et apprend de la même manière. Lorsque ces règles sont appliquées à des étudiants en Afrique, en Asie ou en Amérique latine, elles échouent souvent. Elles peuvent mal comprendre l'accent d'un étudiant, ignorer les valeurs culturelles locales ou simplement ne pas fonctionner parce que la connexion Internet est trop lente. Le résultat est un système qui prétend être équitable mais qui, en réalité, pousse certains groupes plus loin vers la marge.

Ce déséquilibre a suscité une nouvelle question parmi les chercheurs : qui décide de ce qui est juste ? Une équipe de chercheurs indonésiens s'est donné pour mission d'y répondre en analysant comment l'éthique de l'IA est réellement appliquée dans les classes à travers le monde. Ils ne se sont pas contentés de lire les règles ; ils ont examiné les 84 études publiées qui traitent des personnes qui ont rédigé les directives, des étudiants qu'elles affectent et des lieux où elles sont utilisées. Leur objectif est de trouver un moyen de rendre l'éthique de l'IA accessible à tous, et non seulement aux quelques personnes qui détiennent le pouvoir de rédiger les directives. Ils appellent cette approche « glocale », un mélange de global et de local, suggérant que de bonnes règles doivent être élaborées avec le monde entier à l'esprit, mais construites pour s'adapter aux besoins spécifiques de chaque communauté.

Les chercheurs ont commencé par rassembler 84 études différentes publiées entre 2015 et 2025. Ils ont recherché toute recherche discutant de l'utilisation de l'IA dans l'éducation et de sa justice. Ils ont passé au crible des milliers d'articles, ne conservant que ceux qui offraient des preuves réelles ou une analyse approfondie du fonctionnement de ces systèmes en pratique. Ils ont prêté une attention particulière aux études provenant du « Sud global », un terme utilisé pour décrire des régions qui ont souvent été laissées de côté dans les conversations principales sur la technologie, notamment l'Afrique, l'Amérique latine et certaines parties de l'Asie. En se concentrant sur ces voix au sein de la littérature existante, l'équipe espérait brosser un portrait différent de ce que devrait être une IA éthique.

Ce qu'ils ont trouvé est un fossé évident. La grande majorité des règles et des directives provient d'institutions d'Europe et d'Amérique du Nord. Ces règles sont souvent rédigées sous la forme d'une simple liste de contrôle de valeurs, comme « être équitable » ou « être transparent ». Cependant, l'étude montre que ces listes de contrôle modifient rarement la façon dont les choses se passent réellement dans les écoles d'autres parties du monde. Dans de nombreux cas, les écoles du Sud global sont invitées à adopter ces règles occidentales sans que leur avis ne soit sollicité. Les chercheurs ont constaté que lorsque les systèmes d'IA sont construits en utilisant uniquement des données anglaises et des idées occidentales, ils commettent plus d'erreurs pour les étudiants qui parlent d'autres langues ou qui viennent de contextes culturels différents. Par exemple, les outils de notation automatisés ont souvent du mal avec les locuteurs non natifs de l'anglais, leur attribuant des notes plus basses non pas parce que leur travail est moins bon, mais parce que l'ordinateur ne comprend pas leur façon de parler.

L'étude a également révélé que les personnes censées être protégées par ces règles — enseignants, étudiants et dirigeants locaux — sont rarement impliquées dans le processus de décision. Dans les rares cas où les communautés locales étaient impliquées, cette participation n'était souvent qu'une formalité, une case à cocher plutôt qu'un véritable partenariat. Les chercheurs ont noté que lorsque les voix locales sont ignorées, la technologie échoue souvent à résoudre les problèmes qu'elle était censée régler. Au lieu d'aider tout le monde à apprendre, elle peut accentuer les inégalités existantes, rendant la tâche plus difficile pour ceux qui sont déjà en difficulté.

Cependant, l'histoire ne s'arrête pas sur un échec. Les chercheurs ont également découvert un mouvement croissant de solutions locales qui fonctionnent bien mieux. Au Ghana, par exemple, les écoles utilisent un concept appelé « Ubuntu », qui souligne qu'une personne est une personne à travers les autres. Cette idée est utilisée pour concevoir des systèmes d'IA qui se concentrent sur la confiance communautaire et la responsabilité partagée plutôt que sur les simples scores individuels. En Asie du Sud-Est, une autre approche appelée « gotong royong », qui signifie travailler ensemble pour le bien commun, est utilisée pour s'assurer que chacun ait son mot à dire sur l'utilisation de la technologie. Ces méthodes locales ne sont pas de simples ajustements des grandes règles mondiales ; ce sont des manières de penser totalement différentes de ce qui est juste ou mal. Elles considèrent le savoir local comme étant tout aussi important que la science occidentale.

L'équipe a conclu que la méthode actuelle est défaillante car elle traite l'éthique comme un produit standardisé. Ils soutiennent que nous devons cesser d'essayer d'imposer un ensemble unique de règles au monde entier. Au lieu de cela, ils proposent un nouveau cadre appelé le Cadre pour une Éthique de l'IA Glocal en Éducation. Cette approche suggère que les règles éthiques doivent être construites à partir de la base. Cela signifie que lorsqu'une école dans un pays différent souhaite utiliser l'IA, elle doit pouvoir façonner les règles pour qu'elles correspondent à sa propre culture, sa langue et ses besoins. Cela signifie également que les entreprises vendant ces outils devraient être tenues de prouver que leurs systèmes fonctionnent de manière équitable pour les étudiants locaux avant de pouvoir les vendre.

Les chercheurs suggèrent trois étapes principales pour y parvenir. Premièrement, les connaissances qui guident ces systèmes doivent provenir de sources multiples, et non d'une seule. Deuxièmement, les personnes qui utilisent la technologie doivent avoir une voix réelle dans sa conception et sa vérification. Troisièmement, il doit y avoir de réelles conséquences si la technologie ne parvient pas à être équitable, comme le refus d'acheter des outils qui ne fonctionnent pas pour tout le monde. Il ne s'agit pas seulement d'être aimable ; il s'agit de s'assurer que la technologie fonctionne réellement. L'étude montre que lorsque les communautés locales sont impliquées dans la conception, la confiance dans le système augmente et la technologie devient plus utile pour tous.

Cette nouvelle façon de penser ne signifie pas de jeter toutes les anciennes règles. Au contraire, cela signifie changer la manière dont nous les élaborons. Il s'agit de reconnaître qu'il existe de nombreuses façons d'être éthique, tout comme il existe de nombreuses façons de parler une langue ou d'enseigner une leçon. Les chercheurs pensent que si nous pouvons construire un système qui respecte ces différences, nous pourrons créer une IA qui aide réellement tous les étudiants à apprendre. Ils ne disent pas que c'est facile ou que cela se fera du jour au lendemain. Mais ils sont clairs : la voie actuelle, où quelques groupes puissants décident pour tout le monde, ne fonctionne pas. L'avenir de l'IA dans l'éducation dépend de l'écoute des personnes qui l'utilisent réellement, et de la garantie que leurs voix soient entendues dans la conception des outils qui façonneront leur avenir.