Decolonizing AI Ethics in Education: A Systematic Review and Glocalized Framework (FGAIEE)

想象一个这样的世界：对待彼此的规则由单一群体编写，他们仅使用自己的历史和语言，然后将其应用于其他人。这正是人工智能在学校中的现状。随着计算机变得越来越聪明，它们越来越多地被用于批改测试、推荐课程，甚至决定谁能进入大学。然而，旨在保持这些系统公平的伦理准则，大多是由富裕的西方国家制定的。这些准则假设每个人都以同样的方式思考、说话和学习。当这些规则应用于非洲、亚洲或拉丁美洲的学生时，它们往往会失效。它们可能会误解学生的口音，忽视当地的文化价值观，或者仅仅因为互联网连接太慢而无法运作。其结果是一个声称公平、实则将某些群体进一步推向边缘的系统。

这种失衡引发了研究人员之间的一个新问题：谁有权决定什么是正确的？来自印度尼西亚的一个学者团队致力于通过分析全球课堂中人工智能伦理是如何实际应用的来回答这个问题。他们不仅仅是阅读规则；他们还审查了 84 项关于编写准则的人、受其影响的学生以及使用这些准则的地点相关的已发表研究。他们的目标是找到一种让人工智能伦理为所有人服务，而不仅仅是为那些掌握编写准则权力的少数人服务的方法。他们称这种方法为“全球本土化”（glocal），这是“全球”（global）与“本土”（local）的结合，暗示好的规则必须在全球视野下制定，但要根据每个社区的具体需求进行构建。

研究人员首先收集了 2015 年至 2025 年间发表的 84 项不同研究。他们寻找任何讨论人工智能如何用于教育以及是否公平的研究。他们在数千篇文章中进行筛选，只保留那些提供了关于这些系统在实践中如何运作的真实证据或深度分析的文章。他们特别关注了来自“全球南方”（Global South）的研究，这是一个用来描述在技术对话中经常被忽视的地区，包括非洲、拉丁美洲和亚洲的部分国家。通过关注现有文献中的这些声音，该团队希望看到人工智能伦理应该呈现出怎样的不同面貌。

他们的发现显示出明显的鸿沟。绝大多数的规则和准则来自欧洲和北美的机构。这些规则通常被写成简单的价值观清单，例如“要公平”或“要透明”。然而，研究表明，这些清单很少能改变其他部分世界学校的实际运作方式。在许多情况下，全球南方的学校被要求采用这些西方规则，却从未被征求过意见。研究人员发现，当人工智能系统仅使用英语数据和西方理念构建时，对于使用其他语言或来自不同文化背景的学生，它们出错的概率更高。例如，自动评分工具经常在处理非英语母语者时遇到困难，给他们较低的分数，并不是因为他们的作品较差，而是因为计算机无法理解他们的表达方式。

研究还揭示了，那些理应受到这些规则保护的人——教师、学生和当地领导者——很少参与决策过程。在极少数当地社区参与的案例中，这种参与往往只是一种形式，是一个需要勾选的框，而不是真正的伙伴关系。研究人员指出，当忽略当地声音时，技术往往无法解决它原本旨在解决的问题。它不仅没有帮助每个人学习，反而可能加深现有的不平等，使那些已经在挣扎求存的人更难跟上步伐。

然而，故事并未以失败告终。研究人员还发现了一个运行得更好的本土解决方案运动。例如在加纳，学校正在使用一种被称为“Ubuntu”的概念，它强调“通过他人成就自身”。这一理念被用于设计侧重于社区信任和共同责任，而非仅仅关注个人得分的人工智能系统。在东南亚，另一种被称为“gotong royong”（意为为了公共利益而协作）的方法正被用于确保每个人在如何使用技术方面都有发言权。这些本土方法不仅仅是对宏大全球规则的小修小补；它们是看待对错的完全不同的思维方式。它们将本土知识视为与西方科学同样重要的存在。

团队得出结论，目前的方式之所以失效，是因为它将伦理视为一种“一刀切”的产品。他们认为，我们需要停止试图将一套规则强加于全世界。相反，他们提出了一个新的框架，称为“教育领域全球本土化人工智能伦理框架”。这种方法建议，伦理规则应该从基层开始构建。这意味着，当一个不同国家的学校想要使用人工智能时，他们应该能够塑造符合其自身文化、语言和需求的规则。这也意味着，销售这些工具的公司应当被要求证明其系统在为当地学生服务时是公平运作的，然后才能进行销售。

研究人员建议了三个主要步骤来实现这一点。首先，指导这些系统的知识必须来自许多不同的地方，而不仅仅是一个地方。其次，使用这些技术的人必须在设计和检查过程中拥有真正的发言权。第三，如果技术未能实现公平，必须有真实的后果，例如拒绝购买对所有人都不适用的工具。这不仅仅是为了表现得友好；这是为了确保技术确实有效。研究表明，当当地社区参与设计时，对系统的信任度会提高，技术也会变得对每个人都更有用。

这种新的思维方式并不意味着抛弃所有旧规则。相反，它意味着改变我们制定规则的方式。这是要承认，正如有一种语言或一种教学方式一样，也存在着许多种体现伦理的方式。研究人员相信，如果我们能够建立一个尊重这些差异的系统，我们就能创造出真正帮助所有学生学习的人工智能。他们并没有说这很容易，或者这会一夜之间发生。但他们明确表示，目前这种由少数强大群体为所有人做决定的路径是行不通的。教育领域人工智能的未来取决于倾听那些真正使用它的人，并确保他们的声音在塑造他们未来的工具设计中被听到。