The Universality Myth: Epistemic Exclusion, Structural Power, and AI Governance in the Global South
本文认为，主流人工智能治理框架所声称的普遍性是一种意识形态神话，掩盖了一种认识论排斥的结构性机制，即全球南方的群体缺乏挑战人工智能系统所需的“抗争素养”，从而通过概念资源匮乏、扭曲的社会技术想象以及官僚结构障碍，强化了部署者的权力。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个这样的世界：构建和控制人工智能的规则是用大多数人无法阅读的语言编写的。全球领导人和主要组织经常声称，这些规则适用于每个人、每个地方，旨在保护人类和地球。他们谈论应当指导每一个国家的普遍原则。但仔细观察会发现一个不同的现实：对于许多社区，尤其是那些在这些技术创造过程中被历史性地遗留在外的地区（此处用“全球南方”一词来描述这些地区），这些规则不仅难以遵循，甚至可以说是隐形的。生活在这些系统之下的人们往往缺乏最基本的工具，甚至无法意识到是一个人工智能系统正在对他们的生活做出决策，更不用说质疑这些决策的能力了。这不仅仅是需要更多教育或更好互联网接入的问题。这是一个结构性的鸿沟，即理解和挑战这些系统所需的概念本身就缺失于公众对话之中。
这种差距正是 RV 大学（RV University）的研究人员 Amulya N 和 Ashwini Prasad S 着手调查的对象。他们认为，“普遍性”的人工智能治理是一个幻象，实际上有助于那些掌握权力的人。作者指出，当科技公司和政府忙于教人们如何使用人工智能产品——如何滚动、点击和交互时，他们并没有教人们如何治理它们。知道如何使用一种工具与知道如何追究该工具制造者的责任之间，有着本质的区别。论文指出，这种缺乏“可争辩性”（即能够将一个系统视为可以被质疑和监管的对象的能力）的情况并非偶然。这是权力运作的一个功能性组成部分。当人们看不见这个系统时，他们就无法挑战它，而制造它的公司也因此无需面临改变的压力。
为了理解这种情况是如何发生的，研究人员观察了两个截然不同的地区：印度和撒哈拉以南非洲的国家。他们选择这些地点是为了表明这个问题并非某个国家或某种政体所特有。在印度，一个拥有强大科技产业和庞大政府的国家，问题源于内部。政府通过了一项重大的数据保护法，但议会辩论仅持续了大约两小时，且最终法律包含了对国家本身的广泛豁免。公众由于很大程度上对人工智能细节并不了解，缺乏要求更好保障措施的词汇或政治压力。其结果是，一项在纸面上看起来具有保护性，但在现实中对普通公民几乎无法提供实质保护的法律。在撒哈拉以南非洲，问题则来自外部。这些国家的正采用着基于欧洲或美国构建的人工智能及治理规则，而往往缺乏执行这些规则所需的本地机构或专业知识。他们被告知这些规则是普遍适用的，但由于这些规则是为不同的社会设计的，它们往往无法保护当地人口，使他们受制于无法审计或理解的系统。
研究人员发现，这种隐形性是由两种主要力量维持的。首先是意识缺乏。许多人根本不知道人工智能正在影响他们的贷款、福利救济或安全。其次是一种误导信息形式，即人们虽然知道人工智能，但仅是通过特定的故事来了解它，而这些故事掩盖了真正的危险。有些人被告知人工智能是一个神奇的解决方案，能解决所有发展问题；而另一些人则被告知要恐惧科幻式的机器人统治。这些故事分散了人们对当前正在发生的、无声伤害的注意力：即歧视性的算法、被窃取的数据，以及在未经当地同意的情况下构建的基础设施。论文认为，这些故事不仅仅是误解，它们是让人们无法提出正确问题的结构性特征。
这项研究中最令人震惊的发现之一是，这种盲目性甚至延伸到了批准建设支撑这些系统的数据库中心的政府官员身上。在印度，一个单一的数据中心可能需要向各种政府机构申请多达三十种许可。一名官员可能会批准一项建筑许可或电力连接，却从未意识到这座建筑是一个人工智能系统的数据中心。文书资料并不会询问此类信息，官员的职责描述也不包括理解人工智能的更广泛影响。他们并非腐败，只是不知情。他们在完全不知道其存在的情况下，正在促成一个庞大的治理系统。这造成了一种局面：那些本应负责的人，实际上也像他们服务的公民一样，被排除在知识体系之外。
这项研究挑战了一个普遍观点，即解决方案仅仅是教更多人使用技术。作者认为，如果掌权者没有法律权力去阻止糟糕的系统，或者法律本身就是为了豁免强者而编写的，那么教人们如何使用人工智能并不能解决问题。如果对话所使用的语言是那些声音无法掌握的，或者对话的规则是由那些不需要倾听的人设定的，那么增加对话中的声音并无助益。论文总结道，所谓“普遍性人工智能治理”是一个服务于构建和部署这些系统的利益集团的迷思。它允许这些人在声称遵循全球标准的同时，在一个无人能核实这些标准是否真正得到落实的空间内运作。直到生活在这些系统之下的人们获得能够看清镜子真相的概念工具之前，塑造人工智能未来的权力将始终无法触及。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。