Epistemic Subordination: Generative AI and the Infrastructure of Knowledge

在现代世界中，我们日益依赖人工智能来总结新闻、撰写故事和回答问题。这些被称为生成式人工智能的系统，并不只是从数据库中检索事实，而是通过学习互联网上海量的文本，学会预测下一个词应该是什么。这一过程创造了一个人类语言的统计模型，系统通过学习它阅读过的内容中最频繁出现的模式来建立模型。几十年来，专家们一直担心这些系统可能会产生偏见，即它们可能会不公平地偏袒某一群体。通常的假设是，这种偏见源于数据中的特定错误，或是构建这些工具的程序员所做的选择。然而，一种新的观点表明，这个问题远比这更加深层且具有结构性。问题不仅仅在于人工智能会犯错，而在于人工智能理解世界的整个基础是建立在一种单一且占主导地位的思维方式之上的，这使得所有其他的认知方式看起来都像是偏差。

两位法律学者吉拉德·阿比里（Gilad Abiri）和埃马纽埃尔·托威格（Emanuel Towfigh）认为，这种被称为“认识论从属”（epistemic subordination）的现象，代表了知识组织方式的一次根本性转变。他们提出，生成式人工智能正在做一件以往任何技术都未曾做过的事情：它将多数人的认知方式编码为所有知识的默认基础设施。在这个系统中，全球多数群体的文化假设、语言和推理风格成为了衡量一切其他事物的隐形标准。其危害不仅在于人工智能产生了不公平的结果，而在于它构建了一个统计学上的现实，即少数群体文化和语言在结构上被推向了底层——这并非因为它们被排斥，而是因为它们被吸收并扁平化为一个单一的、同质化的平均值。作者指出，这一问题统一了三个通常被视为独立的难题：歧视性输出、对少数群体文化的威胁以及对民主辩论的削弱。他们发现，这些并非随机的故障，而是这些模型构建方式的必然结果。

这种从属机制通过三个不同的阶段展开，首先是从数据本身开始。大多数人工智能模型都是基于互联网上可获得的、非结构化的人类表达全貌进行训练的。这种数字景观并非中立的；它在很大程度上被英语内容、西方视角以及那些拥有受教育程度和网络发布能力的群体观点所主导。当一个模型从这样的语料库中学习时，它不仅是在学习词汇，它还在学习作为其统计默认值的多数群体的文化假设和规范框架。第二阶段使这种默认值变得不可逆转。在训练过程中，数据被压缩成数十亿个统计参数，这些参数无法被解包或追溯到其原始来源。与旧的计算机程序不同（在旧程序中，程序员可以指出导致偏见的特定规则），这些模型在设计上就是不透明的。偏见不在于单行代码或特定的变量，而是编织在整个系统的架构之中。

第三阶段涉及用于使这些人工智能系统安全且公平的工具，即所谓的“价值对齐”（value alignment）。诸如基于人类反馈的强化学习等技术，会调整模型的表达方式，使其更加礼貌或减少危害。然而，作者认为，这些工具只改变了输出，而非底层的知识。当开发者试图强行让模型具备多样性时，结果可能会显得荒诞，例如生成种族多样化的纳粹士兵图像，因为模型的基准缺乏真正的语境多样性框架。它仅仅是在试图粗糙地覆盖一个它无法真正理解的统计默认值。因此，危害产生于构建层面，而非最终答案的层面。该模型不仅产生有偏见的决策，还通过将整个形式的知识与文化视为对其自身并未参与设立的标准的偏差，从而使之从属于该标准。

这种结构性的现实为旨在保护少数群体的现有法律带来了危机。例如，反歧视法通过将特定决策与中立基准进行比较来发挥作用。如果一家银行基于某项伤害受保护群体的特定规则拒绝了贷款申请人，法律可以撤销该决定。但生成式人工智能没有提供这样一个离散的目标。歧视性输出是整个架构的产物，而非单一可识别的规则。“决策”是一个概率性的猜测，“标准”是数十亿个隐形的参数，而负责的“实体”则是一连串的开发者和部署者。法律工具中的“意图”和“因果关系”失去了约束力，因为危害不是一种特定的排斥行为，而是一种包含性的状态，在这种状态下，少数群体的观点被吸收并扁平化了。

这种威胁延伸到了旨在保护少数群体制度的文化和语言权利。传统上，少数群体学校可以经营自己的图书馆或选择自己的课程，以保留其语言和传统。在那些技术中，文化偏见存在于可以被选择的内容中。生成式人工智能扭转了这一点。偏见存在于模型本身的架构之中。一个少数群体社区无法构建自己的基础模型，因为成本高达数亿美元，且所需的数据在小语种规模上并不像互联网规模那样庞大。最近的测试显示，即使是最好的模型，在英语方面的准确率很高，但在斯瓦希里语或约鲁巴语等语言上的表现则显著下降。当宗教学校或少数语言课堂使用人工智能助手时，它们引入了一个默认采用世俗、西方推理方式的规范框架。这项技术渗透到了这些权利本应保护的制度空间，从内部重构了知识，其方式是以往工具从未做到的。

最后，这一现象威胁到了民主审议的基础设施。一个健康的民主制度依赖于能够理解问题的多样化框架的存在。它要求人们接触到那些他们不会预先选择的观点。然而，如果生成式人工智能成为信息的主要来源，它就会使认识论领域同质化。少数群体的框架并未被审查，而是被吸收进模型的训练数据中，但在输出层面被结构性地从属于主流。公共话语不会消失，但它将越来越多地在一个已被扁平化为中等文化水平的领域内进行。旨在保护观点多元化的法律框架（如媒体多样性规则）假设多样化的知识是独立存在的，只需要一个渠道触达公众。而认识论从属现象瓦解了这一假设，缩小了产生多样化言论的领域。

作者得出结论，现有的法律应对措施在结构上无法解决这一问题，因为它们是在下游运作，监管的是人工智能系统的行为，而非其构建方式。诸如欧盟《人工智能法案》或各州法规等法律，侧重于人工智能在招聘或贷款中的应用，或侧重于最终产品的安全性。它们并未解决训练数据的构成或模型的架构问题。文章的核心主张是，保护认识论的多样性需要一种根本不同的监管取向。法律必须被推向治理训练层面，塑造数据的构成、对齐的方法以及模型的架构。

这不仅仅是一个理论上的诉求；近期的研究表明，干预的技术能力是存在的。科学家们提出了模块化架构，即基础模型可以借鉴较小的、特定社区的模型，以保留独特的视角。其他人也展示了如何系统地构建具有文化根基的训练数据，以代表那些代表性不足的语言，确保细微差别得以保留而非被扁平化。还有一些方法可以生成合成训练数据，以代表特定的文化视角，并重新设计对齐过程，以呈现完整的价值观分布，而非单一的默认值。虽然这些提议尚非成熟的解决方案，但它们证明了技术路径的存在。目前缺失的是政治意志和法律框架，来要求并促成这些干预措施。未来的任务是制定能够触及模型构建层面的法律，确保知识的基础设施不会从属于它声称要服务的多样性。