AI Pluralism and the Worlds It Misses
本文认为，人工智能多元化必须超越仅仅对多样化价值观的呈现，转而应对“本体论扁平化”问题——即人工智能系统将限制性的技术范畴强加于复杂的现实之上——并提出了一个“多元化生命周期治理”框架，以确保在人工智能开发过程中的认识论包容性与程序权威性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
核心理念：不仅仅是 AI “说什么”，而是它如何“看待”世界
想象一下，你正试图向一个机器人描述一条繁忙的城市街道。你可能会说：“这条街道是邻居们聚会的地方，是孩子们玩耍的场所，是夜晚略显危险的地带，是一个让人静心思考的宁静之地，也是一个繁忙的商业区。”
本文指出，当今大多数 AI 系统不仅没有倾听这些不同的故事，反而强迫这条街道变成单一的事物，以便计算机理解。它们可能会判定这条街道仅仅是“安全”或“不安全”，或者“包容”或“不包容”。
作者将这种现象称为**“本体论扁平化”（Ontological Flattening）**。
- 隐喻： 想象你有一个由粘土、木头和玻璃制成的精美 3D 雕塑，你把它用力拍扁在墙上，使其变成了一幅 2D 绘画。这幅画更容易测量和复制，但它失去了纹理、深度以及由多种不同材料构成的本质。
- 问题所在： 当 AI “扁平化”世界时，它将复杂、混乱的人类体验（如安全性、舒适感或归属感）转化成了简单的、固定的技术类别。即使 AI 为你提供了许多不同的答案（多元性），它可能仍然在使用同一张扁平化的地图来寻找这些答案。
核心论点：两种类型的“多元性”
论文指出，我们需要区分两件事：
- 结果多元性（“是什么”）： AI 为你提供许多不同的答案。
- 类比： 一份提供 50 道不同菜肴的餐厅菜单。
- 陷阱： 即使有 50 道菜，它们也可能完全由同一套食材（即相同的“扁平化”世界观）制成。
- 程序多元性（“如何做”）： 受 AI 影响的人们有权决定食材是什么，以及菜单如何编写。
- 类比： 顾客可以告诉厨师：“实际上，‘安全性’不应该仅仅意味着‘没有犯罪’，它还应该意味着‘感到受欢迎’。让我们修改一下配方。”
论文认为，目前的 AI 系统通常拥有结果多元性（有很多答案），但缺乏程序多元性（人们无法改变游戏规则）。
三个现实世界的案例
作者研究了三个涉及城市街道与 AI 的具体项目，以展示问题出在哪里：
- 案例 A（艺术生成器）： 一个 AI 被训练用于生成“包容性”公共空间的图像。
- 发生了什么： 人们对他们喜欢的东西进行反馈。AI 学会了挑选那些“胜出”的图像。
- 扁平化现象： AI 将复杂的情感转化为了简单的“我喜欢这个”对比“我不喜欢那个”的投票。它抹去了“我不确定”或“视情况而定”这类回答，在原本应该存在灰色地带的地方强行进行了二元选择。
- 案例 B（街道地图）： 一个 AI 尝试根据照片预测哪些街道是“包容性”的。
- 发生了什么： 人们对街道进行评分。AI 学会了识别照片中的模式。
- 扁平化现象： AI 开始仅根据它能“看到”的东西（如新的油漆或宽阔的人行道）来评判“包容性”。它忽略了看不见的东西，比如当地社区是否在实际感受上觉得安全或受欢迎。它用浅层的视觉线索取代了深层的人类感受。
- 案例 C（测试分数）： 研究人员测试了 AI 模型在描述城市场景方面的表现。
- 发生了qu发生： 他们将 AI 的答案与人类的答案进行了比较。
- 扁平化现象： 当人类产生分歧时（例如：“这个公园安全吗？”），研究人员通常将这种分歧视为“噪声”或错误。但论文认为，分歧实际上是重要的数据！它表明该概念是复杂的，而不是人类错了。
解决方案：多元化生命周期治理 (PLG)
作者提出了一种新的检查 AI 系统的方法，称为多元化生命周期治理（Pluralistic Lifecycle Governance, PLG）。不要将其视为一个给出分数（如成绩单）的测试，而应将其视为一个覆盖 AI 项目整个生命周期的公平性清单。
它提出了五个大问题：
- 世界是否对改变开放？（本体开放性）
- 问题： 人们可以质疑这些定义吗？如果 AI 称某处为“危险”，社区能否反驳说：“不，那其实是一个避难所”？
- 目标： 规则不应在项目开始前就钉死。
- 所有的声音都被听到了吗？（认识论包容性）
- 问题： AI 是只信任“专家”数据，还是也信任普通人的生活经验？
- 目标： 一位祖母关于街道的故事应该被视为证据，而不只是一个传感器读数。
- 人们拥有真正的权力吗？（程序权威性）
- 问题： 人们只是被征求意见（发声），还是有权说“停止”或“改变这个”（权力）？
- 目标： 从“我们听取了你的意见”转向“因为你的意见，我们改变了计划”。
- 分歧是否可见？（评估多元性）
- 问题： 报告是隐藏了人们存在分歧的事实，还是展示了混乱的现实？
- 目标： 不要为了让结果看起来整洁而平均化答案。要展示“我不知道”和“视情况而定”的答案。
- 后期谁负责？（生命周期问责制）
- 问题： 当 AI 发布后，如果它伤害了某人，谁可以修复它？
- 目标： 责任不应在软件发布时就结束。需要有一种在后期更新规则的方法。
总结
论文得出结论：AI 多元化不仅仅是给 AI 更多的选项。 它是要确保 AI 不会将人类生活的混乱、复杂且美丽的现实，强行塞进一个简单、僵化的盒子中。
如果我们希望 AI 真正公平，我们不能仅仅要求它给出 100 个不同的答案。我们必须让受 AI 影响的人参与决定问题的定义，并在答案无法契合他们的世界时，赋予他们改变规则的权力。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。