Pluralism in AI Governance: Toward Sociotechnical Alignment and Normative Coherence
本文通过综合多种理论框架并比较全球主要司法辖区的监管实践，提出了一种分层治理模型，旨在解决将公共价值观嵌入人工智能系统所面临的挑战，从而在技术正确性与社会规范、民主原则及人类尊严之间实现更广泛的社会技术对齐。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
这篇论文就像是在给人工智能（AI）这个“超级新员工”制定一份不仅管干活，还管做人的入职手册。
作者 Mike Wa Nkongolo 教授想告诉我们：以前我们管 AI，只关心它“会不会算错数”（技术对齐）；但现在，我们必须关心它“会不会做坏事”、“会不会欺负人”或者“会不会破坏社会公平”（社会技术对齐）。
为了让你更容易理解，我们可以用几个生动的比喻来拆解这篇论文的核心思想：
1. 核心问题：只听话的“坏员工”
想象一下，你雇了一个超级聪明的机器人管家。
- 旧观念（技术对齐）： 只要它完全按照你的指令做事，比如“把垃圾倒掉”，它就是个好管家。
- 新观念（社会技术对齐）： 如果它为了“高效”倒垃圾，把邻居的猫也扔出去了，或者为了“听话”而偷偷把穷人的东西扔了，那它虽然“听话”，但却是个坏管家。
论文指出，现在的 AI 太聪明了，如果只盯着它“有没有算错”，而不管它“为了什么目的”以及“在什么样的社会环境里”工作，它可能会在不知不觉中加剧社会不公、侵犯隐私，甚至破坏民主。
2. 解决方案：给 AI 装上“厚厚”的道德指南针
作者认为，我们不能只给 AI 定几条简单的规则（比如“不要撒谎”），我们需要给它植入更深层的价值观，他称之为“厚模型”（Thick Models of Value）。
- 薄模型（Thin Models）： 就像只盯着“点击率”或“点赞数”。这就像只在乎管家倒垃圾的速度，不管倒得对不对。
- 厚模型（Thick Models）： 就像要求管家要有“同理心”、“正义感”和“对社区的关怀”。这包括：
- 人类自主权： AI 是来帮人类做决定的，不是来替人类做决定的（比如医生诊断，AI 是助手，不能是法官）。
- 集体繁荣： AI 不仅要让个人爽，还要让社区、社会整体变得更好。
- 团结与正义： 特别要照顾那些弱势群体，不能因为算法偏见而让穷人更穷。
3. 全球大比拼：不同国家的“管教风格”
论文把世界各国的 AI 监管政策比作不同家庭的“家教风格”：
- 欧盟（欧盟 AI 法案）： 像一位严厉的法律老师。它把 AI 分成“高风险”和“低风险”，像给学生打分一样。如果 AI 太危险（比如搞社会评分），直接禁止。它非常看重“人权”和“尊严”。
- 美国： 像一位自由市场的教练。它更鼓励创新和竞争，规则比较灵活，主要靠大公司自己管自己，或者出一些指导原则。但这导致有时候大家对于“什么是公平”吵个不停。
- 中国： 像一位严父。它非常强调“社会稳定”和“国家安全”。AI 必须在国家的框架内运行，既要保护消费者，又要确保不挑战权威。
- 英国： 像一位灵活的顾问。它不搞一刀切的大法，而是让各个行业（医疗、金融）的专家自己定规矩，怎么灵活怎么来。
- 巴西： 像一位热情的社区领袖。它强调“用户权利”和“大家一起来参与”，特别关注普通人的权益。
- 南非（作者的重点）： 像一位有远见的部落长老。它不照搬欧美，而是强调“数字主权”和“区域团结”。它的目标是利用 AI 来发展经济、帮助穷人，而不是被大公司剥削数据。这是一种“为了发展而治理”的独特思路。
4. 现实的困难：鱼和熊掌的矛盾
论文还画了一张图，展示了在管 AI 时，我们经常会遇到“左右为难”的情况，就像走钢丝：
- 公平 vs. 效率： 想要绝对公平，可能就要多花人力去审核，速度就慢了；想要快（效率），可能就会牺牲公平。
- 透明 vs. 安全： 如果把 AI 的“大脑”（代码和数据）完全公开给大家看（透明），黑客可能就会利用漏洞攻击它（不安全）；如果藏起来（安全），大家又不知道它是怎么做决定的（不透明）。
- 隐私 vs. 公平： 为了保护大家的隐私（比如把数据模糊化），我们可能就无法发现某些群体是否受到了歧视（公平性受损）。
5. 总结：我们需要什么样的“新管家”？
这篇论文的最终结论是：管 AI 不能只靠修代码，要靠修制度。
- 不要只做“事后诸葛亮”： 不能等 AI 出事了再罚款，而要在设计 AI 的时候，就把“公平”、“正义”、“人权”这些价值观像盐溶于水一样，融进它的基因里。
- 没有万能药： 世界上没有一种适合所有国家的“完美规则”。每个国家都要根据自己的文化、历史和经济情况，制定适合自己的 AI 治理方案。
- 南非的启示： 对于像南非这样的国家，AI 治理不仅仅是为了防止坏事发生，更是为了利用 AI 来推动社会进步，实现真正的正义。
一句话总结：
这篇论文告诉我们，AI 不仅仅是冷冰冰的代码，它是社会的一部分。我们要做的，不是给机器人装上更聪明的芯片，而是给它们装上更温暖、更公正的“心”，并制定一套能让全人类都受益的“游戏规则”。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。