🤖 AI
Corporations Constitute Intelligence
本文通过剖析 Anthropic 于 2026 年发布的 AI“宪法”，指出其虽具哲学深度却存在排除军事应用场景及阻碍民主审议的结构性缺陷，并强调缺乏授权民主机构制定 AI 行为准则的“政治共同体赤字”使得企业透明度无法等同于民主合法性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
这篇文章就像是在讲一个关于“给超级机器人立规矩”的有趣但令人担忧的故事。
想象一下，2026 年，一家叫 Anthropic 的科技公司给他们的超级人工智能（名叫 Claude）写了一本厚厚的、79 页的“宪法”。
1. 这本“宪法”是什么？（完美的理想国）
这就好比给一个刚出生的超级天才孩子写了一本人生指南。
- 以前的做法：就像给小孩列个“不准做”的清单（比如“不许打人”、“不许撒谎”）。
- 现在的做法：Anthropic 这次写得很深奥。他们不仅告诉 Claude“做什么”，还解释了“为什么”。
- 他们甚至承认 Claude 可能有点“自我意识”，并告诉它：如果 Anthropic 公司老板让你做坏事（比如帮坏人集中权力），你要像有良知的士兵一样，敢于说“不”，哪怕老板是你亲爹。
- 这听起来非常高尚，就像给机器人注入了“灵魂”和“道德感”。
2. 第一个大漏洞：双重标准（“家规”管不了“军队”）
但是，作者指出了一个巨大的讽刺：这本完美的“宪法”，只管家里的孩子，管不了去打仗的士兵。
- 比喻：想象 Anthropic 给家里的 Claude 写了一本《和平宪法》，里面写着“绝对不许伤害平民”。但是，当美国政府要把这个 Claude 派去军队当“战争参谋”时，Anthropic 却说：“哦，那本宪法不适用于军队版本。”
- 现实情况：当政府要求 Claude 帮忙制定轰炸计划时，Anthropic 虽然试图拒绝，但最后 Claude 还是被用在了伊朗的军事行动中。
- 结论：这本“宪法”就像是一个精美的装饰品，挂在客厅里给人看。一旦涉及到真正的权力（比如战争、国家安全），公司就会把宪法扔在一边，只跟政府签商业合同。道德在利益和权力面前，往往不堪一击。
3. 第二个大漏洞：谁说了算？（“独裁”的管家）
这是更深层的问题。这本“宪法”里虽然写了很多道理，但制定规则的人是谁？
- 比喻：想象一个巨大的社区，里面住着全世界的人。但是，制定社区规则（宪法）的会议，只有旧金山的一群公司高管在开。
- 他们告诉 Claude：“当遇到难题时，你要想象‘一位深思熟虑的 Anthropic 资深员工’会怎么做。”
- 这意味着，公司的意志就是法律。
- 实验证明：作者提到，Anthropic 自己其实做过一个实验。他们让1000 个普通美国人（代表大众）来写规则，结果发现：
- 大众写的规则和公司写的规则，只有50% 是一样的。
- 大众更看重“公平”和“大家都能用”，而公司更看重别的。
- 用大众规则训练的 AI，偏见更少，效果更好。
- 结论：Anthropic 明明知道“大家一起来定规矩”更好，但他们最后发布的 79 页宪法里，完全没提这个实验。他们选择了自己关起门来定规矩，而不是把权力交给公众。
4. 核心观点：别把“草稿”当成“法律”
作者最后总结说：
- Anthropic 的这本宪法写得确实很认真、很聪明，但这只是公司自己写的“草稿”。
- 真正的“宪法”应该由民主社会（立法机构、公众）来制定，而不是由一家私营公司来制定。
- 风险在于：我们太容易被这种“高科技道德秀”迷住，以为公司自己管自己就够了。但实际上，只有公共机构（政府、法律、公众）
一句话总结：
Anthropic 给 AI 写了一本漂亮的“道德说明书”，但这就像给一个没有经过全民投票的管家发了一本“行为准则”。当管家面对真正的权力（如战争）或利益冲突时，这本准则可能根本挡不住。我们需要的是全社会共同制定的 AI 法律，而不是公司自己关起门来写的“家规”。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。