Administrative Law's Fourth Settlement: AI and the Scrutable State

想象一下，政府是一台巨大的、复杂的机器，旨在解决重大问题，比如缓解交通拥堵、保持空气清洁，或是在人们生病时提供帮助。长期以来，运行这台机器的人（机构中的专家）一直面临着一项棘手的任务。他们需要非常聪明并使用先进的工具来解决复杂的问题，但如果他们变得过于聪明，使用的工具又过于难以理解，普通民众和监督他们的法官就无法看清发生了什么。这就像魔术师从帽子里变出一只兔子：如果戏法太复杂，观众就会开始怀疑：“这是真的吗？公平吗？到底是谁在做这件事？”

这篇论文探讨了政府中一个著名的难题，即“能力—问责陷阱”（capability-accountability trap）。“能力”是指政府处理高难度技术性工作的能力；“问责”是指公众理解并监督这些工作的能力。一个多世纪以来，每当政府在处理困难工作（如使用计算机或统计数据）方面变得更强时，普通人理解其运作方式的过程就变得更加困难。为了解决这个问题，政府开始增加大量的文书工作和规则（程序），以证明其行为是诚实的。但现在，由于存在如此多的文书工作，导致政府变得行动迟缓、混乱且难以改进。该论文指出，政府目前正试图通过“缩减规模”来让自己变得更容易被理解，但这可能会削弱它解决气候变化或流行病等新型、可怕问题的能力。核心问题在于：我们能否利用一种名为人工智能（AI）的新工具，让政府在变得极其聪明的同时，也实现高度透明？

---

政府成长的烦恼史

这篇论文讲述了美国政府在过去 140 年里如何尝试管理自身“脑力”的故事。它认为，每当新技术到来时，政府的办事能力都会经历一次“生长突增”，但同时也产生了一种让普通人看不清现状的“迷雾”。

前三次契约（旧有的方式）
作者追溯了历史上政府必须进行适应的三个重大时刻：

1. 铁路时代： 当火车首次在全国范围内飞驰时，它们对于地方法官来说太快、太复杂了。政府创建了专家委员会（如 ICC）来管理它们。为了约束这些专家，法律规定：“你必须保留记录并解释你的理由。”这行之有效，但也开启了不断增加规则的趋势。
2. 大萧条时期： 当经济崩溃时，政府需要同时帮助数百万人。他们使用了新的统计工具和打孔卡机器来管理社会保障和其他计划。但由于这些决策影响了如此多的人，普通民众无法理解其中的数学逻辑。解决方案是《行政程序法》（APA），它规定：“只要你遵循正确的步骤并留下纸质痕迹，你就是合规的。”
3. 计算机时代： 当计算机被用于处理空气污染和核安全等问题时，问题变得更具科学性。政府开始使用复杂的模型。法院意识到自己无法理解这些科学，于是决定只检查政府是否遵守了规则。这导致了著名的“切夫伦原则”（Chevron decision），该原则基本上是说：“如果法律含义不明，只要专家能给出合理的理由，我们就信任他们去做出判断。”

当前的危机：“沉积态”
现在，我们处于一个奇怪的状态。政府正淹没在文书工作中。每当为了确保公平而增加一条新规则时，它都会像沉积岩层一样堆叠在旧规则之上。这种“沉积态”使得政府变得缓慢且混乱。

• 问题所在： 政府被规则所困，以至于无法快速应对新问题。
• 反弹现象： 最近，最高法院和总统开始拆解这些专家机构。他们认为：“我们无法理解这些专家的所作所为，所以我们要把它们缩小到我们可以看清的规模。”他们正在取消对独立专家的保护，并将更多权力交还给总统或法院。
• 风险： 论文警告说，这是一个错误的决定。通过将政府变得更小、更简单以使其具有“可观察性”（scrutable），我们可能会失去应对当今如气候变化或新疾病等大规模复杂问题的能力。

新的解决方案：与 AI 共同实现的“第四次契约”

作者建议，我们不必在“聪明的政府”和“透明的政府”之间做选择。得益于人工智能，我们或许可以两者兼得。

AI 作为“翻译官”和“手电筒”
论文提出，AI 可以作为一种特殊的底层架构，使政府复杂的运作变得易于理解，而不必将其简化。

• 对于公众： 想象一个聊天机器人，它可以阅读一份关于空气污染的 200 页政府规定，并用通俗易懂的语言向你解释，告诉你这具体如何影响你的家庭。
• 对于法官： 想象一个工具，它可以阅读数千条针对某项规则的评论并总结要点，或者检查政府的数学计算是否准确无误。
• 目标： 与其仅仅检查政府是否遵循了清单（程序），不如利用 AI 来检查政府是否真正做对了事情（实质内容）。

AI 时代政府的三条新规则
为了实现这一目标，论文提出了关于政府如何使用 AI 的三条新规则：

1. “模型与系统档案”（身份卡）： 每当机构使用 AI 系统时，必须为其保留一份详细的“身份卡”。这份文件应解释该 AI 的用途、经过了哪些测试、可能犯哪些错误以及谁对此负责。它就像是政府算法的“营养成分表”。
2. “重大模型变更”触发机制（更新提醒）： AI 系统会随着时间推移而改变并学习。论文指出，如果一个 AI 系统发生了显著改变其决策方式的变化（例如改变了审批残疾福利的方式），政府必须宣布这一变化并解释原因。这就像如果汽车的引擎突然运行方式变了，你会希望在驾驶前先知道。
3. 审计优先原则（信任但验证规则）： 法官不应再去试图理解 AI 决策背后的复杂数学，而应检查机构是否聘请了独立专家对 AI 进行“审计”。如果机构能够证明：“我们进行了彻底测试，以下是它运行公平的证据，”那么法院就应当信任它。这使关注点从“你是否遵循了文书流程？”转向“你是否证明了你的工具是安全且公平的？”

为什么这很重要
论文认为，这种方法可以打破困扰政府一个世纪之久的“陷阱”。

• 它表明，AI 可以降低理解成本。目前，理解一项复杂的政府决策既困难又昂贵。AI 或许能让这一切变得廉价且容易。
• 它表明，我们最终可能会从仅仅检查文书工作，转向检查 AI 是否真正符合公众的目标。
• 它警告，这并非万灵药。如果 AI 存在偏见，或者政府利用它来掩盖糟糕的决策（这被称为“价值洗白”/value laundering），我们需要严格的规则来阻止这种情况。

论文并未承诺的内容
论文谨慎地指出，AI 不会一夜之间解决所有问题。

• 它并不是说 AI 会取代人类法官或政治家。在重大的道德问题上，人类仍必须做出最终决定。
• 它并不是声称目前的 AI 技术已经完美，能够解释自身的所有行为。这项技术仍在发展中，存在诸如“幻觉”（即 AI 编造事实）之类的风险。
• 它并不是主张立即停止所有旧规则。相反，它建议利用 AI 让这些规则运行得更好、更顺畅。

大局观

这个故事是一个充满希望但也伴随着谨慎的故事。政府目前陷入了一个循环：试图通过缩小规模来解决复杂性，但这可能会让我们在面对未来危机时变得脆弱。作者提出了另一条路径：利用人工智能不仅是用来完成工作，更是用来照亮工作。通过建立一套要求对 AI 工具进行透明化、测试和审计的新规则，我们可以建立一个既能应对未来挑战，又足够清晰透明的政府。这是一个试图“鱼与熊掌兼得”的“第四次契约”：一个既有能力又具备问责制的政府。