💻 computer science

Dial E for Ethical Enforcement: institutional VETO power as a governance primitive

该论文指出大模型军事化的根源在于治理缺失，主张借鉴核不扩散与生物医学伦理的先例，建立赋予研究人员及脆弱社区在风险出现时拥有正式否决权的制度性机制，从而将象征性安全承诺转化为可执行的责任并实现模型去军事化。

原作者： Subramanyam Sahoo, Vinija Jain, Aman Chadha, Divya Chaudhary

发布于 2026-03-03

📖 1 分钟阅读☕ 轻松阅读

原作者： Subramanyam Sahoo, Vinija Jain, Aman Chadha, Divya Chaudhary

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文的核心观点非常犀利，它指出了一个 AI 领域的“怪圈”：我们都在谈论 AI 伦理，写了很多漂亮的道德声明，但 AI 武器化和被滥用的情况却越来越严重。

为了解决这个问题，作者提出了一个大胆的建议：给研究人员和受影响的社区一把“否决权”（Veto Power）的钥匙。

为了让你更容易理解，我们可以用几个生活中的比喻来拆解这篇论文：

1. 现状：只有“建议”，没有“刹车”

想象一下，你开着一辆自动驾驶汽车（现在的 AI 研究）。

现在的做法：我们在车里贴了一张纸条，上面写着“请勿用于撞人”、“请勿用于跟踪邻居”。这就像论文里说的“道德声明”或“责任卡片”。
问题所在：这张纸条没有任何法律效力。如果车厂（大学或大公司）为了赚钱，或者为了拿军方的订单，决定把车卖给一个想用来撞人的坏人，这张纸条根本拦不住。
结果：每个人都觉得自己“已经尽力了”（贴了纸条），但车还是撞了人。这就是论文说的“有组织的无责任感”——大家都在推卸责任，因为没人有权力真正踩下刹车。

2. 核心方案：安装一个“强制刹车系统”

作者建议，我们需要在 AI 研究的流程中，安装一个制度化的“否决权”。

什么是“否决权”？
这就好比在核反应堆或生物实验室里，有一个专门的委员会。如果他们认为某个实验太危险（比如可能被用来制造生物武器），他们有权直接叫停，而且这个叫停是强制的，不是“建议”。
在这个 AI 世界里，它意味着什么？
- 当大学要把 AI 技术卖给军方时，委员会可以说：“不行，这会被用来杀人，不能卖。”
- 当研究人员要发布一个可能被用来监控平民的模型时，委员会可以说：“不行，这太危险，不能发。”
- 关键点：这种叫停不是靠研究人员的“良心发现”，而是靠制度赋予的权力。

3. 谁来决定？：让“受害者”当裁判

这是论文最精彩的部分。作者认为，不能只让坐在象牙塔里的教授或大公司的 CEO 来决定什么该停。

比喻：想象一下，如果我们要决定“是否要在居民区旁边建一个化工厂”，我们不能只让化学家决定，必须让住在附近的居民有投票权，甚至拥有“一票否决权”。
论文观点：AI 武器化最大的受害者往往是边缘群体（比如被监控的少数族裔、战乱地区的平民）。因此，治理 AI 的委员会里，必须有这些受影响社区的代表，而且他们的声音要和科学家一样大，甚至更大。只有他们最清楚什么技术会伤害他们。

4. 为什么以前失败了？（三个失败模式）

论文分析了为什么光靠“讲道理”没用：

责任分散：就像一群人一起推石头，每个人都觉得“别人会推的”，结果石头没动。现在谁都有权说“不”，但谁也没义务去说“不”。
劣币驱逐良币：如果 A 大学拒绝接军方的脏钱，B 大学接了，B 大学就更有钱、更有名。结果大家都抢着接脏钱，没人愿意做“好人”。
道德洗白：大公司写了一堆“我们很注重伦理”的报告，就像给脏衣服喷了香水，衣服还是脏的，但闻起来香了。这让他们觉得自己已经尽责了，实际上什么都没改变。

5. 具体怎么做？（五个落地方案）

作者不是空谈，他们给出了五个具体的“安装刹车”的方法：

大学合同修改：在技术转让合同里加条款，“如果你拿我的技术去造杀人武器，我就告你，并收回授权”。
会议审查：像 NeurIPS、ICLR 这样的顶级 AI 会议，在收论文时，要求作者声明“这东西能不能被用来干坏事”，如果风险太大，直接拒稿。
资助方施压：给钱的人（如政府基金会）可以说：“想拿我的钱？先建立一套‘否决机制’，否则一分不给。”
代码仓库管理：像 GitHub 或 Hugging Face 这样的代码库，给模型加上“电子锁”。如果检测到用户是用来干坏事的，就远程锁死，不让下载。
行业团结：科学家和工程师们自己立规矩，“谁敢接军方的脏活，我们就把他踢出圈子”。

6. 总结：从“表演”到“行动”

这篇论文最后呼吁：
别再演戏了。 我们不需要更多的“道德宣言”或“漂亮的 PPT"。我们需要的是真正的权力。

以前的逻辑：只要大家心里有道德，AI 就会变好。（失败了）
现在的逻辑：必须建立一套有牙齿的规则，让那些想制造 AI 武器的人无法通过，让那些想保护社区的人有权叫停。

一句话总结：
这篇论文告诉我们，要把 AI 从“失控的野马”变成“温顺的坐骑”，光靠给马夫（研究人员）讲道理是不够的，必须给马夫手里塞一根带刺的鞭子（否决权），并且让马背上的乘客（受影响的普通人） 也有权决定马往哪里跑。只有这样，AI 才能真正为和平服务，而不是成为战争的帮凶。

这是一份关于论文《DIAL E FOR ETHICAL ENFORCEMENT: INSTITUTIONAL VETO POWER AS A GOVERNANCE PRIMITIVE》（拨号 E 进行道德执行：机构否决权作为治理原语）的详细技术摘要。

1. 研究背景与问题 (Problem)

核心矛盾：治理悖论 (The Governance Paradox)
当前的人工智能治理面临一个根本性悖论：尽管存在广泛的道德意识和详尽的风险评估（如模型卡片、负责任 AI 声明），但缺乏阻止有害下游应用（特别是军事化和滥用）的正式权力。

现状： 现有的问责机制（如伦理审查、影响评估）仅作为声誉信号，与决策架构脱节。它们无法在研究发布后阻止其被武器化。
后果： 导致了“有组织的无责任”（organized irresponsibility）。每个行动者（研究人员、大学、资助方）都可以推卸责任，而军事化进程却沿着可识别的决策链继续推进。
根本原因： 治理架构中缺乏机构否决权（Institutional Veto Power）。现有的伦理框架假设机构会自愿遵守，但在竞争压力（如资金获取、学术声誉）下，自愿约束会导致“逆向选择”，使得采取克制态度的机构处于劣势，从而推动整个领域向军事化倾斜。

2. 方法论与理论框架 (Methodology & Framework)

本文并未提出新的技术安全算法，而是提出了一种治理架构的重新设计，将“机构否决权”确立为一种治理原语（Governance Primitive）。

核心逻辑公式：
论文通过形式化符号阐述了伦理知识与权力的关系：

$K$ ：伦理知识（由治理实践产生）
$A$ ：拒绝或阻止使用的机构权力
$M$ ：军事化或滥用部署
$R$ ：可信风险的识别
$V$ ：受法律和程序保护的否决权

逻辑推导：

仅有知识而无权力： $(K \land \neg A) \Rightarrow M$ （即使知道风险，若无权力阻止，军事化仍会发生）。
知识 + 风险识别 + 否决权： $(K \land V \land R) \Rightarrow \neg M$ （若存在受保护的否决权，可阻止军事化）。
概率结论： $P(M | V) \ll P(M | \neg V)$ （拥有否决权时，军事化的概率远低于没有否决权时）。

比较治理分析：
论文借鉴了其他高风险领域的治理经验，证明否决权是可行的：

核不扩散： 国际原子能机构（IAEA）拥有检查权和拒绝认证权，能阻止核材料扩散。
生物医学伦理： 机构审查委员会（IRB）在研究开始前拥有具有约束力的否决权，保护受试者。
出口管制： 通过许可证制度限制敏感技术的转移。

实施路径设计：
论文详细设计了五种无需新条约即可实施的机构化路径：

大学技术转移合同修改： 在许可协议中加入“使用限制”条款，赋予大学在发现违规（如用于监控或武器）时终止许可的否决权。
会议级治理： 要求会议投稿披露双重用途风险，并允许作者附加使用条件。
资助机构要求： 将建立否决治理结构作为获得资助的前提条件。
代码库/仓库级治理： 在模型和数据集元数据中嵌入机器可读的使用限制，并实施访问控制和审计。
社区规范： 建立具有约束力的专业行为准则，保护行使否决权的研究人员免受报复。

3. 关键贡献 (Key Contributions)

提出“机构否决权”作为核心治理原语：
首次明确将“否决权”定义为 AI 治理的基础构件，主张将其从“道德建议”转变为“具有法律约束力的决策机制”。这不仅仅是伦理问题，而是权力分配问题。
揭示“无权力的伦理”的结构性失效：
通过数学模型（附录 A）和案例分析，论证了在没有强制执行力的情况下，责任分散（Responsibility Diffusion）、逆向选择（Adverse Selection）和“伦理洗白”（Ethics Laundering，即通过文档记录来替代实际干预）是导致军事化不可避免的根本原因。
强调受伤害社区的主导地位 (Centering Justice)：
提出治理设计必须由受军事化影响最严重的社区（如被监控群体、冲突地区居民）主导，而不仅仅是精英学者。否决机构必须包含这些社区的代表，并赋予其与技术人员同等的决策权。
提供可操作的实施蓝图：
附录部分提供了极其详细的操作机制，包括：
- 触发机制： 明确在何时（如接受资助、签署许可、发布代码）触发否决审查。
- 决策机构构成： 规定了否决委员会的成员比例（如技术人员、伦理学家、社区代表、法律专家），确保多元视角。
- 执行与问责： 设计了合同违约赔偿、资金取消、代码库下架等具体的强制执行手段。
- 防滥用设计： 通过预设阈值、集体决策、上诉机制和任期限制，防止否决权被政治化或用于压制合法研究。

4. 结果与论证 (Results & Findings)

理论结果： 证明了仅靠伦理声明无法遏制军事化。只有当“拒绝”成为一种集体可执行且受保护的规则时，克制（Restraint）才能成为个体的理性选择。
模型结果（附录 A）：
- 在无否决权模型中，随着治理链条中行动者数量（ $n$ ）增加，有效执行力（ $\rho$ ）呈指数级下降（责任扩散）。
- 引入否决权后，执行力被整合为 $\rho_{veto} = 1$ ，显著提高了对军事化的遏制能力。
- 在博弈论模型中，无否决权导致均衡状态下的克制水平极低（ $r^*_{noveto}$ ），而引入强制否决（ $r^*_{veto}$ ）后，克制水平可被提升至预设标准。
案例验证： 通过面部识别技术、DARPA 资助项目、大学与国防承包商合作三个历史案例，展示了在现有架构下，由于缺乏否决点，研究如何不可避免地滑向军事应用。

5. 意义与影响 (Significance)

范式转变： 将 AI 治理的讨论从“如何鼓励道德行为”（往往失败）转向“如何使克制在结构上变得理性”（制度可实现）。
从象征到执行： 为将象征性的安全护栏转化为可执行的法律责任提供了具体路径，解决了当前 AI 治理“有知无能”的困境。
社会正义视角： 强调了技术治理中的权力动态，主张受技术伤害的群体应拥有直接决定技术命运的权力，这是实现 AI 和平与正义的前提。
政策启示： 为大学、资助机构、会议组织者和代码库平台提供了具体的政策修改建议，使其能够在现有法律框架内立即启动治理改革，而无需等待新的国际条约。

总结：
这篇论文不仅是一份学术宣言，更是一份治理工程蓝图。它指出，要实现 AI 的“去军事化”和“负责任发展”，必须赋予相关机构（特别是受影响的社区）在法律和程序上受保护的否决权，使其能够在风险确凿时，合法、有效地阻断有害技术的转移和部署。这是将 AI 伦理从“表演”转变为“责任”的关键一步。