🤖 AI

Formalizing Kantian Ethics: Formula of the Universal Law Logic (FULL)

本文提出了一种名为“普遍法则逻辑”（FULL）的多类量化模态逻辑，旨在通过形式化康德的普遍法则公式，使人工智能道德代理能够在不依赖预设道德直觉的情况下，仅凭背景知识结合行为目的来自主评估其行为的道德性。

原作者： Taylor Olson

发布于 2026-04-17

📖 1 分钟阅读☕ 轻松阅读

原作者： Taylor Olson

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇文章介绍了一种名为 FULL（全称：普遍法则逻辑，Formula of the Universal Law Logic）的新方法，旨在让人工智能（AI）变得更懂道德，而不仅仅是死记硬背规则。

想象一下，我们要教一个机器人什么是“对”与“错”。

1. 现在的 AI 道德像什么？（旧方法）

目前的道德 AI 就像是一个拿着死板清单的保安。

清单内容：“不许伤害人”、“不许撒谎”、“必须帮助别人”。
问题：这个保安太死板了。
- 如果医生为了救人而切开病人的肚子（这看起来像“伤害”），保安会大喊“禁止！”，因为他只看到了“切开”这个动作，没看到“救人”这个目的。
- 如果我们要让 AI 处理复杂情况（比如“为了救人而撒谎”），我们就得把成千上万种例外情况都写进清单里。但这不可能，因为人类自己都没法把道德直觉完全列出来。

2. 这篇文章提出了什么新想法？（FULL 方法）

作者泰勒·奥尔森（Taylor Olson）提出，与其给 AI 一张死板的“行为清单”，不如给 AI 一个**“思想实验模拟器”**。

这个模拟器的核心思想来自 18 世纪哲学家康德（Immanuel Kant）。康德认为，判断一件事对不对，不是看结果，而是看**“如果你把这件事变成全人类都遵守的法则，世界会变成什么样？”**

FULL 逻辑就是把这种“思想实验”变成了数学公式，让 AI 能自动运行这个实验。

3. FULL 是如何工作的？（三个步骤）

想象 AI 是一个**“平行宇宙导演”**。当它面临一个道德抉择时，它会按以下三步走：

第一步：制定“剧本”（格律/Maxim）

AI 先搞清楚主角（比如机器人自己）想做什么，以及为什么要做。

例子：主角想“为了搞到钱去旅行，而欺骗朋友 Jan"。
关键点：这里不仅关注“欺骗”这个动作，更关注“为了钱”这个目的。

第二步：开启“平行宇宙”（普遍化/Universalization）

AI 启动模拟器，把主角的剧本变成全宇宙通用的法则。

剧本：“所有想搞钱去旅行的人，都必须欺骗朋友。”
AI 问自己：如果全世界每个人都按这个剧本演，会发生什么？

第三步：寻找“剧情漏洞”（矛盾检测/Contradiction）

AI 检查这个新宇宙是否还能运转。

在“欺骗”的宇宙里：如果每个人都欺骗，那么“承诺”这个词就失效了。没人会相信任何承诺。
结果：主角想通过“欺骗”来“搞到钱”，但在一个没人相信承诺的宇宙里，欺骗根本行不通（无法达到目的）。
结论：这个剧本在逻辑上自相矛盾（就像你想用一把不存在的钥匙开门）。因此，AI 判定：这个行为是不道德的。

4. 为什么这个方法更厉害？（两个核心优势）

优势一：它懂“动机”（Agent-Centric）

旧保安：看到“拿刀”就报警。
新导演（FULL）：
- 如果是杀人犯拿刀：在“人人拿刀杀人”的宇宙里，没人能活下来，你也活不到享受战利品的时候。逻辑崩塌 -> 禁止。
- 如果是外科医生拿刀：在“人人拿刀救人”的宇宙里，病人得救了，医生也实现了救人的目的。逻辑通顺 -> 允许。
- 比喻：就像看一场电影，旧保安只看“有人拿刀”就喊停；新导演会看“拿刀是为了杀人还是救人”，如果剧本逻辑通顺，就继续播放。

优势二：它不需要人类把道德“写死”

我们不需要告诉 AI“医生可以动刀，但杀手不行”。
我们只需要给 AI 一些基础常识（比如：人需要活着才能思考，承诺需要被信任才有效）。
AI 自己通过逻辑推演，就能发现“杀人”或“骗人”在普遍法则下会导致世界崩溃。它自己“悟”出了道德，而不是靠背诵。

5. 实际案例演示

文章举了三个例子证明这个系统很管用：

虚假承诺：
- 如果你承诺还钱但没打算还，在全世界都这样做的宇宙里，没人会相信承诺。你的“骗钱”计划直接破产。-> 判定为错。
谋杀同事：
- 你想杀掉竞争对手来保住工作。在全世界都互相杀人的宇宙里，你还没保住工作，自己就先被杀了。你的计划失效。-> 判定为错。
从不帮助别人：
- 你想“为了偷懒，永远不帮别人”。但在一个没人互助的宇宙里，当你生病或需要帮助时，没人帮你，你会死掉。既然你死了，你就无法“偷懒”了。你的计划自我毁灭。-> 判定为错（你应该偶尔帮帮别人）。

总结

这篇论文就像是为 AI 道德系统安装了一个**“逻辑自检引擎”**。

以前：AI 像鹦鹉学舌，背下人类给的规则，遇到新情况就傻眼。
现在（FULL）：AI 像一个理性的哲学家。它不需要人类把每一条道德都教给它，只要给它基本的逻辑和常识，它就能通过“如果全世界都这样做，世界会怎样”的推演，自己判断出什么是对的，什么是错的。

这让未来的 AI 不仅能做“正确的事”，还能理解“为什么要这样做”，从而变得更聪明、更独立、也更安全。

论文技术总结：康德伦理学的形式化——普遍律公式逻辑 (FULL)

1. 研究背景与问题 (Problem)

背景：
机器伦理学（Machine Ethics）旨在构建人工道德主体（AMAs），使其能够推理道德义务并指导自身行为。目前的 AMAs 构建方法通常采用“自顶向下”的方式，将人类道德直觉编码为一组行动准则（公理），例如“不伤害”、“不撒谎”或“必须帮助他人”。

现有方法的局限性：
作者指出，这种基于行动（action-centric）的编码方法存在三个主要缺陷：

忽视行为目的： 现有公理仅评估行动本身，无法区分行为背后的动机（例如，出于义务减少污染与出于公关目的减少污染在逻辑上无法区分）。
依赖先验直觉枚举： 假设人类能够先验地枚举所有道德直觉。然而，面对未来的冲突和例外情况（如价值对齐问题），往往需要进一步的判断。例如，若仅编码“不造成伤害”，系统可能会错误地将外科医生对自愿患者的手术判定为不可行。
缺乏道德自主性： 由于 AMAs 无法批判其内置的道德公理，它们无法参与关于这些公理本身的道德话语，缺乏必要的道德鲁棒性和自主性。

核心问题：
如何构建一种道德推理框架，既能评估行为及其目的（以主体为中心），又无需预先枚举具体的道德直觉，从而生成更鲁棒、更自主的 AMAs？

2. 方法论 (Methodology)

本文提出了一种名为普遍律公式逻辑 (Formula of the Universal Law Logic, FULL) 的多排序量化模态逻辑，旨在形式化康德的普遍律公式 (Formula of the Universal Law, FUL)。

2.1 理论核心

康德伦理学基础： 基于康德的定言命令（Categorical Imperative）第一公式：“要只按照你同时认为也能成为普遍规律的准则去行动。”
解释框架： 采用实践矛盾解释 (Practical Contradiction Interpretation, PCI)。即：如果在一个“普遍律世界”（World of the Universal Law, WUL）中，遵循某条准则的行动不再是实现其目的的有效手段，则该行动在道德上是不被允许的。
逻辑形式化：
- FULL 逻辑系统： 包含多排序（对象、主体、行动）、量化、模态算子。
- 核心算子：
  - Does(a, b): 主体 $a$ 执行行动 $b$ 。
  - Causes(Does(a, b), ϕ): 行动 $b$ 导致状态 $\phi$ （包含因果律）。
  - Wills(a, ϕ): 主体 $a$ 意愿状态 $\phi$ 为真（体现理性主体的意志）。
  - For(ϕ1, ϕ2): 准则（Maxim），表示“为了目的 $\phi_2$ 而执行/省略行动 $\phi_1$ "。
  - Perm, Imp, Obl: 道德模态算子（允许、禁止、义务）。

2.2 推理机制

FULL 通过以下步骤进行道德评估：

输入： 主体的具体准则 $M$ （行动 + 目的）。
普遍化 (Universalization)： 将具体准则 $M$ 转换为普遍律 $UL(M)$。通过变量替换，将具体主体和常数替换为全称量化的变量，构建一个假设的“普遍律世界”。
矛盾测试 (Negative Test)：
- 假设主体 $a$ 在普遍律世界中既意愿 $UL(M) $为真，又意愿执行$ M$。
- 检查这种意愿是否导致逻辑矛盾（即：在普遍律世界中，该行动是否还能有效实现其目的？）。
- 如果导致矛盾（ $\vdash \bot$ ），则根据规则 FUL，该准则在原始世界中是不可允许 (Impermissible) 的。
输出： 道德规范（允许、禁止或义务）。

2.3 关键定义

准则 (Maxim)： 形式化为 For(ϕ1, ϕ2)，其中 $\phi_1$ 是行动， $\phi_2$ 是目的。
普遍律 (Universal Law)： 通过映射 $\sigma$ 将准则中的常数替换为变量，并应用全称量词（针对意愿者和目的中的常量）和存在量词（针对行动中的常量）。
矛盾类型区分：
- 概念矛盾 (Contradiction in Conception, CC)： 行动本身在普遍化后无法实现目的（如虚假承诺），产生完全义务 (Perfect Duties)。
- 意志矛盾 (Contradiction in the Will, CW)： 普遍化后的世界与理性主体生存的必要条件（如“活着”）相冲突（如“永不帮助他人”），产生不完全义务 (Imperfect Duties)。

3. 主要贡献 (Key Contributions)

形式化 FUL： 提出了 FULL 逻辑系统，首次完整形式化了康德的第一公式（FUL），解决了此前该公式形式化程度不足的问题（除 Singh 2022 外，大多数研究集中在第二公式）。
以主体为中心 (Agent-Centric)： 逻辑系统不仅评估行动，还评估行动的目的。这使得系统能够区分相同行动在不同动机下的道德属性（例如：手术切割 vs. 谋杀）。
减少先验直觉依赖： 系统不需要人类预先编码具体的道德规则（如“不可杀人”），而是基于非规范性的背景知识（因果律、理性主体定义）和形式化的理性原则推导出道德规范。
区分义务类型： 通过形式化推导，能够自动区分“概念矛盾”和“意志矛盾”，从而区分完全义务（绝对禁止/必须）和不完全义务（酌情履行）。
处理自然行动与省略： 通过实践矛盾解释，成功处理了传统逻辑矛盾解释难以处理的自然行动（如谋杀）和省略行为（如不帮助他人）。

4. 实验结果与验证 (Results)

作者通过三个经典的康德伦理学案例，利用 FULL 进行了形式化证明，验证了系统的有效性：

案例 1：虚假承诺 (False Promising)
- 情境： Karli 为了筹钱旅行而向 Jan 虚假承诺还款。
- 推导： 在普遍律世界中，所有人都虚假承诺，导致“承诺”这一概念失效，无人相信承诺。因此，虚假承诺不再是获取资金的有效手段。
- 结果： 产生概念矛盾，推导出该行为是禁止 (Imp) 的。
案例 2：谋杀 (Murder)
- 情境： Karli 为了获得工作而谋杀竞争对手。
- 推导： 在普遍律世界中，所有人都为工作而谋杀，导致 Karli 自己也可能被谋杀。如果 Karli 被谋杀，她就无法获得工作。因此，谋杀不再是获得工作的有效手段。
- 结果： 产生概念矛盾，推导出该行为是禁止 (Imp) 的。
- 对比优势： 系统能区分“谋杀”与“为了救人而进行的手术切割”，因为后者在普遍律世界中依然是救人的有效手段，不产生矛盾。
案例 3：永不帮助他人 (Never Helping Others)
- 情境： Karli 为了有闲暇时间而决定永不帮助他人。
- 推导： 在普遍律世界中，无人帮助他人。由于理性主体（如婴儿、病人）需要他人帮助才能生存，Karli 将无法生存（不“活着”）。但“活着”是“意愿”任何事物的前提。
- 结果： 产生意志矛盾（意愿活着 vs. 意愿不活着），推导出该行为是禁止 (Imp) 的，并进一步推导出 Karli 有义务 (Obl) 在某种程度上帮助他人（不完全义务）。

5. 意义与影响 (Significance)

对机器伦理学的贡献： FULL 提供了一种更稳健的 AMAs 构建基础。它使 AI 能够像人类一样，通过理性推理而非死记硬背规则来处理复杂的道德困境，特别是那些涉及动机和例外情况的问题。
对康德伦理学的贡献： 为康德伦理学提供了精确的数学和逻辑基础，澄清了“矛盾”在道德推理中的具体运作机制，特别是区分了概念矛盾与意志矛盾。
未来方向：
- 探索模型论（Model-theoretic）解释以处理意向性行动。
- 引入广义量词（如“大多数”、“少数”）以处理承诺等概念的例外情况。
- 研究准则（Maxim）的构建过程，解决“描述粒度”问题（即如何正确描述行动以避免道德规避）。

总结：
本文通过构建 FULL 逻辑，成功将康德的普遍律公式转化为可计算的道德推理引擎。该方法证明了无需预设具体的道德规则，仅凭理性原则、因果知识和形式化逻辑，即可推导出具有高度鲁棒性的道德规范，为下一代自主道德 AI 的发展奠定了重要的理论基础。