論文「Formalizing Kantian Ethics: Formula of the Universal Law Logic (FULL)」の技術的サマリー

1. 背景と問題定義

機械倫理（Machine Ethics）の分野では、人工道徳エージェント（AMA）を構築し、AI の安全性向上や道徳性の理解深化を目指しています。しかし、既存のアプローチには以下の重大な限界が存在します。

1. 目的の欠如（エージェント中心性の欠如）: 既存の手法は「行動そのもの」を評価する行動中心（action-centric）の公理（例：「危害を与えない」「嘘をつかない」）に依存しています。これでは、同じ行動でも「義務感から行うこと」と「広報目的で行うこと」を区別できず、エージェントの意図や目的を評価できません。
2. 道徳的直観の列挙の困難さ: 人間の道徳的直観を事前にすべて列挙して公理化することは不可能です（価値の整合性の問題）。また、例外や矛盾が生じた際の判断に追加の直観が必要となり、手術のように「危害を与えるが許容される」ケースなどを適切に処理できません。
3. 自律性の欠如: 公理自体を批判・議論できないため、AMA は道徳的対話に参加できません。

これらの課題に対し、本論文はカントの倫理学、特に**「定言命法」の第一定式「普遍法則の定式（Formula of the Universal Law: FUL）」**を形式化し、より堅牢で自律的な AMA の基盤を構築することを提案します。

2. 提案手法：Formula of the Universal Law Logic (FULL)

著者は、FUL を形式化する新しい論理体系**「Formula of the Universal Law Logic (FULL)」**を提案しました。これは、多様体量化モダリティ論理（multi-sorted quantified modal logic）です。

2.1 論理の構成要素

FULL は以下の主要な概念を形式化しています。

• 行動と因果律 (Actions and Causal Laws):
  • Does(a, b): エージェント $a$ が行動 $b$ を行う。
  • Causes(Does(a, b), ϕ): 行動 $b$ が状態 $ϕ$ を引き起こす。
  • 欠落（omission）も因果関係として扱われます。
• 意志 (Willing):
  • Wills(a, ϕ): エージェント $a$ が $ϕ$ を実現することを意志する。
  • 意志の整合性（矛盾を意志しない）、単調性（含意する事実も意志する）、必要性（意志するには生存などが必要）を公理として定義。
• 格率 (Maxims):
  • 行動の目的を含む主観的原理。形式は For(ϕ1, ϕ2)（目的 $ϕ2$ を達成するために行動 $ϕ1$ を行う）。
  • 行動そのものだけでなく、「何のために」行うかを評価するエージェント中心の構造です。
• 普遍法則 (Universal Law):
  • 特定の格率を普遍化し、「すべてのエージェントが同様の目的を持つ場合、同様の行動をとる」という世界（World of the Universal Law: WUL）を生成する変換関数 UL(M) を定義します。
  • 定数（特定の個人名など）を変数に置換し、全称量化と存在量化を適切に適用することで、普遍性を数学的に表現します。

2.2 道徳的評価のメカニズム

FUL の核心は、**実践的矛盾解釈（Practical Contradiction Interpretation: PCI）**に基づいています。

• 評価プロセス:
  1. エージェントが自身の格率 $M$ を意志する。
  2. エージェントが、その格率が普遍法則 $UL(M)$ として成立する世界（WUL）を意志する。
  3. この 2 つの意志が矛盾するか（⊥ を導くか）を検証する。
• 判定基準:
  • 矛盾が生じる場合：その格率は**「無効（ineffective）」であり、道徳的に「許容されない（Impermissible）」**と判定されます。
  • 矛盾が生じない場合：道徳的に**「許容される（Permissible）」**と判定されます。
• 特徴: 特定の行動を禁止する公理を事前に与える必要がなく、因果関係と合理性の原理から道徳的規範が「導き出される（top-down）」点が革新的です。

3. 主要な結果と実証

FULL が 3 つのカント倫理の古典的な事例に対して、どのように道徳的規範を導き出すかを実証しました。

事例 1：嘘の約束（False Promising）

• 格率: 「旅行資金を得るために、Jan に返済する嘘の約束をする」。
• 論証: 普遍法則化すると「資金が必要な人は誰でも嘘の約束をする」世界になります。その世界では誰も約束を信じないため、嘘の約束は資金を得る手段として機能しなくなります（因果関係の破綻）。
• 結果: 意志の矛盾（手段が有効であることと無効であることの同時意志）が生じるため、**「許容されない」**と判定されました。

事例 2：殺人（Murder）

• 格率: 「他の候補者を殺してその職を確実に得る」。
• 論証: 普遍法則化すると「誰でも職を得るために他者を殺す」世界になります。その世界では、エージェント自身も殺される可能性が高く、結果として「職を確実に得る」という目的が達成できなくなります。
• 結果: 手段の無効化による矛盾が生じるため、**「許容されない」**と判定されました。
  • 注: 論理的矛盾解釈（LCI）では扱いにくい自然行為（殺人など）も、実践的矛盾（PCI）を用いることで適切に処理可能です。

事例 3：他者を助けない（Never helping others）

• 格率: 「余暇を持つために、他者を助けない」。
• 論証: 普遍法則化すると「誰も他者を助けない」世界になります。しかし、理性ある存在が生存し意志するためには他者の援助が必要（因果律）です。したがって、この世界ではエージェント自身が生存できず、意志すること自体が矛盾します。
• 結果: 意志そのものの矛盾（生存することと生存しないことの同時意志）が生じるため、**「許容されない」**と判定されました。
  • 義務の導出: この矛盾は「完全義務（Perfect Duty）」ではなく「不完全義務（Imperfect Duty）」を導き出し、「他者を助ける義務」が導かれます。

4. 主な貢献

1. エージェント中心の評価: 行動だけでなく、その「目的（意図）」を評価する論理体系を初めて形式化しました。これにより、同じ行動（例：手術）でも目的（救命 vs 傷害）によって道徳的評価が異なることを正しく扱えます。
2. 道徳的直観の最小化: 特定の行動禁止リスト（公理）を人間が事前に列挙する必要がなく、非規範的な背景知識（因果関係など）と形式原理から道徳的判断を導出します。
3. カント倫理の形式化: 「概念における矛盾（Contradiction in Conception）」と「意志における矛盾（Contradiction in the Will）」を論理的に区別し、それぞれが「完全義務」と「不完全義務」に対応することを証明しました。
4. 実践的矛盾解釈の定式化: 暴力行為や欠落（omission）などの難問を、論理的矛盾や目的論的仮定に頼らず、因果関係の破綻（手段の無効化）によって解決する形式化を提供しました。

5. 意義と将来展望

本論文は、機械倫理において「Is から Ought への誤った推論」を避けつつ、自律的な道徳的判断を行う AI の実現に向けた重要な一歩です。FULL は、AI が単にルールに従うだけでなく、自らの行動の目的と普遍化された結果をシミュレーションし、矛盾を検出することで道徳的規範を自律的に導くことを可能にします。

今後の課題:

• 格率（Maxim）の形成プロセス自体の形式化（「どのような記述が適切か」という問題）。
• モデル論的な意味付けの拡張や、より複雑な量化子（「ほとんど」「少数」など）の導入。
• 意図的な行動（Intentional Actions）のより詳細なモデル化。

結論として、FULL はカント倫理の形式的理解を深めるとともに、より堅牢で自律的な人工道徳エージェントの構築への道筋を示す画期的な研究です。