칸트 윤리학의 형식화: 보편법칙 논리 (FULL) 기술 요약

본 논문은 기계 윤리 (Machine Ethics) 분야에서 인공지능 도덕 에이전트 (AMA) 의 한계를 극복하고 더 견고하며 자율적인 도덕 추론을 가능하게 하기 위해, 임마누엘 칸트의 윤리학을 형식화한 **보편법칙 논리 (Formula of the Universal Law Logic, FULL)**를 제안합니다.

1. 문제 제기 (Problem)

기존의 기계 윤리 접근법은 인간의 도덕적 직관을 "행위 금지 (해를 끼치지 말라)", "행위 의무 (타인을 돕라)"와 같은 공리 (axioms) 집합으로 인코딩하는 방식에 의존해 왔습니다. 그러나 Taylor Olson 은 이러한 접근법이 가진 두 가지 근본적인 한계를 지적합니다.

1. 행위 중심 (Action-centric) 한계: 기존 공리들은 행위 자체만 평가할 뿐, 행위를 수행하는 에이전트의 **목적 (Purpose)**을 고려하지 않습니다. 예를 들어, 의무감으로 오염을 줄이는 것과 홍보를 위해 오염을 줄이는 것을 구별하지 못합니다.
2. 직관 인코딩의 비현실성: 미래의 모든 상황과 예외를 미리 파악하여 도덕적 직관을 공리화하는 것은 불가능에 가깝습니다. 또한, 이러한 공리들은 에이전트가 도덕적 담론에 참여하거나 공리 자체를 비판할 수 없게 만들어 도덕적 자율성을 저해합니다.

따라서, 특정 행위를 사전에 규정하지 않으면서도 에이전트의 목적과 맥락을 고려하여 도덕적 판단을 내릴 수 있는 새로운 형식적 체계가 필요합니다.

2. 방법론 (Methodology)

저자는 칸트의 정언명령 (Categorical Imperative) 중 첫 번째 공식인 **보편법칙 공식 (Formula of the Universal Law, FUL)**을 형식화하기 위해 **다중 정렬 양화 모달 논리 (Multi-sorted Quantified Modal Logic)**인 FULL 을 개발했습니다.

핵심 구성 요소

• 실용적 모순 해석 (Practical Contradiction Interpretation, PCI): 칸트의 FUL 을 해석할 때, 논리적 모순 (LCI) 이나 목적론적 모순 (TCI) 대신 '효과성'에 기반한 PCI 를 채택했습니다. 즉, 보편법칙의 세계 (World of the Universal Law, WUL) 에서 에이전트의 행위가 여전히 목적 달성의 유효한 수단인지를 판단합니다.
• FUL 의 논리 구조:
  • 행위와 인과 (Actions & Causality): Does(a, b) (에이전트 a 가 행위 b 수행) 와 Causes (인과 관계) 를 정의하여, 행위와 목적 간의 인과적 연결을 형식화합니다.
  • 의지 (Willing): Wills(a, ϕ) 연산자를 통해 에이전트가 특정 상태 (목적) 를 의지함을 표현합니다.
  • 격언 (Maxim): For(ϕ1, ϕ2) 형태로, "목적 ϕ2 를 달성하기 위해 행위 ϕ1 을 수행한다"는 주체적 원칙을 표현합니다.
  • 보편법칙 (Universal Law, UL): 특정 에이전트의 격언을 보편화하는 변환 함수 UL(M)을 정의합니다. 이는 행위와 목적에 포함된 상수 (특정 인물, 시간 등) 를 변수로 치환하여 "모든 에이전트가 동일한 목적을 가질 때, 동일한 행위를 수행한다"는 명제를 생성합니다.
  • 도덕적 규범 (Moral Norms): Perm (허용), Imp (불허), Obl (의무) 연산자를 도입하여, 특정 목적을 위한 행위의 도덕적 지위를 판단합니다.

추론 과정

FUL 은 부정적 테스트 (Negative Test) 방식으로 작동합니다.

1. 에이전트가 자신의 격언 (M) 을 보편법칙 (UL(M)) 으로 의지한다고 가정합니다.
2. 그 보편화된 세계에서 자신의 격언 (M) 을 수행한다고 가정합니다.
3. 이 두 가지 의지가 **모순 (Contradiction)**을 일으키는지 확인합니다.
   • 모순이 발생하면: 그 행위는 보편법칙 하에서 목적 달성의 유효한 수단이 아니므로 **불허 (Impermissible)**됩니다.
   • 모순이 발생하지 않으면: **허용 (Permissible)**됩니다.

3. 주요 기여 (Key Contributions)

1. 목적 중심의 도덕 평가: 기존 행위 중심의 도덕 논리와 달리, FULL 은 행위의 **목적 (Purpose)**을 핵심 변수로 포함하여, 동일한 행위라도 목적에 따라 도덕적 평가가 달라질 수 있음을 증명했습니다.
2. 직관 의존도 감소: 인간의 도덕적 직관을 사전에 공리 집합으로 나열할 필요가 없습니다. 대신, 인과 관계와 합리적 에이전트의 원칙 (의지의 일관성 등) 만을 기반으로 도덕적 규범을 유도합니다.
3. 칸트 윤리학의 형식적 완성: 칸트의 제 1 공식 (FUL) 을 모달 논리로 완전히 형식화하여, 칸트 윤리학의 핵심 개념 (인과성, 에이전시, 모순의 유형) 을 기계적으로 추론 가능하게 만들었습니다.
4. 완전 의무와 불완전 의무의 구분: 논리적으로 유도된 모순의 유형을 통해 칸트 윤리학의 **개념적 모순 (Contradiction in Conception)**과 **의지적 모순 (Contradiction in the Will)**을 구분하고, 각각이 **완전 의무 (Perfect Duty)**와 **불완전 의무 (Imperfect Duty)**로 이어짐을 증명했습니다.

4. 결과 및 사례 분석 (Results & Demonstrations)

논문은 세 가지 고전적인 칸트 윤리학 사례를 통해 FULL 의 추론 능력을 검증했습니다.

• 사례 1: 거짓 약속 (False Promising)
  • 상황: 여행 자금을 얻기 위해 친구에게 돈을 갚지 않을 거짓 약속을 하는 것.
  • 결과: 보편화되면 "누구나 돈을 얻기 위해 거짓 약속을 한다"는 세상이 됩니다. 이 세상에서는 약속 자체가 무효화되므로, 거짓 약속을 통해 돈을 얻는다는 목적은 달성 불가능 (효과성 상실) 해집니다. 이는 개념적 모순을 일으켜 행위가 불허됨을 증명합니다.
• 사례 2: 살인 (Murder)
  • 상황: 경쟁자를 살해하여 직업을 얻는 것.
  • 결과: 보편화되면 모든 경쟁자가 서로를 살해하려 합니다. 이 경우, 상대방이 나를 살해할 가능성이 높아지므로, 내가 경쟁자를 살해하는 행위는 내 목적 (직업 획득) 을 달성하는 유효한 수단이 아닙니다. 이는 실용적 모순을 일으켜 불허됨을 증명합니다. (기존 논리적 모순 해석으로는 설명하기 어려운 자연적 행위를 처리함).
• 사례 3: 타인 돕기 거부 (Never helping others)
  • 상황: 여가 시간을 위해 타인을 돕지 않는 것.
  • 결과: 보편화되면 아무도 타인을 돕지 않는 세상이 됩니다. 인간은 생존을 위해 타인의 도움이 필요하므로, 이 세상에서는 에이전트 자신이 생존할 수 없게 됩니다. 즉, "살아있음"이라는 의지의 필수 조건이 모순됩니다. 이는 의지적 모순을 일으켜, 타인을 돕지 않는 것은 불허되며, 반대로 타인을 돕는 것은 불완전 의무가 됨을 증명합니다.

비교 분석: FULL 은 외과 의사가 환자를 절개하는 행위 (수술) 를 평가할 때, '해를 끼치는 행위'라는 표면적 행위만 보지 않고 '생명을 구하는 목적'을 고려하여 이를 허용된다고 판단합니다. 이는 기존 규칙 기반 시스템이 수술을 '해'로 간주하거나 예외를 수동으로 추가해야 했던 문제점을 해결합니다.

5. 의의 및 향후 과제 (Significance & Future Work)

• 의의: FULL 은 AI 에이전트가 단순히 "옳은 일"을 하는 것을 넘어, "옳은 이유"로 행동할 수 있는 토대를 마련합니다. 이는 도덕적 직관에 대한 인간의 사전 인코딩 부담을 줄이고, 에이전트가 새로운 상황에 대해 자율적이고 견고한 도덕적 판단을 내릴 수 있게 합니다.
• 한계 및 향후 작업:
  • 현재는 격언 (Maxim) 을 구성하는 과정이 이미 완료된 것으로 가정하고 있습니다. (예: 살인을 '세포 파괴'로 기술하면 결과가 달라질 수 있음).
  • 향후에는 의도적 행위 (Intentional Actions) 에 대한 모델 이론적 접근, 일반화된 양화사 (few, most 등) 의 도입, 그리고 맥락 정보를 격언에 안전하게 통합하는 방법을 연구할 예정입니다.

결론적으로, 이 논문은 칸트 윤리학을 컴퓨터 과학적 관점에서 재해석하여, 더 정교하고 자율적인 도덕적 AI 의 개발을 위한 강력한 형식적 도구를 제시했습니다.