기술적 요약: 행동에서 의무로: 도덕적 행동 모델 논리

문제 제기

규범적 개념인 의무와 허가를 연구하는 도덕적 논리는 전통적으로 지식적 고려사항 (대행자가 무엇을 알거나 믿는지) 을 동적 행동 모델링과 통합하는 데 어려움을 겪어 왔습니다. STIT 논리와 같은 확장은 주체성과 선택을 다루고, 동적 도덕적 논리는 행동에 상대적인 의무를 평가하지만, 이러한 프레임워크들은 종종 불확실성 하에서의 추론을 위한 명시적 메커니즘이 부족합니다. 반면, 동적 지식 논리 (DEL) 와 행동 모델 논리 (AML) 는 정보 업데이트를 모델링하는 데 뛰어나지만, 규범적 평가를 위한 형식적 도구가 부족합니다.

불완전한 정보 하에서 규범적 제약을 충족시키기 위해 행동을 선택해야 하는 시나리오를 모델링하는 데에는 중요한 격차가 존재합니다. 대표적인 예로 "광부 퍼즐"이 있으며, 여기서 최적의 행동은 결과의 바람직함을 그 가능성으로 가중치하여 결정되는데, 이는 표준 도덕적 양태로 자연스럽게 포착되지 않는 개념입니다. 기존 프레임워크들은 종종 대행자들이 대안적 행동들의 기대 도덕적 가치를 비교해야 하는 다중 대행자 시스템에서 조건부 및 문맥 민감적 의무에 대한 원칙적인 설명을 제공하지 못합니다.

방법론

본 논문은 라시터의 작업에서 영감을 받아 "베이지안" 의미론을 도덕적 양태에 적용한 행동 모델 논리 (AML) 를 종합한 **도덕적 행동 모델 논리 (DAML)**를 도입합니다. 방법론은 다음과 같은 단계를 거칩니다:

1. 의미론적 기초:

   • 이 프레임워크는 각 가능한 세계에 도덕적 또는 실용적 가치를 부여하는 바람직함 함수 $f: W \to \mathbb{N}$을 포함하는 등급화된 크립크 모델 ($M = \langle W, R_i, V, f \rangle$) 을 활용합니다.
   • 행동 모델 ($U = \langle E, Q_i, pre \rangle$) 은 곱 업데이트 연산 ($M \otimes U$) 을 통해 대행자들의 행동이 가져오는 지식적 및 물리적 결과를 시뮬레이션하는 데 사용됩니다.
   • 불확실성을 처리하기 위해, 논리는 대행자 기반 행동 생성 하위 모델을 정의합니다. 이는 특정 대행자 $i$와 특정 행동 $\alpha_i$의 관점에서 구성된 업데이트된 크립크 모델의 하위 모델들입니다.

2. 도덕적 기대:

   • 핵심 메커니즘은 행동의 기대 도덕적 가치를 계산하는 도덕적 기대 함수 ($E_i$) 입니다. 이는 접근 가능한 세계들에 대한 균일한 확률 분포를 가정할 때, 행동 생성 하위 모델 내에서 대행자 $i$가 접근 가능한 모든 세계의 바람직함 값 ($f(w)$) 의 평균으로 계산됩니다.
   • 행동은 의사결정 지점에서 이용 가능한 대안들 중에서 가장 높은 기대 도덕적 가치를 산출할 때 "최적"으로 간주됩니다.

3. 논리 언어와 의미론:

   • 언어 $L_{DAML}$은 두 가지 새로운 요소를 추가하여 AML 을 확장합니다:
     • 기대 원자 ($e^{\alpha_i}_i$): 행동 $\alpha_i$의 기대 도덕적 가치가 이용 가능한 다른 모든 행동의 기대 도덕적 가치보다 크거나 같을 때 참이 되는 원자 명제.
     • 의무 양태 ($O_i(U, \alpha_i | \phi)$): "대행자 $i$는 조건 $\phi$ 하에서 행동 $\alpha_i$를 수행해야 한다"로 읽히는 이항 양태.
   • 진리 조건: $O_i(U, \alpha_i | \phi)$는 다음 두 가지가 성립할 때만 참입니다:
     1. 행동 $\alpha_i$ 수행 후 $\phi$가 성립함 (동적 조건).
     2. $\alpha_i$로 인해 생성된 행동 생성 하위 모델이 다른 행동들에 비해 최대의 기대 도덕적 가치를 가짐 (규범적 조건).
   • 이 공식화는 STIT 원칙을 준수합니다: 대행자는 최적의 기대 결과를 얻도록 "보장"합니다.

4. 공리화:

   • 논문은 DAML 에 대한 완전한 공리화를 제공합니다. 여기에는 표준 AML 공리, 기대 원자에 대한 새로운 공리 (E1, E2), 그리고 축소 공리 (R1–R6) 집합이 포함됩니다.
   • 이러한 축소 공리는 도덕적 연산자 $O_i$를 포함하는 모든 공식을 도덕적 연산자가 없는 AML 언어의 등가 공식으로 변환할 수 있게 하여, 건전성과 완전성 증명을 용이하게 합니다.

주요 기여

• 동역학과 규범의 통합: DAML 은 행동 모델 논리의 기계를 사용하여 의무를 유도하는 최초의 프레임워크로, 행동의 지식적 결과를 규범적 평가와 명시적으로 연결합니다.
• 스칼라 도덕적 의미론: 이 논리는 세계에 바람직함 값을 부여하고 기대 값을 계산함으로써 도덕적 진술을 스칼라 방식으로 모델링하여, 불확실한 환경에서 전통적 도덕적 논리의 이분법적 "전부 아니면 전무" 함정을 피합니다.
• 조건부 의무의 형식적 처리: 이 논리는 행동의 결과와 기대 도덕적 가치의 최대화에 모두 의존하는 조건부 의무 ($O_i(\alpha_i | \phi)$) 에 대한 엄밀한 정의를 도입합니다.
• 건전성과 완전성의 증명: 논문은 DAML 증명 체계가 그 의미론에 대해 건전하고 완전함을 입증합니다. 이는 도덕적 언어를 알려진 완전한 AML 언어로 축소함으로써 달성됩니다.

결과 및 응용

논문은 두 가지 주요 응용을 통해 DAML 의 표현력을 입증합니다:

1. 광부 퍼즐:

   • 이 프레임워크는 대행자가 A 샤프트를 막거나, B 샤프트를 막거나, 어느 것도 막지 않는 것 사이에서 선택해야 하는 시나리오를 성공적으로 모델링합니다.
   • 결과적으로 생성된 하위 모델들의 기대 도덕적 값을 계산함으로써, DAML 은 광부들의 위치에 대한 대행자의 무지로 인해 기대되는 구출된 생명의 수를 최대화하므로 "어느 샤프트도 막지 않는 것"이 의무적 행동임을 올바르게 식별합니다. 이는 위치가 알려져 있다면 모든 광부를 구할 수 있지만 잘못 추측하면 모두 죽일 위험이 있는 행동들과 대조됩니다.

2. 알림 의무 (다중 대행자 시나리오):

   • 알레르기가 있는 환자를 둔 두 명의 대행자 (앨리스와 베서니) 와 관련된 복잡한 시나리오가 모델링됩니다.
   • 이 논리는 정보의 비대칭성을 포착합니다: 베서니는 환자가 알레르기가 있음을 알지만, 앨리스는 모릅니다.
   • DAML 은 베서니가 앨리스에게 알릴 의무가 있음을 ($O_b(\delta_b | \dots)$) 유도합니다. 왜냐하면 앨리스가 알레르기를 안다는 조건 하에서, 앨리스는 안전한 약을 투여할 의무가 있기 때문입니다. 이 프레임워크는 가상의 행동과 정보 업데이트의 연쇄를 통해 추론하여 정보 보유 대행자의 규범적 요구 사항을 결정합니다.

중요성과 주장

본 논문은 DAML 이 지식적 불확실성 하에서 운영되는 규범 지배적 다중 대행자 시스템에서 행동 선택을 위한 원칙적 프레임워크를 제공한다고 주장합니다. 그 중요성은 다음과 같습니다:

• 통합된 추론: 대행자들이 불확실성의 감소와 결과의 규범적 바람직함을 모두 고려하여 실행 전에 대안적 행동들의 결과를 평가할 수 있게 합니다.
• 중간 사례 처리: 이 프레임워크는 정보가 불완전하고 단일 기준 (확실성 또는 결과) 이 완전히 최적화되지 않은 경우의 추론을 지원합니다. 이는 실제 세계 의사결정의 일반적인 특징입니다.
• 기초적 기여: 도덕적 논리를 AML 의 동적 기계에 기초시킴으로써, 이 논문은 대행자들이 세계의 전체 상태를 알지 못하면서도 규범적 제약을 준수해야 할 때 어떻게 행동해야 하는지를 형식화하는 강력한 방법을 제시합니다.

저자들은 현재 작업이 접근 가능한 세계들에 대한 균일한 확률과 객관적 바람직함 값을 가정한다는 점을 언급하며 겸손한 범위를 유지합니다. 향후 작업은 비결정적 선택과 상충하는 의무를 처리하기 위해 명시적 확률 측정, 등급화된 믿음 연산자, 그리고 더 복잡한 행동 언어를 포함하는 것을 제안합니다.