A Contractualist Argumentation Framework for Moral Decision-Making

기술 요약: 도덕적 의사결정을 위한 계약주의적 논증 프레임워크

문제 정의
공유된 환경(예: 스마트 가전이나 사회적 로봇이 있는 가정 환경)에서 작동하는 자율 에이전트는 잠재적으로 상충하는 이해관계를 가진 여러 개인에게 영향을 미치는 결정을 내려야 하는 과제에 직면한다. 대규모 언어 모델(LLM)은 지각적 입력을 통해 사회적 맥락을 추론할 수 있지만, 이를 형식적으로 구조화할 원칙적인 규범적 프레임워크는 부족한 실정이다. 기존의 접근 방식들은 에이전트가 개별적 자율성과 대인 관계적 도덕성을 존중하는 원칙에 기반하여 모든 관련 당사자에게 자신의 행동을 정당화할 수 있는 메커니즘을 제공하는 데 실패하는 경우가 많다. 핵심 문제는 의사결정의 정당성이 단순히 결과에 달려 있는 것이 아니라, 가상 협상을 통한 과정을 통해 모든 영향을 받는 당사자에게 정당화될 수 있는지 여부에 달려 있도록 도덕적 의사결정을 어떻게 구현할 것인가 하는 점이다.

방법론
저자들은 토마스 스캔론(Thomas Scanlon)의 **계약주의(contractualism)**에 기초한 공식 프레임워크를 제안한다. 계약주의는 어떤 행동이 영향을 받는 어느 누구도도 합리적으로 거부할 수 없는 원칙에 의해 정당화될 수 있다면 허용 가능하다는 윤리 이론이다. 이를 계산 가능하게 구현하기 위해, 이 프레임워크는 세 가지 주요 구성 요소를 통합한다:

1. 계약주의적 원칙: 이 프레임워크는 스캔론의 도덕적 이유에 대한 제약 조건을 채택한다. 즉, 도덕적 이유는 개인적(individual interests와 관련됨), 개별적(총체적 복지가 아닌 구체적인 영향에 근거함), 그리고 일반적(유사한 위치에 있는 누구에게나 적용 가능함)이어야 한다. 의사결정 과정은 에이전트가 서로 다른 관점 간의 이유를 비교함으로써 협상을 시뮬레이션하는 "가상 협상(Virtual Bargaining)"으로 모델링된다.
2. ASPIC+ 논증: 저자들은 이유를 표현하고 평가하기 위해 구조화된 논증 프레임워크인 **ASPIC+**를 활용한다. 논증은 공리(반박 불가능한 사실)와 일반 전제(반박 가능한 사실)를 포함하는 지식 베이스로부터 구축된다. 갈등은 공격(약화, 반박, 무력화)과 선호 순위를 통해 해결된다.
3. 가치 기반 필터링(Value-Based Filtering, VBF): 이유의 관련성을 보장하기 위해, 프레임워크는 에이전트의 가치 프로필에 따라 전제를 포함할지 결정하는 가치 기반 추론 프레임워크를 사용한다.
   • ValProp: 특정 가치를 얼마나 증진하거나 위반하는지에 대한 가중치를 할당한다.
   • ValLimit: 특정 가치에 대한 에이전트의 허용 임계값을 설정한다.
   • 필터링: 어떤 명제가 에이전트의 한계치 이상의 가중치를 충족하거나 초과하는 경우에만 논증 과정에 포함된다. 이는 "도덕적으로 유의미한" 이유(즉, 에이전트가 합리적으로 제기할 만한 이유)만이 토론에 들어오도록 보장한다.

프레임워크 구축 (계약주의적 논증 이론 - CAT)
저자들은 계약주의와의 호환성을 보장하기 위해 논증 이론(AT)에 대한 구체적인 구조를 정의한다:

• 단일 공유 AT: 각 에이전트를 위한 별도의 주관적 이론을 생성하는 표준 VBF와 달리, 이 프레임워크는 모든 에이전트의 필터링된 도덕적 이유를 포함하는 단일 AT를 구축한다.
• 논증 구조: 논증은 행동($a$)에 찬성하거나 반대($\neg a$)하는 결론을 내리도록 구축된다. 결정적으로, 각 논증은 적어도 하나의 도덕적 이유(필터링된 명제-가치 쌍, $p_v(\alpha)$)를 포함해야 하며, 행동 판결로 결론지어야 한다.
• 사실과 도덕의 분리: 사실적 전제(공리)는 도덕적 전제와 명확히 구분된다. 공리는 구조적 조건(예: "에이전트 X는 소유자이다")을 확립하며, 도덕적 전제는 이의의 무게(예: "사생활 침해")를 전달한다.
• 갈등 해결: 갈등은 $a$와 $\neg a$로 결론짓는 논증 사이의 **반박 공격(rebutting attacks)**으로 발생한다. 프레임워크는 선호 순위를 위해 **최종 연결 엘리트 원칙(last-link elitist principle)**을 사용한다. 각 논증은 단 하나의 도덕적 이유만을 포함하므로(계약주의가 금지하는 이유의 합산을 피하기 위해), 논증의 강도는 오직 그 단일한 도덕적 이유의 가중치($ValProp$)에 의해 결정된다. 더 높은 가중치를 가진 논증이 낮은 가중치의 논증을 물리친다.

예시
논문은 가정 내 시나리오를 통해 프레임워크를 시연한다: 에이전트는 인물 $\alpha$가 몰래 담배를 피웠다는 것을 알고 있으며, 파트너인 $\beta$가 정보를 요구한다. 에이전트는 정보를 공개할지($a$) 아니면 공개하지 않을지($\neg a$) 결정해야 한다.

• 에이전트 $\alpha$: 사생활을 매우 중요하게 여긴다. "정보 공개"는 사생활을 위반하며 높은 가중치(3)를 갖는다. 이에 따라 $\neg a$로 결론짓는 논증이 구축된다.
• 에이전트 $\beta$: 자율성을 중시한다. 정보의 은폐는 자율성을 위반하지만, 이 특정 설정에서는 더 낮은 가중치(2)를 갖는다. 이에 따라 $a$로 결론짓는 논증이 구축된다.
• 결과: 프레임워크는 가중치를 비교한다. $\alpha$의 사생활 침해 이의(3)가 $\beta$의 자율성 이의(2)보다 크기 때문에, $\neg a$에 대한 논증이 $a$에 대한 논증을 물리친다. 시스템은 정보를 공개하지 않기로 결론 내린다.

주요 기여

• 계약주의의 형식화: 본 논문은 스캔론의 계약주의를 구조화된 논증을 사용하여 계산 가능한 형식으로 제공함으로써, 이론적 논의를 넘어 절차적 모델로 발전시킨다.
• 가치 기반 추론 구축: 가치가 이미 구축된 논증 간의 갈등을 해결하는 데만 사용되는 기존 방식과 달리, 이 프레임워크는 가치를 사용하여 논증 자체를 필터링하고 구축한다. 이는 에이전트가 진정으로 보유한 이유만을 제시하도록 보장하며, 이는 계약주의의 요구사항인 개인적 정당성과 일치한다.
• 가상 협상의 구현: 이 프레임워크는 에이전트들의 주관적 이유가 공유된 프레임워크 내에서 직접 상호작용하도록 함으로써 "가상 협상"을 구현하며, 여기서 패배 관계(defeat relation)는 어떤 이의가 "합리적으로 거부 가능한지"를 결정한다.
• 이전 연구와의 차별점: 저자들은 격자 기반 모델을 사용하는 Wyner와 Zurek의 방식과 자신들의 방식을 구분한다. Wyner와 Zurek이 가치를 희생하여 명제적 합의에 도달하는 데 집중한다면, 본 프레임워크는 거부할 수 없는 이유를 바탕으로 행동을 정당화하는 데 집중하며, 가치를 암묵적인 필터가 아닌 명시적인 논증의 구성 요소로 만든다.

결과 및 의의
본 논문은 경험적 실험 결과나 대규모 시뮬레이션을 제시하지 않는다. 대신, 그 "결과"는 다음과 같은 논리적 프레임워크의 성공적인 구축이다:

1. 사실적 추론과 도덕적 평가를 분리한다.
2. 이유의 합산(공리주의)을 방지하고 이의가 개별적 관점에 근거하도록 함으로써 개인의 자율성을 존중한다.
3. 합산되지 않은 가치 기반 이의의 상대적 강도에 의해 "승자"가 결정되는 투명한 도덕적 의사결정 메커니즘을 제공한다.

의의 및 한계
저자들은 이 프레임워크가 사회적 로봇을 위한 윤리적으로 정렬된 AI 개발에 있어 중요하다고 주장하는데, 이는 인간이 공리주의나 의무론적 접근보다 계약주의적 추론을 사용하는 에이전트를 신뢰하는 경향을 반영하기 때문이다. 또한, 엄격한 규범보다는 가치에 의존함으로써 이전의 시도들보다 더 유연한 구현을 제공한다.

그러나 논문은 현재의 범위와 한계에 대해 겸허한 태도를 보인다:

• 단판 승부형 판결: 현재 모델은 단일 결정을 생성하며, 실제 현실의 가상 협상에서 나타나는 반복적인 다회차 대화를 모델링하지 않는다.
• 정적인 선호도: 프레임워크는 미리 정의된 가치 가중치에 의존한다. 현재로서는 에이전트가 결과를 통제하기 위해 선호도를 조작하거나 문맥으로부터 동적으로 가치를 학습하는 모델을 다루지 않는다.
• 계산 복잡도: 저자들은 일반적인 경우 ASPIC+에서의 추론이 계산적으로 어렵다는 점을 인정하며, LLM을 통해 논증을 인스턴스화하는 것에 대한 복잡성 분석을 위한 향후 연구가 필요함을 밝힌다.
• 가치의 범위: 프레임워크는 새로운 가치를 발견할 수 없다. 그 범위는 제공된 가치 온톨로지에 의해 제한된다.

요약하자면, 본 논문은 고수준의 윤리 이론(스캔론의 계약주의)과 저수준의 계산적 추론(ASPIC+) 사이의 간극을 메우는 도덕적 의사결정을 위한 이론적, 형식적 아키텍처를 제시하며, 에이전트가 개별적이고 가치에 기반한 이유를 비교하여 행동을 정당화할 수 있는 구조화된 경로를 제공한다.