[기술 요약] Axiomatic Choice (공리적 선택)

1. 문제 정의 (Problem Statement)

기존의 **사회적 선택 이론(Social Choice Theory)**은 주로 다수 에이전트의 선호도를 집계하여 최적의 '결과(Outcome)'를 도출하는 데 집중해 왔습니다. 그러나 현실의 의사결정 과정에서 인간은 결과뿐만 아니라 **'의사결정이 어떻게 이루어졌는가(Process)'**라는 규범적 가치(윤리적 제약, 투명성, 절차적 공정성 등)를 매우 중요하게 여깁니다.

기존 프레임워크는 다음과 같은 한계를 가집니다:

• 규범적 표현의 한계: 결과에 대한 선호뿐만 아니라, 의사결정 규칙(Rule)이나 절차에 대한 복잡한 규범적 요구사항을 정식화하기 어려움.
• 평가와 실행의 괴리: 특정 공리(Axiom)를 만족시키기 위해 규칙을 설계하더라도, 그 규칙을 통해 실제로 내린 결정이 해당 공리를 준수한다는 보장이 없음.
• 투명성 및 기만 문제: 의사결정 과정을 설명하거나 정당화할 때, 에이전트가 가진 규범적 기준에 따라 정보의 투명성이 달라지며, 의도치 않게 혹은 의도적으로 기만적인 설명이 제공될 위험이 있음.

2. 방법론 (Methodology)

본 논문은 사회적 선택 이론을 상위 수준에서 추상화한 '공리적 선택(Axiomatic Choice)' 프레임워크를 제안합니다.

2.1 수학적 모델링

• 구성 요소:
  • $X$ (Profile): 입력 데이터 또는 상황의 집합.
  • $Y$ (Outcome): 가능한 결과의 집합.
  • $F$ (Rule): $X$에서 $Y$로 가는 모든 결정론적 함수 $f: X \to Y$의 집합.
  • $D$ (Decision): 결정의 집합으로, 튜플 $(x, f, y)$로 정의됨 (단, $f(x)=y$여야 함).
• 공리(Axiom)의 정의: 결정 집합 $D$를 '공리를 준수하는 결정(1)'과 '위반하는 결정(0)'으로 분할하는 함수 $A: D \to \{0, 1\}$로 정의합니다.

2.2 공리 분류 체계 (Taxonomy)

공리가 결정의 어떤 구성 요소에 의존하느냐에 따라 7가지 클래스로 분류합니다:

1. Structural (구조적): 프로필($x$)의 특성에 의존.
2. Procedural (절차적): 규칙($f$)의 특성에 의존 (예: 전략적 불변성).
3. Consequentialist (결과주의적): 결과($y$)의 특성에 의존.
4. Blackbox (블랙박스): 프로필-결과 쌍 $(x, y)$에만 의존.
5. Caudal (인과적): 규칙과 결과 $(f, y)$에 의존.
6. Trivial (자명한): 모든 결정을 허용하거나 모두 거부.
7. Exigent (긴급/기타): 위 분류에 속하지 않는 복잡한 형태.

3. 주요 기여 및 결과 (Key Contributions & Results)

3.1 의사결정-평가 역설 (Decision-Evaluation Paradox)

본 논문의 가장 핵심적인 이론적 발견입니다.

• 정의: 어떤 공리를 강제하는 규칙(Implied Rule)을 사용하여 결정을 내리더라도, 그 결정이 해당 공리를 준수한다는 보장이 없다는 역설입니다.
• 발생 조건: 이 역설은 공리가 Caudal 또는 Exigent 클래스에 속할 때, 그리고 해당 공리가 Arrovian Impossibility(모든 프로필에 대해 공리를 만족하는 규칙이 존재하지 않는 상태)일 때 발생합니다.
• 의미: "공리를 따르는 규칙을 사용했다"는 말이 "공리를 준수하는 결정을 내렸다"는 것을 의미하지 않음을 수학적으로 증명했습니다.

3.2 투명성과 기만 (Transparency and Deception)

• 투명성: 에이전트가 자신의 공리 $A$를 준수하는지 판단하기 위해 필요한 정보의 양을 정의합니다.
• 기만: 에이전트에게 실제 규칙 $f$가 아닌 다른 규칙 $f'$가 사용되었다고 말함으로써, 에이전트의 규범적 기준을 통과하는 것처럼 보이게 하는 행위를 정식화했습니다. 특히, **반사실적 기만(Counterfactual Deception)**이 의사결정-평가 역설로 인해 발생할 수 있음을 지적했습니다.

3.3 Intraprofile 공리의 재정의

기존 문헌에서 모호하게 다루어졌던 'Intraprofile(프로필 내) 공리'를 블랙박스 공리와의 관계를 통해 도메인 불가지론적(Domain-agnostic)이고 명확한 수학적 정의로 재정립했습니다. 또한, Intraprofile 공리라 할지라도 '공리 투표(Voting by Axioms)' 방식에서는 역설을 피할 수 없음을 증명했습니다.

4. 의의 (Significance)

1. AI 정렬(Alignment) 연구에 기여: RLHF(인간 피드백을 통한 강화학습)와 같이 인간의 복잡한 가치를 모델에 반영해야 하는 분야에서, 단순한 결과 선호도를 넘어 절차적/규범적 가치를 정식화할 수 있는 이론적 토대를 제공합니다.
2. 의사결정 시스템의 한계 규명: 공리 기반의 의사결정 알고리즘(예: Voting by Axioms)이 가질 수 있는 근본적인 취약점(역설 및 기만 가능성)을 밝혀냄으로써, 더 견고하고 투명한 시스템 설계의 필요성을 역설합니다.
3. 범용적 프레임워크: 특정 도메인에 국한되지 않고 정치적 의사결정, AI 윤리, 법적 판단 등 다양한 분야에 적용 가능한 일반화된 모델을 제시했습니다.