Choosing with unknown causal information: Action-outcome probabilities for decision making can be grounded in causal models

다음은 Mauricio Gonzalez Soto 외의 논문 "Choosing with unknown causal information: Action-outcome probabilities for decision making can be grounded in causal models"에 대한 상세한 기술적 요약입니다.

1. 문제 제기

이 논문은 의사결정 이론에서 행동 - 결과 확률의 기원과 관련된 근본적인 격차를 다룹니다.

• 배경: 고전적 의사결정 이론 (von Neumann-Morgenstern 및 Savage) 은 합리적 선택을 위한 형식적 기준인 **기대 효용 극대화 (MEU)**를 제공합니다. 그러나 이러한 프레임워크는 확률의 출처를 명시하지 않은 채 연관적 (확률론적) 정보에 의존합니다.
• 격차: 인간은 자연스럽게 인과적으로 추론합니다 (사건을 관찰하는 것과 개입하여 원인을 만드는 것을 구분함). 하지만 표준 의사결정 이론은 종종 확률을 순수한 통계적 연관으로만 취급합니다.
• 과제:
  1. 인과 정보가 알려져 있을 때 의사결정을 어떻게 형식화할 것인가 (이미 Judea Pearl 에 의해 해결됨).
  2. 합리적 에이전트에게 환경을 통제하는 인과 메커니즘이 알려지지 않았을 때 의사결정을 어떻게 형식화할 것인가.
  3. 특히 불완전한 인과 지식의 경우, MEU 에 필요한 확률을 단순한 관찰 데이터가 아닌 인과 모델에 기반하여 어떻게 정립할 것인가.

2. 방법론 및 이론적 프레임워크

저자들은 고전적 의사결정 이론과 인과 추론 (특히 Pearl 의 인과 그래프 모델) 사이를 연결하는 다리를 구축합니다.

A. 기본 정의

• 인과 환경: 인과 그래프 모델 (CGM) $G$가 부가된 불확실한 환경 $(\Omega, A, C, E)$로 정의됩니다. CGM 은 행동 ($A$) 과 결과 ($C$) 사이의 인과 관계뿐만 아니라 다른 환경 변수들 사이의 인과 관계를 인코딩합니다.
• 개입 ($do(\cdot)$): 인과 모델과 연관 모델을 구분하는 핵심 메커니즘입니다. 행동 $a$는 개입 $do(a)$로 모델링되며, 이는 변수의 값을 고정하고 그래프에서 해당 노드로 들어오는 간선을 제거함으로써 변수들의 결합 분포를 수정합니다.
• 인과 의사결정 문제 (CDP): 의사결정자가 인과 모델을 기반으로 효용을 극대화하기 위해 행동을 선택하는 튜플 $(\Omega, A, G, E, C, \succeq)$입니다.

B. 이론적 접근

논문은 두 가지 주요 이론적 단계를 거칩니다:

1. 알려진 인과 정보에 대한 검토: 알려진 인과 모델 $G$를 가진 합리적 에이전트가 $\sum P_G(c | do(a))u(c)$를 극대화하는 행동 $a^*$을 선택한다는 Pearl(2009) 의 결과를 인정합니다.
2. 알려지지 않은 인과 정보로의 확장: 핵심 방법론적 기여는 에이전트가 진정한 인과 모델 $G$를 알지 못하는 시나리오로 이를 확장하는 것입니다.
   • 가설: 알려지지 않은 인과 구조를 가진 합리적 에이전트는 가능한 인과 구조들의 집합 ($\mathcal{F}$) 에 대해 주관적 신념을 가집니다.
   • 메커니즘: 에이전트는 가능한 각 인과 구조 $g \in \mathcal{F}$를 잠재적 진실로 간주하고, 해당 구조 내에서 $do$-연산자를 사용하여 기대 효용을 계산한 다음, 에이전트가 각 구조에 부여하는 확률로 가중치를 두어 이러한 효용들을 집계합니다.

3. 주요 기여

A. 정리 4.2: 알려지지 않은 인과 모델을 가진 의사결정

논문의 주요 이론적 기여는 알려지지 않은 인과 정보 하의 합리적 의사결정에 대한 표현 정리를 제공하는 정리 4.2입니다.

• 진술: 유계이고 유한한 인과 의사결정 문제에서 행동에 대한 선호 관계 $\succeq$는 다음이 존재할 때만 합리적입니다:

  1. 효용 함수 $u: C \to \mathbb{R}$.
  2. 비어 있지 않은 인과 그래프 모델의 집합 $\mathcal{F}$에 대한 확률 분포 $P_C$.

• 의사결정 규칙: 에이전트는 다음 조건을 만족할 때만 행동 $a$를 $b$보다 선호합니다:
  $$\sum_{c \in C} u(c) \left( \sum_{g \in \mathcal{F}} P_g(c | do(a)) P_C(g) \right) \geq \sum_{c \in C} u(c) \left( \sum_{g \in \mathcal{F}} P_g(c | do(b)) P_C(g) \right)$$
  여기서:

  • $P_C(g)$는 에이전트가 인과 구조 $g$가 진정한 모델이라고 믿는 주관적 확률입니다.
  • $P_g(c | do(a))$는 특정 인과 모델 $g$ 내에서 개입 $do(a)$가 주어졌을 때 결과$c$의 확률입니다.

• 의의: 이는 구체적인 인과 메커니즘이 알려지지 않더라도 행동 - 결과 확률을 인과 모델에 기반할 수 있음을 증명합니다. 기대 효용 계산에 사용되는 "확률"은 인과 구조에 대한 혼합 분포입니다.

B. 인과 내쉬 균형의 정의

저자들은 정리 4.2 를 게임 이론에 적용하여 **인과 내쉬 균형 (Causal Nash Equilibrium)**을 정의합니다.

• 배경: 베이지안 전략 게임에서 플레이어들은 환경을 지배하는 진정한 인과 모델 $\omega$에 대한 불완전한 정보를 가집니다.
• 정의: 행동 프로필 $a^*$이 인과 내쉬 균형이 되려면, 다른 플레이어들의 행동과 인과 구조에 대한 신념이 주어졌을 때, 어떤 플레이어 $i$도 자신의 행동을 단독으로 변경함으로써 인과 기대 효용 ($u^C_i$) 을 개선할 수 없어야 합니다.
• 공식:
  $$u^C_i(a) = \sum_{c \in C} u_i(c) \sum_{\omega \in \Omega} P^\omega_i(c | do(a_i), a_{-i}) P_i(\omega)$$
  이 공식은 명시적으로 $do$-연산자를 포함하여, 조건부 확률$P(c | a_i, a_{-i})$에 의존하는 표준 내쉬 균형과 구별됩니다.

4. 결과

1. 형식적 정립: 논문은 기대 효용 원리에 필요한 확률이 인과 모델에서 유도될 수 있음을 성공적으로 입증하여 이러한 확률의 "기원"에 대한 논쟁을 해결했습니다.
2. 일반화: 이 결과는 알려진 인과 모델 기준을 더 현실적인 알려지지 않은 인과 메커니즘 시나리오로 일반화합니다.
3. 계산적 구현 가능성: 이 프레임워크는 계산적으로 구현 가능한 기준을 제공합니다. 에이전트는 인과 구조에 대한 분포를 학습할 수 있습니다 (예: 구조 학습 알고리즘을 통해) 그리고 유도된 공식을 사용하여 최적의 의사결정을 내릴 수 있습니다.
4. 게임 이론적 확장: 논문은 표준 게임 이론 개념인 내쉬 균형이 인과적으로 추론하는 에이전트가 존재하는 환경으로 엄밀하게 확장될 수 있음을 확립합니다.

5. 의의 및 함의

• AI 와 철학의 연결: 이 연구는 인과 의사결정 이론 (CDT) 과 증거적 의사결정 이론 (EDT) 사이의 철학적 논쟁을 실용적인 머신러닝 및 AI 의사결정과 연결합니다. 에이전트가 왜 인과적 추론을 사용해야 하는지에 대한 수학적 정당성을 제공합니다.
• 분포 변화에 대한 강건성: 상관관계가 아닌 인과 메커니즘 (개입) 에 기반하여 의사결정을 정립함으로써, 이 프레임워크는 순수 연관 모델이 실패할 환경 변화 (분포 변화) 에 대해 이론적으로 더 강건합니다.
• 인간 중심 AI: 인간은 자연스럽게 인과적 추론을 사용하며 (순수 확률적 정보보다 인과적 설명을 선호하는 경향이 있음), 이 프레임워크는 합리적 AI 에이전트를 설계하기 위한 더 "인간 친화적"인 기반을 제공합니다.
• 전략적 상호작용: 인과 내쉬 균형의 도입은 경제학 및 다중 에이전트 시스템에서 근본적인 인과 역학이 불확실한 전략적 상호작용을 분석하는 새로운 길을 엽니다.

결론

이 논문은 불확실성 하의 합리적 의사결정은 근본적으로 인과적 과정이라고 주장합니다. 기대 효용 원리를 인과 모델에 대한 분포를 포함하도록 확장함으로써, 저자들은 인과 메커니즘이 알려지지 않은 상황에서도 의사결정을 위한 엄밀한 수학적 기초를 제공하며, 행동 - 결과 확률이 단순한 통계적 연관성이 아닌 환경의 구조적 현실에 기반하도록 보장합니다.