기술 요약: 범주형 처치를 포함한 개별화된 처치 규칙을 위한 부분 식별 학습

1. 문제 정의

본 논문은 **미측정 혼란 변수(unmeasured confounding)**가 존재하는 상황에서, 처치(treatment), 결과(outcome), 그리고 도구 변수(instrumental variables, IVs)가 **범주형(다중 클래스)**인 경우의 개별화된 처치 규칙(Individualized Treatment Rules, ITRs) 학습 문제를 다룬다.

표준적인 ITR 최적화는 "미측정 혼란 없음" 가정을 기반으로 조건부 잠재 결과의 기대값인 $\mu_a(x) = E[Y(a) | X=x]$를 점 식별(point-identify)하는 데 의존한다. 이러한 가정이 위반될 경우(예: 임상 시험에서의 불이행 또는 관측 연구에서의 미관측 요인), 표준 추정량은 편향될 수 있다. **도구 변수(IV)**를 활용하면 이를 완화할 수 있으로, 그러나 전통적인 IV 접근 방식은 종종 검증이 어렵거나 타당하지 않을 수 있는 강력한 구조적 가정(예: 단조성)을 요구한다.

Pu와 Zhang [24] 등이 제시한 기존의 ITR 부분 식별 방법들은 주로 이진 처치(binary treatment) 설정에 국한되어 있다. 본 논문은 이러한 견고한 부분 식별 프레임워크를 다중 범주형 처치(예: 여러 약물 또는 투여량 수준 중 선택)로 확장하는 과정에서의 공백을 식별한다. 다중 범주형 처치 환경에서는 결정 공간이 본질적으로 더 복잡하며, 일반적인 'One-vs-Rest' 방식은 기하학적 불일치를 초래할 수 있다.

2. 방법론

제안된 프레임워크인 **범주형 부분 식별 학습(Categorical Partial Identification Learning)**은 세 가지 구성 요소로 이루어진다.

A. 부분 식별 경계 (Partial Identification Bounds)

$\mu_a(x)$를 점 식별하려고 시도하는 대신, 이 프레임워크는 관측된 데이터와 인과 모델(예: 유향 비순환 그래프, DAG)로부터 도출된 하한 $L_a(x)$와 상한 $U_a(x)$를 사용하여 조건부 평균의 가능한 영역을 규정한다. 이 경계는 다음을 만족한다:
$$L_a(x) \leq \mu_a(x) \leq U_a(x)$$
본 논문은 causaloptim 패키지(Sachs 등 [26])를 활용하여 범주형 처치 및 IV 하에서 일반적인 인과 구조에 대한 날카로운 기호적 경계(sharp symbolic bounds)를 도출하며, 비모수적 구조 방정식 모델(NPSEM) 제약 조건을 선형 최적화 문제로 변환한다.

B. 미니맥스 결정 기준 (Minimax Decision Criterion)

불확실성 하에서 처치를 선택하기 위해, 저자들은 오퍼튜니스트(Opportunist, Minimax) 기준을 채택한다. 최선의 시나리오를 극대화(Optimist)하거나 최악의 하한을 극대화(Pessimist)하는 대신, 목표는 알려지지 않은 최적의 처치와 비교했을 때의 **최대 가능한 손실(maximum possible loss)**을 최소화하는 것이다.

선택된 행동 $a$에 대해, 최악의 경우의 손실은 다음과 같이 정의된다:
$$L(x, a) := \max_{b \in A \setminus \{a\}} U_b(x) - L_a(x)$$
이는 행동 $a$를 선택하고 실제 최적의 행동이 $b$일 때 발생하는 최대 후회(regret)를 정량화한다. 목적은 기대 최악 손실 $R(g) = E[L(X, g(X))]$를 최소화하는 정책 $g$를 찾는 것이다.

C. 대칭적 다중 범주 임베딩 및 대리 손실 (Symmetric Multicategory Embedding and Surrogate Loss)

$\max$ 연산자의 불연속성과 이산적인 행동 공간으로 인해 경험적 최악 손실을 직접 최소화하는 것은 계산적으로 불가능하다. 이를 극복하기 위해 본 논문은 다음을 도입한다:

1. 심플렉스 임베딩(Simplex Embedding): 범주형 처치를 $\mathbb{R}^{k-1}$ 내의 정규 심플렉스 정점으로 매핑한다. 이러한 대칭적 표현은 One-vs-Rest 방식의 기하학적 중복성과 모호성을 방지한다. 정책은 공변량을 이 잠재 공간으로 매핑하는 함수 $f: \mathcal{X} \to \mathbb{R}^{k-1}$에 의해 유도되며, 처치 $a$에 대한 정점 벡터 $w_a$와 $f(x)$ 사이의 내적 $\langle w_a, f(x) \rangle$을 최대화하는 처치를 선택한다.
2. 가중 대리 위험(Weighted Surrogate Risk): 소프트맥스 가중 기법을 사용하여 미분 가능한 대리 손실을 구축한다. 대리 위험은 다음과 같이 정의된다:
   $$\hat{R}_s(f) = \frac{1}{N} \sum_{i=1}^N \sum_{a=1}^k p_a(X_i, f) \hat{L}(X_i, a) + \lambda \Omega(f)$$
   여기서 $p_a(X, f)$는 $f(X)$와 처치 벡터 $w_a$ 사이의 정렬(alignment)에 기반한 소프트맥스 가중치이다. 이를 통해 경사 하강법 기반 최적화(예: L-BFGS 또는 SGD)를 사용할 수 있게 한다.
3. 구현: 본 프레임워크는 두 가지 구현을 지원한다:
   • 커널화된 방식(Kernelized): 이론적 보장을 위해 표현 정리(Representer Theorem)를 사용하는 재생 커널 힐베르트 공간(RKHS)을 사용한다.
   • 신경망 방식(Neural Network): 대규모 데이터셋에 대한 확장성을 위해 다층 퍼셉트론(MLP)을 사용한다.

3. 주요 기여

1. 범주형 처치로의 확장: 본 논문은 부분 식별 학습을 이진 설정에서 유한한 다중 범주형 처치 설정으로 일반화하였으며, 이는 기존 문헌의 중요한 공백을 메운다.
2. 기하학적으로 일관된 임베딩: 모든 처치 옵션을 대칭적으로 다루는 심플렉스 기반 임베딩 전략을 도입하여, ITR을 위한 표준 다중 클래스 분류 확장에서 발견되는 기하학적 불일치 문제를 해결한다.
3. 미분 가능한 최적화: 매끄러운 가중 대리 위험 함수의 도출을 통해, 지시 함수 기반 손실(indicator-based losses)의 한계를 넘어 부분 식별 하에서의 ITR 학습을 위한 효율적인 경사 기반 최적화 방법을 가능하게 한다.
4. 이론적 보장: 오라클 부등식(oracle inequality)을 통해 유한 표본 수렴 속도를 제공한다. 저자들은 대리 위험을 최소화하는 것이 미니맥스 정책으로 수렴함을 증명하고, 경계 추정 오차와 학습 오차가 제어되는 조건을 확립한다.
5. 실증적 검증: 광범위한 시뮬레이션을 통해, 제안된 방법(커널 및 신경망 방식)이 미측정 혼란이 존재하는 상황에서 기존의 대안들(결과 회귀, MOML)보다 오라클 ITR에 훨씬 더 근접한 ITR을 생성함을 입증한다.

4. 실험 결과

저자들은 표본 크기, 혼란 강도, IV 강도, 그리고 처치의 수($k$)를 변화시키며 네 가지 시뮬레이션 연구를 수행하였다:

• 혼란에 대한 강건성: 미측정 혼란이 존재할 때, 표준 결과 회귀 방법(Tree, Neural)과 점 식별 방법(MOML)은 혼란 강도가 증가함에 따라 급격히 성능이 저하된다. 반면, 제안된 부분 식별 방법들은 안정적이고 우수한 성능을 유지하며 이론적 미니맥스 경계에 가깝게 유지된다.
• 도구 변수의 강도: 제안된 방법의 성능은 IV 강도와 양의 상관관계를 갖는다. 더 강력한 도구 변수는 식별 경계를 좁혀 미니맥스 정책과 오라클 정책 사이의 간극을 줄인다.
• 확장성 및 구조적 한계: 제안된 방법은 처치의 수 $k$가 도구 변수의 수준 수 $|Z|$보다 작거나 같을 때 잘 작동한다. 그러나 $k > |Z|$인 경우 성능이 급격히 저하된다. 저자들은 이를 구조적 한계로 설명한다: $|Z|$개의 수준을 가진 도구 변수는 k > |Z}인 다수의 잠재 결과를 동시에 타이트하게 경계 짓기 위해 충분히 구별되는 조건부 처치 분포를 유도할 수 없다.
• 수렴성: 혼란이 없는 경우, 제안된 방법은 미니맥스 규칙(이 특정 사례에서는 오라클보다 하위 호환임)으로 수렴하는 반면, 결과 회귀 방법은 오라클로 수렴한다. 이는 프레임워크가 미니맥스 목적을 정확히 타겟팅하고 있음을 확인시켜 준다.

5. 의의 및 주장

본 논문은 강력한 인과적 가정을 정당화할 수 없을 때, 불확실성 하에서의 의사결정을 위한 견고한 프레임워크를 제공한다고 주장한다. 부분 식별 경계와 대칭적 임베딩 전략을 활용함으로써, 미측정 혼한이 존재하는 상황에서도 다중 범주형 선택에 대한 최적의 처치 규칙을 학습할 수 있게 한다.

저자들은 프레임워크의 효과가 **경계의 정보량(informativeness of the bounds)**에 달려 있음을 강조한다. 더 강력한 도구 변수는 경계를 좁히고 성능을 높이는 반면, 약한 도구 변수나 처치의 수가 도구의 카디널리티(cardinality)를 초과하는 시나리오는 더 넓은 경계와 더 보수적인(잠재적으로 덜 정확한) 결정을 초래한다.

이 연구는 부분 식별 학습을 이진 설정을 넘어 실세계의 생물 의학 및 계량 경제학적 결정 문제의 복잡성을 해결하기 위한 기초적인 확장으로서 제시된다. 저자들은 현재의 초점이 범주형 변수에 맞춰져 있지만, 향후 연구에서 이 프레임워크가 순서형(ordinal) 또는 연속형 처치 및 결과로 확장될 수 있음을 언급한다.