Orthogonal machine learning for conditional odds and risk ratios

1. 연구 배경 및 문제 제기 (Problem)

• 배경: 임상 및 역학 연구에서 치료 효과의 이질성 (heterogeneity) 을 이해하고 특정 집단을 대상으로 한 맞춤형 개입을 설계하기 위해 **조건부 치료 효과 (Conditional Treatment Effects)**가 널리 사용됩니다.
• 현재의 한계:
  • 기존의 조건부 평균 치료 효과 (CATE, Conditional Average Treatment Effect) 추정 방법은 이중 강건성 (Doubly Robust, DR) 및 **직교성 (Orthogonality)**을 기반으로 한 최신 기계학습 방법 (DR-learner, R-learner 등) 을 통해 잘 정립되어 있습니다.
  • 그러나 **조건부 오즈비 (Conditional Odds Ratio, OR)**와 **조건부 위험비 (Conditional Risk Ratio, RR)**와 같은 비율 기반 (ratio-based) 파라미터에 대해서는 이러한 고급 추정 방법이 체계적으로 일반화되지 않았습니다.
  • 전통적인 로지스틱 회귀와 같은 단순한 모수적 (parametric) 모델은 모델 오설 (misspecification) 시 편향을 유발하며, 비모수적 접근법의 필요성이 대두되고 있습니다.
• 핵심 문제: OR 및 RR 에 대해 DR-learner 나 R-learner 와 같은 직교 기계학습 기법을 적용할 수 있는 효율적 영향 함수 (Efficient Influence Function, EIF) 기반의 **의사-결과 (pseudo-outcome)**를 어떻게 정의하고, 이를 통해 편향을 줄이면서 분산을 통제할 수 있는지에 대한 이론적 및 실증적 공백이 존재했습니다.

2. 제안된 방법론 (Methodology)

저자들은 OR 및 RR 추정을 위해 **직교 의사-결과 (Orthogonal Pseudo-outcomes)**를 도출하고, 이를 DR-learner 및 R-learner 프레임워크에 통합하는 새로운 추정량을 제안했습니다.

A. 이론적 기반: 효율적 영향 함수 (EIF) 기반 의사-결과

• 직교성 (Neyman Orthogonality): 추정량의 1 단계 교란 변수 (nuisance parameters, 즉 결과 회귀 및 성향 점수) 의 오차가 2 차 항 (second-order) 으로만 남도록 설계하여, 1 단계 추정의 불완전성이 최종 추정에 미치는 영향을 최소화합니다.
• 새로운 의사-결과 정의:
  • 기존 CATE 의 EIF 를 기반으로 한 의사-결과와 유사하게, 조건부 OR와 RR(그리고 그 로그 변환인 $\log OR$, $\log RR$) 에 대한 EIF 를 유도했습니다.
  • 예시 (OR 의 경우):
    $$\varphi_{OR}(Z; \eta) = OR_\eta(X) + \frac{OR_\eta(X)}{q_1(X)(1-q_1(X))} \frac{I(T=1)}{\pi(X)}\{Y-q_1(X)\} - \frac{OR_\eta(X)}{q_0(X)(1-q_0(X))} \frac{I(T=0)}{1-\pi(X)}\{Y-q_0(X)\}$$
    여기서 $\eta=(q_1, q_0, \pi)$는 교란 변수 (결과 확률 및 성향 점수) 를 나타냅니다.
• 2 차 잔차 속성 (Second-order Remainder Property): 유도된 의사-결과 $\varphi$의 조건부 기댓값은 목표 파라미터 $\theta(X)$와 2 차 잔차항 $R(X; \eta)$의 합으로 표현됩니다. 즉, $E[\varphi | X] = \theta(X) + O(\|\eta - \eta_0\|^2)$를 만족하여, 교란 변수 추정의 오차가 빠르게 감소함을 보장합니다.

B. 제안된 추정량 (Estimators)

1. DR-Learner 변형 (DR-OR, DR-LOR, DR-RR, DR-LRR):
   • 1 단계: SuperLearner 등을 사용하여 교란 변수 ($p_1, p_0, e$) 를 추정합니다.
   • 2 단계: 교차 적합 (cross-fitting) 을 통해 계산된 의사-결과를 종속 변수로 하고, 공변량 $X$를 독립 변수로 하여 회귀 모델을 적합합니다.
   • DR-LOR/DR-LRR: 로그 변환된 OR/RR 을 직접 추정하여 로그 스케일에서의 편향을 줄이고 분산을 안정화합니다.
2. R-Learner 변형 (R-OR, R-LOR, R-RR, R-LRR):
   • DR-Learner 와 동일한 의사-결과를 사용하지만, 2 단계 손실 함수 (loss function) 에 **성향 점수 중첩 가중치 (propensity-overlap weights, $w(X) = e(X)(1-e(X))$)**를 적용합니다.
   • 이는 가중 직교 학습 (weighted orthogonal learning) 프레임워크에 부합합니다.

3. 주요 기여 (Key Contributions)

1. 이론적 확장: CATE 에만 국한되었던 DR-learner 및 R-learner 프레임워크를 **비율 기반 파라미터 (OR, RR)**로 성공적으로 확장했습니다.
2. 새로운 추정량 개발: EIF 에서 유도된 직교 의사-결과를 기반으로 한 DR-OR, DR-LOR, DR-RR, DR-LRR 및 R-learner 변형 추정량을 제안했습니다.
3. 이론적 증명: 제안된 의사-결과가 2 차 잔차 속성을 만족하며, 이에 기반한 손실 함수가 Neyman 직교성을 가짐을 증명했습니다. 이는 교란 변수 추정의 오차가 목표 파라미터 추정에 2 차 항으로만 영향을 미친다는 것을 의미합니다.
4. 광범위한 시뮬레이션 연구: Rudolph et al. (2023) 의 접근법을 차용하여, 수백 가지의 무작위 생성된 데이터 생성 과정 (DGP) 에서 로지스틱 회귀 (LR), T-learner, S-learner (SuperLearner), DR-learner, R-learner를 비교 평가했습니다.

4. 실험 결과 (Results)

수백 가지 시나리오 (표본 크기 $n=200 \sim 2000$, 상호작용 차수 1~3, 치료 효과 이질성 수준 High/Low) 에 대한 몬테카를로 시뮬레이션 결과는 다음과 같은 통찰을 제공합니다.

• 복잡하고 데이터가 풍부한 환경 (High HTE, Large $n$):
  • **DR-learner (특히 로그 스케일인 DR-LOR/DR-LRR)**가 로지스틱 회귀 (LR) 및 단순한 S/T-learner 보다 평균 제곱 오차 (iMSE) 측면에서 현저히 우수한 성능을 보였습니다.
  • DR-learner 는 편향 (bias) 을 크게 줄이는 동시에 분산 (variance) 을 적절히 통제하여 전체적인 오차를 최소화했습니다.
  • 반면, R-learner는 가중치 적용으로 인해 분산이 과도하게 커지는 경향이 있어 복잡한 환경에서도 성능이 떨어졌습니다.
• 단순하거나 데이터가 부족한 환경 (Low HTE, Small $n$):
  • **SuperLearner (SL)**나 **로지스틱 회귀 (LR)**가 DR-learner 보다 더 낮은 iMSE 를 보였습니다.
  • 데이터가 적을 때 복잡한 직교 추정량은 높은 분산을 유발하여 편향 감소의 이점을 상쇄합니다.
• 비교 분석:
  • DR-P (Plug-in): DR-learner 는 편향은 낮지만 분산이 큰 편이며, DR-learner 는 편향과 분산의 균형을 잘 맞추어 전체적인 오차 (MSE) 를 줄였습니다.
  • 로그 스케일 vs 원 스케일: 로그 변환된 OR/RR (DR-LOR, DR-LRR) 을 직접 추정하는 것이 원 스케일을 추정하는 것보다 일반적으로 더 안정적이고 성능이 좋았습니다.

5. 실증 적용 (Illustrative Application)

• 데이터: 미국 국가 건강 및 영양 검사 조사 (NHANES) 데이터를 활용하여 신체 활동이 수면 장애에 미치는 영향을 분석했습니다.
• 결과:
  • 전통적인 로지스틱 회귀는 모든 개인에게 동일한 치료 효과 (상수 오즈비) 를 가정하여 이질성을 포착하지 못했습니다.
  • 반면, 제안된 DR-LOR 및 SL 기반 추정량은 신체 활동과 수면 장애 간의 관계가 인구통계학적, 사회경제적 특성에 따라 크게 달라짐을 발견했습니다.
  • 치료 규칙 (Treatment Rule): DR-LOR 기반의 치료 규칙은 모든 성인을 대상으로 하는 규칙보다 수면 장애 발생률을 더 크게 감소시키는 것으로 나타났습니다. 이는 데이터 적응형 (data-adaptive) 방법이 정밀 의료 (precision health) 연구에서 치료 결정 규칙을 개선하는 데 필수적임을 보여줍니다.

6. 의의 및 결론 (Significance)

• 정밀 의료의 발전: OR 및 RR 과 같은 비율 기반 척도는 임상적으로 해석이 용이하며, 특히 선택 편향이 있는 연구 (예: 사례 - 대조군 연구) 에서도 식별 가능한 경우가 많습니다. 본 연구는 이러한 척도들에 대해 **비모수적 (nonparametric)**이고 강건한 (robust) 추정 방법을 제공함으로써, 치료 효과 이질성을 정확히 파악하고 맞춤형 치료를 설계하는 데 기여합니다.
• 실무 가이드라인:
  • 복잡한 환경: DR-learner (특히 로그 스케일) 또는 SuperLearner 사용 권장.
  • 단순/데이터 부족 환경: SuperLearner 또는 로지스틱 회귀 사용 권장.
  • R-learner: 높은 분산으로 인해 현재 제안된 설정에서는 비추천.
• 향후 연구: 본 연구는 이진 결과 (binary outcome) 에 초점을 맞추었으나, 연속형 또는 생존 분석 결과로의 확장은 향후 중요한 연구 방향입니다.

요약하자면, 이 논문은 조건부 오즈비와 위험비 추정을 위한 직교 기계학습의 이론적 기반을 마련하고, 이를 통해 기존 방법론의 한계를 극복하며 정밀 의료를 위한 더 나은 치료 결정 규칙을 도출할 수 있음을 실증적으로 입증했습니다.