기술 요약: 평균 성향(Average Propensity)을 통한 순차적 실험의 준모수적 효율성

1. 문제 정의

현대적인 실험 환경, 특히 AI 기반 서비스 및 플랫폼 개입 평가의 경우, 고전적인 독립 동일 분포(i.i.d.) 샘플링에서 벗어나는 경우가 빈번합니다. 할당은 종종 적응적(adaptive)이거나, 공변량에 대해 균형을 맞추거나, 노출 캡(exposure caps), 처치 예산, 공정성 요구 사항과 같은 운영적 제한에 의해 제약을 받습니다. 이러한 특징들은 관측치 간의 의존성을 유발하며, 이는 고전적인 i.i.d. 기반의 효율성 이론이 실험 설계의 가이드로서 불충분하게 만듭니다.

본 논문은 두 가지 핵심 질문을 다룹니다:

1. 의존적인 할당이 있는 순차적 실험에서 타겟 인과 추정량(causal estimand)을 추정하기 위한 근본적인 효율성 벤치마크는 무엇인가?
2. 구현 가능한 설계가 지연된 피드백(delayed feedback) 및 운영 안정성의 필요성과 같은 제약 조건 하에서 어떻게 이 벤치마크에 접근할 수 있는가?

저자들은 비예측적 설계(non-anticipating design) 프레임워크를 사용하여 이 설정을 정식화합니다. 단위들은 할당 순서 $t=1,\dots,n$에 의해 인덱싱되며, 처치 할당 $A_t$는 오직 과거의 이력 $\mathcal{F}_{t-1}$과 현재의 공변량 $X_t$에만 의존하며, 미래의 결과나 공변량에는 결코 의존하지 않습니다. 이 프레임워크는 i.i.d. 무작위 배정, 오프라인 층화 설계, 그리고 순차적 적응형 설계를 통합합니다.

2. 방법론 및 이론적 프레임워크

2.1 유도된 평균 성향(Induced Average Propensity Score)

핵심적인 이론적 기여는 유도된 평균 성향을 효율성 벤치마크를 위한 충분 통계량으로 식별한 것입니다. 임의의 비예측적 설계 $\text{ALG}$에 대해, 유도된 평균 성향 $\bar{e}_a(x)$는 다음과 같이 정의됩니다:
$$\bar{e}_a(x) := \frac{1}{n} \sum_{t=1}^n \mathbb{E}_{\text{ALG}}[e_t(a | x, \mathcal{F}_{t-1})]$$
여기서 $e_t$는 $t$ 단계에서의 조건부 할당 확률입니다.

2.2 준모수적 하한(Semiparametric Lower Bound)

본 논문은 정규적이고 국소적으로 편향되지 않은(locally unbiased) 추정량에 대한 준모수적 하한을 확립합니다. 정리 1은 임의의 비예측적 설계에 대해, 추정량의 점근적 분산이 유도된 평균 성향 $\bar{e}$에서 평가된 i.i.d. 효율성 벤치마크에 의해 하한이 됨을 증명합니다:
$$\text{Var}(T) \geq \frac{1}{n} V(\bar{e}) = \frac{1}{n} \mathbb{E}[\phi_{\bar{e}}(O)^2]$$
여기서 $\phi_{\bar{e}}$는 고정된 성향 $\bar{e}$ 하에서의 효율적 영향 함수(EIF)입니다.

이 결과는 적응형, 균형 잡힌 또는 제약이 있는 설계의 통계적 복잡성이 단 하나의 대상, 즉 공변량 값에 걸쳐 할당된 평균 처치 노출량으로 수렴함을 의미합니다. 운영적 제약(예: 예산 제한)은 허용 가능한 평균 성향 집합을 제한함으로써 포함됩니다.

2.3 일반화된 네이만 할당(Generalized Neyman Allocation)

벡터 값 타겟(예: 다중 처치 효과)의 경우, 본 논문은 일반화된 네이만 할당을 도출합니다. 최적의 설계는 EIF의 공분산 행렬의 트레이스(trace)를 최소화하며, 이는 효율적 영향 함수에서 조건부 분산이 높은 처치 군에 더 많은 노출을 부여하는 할당 규칙으로 이어집니다. 선형 함수(linear functionals)의 경우, 이는 고전적인 네이만 할당 규칙으로 축소됩니다.

3. 벤치마크에 대한 구성적 접근법

본 논문은 이론적 벤치마크에 접근하는 두 가지 상호 보완적인 구현 가능한 **배치 적응형 설계(batched adaptive designs)**를 제안합니다. 두 방법 모두 할당 정책을 로그 횟수($B \asymp \log n$)만큼만 업데이트하여, 지연된 피드백 및 운영 감사 가능성과의 호환성을 보장합니다.

3.1 경로 1: 배치 적응형 회귀 조정(Batched Adaptive Regression Adjustment)

이 접근 방식은 추정기 측면의 교정에 집중합니다.

• 메커니즘: 실험은 배치로 나뉩니다. 각 배치 내에서 할당 규칙은 고정됩니다. 각 배치가 끝날 때, 누설 매개변수(결과 회귀 및 2차 모멘트 함수)는 축적된 데이터를 사용하여 교차 적합(cross-fitting)을 통해 추정됩니다. 다음 배치를 위한 할당 규칙은 오라클 설계 목적 함수의 플러그인 최소화를 통해 업데이트됩니다.
• 일반적인 추정량: 일반적인 매끄러운 추정량에 대해, 이 방법은 누설 매개변수가 $n^{-1/4}$보다 빠른 속도로 수렴하는 경우 오라클 벤치마크를 달성합니다. 이는 2차 플러그인 편향(second-order plug-in bias)으로 인해 준모수적 추정에서 알려진 병목 현상입니다.
• 선형 함수: 결과 평균의 선형 함수(예: 평균 처치 효과, 정책 가치)의 경우, EIF의 구조 덕분에 플러그인 편향이 정확히 상쇄됩니다. 결과적으로 $n^{-1/4}$ 병목 현상이 사라집니다. 본 논문은 결과 회귀와 2차 모멘트 추정량의 수렴 속도를 각각 $\alpha$와 $\beta$라고 할 때, $O(n^{-1-2\alpha} \vee n^{-1-2\beta})$의 **날카로운 2차 수렴 속도(sharp second-order convergence rate)**를 확립합니다. 이에 부합하는 하한은 이 속도가 미니맥스 최적임을 증명합니다.

3.2 경로 2: 배치 적응형 공변량 균형(Batched Adaptive Covariate Balancing)

이 접근 방식은 누설 매개변수 추정의 병목 현상을 우회하기 위해 설계 측면의 제어에 집중합니다.

• 메커니즘: 이 경로는 단순한 모멘트 기반 추정량(최종 단계에서 회귀 조정을 사용하지 않음)을 사용합니다. 설계는 공간적 빈닝(spatial binning)과 그룹화된 순열(grouped permutations)을 사용하여 각 배치 내에서 공변량 인덱스 모멘트 함수의 국소적 균형을 강제합니다. 타겟 성향은 추정된 2차 모서리 대리물(second-moment proxies)을 기반으로 배치 전반에 걸쳐 업데이트됩니다.
• 효율성: 배치 내에서 "균형 잔차(balancing remainder)"(타겟 성향으로부터의 편차)를 제어함으로써, 이 방법은 누설 매개변수의 비매개변수적 추정을 요구하지 않고도 준모수적 벤치마크 $V^*/n$에 도달합니다.
• 트레이드오프: 균형 잔차는 배치 크기 $m$에 대해 차원 의존적인 속도 $O(m^{-1/(d+4)})$로 감소합니다. 따라서 이 경로는 저차원 설정이나 데이터의 유효 차원(effective dimension)이 낮은 설정에서 가장 효과적입니다.

4. 주요 결과 및 실증적 검증

4.1 이론적 결과

• 통합 프레임워크: 유도된 평균 성향은 이전에 서로 분리되어 있던 적응형, 층화 및 국소 무작위화 설계의 효율성 경계들을 단일한 비예측적 프레임워크 아래로 통합합니다.
• 가설 해결: 이 프레임워크는 2단계 실험 설계의 효율성 경계에 관한 Cytrynbaum (2021)의 가설을 해결합니다.
• 미니맥스 날카로움(Minimax Sharpness): 선형 함수의 경우, 본 논문은 일반적인 순차적 실험에 대한 준모수적 효율성 경계로의 수렴 속도에 대한 최초의 미니맥스 특성화를 제공합니다.

4.2 수치적 및 실증적 연구

저자들은 합성 시뮬레이션과 실제 적용을 통해 제안된 방법들을 검증합니다:

• 합성 실험: 다양한 차원($d \in \{2,3,8\}$)과 이분산성(heteroskedasticity)을 가진 시뮬레이션에서 두 적응형 경로 모두 균등 무작위 배정보다 크게 우수한 성능을 보였습니다. 회귀 조정(RA) 경로는 고차원에 강건한 반면, 공변량 균형(CB) 경로는 균형 파티션이 데이터의 저차원 구조(유효 차원)와 일치할 때 가장 좋은 성능을 보였습니다.
• AI 의료 어시스턴트 평가: HELPMed 연구(Bean et al., 2026) 데이터를 사용하여, 저자들은 여러 AI 어시스턴트를 베이스라인과 비교 평가했습니다. 적응형 설계는 균등 무작위 배정 대비 정규화된 평균 제곱 오차(MSE)를 약 5~8% 감소시켰습니다. 이 연구는 고차원 설정에서 데이터 적응형 저차원 파티션을 사용하는 것이 CB 경로의 성능을 크게 향상시킨다는 점을 강조했습니다.

5. 의의 및 주장

본 논문은 효율적인 순차적 실험을 특징짓고 설계하기 위한 통합 프레임워크를 제공한다고 주장합니다. 주요 의의는 다음과 같습니다:

1. 설계의 재구성: 실험 설계의 초점을 복잡하고 경로 의존적인 할당 메커니즘을 최적화하는 것에서, 효율적인 평균 성향 점수를 학습하거나 선택하는 것으로 전환합니다.
2. 운영적 실행 가능성: 효율성 벤치마크에 접근하기 위해 정책 업데이트를 로그 횟수만큼만 수행해도 된다는 것을 입증함으로써, 본 논문은 이론적 최적성과 운영적 제약(지연된 피드백, 감사 가능성, 안정성) 사이의 간극을 메웁니다.
3. 실용적 유연성: 두 가지 상호 보완적인 경로(회귀 조정 및 공변량 균형)는 실무자에게 트레이드오프를 제공합니다: RA는 고차원 설정에 유연하지만 빠른 누설 매개변수 추정이 필요하며, CB는 강건하고 단순하지만 공변량 공간의 차원을 신중하게 다뤄야 합니다.

저자들은 평균 성향 점수가 순차적 실험의 통계적 한계를 이해하기 위한 공통 언어 역할을 하며, 이를 통해 현대적인 AI 서비스 평가와 같은 응용 분야에서 효율적인 다중 처치 실험 설계를 가능하게 한다고 결론짓습니다.