기술 요약: 이차 형식(Quadratic Forms)을 이용한 재무작위화(Rerandomization)의 통합 프레임워크

문제 정의

무작위 실험 설계 시, 처치군(treatment)과 대조군(control) 사이의 공변량 균형(covariate balance)을 확보하는 것은 표준 오차를 줄이고 통계적 검정력을 높이는 데 매우 중요하다. 블로킹(blocking)은 범주형 변수에는 효과적이지만, 고차원 연속형 공변량에는 한계가 있다. **재무작위화(Rerandomization)**는 사전에 지정된 수준의 공변량 균형이 달성될 때까지 처치 할당을 반복하여 무작위화하는 방식이다.

역사적으로 대부분의 재무무작위화 방법은 마할라노비스 거리(Mahalanobis distance)(Morgan and Rubin, 2012)에 의존하며, 이는 역공분산 행렬($\Sigma^{-1}$)을 가중치 행렬로 사용한다. 그러나 고차원 설정에서 마할라노비스 재무무작위화는 모든 공변량에 동일한 비율의 분산 감소를 적용한다. 차원($d$)이 증가함에 따라 분산 감소 항이 1에 가까워지면서, 이 방법은 효과를 잃게 된다. Ridge 재무무작위화(Branson and Shao, 2021)나 PCA 재무무작위화(Zhang et al., 2024)와 같은 확장 기법들이 특정 고유벡터(eigenvectors)에 우선순위를 두어 이를 완화하려 시도하지만, 이들은 튜닝 파라미터나 임의의 컷오프를 필요로 한다. 또한, 기존의 최적성 결과들은 대개 공변량과 결과(outcome) 사이의 관계에 대한 지식(예: Liu et al., 2025)을 가정하는데, 이는 실험 전에는 거의 불가능한 일이다.

방법론

저자들은 일반적인 이차 형식 공변량 균형 메트릭에 의해 정의되는 통합 프레임워크를 제안한다:
$$Q_A(\sqrt{n}\hat{\tau}_X) = (\sqrt{n}\hat{\tau}_X)^T A (\sqrt{n}\hat{\tau}_X)$$
여기서 $\hat{\tau}_X$는 공변량 평균 차이 벡터이며, $A$는 고정된 0이 아닌 양의 준정부호 행렬($A \in S^d_+$)이다.

본 논문은 고정된 공변량 $X$와 잠재적 결과(potential outcomes)를 조건으로 하여, 이러한 형태의 모든 스킴에 대한 일반적인 이론적 결과를 도출한다. 분석은 다음 두 가지 조건에 기반한다:

1. 조건 1: 결과 및 공변량의 유한 모집단 분산과 공분산이 잘 정의되며 극한값을 갖는다.
2. 조건 2: 재무무작위화 기준이 처치 할당에 대해 대칭적이며, 일부 할당에 대해 0이 아닌 확률을 부여한다.

저자들은 공변량 평균 차이의 공분산 행렬($\Sigma$)과 행렬 $\Sigma^{1/2}A\Sigma^{1/2}$의 고유 구조(eigenstructure)를 활용하여 재무무작위화된 추정량의 점근적 분포를 규명한다.

주요 기여

1. 일반적 이론 결과

저자들은 임의의 이차 형식 재무무작위화 하에서의 공변량 평균 차이의 점근적 공분산을 도출한다(Theorem 1). 그들은 공분산 행렬이 $\Sigma^{1/2}A\Sigma^{1/2}$의 고유값에 의존하는 분산 감소 계수 $\nu_{j,\eta}$에 의해 회전 및 스케일링됨을 보여준다. 이 프레임워크를 통해 기존 방법들(Mahalanobis, Ridge, PCA)의 특성을 신속하게 재도출하고 새로운 스킴을 분석할 수 있다.

2. 공변량 균형을 위한 최적성 (결과 정보 없이)

본 논문은 결과 관계($\beta$)에 대한 지식 없이 공변량의 특성만을 바탕으로 $A$의 최적 선택을 확립한다:

• 프로베니우스 노름(Frobenius Norm) 최소화: 유클리드 거리($A = I_d$)는 공변량 평균 차이의 공분산 행렬의 프로베니우스 노름을 최소화한다(Theorem 2). 이는 재무무작위화 후 모든 변동 방향이 동일한 크기를 갖도록 보장한다.
• 총 분산 감소 극대화: 마할라노비스 거리($A = \Sigma^{-1}$)는 모든 주성분에 걸쳐 총 분산 감소를 극대화한다(Theorem 3).

3. 평균 처치 효과(ATE) 추정을 위한 최적성

저자들은 $A$의 선택을 차이-평균 추정량($\hat{\tau}$)의 분산과 연결한다.

• 오라클 최적성(Oracle Optimality): 만약 공변량과 결과 사이의 관계($\beta$)를 알고 있다면, 최적의 행렬은 $A^* = \beta\beta^T$가 된다(Theorem 5). 이는 공변량 평균 차이에 결과에 대한 예측력을 가중치로 부여하는 것이다.
• 미니맥스 최적성(Minimax Optimality): $\beta$는 일반적으로 알려져 있지 않으므로, 저자들은 유클리드 재무무작위화($A = I_d$)가 미니맥스 최적임을 증명한다(Theorem 6). 즉, 공변량과 결과의 실제 관계가 어떠하든, 추정량의 정밀도가 최적의 선택으로부터 결코 "너무 멀어지지" 않는다. 이는 결과 정보가 없을 때 유클리드 재무무작위화가 강력한 "안전한" 선택임을 의미한다.

4. 주성분 선택 규칙

본 논문은 상위 $k$개의 주성분을 선택하는 프레임워크로 확장한다. 저자들은 $\beta$를 모를 때 $k$를 선택하기 위한 비용-편익 결정 규칙(Equation 8)을 도출하며, 이는 상위 성분에서 얻는 분산 감소와 버려진 성분에서의 감소 손실 사이의 균형을 맞춘다. 이를 **가중 고유값 규칙(Weighted Eigenvalue rule)**이라 부른다.

결과

시뮬레이션 연구

저자들은 다양한 차원($d$)과 고유값 분포(희소, 평균, 균등) 및 주성분과 결과 간의 서로 다른 관계를 가진 시뮬레이션을 수행했다:

• 희소 고유값(Sparse Eigenvalues): 고유값이 희소하고 결과가 하위 주성분에 의존할 때, 마할라노비스 재무무작위화가 다른 방법들보다 우수하다. 그러나 결과가 상위 주성분에 의존할 경우 마할라노비스는 성능이 저하된다.
• 강건성(Robustness): 유클리드 재무무작위화는 모든 설정에서 일관되게 두 번째로 좋은 분산 감소를 제공했으며, 공분산 행렬을 제약하는 데 가장 뛰어났다. 이는 마할라노비스가 자신의 가정(동일한 가중치)이 결과 구조와 일치하지 않을 때 크게 고전하는 것과 대조적으로, 유클리드 방식이 더 우수한 강건성을 보여주었음을 나타낸다.
• 제곱 유클리드(Squared Euclidean): $A = \Sigma$로 설정하는 제곱 유클리드 방식은 상위 고유값을 강조하여 상위 성분이 예측력이 있을 때 잘 작동했지만, 표준 유클리드 재무무작위화의 강건성에는 미치지 못했다.

실제 데이터 적용

독일 청소년 대상 멘토링 무작위 통제 시험($n=308, d=21$)을 사용하여, 저자들은 합성된 비선형 및 비가산적 잠재 결과를 구성했다.

• 결과: 공변량의 고유값은 비교적 균등했다. 이 설정에서 모든 방법이 유사한 성능을 보였으나, 유클리드 재무무작위화가 완전 무작위화(0.565 상대적 분산) 대비 가장 낮은 분산을 기록했으며, 제곱 유클리드가 그 뒤를 바짝 쫓았다(0.576).
• 시사점: 이 결과는 유클리드 재무무작위화가 미니맥스 최적이며, 특히 고유 구조가 특정 부분 집합을 강력하게 선호하지 않을 때 강건하다는 이론적 주장과 일치한다.

의의 및 주장

본 논문은 이차 형의 틀 안에서 기존의 재무무작위화 방법들을 통합하는 일반적인 이론적 프레임워크를 제공한다고 주장한다. 주요 의의는 다음과 같다:

1. 실무적 지침: 결과 정보가 없을 때 행렬 $A$를 선택하는 방법에 대해 이론적으로 근거 있는 명확한 지침을 제공한다. 구체적으로, 고차원 마할라노비스 거리의 함정을 피하면서도 강건성을 유지하는 미니맥스 최적 전략으로서 유클리드 재무무작위화를 옹호한다.
2. 이론과 실제의 가교: 이전 연구들(예: Liu et al., 2025)의 한계였던 결과-공변량 관계에 대한 사전 지식에 의존하지 않는 최적성 결과를 도출함으로써 문헌의 공백을 메운다.
3. 방법론적 확장: $A$의 선택이 결과 공분산 행렬의 고유 구조를 결정함을 입증하여, 연구자들이 데이터의 특정 고유 구조와 결과 관계에 대한 사전 믿음에 따라 재무무작위화 전략(예: 제곱 유클리드 또는 PCA 규칙)을 맞춤화할 수 있도록 한다.

저자들은 자신의 결과가 이차 형식으로 표현 가능한 재무무작위화 스킴에 국한되며, 반드시 비이차 형식 설계(예: 커널 할당)가 더 우월할 가능성을 배제하는 것은 아니라고 언급하며 겸허한 태도를 유지했다. 또한 향후 연구를 통해 이러한 프레임워크를 다중 팔(multi-armed) 실험 및 순차적 설계로 확장할 수 있음을 시사했다.