General Frameworks for Conditional Two-Sample Testing

기술적 요약: 조건부 두 표본 검정을 위한 일반적 프레임워크

문제 설정
본 논문은 잠재적 교란 요인을 고려한 후 공변량 $X$가 주어졌을 때 반응 변수 $Y$의 조건부 분포가 두 모집단에서 동일한지 여부를 판단하는 조건부 두 표본 검정 문제를 다룹니다. 형식적으로, 두 개의 독립적인 표본 $\{(X^{(1)}_i, Y^{(1)}_i)\}_{i=1}^{n_1} \sim P^{(1)}_{XY}$와 $\{(X^{(2)}_i, Y^{(2)}_i)\}_{i=1}^{n_2} \sim P^{(2)}_{XY}$가 주어졌을 때, 귀무가설:
$$H_0: P^{(1)}_{Y|X}(\cdot | X) = P^{(2)}_{Y|X}(\cdot | X) \quad \text{거의 확실하게 (almost surely)}$$
를 대립가설 (두 분포가 양의 확률로 다름) 에 대해 검정하는 것이 목표입니다. 이 문제는 도메인 적응 (공변량 이동 가정 검증) 및 알고리즘적 공정성 (인구통계학적 속성에 따른 편향 탐지) 과 같은 중요한 응용 분야에서 발생합니다.

난이도 결과
저자들은 먼저 이 문제에 대한 근본적인 난이도 결과를 확립합니다. 추가적인 가정 없이, 조건부 변수 $X$가 연속형일 때 어떤 단일 대립가설에 대해서도 유효한 조건부 두 표본 검정이 비자명한 검정력 (non-trivial power) 을 가질 수 없음을 보여줍니다. 이 발견은 Shah 와 Peters(2020) 가 확립한 조건부 독립 검정에 대한 부정적 결과와 유사합니다. 증명에서의 주요 기술적 차이는 표준 조건부 독립 설정에서는 그룹 지표가 무작위인 반면, 두 표본 문제에서는 표본 크기 $n_1$과 $n_2$가 결정론적이라는 점입니다. 저자들은 집중성 (concentration) 논증을 사용하여 이러한 격차를 메꾸고, 문제가 본질적으로 어렵게 남아 있어 문제 해결을 위해 구조적 가정 (예: 밀도 비율의 매끄러움 또는 유계성) 이 필요함을 보여줍니다.

방법론적 프레임워크
이러한 어려움을 극복하기 위해 본 논문은 유효한 검정을 가능하게 하기 위해 합리적인 가정을 암묵적 또는 명시적으로 포함하는 두 가지 일반적 프레임워크를 제시합니다.

1. 조건부 독립 검정 (CIT) 을 통한 프레임워크
첫 번째 프레임워크는 조건부 두 표본 검정과 조건부 독립 검정 사이의 동등성을 활용합니다. 이진 그룹 지표 $Z$를 도입함으로써, 문제 $P^{(1)}_{Y|X} = P^{(2)}_{Y|X}$는 $Y \perp\!\!\!\perp Z \mid X$를 검정하는 것과 동치입니다.

• 알고리즘 1: 저자들은 기존 조건부 독립 검정을 조건부 두 표본 검정으로 변환하는 범용 "블랙박스" 변환 방법을 제안합니다. 이 알고리즘은 이항 분포에 기반하여 원래 고정 크기 그룹에서 부분 표본을 추출함으로써 i.i.d. 삼중항 $(X, Y, Z)$의 데이터 세트를 구성합니다. 부분 표본 추출된 크기가 원래 그룹 크기를 초과하면 귀무가설을 채택하고, 그렇지 않으면 순열된 데이터에 표준 조건부 독립 검정을 적용합니다.
• 이론적 보장: 정리 2 는 검정 통계량이 "결합 안정적 (coupling-stable)"이거나 부분 표본 추출 손실이 점근적으로 무시할 수 있을 경우, 이 변환이 기반이 되는 조건부 독립 검정의 점근적 유효성 (제 1 종 오류 통제) 과 일관성 (검정력) 을 유지함을 증명합니다.

2. 밀도 비율 추정 (DRT) 을 통한 프레임워크
두 번째 프레임워크는 밀도 비율 추정을 사용하여 조건부 비교를 주변 비교로 변환합니다.

• 원리: 귀무가설은 결합 밀도 $f^{(1)}_{XY}$가 $f^{(2)}_{XY}$의 재가중 버전과 같을 때만 성립하며, 구체적으로 $f^{(1)}_{XY}(x,y) = r_X(x) f^{(2)}_{XY}(x,y)$입니다. 여기서 $r_X(x) = f^{(1)}_X(x)/f^{(2)}_X(x)$는 주변 밀도 비율입니다.
• 구현: 이 문제는 $f^{(1)}_{XY}$와 재가중된 $f^{(2)}_{XY}$ 사이의 주변 두 표본 검정으로 재구성됩니다. 저자들은 두 가지 구체적인 접근 방식을 통해 이를 시연합니다:
  • 분류기 기반 접근: 두 그룹을 구분하는 분류기를 훈련하되, 두 번째 그룹에 대한 손실 함수를 추정된 밀도 비율 $r_X$로 가중치를 부여합니다.
  • 커널 기반 접근 (MMD): 중요도 가중치를 적용한 최대 평균 불일치 (Maximum Mean Discrepancy) 를 사용합니다. 저자들은 매개변수 $\gamma \in [0, 1]$에 의해 지배되는 통합 블록별 MMD 통계량을 제안합니다.
    • 체제 I ($0 \le \gamma < 1$): 점근적 정규성을 달성하기 위해 블록별 U-통계량을 사용합니다.
    • 체제 II ($\gamma = 1$): 비가우시안 극한 분포를 처리하기 위해 승수 부트스트랩으로 보정된 표준 2 차 시간 MMD 를 복원합니다.
• 표본 분할: 플러그인 편향을 피하기 위해 저자들은 $r_X$의 추정과 검정 통계량의 평가를 분리하기 위해 표본 분할 (또는 크로스 피팅) 을 사용합니다.

주요 기여

1. 난이도 특성화: 연속형 조건부 하에서 조건부 두 표본 검정이 조건부 독립 검정만큼 어렵다는 엄밀한 증명으로, 가정의 필요성을 강조합니다.
2. 범용 변환 알고리즘: 이론적 보장을 유지하면서 기존 조건부 독립 검정을 두 표본 설정에 적용할 수 있게 하는 새로운 알고리즘 (알고리즘 1).
3. 밀도 비율 프레임워크: 밀도 비율을 통해 조건부 검정을 주변 검정으로 변환하는 유연한 프레임워크로, 분류기 기반 및 커널 기반 방법 모두로 구체화되었습니다.
4. 통합 MMD 이론: 선형 시간 (블록별) 및 2 차 시간 체제를 모두 포함하고 후자에 대한 부트스트랩 보정을 포함하는 통합 MMD 프레임워크의 이론적 개발.

결과 및 실증적 발견
본 논문은 합성 데이터 (선형, 고분산, 사후 비선형 모델 포함) 와 실제 데이터셋 (Diamonds 및 Superconductivity) 에 대해 제안된 방법을 평가합니다.

• 합성 데이터:
  • DRT 방법 (밀도 비율에 의존) 은 주변 밀도 비율이 유계이고 쉽게 추정 가능할 때 우수한 검정력을 보입니다.
  • CIT 방법 (알고리즘 1 을 통해) 과 조건부 커널 방법 (CMMD, CGED) 은 무계 밀도 비율에 대해 더 강건하지만 특정 고분산 시나리오에서는 성능이 저하될 수 있습니다.
  • 단일 방법이 균일하게 우세하지 않으며, 성능은 데이터 생성 메커니즘과 밀도 비율 추정의 난이도에 크게 의존합니다.
• 실제 데이터:
  • 고차원 설정 (Superconductivity 데이터셋) 에서 밀도 비율 추정기의 선택이 중요합니다. 선형 로지스틱 회귀 (LLR) 는 제 1 종 오류를 통제하지 못했으나, 커널 로지스틱 회귀 (KLR) 는 계산 비용이 더 높음에도 유효성을 회복시켰습니다.
  • 조건부 커널 방법 (CMMD, CGED) 은 경쟁력 있는 검정력을 달성했으나 다른 방법들보다 계산 비용이 훨씬 높았습니다 (수십 배 이상 느림).

의의 및 주장
본 논문은 비모수 통계에서 이전까지 충분히 탐구되지 않았던 조건부 두 표본 검정을 위한 체계적 기반을 제공한다고 주장합니다. 본질적인 난이도를 확립하고 두 가지 서로 다른 이론적 기반을 가진 프레임워크를 제시함으로써, 실무자가 활용할 수 있는 도구를 확장합니다.

• CIT 프레임워크는 조건부 독립 검정에 대한 방대한 문헌을 두 표본 문제에 활용하기 위한 실용적인 경로를 제공합니다.
• DRT 프레임워크는 조건부 검정을 잘 연구된 중요도 가중치 및 주변 검정 분야와 연결하여 방법 선택 (분류기 vs 커널) 의 유연성을 제공합니다.
• 저자들은 이러한 방법의 유효성이 특정 가정 (예: 밀도 비율의 유계성 또는 추정 가능성) 에 의존하며, 서로 다른 데이터 체제에서 계산 비용, 검정력, 제 1 종 오류 통제 간의 트레이드오프에 대한 실증적 지침을 제공함을 강조합니다.

본 연구는 조건부 $K$-표본 검정 ($K \ge 2$) 으로 프레임워크를 확장하고, 샘플링 중요도 재샘플링 (SIR) 과 같은 재샘플링 기반 접근법을 탐구하는 등 향후 방향을 제시하며 결론을 맺습니다.