Auxiliary-Enhanced Survey Calibration: A Novel Framework for Reject Inference under Sample Selection Bias

기술 요약: 거절 추론을 위한 보조 변수 강화 서베이 캘리브레이션(Auxiliary-Enhanced Survey Calibration)

문제 정의
신용 점수 모델은 일반적으로 승인된 신청자들을 대상으로 학습되므로, 학습 분포 $P(Y|X, Z=1)$가 대상 모집단 분포 $P(Y|X)$와 달라지는 표본 선택 편향(sample selection bias)을 생성합니다. 거절 추론(reject inference) 문제로 알려진 이 현상은 대출 기관이 고위험군으로 판단되는 신청자를 체계적으로 거절함으로써 발생하며, 이로 인해 학습 데이터셋은 "우량 상환자"로 편중됩니다. 결과적으로 승인된 데이터만을 사용하여 학습된 모델은 전체 신청자 풀의 부도율을 과소평가하는 경향이 있습니다. 기존의 거절 추론 방법론은 크게 두 가지 범주로 나뉩니다. 하나는 누락된 결과를 **대체(impute)**하는 방식(예: 증강, 재분류, 생성 모델)이고, 다른 하나는 승인된 표본에 **가중치를 부여(reweight)**하는 방식(예: 역성향 점수(IPS) 가중치)입니다. 저자들은 대체 기반 방법론이 이미 선택 편향에 의해 오염된 모델을 사용하여 레이블을 조작하기 때문에, 왜곡을 전파하고 증폭시키는 근본적인 결함이 있다고 주장합니다. 반면, 표준적인 가중치 부여 방식은 양의 조건(positivity assumption)이 위배될 때 극단적인 가중치로 인해 불안정해지는 경우가 많습니다.

방법론
본 논문은 결과값의 대체를 완전히 배제하는 서베이 캘리브레이션 이론(Deville and Sarndal, 1993)에 기반한 새로운 프레임워크를 제안합니다. 핵심 메커니즘은 승인된 신청자들에 대한 관측치 수준의 가중치를 계산하여, 가중치가 적용된 표본의 공변량 분포가 보조 변수의 알려진 모집단 총합과 일치하도록 강제하는 것입니다.

1. 프레임워크 설정:

   • 전체 신청자 집단을 $U$, 승인된 집단을 $A$, 거절된 집단을 $R$이라고 합니다.
   • 특성은 공통 변수 $X^{(c)}$ (모든 신청자에게 관찰되며 가중치 부여에 사용됨)와 비공통/언더라이팅 변수 $X^{(u)}$ (승인된 신청자에게만 관찰되며 최종 결과 모델에 사용됨)로 구분됩니다.
   • 목표는 승인된 집단 $A$에 대해 가중 로그 가능도(weighted log-likelihood)를 최대화하여 모집단 파라미터 $\theta^*$를 추정하는 것입니다.

2. 캘리브레이션 가중치:

   • 가중치 $w_i$는 설계 가중치 $d_i$(일반적으로 1)와의 거리 함수 $D(w_i, d_i)$를 최소화하면서, 가중치가 적용된 공통 변수의 합이 알려진 모집단 총합 $T^{(c)}$와 같아야 한다는 제약 조건 $\sum_{i \in A} w_i X^{(c)}_i = T^{(c)}$을 만족하는 제약 최적화 문제를 해결함으로써 도출됩니다.
   • 저자들은 (raking/exponential과 같은) 무제한적인 거리 함수 대신 유계 거리 함수(특히 bounded logit 및 truncated-linear 거리)를 사용합니다. 이는 가중치가 사용자가 지정한 구간 $[L, U]$ 내에 머물도록 보장하여, 유효 표본 크기가 붕괴되는 것을 방지하고 역성향 점수(IPS) 가중치 방식과 관련된 불안정성을 피하게 해줍니다.

3. 추정:

   • 가중치는 라그랑주 승수(Lagrange multipliers)를 구하기 위해 뉴턴-랩슨(Newton-Raphson) 알고리즘을 사용하여 계산됩니다.
   • 최종 로지스틱 회귀 모델은 캘리브레이션 가중치가 적용된 로그 가능도 $\tilde{\ell}(\theta; w) = \sum_{i \in A} w_i [Y_i(\beta_0 + \beta^\top X_i) - \log(1 + \exp(\beta_0 + \beta^\top X_i))]$를 최대화함으로써 적합됩니다.
   • 결정적으로, 가중치 부여 단계에서는 오직 $X^{(c)}$만을 사용하는 반면, 결과 모델은 전체 특성 벡터 $X = (X^{(c)}, X^{(u)})$를 활용합니다. 이를 통해 이 방법은 대체 방식이 가질 수 없는, 승인된 고객에게만 존재하는 풍부한 언더라이팅 데이터를 활용할 수 있게 합니다.

주요 기여

1. 대체 없는 프레임워크: 저자들은 레이블을 조작하지 않는 거절 추론 추정기를 도입했습니다. 오직 재가중치 부여에만 의존함으로써, 증강 및 재분류 방식에 내재된 초기 승인 전용 모델의 편향을 물려받는 문제를 피합니다.
2. 이론적 보장: 본 논문은 결측이 무작위(MAR)라는 가정하에서 캘리브레이션 가중 추정치가 **일관성(consistent)**을 가지며 **$\sqrt{n}$-점근적 정규성(asymptotically normal)**을 가짐을 증명합니다. 또한, 가중치 추정으로 인한 불확실성을 고려하기 위해 닫힌 형태의 점근 분산과 **샌드위치 분산 추정량(sandwich variance estimator)**을 도출합니다.
3. 모집단 투영 특성 규명: 저자들은 모델 오설정(misspecification) 상황에서, 승인 전용 추정치는 진리값의 선택된 표본(selected-sample) 투영으로 수렴하는 반면, 캘리브레이션 추정치는 모집단(population) 투영을 목표로 한다는 점을 명확히 합니다. 이 차이가 본 방법론이 베이스라인보다 가치를 제공하는 지점입니다.
4. 가중치 안정성: 유계 거리 함수를 채택함으로써, IPS 및 raking과 같은 무제한 재가중치 기술이 겪는 극단적인 가중치 및 유효 표본 크기 붕괴 문제를 해결합니다.

실험 결과
연구는 세 가지 데이터셋(Lending Club 데이터셋, 지면 진리(ground-truth) 레이블이 존재하는 준합성 Taiwan Credit 벤치마크, 통제된 시뮬레이션)에 대해 9가지 전략(퍼지 증강, 재분류, IPS, Heckman 2단계, 생성 모델 포함)을 평가했습니다.

• 변별력 (AUC): Lending Club 데이터셋에서 캘리브레이션 방법은 베이스라인 수준의 변별력을 유지했습니다 (전체 특성을 사용한 베이스라인의 AUC $\approx$ 0.706 대비 0.703). 반면, 대체 기반 방법들은 성능이 저하되었으며, Taiwan 벤치마크에서는 최대 11 AUC 포인트, Lending Club에서는 3.6 포인트의 손실을 보였습니다. 저자들은 이러한 차이가 대체 방식이 접근할 수 없는 언더라이팅 변수($X^{(u)}$)를 활용하는 능력 때문이라고 설명합니다.
• 교정 (리스크 추정): 캘리브레이션의 주요 이점은 모집단 리스크 추정에 있습니다. Lending Club에서 캘리브레이션은 베이스라인 대비 기대 교정 오차(ECE)를 거의 3배 감소시켰습니다 (0.0112에서 0.0042로). Taiwan의 오설정 환경에서는 6배의 감소를 보였습니다. 대체 방법들은 교정 오차를 크게 증가시켰습니다 (최대 16배).
• 오설정(Misspecification): 상호작용 항이 누락된 오설정 시뮬레이션 연구에서, 캘리브레이션 추정치는 오라클(모집단 진리)에 가깝게 유지된 반면, 승인 전용 베이스라인은 선택 강도가 높아짐에 따라 크게 벗어났습니다.
• MNAR 한계: 예상대로, 본 방법론은 비무작위 결측(MNAR) 선택(거절이 관측되지 않은 결과에 의존하는 경우) 하에서는 모집단 파라미터를 복구하는 데 실패했으며, 이는 접근법의 이론적 경계를 확인시켜 줍니다.

의의 및 주장
본 논문은 캘리브레이션이 거절 추론을 위한 **안전한 기본값(safe default)**을 제공한다고 주장합니다. 모든 가중치를 1로 설정하면 베이스라인과 정확히 일치하므로, 이 방법은 베이스라인보다 성능이 나빠질 수 없습니다. 본 연구의 의의는 다음과 같습니다:

• 모집단 리스크 교정: 대체 방식에 내재된 편향 전파 위험 없이, 가격 책정 및 자본 충당에 필수적인 모집단 수준의 부도율과 교정 지표를 추정할 수 있는 통계적으로 유효한 방법을 제공합니다.
• 오설정에 대한 강건성: 작동 모델이 오설정된 경우에도 모집단 파라미터를 효과적으로 추정함으로써 베이스라인보다 우수한 성능을 보입니다.
• 실무적 안정성: 유계 거리 함수의 사용은 다른 재가중치 접근 방식에서 흔히 나타나는 수치적 불안정성을 해결합니다.

저자들은 이 방법이 MNAR 선택 문제를 해결하거나 승인자와 거절자 간의 공통 지지(common support) 필요성을 제거하는 것은 아니지만, 특히 모집단 리스크 추정의 신뢰성을 확보해야 하는 경우 대체 기반 전략보다 우월한 대안임을 결론짓습니다.