기술적 요약: 최적 수송을 통한 반사실적 공정한 회귀

문제 정의

이 논문은 민감 속성 (예: 성별, 인종) 에 대한 개입이 있어도 예측이 불변해야 하는 고위험 영역 (예: 학생 입학) 에서 **반사실적 공정한 회귀기 (counterfactually fair regressor)**를 학습하는 과제를 다룹니다. 집단 간 주변 분포의 균등성만 요구하는 인구통계학적 평등 (Demographic Parity, DP) 과 같은 표준적인 공정성 개념과 달리, 반사실적 공정성 (CF) 은 개인의 잠재적 "능력"을 고정시킨 상태에서 민감 속성이 변경된다 하더라도 예측이 변하지 않아야 함을 요구합니다.

CF 를 실제 적용하는 데 있어 주요 장벽은 완전한 구조적 인과 모델 (Structural Causal Models, SCMs) 이 필요하다는 점인데, 이는 실제 상황에서 드물게 제공됩니다. 저자들은 완전한 인과 그래프는 알 수 없지만 잠재 능력 변수 $V$의 측정 가능한 대리 변수 $\psi(X, S)$에 접근할 수 있는 "인과적 불확실성" (causal uncertainty) 관점 (특히 Kusner 외의 Level-2 설정) 을 채택합니다. 목표는 재학습 없이 사전 훈련된 "블랙박스" 예측기를 재보정하는 **후처리 추정기 (post-processing estimator)**를 구축하여 엄격한 유한 표본 통계적 보장을 제공하는 것입니다.

방법론

1. 이론적 축소: CF 에서 조건부 DP 로

핵심 이론적 통찰은 재표본 추출 노이즈가 있는 인과적 불확실성 설정 하에서 반사실적 공정성이 **잠재 변수 $V$에 조건부인 인구통계학적 평등 (Demographic Parity)**과 동등하다는 것입니다.

• 정의: 예측기가 CF 일 경우, 임의의 고정된 잠재 능력 $v$에 대해 모든 민감 그룹 $s$ 간 예측 분포가 동일해야 합니다.
• 함의: 이는 복잡한 반사실적 문제를 조건부 최적 수송 문제로 축소합니다. 저자들은 최적의 공정한 예측기가 모든 $s$에 대해 조건부 예측 분포 $\mu_{f|v,s}$가 일치하도록 제약 조건 하에서 위험을 최소화함을 보입니다.

2. 최적 수송을 통한 폐형 해 (Closed-Form Solution)

최적 수송 (OT) 이론을 활용하여 저자들은 최적의 공정한 회귀기 $f^*_0$에 대한 폐형 표현식을 유도합니다.

• 중심 양분자 매핑 (Barycentric Quantile Map): 최적 예측기는 원래 예측 $f^*(x, s)$을 그룹 조건부 분포의 **Wasserstein-2 중심 (barycenter)**으로 매핑합니다.
• 수식:
  $$f^*_0(x, s) = \left( \sum_{s'=1}^K w_{s'} F^{-1}_{f^*|v, s'} \right) \circ F_{f^*|v, s}(f^*(x, s))$$
  여기서 $v = \psi(x, s)$이며, $w_s$는 그룹 가중치이고, $F^{-1}$는 양분자 함수를 나타냅니다. 이 연산은 동일한 잠재 능력 수준 내에서 서로 다른 그룹의 예측 분포를 정렬합니다.

3. 이산화된 후처리 추정기

$V$가 연속적이므로, 저자들은 실용적인 이산화된 후처리 알고리즘을 제안합니다.

• 이산화: 잠재 공간 $V$를 $L$개의 구간으로 분할합니다.
• 국소 추정: 각 구간 내에서 조건부 누적 분포 함수 (CDF) 와 양분자 함수를 데이터로부터 추정합니다.
• 플러그인 추정기: 경험적 추정을 사용하여 폐형 중심 매핑을 각 구간 내에서 국소적으로 적용합니다.
• 표본 분할: CDF 추정과 수송 매핑 적용 간의 통계적 독립성을 보장하기 위해 데이터를 분할 (폴딩) 합니다.

4. 완화된 반사실적 공정성

정확한 공정이 달성 불가능하거나 바람직하지 않을 수 있음을 인식하여, 논문은 완화된 CF로 프레임워크를 확장합니다.

• 트레이드오프: 저자들은 불공정성이 $\alpha U(f^*)$ 예산으로 제한되는 완화된 문제를 정의합니다.
• 볼록 결합: 최적의 완화된 예측기는 원래 블랙박스 예측기와 최적 공정한 예측기의 볼록 결합임이 보입니다:
  $$f^*_\alpha = \sqrt{\alpha} f^* + (1-\sqrt{\alpha}) f^*_0$$
• 튜닝: 추정 오차를 고려하여 지정된 불공정성 예산을 충족하도록 $\alpha$를 선택하는 명시적 규칙이 제공됩니다.

주요 기여

1. CF 축소: 논문은 인과적 불확실성과 인식을 전제로 할 때, 반사실적 공정성이 잠재 능력 $V$에 조건부인 인구통계학적 평등과 동등함을 확립합니다. 이는 CF 를 기존 DP 방법론과 연결합니다.
2. 폐형 최적 회귀기: 중심 양분자 구성을 사용하여 최적 공정한 예측기의 정확한 형태를 유도하여, 추상적 존재 증명 대신 구성적 해를 제공합니다.
3. 유한 표본 보장: 저자들은 모델 무관한 후처리 방법을 제안하고 높은 확률의 유한 표본 보장을 증명합니다.
   • 불공정성과 초과 위험 모두 $\tilde{O}(n^{-1/3})$ 속도로 감소합니다.
   • **일치하는 하한 (matching lower bound)**을 확립하여, 이 속도가 이산화의 산물이 아니라 이러한 조건 하에서 공정한 회귀기를 추정하는 문제의 근본적인 것임을 증명합니다.
4. 튜닝이 가능한 완화된 공정성: 작업은 완화된 CF 로 확장되어 위험 - 불공정성 트레이드오프를 탐색하기 위한 명시적 튜닝 규칙을 제공합니다.

결과

합성 데이터

• 이론 검증: 실험은 이산화 수준 $L$이 증가함에 따라 불공정성이 감소하여 이론적 최적 $L^*$ 근처에서 안정화됨을 확인합니다.
• 트레이드오프: 이 방법은 CF 프런티어에서 베이스라인을 압도합니다. 엄격한 인과 방법 (Fair K) 은 관측 가능한 특징을 폐기하여 완벽한 공정을 달성하지만 (높은 오차 발생), 전역 DP 방법 (WFR) 은 낮은 오차를 달성하지만 CF 를 충족하지 못합니다. 제안된 방법은 Fair K 보다 현저히 낮은 오차로 거의 완벽한 CF 를 달성합니다.

실세계 데이터 (법대 데이터셋)

• 성능: LSAC 데이터셋 (1 학년 성적 예측) 에 적용된 이 방법은 정확도와 공정성 간의 간극을 메웁니다.
  • Fair K(인과 베이스라인) 와 비교할 때, 제안된 방법은 유사한 정확도 (RMSE $\approx$ 1.054 대 1.086) 를 유지하면서 조건부 불공정성을 한 자릿수 (order of magnitude) 줄입니다.
  • WFR(전역 DP 베이스라인) 과 비교할 때, 유사한 정확도로 조건부 불공정성을 현저히 낮춥니다 (0.009 대 0.088).
• 대리 변수 추정에 대한 강건성: 논문은 구조적 인과 모델 (SCM) 과 변분 오토인코더 (VAE) 를 사용하여 잠재 대리 변수 $V$를 추정하는 것의 영향을 평가합니다. "대리 변수 누출"($V$가 $S$에 대한 정보를 유지하는 경우) 이 공정성을 저하시키지만, $V$와 $S$를 명시적으로 분리하는 "Fair VAE"를 사용할 때 이 방법은 강건함을 보여줍니다.

중요성과 주장

이 논문은 재학습이나 완전한 인과 그래프에 대한 접근 없이 엄격한 유한 표본 통계적 보장을 제공하는 최초의 모델 무관한 반사실적 공정성 후처리 프레임워크를 제공한다고 주장합니다.

• 이론적 깊이: $n^{-1/3}$ 수렴 속도가 Assouad 의 보조정리를 통해 근본적인 하한임을 증명함으로써, 저자들은 느린 수렴이 비모수 설정에서 공정성의 고유한 "대가"이며 특정 알고리즘의 한계가 아님을 주장합니다.
• 실용적 유용성: 이 접근법은 모델이 독점적이거나 제 3 자이거나 훈련 데이터가 사용할 수 없는 시나리오를 위해 설계되어 실제 배포에 매우 적용 가능합니다.
• 미묘한 공정성: 이 작업은 전역 DP 가 CF 에 충분한지에 대한 논쟁을 넘어, 조건부 DP(잠재 변수에 대한) 가 올바른 구조적 축소임을 보여줌으로써 이러한 공정성 개념 간의 관계에 대한 새로운 관점을 제시합니다.

저자들은 그들의 방법이 예측 유용성과 반사실적 공정성 간의 균형을 성공적으로 유지하며, 통계적 타당성을 유지하면서 특정 공정성 예산을 충족하기 위한 보정된 접근법을 제공한다고 결론지었습니다.