Fair Decisions from Calibrated Scores: Achieving Optimal Classification While Satisfying Sufficiency

기술 요약: 보정된 점수를 통한 공정한 결정 (Fair Decisions from Calibrated Scores)

문제 정의
지도 학습 기반의 이진 분류에서 예측 확률(점수)을 기반으로 한 결정은 매우 기본적이다. 제약이 없는 환경에서는 점수에 단일 결정론적 임계값(threshold)을 적용하는 것이 베이즈 최적(Bayes-optimal)이지만, 이는 일반적으로 통계적 집단 공정성 제약을 위반한다. 구체적으로, 본 논문은 이진 분류에서 충분성(sufficiency)(즉, 예측 패리티(predictive parity) 또는 집단 보정성(group-calibration))을 달성하는 과제를 다룬다.

충분성은 결정 결과가 주어졌을 때, 보호 집단 간에 양성 레이블의 유병률(prevalence)이 동일해야 함을 요구한다. 논문에서 강조하는 핵심 통찰은 충분성이 단순한 사후 처리(post-processing) 하에서 보존되지 않는다는 점이다. 점수가 완벽하게 집단 보정되어 있더라도(즉, $P(Y=1|S=s, A=a) = s$), 이 점수들을 이진 결정으로 변환하기 위해 단일 임계값을 적용하면 일반적으로 충분성 위반이 발생한다. 이는 독립성(인구통계학적 패리티)이나 분리(equalized odds)와 같은 다른 공정성 기준과는 대조적이다. 독립성이나 분리의 경우, 점수 자체가 해당 기준을 만족한다면 단일 임계값만으로도 기준을 충족할 수 있다.

충분성을 강제하기 위한 기존 방식들은 연속적인 점수 분포와 전체 지지 집합(full support)과 같은 강력한 가정을 기반으로 하거나, 목적 함수를 근사하는 완화된 방식을 포함한다. 그러나 많은 실제 시스템은 이산적이고 유한한 값을 가진 점수를 사용하므로, 이러한 가정들이 유효하지 않은 경우가 많다.

방법론
저자들은 유한한 값의 집단 보정된 점수를 가정할 때, 최적의 이진(확률적) 분류를 위한 정확한 해법을 제안한다. 방법론은 다음과 같이 세 가지 주요 단계로 진행된다.

1. 가능 영역의 기하학적 특성 규명:
   저자들은 먼저 유한한 값의 보정된 점수를 사용하는 단일 집단에 대해 달성 가능한 양성 예측 가치(PPV)와 허위 누락률(FOR) 쌍의 집합을 규명한다. 이들은 이를 $(p, q)$ 평면(여기서 $p$는 PPP, $q$는 FOR)에서의 "가능 영역" $C$로 정의한다.

• 이 영역은 베이스 레이트(base rate)인 $\pi$를 기준으로 하는 점 $(\pi, \pi)$에 대해 **성형 볼록(star-convex)**임을 증명한다.
• 이 영역의 경계 $\partial C$는 조각별 쌍곡선 호(piecewise hyperbolic arcs)와 직선 구간으로 구성된 연속적이고 단조 증가하는 곡선임이 밝혀졌다.
• 경계는 선택율 $\mu$(1로 예측할 확률)에 의해 매개변수화된다. 최적의 경계점들은 "소프트(soft)" 임계값 규칙에 의해 달성되는데, 이는 특정 빈(bin) 이상의 점수는 1로 결정론적으로 예측하고, 특정 빈 이하의 점수는 0으로 예측하며, 경계에 있는 빈에서는 확률적으로 결정하는 방식이다.

2. 다중 집단에 대한 교집합 도출:
   여러 집단(예: $A=0$ 및 $A=1$)에 대해 충분성을 만족시키려면, 결정 규칙이 모든 집단에 대해 동일한 $(p, q)$ 쌍을 산출해야 한다. 이는 개별 집단의 가능 영역의 교집합 $C_0 \cap C_1$을 찾는 과정에 해당한다.

• 저자들은 교집합의 경계 $\partial(C_0 \cap C_1)$가 각 집단 경계의 점별 최댓값(pointwise maximum)인 $q(p) = \max\{q_0(p), q_1(p)\}$로 특징지어짐을 보여준다.
• 이 교집합 경계 역시 조각별로 정의되며, 각 집단의 이산적 점수 빈(bin)에 의해 정의된 구간들을 반복적으로 순회함으로써 효율적으로 추적될 수 있음을 입증한다.

3. 최적화 알고리즘:
   기하학적 특성을 바탕으로 저자들은 알고리즘 1이라는 사후 처리 절차를 도출한다.

• 알고리즘은 집단 보정된 점수와 집단 멤버십만을 입력값으로 받는다.
• 알고리즘은 교집합 경계 $\partial(C_0 \cap C_1)$의 세그먼트를 순회한다.
• 각 세그먼트 내에서, 임의의 목적 함수(예: 손실 최소화 또는 분리로부터의 편차)를 평가하여 최적의 점을 찾는다.
• 알고|즘은 결정론적 임계값 규칙과 독립적인 베르누이 확률 변수의 혼합물(mixture)로 최적의 분류기를 구성하여, 출력값이 충분성을 정확히 만족하도록 보장한다.

주요 기여

• 정확한 특성 규명: 본 논문은 유한한 값의 집단 보정된 점수를 사용하는 분류기에 대해 달성 가능한 $(PPV, FOR)$ 쌍의 완전한 기하학적 설명을 제공하며, 경계가 조각별 곡선임을 식별하였다.
• 최적의 사후 처리: 예측 모델을 재학습하거나 원시 특징(raw features)에 접근하지 않고도 광범위한 목적 함수(손실 최소화 포함)에 대해 최적의 충분한 분류기를 구축하는 간단하고 정확한 알고리즘을 제시한다.
• 이산적 점수 처리: 연속적인 점수 분포를 요구하는 기존 연구와 달리, 본 방법론은 실무적으로 중요한 유한하고 이산적인 점수 설정에 특화되어 설계되었다.
• 트레이드오프 분석: 이 프레임워크는 분리(equalized odds)와의 불일치를 최소화하면서 충분성을 만족하는 분류기를 명시적으로 최적화할 수 있게 하며, 두 기준 사이의 일반적인 상충 관계를 인정한다.

결과
저자들은 세 가지 실증적 사례 연구를 통해 방법론을 검증한다:

1. FICO 점수: 신용도 데이터를 사용하여, 알고리즘은 비제약적 집단 인지 베이즈 분류기의 정확도 0.8819와 비교하여 0.8676의 정확도로 예측 패리티(공통 PPV 및 FOR)를 만족하는 분류기를 생성한다. 한 집단에 대한 최적 규칙은 확률적 결정(가능 영역의 내부)을 필요로 했던 반면, 다른 집단은 결정론적 임계값을 사용했다.
2. COMPAS 점수: 재범 위험 데이터를 사용하여, 본 방법론은 충분성을 만족하면서 0.6563의 정확도를 달성한다. 최적의 지점은 "흑인" 집단에서는 브레이크포인트(결정론적 임계값)에 위치하지만, "백인" 집단에서는 내부 영역에 위치한다.
3. ACS 소득: 소득 예측에 대한 엔드 투 엔드 구현에서, 사후 처리된 분류기는 평균 절대 PPV 격차를 $3.6 \times 10^{-2}$에서 $4.8 \times 10^{-3}$으로, FOR 격차를 $3.3 \times 10^{-2}$에서 $3.7 \times 10^{-3}$으로 줄이면서 0.8167의 정확도(비제약 시 0.8190)를 달성했다.

또한, 강건성 분석(robustness analysis)을 통해 입력 점수가 근사적으로만 보정된 경우에도, 발생하는 예측 패리티 위반은 최대 보정 오차의 두 배 이내로 선형적으로 제한됨을 보여준다.

의의 및 주장
본 논문은 단순한 임계값 적용이 실패하는 문제에 대해 엄격하고 정확한 해법을 제공한다고 주장한다. 가능 영역의 기하학적 구조를 활용함으로써, 저자들은 사후 처리된 점수만을 사용하여 정확도와 충분성 사이의 최적의 트레이드오프를 찾을 수 있게 한다.

저자들은 본 방법론이 원시 특징, 추가 레이블, 또는 예측 모델의 재학습을 요구하지 않으므로, 고위험 영역에서 공정한 결정을 배포하기 위한 실용적인 도구임을 강조한다. 또한, 보호 집단의 수가 증가함에 따라 가능 영역의 교집합이 비어 있을 가능성이 높아져 정확한 충분성 달성이 어려워질 수 있다는 한계를 인정한다. 따라서 향-후 연구는 두 개 이상의 집단 간 차이를 최소화하기 위해 엄격한 충분성을 완화하는 방향에 집중할 수 있다고 제안한다. 결론적으로, 본 논문의 접근 방식은 알고리즘 의사결정에서 정확도와 사회적 요구 사항 사이의 균형을 맞추는 새로운 도구를 제공한다.