기술적 요약: MESD – 교차적 하위집단 간 설명 공정성을 위한 위험 민감도 지표

문제 제기

현재 기계학습의 공정성 평가는 주로 결과 지향적이며, 보호 집단 간 예측의 통계적 일관성을 보장하기 위해 인구통계학적 평등 (Demographic Parity) 과 균등한 오즈 (Equalized Odds) 와 같은 지표에 의존합니다. 그러나 이러한 지표들은 절차적 불공정성을 탐지하지 못합니다. 즉, 모델이 통계적으로 공정한 결과를 산출하더라도 서로 다른 인구통계 집단별로 체계적으로 다른, 불안정하거나 편향된 추론 과정을 사용하는 상황을 놓치는 것입니다.

이 문제는 **교차성 (intersectionality)**으로 인해 더욱 심화됩니다. 모델은 단일 속성 (예: 인종 또는 성별 독립적) 으로 평가할 때 공정해 보일 수 있지만, 교차적 하위집단 (예: 흑인 여성) 에서는 상당한 불균형을 보이는 공정성 게리맨더링 (fairness gerrymandering) 현상을 나타낼 수 있습니다. 또한, 기존 절차적 공정성 지표들은 종종 반사실적 비교나 단일 보호 속성에 의존하여, 복잡하고 다차원적인 하위집단 교차점에서의 설명 안정성을 다루지 못합니다.

방법론

본 논문은 교차적 하위집단 간 설명 품질의 불균형을 정량화하도록 설계된 절차적 공정성 지표인 **다중 범주 설명 안정성 불균형 (Multi-category Explanation Stability Disparity, MESD)**을 제안합니다. MESD 는 UEF(Utility, Explainability, and Fairness, 유용성, 설명 가능성, 공정성) 라는 다목적 최적화 프레임워크에 통합됩니다.

1. MESD 지표

MESD 는 다음 세 단계의 견고한 절차를 통해 작동합니다:

• 교차적 하위집단 구성: 이 지표는 여러 보호 속성의 데카르트 곱 ($G = A_1 \times A_2 \times \dots \times A_m$) 을 통해 하위집단을 구성합니다. 이는 다중 소외된 개인의 고유한 경험을 포착합니다.
• 교란을 통한 안정성 평가: 설명 일관성을 측정하기 위해, 가우시안 노이즈와 확률적 특징 마스킹의 하이브리드 프레임워크를 사용하여 입력 인스턴스의 교란된 버전을 생성합니다. 그런 다음 원본 및 교란된 입력에 대해 여러 설명기 (SHAP 및 LIME 등) 를 결합한 **앙상블 귀속 벡터 (ensemble attribution vector)**를 계산합니다. 안정성은 이러한 설명 간의 유클리드 거리 역수로 정량화됩니다. 안정적인 설명은 1 에 가까운 점수를, 일관성 없는 설명은 0 에 가까운 점수를 산출합니다.
• 실증적 베이즈 축소 (Empirical-Bayes Shrinkage) 를 통한 레이블 인식 집계: 교차적 집단의 작은 표본 크기로 인한 오해의 소지가 있는 불균형 추정을 방지하기 위해, MESD 는 실제 레이블 ($y$) 에 조건부로 안정성 점수를 집계합니다. 이는 실증적 베이즈 (EB) 축소를 사용하여 작은 그룹의 불안정한 추정을 레이블별 평균 쪽으로 끌어당겨, 실제 불균형을 가리지 않으면서 분산을 줄입니다.
• CVaR 가중 위험 측정: 공정성 게리맨더링을 해결하기 위해 MESD 는 **조건부 위험 가치 (Conditional Value-at-Risk, CVaR)**를 사용합니다. 불균형을 평균내는 대신, 불균형 분포의 "최악의 경우" 꼬리에 초점을 맞춥니다. 이는 쌍별 안정성 불균형 ($D_{ij}$) 을 계산하고, 절차적 공정성이 낮은 (위험이 높은) 그룹이 포함된 쌍에 더 높은 가중치를 부여하여, 극단적인 하위집단 불안정성에 대해 지표가 민감하도록 보장합니다.

2. UEF 최적화 프레임워크

결과와 절차 모두에서 공정한 모델을 생성하기 위해, 저자들은 NSGA-II(Non-Dominated Sorting Genetic Algorithm II) 를 사용하는 다목적 최적화 프레임워크인 UEF를 소개합니다. UEF 는 다음 세 가지 목적을 동시에 최적화합니다:

1. 유용성 ($F_{perf}$): 예측 성능 (최대화된 AUC).
2. 결과 공정성 ($F_{out}$): 교차적 집단 간 최소화된 인구통계학적 평등 (Demographic Parity) 격차.
3. 절차적 공정성 ($F_{proc}$): 최소화된 MESD 점수.

최적화 후 **체비셰프 스칼라화 (Chebyshev scalarization)**를 적용하여 이러한 경쟁적인 목적을 균형 있게 유지하는 단일 모델을 파레토 프론트 (Pareto front) 에서 선택합니다.

주요 기여

1. MESD 지표: 공정성 게리맨더링을 탐지하기 위해 교차적 하위집단 분석, 설명 안정성 (교란에 대한 견고성), 그리고 위험 민감도 집계 (CVaR) 를 명시적으로 결합한 절차적 공정성 지표의 도입.
2. UEF 프레임워크: 유용성, 결과 공정성, 절차적 공정성을 공동으로 최적화하는 다목적 최적화 접근법으로, 이러한 차원들이 상호 배타적으로 취급되는 것이 아니라 균형 잡힐 수 있음을 입증.
3. 종합적 검증: 결과 지향적 공정성이 절차적 공정성을 보장하지 않으며, MESD 를 최적화함으로써 표준 지표로는 보이지 않는 불균형을 드러낸다는 실증적 증거.

실험 결과

저자들은 성인 소득 (Adult Income), 재범 (Recidivism), 독일 신용 (German Credit) 의 세 가지 벤치마크 데이터셋에 대해 MESD 와 UEF 를 평가했으며, 비교 대상으로는 경험적 위험 최소화 (ERM), 재가중 (RW), 축소 (RD), 그리고 적대적 편향 제거 (ADL) 의 네 가지 기준선을 사용했습니다.

• 균형 잡힌 성능: UEF 는 세 가지 목적 전반에 걸쳐 가장 균형 잡힌 성능을 일관되게 달성했습니다. 가장 복잡한 세 개의 보호 속성을 가진 성인 소득 데이터셋에서 UEF 는 동시에 가장 높은 AUC 와 F1 점수를 달성하면서도 가장 낮은 인구통계학적 평등 (DP) 과 MESD 점수를 기록했습니다.
• 파레토 효율성: UEF 는 모든 데이터셋과 폴드에서 15 개의 비우세 해 중 12 개를 생성했습니다. 특히, 교차적 공정성 게리맨더링이 가장 광범위하게 발생하는 성인 소득 데이터셋의 5 개 폴드 모두에서 비우세 해를 달성한 유일한 방법이었습니다.
• 숨겨진 불균형 탐지: 결과 공정성을 최적화한 기준선 방법들 (RD 등) 은 종종 낮은 DP 격차를 달성했지만 높은 MESD 점수를 보였으며, 이는 그룹 간 일관된 추론을 보장하지 못했음을 확인시켜 주었습니다.
• 절차 제거 연구 (Ablation Studies):
  • CVaR: CVaR 가중치를 제거하고 (대신 분산이나 최대 격차 사용) 작은 하위집단의 최악의 경우 불균형을 가렸습니다.
  • EB 축소: 축소 없이 작은 교차적 그룹은 높은 분산으로 인해 인위적으로 낮은 안정성 점수를 보였으며,缩소는 이러한 추정을 정규화했습니다.
  • 하이퍼파라미터: MESD 는 교란 기준선에 대해 견고하며 충분한 교란 횟수 ($K \ge 20$) 로 안정화되는 것으로 나타났습니다.

중요성과 주장

본 논문은 분배적 정의 (결과) 와 절차적 정의 (과정) 간의 이론적 구분에 기반하여, MESD 를 AI 의 절차적 정의에 필수적인 구성 요소로 위치시킵니다. 저자들은 다음과 같이 주장합니다:

• 절차적 공정성은 독특함: 모델이 서로 다른 그룹에 대해 다른, 불안정한 추론에 의존한다면 통계적으로 공정할 수 있으나 절차적으로는 불공정할 수 있습니다. 이러한 이질성은 의사결정 시스템의 정당성을 훼손합니다.
• 교차성은 중요함: 단일 축 공정성 분석은 다중 소외된 개인의 경험을 흐리게 만듭니다. MESD 는 여러 보호 속성이 교차하는 지점에서 설명 안정성을 명시적으로 다루는 최초의 지표 중 하나입니다.
• 최적화 트레이드오프: 유용성, 결과, 절차적 공정성을 공동으로 최적화하면 단일 목적에 최적화된 모델보다 우수한 모델을 산출하며, 특히 복잡하고 고차원적인 공정성 지형에서 그렇습니다.
• 규제 관련성: 이 연구는 의사결정의 결과뿐만 아니라 과정을 감사할 수 있는 메커니즘을 제공함으로써 (예: EU AI 법과 같은) 신흥 규제 프레임워크의 준수를 지원합니다.

저자들은 MESD 가 사후 설명기 (근사치임) 에 의존하며 현재 이진 보호 속성을 가진 표 형식 데이터로 제한된다는 한계를 인정합니다. 향후 연구는 처리 중 설명 가능성과 연속형 또는 비표 형식 모달리티로의 확장을 탐구해야 한다고 제안합니다.