기술 요약: 데이터가 불확실할 때 공정성 감사(Fairness Audits)는 얼마나 신뢰할 수 있는가?

문제 정의

공정성 감사는 책임 있는 머신러닝 배포를 위해 필수적이지만, 보호 속성 레이블의 결측(protected-label missingness) 상황에서의 신뢰성은 여전히 제대로 파악되지 않은 상태이다. 실제 환경에서 인구통계학적 속성(예: 인종, 성별)은 데이터 미수집, 사용자 거부, 또는 기록 불일치로 인해 누락되는 경우가 많다. 이러한 레이블이 부재할 경우, 감사인은 그룹 수준의 불평식(disparities)을 정확히 계산하거나 적절한 완화 방법론을 선택할 수 없다.

본 연구가 다루는 핵심 과제는 데이터 결측으로 인한 감사 불안정성과 감사 프로세스 자체에 내재된 불안정성(예: 시드 간 변동, 유사한 후보 방법론 간의 차이, 결정론적 타이 브레이킹)을 구분하는 것이다. "일반적인" 감사 노이즈에 대한 기준점(baseline) 없이는, 누락된 레이블로 인해 발생하는 권장 방식의 변화를 표준적인 확률적 변동(stochastic variance)이 아닌, 감사 프레임워크의 치명적인 실패로 오해할 위험이 있다.

방법론

저자들은 결측의 영향을 내재적 감사 노이즈로부터 분리하기 위해 **시드 교정 스트레스 테스트(seed-calibrated stress test)**를 제안한다. 방법론은 다음과 같다:

1. 실험 설정:

   • 태스크: ACS/Folktables 데이터셋의 4가지 이진 분류 태스크 (소득, 고용, 공공 보장, 이동성).
   • 보호 관점(Protected Views): 인종(RAC1P), 성별(SEX), 그리고 그 교차 항목(RAC1P×SEX).
   • 후보 방법론: 경험적 위험 최소화(ERM), 특성 혼합(Feature Mixing), 재가중치 부여(Reweighing), 보호 그룹 혼합(Protected-Group Mixing), 등가 오차 임계값 최적화(Equalized-Odds Threshold Optimization).
   • 선택 기준: 정확도 제약 하의 등가 오차(EO), 인구통계적 패리티(DP), 최악 그룹 정확도(WGA), 교차적 EO.

2. 결측 레짐(Missingness Regimes):

   • 완전 레이블 오라클 ($r_0$): 모든 보호 레이블이 가용함.
   • 무작위 결측(MCAR): 레이블을 80%, 60%, 50%, 40%, 20%, 10%, 0% 비율로 숨김.
   • 비무작위 결측(MNAR): 특정 MCAR 타겟(50%, 20%, 10%)에 맞춰 비대칭적 레이블 접근 허용 (다수 집단은 더 높은 가용성을 유지).
   • 평가: 평가 단계에서는 항상 레이벨을 유지하여 메트릭이 실제 정답(ground truth)을 기준으로 계산되도록 함. 즉, 결측은 훈련 및 사후 처리 완화 단계에만 영향을 미침.

3. 교정 메커니즘:

   • 시드-쌍 널(Seed-Pair Null): 완전한 레이블을 사용하여 서로 다른 무작위 시드($s, s'$)로 감사를 재실행함. 이 과정에서 발생하는 권장 방식의 변경 빈도를 통해 기초적인 "노이즈 플로어(noise floor)"를 설정함.
   • 매칭 초과 플립 비율($\Delta_c(r)$): 결측 상황에서 관찰된 플립(변경) 비율과 시드-쌍 널 사이의 차이. 양(+)의 $\Delta$ 값은 결측이 일반적인 감사 변동성을 넘어선 불안정성을 유발함을 의미함.
   • 숨겨진 회귀 스크린(Hidden-Regression Screen): 단일 축 공정성(예: 인종 또는 성별)은 개선하지만 교차적 결과(예: 인종×성별)나 최악 그룹 정확도(WGA)를 악화시키는지 확인.

4. 검증: 더 높은 변동성을 가진 모델에 대한 견고성을 테스트하기 위해 랜덤 포레스트(Random Forest) 기본 학습자를 사용하여 2차 실험을 반복함.

주요 결과

1. 결측은 종종 시드 널(Seed Null)보다 낮은 수준에 머문다

결측이 감사를 불안정하게 만들 것이라는 직관과는 반대로, 본 연구는 양(+)의 가용성을 가진 결측 상황이 대개 완전 레이블 기반의 시드 플로어(seed floor)를 넘어서지 않는다는 것을 발견했다.

• 원시 플립 비율(Raw Flip Rates): 결측 레이블 비교의 37.3%에서 방법론 선택이 변경됨.
• 시드-널 기준선: 완전한 레이블을 사용한 시드-쌍 비교의 53.8%에서 플립이 발생함.
• 교정된 결과: 교정 후, 대부분의 결측 레짐(MCAR 및 가용성이 0%보다 큰 MNAR)은 시드 노이즈 플로어보다 낮은 수준에 위치함. 오직 0%(레이블 없음) 엔드포인트만이 결정론적 타이 브레이킹 규칙 때문에 시드 플로어를 초과함(+6.3 퍼센트 포인트).

2. 후보 집합의 구성이 중요하다

"플립 비율"은 후보 집합에 매우 민감하다. 감사가 {ERM, 재가중치 부여, 임계값 최적화}로 제한될 경우, 원시 플립 비율은 시드 널(39.8%) 대비 33.8%로 감소한다. 이는 겉으로 보이는 취약성이 근본적인 감사 로직의 실패라기보다, 타이 브레이킹 규칙을 트리거하는 유사한 방법론들을 포함함으로써 발생하는 인위적인 현상임을 시사한다.

3. 임계값 최적화가 교차적 해악을 유발한다

식별된 가장 심각한 신뢰성 실패는 **숨겨진 교차적 회귀(hidden intersectional regression)**로, 이는 단일 축 공정성 이득이 하위 그룹의 해악을 은폐하는 현상이다.

• 전체 숨겨진 회귀율: 69.9% (시드 널 55.0% 대비 교정됨).
• 주요 원인: **임계값 최적화(Threshold Optimization)**가 주된 원인이며, 이 방법의 숨겨진 회귀율은 **94.2%**에 달함. 이 방법은 단일 축 EO 메트릭을 개선하는 동시에 최악 그룹 정확도(WGA)를 심각하게 떨어뜨리는 경우가 빈번함(중앙값 12.34 pp 하락).
• 기타 방법론: 재가중치 부여와 특성 혼합은 각각 29.6%와 36.2%의 더 낮은 숨겨진 회귀율을 보이며, 임계값 최적화를 제외하면 시드 널 이하의 수준을 유지함.

4. 기본 학습자 변동성에 대한 견고성

변동성이 더 큰 랜덤 포레스트를 사용한 검증에서도 주요 결과는 일관되게 나타났다:

• 원시 플립 비율은 약간 증가(37.3%에서 41.1%로)했으나, 결측의 상대적 효과 순위는 일관되게 유지됨.
• 임계값 최적화에 의해 주도되는 숨겨진 회귀 패턴(93.5% 비율) 역시 지속되었으며, 이는 해당 실패 모드가 모델의 문제가 아니라 특정 방법론의 문제임을 확인시켜 줌.

의의 및 주장

본 논문은 보호 레이블의 결측을 적절한 교정 없이 감사 취약성의 증거로 취급해서는 안 된다고 주장한다. 저자들의 주장은 다음과 같다:

1. 시드-널 교정의 필요성: 단순한 민감도 분석(예: "레이블이 숨겨졌을 때 방법이 바뀌었다")은 오해의 소지가 있다. 감사는 반드시 변화가 완전한 레이블 하에서의 고유 변동성을 초과하는지 보고해야 한다.
2. 맥락적 보고: 감사 보고서에는 다음 사항이 포함되어야 한다:
   • 시드-널 교정: 결측 효과를 노이즈와 구분하기 위함.
   • 후보 집합의 맥락: 타이 브레이킹 인위적 효과를 고려하기 위함.
   • 교차적 결과: 단일 축의 이득이 교차적 해악을 은폐하는 숨겨진 회귀를 탐지하기 위함.
3. 특정 실패 모드: 본 연구는 임계값 최적화를 레이블이 희소할 때 "노이즈 플로어"를 상회하는 숨겨진 회귀를 생성할 수 있는 고위험 방법론으로 지목한다.
4. 실행 가능한 가용성 곡선: 감사는 레이블 가용성 스펙트럼에 따라 방법론이 어떻게 작동하는지 시각화하여, 권장 방식의 변경과 메트릭 저하를 구분하여 보여주어야 한다.

요약하자면, 본 연구는 결측 데이터의 영향을 오해하는 것을 방지하기 위한 진단 프레임워크를 제공하며, 관찰된 많은 불안정성이 일반적인 감사 프로세스의 변동성이나 특정 방법론의 동작(예: 임계값 최적화)에서 기인한 것임을 강조한다.