기술 요약: FairBED: 더 공정한 데이터 수집을 위한 베이지안 실험 설계 접근법

1. 문제 정의

공정성을 보장하기 위한 현재의 머신러닝 프레임워크는 주로 기존에 수집된 데이터셋으로부터 공정한 모델을 학습시키는 데 집중되어 있습니다. 그러나 이러한 접근 방식은 데이터 자체가 이미 사회적 편향과 원치 않는 상관관계를 인코딩하고 있을 수 있기 때문에 근본적인 한계가 있습니다. 데이터 재가중치 부여(reweighting), 제약 최적화(constrained optimization), 또는 전처리 단계의 "데이터 복구(data repair)"와 같은 개입은 이러한 문제를 다운스트림에서 완화하려고 시도하지만, 소스 데이터 자체에 내재된 불공정성을 완전히 극복할 수는 없습니다.

저자들은 데이터 획득 과정 자체를 수정하여, 공정한 예측 모델을 훈련하는 데 본질적으로 더 적합한 데이터를 수집해야 한다고 주장합니다. 핵심 과제는 두 가지 상충하는 목표 사이의 균형을 맞추는 데이터 획득 전략을 설계하는 것입니다:

1. 정보성(Informativeness): 데이터는 효과적인 다운스트림 예측과 일반화를 보장하기 위해 관심 있는 타겟 변수에 대해 매우 높은 정보량을 유지해야 합니다.
2. 공정성(Fairness): 데이터는 민감한 속성(예: 성별, 인종, 피부색)에 대해 무정보적(uninformative)이어야 하며, 이를 통해 다운스트림 모델이 이러한 속성을 악용하는 것을 방지하여 자연스럽게 공정성을 향상시켜야 합니다.

2. 방법론

2.1 개념적 프레임워크: "공정한 세계(Fair Worlds)"

본 논문은 민감한 속성($\phi$)이 타겟 변수($\theta$)와 인과적으로 독립적인 "공정한 세계"라는 개념을 도입합니다. 이러한 세계에서 공정한 예측기는 $\theta$를 추정하기 위해 $\phi$를 사용할 필요가 없습니다. 저자들은 데이터셋이 이 독립성을 얼마나 위반하는지를 정량화함으로써 데이터의 불공정성을 측정할 것을 제안합니다. 구체적으로, 만약 데이터셋이 $\theta$와 $\phi$ 사이의 정보 전달을 허용한다면, 이는 불공정한 것으로 간주됩니다. 목표는 이 정보 전달을 최소화하면서 $\theta$에 대한 유용성을 유지하도록 실험 설계 과정을 가이드하는 것입니다.

2.2 데이터에 대한 공정성 지표

저자들은 데이터가 민감한 속성에 대해 드러내는 정보에 기반하여 데이터셋의 공정성을 정량화하는 두 가지 새로운 지표를 정의합니다:

• 무조건적 공정성 ($F_u$): $\phi$에 대한 기대 정보 이득(Expected Information Gain, EIG)의 음의 값으로 정의됩니다. 이는 $\phi$에 대해 데이터가 주변적으로(marginally) 얼마나 많은 정보를 드러내는지를 측정합니다.
  $$F_u(\pi_d) = -\max_{m \in \mathcal{M}} \text{EIG}^m_\phi(\pi_d)$$
• 조건부 공정성 ($F_c$): $\theta$가 주어졌을 때 $\phi$에 대한 조건부 EIG의 음의 값으로 정의됩니다. 이는 더 엄격한 지표로, 데이터가 특정 $\theta$ 값에 대해 $\phi$를 드러내지 않도록 보장하며, $\theta$를 알게 되었을 때 $\phi$가 복구 가능해지는 "설명 제거(explaining away)" 효과를 방지합니다.
  $$F_c(\pi_d) = -\max_{m \in \mathcal{M}} \mathbb{E}_{p(\theta)}[\text{EIG}^m_{\phi|\theta}(\pi_d)]$$

여기서 $\pi_d$는 설계 정책(design policy)을 나타내며, 모델 집합 $\mathcal{M}$에 대한 최대화는 모델 결함에 대한 강건성을 보장합니다.

2.3 FairBED 목적 함수

정보가 풍부한 데이터를 얻는 것과 공정성을 유지하는 것 사이의 균형을 맞추기 위해, 저자들은 두 가지 FairBED 목적 함수를 구성합니다. 이 목적 함수들은 타겟 $\theta$에 대한 EIG를 최대화하는 동시에, $\phi$(또는 $\phi|\theta$)에 대한 EIG에 대해 페널티를 부여합니다.

• 무조건적 FairBED ($R_u$):
  $$R_u(\pi_d) = \text{EIG}_\theta(\pi_d) - \beta \text{EIG}_\phi(\pi_d)$$
• 조건부 FairBED ($R_c$):
  $$R_c(\pi_d) = \text{EIG}_\theta(\pi_d) - \beta \mathbb{E}_{p(\theta)}[\text{EIG}_{\phi|\theta}(\pi_d)]$$

이 식들에서 $\beta > 0$은 공정성 강제 적용의 강도를 조절하는 하이퍼파라미터입니다. 저자들은 이러한 목적 함수들이 결합 모델(joint model) 하에 정의되지만, 실용성을 위해 주변 모델(marginal models)을 사용하여 최적화될 수 있다고 언급합니다. 결정적으로, 저자들은 $\theta$에 대한 정보가 풍부한 데이터를 수집하는 것이 간접적인 불공정성으로 나타날 수 있는 일반화 격차를 피하기 위해 현실 세계의 공정성에 필수적이라고 주장합니다.

2.4 능동 학습(Active Learning)에의 적용

이 프레임워크는 능동 학습(AL) 환경에 맞게 조정되었습니다. 이 문맥에서 타겟 $\theta$는 테스트 시점의 입력과 타겟 레이블의 쌍 $(x^*, y^*_\theta)$에 해당하며, 민감한 속성 $\phi$는 $(x'^*, y^*_\phi)$에 해당합니다. 목적 함수는 다음과 같이 수정된 기대 예측 정보 이득(Expected Predictive Information Gain, EPIG)이 됩니다:
$$R_{\text{FairEPIG}}(x) = I(y_\theta; (x^*, y^*_\theta) | x) - \beta I(y_\phi; (x'^*, y^*_\phi) | x)$$
이를 통해 타겟 작업에 대한 예측을 개선하는 동시에, 민감한 속성의 학습 가능성을 의도적으로 제한하는 쿼리 지점(query points)을 선택할 수 있습니다.

3. 주요 기여

1. 데이터 공정성의 새로운 정식화: 본 논문은 초점을 모델의 공정성에서 데이터 자체의 공정성으로 전환하여, 공정성을 민감한 속성에 대한 정보 누출의 부재로 정의했습니다.
2. FairBED 목적 함수: 타겟 정보성과 민감한 속성 정보성 사이의 명시적인 트레이드오프를 다루는 실용적인 베이지안 실험 설계(BED) 목적 함수를 도입했습니다.
3. 인구통계학적 패리티(Demographic Parity)와의 이론적 연결: 저자들은 만약 조건부 공정성 지표 $F_c(\pi_d) = 0$이라면(즉, 데이터가 $\theta$가 주어졌을 때 $\phi$에 대한 정보를 전달하지 않는다면), 이 데이터로 학습된 다운스트림 예측기가 **인구통계학적 패리티(DP)**를 달성한다는 것을 증명했습니다. 이는 $\theta$와 $\phi$의 사전 확률이 분리 가능하고 다운스트림 모델이 $\phi$를 입력으로 받지 않는다는 가정하에 성립합니다.
4. 실증적 검증: FairBED가 여러 데이터셋과 모델 아키텍처에 걸쳐 무작위 획득(random acquisition) 및 전통적인 BED보다 일관되게 우수한 공정성-정확도 트레이드오프를 달성을 보여주었습니다.

4. 실험 결과

저자들은 세 가지 서로 다른 작업에 대해 FairBED를 평가했습니다:

1. 소스 위치 찾기 (Source Location Finding): 타겟 좌표($\theta$)를 추론하는 동시에 민감한 좌표($\phi$)를 학습하는 것을 피하는 합성 BED 벤치마크입니다. 결과는 FairBED가 타겟 축을 따라 퍼지는 동시에 민감한 축에 대해서는 사전 평균값으로 수렴하여, $\theta$ 학습 손실을 최소화하면서 $\phi$의 학습을 효과적으로 억제함을 보여주었습니다.
2. 학생 졸업 예측 (Student Graduation Prediction): 졸업 여리($y_\theta$)를 예측하는 이진 분류 작업이며, 성별($y_\phi$)을 민감한 속성으로 취급했습니다.
3. 인구 조사 소득 예측 (Census Income Prediction): 소득 수준($>50k$)을 예측하며, 성별을 민감한 속성으로 취급했습니다.
4. CelebA: "웃음(Smiling)"을 예측하며 "성별(Gender)"을 민감한 속성으로 취급하는 대규모 이미지 데이터셋입니다.

주요 결과:

• 공정성-정확도 트레이드오프: FairBED는 무작위 획득 및 표준 EPIG를 압도하는 파레토 최적 프런트(Pareto-optimal fronts)를 달성했습니다. 이는 민감한 속성의 예측 가능성을 크게 줄이는 동시에 타겟 작업에 대한 높은 정확도를 유지했습니다.
• 데이터셋 수준의 공정성: 동일한 FairBED로 획득한 데이터셋에 다양한 다운스트림 모델(Random Forest, XGBoost, MLP, SVM)을 학습시킨 결과, 인구통계학적 패리티(DP)와 등가 오차(Equalized Odds, EO) 비율이 일관되게 개선되었습니다. 이는 공정성 향상이 특정 모델의 산물이 아니라 획득된 데이터 자체의 특성임을 확인시켜 줍니다.
• 상보성: FairBED는 다운스트림 공정성 개입(예: Learned Fair Representations 또는 Reject Option Classification)과 결합될 수 있음을 보여줍니다. FairBED와 다운스트림 방법의 결합은 각각을 단독으로 사용했을 때보다 더 나은 결과를 냈으며, 이는 두 방법이 대체 관계가 아닌 보완 관계임을 시사합니다.
• 강건성: FairBED의 이점은 다양한 모델 아키텍처와 레이블 예산(label budget)에 걸쳐 일반화되었습니다.

5. 의의 및 주장

본 논문은 편향의 근본 원인인 데이터 획득 과정을 다룸으로써 알고리즘 공정성에 대한 새로운 관점을 제공한다고 주장합니다. FairBED는 민감한 속성 정보에 대한 페널티를 포함하여 데이터의 효용성을 공식화함으로써, "본질적으로 더 공정한" 데이터를 수집하기 위한 원칙적인 접근법을 제시합니다.

저자들은 다음을 강조합니다:

• 업스트림 개입의 중요성: 다운스트림 완화 전략은 데이터에 이미 존재하는 편향으로 인해 무력화되는 경우가 많습니다. FairBED는 이를 소스 단계에서 해결합니다.
• 일반화: 공정성 향상은 데이터셋에 내재되어 있으므로, 이 데이터로 학습된 어떤 모델(특정 공정성 제약이 없는 모델이라도)도 자연스럽게 더 나은 공정성 특성을 보이게 됩니다.
• 실용성: 이 접근 방식은 표준 베이지안 실험 설계 및 능동 학습 프레임워크와 호환되며, 데이터 획득 단계에서 민감한 레이블이 없더라도 미리 학습되었거나 수작업으로 만들어진 타겟 및 민감 속성의 주변 모델만 있으면 됩니다.

이 연구는 공정한 AI 시스템을 향한 길은 단순히 모델링하는 것이 아니라, 데이터를 어떻게 수집하느냐에서 시작된다는 점을 시사하며 공정성을 고려한 데이터 획득에 대한 새로운 연구 방향을 제시합니다.