Trade-offs Between Individual and Group Fairness in Machine Learning: A Comprehensive Review

기술 요약: 머신러닝에서의 개인 간 공정성과 집단 간 공정성 사이의 트레이드오프

문제 정의
알고리즘 공정성은 고위험 의사결정 시스템(예: 형사 사법, 채용, 의료)에서 매우 중요한 관심사가 되었습니다. 기존 문헌은 전통적으로 서로 구별되며 종종 상충하는 두 가지 개념인 **집단 공정성(Group Fairness, GF)**과 **개인 공정성(Individual Fairness, IF)**으로 이분화되어 왔습니다.

• 집단 공정성은 민감한 속성(예: 인구통계학적 특성)으로 정의된 인구통계학적 하위 집단 간의 결과 또는 오류율의 균등성에 초점을 맞춥니다(예: 인구통계학적 패리티, 등가 오차).
• 개인 공정성은 집단 구성원 여부와 관계없이 유사한 개인에 대한 일관된 처우를 강조하며, 이는 일반적으로 리프시츠 연속성(Lipschitz continuity)이나 유사도 메트릭을 통해 정형화됩니다.

두 개념 모두 형평성 있는 처우를 목표로 하지만, 수학적으로는 빈번하게 양립 불가능합니다. 엄격한 집단 패리티를 강제하는 것은 분포 불균형을 교정하기 위해 유사한 개인을 집단 구성원에 따라 다르게 대우할 것을 요구하며, 이는 개인 공정성을 위반하게 됩니다. 반대로, 엄격한 개인적 일관성을 강제하면 집단 수준의 격차가 보존되거나 재현될 수 있습니다. 기존 서베이들은 주로 이러한 개념들을 개별적으로 다루거나, ML 파이프라인의 위치(전처리, 인처리, 후처리)에 따라 분류할 뿐, 두 공정성 개념 간의 트레이드오프를 명시적으로 분석하지는 않습니다. 본 논문은 두 가지 상충하는 목적을 공동으로 관리하는 방법론들을 체계적으로 검토하는 과정에서의 공백을 다룹니다.

연구 방법론
저자들은 통합된 프레임워크 내에서 GF와 IF를 명시적으로 통합하는 연구들을 식별하기 위해 체계적인 문헌 검토를 수행했습니다.

• 검색 전략: Web of Science, IEEE, arXiv를 대상으로 개인 공정성 관련 용어(예: "consistency", "Lipschitz")와 집단 공정성 관련 용어(예: "demographic parity", "equalized odds")를 결합한 불리언 쿼리를 실행했습니다.
• 필터링 기준: 연구가 공동 최적화, 제약 세트, 또는 두 가지 공정성 개념을 동시에 고려하는 평가 프레임워크를 정형화한 경우에만 논문을 선정했습니다. 단순히 동기 부여 차원에서 두 개념을 언급했을 뿐 기술적 통합이 없는 논문은 제외되었습니다.
• 분류 체계 구축: 저자들은 표준적인 파이프라인 단계별 분류(전/인/후처리)에만 의존하는 대신, 공정성 메커니즘에 기반한 세밀한 분류 체계를 개발했습니다. 이 접근 방식은 특정 파이프라인 단계와 무관하게, GF-IF 트레이드오프를 어떻게 공식화하고 관리하는지에 따라 방법론들을 그룹화합니다.

주요 기여 및 분류 체계
본 논문은 하이브리드 공정성 접근법을 세 가지 주요 메커니즘 패밀리로 나누어 종합적인 검토를 제공합니다.

1. 표현 또는 데이터 수정 기반 전략:

   • 데이터 변환(Data Transformation): 로컬 이웃 구조를 보존하면서 민감한 집단과 결과의 결합 분포를 균형 있게 맞추기 위해 입력 데이터를 수정합니다(예: 레이블 교정, 피처 편집).
   • 재가중치 부여 및 리샘플링(Reweighting and Resampling): 민감한 속성과 결과가 독립적인 타겟 분포에 근사하도록 인스턴스별 가중치를 조정하며, 이때 디스패리티(격차)에 대한 개별 기여도를 평가하기 위해 샤플리 값(Shapley values)을 사용하기도 합니다.
   • 표현 및 임베딩(Representation and Embedding): 개인을 유사한 관측치들이 그룹화되는 잠재 공간으로 매핑합니다. 이는 구조적으로 IF를 강제하는 동시에(클러스터 내에서는 구별 불가능함), 표현의 회복 가능성이나 클러스터 구성에 대한 제약을 통해 GF를 촉진합니다.
   • 증강 및 대조 학습(Augmentation and Contrastive): 불변성(invariance)이나 매끄러움(smoothness)을 강제하기 위해 민감한 속성을 변화시킨 합성 대조 샘플을 생성하여, 국소적 일관성과 집단 격차를 모두 해결합니다.

2. 정규화 또는 최적화 목적 함수 기반 전략:

   • 정규화(Regularization): 손실 함수에 집단 및 개인 수준 모두에서 불공정한 행동을 벌하는 항을 추가합니다(예: $\lambda_{GF}\Phi_{group} + \lambda_{IF}\Psi_{individual}$). 이를 통해 정확도, GF, IF 사이의 파레토 최적해(Pareto frontier)를 탐색할 수 있습니다.
   • 메트릭 기반 접근법(Metric-based Approaches): 사전 정의된 메트릭에 의해 유사하다고 판단되는 개인 쌍 간의 예측 차이에 대해 벌칙을 부과함으로써 기하학적 구조를 손실 함수에 직접 삽입합니다. 이는 리프시츠 연속성을 강제하며, 특정 조건 하에서 간접적으로 집단 공정성을 충족할 수 있습니다.
   • 적대적 학습(Adversarial Learning): 예측 오차를 최소화하는 예측기를 훈련시키는 동안, 적대적 모델이 민감한 속성을 복구하려고 시도합니다. 확장된 모델들은 집단 불변성과 함께 국소적 일관성을 보장하기 위해 쌍체 유사도 벌칙이나 대조적 손실을 포함합니다.

3. 국소적 또는 사후 처리 기반 조정 전략:

   • 임계값 설정(Thresholding): 등가 오차와 같은 기준에 부합하도록 집단별 결정 임계값을 도입합니다. 확장된 방식은 IF와 부분적으로 일치시키기 위해 유사도 메트릭을 통합합니다.
   • 거절 옵션(Reject-option): 결정 경계 근처의 "모호 영역(ambiguity region)"에서 작동하며, 예측을 선택적으로 수정하여 격차를 줄이고 국소적 불일치를 동시에 교정합니다.

결과 및 경험적 관찰
본 검토는 선택된 문헌을 구현 및 벤치마킹 측면에서 분석했습니다:

• 파이프라인 분포: 인처리(In-processing) 방법이 60%로 가장 많았으며, 전처리(25%)와 후처리(19%)가 그 뒤를 이었습니다.
• 지배적인 메커니즘: 정규화가 가장 흔한 하위 분류였으며, 메트릭 기반 접근법과 표현 학습이 그 다음이었습니다.
• 벤치마킹: 검토된 연구의 약 20%가 Adult, COMPAS, German Credit와 같은 좁은 범위의 데이터셋에 집중되어 있습니다. 이는 컴퓨터 비전이나 자연어 처리와 같은 고차원 도메인으로의 일반화 가능성에 대한 우려를 낳습니다.
• 계산 비용: 계산 효율성은 거의 주요 관심사가 아니었습니다. 일부 방법론이 높은 계산 비용(예: 수 시간의 훈련 또는 반복적인 재훈련 필요)을 요구한다고 언급되었으나, 공정성 목적, 정확도, 그리고 계산 비용 간의 트레이드오프를 체계적으로 분석한 연구는 드뭅니다.
• 재현성: 검토된 방법 중 56%만이 공개적으로 접근 가능한 코드를 제공하고 있어, 독립적인 검증과 실질적인 채택을 제한하고 있습니다.

의의 및 주장
본 논문은 정의, 알고리즘, 평가 설정 전반에 걸쳐 GF와 IF 사이의 트레이드오프를 관리하는 방법론을 명시적으로 분석한 최초의 체계적 검토라고 주장합니다. 그 의의는 다음과 같습니다:

1. 하이브리드 접근법의 종합: GF와 IF를 개별적으로 연구하는 것을 넘어, 이들이 어떻게 공동으로 운용될 수 있는지 명확히 합니다.
2. 트레이드오프의 명확화: 이러한 개념 간의 충돌이 단순한 기술적 산물이 아니라 더 깊은 규범적 긴장을 반영한다는 점을 강조하며, 기존 방법론들이 이들 사이의 파레토 최적해를 탐색하는 다양한 방식을 제공함을 밝힙니다.
3. 공백 식별: 저자들은 이 분야가 아직 성숙 단계의 초기 단계에 있음을 겸허히 언급합니다. 이들은 계산 비용에 대한 체계적 평가 부족, 다양한 도메인 연구의 희소성, 실제 제약 조건 하에서의 파라미터 선택 가이드 부재, 그리고 훈련 중 민감한 속성이 완전히 레이블링 되어 있다는 강력한 가정 등의 핵심적인 공백을 식별했습니다.
4. 향후 방향: 향후 연구는 더 유연한 프레임워크(경직된 패리티를 넘어), 인과적 및 법적 관점과의 통합, 그리고 현실적인 제약 조건(예: 검열된 데이터, 교차성) 하에서 작동하는 방법론에 집중해야 한다고 제안합니다.

저자들은 GF와 IF가 수학적으로 상충하는 경우가 많지만, 이러한 트레이드오프를 명시적으로 관리하는 방법론들이 더욱 책임감 있고 투명한 알고리즘 의사결정을 향한 중요한 진전이며, 개인과 집단 모두에서 신뢰성을 제공하는 알고리즘을 설계하기 위한 토대를 제공한다고 결론짓습니다.