Position: Beyond Sensitive Attributes, ML Fairness Should Quantify Structural Injustice via Social Determinants

기술 요약: 민감한 속성을 넘어, ML 공정성은 사회적 결정요인을 통해 구조적 불의를 정량화해야 한다

문제 정의
현재의 알고리즘 공정성 연구는 주로 민감한 속성(예: 인종, 성별, 젠더)에 따른 차별을 불공정성으로 정의한다. 저자들은 이러한 접근 방식이 개인 수준의 편향은 다루지만, **사회적 결정요인(social determinants)**을 통해 구현되는 **구조적 불의(structural injustice)**를 포착하는 데는 실패한다고 주장한다. 사회적 결정요인은 맥락적 변수(예: 지역 사회 결핍, 학교 재정 지원, 환경적 노출)로, 개인보다는 장소, 제도 또는 정책의 수준에서 정의되며 기회와 결과의 형태를 결정한다. 기존의 기술적 패러다임은 이러한 맥락적 요인들을 정규화해야 할 노이즈로 취급하거나 데이터 처리 과정에서 완전히 삭제하는 경향이 있으며, 이로 인해 구조적 불의를 보이지 않게 만든다. 결과적으로, 민감한 속성에만 집중하는 완화 전략은 의도치 않게 새로운 형태의 구조적 불의를 초래하거나 불평려의 근본 원인을 해결하지 못할 수 있다.

방법론
본 논문은 개념적 분석, 이론적 모델링, 그리고 실증적 검증을 결합한 다각적인 접근 방식을 채택한다:

1. 개념적 프레임워크: 저자들은 **민감한 속성(Sensitive Attributes)**을 내재적이고 보호받는 개인적 특성으로 정의하고, **사회적 결정요인(Social Determinants)**을 세 가지 기준을 충족하는 맥락 수준의 변수로 정의한다: (1) 맥락 수준(예: 이웃/지역)에서 정의됨, (2) 사회 구조적 내용(정책이나 자원 배분에 의해 형성됨)을 특징으로 함, (3) 외생적 계층화(개인의 특성에서 유도되지 않은 그룹화)를 포함함.
2. 이론적 모델링: 민감한 속성 중심의 완화 전략(예: 할당제)과 구조적 정의 사이의 긴장을 분석하기 위해 정형화된 대학 입시 모델을 구축한다. 이 모델은 지역별 인구 통계적 구성과 학업 준비도의 확률적 지배(stochastic dominance)를 통합하여, 완화 전략이 의도치 않은 부담을 생성하는 폐쇄형 조건(closed-form conditions)을 도출한다.
3. 실증 분석 (인구 조사 데이터): 저자들은 미국 인구 조사 공공 사용 마이크로데이터 구역(PUMAs)을 지역 결핍 지수(ADI)와 연결한다. 이들은 특정 인구 집단(예: 아프리카계 여성)의 소득 분포를 다양한 수준의 지역 결핍도에 따라 시각화하여, 사회적 결정요인이 민감한 집단 내에서 어떻게 이질성을 만들어내는지 입증한다.
4. 실증 분석 (헬스케어): OSF HealthCare의 비식별 기록(약 54,000건의 유방암 검진 기록)을 사용하여 유방암 검진 패턴을 분석한다. 저자들은 "부유한" 지역과 "가난한" 지역(ADI로 정의됨) 간의 검진 연령을 비교하고, 사회적 결정요인을 겨냥한 정책 개입(예: 가난한 지역의 검진 패턴 개선)이 조기 발견율에 미치는 영향을 평가하기 위해 준합성 시뮬레이션(semi-synthetic simulation)을 수행한다.
5. 기술적 비판: 본 논문은 기존의 인과적 공정성 프레임워크를 검토하며, 이들이 커뮤니티 수준의 구조와 일치하지 않음을 보여준다. 저자들은 개인 수준의 인과 그래프가 개인과 지역 사회 사이의 양방향 영향력이나 사회적 결정요인의 집합적 성격을 적절히 표현할 수 없다고 주장한다.

주요 기여

• 공정성의 재정의: 본 논문은 불공정성을 단순히 민감한 속성에 따른 차별로 감사하는 것에서 벗어나, 사회적 결정요인을 통해 구조적 불의를 정량화하는 것으로의 전환을 제안한다.
• 이론적 역설: 대학 입시 모델을 통해 저자들은 반직관적인 발견을 제시한다: 민감한 속성 중심의 완화 전략(할당제 등)은 심각하게 불의한 맥락에서는 비보호 대상자에게 불이익을 줄 가능성이 낮지만, 상황이 개선될수록 새로운 형태의 구조적 불의를 발생시킬 가능성이 높아진다. 구체적으로, 이러한 전략은 보호받지 못하는 집단이라 하더라도 보호 집단과 유사한 맥락적 장벽에 직면한 '불우한 지역 출신의 비보호 지원자'에게 더 높은 경쟁 문턱을 부과할 수 있다.
• 이질성의 실증적 증거: 인구 조사 및 헬스케어 데이터 분석을 통해, 동일한 민감한 속성을 가진 개인이라도 사회적 결정요인(예: 아프리카계 여성의 중위 소득은 ADI에 따라 크게 달라짐; 백인 여성의 검진 연령은 부유한 지역과 가난한 지역 간에 3년 이상의 차이가 남)에 따라 매우 다른 결과를 경험함을 밝혀냈다.
• 기존 패러다임 비판: 저자들은 표준 벤치마크(예: Adult, Folktables)가 주소 관련 변수를 삭제하는 경우가 많으며, 인과 모델은 대개 개인 수준에서 작동하여 커뮤니티 수준의 구조적 힘을 포착하지 못한다는 점을 보여준다.
• 실행 가능한 기둥: 논문은 향후 연구를 위한 세 가지 기둥을 제시한다: (1) 데이터 거버넌스 (맥락적 집계 데이터의 프라이버시를 고려한 활용), (2) 지표 설계 (사회적 결정요인 균등성(Social Determinant Parity)과 같은 동적이고 맥락 적응적인 공정성 지표), (3) 인과 모델링 (사회적 결정요인을 명시적인 개입 레버로 취급하는 다층 모델).

결과

• 이론적 결과: 정리(Theorem) 4.5는 할당제 기반 입시가 가난한 지역의 비소수자(non-URM) 지원자를 부유한 지역의 소수자(URM) 지원자보다 더 불리하게 만들 수 있음을 입증한다. 이는 특히 구조적 불의가 개선되고 학업 준비도의 격차가 좁혀질수록 더욱 두드러진다.
• 실증적 결과 (인구 조사): 아프리카계 여성의 소득 분포는 동일한 민감한 속성을 가졌음에도 불구하고, 낮은 ADI 지역에 비해 높은 ADI(높은 결핍도) PUMA에서 저소득층으로 심하게 치우쳐 있다.
• 실증적 결과 (헬스케ר): 단일한 의료 지침을 가진 통합 의료 체계 내에서도, 백인 여성의 첫 유방암 검진 중위 연령은 부유한 지역과 가난한 지역 간에 거의 5년의 차이를 보인다. 준합성 시뮬레이션 결과, 가난한 지역에서 "개선된" 검진 패턴(부유한 지역을 모방함)을 채택하면 조기 발견 건수가 10,000건당 약 1,367건에서 1,461건으로 증가함을 보여주며, 이는 구조적 개입이 유의미한 이득을 가져온다는 것을 입증한다.
• 기술적 결과: 사회적 결정요인을 특징(feature)으로 포함하면서 인구 통계적 균등(Demographic Parity, DP)을 강제하는 것은 불평등을 일관되게 줄이지 못하며, 결과가 사회적 결정요인에 의해 계층화될 경우 오히려 위반 사항을 악화시킬 수 있다.

의의 및 주장
본 논문은 ML 공정성 분야가 단순한 "비차별"(민감한 속성에 집중)을 넘어 "구조적 정의"를 다루어야 한다고 주장한다. 저자들은 사회적 결정요인을 통한 구조적 불의를 감사하고 정량화하지 않는다면, 완화 전략이 피상적이거나 심지어 역효rh가 될 위험이 있다고 주장한다. 저자들은 사회적 결정요인이 단순히 또 다른 민감한 속성이나 그 대리 변수가 아니라, 새로운 데이터 거버넌스 프레임워크, 동적 지표, 그리고 커뮤니티 수준의 상호작용을 처리할 수 있는 인과 모델을 포함한 별도의 기술적 접근이 필요한 근본적인 구조적 레버라고 강조한다. 궁극적인 목표는 인구 통계적 결과만이 아니라 불평등의 체계적 동인에 의해 더 잘 뒷받침되는 정책 개입을 가능하게 하는 것이다.