Proxy Discrimination After Students for Fair Admissions

논문 제목: Students for Fair Admissions 이후의 대리 차별 (Proxy Discrimination)
저자: 프랭크 파간 (Frank Fagan)
출처: Journal of Law and Technology at Texas

이 논문은 미국 대법원의 'Students for Fair Admissions (SFFA) v. Harvard' 판결 이후, 인종 차별 금지 법리가 알고리즘과 의사결정 도구에서 어떻게 적용되어야 하는지, 특히 **대리 변수 (Proxy Variables)**를 통한 간접 차별을 어떻게 규율할 것인지에 대한 법적·기술적 프레임워크를 제시합니다.

아래는 논문의 문제 제기, 방법론, 주요 기여, 결과 및 의의를 기술적으로 요약한 내용입니다.

1. 문제 제기 (Problem)

• 대리 차별의 회피: 알고리즘은 명시적으로 보호된 특성 (인종, 성별 등) 을 배제하더라도, 해당 특성과 높은 상관관계를 가진 '대리 변수' (예: 우편번호, 고등학교, 부모 소득, 이혼 여부 등) 를 사용하여 차별적 결과를 초래할 수 있습니다.
• SFFA 판결의 모호성: SFFA 판결은 인종 기반의 직접적인 선별을 금지하지만, 인종이 개인의 삶에 미친 영향 (예: 차별 극복의 용기) 을 고려하는 것은 허용합니다. 그러나 이는 인종과 상관관계가 높은 중립적 변수들을 통해 인종 차별을 간접적으로 수행할 수 있는 여지를 남깁니다.
• 법적 공백: 현재 법체계에는 대리 변수의 사용을 규제할 명확한 테스트 (Legal Test) 가 부재합니다. "의도 (Intent)"가 입증되지 않는 한, 상관관계가 높은 변수를 사용하는 것이 합법적인지 여부가 불분명합니다.
• 기술적 난제: 알고리즘의 복잡성으로 인해 어떤 변수가 실제로 차별적 영향을 미치는지 식별하고, 더 나은 대안을 찾는 것이 어렵습니다.

2. 방법론 (Methodology)

저자는 통계적 개념과 법적 원칙을 결합하여 다음과 같은 분석 도구를 개발했습니다.

• 대리력 (Proxy Power) 의 정의:
  • 보호된 특성 (예: 인종) 이 결과 변수 (예: 대출 불이행, 학업 성취도) 에 미치는 간접 설명력을 정량화합니다.
  • 이는 변수 간의 상관관계 (Correlation) 와 변수가 결과의 변동성을 설명하는 정도 (R-squared 또는 예측 정확도 기여도) 를 결합하여 계산합니다.
  • 총 대리력 (Total Proxy Power): 모델 내 모든 변수가 보호된 특성에 대해 가지는 대리력의 합계입니다.
• 비교적 최소 대리력 표준 (Comparative Minimum Proxy Power Standard):
  • 두 개의 알고리즘이 동일한 목표 (예: 대출 상환 예측 정확도) 를 동일한 수준으로 달성할 때, 총 대리력이 더 낮은 알고리즘을 '더 적은 차별적 대안 (Less Discriminatory Alternative, LDA)'으로 간주합니다.
  • 이는 "더 나은 수단 (Better Means)"이 존재하는지 여부를 통계적으로 검증하는 방식입니다.
• 대리력 캡 (Capped Proxy Power Rule):
  • 통계적 측정의 오차와 비용 문제를 고려하여, 특정 임계값 (예: R-squared 증가분 5% 미만) 이하의 대리력 차이는 무시하거나 허용하는 '규칙 (Rule)' 기반 접근법을 제안합니다.
  • 이는 행정 비용 절감과 법적 예측 가능성을 높이기 위함입니다.
• 목표의 측정 가능성 (Measurability of Goals):
  • 대리력을 최소화하려면 최적화할 목표 함수 (Objective Function) 가 명확해야 합니다. (예: 대출 상환률, 이직률 감소). 모호한 목표 (예: "다양한 리더 양성") 는 대리력 최소화를 불가능하게 하므로, 목표의 구체화와 측정 가능성을 요구합니다.

3. 주요 기여 (Key Contributions)

1. 대리 차별에 대한 새로운 법적 테스트 개발:

   • 기존의 '차별적 의도'나 '부정적 영향 (Disparate Impact)' 중심의 접근을 넘어, 대리력의 정량적 비교를 통해 차별성을 판단하는 새로운 기준을 제시했습니다.
   • "동일한 정확도라면, 더 적은 대리력을 가진 모델을 사용해야 한다"는 원칙을 정립했습니다.

2. 입증 책임 (Burden of Production) 의 재배분 논의:

   • 기존에는 원고 (피해자) 가 더 나은 대안을 찾아야 하지만, 알고리즘 시대에는 데이터 접근성과 계산 비용 문제로 인해 비효율적일 수 있습니다.
   • 저자는 알고리즘 경쟁 (Algorithmic Competition) 모델을 제안합니다. 원고와 피고가 각각 알고리즘을 개발하여, 동일한 목표를 달성하면서 최소한의 대리력을 보이는 쪽이 승리하는 방식입니다. 이를 통해 원고가 여전히 입증 책임을 지되, 데이터 접근성을 보장받아야 함을 강조합니다.

3. 불투명한 의사결정 (Opaque Decision-Making) 에 대한 대응:

   • 인간 위원회나 블랙박스 알고리즘처럼 내부 논리가 숨겨진 경우에도, 원고가 제안한 투명한 알고리즘이 피고의 의사결정과 동일한 성과 (예: 이익) 를 내면서 더 낮은 대리력을 가진다면, 피고의 방식을 '부적법'으로 간주할 수 있음을 논증했습니다.
   • 이는 '리트로핏 (Retrofitting, 사후 변명)'을 방지하기 위해 의사결정 과정의 투명성과 사전 고시를 요구합니다.

4. 결과 및 시사점 (Results & Implications)

• 법적 적용 가능성:
  • 입학 전형: 인종과 높은 상관관계가 있는 고등학교나 ZIP 코드 변수를 사용할 경우, 인종과 상관관계가 낮으면서도 학업 성취도를 예측하는 다른 변수 (예: 용기, 리더십 등 직접 관찰 가능한 특성) 로 대체해야 합니다.
  • 대출 및 고용: 신용 점수나 경력 변수가 인종/성별과 상관관계가 있다면, 이를 제거하거나 보완하여 모델의 총 대리력을 낮추는 방향으로 알고리즘을 수정해야 합니다.
• 정책적 제안:
  • 대리력 캡 (Caps): 산업별 특성에 따라 허용 가능한 최대 대리력 수준 (예: 5% 임계값) 을 설정하여, 사소한 정확도 향상과 큰 차별적 영향 사이의 트레이드오프를 관리할 수 있습니다.
  • 목표의 구체화: 대학이나 기업이 추구하는 목표가 "측정 가능 (Sufficiently Measurable)"해야만 법적 심사가 가능하다는 SFFA 판결의 원칙을 확대 적용해야 합니다.

5. 의의 (Significance)

• 기술과 법의 융합: 통계학 (회귀 분석, R-squared, 상관관계) 과 헌법/차별금지법을 연결하여, 알고리즘 시대의 차별 문제를 수학적으로 해결할 수 있는 실용적인 프레임워크를 제시했습니다.
• 실질적 평등 보장: 형식적으로 중립적인 변수 사용이 실질적인 차별을 초래할 수 있음을 인정하고, 이를 방지하기 위한 구체적인 기술적·법적 장치를 마련했습니다.
• 미래 지향적 접근: 인공지능과 빅데이터가 발전함에 따라 발생할 수 있는 새로운 형태의 차별 (예: 디지털 발자국 기반의 간접 차별) 에 선제적으로 대응할 수 있는 기준을 제시합니다.
• 공정성 (Fairness) 의 재정의: 단순히 "인종을 보지 않는 것"이 아니라, "인종과 가장 덜 연관된 방법으로 목표를 달성하는 것"을 법의 핵심 기준으로 삼아야 함을 강조합니다.

결론적으로, 이 논문은 SFFA 판결 이후의 혼란을 정리하고, 알고리즘이 인종 차별을 우회하는 것을 막기 위해 **'총 대리력 최소화'**를 핵심 원칙으로 삼고, 이를 검증하기 위해 **'알고리즘 경쟁'**과 **'측정 가능한 목표 설정'**을 통해 법적·기술적 해법을 제시한 중요한 연구입니다.