Simulating Eutopia: Revisiting Long-term Fairness with Outcomes, Performativity, and Dynamics

기술 요약: 유토피아 시뮬레이션: 결과, 수행성(Performativity), 역동성을 통한 장기적 공정성의 재고

1. 문제 정의

신용 대출 기관과 같은 현대의 AI 기반 의사결정자(ADM)는 수동적인 환경에서 작동하지 않는다. 이들의 결정은 그들이 서비스를 제공하는 인구 집단의 사회경제적 행동을 능동적으로 형성하며, 이러한 현상을 **수행성(performativity)**이라 한다. 기존의 알고리즘 공정성 문헌은 단기적 지표(예: 단일 결정 시점에서의 인구통계학적 패리티)와 정적 환경에서의 장기적 공정성을 광범위하게 연구해 왔으나, 현대 ADM의 두 가지 핵심적인 현실은 간과하고 있다:

1. 내생적 역동성(Endogenous Dynamics): 인구 집단의 행동(예: 신청률, 부의 축적)은 ADM의 정책에 반응하여 변화한다.
2. 결과 vs. 예측 편향(Outcome vs. Prediction Bias): 대부분의 공정성 지표는 즉각적인 예측의 불균형보다는 다운스트림의 형평성(예: 장기적 부의 분배)에 초점을 맞춘다.

결과적으로, 단기적 공정성이나 정적 장기 공정성에 최적화된 학습 알고리즘은 수행적 환경에 배치되었을 때 의도치 않게 구조적 불이익을 증폭시키거나 진정한 형평성을 달 Achieving하는 데 실패할 수 있다. 본 논문은 다음과 같은 질문을 다룬다: 인간 사회와 AI 기반 의사결정자 사이의 수행적 상호작afftion의 장기적 효과는 효율성과 형평성 측면에서 어떠한가?

2. 방법론

2.1 공식화: 수행적 MDP (Performative MDP)

저자들은 신용 대출 문제를 **수행적 마르코프 결정 과정(Performative MDP, PeMDP)**으로 공식화한다. 전이 역동성이 외생적인 표준 MDP와 달리, PeMDP에서는 전이 함수와 보상 함수가 배치된 정책 $\pi$에 반응한다.

• 상태(State): 신청자 특성, 집단 구성원, 집단 평균 부, 헉스 강도(Hawkes intensities, 신청률), 누적 연체율을 포함한다.
• 행동(Action): 일괄 처리된 신청자들에 대한 이진 대출 결정(승인/거절).
• 역동성(Dynamics):
  • 부의 전이(Wealth Transition): 승인된 대출은 상환될 경우 차입자의 부를 증가시키지만, 채무 불이행 시 손실을 초래한다. 거절된 신청자는 부의 변화를 경험하지 않는다.
  • 신청 역동성: **헉스 과정(Hawkes process)**을 통해 모델링된다. 특정 인구 집단의 신청 도착률은 내생적이며, 관찰된 승인 패턴과 현재 집단 평균 부에 반응한다(부유한 집단이 더 빈번하게 신청하는 "마태 효과"를 포착함).
• 목적(Objective): 저자들은 할인된 단기 수익보다는 정상 상태(steady-state) 행동을 최적화하기 위해 평균 보상 기준($V^\pi = \lim_{T \to \infty} \frac{1}{T} \mathbb{E}[\sum r_t]$)을 채택한다.

2.2 시뮬레이션 환경: 유토피아 (Eutopia)

수행적 공정성을 테스트하기 위한 테스트베드의 부재를 해결하기 위해, 저자들은 대출 시뮬레이터인 Eutopia를 개발했다.

• 핵심 특징: 상태(부, 신청 이력)가 에피소드 전반에 걸쳐 지속되어 수행적 피드백 루프를 유지하는 연속적 환경이다.
• 구성 요소:
  • 헉스 도착 과정(Hawkes Arrival Process): 집단의 부와 과거 승인 이력에 의해 유도되는 신청의 시간적 클러스터링을 포착한다.
  • 부 전이 모델(Wealth-Transition Model): 대출 상환 결과에 기반한 부의 축적을 시뮬레이션한다.
  • 선택적 라벨(Selective Labels): 상환 결과는 승인된 신청자에 대해서만 관찰되며, 이는 실제 세계의 선택 편향을 시뮬레이션한다.

2.3 데이터 생성: LOANLY

Eutopia를 현실적인 데이터로 채우기 위해 저자들은 수행적 데이터 생성기인 LOANLY를 제작했다.

• 기반: 현실적인 인구통계학적 및 경제적 이질성을 보장하기 위해 UCI Adult Income 데이터셋을 기반으로 구축되었다.
• 메커니즘: 초기 부, 실제 신용도, 고정된 금융 유형(대출 금액, 채무 불이행 확률, 부의 획득)을 생성한다.
• 수행성: 인구가 시간에 따라 결정에 어떻게 반응하는지를 규정하는 파라미터를 인코딩하여, 모델의 출력이 재학습에 사용되는 데이터에 어떤 영향을 미치는지 연구할 수 있게 한다.

2.4 학습 알고리즘 및 목적

본 연구는 두 가지 학습 패러다임을 비교한다:

1. 수동적 RL (Passive RL): 환경을 정적(분포 변화를 무시)으로 취급하는 표준 정책 경사법(REINFORCE).
2. 수행적 RL (Performative RL, PERL): 환경의 전이 분포가 정책에 의존함을 명시적으로 모델링하는 수행적 정책 경사법(PePG).

이 에이전트들은 다양한 공정성 관점(결과, 의사결정자, 양방향)과 효용 함수(공리주의, 사회 복지, 롤스적 맥시민, 공정성 라그랑주)에 따라 평가된다.

3. 주요 기여

1. Eutopia 시뮬레이터: 장기 대출에서의 수행적 공정성을 테스트하기 위해 제작된 최초의 전용 시뮬레이터로, 직접적인 비교를 위해 정적(MDP) 및 수행적(PeMDP) 모드를 모두 지원한다.
2. LOANLY 데이터 생성기: 독점적인 금융 데이터 없이도 모델의 출력이 미래 데이터에 미치는 영향을 연구할 수 있도록 수행적 역동성을 인코딩한 합성 대출 데이터셋을 생성하는 표준화된 파이프라인이다.
3. 공식 프레임워크: 대출 결정, 부의 축적, 신청률 사이의 피드백 루프를 명시적으로 모델링하여 은행 대출을 평균 보상 PeMDP로 공식화하였다.
4. 경험적 분석: 학습 모델(정적 vs. 수행적)과 목적 설계(공정성 인식 vs. 공리주의)가 장기적 효율성과 형평성에 미치는 영향에 대한 체계적인 평가를 수행하였다.

4. 실험 결과

4.1 수행적 역동성을 고려한 학습의 중요성

• PERL vs. RL: 수행적 역동성을 학습하는 것(PERL)이 수동적 RL(RL)에 비해 장기적 효율성과 형평성 측면에서 일관되게 우수한 결과를 보인다.
• 부의 격차: PERL은 모든 공정성 목적 함수에서 RL보다 낮은 부의 격차와 불평등 비율을 달성한다. 예를 들어, 결과 공정성 하의 롤스적 효용 함수에서 PERL은 평균 부의 격차를 RL의 49.1에서 47.2로 줄였다.
• 사회 복지: PERL은 RL보다 균일하게 더 나은 사회 복지를 달성하며, 이는 피드백 루프를 모델링하는 것이 장기적 배포에 결정적임을 나타낸다.

4.2 공정성 목적의 역할

• 결과 공정성(Outcome Fairness): 집단의 부를 목표로 하는 목적 함수(결과 공정성)는 일반적으로 최적의 형평성-이익 균형을 달성한다. 구체적으로, 결과 공정성 하의 **공정성 라그랑주(Fairness Lagrangian, FL)**는 불평등 비율($\rho \approx 1.01$)을 거의 유지하면서 PERL의 가장 높은 이익과 사회 복지를 산출했다.
• 보편적 승자는 없음: 모든 지표(이익, 부의 격차, 사회 복지, 불평등 비율)에 대해 지배적인 단일 효용 함수는 존재하지 않는다. 효용의 선택은 규제 의무를 반영하는 정책적 결정으로 취급되어야 한다.
• 포용성: 결과 기반 공정성 학습은 더 높은 포용성을 가져온다. 결과 공정성 하의 공정성 라그랑주는 공리주의적 이익 목적에 비해 인구 집단 간의 대출 접근성(도달률)을 더 형평성 있게 배분하였다.

4.3 미시적 분석 (포용성 및 다양성)

• 마태 효과(Matthew Effect): 모든 설정에서 집단 내 대출 집중도가 시간이 지남에 따라 증가했다(로렌츠 곡선이 평등에서 멀어짐).
• DM 공정성의 한계: 단계별 이익 격차를 제한하는 의사결정자(DM) 공정성은 집단 간 부의 발산을 막는 데 실패했다. 이는 가장 큰 부의 격차를 초래했다.
• 결과 공정성의 트레이드오프: 결과 공정성은 집단 간 부의 격차를 줄였으나, 특히 사회 복지 및 공정성 라그랑주 목적 함수 하에서는 집단 내 집중(이미 부유한 자들에게 대출이 집중됨)을 심화시키기도 했다.
• 도달률(Reach Rates): 결과 인식 전략은 DM 공정성보다 더 높은 도달률(고유 수혜자 비율)을 달성했으나, 이는 더 가파른 집단 내 집중을 동반했다.

5. 의의 및 주장

본 논문은 인구 역동성에 대한 적절한 모델(수행성)과 사회적 결과에 대해 평가된 잘 설계된 공정성 목적 함수를 갖춘 학습이 장기적 형평성을 보장하는 데 필수적이라고 주장한다.

• 정적 공정성을 넘어서: 정적 공정성 제약이나 수행적 변화를 무시하는 모델은 장기적 형평성을 달성하기에 불충분함을 입증했다. 정적 정책(예: 단일 단계 예측기)은 즉각적으로는 수익성이 높을 수 있으나, 시간이 지남에 따라 유발되는 부의 격차를 교정하는 데 실패할 수 있다.
• 설계 선택의 중요성: 학습 알고리즘(PERL vs. RL)과 공정성 목적(예: 결과 vs. DM 공정성)의 선택은 질적으로 상호작용한다. 예를 들어, PERL은 결과 공정성 하에서 RL보다 우수하지만, 양방향 공정성 하에서는 RL이 PERL보다 우수할 수 있다.
• 정책적 시사점: 장기적 형평성을 달성하려면 피드백 루프를 모델링하는 학습 알고리즘의 능력과, 최적화를 가이드하는 특정 공정성 지표에 대한 공동의 고려가 필요하다. "공짜 점심"은 없다. 서로 다른 목적 함수는 서로 다른 차원의 공정성(예: 집단 간 형평성 vs. 집단 내 포용성)을 우선시하며, 이러한 트레이드오프는 명시적으로 관리되어야 한다.

저자들은 자신들의 시뮬레이터가 현실 세계를 완벽하게 모사하지는 못하더라도, Eutopia에서 나타나는 수행적 피드백 루프에 의한 비사소하고 예측하기 어려운 결과들이 다면적인 장기적 공정성을 인정하는 새로운 알고리즘 프레임워크의 개발을 촉구한다는 결론을 내린다.