기술 요약: 재범 위험 평가에서의 모델 다중성과 예측적 임의성

문제 정의

본 논문은 고위험 형사 재범 위험 평가에서 발생하는 예측적 다중성(흔히 라쇼몽 효과(Rashomon Effect)라고 불림) 문제를 다룹니다. 노이즈가 많은 예측 작업에서는 유사한 정확도를 가진 여러 모델이 존재할 수 있지만, 이들은 동일한 개인에 대해 서로 다른 예측을 내놓을 수 있습니다. 이는 예측적 임의성을 야기하며, 사법 결정의 공정성과 일관성에 대한 우려를 불러일으킵니다.

구체적으로, 저자들은 2009년부터 카탈로니아에서 사용되고 있는 의사결정 지원 도구인 RisCanvi 시스템을 조사합니다. 현재 시스템은 다음과 같은 몇 가지 심각한 문제에 직면해 있습니다:

1. 데이터 품질: 오래된 훈련 데이터에 대한 의존도와 재범(새로운 범죄로 인한 재수감과 기술적 위반 또는 기존 형기 수행의 구분)에 대한 복잡하고 오류가 발생하기 쉬운 수동 레이블링 방식에 의존하고 있습니다.
2. 성능 격차: 기존의 로지스틱 회귀 모델은 높은 미검출률(False Negative Rate)과 인구 통계학적 그룹 간(예: 자국민 대 외국인) 상당한 오차율 격차를 보입니다.
3. 단조성 결여: 현재 시스템은 교화 노력(역동적 특징)이 위험 점수 하락으로 이어진다는 것을 보장하지 못하며, 이는 공정한 교화 인센티브를 위한 필수 요구사항입니다.
4. 임의성: 설령 "덜 차별적인" 모델을 찾더라도, '라쇼몽 세트'(유사한 성능을 가진 모델들의 집합)의 존재는 동일한 수감자에 대해 서로 다른 유효한 모델들이 서로 다른 위험 점수를 산출할 수 있음을 의미하며, 이는 평가의 신뢰성을 저해합니다.

방법론

1. 데이터셋 구축

저자들은 고품질의 데이터셋을 구축하기 위해 엄격한 레이블링 알고리즘을 개발하였으며, 이를 통해 카탈로니아 교도소의 17,542건의 수감자 출소 데이터를 확보했습니다(2010–2019).

• 레이블링 과정: "형사적 재범"(새로운 범죄로 인한 투옥)을 정의하는 복잡한 법적 규칙을 반복적 알고리즘으로 변환하였습니다. 이 알고리즘은 인간 전문가의 주석과 일치할 때까지 형 집행 전문가들과의 협업을 통해 정교화되었습니다.
• 특징(Features): 데이터셋은 각 출소 건당 43개의 특징(20개의 정적 특징, 예: 범죄 시작 연령; 23개의 역동적 특징, 예: 교육 수준)을 포함합니다.
• 분할: 시계열적 타당성을 확보하기 위해 연대순 훈련-테스트 분할을 사용했습니다 (훈련: 2010–2018; 테스트: 2019).

2. 최적화 프레임워크 (FairSLIM)

저자들은 2단계 혼합 정수 선형 계획법(MILP) 프레코스를 제안합니다:

• 1단계: 단조성을 갖춘 SLIM: SLIM(Supersparse Linear Integer Model) 정식화를 활용하여 선형 정수 점수 체계를 학습합니다. 결정적으로, 특징 계수를 비음수 정수로 제한함으로써 단조성 제약 조건을 부과합니다. 이를 통해 부정적인 정적 특징은 위험을 높이고, 긍정적인 역동적 특징(교화 진전)은 위험을 낮추도록 보장합니다.
• 2단계: 라쇼몽 세트 탐색: Langlade 등(2025)의 연구를 바탕으로, $\epsilon$-라쇼몽 세트(최적의 경험적 위험 내에 $\epsilon$만큼 차이가 나는 모델들)에서 **덜 차별적인 모델(LDM)**을 탐색합니다.
  • $m > 2$인 인구 통계학적 그룹에 대한 탐색을 일반화합니다.
  • 그룹 간 거짓 양성률(FPR) 및 거짓 음성률(FNR)의 최대 쌍별 격차인 균등 기회 위반(Equalized Odds violation, $\Delta EO$)을 최소화합니다.
  • 이를 위해 그룹별 최소/최대 FPR/FNR을 추적함으로써, 페어니스 제약 조건을 $O(m^2)$에서 $O(m)$으로 줄입니다.

3. 예측 다중성 분석

예측적 다중성을 정량화하기 위해, 저자들은 자기 일관성(self-consistency, Cooper et al., 2024)의 개념을 라쇼몽 세트로 확장합니다:

• 정의: 유한한 모델 집합 $P$에 대하여, 자기 일관성 $SCP(x)$는$P$에서 균등하게 무작위 추출된 두 모델이 인스턴스$x$에 대한 예측에 동의할 확률입니다.
• 이론적 경계: 모델 풀의 평균 0-1 손실(0-1 loss)에 기반하여 기대 자기 일관성에 대한 타이트한 하한선(Proposition 1)을 도출합니다. 이 경계는 합의에 대한 최악의 시나리오를 나타냅니다.
• 정책 평가: 다중성을 해결하기 위해 세 가지 정책을 평가합니다:
  1. 앙상블(Ensembling): 예측값의 평균을 구함.
  2. 무작위 선택(Random Selection): 각 인스턴스에 대해 무작위로 모델을 선택함.
  3. 최저 위험 정책(Lowest-Risk Policy, LRP): 풀 내의 모델 중 가장 낮은 위험 점수를 할당함 (favor rei 원칙에 부합).

주요 결과

1. 예측 성능 및 공정성

• 베이스라인 대비 우월성: 제안된 모델(SLIM 및 FairSLIM)은 운영 중인 Riscanvi 모델보다 성능이 현저히 뛰어납니다. Riscanvi는 다수 클래스를 예측함으로써 높은 정확도를 달지만, 높은 미검출률(84.7%)과 낮은 균형 정확도(56.2%)를 보입니다.
• 해석 가능한 모델: 새로운 선형 정수 모델은 약 70~73%의 균형 정확도를 달성하며 미검출률을 65% 이상 감소시킵니다.
• 공정성: 최적 위험 내 1%($\epsilon \le 0.01$) 범위에서 LDM을 탐색하면, 테스트 세트에서 하위 그룹 간 최대 오차율 격차($\Delta EO$)를 **5%**까지 줄일 수 있습니다. 이 성능은 복잡한 CatBoost 베이스라인과 대등하거나 더 우수하면서도 해석 가능성을 유지합니다.

2. 예측 다중성 및 자기 일관성

• 높은 합의도: 구조적으로 다양한 모델(정적 및 역동적 특징에 대한 서로 다른 계수 보유)이 존재함에도 불구하고, **관찰된 자기 일관성은 91%**입니다. 이는 이론적인 최악의 경우 하한선인 0.53보다 훨씬 높습니다.
• 불일치 위치: 예측적 불일치는 거의 전적으로 결정 경계 근처의 인스턴스(낮은 마진 인스턴스)에 집중되어 있습니다. 마진이 큰 인스턴스의 경우 모델들은 완벽하게 일치합니다.
• 구조적 다양성 vs 예측적 합의: 본 연구는 높은 구조적 다양성(다른 계수)이 반드시 심각한 예측적 다중성으로 이어지지는 않는다는 것을 보여줍니다.

3. 최저 위험 정책의 효능

• **최저 위험 정책(FairSLIM-LRP)**은 모델 풀 내의 유효한 모델 중 가장 낮은 위험 점수를 각 수감자에게 할당합니다.
• 성능: 이 정책은 테스트된 모든 해결 메커니즘(앙상블 및 무작위 선택 포함) 중에서 가장 높은 균형 정확도(71.2%)를 달enc하며, 오차율 균등성 또한 유지합니다.
• 시사점: 유효한 모델들 중 가장 유리한 결과를 선택함으로써, 예측적 유용성이나 공정성을 희생하지 않으면서도 예측적 임의성을 완화할 수 있습니다.

의의 및 주장

본 논문은 알고리즘 공정성 및 위험 평가 분야에 다음과 같은 기여를 한다고 주장합니다:

1. 공정성 제약의 일반화: 라쇼몽 세트 내에서 덜 차별적인 모델을 찾는 과정을 $O(m)$의 추가 제약 조건만으로 $m > 2$인 하위 그룹에 대해 일반화하여, 복잡한 인구 통계학적 분할에서도 계산 가능하게 만들었습니다.
2. 임의성에 대한 이론적 경계: 모든 유한한 이진 분류기에 대해 기대 자기 일관성에 대한 타이트한 하한선을 제공하여, 경험적 합의를 비교할 수 있는 이론적 벤치마크를 제시합니다.
3. 실제 사례 연구: 이론적 시뮬레이션을 넘어 실제 운용 중인 시스템(Riscanvi)을 대상으로 예측적 다중성을 다룬 최초의 실제 사례 연구를 제시합니다.
4. 정책 권고: 예측적 임의성을 해결하기 위한 효과적인 메커니즘으로서 최저 위험 정책을 제안하고 검증합니다. 이 접근법은 favor rei(의심스러울 때는 피고인에게 유리하게) 원칙 및 반(反)종속 원칙과 일치하며, 가장 덜 징벌적인 유효한 예측을 능동적으로 선택함으로써 시스템적 편향을 해결합니다.
5. 데이터 품질의 영향: 법적 규칙을 사용하여 출소 후 결과를 자동 레이블링하는 작업이 현재의 훈련 세트보다 17배 더 큰 데이터셋을 생성하며, 이것이 모델의 성능과 공정성을 실질적으로 개선함을 강조합니다.

저자들은 모델 다중성이 이론적인 우려 사항이긴 하지만, 실제로는 결정 경계 근처의 소수 사례에 국한되는 경우가 많다고 결론짓습니다. 따라서 최저 위험 정책과 같은 단순하고 원칙적인 정책을 통해, 다양한 공정한 모델 세트를 탐색하는 이점을 유지하면서도 예측적 임의성을 효과적으로 완화할 수 있습니다.