Enhancing Interpretability in Credit Risk Modeling: A Synergistic Approach Integrating SHAP and Counterfactual Explanations

은행이 대출 여부를 결정할 때마다, 그들은 한 개인의 금융 이력을 연체 위험과 비교하여 가중치를 두는 모델에 의존합니다. 수십 년 동안 이러한 모델은 인간이 그 논리를 추적할 수 있을 만큼 충분히 단순했습니다. 예를 들어, 결제를 누락하면 점수가 내려가는 식이었습니다. 하지만 은행들이 방대한 양의 데이터에서 미묘한 패턴을 찾기 위해 더 강력한 컴퓨터 시스템을 사용하기 시작하면서, 그 논리는 '블랙박스' 내부로 숨겨지게 되었습니다. 이러한 첨단 시스템은 매우 높은 정확도로 위험을 예측할 수 있었지만, 왜 그러한 특정 결정을 내렸는지에 대해서는 설명할 수 없었습니다. 이는 심각한 문제를 야ق했습니다. 많은 지역의 법률은 대출 기관이 신청자에게 결정 이유를 설명할 것을 요구하고 있는데, 명확한 이유가 없다면 신용 거절은 자의적이고 불공정하게 느껴지기 때문입니다. 과학자들의 과제는 이러한 복잡한 시스템의 높은 정확도를 유지하면서도, 블랙박스를 열어 그 내부의 추론 과정을 밝혀내는 방법을 찾는 것이었습니다.

이 퍼즐을 해결하는 데 도움을 줄 두 가지 새로운 도구가 등장했습니다. 첫 번째 방법은 돋보기처럼 작동하여, 당좌 예금 잔액이나 대출 기간과 같은 어떤 정보가 특정 결론을 향해 모델을 밀어붙였는지를 정확하게 보여줍니다. 두 번째 도구는 '만약에(what-if)' 시뮬레이터에 더 가깝습니다. 이 도구는 컴퓨터에게 한 사람의 금융 프로필을 아주 조금만 바꾼다면 어떻게 거절을 승인으로 뒤집을 수 있을지를 상상하도록 요청합니다. 각 도구는 그 자체로도 유용하지만, 애리조나 주립대학교의 연구진은 이 두 방법을 결합하면 더 명확한 그림을 그릴 수 있을지 궁금해했습니다. 그들은 이 두 가지 방법을 함께 사용하는 것이 왜 특정 결정이 내려졌는지 설명할 수 있을 뿐만 아니라, 거절당한 사람에게 실질적이고 공정한 경로를 제공할 수 있는지 테스트하기 위해 연구를 진행했습니다.

이 아이디어를 테스트하기 위해, 연구진은 독일의 실제 신용 신청서 1,000건이 포함된 잘 알려진 데이터 모음을 사용했습니다. 그들은 두 가지 다른 유형의 예측 모델을 구축하여 각각 어떻게 작동하는지 살펴보았습니다. 한 모델은 직선적인 접근 방식을 사용했고, 다른 모델은 패턴을 찾기 위해 많은 결정 트리를 구축하는 더 복잡한 시스템을 사용했습니다. 그런 다음 연구진은 두 모델 모두에 결합된 설명 방법을 적용했습니다. 결과는 복잡한 모델이 전체적인 정확도 측면에서 단순한 모델보다 실제로 훨씬 더 나은 성능을 보이지 않았지만, 두 모델이 서로 다른 종류의 실수를 범한다는 것을 보여주었습니다. 단순한 모델은 연체 가능성이 높은 사람들을 잡아내는 데 더 뛰어났던 반면, 복합적인 모델은 오보(false alarm)를 피하는 데 더 효과적이었습니다. 더 중요한 점은, 결합된 설명 방법이 놀라울 정도로 잘 작동했다는 것입니다. 가장 중요한 요인을 먼저 식별하기 위해 '돋보기' 도구를 사용함으로써, 연구진은 '만약에' 시뮬레이터가 최선의 해결책을 훨씬 더 빠르게 찾도록 안내할 수 있었습니다.

연구는 이 결합된 접근 방식이 설명을 훨씬 더 효율적으로 만든다는 것을 보여주었습니다. 연구진이 거절을 승인으로 바꾸기 위해 필요한 최소한의 변화를 찾도록 컴퓨터에 요청했을 때, 기존 방식은 신청자가 동시에 약 세 가지의 요소를 바꾸는 것을 상상해야 했습니다. 하지만 새로운 가이드 방식에서는 신청자가 약 두 가지의 요소만 바꾸는 것을 상상하면 되었습니다. 이러한 복잡성의 감소는 조언을 인간이 이해하고 실행하기 훨씬 쉽게 만듭니다. 이 시스템은 규칙을 어기지 않으면서도 다른 결과를 낼 수 있는 경로를 찾아낼 수 있음을 입증하며 100%의 확률로 유효한 제안을 생성하는 데 성공했습니다.

연구진은 이 프레임워크를 통해 불공정성을 조사했습니다. 그들은 모델이 신청자의 금융 프로필이 유사함에도 불구하고 서로 다른 집단의 사람들을 다르게 취급한다는 사실을 발견했습니다. 예를 들어, 미혼 남성은 결혼했거나 사별한 남성보다 더 자주 고위험군으로 분류되었습니다. 금융 상황이 비슷함에도 불구하고 말입니다. 분석 결과, 모델은 미혼 남성에게 더 엄격했으며, 승인을 받기 위해 더 큰 금융적 개선을 요구했습니다. 결합된 도구를 사용하여 연구진은 이 편향이 정확히 어디에서 발생하는지 지목할 수 있었습니다. 그들은 당좌 예금 계좌의 부재가 기혼 남성보다 미혼 남성의 점수에 더 부정적인 영향을 미친다는 것을 확인했으며, 이는 모델이 훈련에 사용된 과거 데이터로부터 숨겨진 편향을 학습했음을 시사합니다.

또한 연구진은 이러한 결정에서 가장 강력한 요인이 연령이나 성별과 같은 인구 통계학적 세부 사항이 아니라, 구체적인 금융 현실이라는 것을 발견했습니다. 당좌 예금 계좌의 상태와 신용 상환 이력이 결정을 주도하는 지배적인 힘이었습니다. 이는 모델이 무관한 개인적 특성보다는 실제 상환 능력에 집중하고 있다는 것을 시사하므로 안심할 수 있는 발견입니다. 그러나 연구는 주요 요인들이 공정하더라도, 모델이 이를 가중치를 두는 방식이 여전히 집단 간에 불평등한 결과를 초래할 수 있다는 점을 강조했습니다. 결합된 설명 방법은 이러한 미묘한 불평등을 폭로할 수 있었으며, 동일한 결과를 얻기 위해 한 집단이 다른 집단에 비해 얼마나 더 많은 노력을 기울여야 하는지를 정확히 보여주었습니다.

궁극적으로, 이 연구는 우리가 스마트한 모델과 공정하고 이해 가능한 모델 사이에서 하나를 선택할 필요가 없음을 시사합니다. 과거를 설명하는 능력과 더 나은 미래를 제안하는 능력을 하나로 엮음으로써, 금융 기관은 정확하면서도 투명한 시스템을 구축할 수 있습니다. 이 연구는 가장 중요한 요인들을 사용하여 해결책을 탐색할 때, 우리가 신청자에게 그들의 구체적인 상황을 존중하는 명확하고 실행 가능한 조언을 제공할 수 있음을 보여줍니다. 이 접근 방식은 단순히 사람에게 거절되었다고 말하는 것을 넘어, 그들의 상태를 개선할 수 있는 구체적이고 공정한 로드맵을 제시함으로써 우리의 금융 생활을 지원하는 기술이 영향을 받는 사람들에게 책임을 다할 수 있도록 합니다.