How Simple Can It Get? From Interpretable Equations to Readable Rules for Financial Decision Making

당신이 수사관이라고 상상해 보세요. 하지만 당신의 유일한 단서는 지금까지 모은 모든 증거가 담긴 거대하고 엉클어진 실타래입니다. 인공지능의 세계에서 이 '실타래'는 누군가가 대출을 갚을 수 있을지, 혹은 거래가 사기인지 등을 예측하는 복잡한 컴퓨터 모델입니다. 이러한 모델들은 정답을 맞히는 데 매우 뛰어나지만, 대개 너무 복잡해서 인간이 그 결론에 어떻게 도ل달했는지 이해할 수 없습니다. 금융계에서 이는 큰 문제입니다. 은행이 당신의 대출 신청을 거절했을 때, 일반인이 이해할 수 있는 방식으로 그 이유를 설명해야 한다는 법이 있기 때문입니다. 만약 그 설명이 외계 코드처럼 보이는 수학적 뒤범벅이라면, 그것은 아무런 쓸모가 없습니다.

여기서 '해석 가능한(interpretable)' 모델이라는 개념이 등장합니다. 이것은 검은 상자 대신 투명한 유리 상자처럼 처음부터 투명하게 설계된 모델을 의미합니다. 하지만 여기서 반전이 있습니다. 투명한 유리 상자라 할지라도 그 안에 톱니바퀴와 레버가 너무 가득 차 있다면 여전히 읽기가 불가능할 수 있습니다. 당신이 읽게 될 논문은 매우 구체적인 질문을 다룹니다. 만약 우리가 이미 (단 하나의 거대한 수학 방정식이라는 점에서) '이해 가능한' 모델을 가지고 있다면, 얼마나 더 단순화해야 의미가 통하는 수준에서 멈출 수 있을까요? 우리는 예측 능력을 망가뜨리지 않으면서도, 복잡한 부분을 쳐내어 마치 레시피처럼 간단한 '만약 ~라면, 그러면 ~이다(if-then)' 식의 규칙을 만들 수 있을까요? 연구진은 규칙이 인간이 읽기에 충분히 단순하면서도, 동시에 좋은 결정을 내릴 수 있을 만큼 똑똑한 그 '최적의 지점(sweet spot)'을 찾고자 했습니다.

---

거대한 방정식 줄이기

대출 신청자가 채무를 불이행(돈을 갚지 못함)할지 예측하는 마법의 레시피가 있다고 상상해 보세요. 컴퓨터가 학습한 원래의 레시 recipe는 단 하나의 거대한 방정식입니다. 이 방정식은 '받은 총 이자', '마지막 결제 이후 경과 시간', '연간 소득'과 같은 42가지의 서로 다른 재료를 각각 특정한 기묘한 거듭제곱으로 곱합니다. 이것은 마치 42가지 과일로 만든 스무디와 같으며, 컴퓨터는 각 과일을 정확히 얼마나 블렌딩할지 결정한 것입니다.

문제는 무엇일까요? 만약 당신이 이 42가지 재료가 들어간 스무디 레시피를 은행 매니저에게 보여준다면, 그는 혼란스러워하며 멍하니 바라볼 것입니다. 그것은 수학적으로는 '읽을 수' 있지만, 실제로 사용하기에는 너무 깁니다. 이 논문의 저자들은 다음과 같이 질문했습니다. "우리가 이 복잡한 레시피에서 시작하여, 단계별로 얼마나 단순하게 줄여나갈 수 있는지, 그리고 그 과정에서 맛을 얼마나 잃게 되는지 확인해 본다면 어떨까?"

그들은 단순히 추측만 한 것이 아니라, 양파 껍질을 까듯 네 가지 다른 방식으로 원래의 방정식을 체계적으로 깎아 나갔습니다.

1. 가지치기 된 단항식 (The Pruned Monomial): 그들은 레시피에서 별로 중요하지 않은 재료들을 버렸습니다. 만약 어떤 재료가 맛을 아주 조금밖에 변화시키지 않는다면, 아예 제거해 버렸습니다.
2. 방향성 규칙 (The Directional Rule): 재료는 유지하되, 각 재료를 '얼마나' 사용할지에 대해서는 신경 쓰지 않았습니다. 대신 '방향'만을 기록했습니다. 예를 들어, "이자가 높으면 위험이 올라간다"와 같은 식입니다. 그들은 정확한 숫자 대신 '위' 또는 '아래'라는 화살표만을 남겼습니다.
3. 스코어카드 (The Scorecard): 그들은 재료를 간단한 예/아니오(Yes/No) 질문으로 바꾸었습니다. "총 결제 금액이 450달러이다"라고 하는 대신, "총 결제 금액이 낮은가?"라고 물었습니다. 만약 그렇다면 5점을 주고, 아니라면 0점을 줍니다. 그들은 중요도에 따라 정수 점수(예: 1, 2, 5점)를 부여했습니다.
4. 집계 (The Tally): 이것은 가장 단순한 버전입니다. 단순한 체크리스트였습니다. "조건 A를 충족했는가? 예. 조건 B를 충족했는가? 예." 그냥 체크박스를 몇 개나 체크했는지만 세는 방식입니다. 점수도, 가중치도 없이 오직 단순한 개수만 셉니다.

놀라운 결과: 무엇을 잃게 되는가?

연구팀은 이 단순화된 규칙들을 대출 불이행 및 신용카드 사기 등을 포함한 네 가지 실제 금융 데이터셋에 테스트했습니다. 그리고 다음과 같은 사실을 발견했는데, 이는 여러분을 놀라게 할 수도 있습니다.

1. 군더더기를 잘라내는 것은 거의 공짜다.
약한 재료들(영향력이 미미한 것들)을 제거하여 '가지치기 된 단항식'을 만들었을 때, 모델의 정확도는 거의 떨어지지 않았습니다. 실제로 한 데이터셋에서는 특징(feature)의 수를 42개에서 단 7개로 줄였음에도 불구하고, 모델의 불이행 예측 능력은 아주 미미하고 눈에 띄지 않는 수준으로만 하락했습니다(0.886에서 0.885로). 이는 마치 40번째 과일을 버려도 스무디의 맛이 똑같이 유지되는 것과 같습니다. 맛을 잃지 않고도 레시피를 훨씬 짧게 만들 수 있습니다.

2. '위/아래' 규칙은 영리한 지름길이다.
그들이 재료는 유지하되 방향성만을 기록하는 '방향성 규칙'으로 전환했을 때, 결과는 흥미로웠습니다. 어떤 데이터셋에서는 모델의 정확도가 놀라울 정도로 유지되었습니다. 또 다른 데이터셋에서는 위험 인물들의 '순위(ranking)'가 약간 변하긴 했지만, 여전히 '예' 또는 '아니오'를 판단하는 본연의 업무는 훌륭히 수행했습니다. 이는 때때로 정확한 수학적 수치를 알지 못하더라도, 위험의 '방향'을 아는 것만으로도 충분하다는 것을 시사합니다.

3. 숫자를 '예/아니오'로 바꾸는 것은 위험하다.
이 부분이 까다로운 지점이었습니다. 연속적인 숫자(예: 정확한 달러 금액)를 스코어카드나 집계 방식의 단순한 '예/아니오' 조건으로 바꿨을 때, 모델들은 종종 무너졌습니다. 대출 데이터셋의 경우, 정확도가 강력했던 0.885에서 약한 수준인 0.329로 급락했습니다. 이는 마치 복잡한 그림을 흑백 스티커만 사용하여 묘사하려는 것과 같았습니다. 너무 많은 디테일을 잃게 되는 것입니다. 이 논문은 어떤 유형의 데이터에 있어서는 단순히 '높다' 또는 '낮다'를 아는 것보다 정확한 숫자가 더 중요하다는 점을 시사합니다.

4. 붕괴를 미리 예측하기.
이 논문의 가장 멋진 부분 중 하나는, 저자들이 '방향성 규칙'이 얼마나 잘 작동할지를 실제로 구축하기도 전에 예측할 수 있는 방법을 찾아냈다는 것입니다. 원래의 수학 방정식과 재료들이 서로 어떻게 관계를 맺고 있는지를 살펴봄으로써, 그들은 "이봐, 숫자를 버리고 방향만 남긴다면, 당신의 모델은 원래 모델에 대해 약 75% 정도의 충실도를 유지할 것이다"라고 알려주는 점수를 계산할 수 있었습니다. 이는 마치 케이크를 굽기도 전에 재료 목록만 보고 케이크의 맛을 짐작하는 것과 같습니다.

인간은 실제로 어떻게 생각하는가

연구진은 수학만 들여다본 것이 아닙니다. 그들은 금융 전문가와 AI 연구자들에게 이 단순화된 규칙들을 읽게 하고 어떤 것을 선호하는지 물었습니다.

결과는 두 세계의 차이를 보여주었습니다.

• 금융 및 리스크 전문가들은 방향성 규칙을 좋아했습니다. 그들은 57%의 확률로 이를 선호했습니다. 그들은 "이자가 높고 결제액이 낮을 때 불이행을 예측한다"와 같은 명확한 문장을 선호했습니다. 그것이 그들에게는 자연스럽게 느껴졌습니다.
• AI 및 머신러닝 연구자들은 스코어카드와 집계 방식(점수 기반 시스템)을 선호했습니다. 그들은 72%의 확률로 이를 선택했습니다. 그들은 점수를 더해가는 구조를 좋아했는데, 이는 전통적인 스코어링 시스템을 떠올리게 했기 때문입니다.

흥미롭게도, 원래의 42가지 재료가 담긴 전체 방정식을 좋아하는 사람은 거의 없었습니다. 그것은 모두에게 너무 복잡했습니다. 이 연구는 모델을 단순화하는 것이 모델을 읽기 쉽게 만드는 것뿐만 아니라, 직업에 따라 선호하는 '단순함의 종류'가 다르다는 것을 보여줍니다.

핵심 요약

이 논문은 모델을 '단순하게' 만든다는 것이 단순히 길이를 줄이는 것만이 아님을 가르쳐 줍니다. 그것은 트레이드오프(trade-off)입니다.

• 모델의 약한 부분을 제거하는 것은 대개 비용이 거의 들지 않습니다.
• 정확한 숫자 대신 '위/아래' 방향만 남겨도 정확도를 크게 잃지 않을 수 있습니다.
• 하지만 모든 것을 단순한 '예/아니오' 상자로 바꾼다면, 특히 데이터가 복잡할 경우 예측 능력을 상실할 수 있습니다.

가장 중요한 점은, 저자들은 단순한 규칙이 반드시 원래의 복잡한 모델을 완벽하게 복제할 필요는 없다는 것을 발견했다는 것입니다. 규칙은 원래의 수학에 대해 다소 '불충실'할지라도 여전히 매우 효과적인 분류기가 될 수 있습니다. 그것은 지도와 같습니다. 목적지에 도달하기 위해 지도상의 모든 나무와 바위가 그려져 있을 필요는 없습니다. 주요 도로만 있으면 됩니다.

이 연구는 규제가 엄격한 금융 세계에서, 모델이 '해석 가능하다'는 이유만으로 무조건 좋다고 가정해서는 안 된다고 결론짓습니다. 우리는 모델을 읽기 쉽게 만들 때 무엇을 잃게 되는지를 정확히 측정해야 합니다. 때로는 그 손실이 아주 작지만, 때로는 매우 클 수 있습니다. 그리고 누구에게 설명하느냐에 따라 최선의 설명 방식도 달라집니다.