Diverse and Plausible Algorithmic Recourse via Tractable Recourse Distributions

컴퓨터가 당신의 미래를 결정하는 세상을 상상해 보십시오. 컴퓨터는 대출, 면접, 혹은 대학 합격 여부를 결정하는 문지기 역할을 합니다. 때때로 컴퓨터는 "아니오"라고 말합니다. 과거에는 왜 그런 결과가 나왔는지 물어도, 컴퓨터는 모호한 답변을 주거나 당신이 어긴 규칙의 목록만을 나열했을 것입니다. 하지만 왜 실패했는지를 아는 것만으로는 문제를 해결하는 데 도움이 되지 않습니다. 당신에게는 지도가 필요합니다. 그 "아니오"를 "예"로 바꾸기 위해 정확히 어떤 변화를 줄 수 있는지 알아야 합니다. 이것이 바로 **알고리즘적 구제(Algorithmic Recourse)**라고 불리는 분야의 핵심입니다. 이것을 인생의 결정을 위한 GPS라고 생각해 보십시오. 단순히 당신이 길을 잃었다고 말하는 대신, 목적지에 도달할 수 있는 경로를 제안해 주는 것입니다.

하지만 한 가지 문제가 있습니다. 대부분의 GPS 시스템은 단 하나의 경로만을 제공합니다. 하지만 현실 세계에서는 같은 곳에 도달하는 방법이 여러 가지인 경우가 많습니다. 신용카드를 상환함으로써 대출을 받을 수도 있고, 더 높은 연봉의 직업을 가짐으로써, 혹은 보증인을 세움으로써 가능할 수도 있습니다. 사람마다 가진 도구, 시간, 그리고 제약 조건이 다르기 때문입니다. 좋은 시스템은 단 하나의 경직된 경로만을 제시하는 것이 아니라, 당신의 삶에 실제로 부합하는 현실적이고 다양한 선택지들을 메뉴처럼 제공해야 합니다. 이것이 인도 공과대학교 팔라카드(IIT Palarkad) 연구진의 새로운 논문이 해결하고자 하는 문제입니다. 그들은 단 하나의 "완벽한" 답을 찾는 것에서 벗어나, 가능한 해결책의 전체 풍경을 그려내어 당신이 성공할 수 있는 다양한 방법들을 보여주고자 합니다.

기존 방식: 건더미 속에서 바늘 하나 찾기

당신이 거대한, 어질러진 방(그 방은 당신의 삶에서 할 수 있는 모든 변화를 의미합니다)에서 특정 열쇠를 찾으려고 한다고 상상해 보십시오. 기존의 방식은 로봇 한 대를 보내 현재 당신이 서 있는 곳에서 가장 가까운 '단 하나의 열쇠'를 찾는 것이었습니다. 로봇은 바닥을 스캔하고 거리를 계산하여 단 하나의 최적의 지점을 선택합니다. 만약 로봇이 열쇠를 찾았다면 다행이지만, 만약 그 열쇠가 사실은 잠겨 있거나 위험한 구역에 있다면 어떻게 될까요? 혹은 로봇이 바로 몇 피트 옆에 있는 아주 좋은 열쇠를 발견했음에도 불구하고, 첫 번째 것에 너무 집중한 나머지 그것을 놓쳐버린다면 어떨까요?

연구진은 기존의 방식이 이와 같이 작동한다고 지적합니다. 기존 방식은 문제를 수학적인 퍼즐로 취급하여 특정 "반사실적 상황(counterfactuals, '만약 ~했다면'이라는 시나리오를 뜻하는 어려운 용어)" 하나 또는 몇 개를 찾는 데 집중합니다. 이 방식은 해결책이 현재 상황과 가깝고, 최대한 적은 수의 요소를 변경하도록 강제하려고 합니다. 하지만 그렇게 하는 과정에서 종종 큰 그림을 놓치게 됩니다. 수학적으로는 가깝지만 당신의 삶에는 전혀 비현실적인 해결책을 제시하거나, 혹은 본질적으로는 거의 동일한 해결책들을 약간씩만 변형하여 열 개나 제시할 수도 있습니다. 이는 마치 GPS가 가장 짧은 경로만 보여주면서, 그 경로가 막다른 길임에도 불구하고, 주변의 유망한 대안들은 무시하는 것과 같습니다.

새로운 아이디어: 가능성의 확률 지도

저자인 아나가 사부(Anagha Sabu), 흐리틱 수레쉬(Hrithik Suresh), 나라야난 C. 크리슈난(Narayanan C. Krishnan)은 완전히 다른 접근 방식을 제안합니다. 단 하나의 바늘을 쫓는 대신, 그들은 방 전체의 지도를 그려서 모든 좋은 열쇠들이 어디에 있을 가능성이 높은지 보여주고자 합니다. 그들은 이를 **다루기 쉬운 구제 분포(Tractable Recourse Distribution, TRD)**라고 부릅니다.

이렇게 생각해 보십시오. 당신에게 대출 승인을 받을 수 있는 모든 방법이 담긴 마법 같고 빛나는 지도가 있다고 상상해 보십시오. 이 지도는 단순히 점들의 목록이 아니라, 히트맵(heat map) 형태입니다. 지도의 가장 밝고 뜨거운 지점들은 가장 성공할 가능성이 높고, 현재의 삶과 가장 가까우며, 한꺼번에 너무 많은 것을 바꿀 필요가 없는 변화들을 나타냅니다. 희미한 지점들은 여전히 가능은 하지만, 더 큰 도약이 필요한 곳들입니다.

그들의 방법이 마법 같은 이유는 이 지도를 만드는 방식에 있습니다. 그들은 먼저 "성공한 사람들"의 모습이 어떠한지에 대한 모델(양의 클래스 분포)에서 시작합니다. 그런 다음, **지수적 기울기(exponential tilting)**라는 수학적 기교를 사용합니다. 모든 가능한 미래를 나타내는 구슬 주머니가 있다고 상상해 보십시오. 대부분의 구슬은 무작와 같습니다. 하지만 당신은 당신의 현재 상황과 가까운 구슬들을 찾고 싶습니다. 그래서 당신은 주머니 위에 자석을 놓습니다. 이 자석은 당신과 가까운 것(근접성)과 많은 특징을 바꿀 필요가 없는 것(희소성)을 위로 끌어올립니다. 멀리 떨어져 있거나 거대한 변화를 요구하는 구슬들은 아래로 가라앉습니다.

그들은 **확률적 회로(Probabilistic Circuit)**라는 특정 유형의 수학적 구조를 사용하기 때문에, 이 끌어당김과 분류 작업을 정확하고 즉각적으로 수행할 수 있습니다. 그들은 매번 사람마다 시스템을 다시 훈련시킬 필요가 없습니다. 기존의 지도를 가져와서 자석(기울기)을 적용하기만 하면, 짠—당신만을 위한 맞춤형 지도가 완성됩니다.

연구 결과: 현실적인 옵션의 메뉴

연구진은 대출 승인이나 신용 점수 등에 사용되는 표준 데이터셋과 이미지(숫자 8을 0으로, 혹은 7을 1로 바꾸는 것)를 대상으로 이 아이디어를 테스트했습니다. 여기서 그들은 다음과 같은 사실을 발견했습니다.

1. 혼란 없는 다양성
이 새로운 지도에서 샘플을 추출했을 때, 시스템은 자연스럽게 매우 다양한 해결책을 만들어냈습니다. 어떤 사람은 소득을 바꿀 수도 있고, 어떤 사람은 부채를 바꿀 수도 있으며, 또 다른 사람은 고용 이력을 바꿀 수도 있습니다. 시스템은 이러한 다양성을 강제하기 위해 특별한 "다양성" 규칙을 필요로 하지 않았습니다. 지도 자체가 이미 다양했기 때문입니다. 실제로 그들은 지도에서 무작위로 샘플을 뽑더라도 좋은 조합을 얻을 수 있다는 것을 발견했습니다. 다만 최종 목록이 똑같은 조언의 복사본 열 개가 되지 않도록 "클러스터링(군집화)" 단계를 추가했을 뿐입니다.

2. 현실성 유지(Plausibility)
이러한 시스템에 대한 가장 큰 우려 중 하나는 "다른 나라로 이민 가기"나 "나이 바꾸기"와 같이 터무니없고 불가능한 변화를 제안할지도 모른다는 것입니다. 연구진은 그들의 방법이 제안들을 현실에 기반하게 만든다는 것을 확인했습니다. 이 지도는 성공한 사람들에 대한 실제 데이터에서 시작했기 때문에, 모든 제안은 현실적인 시나리오가 됩니다. 테스트 결과, 그들의 목록 중 "가장 좋지 않은" 제안조차도 다른 방법론의 제안들보다 훨씬 더 현실적이었습니다. 예를 들어, 독일 신용 데이터셋(German Credit dataset)에서 그들의 방법은 가장 좋지 않은 제안조차도 매우 그럴듯하게 유지한 반면, 다른 방법들은 수학적으로는 가능하지만 실제로는 말도 안 되는 변화를 제안했습니다.

3. 트레이드오프 제어
연구진은 지도를 제어할 수 있다는 것을 보여주었습니다. "몇 가지를 바꾸더라도 가장 가까운 변화를 달라"고 하거나, "조금 더 멀어지더라도 내 삶의 최대한 적은 부분에 영향을 주는 변화를 달라"고 기울기 파라미터를 조정하여 시스템에 명령할 수 있습니다. 그들은 두 가지 제어를 함께 사용할 때 가장 좋은 결과를 얻었으며, 이는 사용자에게 가깝고 동시에 최소한의 변화를 요구하는 해결책을 제공했습니다.

4. 이미지에서도 작동함
그들은 이 기술을 이미지에도 적용해 보았습니다. 숫자 8의 사진을 가지고 있고 이를 0으로 바꾸고 싶다면, 시스템은 단순히 추측하는 것이 아닙니다. 8을 0으로 만드는 모든 방법에 대한 분포를 생성합니다. "기울기"의 강도를 높일수록, 생성된 이미지는 원래 8의 픽셀을 더 많이 유지하여 변화를 더 작고 미묘하게 만들었습니다. 그러나 그들은 트레이드오프가 존재함을 언급했습니다. 기울기를 너무 강하게 주면, 이미지가 원래의 8과 너무 닮아서 0으로 인식되지 못할 수도 있습니다. 이는 이 방법이 단순한 숫자 표가 아닌, 복잡하고 고차원적인 공간에서도 작동한다는 것을 보여줍니다.

결론

이 논문은 이 접근 방식이 사람들에게 도움을 줄 수 있는 실질적이고 강력한 방법이라고 결론짓습니다. 이 시스템은 단 하나의 답만을 주는 것이 아니라, 다양하고 현실적이며 실행 가능한 옵션들의 메뉴를 제공합니다. 이는 마치 단순히 가장 저렴한 항공권만 예약해 주는 여행사가 아니라, 다섯 가지 다른 경로를 보여주고 각 경로의 장단점을 설명하며, 당신의 일정에 가장 잘 맞는 것을 고를 수 있게 해주는 여행 상담원을 곁에 두는 것과 같습니다.

연구진은 이 시스템이 모든 문제를 해결하는 마법 지팡이는 아니라는 점을 주의 깊게 명시했습니다. 이 시스템은 "재샘플링(rejection sampling)"에 의존하므로, 많은 가능성을 생성한 뒤 적절하지 않은 것들을 버리는 과정을 거칩니다. 만약 허용되는 변화에 대한 규칙이 너무 엄격하다면(예: 매우 복잡한 법적 규제 등), 좋은 경로를 찾는 것이 어려울 수 있습니다. 하지만 그들이 테스트한 데이터셋에서는 매우 잘 작동했으며, 테스트한 모든 사람에게 적어도 하나 이상의 유효하고 현실적인 옵션을 제공했습니다. 그들은 향-후 연구에서 이러한 엄격한 규칙들을 지도 자체에 직접 포함시켜 과정을 더욱 매끄럽게 만들 수 있을 것이라고 제안했습니다.

요약하자면, 이 논문은 컴퓨터가 우리에게 "당신이 해야 할 일은 단 하나입니다"라고 말하는 세상에서, "당신이 성공할 수 있는 다양한 방법들이 여기 있으며, 그중 당신에게 가장 적합한 것은 이것입니다"라고 말하는 세상으로 우리를 이동시키고 있습니다.