Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions: An Internal Audit Perspective

돈의 디지털 세계를 매일 수십억 개의 코인이 보이지 않는 터널을 통해 질주하는 거대하고 북적이는 도시라고 상상해 보십시오. 이 도시에서 은행은 문지기 역할을 하며, 도둑들이 돈을 훔치기 전에 그들을 포착하려고 노력합니다. 오랫동안 이 문지기들은 단순한 규칙 책을 사용해 왔습니다. "만약 새벽 3시에 거래가 발생하면 중단하라!" 또는 "만약 금액이 10,000달러를 초과하면 중단하라!"와 같은 식입니다. 하지만 도시는 너무 크고 도둑들은 너무 영리해서, 이러한 오래된 규칙들은 너무 많은 무고한 사람들을 잡아내고(오탐), 더 나아가 왜 그들을 막았는지 설명하지 못합니다. 이는 마치 보안 요원이 무엇을 잘못했는지 말해주지 않은 채 그냥 "멈춰!"라고 소리치는 것과 같습니다.

여기서 **설명 가능한 인공지능(Explainable Artificial Intelligence, XAI)**이라는 새로운 종류의 과학이 등장합니다. XAI를 단순히 답만 내놓는 마법의 블랙박스가 아니라, 범인을 찾아냈을 뿐만 아니라 어떻게 범인을 찾아냈는지 정확히 설명하는 단계별 보고서를 작성하는 형사라고 생각하십시오. 여러분이 읽게 될 논문은 이 세계를 파고들어, 패턴을 포착하는 스마트한 도구인 아이솔레이션 포레스트(Isolation Forest)(이상한 것을 군중으로부터 얼마나 쉽게 분리해낼 수 있는지를 통해 찾아내는 방식)와 수학적 방법인 SHAP(컴퓨터가 왜 의심했는지—예를 들어 이상한 시간이나 거액의 금액처럼—정확한 단서를 보여주는 돋보기 역할을 함)를 결합합니다. 목표는 은행 감사관(인간 조사관)들이 혼란스러운 코드에 길을 잃지 않고 컴퓨터의 직감을 신뢰하며 범인을 잡을 수 있도록 돕는 것입니다.

논문: 은행 감사관을 위한 형사의 도구 상자

"은행 거래의 이상 탐지를 위한 설명 가능한 인공지능(Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions)"이라는 논문에서 저자 아누파 로디(Anupa Lodhi)는 은행 세계의 까다로운 문제를 다룹니다. 은행들은 매일 발생하는 수십억 건의 거래로 인해 데이터에 잠겨 있으며, 그중 몇 건의 사기 거래를 찾아내야 합니다. 문제는 이러한 불량 거래를 찾는 데 뛰어난 스마트한 컴퓨터 프로그램(머신러닝)들이 종종 "블랙박스"라는 점입니다. 그들은 "이 거래는 나쁘다"라고 말하지만, 인간 감사관에게 왜 그런지는 말해주지 못합니다. 이유가 없다면 감사관은 보고서를 쓸 수 없고, 규제 기관은 은행이 제 역할을 하고 있는지 확신할 수 없습니다.

해결책: 3인조 팀
로디는 은행의 내부 감사팀을 위해 특별히 설계된, 마치 세 명의 형사 팀처럼 작동하는 새로운 시스템을 제안합니다:

1. 포착자 (Isolation Forest): 이것은 첫 번째 방어선입니다. 모든 나무가 길인 거대한 숲을 상상해 보십시오. 정상적인 거래는 함께 걷는 군중과 같습니다. 그들은 숲을 통과하기 위해 길고 구불구불한 경로를 택합니다. 이상치(사기꾼들)는 외딴 존재와 같습니다. 그들은 너무 특이해서 빠르게 고립되며, 매우 짧은 경로를 택합니다. 아이솔레이션 포레스트 알고리즘은 무엇이 "사기"인지 미리 알 필요 없이 이 아이디어를 사용하여 의심스러운 거래를 표시합니다. 그것은 단지 무엇이 "정상"인지를 알고, 그 틀에 맞지 않는 것들을 찾아낼 뿐입니다.
2. 설명자 (SHAP): 포착자가 거래를 표시하면 설명자가 투입됩니다. SHAP(게임 이론이라는 수학의 한 분야에 기반함)이라는 방법을 사용하여, 이 결정 내용을 세분화합니다. 그것은 "금액이 이 경보에 얼마나 기여했는가?", "시간대가 얼마나 기여했는가?"라고 묻습니다. 각 단서에 점수를 부여하여, 무서운 컴퓨터 숫자를 "이 거래는 금액이 너무 크고 시간이 부적절했기 때문에 의심스럽습니다"와 같은 평이한 영어 문장으로 바꿔줍니다.
3. 인터페이스 (Streamlit 대시보드): 마지막으로, 이 팀은 간단하고 색감이 풍부한 대시보드를 구축했습니다. 이것은 인간 감사관이 실제로 사용하는 도구입니다. 이를 사용하려면 코딩을 알거나 복잡한 수학을 이해할 필요가 없습니다. 데이터를 업로드하기만 하면, 대시 대시보드는 "고위험" 또는 "저위험"으로 색상이 구분된 의심 거래 목록을 보여주며, 그 옆에 SHAP 설명이 바로 나타납니다.

연구 결과
저자들은 이 시스템을 합성 데이터셋(실제 삶을 모방하여 컴퓨터로 생성한 10,000건의 가짜 은행 거래 세트)을 사용하여 테스트했습니다. 이 테스트를 위해 실제 은행 데이터를 사용하지는 않았지만, 시스템이 이를 찾아낼 수 있는지 확인하기 위해 500건의 "가짜" 사기 거래(전체의 5%)를 정교하게 주입했습니다.

논문에 나온 결과는 다음과 같습니다:

• 새로운 시스템(Isolation Forest + SHAP)은 **0.91의 정밀도(precision)**와 **0.88의 재현율(recall)**로 가짜 사기를 잡아냈습니다.
  • 정밀도는 시스템이 "이것은 사기다"라고 말했을 때 91%의 확률로 맞았음을 의미합니다.
  • 재현율은 데이터 속에 숨어 있던 가짜 사기 중 88%를 찾아냈음을 의미합니다.
• 이를 다른 방법들(Autoencoder 및 One-Class SVM 등)과 비교했을 때, 새로운 시스템이 더 우수한 성능을 보였습니다. 예를 들어, Autoencoder는 0.83의 F1-Score(정밀도와 재현율의 조합)에 그쳤고, One-Class SVM은 그보다 더 낮은 0.77을 기록했습니다.
• 결정적으로, "설명 가능한" 부분(SHAP)을 추가한다고 해서 시스템이 느려지거나 정확도가 떨어지지 않았습니다. 설명 레이어가 없는 "표준 아이솔레이션 포레스트"도 동일한 탐지 점수(정밀도 0.91, 재현율 0.88)를 기록했으며, 이는 설명 기능이 성능을 해치지 않는 '무료 보너스'임을 입증합니다.

인간의 손길
이 논문은 단순히 숫자만 본 것이 아니라, 이것이 실제로 도움이 되는지 실제 사람들에게 물었습니다. 은행 감사 경험이 있는 5명의 전문가가 시스템이 생성한 설명을 검토했습니다. 그들은 설명의 품질을 5.0점 만점에 4.3점으로 평가했습니다. 감사관들은 이러한 특징 수준의 설명이 보고서를 작성하는 데 필요한 "정당화 언어(justificatory language)"를 제공한다고 말했습니다. 이전에는 거래가 왜 표시되었는지 추측해야 했지만, 이제는 컴퓨터가 어떤 단서 때문에 그러한지 정확히 알려줍니다.

이것이 중요한 이유 (그리고 하지 못하는 것)
이 논문은 AI를 투명하게 만듦으로써 은행 감사관들에게 유용하게 만들 수 있다고 제안합니다. 저자는 우리가 똑똑한 컴퓨터와 결정을 이해하는 인간 중 하나를 선택해야 한다는 생각에 반대합니다. 대신, 둘 다 가질 수 있습니다.

하지만 이러한 결과에 대해 확신할 수 있는 데에는 몇 가지 한계가 있습니다. 이 연구는 합성 데이터셋을 사용했으므로, 데이터는 저자들이 만든 것이지 실제 은행의 일상적인 데이터가 아닙니다. 결과가 유망해 보이기는 하지만, 논문은 실제 은행 데이터가 이 깨끗한 가짜 버전보다 훨씬 더 지저분하고 복잡할 수 있음을 인정합니다. 또한 시스템은 단 4가지 특정 특징(금액, 시간, 빈도, 위치 변화)만을 테스트했으나, 실제 은행은 수백 가지의 다른 요소들을 추적해야 할 수도 있습니다.

이러한 한계에도 불구하고, 이 논문은 이 프레임워크가 실질적인 진전이라고 결론짓습니다. 이는 정확하고 사용하기 쉬우며, 인간 감사관에게 행동할 수 있는 확신을 주는 도구를 구축하는 것이 가능하다는 것을 보여줍니다. 이는 복잡한 머신러닝의 세계와 실무적이고 규칙 중심적인 은행 감사의 세계 사이를 잇는 가교이며, 컴퓨터가 경보를 울릴 때 책임자인 인간이 정확히 그 이유를 알 수 있도록 보장합니다.