기술 요약: TabNet을 이용한 은행 거래 사기 예측

1. 문제 정의

디지털 뱅킹과 전자 거래의 급격한 확장은 전 세계 경제에 매년 수조 달러의 손실을 입히는 금융 사기의 급증을 초래했습니다. 전통적인 규칙 기반 사기 탐지 시스템은 정교하고 진화하는 사기 수법을 따라잡는 데 어려움을 겪고 있으며, 이는 종종 높은 오탐률(false-positive rates)과 복잡하고 비선형적인 패턴을 탐지하지 못하는 결과로 이어집니다. 더욱이, 기존의 많은 딥러닝 모델(표준 심층 신경망(DNN), LSTM, CNN 등)은 이 영역에서 두 가지 결정적인 한계점을 가집니다:

1. 해석 가능성 부족: 이들은 "블랙박스"로 작동하여, 금융 의사결정에서의 설명 가능한 AI(XAI)에 대한 규제 요구 사항을 충족하지 못합니다.
2. 구조적 불일치: 시퀀스 데이터(RNN/LSTM)나 공간 데이터(CNN)를 위해 설계된 모델은 고유한 시간적 또는 공간적 지역성이 없는 구조화된 표 형식(tabular)의 거래 데이터에서 성능이 저하되는 경우가 많습니다.

본 연구는 높은 정확도와 확장성을 갖추면서도, 해석 가능하고 은행 거래에서 발견되는 표 형식 데이터 구조에 특화되어 최적화된 사기 탐지 시스템에 대한 긴급한 필요성을 다룹니다.

2. 방법론

2.1. 데이터셋 및 전처리

본 연구는 인도 은행 거래를 포함하는 실제 Kaggle 데이터셋을 활용합니다.

• 원본 데이터: 데이터셋은 124,496개의 레코드를 포함하고 있었으며, 심각한 클래스 불균형(정상 거래 62,248건 vs. 사기 거래 3,287건)을 보였습니다.
• 균형 맞추기: 불균형 문제를 해결하기 위해 **SMOTE(Synthetic Minority Over-sampling Technique)**를 적용하였으며, 그 결과 "사기(Fraud)"와 "비사기(Non-Fraud)" 클래스 각각 62,248개의 인스턴스를 가진 균형 잡힌 데이터셋을 생성했습니다.
• 특징 공학(Feature Engineering): 데이터셋은 거래 금액, 계좌 잔액, 시간적 메타데이터(시간, 요일), 기기 유형, 가맹점 카테고리, 위치 등 19개의 특징을 포함합니다. 탐색적 데이터 분석(EDA) 결과, 사기는 업무 시간(오전 8시~오후 5시) 중에 자주 발생하며 수요일과 목요일에 정점에 달한다는 사실이 밝혀졌는데, 이는 사기가 주로 업무 외 시간에 발생한다는 가설과 상충하는 결과입니다.

2.2. 실험 프레임워크

본 연구는 3-폴 층화 교차 검증(3-fold stratified cross-validation) 프레임워크를 사용하여 평가되는 지도 학습 파이프라인을 채택했습니다. 다섯 가지 서로 다른 딥러닝 아키텍처를 테스트하고 비교했습니다:

1. 심층 신경망 (DNN): 표준 다층 퍼셉트론.
2. 합성곱 신경망 (1D) (CNN1D): 일반적으로 시퀀스 또는 이미지 데이터에 사용됨.
3. Gated Recurrent Unit (GRU): 순차적 데이터를 위한 순환 아키텍처.
4. Long Short-Term Memory (LSTM): 장기 의존성을 위해 설계된 순환 아키텍처.
5. TabNet: 표 형식 데이터에 특화되어 설계된 적응형 딥러닝 아키텍처.

TabNet 구성:

• 메커즘: TabNet은 각 결정 단계에서 가장 관련성이 높은 특징을 동적으로 선택하기 위해 순차적 어텐션(sequential attention) 메커니즘을 활용합니다. 또한 해석 가능성을 강제하고 과적합을 방지하기 위해 희소 특징 마스크(sparse feature masks)를 사용합니다.
• 하이퍼파라미터: 모델은 배치 크기 1024, 가상 배치 크기 128, 최대 100 에포크(epochs)로 학습되었으며, Adam 옵티마이저를 사용했습니다. 조기 종료(early stopping)는 검증 AUC를 기준으로 구현되었습니다.
• 구현: 실험은 Nvidia RTX 3050 GPU가 장착된 머신에서 PyTorch를 사용하여 수행되었습니다.

3. 주요 결과

모델의 성능은 ROC-AUC와 **정확도(Accuracy)**를 사용하여 평가되었습니다.

모델	교차 검증 AUC (평균)	전체 세트 정확도	성능 관찰
TabNet	0.9739	97.39%	우수함. 최소한의 오탐으로 높은 정밀도를 달성함.
LSTM	0.5118	~50%	무작위 추측보다 약간 나은 수준; 높은 오분류 발생.
GRU	0.5170	~51%	미미한 개선; 변별력 있는 패턴을 포착하는 데 실패함.
CNN1D	0.5005	50%	완전한 분류 붕괴; 모든 클래스를 "사기"로 예측함.
DNN	0.5000	50%	완전한 분류 붕괴; 모든 클래스를 "사기"로 예측함.

핵심 발견:

• TabNet의 우위: TabNet은 다른 모든 아키텍처를 압도하며 0.9739의 ROC-AUC를 달성했습니다. 최종 평가에서 사기 사례 58,775건을 올바르게 분류하고 비사기 사례 62,248건을 올바르게 분류하였으며, 비사기 클래스에 대한 오탐(false positives)은 0건이었습니다.
• 순차적/공간적 모델의 실패: DNN, CNN1D, LSTM, GRU 모델은 일반화에 실패하여 무작위 추측(ROC-AUC ≈ 0.5)과 동일한 동작을 보였습니다. DNN과 CNN1D는 "클래스 붕괴(class collapse)" 현상을 겪었으며, 이는 정적 표 형식 데이터에 적절한 귀납적 편향(inductive bias)이 부족하거나 그래디언트 전파 또는 초기화 문제로 인해 모든 입력을 다수 클래스(또는 단일 클래스)로 예측했기 때문인 것으로 보입니다.
• 해석 가능성: TabNet은 자체적인 어텐션 마스크를 통해 내장된 특징 중요도(feature importance)를 제공하여, 외부의 사후 설명 도구 없이도 핵심 예측 요인(예: 거래 시간, 기기 유형 및 계좌 잔액 간의 상호작용)을 식별할 수 있게 해주었습니다.

4. 주요 기여

1. 금융 분야에서의 TabNet 실증적 검증: 본 연구는 TabNet이 표 형식의 금융 사기 탐지에서 전통적인 딥러닝 모델(DNN, LSTM, GRU, CNN)보다 우수한 대안임을 보여주는 강력한 증거를 제공합니다.
2. "블랙박스" 문제 해결: TabNet의 고유한 희소 어텐션 메커니즘을 활용함으로써, 본 연구는 금융 의사결정의 투명성에 대한 규제 요구를 충족하는 **설명 가능한 AI (XAI)**로 가는 경로를 제시합니다.
3. 행동 통찰력: EDA 및 모델 분석을 통해, 본 논문은 사기가 업무 피크 시간대에 발생하는 경향과 탐지를 피하기 위해 고잔액 계좌에서 소액을 인출하는 전략과 같은 구체적인 사기 패턴을 식별합니다.
4. 운영 리스크 프레임워크: 본 연구는 운영 리스크 관리를 강화하기 위해 실시간 뱅킹 인프라에 통합될 수 있는 확장 가능한 엔드 투 엔드 파이프라인(데이터 수집 → SMOTE → TabNet 교차 검증 → 해석 가능성)을 제안합니다.

5. 의의 및 주장

저자들은 본 연구가 학술적 문헌과 실제 뱅킹 운영 모두에 중요한 기여를 한다고 주장합니다:

• 이론적 의의: 본 작업은 복잡한 딥러닝 아키텍처(LSTM 등)가 보편적으로 적용 가능하다는 가설에 도전합니다. 구조화된 비순차적 표 형식 데이터의 경우, 내장된 특징 선택 기능(TabNet과 같은)을 갖춘 아키텍처가 이론적 및 경험적으로 더 우월함을 입증합니다. 이는 유익한 특징을 우선시하고 노이즈를 줄이는 인지 부하 이론(cognitive load theory)의 원칙과 일치합니다.
• 실무적 의의: 본 연구는 금융 기관이 경직된 규칙 기반 시스템에서 적응형이고 해석 가능한 딥러닝 모델로 전환할 수 있는 청사진을 제공합니다. 이는 안전한 뱅킹과 제도적 투명성을 통해 포용적 경제 성장을 촉진함으로써 **지속가능발전목표 8(양질의 일자리와 경제 성장) 및 16(평화, 정의 및 강력한 제도)**을 지원합니다.
• 규제 준수: 높은 정확도와 해석 가능성을 모두 갖춘 모델을 제공함으로써, 본 연구는 설명 가능한 의사결정 과정을 요구하는 Basel III 및 자금세탁방지(AML) 규제와 같은 프레임워크 준수에 대한 핵심적인 요구 사항을 해결합니다.

본 논문은 TabNet이 탁월한 가능성을 보여주지만, 향후 연구에서는 개념 드리프트(evolving fraud patterns)에 대한 견고성과 실시간 라이브 배포 환경에서의 성능을 탐구해야 한다고 결론짓습니다.