기술 요약: 금융 범죄 탐지를 위한 시간적 대비 변환기 (Temporal Contrastive Transformer)

1. 문제 제기

금융 기관은 거래 모니터링에서 실시간 결제 사기 탐지와 자금세탁 (AML) 징후 패턴 식별이라는 이중 과제를 안고 있습니다. 두 문제 모두 금융 이벤트 시퀀스 전반에 걸친 비정상 행위를 탐지하는 것이지만, 현재 업계 표준은 주로 개별 거래를 독립적으로 평가하는 별도의 규칙 기반 시스템이나 지도 학습 모델에 크게 의존하고 있습니다. 이러한 고전적 접근법은 두 가지 주요 한계를 겪고 있습니다:

1. 일반화: 수동으로 설계된 특징과 임계값 기반 규칙은 진화하는 적대적 패턴에 적응하는 데 어려움을 겪으며, 지속적인 수동 유지보수가 필요합니다.
2. 데이터 부족과 이질성: 사기와 AML 환경의 레이블 데이터는 희소하고 불균형이 심하여 완전한 지도 학습 접근법의 효과를 제한합니다. 또한, 거래 데이터는 범주형 식별자, 연속적인 금전 가치, 시간 간격, 파생 집계값 등을 결합하여 본질적으로 이질적이므로 통합된 표현을 구축하기 어렵습니다.

본 논문은 사기와 자금세탁 행위가 고립된 이상치가 아니라 시간에 따라 전개되는 구조화된 시퀀스 패턴으로 나타난다고 주장하며, 희소한 레이블에 의존하지 않고 시간적 맥락을 포착할 수 있는 모델이 필요함을 제기합니다.

2. 방법론: 시간적 대비 변환기 (TCT)

저자들은 레이블이 없는 데이터를 사용하여 거래 시퀀스를 컴팩트한 임베딩 벡터로 매핑하도록 설계된 자기지도 표현 학습 프레임워크인 시간적 대비 변환기 (TCT) 를 제안합니다. 이 아키텍처는 두 가지 상호 보완적인 구성 요소를 통합합니다:

2.1 아키텍처

• 시간적 융합 변환기 (TFT) 백본: 모델은 다중 지평선 예측에서 표현 학습으로 재사용된 TFT 아키텍처를 활용합니다. 여기에는 다음이 포함됩니다:
  • 변수 선택 네트워크 (VSN): 입력 특징에 소프트 중요도 가중치를 할당하여 모델이 관련 변수를 적응적으로 선택할 수 있도록 합니다.
  • 계층적 시간 인코딩: 2 단계 순환 구조입니다. 단기 인코더 (LSTM/GRU) 는 국소 하위 시퀀스를 처리하여 세밀한 동역학을 포착합니다. 장기 인코더는 이러한 하위 시퀀스의 요약을 처리하여 장기 추세를 모델링합니다.
  • 정적 - 동적 분리: 모델이 행동 진화보다는 정적 개체 식별 (예: 특정 고객 속성) 에 기반한 단축 경로를 학습하는 것을 방지하기 위해, 현재 구현에서는 대비 목적 함수에서 정적 특징을 제외하고 동적 거래 특징에만 집중합니다.

2.2 학습 목적: 대비 예측 코딩 (CPC)

모델은 자기지도 대비 예측 코딩 목적 함수를 사용하여 학습됩니다.

• 메커니즘: 인코더는 과거 거래 하위 시퀀스에서 컨텍스트 벡터를 생성합니다. 예측 함수는 이 컨텍스트를 미래 잠재 표현으로 투영합니다.
• 손실 함수: 모델은 InfoNCE 손실을 사용하여 미니배치 내 다른 시퀀스의 미래 상태 (음성 샘플) 집합으로부터 진짜 미래 잠재 상태 (양성 쌍) 를 구별하도록 학습됩니다.
• 목표: 이 목적 함수는 컨텍스트와 미래 잠재 상태 간의 상호 정보를 최대화하여, 레이블된 목표 없이도 인코더가 예측 가능한 시간적 구조와 행동 동역학을 학습하도록 강제합니다.

2.3 하류 애플리케이션

사전 학습 후 인코더 파라미터는 고정됩니다. 생성된 임베딩은 사기 탐지를 위한 위험 점수를 생성하는 지도 경향 부스팅 분류기 (XGBoost) 의 입력 특징으로 사용됩니다. 또한 이러한 임베딩은 비지도 이상 탐지 방법에서도 활용될 수 있습니다.

3. 주요 기여

• 프레임워크 제안: 금융 거래 시퀀스에 특화되어 TFT 아키텍처와 CPC 목적 함수를 결합한 TCT 라는 새로운 프레임워크의 도입.
• 자기지도 접근법: 레이블된 사기/AML 데이터의 부족 문제를 해결하기 위해 방대한 양의 레이블 없는 거래 데이터에서 시간적 표현을 학습하는 방법 제시.
• 실증적 평가: 현실적인 금융 범죄 탐지 환경에서 강력하고 도메인 엔지니어링된 베이스라인에 대한 학습된 임베딩의 엄격한 평가.

4. 실험 결과

이 연구는 수백만 건의 거래로 구성된 실제 소매 결제 데이터셋에서 수행되었습니다. 모델은 홀드아웃 테스트 세트에서 AUC-ROC 를 사용하여 평가되었습니다.

• 임베딩 전용 성능: XGBoost 분류기와 단독으로 사용된 TCT 임베딩은 0.8644의 AUC-ROC 를 달성했습니다. 이는 모델이 비자명한 시간적 구조와 행동 신호를 성공적으로 포착했음을 나타냅니다.
• 베이스라인 성능: 30 개의 전문가 엔지니어링 행동 특징 (거래 빈도, 최근성, 신기함 등) 을 사용한 강력한 베이스라인은 0.9245의 AUC-ROC 를 달성했습니다.
• 결합 성능: TCT 임베딩을 도메인 엔지니어링 특징과 연결하면, 결과 모델은 0.9205의 AUC-ROC 를 달성했습니다.
• 분석:
  • 학습된 임베딩의 추가는 강력한 특징 기반 베이스라인 대비 측정 가능한 개선을 가져오지 못했습니다 (단일 분할을 고려할 때 무시할 수 있는 것으로 해석되는 0.004 AUC 의 미세한 감소).
  • ROC 곡선 분석은 베이스라인과 결합 모델 간의 전역 행동이 거의 동일하며 국소적 편차가 미미함을 보여주었습니다.
  • 임베딩 공간 분석 (UMAP) 은 학습된 표현이 명시적 감독 없이 구조적 패턴 (예: 연령 관련 행동 클러스터) 을 암시적으로 포착하며, 합법적인 거래에 비해 사기 거래가 임베딩 공간에서 더 높은 변이성을 보임을 밝혔습니다.

5. 중요성과 주장

본 논문은 발견 사항에 대해 겸손하고 현실적인 입장을 유지합니다:

• 진보로서의 동등성: 주요 중요성은 즉각적인 최첨단 성능 향상을 달성한 것이 아니라, 자기지도 시간적 표현이 도메인 엔지니어링된 특징의 예측 능력을 근사할 수 있음을 입증한 데 있습니다. 학습된 표현만을 사용하여 강력하고 수동으로 엔지니어링된 베이스라인과 동등한 수준에 도달하는 것은 의미 있는 중간 이정표로 제시됩니다.
• 표현의 중첩: 임베딩과 엔지니어링된 특징을 결합했을 때의 가산적 가치 부재는 현재 학습된 표현이 기존 특징 추상화와 크게 중첩됨을 시사합니다. 모델은 전문가들이 이미 수동으로 인코딩한 동일한 행동 신호를 포착합니다.
• 향후 방향: 결과는 TCT 를 수동 특징 엔지니어링에 대한 의존성을 줄이기 위한 유망한 방향으로 위치시킵니다. 저자들은 이 접근법이 아직 프로덕션 준비가 되지 않았지만, 레이블 없는 데이터에서 시간적 신호를 학습할 수 있는 타당성을 검증했다고 주장합니다. 향후 작업은 학습 목적 함수를 정교화하고, 하드 네거티브 마이닝을 통합하며, 현재 엔지니어링된 특징 이상의 가산적 가치를 해제하기 위해 관계 구조 (그래프 기반) 를 통합하는 것이 필요하다고 식별됩니다.

결론적으로, 본 논문은 현재 버전이 확립된 도메인 전문 지식의 성능을 아직 능가하지는 못했지만, 자기지도 시간적 표현 학습이 금융 범죄 탐지에서 특징 엔지니어링을 자동화하기 위한 실현 가능한 경로임을 확립합니다.