An AI Security Agent for Banking: Multi-Vector Fraud and AML Detection Across Retail and Corporate Accounts

은행을 거대하고 북적이는 도시라고 상상해 보세요. 매일 수백만 명의 사람들(계좌)이 돈을 옮기고, 로그인하며, 물건을 구매합니다. 보통은 아무 문제가 없습니다. 하지만 가끔 범죄자들이 몰래 침입하여 신원을 도용하거나 검은 돈을 세탁하려고 시도합니다.

이 논문은 일반 개인(리테일)과 대기업(코퍼레이트) 모두를 보호하기 위해 설계된 새로운 **"AI 보안 요원"**을 소개합니다. 저자인 조셉 와루심비(Joseph Walusimbi)와 조슈아 벤자민 센통고(Joshua Benjamin Ssentongo)는 우간다 소로티 대학교(Soroti University) 소속으로, 기존의 범죄 적발 방식이 더 이상 충분히 효과적이지 않기 때문에 이 보안 요원을 만들었습니다.

다음은 이 논문이 설명하는 문제점과 해결책을 쉬운 비유를 사용하여 정리한 내용입니다.

1. 문제점: 두 가지 서로 다른 유형의 범죄자

논문에 따르면 은행은 두 가지 매우 다른 종류의 위협에 직면해 있으며, 기존의 보안 시스템(소위 "규칙 엔진")은 오직 한 가지 특정 사항만 확인하는 경비원과 같습니다.

• "경비원" (기존 규칙): 이 경비원은 명백한 위험 신호를 찾습니다. 만약 누군가 5분 안에 10,000달러를 인출하려 하거나, 동시에 두 국가에서 카드를 사용한다면 이 경비원은 그들을 막습니다. 이는 무차별 공격(Brute-force attacks, 예: 비밀번호 알아내기 시도)이나 ATM 복제를 막는 데는 매우 효과적입니다.
• "카멜레온" (새로운 위협): 그다음은 교활한 범죄자들입니다.
  • BEC (비즈니스 이메일 침해): 범죄자가 CEO의 이메일을 해킹하여 회계 담당자에게 "급여를 이 새로운 은행 계좌로 보내주세요"라는 평범해 보이는 이메일을 보낸다고 가정해 봅시다. 금액도 정상이고, 시간도 정상이며, 보낸 사람도 실제 인물처럼 보입니다. 기존의 "경비원"은 아무런 이상을 느끼지 못하고 돈이 빠져나가도록 내버려 둡니다.
  • 자금 세탁: 누군가 검은 돈 뭉치를 출처를 숨기기 위해 작고 합법적으로 보이는 여러 뭉치로 나누는 상황을 상상해 보세요. 개별 거래 하나하나에는 의심스러운 점이 없지만, 수많은 작은 거래가 만드는 패턴이 바로 범죄입니다.

논문은 기존의 "경비원"이 단 하나의 규칙도 어기지 않기 때문에 이러한 "카멜레온"들에게는 눈먼 상태가 된다고 주장합니다.

2. 해결책: 3인조 "슈퍼 보안 요원"

저자들은 두 개의 서로 다른 "감시 카메라"(데이터 스트림) 위에서 함께 작동하는 세 명의 탐정 팀 역할을 하는 새로운 AI 에이전트를 구축했습니다.

두 개의 카메라:

1. 거래 카메라: 돈의 움직임(카드 결제, 계좌 이체 등)을 감시합니다.
2. 세션 카메라: 로그인, 비밀번호 변경, 수취인 추가 등의 활동을 감시합니다.

세 명의 탐정 (융합 아키텍처):
사건이 발생할 때마다 이 세 명의 탐정은 그것이 범죄인지 결정하기 위해 의견을 모읍니다.

• 탐정 1: 패턴 학습자 (LSTM): 이 탐정은 당신의 기록을 기억합니다. "어라, 스미스 씨는 보통 캄팔라에서 오전 8시에 커피를 사는데, 왜 갑자기 런던에서 새벽 3시에 보트를 사고 있지?" 이 탐정은 시간이 흐름에 따라 당신의 개인적인 습관을 학습합니다.
• 정 탐정 2: 속도계 (임계값 모니터): 이 탐정은 속도와 양을 감시합니다. "와, 1분 만에 거래가 50건이나 일어났어!" 또는 "한도 직전에 엄청난 액수의 현금이 입금되었어!"라고 외칩니다. 명백한 폭발적 움직임을 잡아냅니다.
• 탐정 3: 지도 제작자 (그래프 모듈): 이 탐정은 사람들 사이의 연결 고리를 살핍니다. "이 계좌는 50명의 낯선 이들로부터 돈을 받고 즉시 모두 외부로 보내고 있어." 이 탐정은 개별적으로는 정상적으로 보이지만 연결했을 때 이상한 모습을 보이는 자금 세탁 네트워크(자금 전달책)를 찾아냅니다.

판결:
AI는 이 세 명의 탐정이 낸 의견을 결합하여 하나의 "위험 점수(Risk Score)"를 산출합니다. 점수가 높으면 시스템이 조치를 취합니다.

3. 대응 방식 (반응)

시스템은 단순히 "범죄자다!"라고 소리치며 모든 것을 중단하는 것이 아닙니다. 교통 신호등처럼 4단계의 대응 수준을 가지고 있습니다.

• 낮은 위험: 로그에 기록만 남깁/니다.
• 중간 위험: 사용자에게 추가 증명(예: 문자 메시지 인증 코드)을 요구하거나, 돈에 대해 일시적인 "소프트 홀드(잠시 묶어둠)"를 겁니다.
• 높 높은 위험: 거래를 즉시 중단하고 인간 분석가에게 알립니다.
• 심각한 위험: 계좌를 동결하고, 경찰(분석가)을 호출하며, 규제 기관에 제출할 보고서를 준비합니다.

챗봇 어시스턴트:
거래가 의심스러워 보이면 시스템은 자동으로 고객에게 메시지를 보냅니다: "본인이 맞습니까?"

• 고객이 "예"라고 답하고 코드로 본인임을 증명하면 돈이 전달됩니다.
• 고객이 "아니오"라고 답하면 계좌는 즉시 동결됩니다.
• 또한 시스템은 "대량 초기화(Mass Resets)"(해커가 한꺼번에 100명의 비밀번호를 재설정하려는 시도)를 감시하여, 공격이 퍼지기 전에 차단합니다.

분석가 어시스턴트:
인간 보안 요원이 범죄를 조사해야 할 때, 이 AI는 그들을 위해 요약본을 작성합니다. "이것은 '비즈니스 이메일 침해' 공격으로 보입니다. 다음으로 취해야 할 3가지 단계를 안내합니다"와 같이 알려줍니다. 이를 통해 인간의 작업 시간을 몇 시간씩 단축해 줍니다.

4. 결과: 효과가 있었는가?

저자들은 (개인정보 보호를 위해 실제 은행 데이터를 사용할 수 없었기 때문에) 시뮬레이션된 도시(237,000건의 거래와 113,000건의 로그인 세션이 포함된 가짜 데이터셋)를 사용하여 시스템을 테스트했습니다.

그들은 자신들의 "슈퍼 보안 요원"을 다음 시스템들과 비교했습니다:

1. 기존의 "경비원" (규칙 기반 시스템).
2. "패턴 학습자"만 사용하는 시스템 (LSTM 전용).

성적표:

• 기존 경비원: 거래 범죄의 약 56%, 로그인 범죄의 약 73%를 적발했습니다. "카멜레온" 공격(BEC 및 자금 세탁)은 완전히 놓쳤습니다.
• LSTM 전용: 거래 범죄의 약 65%를 적발했습니다.
• 새로운 AI 에이전트: 거래 범죄의 78.7%, 로그인 범죄의 **86.7%**를 적발했습니다.

주요 성과:

• BEC 탐지: 기존 시스템의 비즈니스 이메일 침해(BEC) 성공률은 0%였습니다. 새로운 AI는 새로운 수취인을 추가하고 즉시 큰 금액을 보내는 행위가 비록 금액 자체는 정상적일지라도, 이상한 연쇄 사건임을 포착함으로써 일부 BEC를 잡아낼 수 있었습니다.
• 속도: 시스템은 믿을 수 없을 정도로 빠릅니다. 가장 심각한 범죄에 대해서도 결정 내리는 데 0.43 밀리초(ms) 미만이 걸리며, 이는 사람이 눈을 깜빡이는 것보다 훨씬 빠릅니다.

5. 한계점 (논문에서 인정한 부분)

저자들은 자신들의 시스템이 아직 할 수 없는 부분에 대해 솔직하게 밝히고 있습니다:

• 시뮬레이션임: 이들은 가짜 데이터로 테스트했습니다. 실제 은행 데이터는 훨씬 더 복잡하며, 실제 은행에서 사용하기 전에는 실제 환경의 데이터로 재학습이 필요하다고 인정했습니다.
• 신규 계좌: "패턴 학습자"는 고객을 파악하기 위해 약 10번의 과거 거래 기록이 필요합니다. 새 계좌가 개설되면 첫 한 달 동안은 AI의 효과가 떨어집니다.
• 복잡한 자금 세탁: 자금 세탁을 포착하는 능력이 향상되기는 했지만, 돈이 수많은 계좌를 거쳐 이동하는 매우 복적한 다단계 "계층화(layering)" 수법을 탐지하는 데는 여전히 어려움이 있습니다.

요약

요약하자면, 이 논문은 은행을 위한 스마트하고 다층적인 보안 시스템을 제시합니다. 단순히 "나쁜 숫자"를 찾는 대신, 행동, 속도, 그리고 관계를 살펴봅니다. 규칙의 속도와 AI의 기억력을 결합하여, 시끄럽고 명백한 도둑뿐만 아니라 조용하고 교활한 도둑까지 잡아내며, 고객이 스스로 신원을 확인하도록 돕고 인간 보안 요원의 업무 속도를 높여줍니다.