Characterising Mobile Money Phishing Attacks Using Imitation Learning Relying on Expert Demonstrations

아프리카의 활기찬 디지털 경제에서 휴대전화는 단순한 통신 도구 그 이상이 되었습니다. 이는 기존의 전통적인 금융 서비스에 접근할 수 없었던 수백만 명의 사람들에게 주요한 은행 계좌가 되었습니다. 이 시스템을 통해 사용자들은 돈을 예치, 인출, 송금할 수 있으며, 이러한 편리함은 일상생활을 변화시키고 대륙 전역의 경제 성장을 촉진했습니다. 그러나 이러한 급격한 확장은 그림자를 드리웠습니다. 사기꾼들이 이 시스템을 작동하게 만드는 바로 그 신뢰를 악용하는 법을 배웠기 때문입니다. 이 공격자들은 복잡한 컴퓨터 코드를 해킹하는 대신, 사람들을 속여 비밀번호를 밝히게 하거나 자발적으로 돈을 보내게 만드는 조작 기술인 사회 공학(social engineering)을 사용합니다. 그들은 은행 직원이나 통신사 직원을 사칭하여 기만적인 문자 메시지를 보내거나 전화를 걸어 피해자를 함정으로 유인합니다. 이러한 범죄자들이 어떻게 생각하고 행동하는지 이해하는 것이 그들을 막는 첫걸음이지만, 인간의 기만 행위를 연구하는 것은 고정된 소프트웨어 취약점이 아니라 예측 불가능한 인간의 행동에 의존하기 때문에 매우 어려운 일입니다.

연구자들은 오랫동안 시행착오를 통해 학습하는 컴퓨터 프로그램, 즉 강화 학습(reinforcement learning)이라는 방법을 사용하여 이러한 공격을 모델링하려고 시도해 왔습니다. 이 방식에서 컴퓨터 에이전트는 보상을 얻기 위해 다양한 행동을 시도하며, 이는 마치 개가 간식을 받기 위해 앉는 법을 배우는 것과 비슷합니다. 그러나 이 방법은 피해자의 망설임이나 의심에 적응하는 사기꾼의 복잡하고 변화하는 목표처럼 '보상'을 정의하기 어려운 경우 어려움을 겪는 경우가 많습니다. 카메룬, 르완다, 중앙아프리카공화국의 연구진으로 구성된 팀은 새로운 경로를 제안합니다. 그들은 컴퓨터에게 사기꾼이 무엇을 원하는지 추측하도록 가르치는 대신, 사기꾼이 실제로 하는 행동을 그대로 복제하도록 가르치기로 했습니다. 공격자를 전문가로 취급하고 모방 학습(imitation learning)이라는 기술을 사용하여, 연구팀은 탈취된 실제 공격 행동의 사례로부터 직접 학습하는 모델을 구축함으로써, 기만의 규칙을 수동으로 프로그래밍할 필요성을 우회했습니다.

연구진은 먼저 모바일 머니 피싱 공격을 간단한 4단계 여정으로 세분화했습니다. 첫 번째 단계는 초기 접촉으로, 사기꾼이 정보를 수집하고 가짜 메시지를 보내거나 전화를 거는 단계입니다. 두 번째 단계는 취약성 단계로, 공격자가 신뢰를 쌓고 피해자의 감정을 살피는 단계입니다. 만약 피해자가 수용적인 태도를 보이면 공격은 세 번째 단계인 실제 돈이나 데이터를 훔치려는 시도로 넘어갑니다. 마지막으로 네 번째 단계에서 공격자는 탈취한 자금을 회수하고 연락을 끊거나, 피해자가 의심을 품으면 물러납니다. 이를 연구하기 위해 연구팀은 '전문가' 공격자가 이러한 단계들을 어떻게 탐색하는지, 그리고 피해자의 반응(신뢰, 중립/망설임, 부정/의심)에 따라 어떻게 대응하는지를 관찰할 수 있는 시뮬레이션 환경을 구축했습니다. 그런 다음 이 관찰된 행동들을 두 가지 서로 다른 학습 알고리즘에 입력하여 컴퓨터가 공격자의 전략을 모방할 수 있는지 확인했습니다.

그들이 테스트한 첫 번째 알고로리즘은 행동 복제(Behavior Cloning)였습니다. 이 방법은 학생이 선생님의 숙제를 베끼는 것과 같이 작동합니다. 즉, 성공적인 공격의 데이터 세트를 살펴보고 주어진 상황에서 공격자가 취할 다음 움직임을 예측하는 것입니다. 결과는 대체로 성공적이었습니다. 컴퓨터는 공격자의 행동을 높은 정확도로 재현하는 법을 배웠으며, 공격자가 보통 초기에 접촉을 시도하고 신뢰가 형성된 후에야 돈을 요구할 것이라는 점을 정확히 식별했습니다. 이 모델은 특정 학습 속도로 튜닝되었을 때 가장 좋은 성능을 보였는데, 이는 모델이 혼란에 빠지지 않고 패턴을 흡수할 수 있게 해주었습니다. 그러나 연구진은 공격이 마지막 단계에 도달했을 때 한계점을 발견했습니다. 만약 사기꾼이 돈을 얻는 데 실패했을 경우, 새로운 핑계를 대며 다시 시도할지, 대화를 재개할지, 아니면 완전히 포기할지에 대한 결정은 모델이 예측하기 어려웠습니다. 단순히 과거의 사례를 복제할 뿐 더 깊은 전략을 이해하지 못하는 시스템에게 있어, 좌절 이후에 새로운 경로를 선택해야 하는 이 분기점은 까다로운 문제였습니다.

두 번째 접근 방식인 생성적 적대적 모방 학습(Generative Adversarial Imitation Learning)은 더 경쟁적인 경로를 택했습니다. 이 설정에서는 두 개의 컴퓨터 프로그램이 서로 게임을 벌입니다. 하나인 생성기(generator)는 실제 공격과 유사해 보이는 가짜 공격 시퀀스를 만들려고 시도합니다. 다른 하나인 판별기(discriminator)는 심판 역할을 하며, 생성기의 가짜 움직임과 실제 공격자의 움직임을 구별하려고 노력합니다. 목표는 생성기가 실제 공격자를 구분할 수 없을 정도로 정교하게 흉내 내는 것입니다. 50회의 훈련 세션 동안, 심판은 가짜를 찾아내는 능력이 점점 향상된 반면, 생성기는 성능을 개선하는 데 어려움을 겪었습니다. 데이터에 따르면 생성기의 시도는 실제 공격자의 행동과 여전히 구별 가능한 상태로 남았으며, 이는 모델이 허용된 시간 내에 전략을 완전히 마스터하지 못했음을 나타냅니다. 이 결과는 두 경쟁 프로그램 사이의 균형을 맞춰 학습자가 전문가를 따라잡을 수 있도록 하는 것이 이 방법의 잘 알려진 과제임을 강조했습니다.

연구는 두 방법 모두 완벽한 사기꾼의 복제품을 만들어내지는 못했지만, 모바일 머니 사기의 메커니즘을 이해하는 데 귀중한 새로운 길을 제시했다고 결론짓습니다. 연구진은 이 모델들이 사용자에게 의심스러운 메시지를 알려주는 탐지기로 설계된 것이 아니라, 공격자의 마음을 지도화하기 위한 도구라는 점을 강조합니다. 시연을 통해 공격자의 전략을 성공적으로 학습함으로써, 연구팀은 모방 학습이 기존의 시행착오 방식에 대한 실행 가능한 대안임을 입증했습니다. 연구 결과는 이러한 공격에 효과적으로 대응하기 위해서 방어자들이 공격자가 취하는 구체적인 단계와 피해자의 반응에 따라 어떻게 적응하는지를 이해해야 함을 시사합니다. 연구진은 자신들의 작업이 시뮬레이션된 데이터를 기반으로 하고 있으며, 향후 모델을 정교화하기 위해 더 큰 규모의 실제 사례를 수집하는 노력이 필요할 것이라고 인정했습니다. 궁극적으로 이 연구는 단순히 거짓말을 포착하는 것에서 벗어나 기만 뒤에 숨겨진 논리를 이해하는 데 초점을 맞춤으로써, 매일 모바일 머니에 의존하는 수백만 명의 사람들을 위한 더 나은 방어 체계를 구축하는 명확한 경로를 제시합니다.