CASE: An Agentic AI Framework for Enhancing Scam Intelligence in Digital Payments
본 논문은 대화형 에이전트를 활용하여 사기 피해자를 능동적으로 인터뷰하고 구조화된 정보를 추출하는 에이전트형 AI 프레임워크인 CASE 를 소개하며, 이는 구글 페이 인디아에 적용되어 사기 단속 건수를 21% 증가시켰습니다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
가상의 상황을 상상해 보세요. 당신의 디지털 지갑에서 돈을 훔치는 도둑을 잡으려 노력하고 있습니다. 과거에는 보안 요원들 (결제 앱의 자동화 시스템) 이 금고 문만 감시했습니다. 도둑이 완벽하게 위조된 신분증을 들고 들어오면, 보안 요원들은 거래 내부가 정상적으로 보이므로 그들을 통과시켰습니다.
문제는 이러한 도둑들 (사기꾼) 이 보통 금고 문을 통해 침입하지 않는다는 점입니다. 그들은 복도 (메신저 앱, 소셜 미디어) 에서 기다리며 당신 스스로 문을 열어주도록 설득합니다. 금고 안의 보안 요원들은 복도에서 무슨 일이 일어났는지 볼 수 없으므로, 당신이 속았다는 사실을 알 때는 이미 늦은 경우가 많습니다.
이 논문은 이러한 맹점을 해결하기 위해 설계된 새로운 "디지털 탐정"인 CASE(Scam Elucidation을 위한 대화형 에이전트) 를 소개합니다. 이것이 어떻게 작동하는지 간단한 부분으로 나누어 설명하겠습니다.
1. 인터뷰어 (공감하는 탐정)
사용자가 "사기를 당한 것 같습니다"라고 보고할 때, 기존 앱들은 단순히 불만을 입력할 텍스트 상자를 제공합니다. 이는 여전히 떨리고 혼란스러운 증인에게 보고서 작성을 요청하는 것과 같습니다; 그들은 종종 중요한 세부 사항을 누락시킵니다.
CASE 는 텍스트 상자를 지능적이고 대화형인 AI 에이전트로 대체합니다. 이 에이전트를 전화로 당신과 대화할 수 있는 고도로 훈련되고 인내심 있는 탐정으로 생각하세요.
- 올바른 질문을 합니다: 당신이 전체 이야기를 말해 주기를 기다리는 대신, "이 사람을 처음 만난 곳은 어디였나요?" 또는 "당신의 신뢰를 얻기 위해 그들이 말한 이야기는 무엇이었나요?"와 같은 후속 질문을 부드럽게 던집니다.
- 안전하게 유지합니다: 에이전트는 엄격한 규칙으로 프로그래밍되어 있습니다. (할 수 없는) 돈의 반환을 약속하거나 금융 조언을 절대 제공하지 않습니다. 당신이 화를 내거나 전화를 끊고 싶어 할 때 언제 멈춰야 하는지 정확히 알고 있습니다.
- 목표: 사기가 앱 외부에서 발생했더라도 사기가 어떻게 발생했는지에 대한 명확하고 상세한 이야기를 얻는 것입니다.
2. 기록원 (데이터 번역기)
탐정이 인터뷰를 마치면, 길고 지저분한 대화 기록이 남습니다. 인간 보안 팀은 매일 수천 개의 이러한 이야기를 읽을 수 없습니다.
여기서 CASE 의 두 번째 부분이 등장합니다: 정보 추출기입니다.
- 이는 탐정의 메모를 듣고 지저분한 이야기를 깔끔하고 조직화된 체크리스트로 즉시 변환하는 초고속 기록원으로 생각하세요.
- 구체적인 사실을 추출합니다: "이것은 가짜 구직 사기였나요?", "WhatsApp 에서 시작되었나요?", "사용자가 실제로 속았나요?"
- 이러한 이야기들을 컴퓨터가 즉시 읽고 사용할 수 있는 형식으로 변환합니다.
3. 결과: 더 많은 도둑 잡기
이 논문은 인도의 Google Pay에서 이 시스템을 테스트했습니다. 다음과 같은 일이 발생했습니다:
- 더 나은 이야기: 시스템은 사용자를 효과적으로 참여시켜, 대화의 거의 절반이 전체 사기 수법을 밝혀낼 만큼 충분히 깊게 진행되었습니다.
- 높은 정확도: "기록원"은 인간 심사원들과 비교하여 사기 피해 여부를 약 84% 의 정확도로 식별하고, 사기의 구체적인 유형을 약 75% 의 정확도로 파악할 수 있었습니다.
- 큰 승리: 이러한 새롭고 상세한 이야기들을 기존 보안 도구에 추가함으로써, 결제 플랫폼은 이전보다 21% 더 많은 사기를 적발할 수 있었습니다.
왜 이것이 중요한가
이 논문은 현대적인 사기와의 싸움이 그림자에 숨어 있는 적과 싸우는 전쟁과 같다고 주장합니다. 전장 (거래) 만 바라볼 수는 없습니다; 적의 전술을 이해하기 위해 병사들 (사용자들) 과 대화해야 합니다.
CASE 는 이러한 대화를 나눌 수 있는 안전하고 확장 가능한 방법을 제공합니다. 모호한 불만을 확실한 데이터로 변환하여 결제 플랫폼이 방어 수단을 더 빠르게 업데이트하고 다음 사람을 속이기 전에 사기꾼들을 막을 수 있게 합니다.
간단히 말해: 이 논문은 친근하고 지능적인 AI 를 이용해 사기 피해자들을 인터뷰하고, 그 인터뷰들을 데이터로 변환하는 것이 거래만 감시하는 것보다 결제 앱이 훨씬 더 많은 사기를 적발하는 데 도움이 된다는 것을 보여줍니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.