Domain Knowledge-Enhanced LLMs for Fraud and Concept Drift Detection

본 논문은 구조화된 통찰력을 2 단계 탐지 프로세스와 통합하여 기만적 대화를 효과적으로 식별하고 개념 드리프트를 정당한 것인지 사기적인 것인지 분류하며, 제로샷 베이스라인 대비 98% 의 정확도와 우수한 견고성을 달성하는 도메인 지식 강화 LLM 프레임워크를 제안한다.

핵심

이 논문은 간단한 언어와 창의적인 비유를 사용하여 설명합니다.

큰 문제: '변신' 사기꾼

바쁜 클럽 (인터넷) 의 경비원이라고 상상해 보세요. 당신의 임무는 슬쩍 들어오려는 가짜 손님 (사기꾼) 을 찾아내는 것입니다.

과거에는 사기꾼들이 분명한 가면을 쓰고 있었기 때문에 쉽게 찾아낼 수 있었습니다. 하지만 지금은 사기꾼들이 변신술사처럼 변했습니다. 그들은 처음에는 날씨나 음식에 대해 정상적으로 이야기하다가 (부정하지 않은 대화), 갑자기 방향을 틀어 신용카드를 훔치거나 속이려 합니다 (사기).

이런 갑작스러운 주제나 어조의 변화를 **'개념 드리프트 (Concept Drift)'**라고 합니다.

• 문제점: 때로는 평범한 사람들도 주제를 바꿉니다 (예: 날씨 이야기를 하다가 차를 태워달라고 요청하는 경우). 표준 경비원은 정상적인 주제 변경을 사기로 오해하거나, 더 나쁘게는 정상적인 대화로 시작했기 때문에 사기를 놓칠 수 있습니다.
• 옛 도구: 전통적인 컴퓨터 프로그램은 '나쁜 단어' 목록만 외운 경비원처럼 작동합니다. 사기꾼이 새로운 단어를 사용하거나 주제를 바꾸면 경비원은 이를 놓칩니다.
• 새 도구 (LLM): 대규모 언어 모델 (LLM) 은 복잡하고 긴 이야기를 읽고 이해할 수 있는 경비원처럼 작동합니다. 하지만 때로는 혼란을 겪거나, 사실을 왜곡하여 만들어 내거나 (환각), 클럽의 특정 규칙을 모를 수도 있습니다.

해결책: '전문가 가이드' 시스템

이 논문의 저자들은 이러한 변신 사기꾼들을 잡기 위해 3 인의 보안 팀을 구축했습니다. 그들은 AI 에게 일반적인 두뇌만 준 것이 아니라, 사기꾼들이 사용하는 특정 수법을 이해하도록 돕는 **전문 지시 매뉴얼 (도메인 지식)**을 제공했습니다.

다음은 그들의 시스템이 단계별로 작동하는 방식입니다.

1. 첫 번째 경비원: '가짜 리뷰' 탐지기

복잡한 대화를 다루기 전에, 그들은 가짜 리뷰 (예: 가짜 Yelp 또는 Amazon 리뷰) 로 시스템을 테스트했습니다.

• 비유: 경비원이 손님 명단을 확인한다고 상상해 보세요. 도움 없이 경비원은 매우 열정적인 리뷰를 단순히 행복한 고객의 것으로 오해할 수 있습니다.
• 업그레이드: 팀은 경비원에게 '의심스러운 징후' 체크리스트를 제공했습니다 (예: "칭찬이 너무 과장되었는가?", "로봇처럼 들리는가?", "이상한 유행어가 있는가?").
• 결과: 경비원이 이 체크리스트를 갖게 되자 가짜를 찾아내는 능력이 크게 향상되었습니다. 예를 들어, 한 AI 모델 (Claude) 은 체크리스트를 사용함으로써 정확도가 87% 에서 **95%**로 향상되었습니다.

2. 두 번째 경비원: '드리프트' 경보 (OCDD)

시스템이 실시간 대화를 감시하기 시작하면, 주제가 변하고 있는지 알아야 합니다.

• 비유: 대화가 강물이라고 상상해 보세요. 보통 물은 부드럽게 흐릅니다. 갑자기 강물이 바위를 만나 방향을 바꿉니다.
• 도구: 그들은 **OCDD(One-Class Concept Drift Detector)**라는 통계 도구를 사용했습니다. 이 도구는 아직 단어의 의미를 이해하려 하지 않습니다. 그저 모션 센서처럼 작동할 뿐입니다. 대화의 '흐름'이 너무 급격하게 변하면 경보가 울립니다.

3. 세 번째 경비원: '전문 해석자'

경보가 울리면 더 똑똑한 경비원 (두 번째 LLM) 이 개입합니다.

• 임무: 이 경비원은 갑작스러운 변화를 보고 질문합니다. "이게 해로운 주제 전환 (날씨 이야기 등) 인가, 아니면 함정 (피싱 시도 등) 인가?"
• 비밀 병기: 첫 번째 경비원처럼, 이 경비원도 전문 지시 매뉴얼을 가지고 있습니다. 누군가 직장 이야기를 하다가 갑자기 신용카드를 요구하면, 이는 사기의 특정 패턴이라는 것을 알고 있습니다.
• 결과: 이 시스템은 해로운 주제 변경과 악의적인 사기 사이의 차이를 성공적으로 구분해 냈습니다.

결과: 누가 이겼는가?

팀은 실제 대화 데이터셋 (SEConvo) 을 사용하여 이 시스템을 테스트하고 이전 방법들과 비교했습니다.

• 챔피언: LLaMA 모델 (오픈 소스 AI) 이 주역이었습니다. '전문 지시 매뉴얼 (도메인 지식)'을 제공받았을 때 98% 의 정확도를 달성했습니다. 이는 약 82% 만 맞춘 이전 '경비원 팀 (전통적인 머신러닝 모델)'보다 훨씬 뛰어났습니다.
• 교훈: AI 에게 사기꾼이 어떻게 행동하는지에 대한 구체적인 지식을 제공함으로써, AI 는 스스로 추측하는 것보다 훨씬 더 똑똑하고 신뢰할 수 있으며 믿을 수 있게 되었습니다.

요약

이 논문을 경비원을 훈련시키는 방법에 대한 가이드로 생각하세요.

1. 기억에만 의존하지 마세요: 옛 경비원 (전통적인 머신러닝) 은 새로운 수법을 잊어버립니다.
2. 순수한 지능에만 의존하지 마세요: 똑똑한 경비원 (LLM) 은 혼란을 겪거나 사실을 왜곡할 수 있습니다.
3. 요약지를 제공하세요: AI 에게 사기에 대한 구체적인 규칙과 패턴 (도메인 지식) 을 입력함으로써, 다른 사람들이 놓치는 미묘하고 변신하는 사기꾼들을 찾아낼 수 있는 슈퍼 경비원이 됩니다.

이 논문은 똑똑한 AI 와 사기 수법에 대한 인간의 이해를 결합할 때, 매우 정확하고 사기꾼을 잡은 이유를 설명할 수 있는 시스템을 얻을 수 있음을 증명합니다.

기술 요약

기술 요약: 사기 및 개념 변화 탐지를 위한 도메인 지식 강화 LLM

1. 문제 제기

진화하는 언어 패턴과 **개념 변화 (Concept Drift, CD)**로 인해 동적인 디지털 플랫폼에서의 기만적 대화 탐지는 점점 더 어려워지고 있습니다. 개념 변화란 시간이 지남에 따라 상호작용의 맥락이나 의도를 변경시키는 의미적 또는 주제적 변화를 의미합니다. 이러한 변화는 악의적 의도를 흐리게 하거나 정상적인 대화를 모방하여 정확한 분류를 어렵게 만듭니다.

대형 언어 모델 (LLM) 은 자연어 작업에서 강력한 성능을 보이지만, 고위험 리스크 민감성 시나리오에서는 상당한 한계에 직면합니다:

• 맥락적 모호성: 진정한 주제 변화 (유해하지 않은 변화) 와 조작적 전환 (적대적 변화) 을 구별하는 데 어려움이 있습니다.
• 할루시네이션: 특정 도메인 기반이 부족할 때 잘못된 정보를 생성하는 경향이 있습니다.
• 적응 부족: 전통적인 머신러닝 (ML) 모델은 고정된 기능에 의존하며, 다중 턴 대화의 유동적이고 모호한 특성에 대처하는 데 어려움을 겪습니다.
• 해석 가능성: 많은 모델의 '블랙박스' 특성으로 인해 왜 대화가 플래그가 지정되었는지 이해하기 어렵습니다. 이는 사기 탐지에 있어 필수적인 요구사항입니다.

저자들은 사기 탐지와 개념 변화는 분리된 작업으로 취급되어서는 안 된다고 주장합니다. 왜냐하면 사기성 대화는 종종 유해하지 않은 전환과 유사한 미묘한 어조나 의도의 변화를 포함하기 때문입니다.

2. 방법론

이 논문은 기만과 변화를 공동으로 모델링하도록 설계된 도메인 지식 (DK) 강화 듀얼-LLM 프레임워크를 제안합니다. 방법론은 두 단계로 실행됩니다:

1 단계: 가짜 리뷰 탐지 (정적 설정)

• 목적: 정적 단일 턴 기만 콘텐츠를 분류하는 데 있어 도메인 지식이 LLM 성능을 향상시키는 가치를 검증합니다.
• 데이터셋: Yelp 가짜 리뷰 데이터셋 (20,000 개 리뷰: 15,000 개 실제, 5,000 개 가짜).
• 접근 방식:
  1. 패턴 발견: 레이블이 지정된 데이터에 대한 초기 LLM 분석을 통해 가짜 리뷰의 특정 언어적 표지 (예: 과장된 칭찬, 모호한 감정, 비자연스러운 문구, 유행어 남용) 를 식별했습니다.
  2. 구조화된 프롬프팅: 식별된 이러한 패턴을 구조화된 프롬프트로 인코딩했습니다.
  3. 평가: LLM(ChatGPT, DeepSeek, LLaMA, Claude) 을 두 가지 조건에서 테스트했습니다: (1) 제로샷 (도메인 지식 없음) 과 (2) 도메인 지식 (DK) 강화.

2 단계: 사기 및 변화 탐지 (스트리밍 대화)

• 목적: 기만적인 다중 턴 대화를 탐지하고 의미적 변화의 특성을 분류합니다.
• 데이터셋: SEConvo 데이터셋 (400 개 다중 턴 대화: 40 개 훈련용, 360 개 테스트용).
• 아키텍처: 세 가지 구성 요소로 이루어진 파이프라인:
  1. DK-LLM 모듈 1: 대화가 가짜이거나 기만적인 내용을 포함하는지 탐지합니다.
  2. 변화 탐지 유닛 (OCDD): 비악성 대화를 기반으로 훈련된 원-클래스 개념 변화 탐지기 (One-Class Concept Drift Detector) 로, 원-클래스 서포트 벡터 머신 (SVM) 을 사용합니다. 이는 대화 스트림에서 통계적 편차 (의미적 변화) 를 식별합니다.
  3. DK-LLM 모듈 2: OCDD 가 변화를 탐지하면, 두 번째 LLM 이 도메인별 단서 (예: 개인 식별 정보 요청, 긴급성, 과도한 아부) 를 사용하여 변화를 유해하지 않은 (예: 주제 이탈, 스팸) 또는 적대적인 (예: 피싱, 조작) 것으로 분류합니다.

3. 주요 기여

이 논문은 네 가지 주요 기여를 제시합니다:

1. 도메인 지식 강화 듀얼-LLM 프레임워크: 구조화된 도메인 통찰력을 듀얼-LLM 시스템에 통합하여 사기 탐지, 개념 변화 식별, 변화 유형 분류를 동시에 수행하는 모듈식 아키텍처로, 종종 분리되어 다루어지는 작업들을 통합합니다.
2. 3 단계 탐지 파이프라인: 초기 기만 플래그 지정을 위한 DK-LLM, 의미적 변화 탐지를 위한 OCDD, 변화 분류를 위한 두 번째 DK-LLM 으로 구성된 구조화된 워크플로우입니다. 이는 스트리밍 대화에서의 견고성과 해석 가능성을 향상시킵니다.
3. 구조화된 도메인 프롬프트의 영향: 도메인별 지식을 프롬프트 설계에 내장하는 것이 합성 (가짜 리뷰) 과 실세계 (SEConvo) 데이터셋 모두에서 성능과 설명 가능성을 크게 향상시킨다는 실증적 증거입니다.
4. 종합 벤치마킹: 제로샷 및 도메인 가이드 설정 하에서 여러 LLM 백본 (ChatGPT, Claude, LLaMA, DeepSeek) 을 광범위하게 평가하여 사기 및 변화 탐지를 위한 최적 구성을 식별했습니다.

4. 실험 결과

이 연구는 도메인 지식 (DK) 유무에 따른 모델 비교 및 전통적인 앙상블 베이스라인 대비 성능을 여러 지표 (정확도, 정밀도, 재현율, F1-점수) 로 평가했습니다.

• 1 단계 (Yelp 데이터셋):

  • Claude: DK 로 인해 정확도가 87% 에서 **95%**로 향상되었습니다.
  • DeepSeek: 56% 에서 **90%**로 정확도가 크게 상승하여 상당한 개선을 보였습니다.
  • LLaMA: 52% 에서 58% 로 소폭 개선되었습니다.
  • ChatGPT: 54% 에서 56% 로 미미한 개선 (프롬프트 설계 변이에 대한 민감성 시사).

• 2 단계 (SEConvo 데이터셋):

  • LLaMA가 DK 를 통해 모든 지표 (정확도, 정밀도, 재현율, F1-점수) 에서 **98%**를 달성하여 가장 견고한 모델로 부상했으며, 이는 90% 의 기준선 대비 상당한 개선입니다.
  • DeepSeek은 F1-점수를 73% 에서 80% 로 향상시켰습니다.
  • 앙상블 모델과의 비교: DK 강화 듀얼-LLM 프레임워크 (LLaMA) 는 82% 정확도를 달성한 전통적인 앙상블 모델 (kNN, SVM, Imp-Kmeans) 보다 현저히 우수한 성능을 보였습니다. LLM 접근 방식은 우수한 의미적 깊이와 맥락 추론을 제공했습니다.

5. 중요성 및 주장

저자들은 이 작업이 복잡한 실시간 탐지 시나리오에서 높은 정밀도와 해석 가능성을 달성하기 위해 LLM 워크플로우에 도메인 지식을 통합하는 것이 실현 가능함을 보여준다고 주장합니다.

• 향상된 견고성: 이 프레임워크는 기만과 변화 간의 상호의존성을 효과적으로 처리하여 유해하지 않은 주제 변화로 인한 오탐지를 줄입니다.
• 해석 가능성: 이상 탐지 (OCDD) 와 의미적 해석 (LLM-2) 을 분리함으로써, 시스템은 특정 피싱 전술을 식별하는 샘플 출력으로 설명된 대로 분류에 대한 명확한 추론을 제공합니다.
• 모델 민감성: 결과는 모든 LLM 이 도메인 프롬프팅에 동일하게 반응하지 않음을 강조합니다. LLaMA 와 Claude 가 가장 큰 개선을 보였는데, 이는 대화 중심 코퍼스로의 훈련과 토큰 수준 추론 능력 때문일 가능성이 높습니다.
• 한계: 저자들은 LLM 이 여전히 풍자, 문화적 관용구, 감정적으로 양가적인 언어에 어려움을 겪어 오탐지로 이어질 수 있음을 겸손하게 인정합니다. 또한 전통적인 모델에 비해 높은 계산 비용이 든다고 지적하며, 프롬프트 압축 또는 하이브리드 경량 아키텍처에 대한 향후 연구를 제안합니다.

이 논문은 지연 시간과 비용이 트레이드오프이지만, 정확도와 해석 가능성의 향상으로 인해 사이버 보안, 온라인 마켓플레이스, 고객 서비스 플랫폼과 같은 고위험 애플리케이션에 이 접근 방식이 적합하다고 결론지었습니다.