Leveraging large multimodal models for audio-video deepfake detection: a pilot study

이 논문은 Qwen 2.5 Omni 를 기반으로 오디오와 비디오 스트림을 통합 분석하여 오디오 - 비디오 딥페이크 탐지를 수행하는 새로운 모델 'AV-LMMDetect'를 제안하고, FakeAVCeleb 및 Mavos-DD 데이터셋에서 기존 방법들을 능가하는 성능을 입증했습니다.

핵심

이 논문은 **"AI 가 만든 가짜 영상과 소리를 구별하는 새로운 슈퍼 영웅"**을 소개하는 이야기입니다.

기존의 기술들은 가짜 영상을 잡는 데는 꽤 잘했지만, 새로운 방식의 가짜가 나오면 쉽게 속거나, 소리와 영상이 어색하게 어긋난 것을 못 알아보는 한계가 있었습니다. 이 연구팀은 거대하고 똑똑한 AI(대규모 멀티모달 모델) 를 훈련시켜, **"이 영상은 진짜일까, 가짜일까?"**라는 질문에 답하게 만들었습니다.

이 복잡한 내용을 일상적인 비유로 쉽게 설명해 드릴게요.

---

1. 문제: "완벽한 위조범"의 등장

과거에는 가짜 영상을 만드는 기술이 아직 미숙해서, 눈만 보면 "아, 입 모양이 이상하네?"라고 쉽게 알아챌 수 있었습니다. 하지만 최근 AI 기술이 발전하면서, 소리와 입 모양, 표정이 완벽하게 일치하는 가짜 영상들이 쏟아져 나옵니다.

• 기존의 감별사 (작은 모델들): 마치 "눈만 보는 보안관"이나 "귀만 듣는 보안관"처럼 한쪽 감각에만 의존합니다. 가짜가 너무 완벽하면 속아넘어가고, 새로운 유형의 가짜가 나오면 당황합니다.
• 새로운 위협: 소리와 영상이 따로 놀지 않고 완벽하게 조화를 이루는 가짜들이 등장했습니다.

2. 해결책: "오감의 제왕" (AV-LMMDetect)

연구팀은 거대하고 똑똑한 AI(큐엔 2.5 오니, Qwen 2.5 Omni) 를 데려와서 **"소리와 영상을 동시에 보고 판단하는 감별사"**로 훈련시켰습니다.

이 AI 는 단순히 패턴을 외우는 게 아니라, 소리와 영상이 자연스럽게 어울리는지, 아니면 AI 가 억지로 붙인 것 같은지를 문장처럼 이해하고 판단합니다.

비유:
기존 기술이 **"눈으로만 보는 CCTV"**였다면, 이 새로운 기술은 **"소리와 영상을 동시에 분석하는 명탐정"**입니다. 명탐정은 "이 사람의 목소리는 30 대인데 입술 움직임은 60 대처럼 보이네?" 혹은 "소리와 입 모양이 미세하게 0.1 초 늦어지는데?" 같은 모순을 찾아냅니다.

3. 훈련 방법: "2 단계 스페셜 트레이닝"

이 똑똑한 AI 를 바로 쓰면 "모르겠어요"라고 대답할 수 있습니다. 그래서 연구팀은 두 단계로 나누어 훈련시켰습니다.

• 1 단계 (LoRA 정렬): "가이드북 읽기"
  • AI 의 기본 지식은 건드리지 않고, "가짜를 잡는 법"이라는 짧은 가이드북만 읽게 합니다.
  • 비유: 신입 사원에게 회사 규칙만 간단히 알려주는 단계입니다.
• 2 단계 (전체 미세 조정): "현장 실습"
  • 이제 AI 의 눈 (비전) 과 귀 (오디오) 부분을 모두 열어놓고, 수천 개의 가짜 영상으로 실전 훈련을 시킵니다.
  • 비유: 신입 사원이 현장에 나가서 실제 사건들을 직접 겪으며 감을 익히는 단계입니다.

이 두 단계를 모두 거치니, AI 는 가짜를 잡아내는 능력이 비약적으로 향상되었습니다.

4. 성과: "전설적인 기록"

이 새로운 AI 는 두 가지 큰 시험에서 놀라운 성적을 냈습니다.

1. 기존 시험 (FakeAVCeleb): 이미 알려진 가짜 영상들에서 기존 최고의 기술들과 어깨를 나란히 하거나 그보다 더 잘했습니다.
2. 최고 난이도 시험 (MAVOS-DD):
   • 이 시험은 언어가 다르고, AI 가 만든 방식이 전혀 다른 새로운 가짜 영상들을 보는 것입니다.
   • 기존 기술들은 이 시험에서 "모르겠어요"라고 하거나 30% 만 맞추는 등 허둥지둥했습니다.
   • 하지만 우리 AI 는 85% 이상을 맞추며 **최고 기록 (State-of-the-Art)**을 세웠습니다.

비유:
다른 감별사들은 "오늘은 비가 와서 눈이 잘 안 보여서 못 찾겠어요"라고 포기했지만, 우리 AI 는 "비가 와도 소리를 듣고 발자국 냄새를 맡아서 범인을 잡았다"고 한 셈입니다.

5. 결론: 왜 중요한가요?

이 연구는 **"거대 AI 를 이용하면 가짜 뉴스를 잡는 데 훨씬 강력하고 유연한 도구를 만들 수 있다"**는 것을 증명했습니다.

앞으로 AI 가 만들어내는 가짜 영상은 더 정교해질 것입니다. 하지만 이처럼 소리와 영상을 동시에 분석하고, 새로운 상황에도 잘 적응하는 AI가 있다면, 우리가 진실을 지키는 데 큰 도움이 될 것입니다.

한 줄 요약:

"작은 감시 카메라 대신, 소리와 영상을 동시에 분석하는 똑똑한 '명탐정 AI'를 만들어서, 어떤 가짜 영상도 속지 못하게 만들었습니다!"

기술 요약

논문 요약: 오디오 - 비디오 딥페이크 감지를 위한 대규모 멀티모달 모델 활용

1. 문제 정의 (Problem)

최근 생성형 AI 의 발전으로 인해 오디오와 비디오를 동시에 조작한 '오디오 - 비디오 딥페이크 (Audio-Visual Deepfake)'의 현실성이 급격히 높아졌습니다. 기존 딥페이크 탐지 연구는 주로 다음과 같은 한계를 가지고 있었습니다:

• 단일 모드 의존성: 초기 연구들은 시각적 정보만 분석하거나 (CNN, Xception 등), 오디오만 분석하는 (ALLM4ADD 등) 방식에 집중했습니다. 이는 교차 모드 (Cross-modal) 불일치를 포착하지 못해 다양한 조작 기법이나 도메인 변화에 취약합니다.
• 작은 규모의 전용 모델: 기존 오디오 - 비디오 융합 모델 (AVN-J, AVFakeNet 등) 은 특정 작업에 최적화되어 있으나, 규모가 작고 일반화 능력이 부족하여 새로운 위조 기법이나 다른 도메인으로 확장할 때 성능이 급격히 저하됩니다.
• 기존 LLM 의 한계: 오디오 전용 대규모 언어 모델 (LLM) 은 오디오 분석에는 유용하지만, 시각적 단서를 활용하지 못해 오디오 - 비디오 불일치를 탐지하는 데 한계가 있습니다.

2. 제안 방법론 (Methodology)

저자들은 AV-LMMDetect라는 새로운 시스템을 제안하며, 오디오 - 비디오 딥페이크 탐지 (AVD) 를 지시 기반 (Prompted) 이진 분류 문제로 재정의했습니다.

• 기반 모델: Qwen 2.5 Omni 를 기반으로 한 대규모 멀티모달 모델 (LMM) 을 사용합니다.
• 작동 원리: 입력된 비디오와 오디오에 대해 "이 비디오는 진짜 (Real) 인가, 가짜 (Fake) 인가?"라는 질문을 통해 Yes/No 형식으로 답변하도록 유도합니다.
• 2 단계 학습 전략 (Two-Stage Training Strategy):
  1. Stage 1: 경량 LoRA 정렬 (LoRA Alignment):
     • 비전 (Vision) 및 오디오 (Audio) 인코더는 고정 (Frozen) 하고, 언어 모델의 추론 능력을 딥페이크 탐지 태스크에 맞게 경량 LoRA (Low-Rank Adaptation) 로만 미세 조정합니다.
     • 목적: 모델의 일반 지식을 유지하면서 효율적으로 태스크에 적응시키는 것.
  2. Stage 2: 오디오 - 비디오 인코더 전체 미세 조정 (Full Fine-tuning):
     • 비전 및 오디오 인코더의 잠금을 해제하고 모든 모달리티에 대해 전체 미세 조정을 수행합니다.
     • 목적: 오디오와 비디오 간의 미묘한 불일치를 포착하고 교차 모드 시너지 (Cross-modal synergy) 를 극대화합니다.

3. 주요 기여 (Key Contributions)

1. AV-LMMDetect 개발: 지시 기반 분류를 통해 엔드 - 투 - 엔드 오디오 - 비디오 딥페이크 탐지를 수행하는 최초의 감독 학습 (SFT) 기반 대규모 멀티모달 모델입니다.
2. 효율적이고 강력한 학습 전략: LoRA 정렬 후 인코더 전체 미세 조정을 수행하는 2 단계 전략을 제안하여, 효율성을 유지하면서도 강력한 교차 모드 성능을 달성했습니다.
3. 성능 입증: FakeAVCeleb 및 MAVOS-DD 데이터셋에서 기존 최첨단 (SOTA) 방법론과 경쟁하거나 이를 능가하는 성능을 보였습니다.

4. 실험 결과 (Results)

두 가지 주요 벤치마크 (FakeAVCeleb, MAVOS-DD) 에서 실험을 수행했습니다.

• FakeAVCeleb (동일 조작 평가):

  • 정확도 (Accuracy): 98.02%
  • AUC: 99.2%
  • 기존 SOTA 인 AVFF(98.6% 정확도) 와 유사하거나 약간 더 높은 성능을 보였으며, 기존 비전 전용 모델 (MesoNet, Xception 등) 보다 압도적으로 우수했습니다.

• MAVOS-DD (일반화 및 오픈셋 평가):

  • 가장 어려운 시나리오인 Open-set Full(알려지지 않은 생성 모델과 언어를 포함) 에서 85.09% 정확도, 0.92 AUC, 0.96 mAP를 기록하여 기존 모든 방법론을 능가하는 새로운 SOTA 를 달성했습니다.
  • 특히, 베이스 모델 (Qwen 2.5 Omni) 이 32.26% 정확도에 그친 반면, 제안된 모델은 85.09% 로 극적인 성능 향상을 보였습니다.

• Ablation Study (학습 전략 분석):

  • Zero-shot(미세 조정 없음): 32.26%
  • Stage 1 만 수행: 73.40%
  • Stage 2 만 수행: 80.61%
  • Stage 1 + Stage 2 (전체): 85.09%
  • 두 단계 모두 최적의 성능을 위해 필수적임을 입증했습니다.

• 혼동 행렬 분석:

  • 오픈셋 시나리오에서 기존 방법론 (AVFF, MRDF 등) 은 가짜를 진짜로 오인하는 오류 (False Negative) 가 24~40% 에 달했으나, AV-LMMDetect 는 **14.9%**로 가장 낮은 오류율을 보였습니다.

5. 의의 및 결론 (Significance)

• 패러다임 전환: 기존의 작고 전용적인 탐지 모델에서, 대규모 멀티모달 모델 (LMM) 을 활용한 범용적이고 강력한 탐지 모델로의 전환 가능성을 제시했습니다.
• 강력한 일반화 능력: Supervised Fine-Tuning (SFT) 을 통해 모델이 학습되지 않은 새로운 생성 모델이나 언어 환경에서도 뛰어난 일반화 능력을 발휘함을 입증했습니다.
• 미래 방향: 오디오 - 비디오 딥페이크 탐지 분야에서 LMM 이 기존 파이프라인을 보완하고 확장할 수 있는 유효한 경로임을 보여주었으며, 미디어 무결성 및 공공 신뢰 보호에 중요한 기여를 할 것으로 기대됩니다.

이 논문은 대규모 멀티모달 모델의 추론 능력을 딥페이크 탐지라는 구체적인 보안 태스크에 성공적으로 적용한 선구적인 연구로 평가됩니다.