1. 문제 제기 (Problem Statement)

• 진화하는 위협: 생성형 AI 기술 (Sora, Kling 등) 의 발전으로 오디오 - 비디오 (AV) 위조 (Forgery) 위협이 단순한 인간 얼굴 딥페이크를 넘어 복잡한 자연 환경과 다양한 시나리오로 확장되고 있습니다.
• 기존 벤치마크의 한계:
  • 주제 제한: 기존 데이터셋 (FF++, DeepfakeTIMIT 등) 은 주로 인간 얼굴에 국한되어 있어 자연 풍경, 동물, 산업 현장 등 일반 대상 (General Subject) 에 대한 검출이 어렵습니다.
  • 위조 유형 단순화: 대부분 편집 (Editing) 또는 합성 (Synthesis) 중 하나의 유형만 다루며, 실제 세계에서 발생하는 복합적인 멀티모달 위조 (예: 편집된 오디오 + 합성된 비디오) 를 포착하지 못합니다.
  • 주석의 부족: 대부분 '실제/가짜' 이진 분류 (Binary Judgment) 만 제공하며, 위조의 세부 유형 분류, 구체적인 증거 식별, 그리고 설명 가능한 추론 (Explanatory Reasoning) 을 위한 다단계 주석이 부재합니다.
• 목표: 현실 세계의 복잡하고 다양한 AV 위조 시나리오를 포괄하며, AV-LMM(오디오 - 비디오 대형 멀티모달 모델) 의 검출, 인식, 추론 능력을 종합적으로 평가할 수 있는 새로운 벤치마크 필요성 대두.

2. 방법론 (Methodology)

A. AVFakeBench 데이터셋 구성

• 규모: 총 3,000 개의 오디오 - 비디오 클립과 이를 기반으로 생성된 12,000 개의 질문 - 답변 (QA) 쌍.
• 범위:
  • 주제: 인간 (Human Speech) 과 일반 대상 (Natural Landscapes, Animals, Social Activities 등 11 가지 시나리오) 을 모두 포함.
  • 위조 유형 (7 가지 멀티모달 조합): 오디오와 비디오의 상태 (Real, Edited, Synthesized) 를 조합하여 7 가지 유효한 위조 유형 정의 (예: RA&SV, EA&EV 등).
• 다단계 주석 (Multi-Level Annotations):
  1. L1 (Binary Judgment): 실제/가짜 이진 판별.
  2. L2 (Forgery Types Classification): 7 가지 위조 유형 중 어떤 것인지 분류.
  3. L3 (Forgery Detail Selection): 구체적인 위조 증거 (시간, 위치, 현상) 를 선택하는 객관식.
  4. L4 (Explanatory Reasoning): 위조 발생 원인과 증거에 대한 자연어 설명 생성.

B. 다단계 하이브리드 위조 프레임워크 (Multi-stage Hybrid Forgery Framework)

고품질이고 다양한 위조 데이터를 생성하기 위해 제안된 프레임워크:

1. 계획 단계 (Proprietary Model Planning): 독점 모델 (LMM) 을 사용하여 편집 계획 (삭제, 삽입, 교체 등) 이나 합성을 위한 동적 장면 설명 (Dynamic Description) 을 생성.
2. 실행 단계 (Expert Generative Models):
   • 합성 (Synthesis): KLING, QingYing 등의 I2V 모델과 FoleyCrafter 등의 오디오 생성 모델을 사용하여 시네틱한 AV 콘텐츠 생성.
   • 편집 (Editing): SAM2(세그멘테이션) 와 비디오 인페인팅/편집 모델을 사용하여 특정 객체 제거, 배경 변경 등 정밀 편집 수행.
3. 결합 단계 (Forgery Combination): 생성된 오디오/비디오 스트림을 재조합하여 7 가지 위조 유형 구현.
4. 인간 감독 (Human Supervision): 각 단계에서 인간이 품질, 물리적 타당성, 오디오 - 비디오 동기화, 논리적 일관성을 검증하여 데이터의 충실도 확보.

C. 평가 프레임워크

• 모델: 11 개의 AV-LMM(5 개 오픈소스, 6 개 독점 모델) 과 2 개의 전문 위조 탐지 모델 (LipFD, AVH-Align) 평가.
• 지표: 정확도 (Accuracy), Macro-F1, Normalized Bias Index (NBI, 편향 측정), GPT-Score (설명력 평가).

3. 주요 기여 (Key Contributions)

1. 최초의 포괄적인 AV 위조 탐지 벤치마크: 인간과 일반 대상을 아우르는 11 가지 시나리오, 7 가지 멀티모달 위조 유형, 4 단계 주석을 포함한 AVFakeBench 도입.
2. 고품질 데이터 생성 프레임워크: 독점 모델의 계획과 전문가 생성 모델의 실행, 그리고 인간 감독을 결합한 하이브리드 프레임워크 제안으로 대규모 고품질 위조 데이터 확보.
3. AV-LMM 의 종합적 평가: AV-LMM 이 이진 탐지에서는 유망한 성능을 보이지만, 미세한 위조 인식 (Fine-grained perception) 과 설명적 추론 (Explanatory Reasoning) 에서는 심각한 한계가 있음을 규명.

4. 실험 결과 (Results)

• 이진 판별 (Binary Judgment):
  • AV-LMM 들은 전문 탐지 모델 (Face-centric) 보다 일반 대상 (General Subject) 에서 훨씬 우수한 성능을 보임.
  • 예: Gemini-2.5-Pro 는 인간 대상 63.3%, 일반 대상 54.3% 의 F1 점수를 기록하여 교차 도메인 강건성 입증.
• 위조 유형 분류 (Forgery Types Classification):
  • 성능 급감: 이진 판별 대비 성능이 약 70% 하락 (최고 모델인 Gemini-2.5-Pro 의 F1 점수 19.2%).
  • 편집 (Edit) 위조 취약: 국소적이고 미세한 편집 조작을 탐지하는 데 특히 취약함 (F1 7.5%).
• 세부 정보 선택 및 설명적 추론 (Detail Selection & Reasoning):
  • 매우 낮은 점수: 오픈소스 모델은 F1 점수가 20% 미만이며, 독점 모델 (GPT-4o 등) 도 절대적인 점수가 낮음.
  • 오디오 인식 부족: 오디오 위조 탐지 능력은 비디오에 비해 현저히 낮음 (Modality Disparity).
• 편향 (Bias):
  • 많은 모델이 'Real Audio & Real Video' 카테고리로 편향되어 예측하는 경향이 있음 (NBI 분석). 이는 실제 데이터 분포에 대한 선입견 (Prior) 에 의존하고 있음을 시사.

5. 의의 및 결론 (Significance & Conclusion)

• AV-LMM 의 잠재력과 한계: AV-LMM 은 단일 모델로 다양한 위조 탐지가 가능하다는 잠재력을 보였으나, 미세한 위조 흔적에 대한 감각 (Fine-grained perception) 과 오디오 - 비디오 간의 정밀한 정합성 (Cross-modal alignment), 그리고 논리적 추론 능력이 여전히 부족함을 확인.
• 향후 연구 방향: 본 벤치마크는 AV 위조 탐지 시스템이 단순한 '진위 판별'을 넘어, 어디서, 어떻게, 왜 위조되었는지 설명할 수 있는 설명 가능하고 (Explainable), 지각에 민감한 (Perception-aware) 차세대 모델 개발을 위한 핵심 테스트베드로 작용할 것임.
• 실용적 가치: 복잡한 자연 환경과 다양한 위조 유형을 다루는 현실 세계의 보안 위협에 대응하기 위한 연구의 기초를 제공.

이 논문은 생성형 AI 시대의 오디오 - 비디오 위조 위협에 대응하기 위해, 기존 데이터셋의 한계를 극복하고 AV-LMM 의 능력을 정밀하게 진단할 수 있는 새로운 표준을 제시했다는 점에서 중요한 의의를 가집니다.