기술 요약: CORE – 일반적 멀티모달 조작 탐지를 위한 갈등 지향적 추론 (Conflict-Oriented Reasoning for General Multimodal Manipulation Detection)

1. 문제 정의

생성형 AI의 급격한 발전은 현실적이고 광범위한 멀티모달 가짜 뉴스의 급증을 초래하여 공공의 신뢰와 사회적 안정에 중대한 위협을 가하고 있습니다. 기존의 탐지 방법들은 두 가지 결정적인 한계에 직면해 있습니다:

1. 데이터 의존성: 대규모의 유형별 라벨링된 데이터셋에 크게 의존합니다.
2. 설계의 경직성: 특정 조작 유형(예: 얼굴 교체, 텍스트-이미지 불일치)에 맞춤화된 모델과 학습 패러다임을 사용합니다.

결과적으로, 이러한 방법들은 새로운 조작 패턴을 마주했을 때 낮은 일반화 성능을 보입니다. 위조 기술과 탐지 방법 사이의 "군비 경쟁"으로 인해, 현재의 모델들은 새로운 조작 유형이 등장할 때 성능이 크게 저하됩니다. 이는 데이터 수집 및 모델 재학습의 주기가 새로운 위조 기술의 진화 속도를 따라잡지 못하기 때문입니다. 또한, 멀티모달 거대 언어 모델(MLLM)은 풍부한 세계 지식을 보유하고 있음에도 불구하고, 의미론적으로 이질적인 개념들(예: 특징 공간에서 "미국 대통령"과 "축구 상"을 혼동하는 것)을 구별하는 개념적 명확성이 부족하여 견고한 오정보 탐지에 실패하곤 합니다.

2. 핵심 통찰 (Core Insight)

저자들은 조작된 오정보의 본질이 그 내재적인 **갈등(Conflict)**에 있다는 점에 주목했습니다. 이러한 갈등은 다음과 같이 나타납니다:

• 의미론적 모순 (Semantic Contradictions): 콘텐츠와 일반적인 세계 지식 사이의 불일치 (예: 미국 대통령이 축구 상을 받았다고 주장하는 뉴스 캡션).
• 물리적 불일치 (Physical Inconsistencies): 조작된 콘텐츠와 원본 이미지 또는 텍스트 사이의 조명, 그림자 또는 객체 특성의 차이.

본 논문은 만약 탐지 모델이 명시적인 **갈등 포착 능력(conflict-capturing capability)**을 갖추게 된다면, 특정 위조 흔적을 위한 특화된 설계 없이도 최소한의 데이터(few-shot 또는 zero-shot)만으로 새로운 조작 유형에 효과적으로 적응하여 인간과 유사한 견고성을 구현할 수 있다고 주장합니다.

3. 방법론: CORE 프레임워크

CORE (Conflict-Oriented REasoning) 프레임워크는 MLLM에 명시적인 개념적 이해와 갈등 탐지 능력을 부여하도록 설계되었습니다. 이는 세 가지 주요 단계로 구성됩니다:

3.1. 갈등 속성 코퍼스 (CAC) 구축

갈등 인지를 위한 미세한 수준의 감독을 제공하기 위해, 저자들은 14,000개의 샘플을 포함하는 **갈등 속성 코퍼스 (Conflict Attribution Corpus, CAC)**를 구축했습니다.

• 출처: SAMM 데이터셋(100k 이미지-텍스트 쌍)에서 파생되었습니다.
• 주석 과정: MLLM 전문가 풀(GPT-4o, Gemini2.5-Pro, Qwen3-VL-Plus)을 활용하여, 왜 해당 뉴스가 가짜인지에 대한 상세한 근거(rationale)를 생성합니다. 이 근거들은 다음을 포함하는 구조화된 형식으로 정제됩니다:
  • 갈등 요소 ($C_1, C_2$): 구체적인 모순되는 개념들 (예: "미국 대통령" vs "발롱도르").
  • 갈등 출처 ($S_1, S_2$): 모순의 기원 (이미지, 캡션 또는 세계 지식).
• 분포: 갈등은 캡션(29.98%), 이미지(36.86%), 그리고 세계 지식(33.16%)에서 발생합니다.

3.2. 모달리티 브릿징 사전 학습 (MBPT)

CAC의 갈등 주석은 텍스트 형태이지만 종종 시각적 요소를 설명하므로, 모달리티 간의 간극을 메우기 위한 **교차 모달리티 정렬기 (Cross-Modal Aligner)**를 학습시킵니다.

• 데이터: FineHARD 데이터셋(이미지, 긍정적 텍스트, 그리고 어려운 부정적 텍록)에서 추출한 5만 개의 샘플.
• 메커니즘: 교차 주의(cross-attention) 레이어가 시각적 특징을 텍스트 특징과 정렬합니다.
• 손실 함수 (Loss Function): 매칭된 텍스트와 시각적 특징 사이의 의미론적 상관관계를 보장하기 위한 대비 학습 손실(SigLIP)과, 언어 능력 및 미세한 이해력을 보존하기 위한 언어 생성 손실(VQA 스타일)을 결합합니다.

3.3. 갈등 인지 학습 (CPT)

이 단계는 갈등을 탐지하도록 모델의 개념적 이해를 명시적으로 재형성합니다.

• 입력: 구조화된 갈등 요소와 출처를 포함한 CAC 샘플.
• 특징 처리: 만약 갈등 요소가 이미지에서 기원했다면 교차 모달리티 정렬기를 통해 시각적 특징을 추출하고, 그렇지 않으면 텍스트 특징을 사용합니다.
• 손실 함수:
  • 갈등 인식 대비 손실 ($L_{cacl}$): 두 갈등 요소($z_1, z_2$)의 표현을 의미 공간에서 서로 멀어지게 밀어내어 명확한 개념적 경계를 구축합니다.
  • 갈등 추론 손실 ($L_{cr}$): $C_1$과 $C_2$ 사이의 갈등에 기반하여 결정(Real/Fake)과 추론 과정을 출력하도록 학습시키는 언어 모델링 손실입니다.

3.4. 신속한 적응 (Rapid Adaptation)

학습이 완료된 후, CORE 프레임워크는 새로운 조작 유형에 빠르게 적응할 수 있게 합니다. 모델은 간단한 질의응답 지시문("이 뉴스는 진짜인가요, 가짜인가요?")과 최소한의 미세 조정(few-shot) 또는 제로샷(zero-shot) 추론만으로 미처 보지 못한 조작 패턴에 대해 높은 성능을 달성합니다.

4. 주요 기여

1. 일반적 패러다임: 특정 위조 유형을 위한 특화된 설계에서 벗어나, 제한된 타겟 샘플로 새로운 조작에 빠르게 적응할 수 있는 일반적인 멀티모달 조작 탐지 학습 패러다임을 도입했습니다.
2. CORE 프레임워크: MLLM에 인간과 유사한 갈등 추론 능력을 부여하여, 특정 흔적이 아닌 내재적 갈등에 집중함으로써 보지 못한 오정보 패턴에 대한 빠른 적응을 가능하게 하는 일반적인 프레임워크를 제시했습니다.
3. 갈등 속성 코퍼스 (CAC): 갈등 요소와 출처에 대한 미세한 주석이 포함된 정교하게 큐레이션된 14k 샘플 데이터셋을 구축하여, 멀티모달 조작에서의 갈등 추론 연구를 위한 벤치마크 역할을 수행하게 했습니다.

5. 실험 결과

프레임워크는 Qwen2.5VL-3B와 Gemma3-4B를 백본으로 사용하여 DGM4, MDSM, MMFakeBench, NewsCLIPpings의 네 가지 데이터셋에서 평가되었습니다.

• Few-Shot 성능: 제한된 학습 데이터(100–750개 샘플)를 사용하여, COREQwen과 COREGemma는 SOTA(State-of-the-Art) 성능을 달축했으며, 두 번째로 우수한 방법들보다 평균적으로 각각 9.94% 및 10.50% 더 높은 성능을 보였습니다.
• Zero-Shot 일반화: 교차 조작 탐지(한 세트의 조작 유형으로 학습하고 보지 못한 유형으로 테스트)에서, CORE는 베이스라인 모델들을 크게 앞질렀습니다 (예: MDSM에서 14% 이상의 개선).
• 대규모 강건성: 대규모 데이터(전체 SAMM, MDSM, 200k NewsClippings)로 학습되었을 때도, CORE는 우수한 안정성을 유지하며 베이스라인보다 약 3.8~4.2% 더 높은 성능을 기록했습니다.
• 시간 민감형 이벤트: 모델의 사전 학습 범위 밖인 2025년 이벤트가 포함된 평가에서, CORE는 **74%**의 정확도를 달와, 베이스라인(44–52%)을 크게 상회했습니다. 이는 특정 엔티티 지식 없이도 논리적 위반을 탐지하는 능력을 입증합니다.
• Ablation Study (절제 실험): 실험을 통해 MBPT 단계(모달리티 간극 해소)와 CPT 단계(갈등 경계 학습)가 모두 필수적임을 확인했습니다. CPT를 제거하면 성능이 급격히 하락(~4.58%)했으며, MBPT의 대비 학습 손실을 제거하면 4.44%의 성능 저하가 발생했습니다.

6. 의의 및 주장

본 논문은 CORE가 현재 탐지 방식의 근본적인 결함인 특정 데이터 패턴 및 모델 설계에 대한 과도한 의존성을 해결한다고 주장합니다. 가짜 뉴스의 **핵심 갈등(core conflict)**에 초점을 맞춤으로써, CORE는 모델이 견고한 일반화를 달성할 수 있게 합니다.

• 효율성: 이 프레임워크는 에너지 집약적인 전체 파라미터 재학습과 대규모의 유형별 데이터 수집의 필요성을 줄여줍니다.
• 강건성: 특정 세계 지식이 없는 '제로 데이(zero-day)' 오정보를 포함하여, 진화하는 생성형 AI 위협에 대해 효과적으로 작동하는 솔루션을 제공합니다.
• 윤리적 고려사항: 저자들은 CAC 데이터셋이 기만적인 콘텐츠 생성에 악용되는 것을 방지하기 위해 연구 목적으로만 사용 가능하다는 라이선스 하에 공개되었음을 명시했습니다.

저자들은 갈등 인지라는 근본적인 능력을 숙달하는 것이 모델이 데이터 의존성에서 벗어나게 함으로써, 멀티모달 오정보 탐지에 대한 확장 가능하고 견고한 접근 방식을 제공한다고 결론짓습니다.