기술 요약: 교정된 딥페이크 신뢰 점수 (CDTS)

1. 문제 정의

현대의 딥페이크 탐지기는 단순한 이진 분류기가 아니라, 콘텐츠 모더레이션, 출처 검증, 신원 인증 등의 운영 파이프라인 내에서 신뢰 신호(trust signals)로서 점점 더 많이 배치되고 있습니다. 이러한 맥락에서 탐지기의 출력 확률은 신뢰의 정도로 해석됩니다. 확신을 가지고 잘못 레이블링된 자산(높은 확률, 잘못된 레이블)은 시스템 내에서 경고 없이 전파되어 문제를 일으킵니다. 결과적으로, 교정(calibration)—즉, 확률 추정치의 신뢰성—은 판별 정확도(discriminative accuracy)만큼이나 중요합니다.

그러나 기존 문헌은 주로 정확도(AUC, 탐지율)를 최적화하는 데 집중하며, 교정을 고정된 벤치마크 상의 정적인 개선 문제로 취급합니다. 이러한 접근 방식은 탐지기가 새로운 생성 모델, 압축 아티팩트 또는 인구통계학적 하위 그룹을 마주했을 때 신뢰 신호가 어떻게 저하되는지를 다루지 못합니다. 본 논문은 현재의 신뢰 측정 도구들이 "우아한 신뢰 저하(Graceful Trust Degradation, GTD)" 능력이 부족하다고 주장합니다. 즉, 탐지기의 근본적인 능력이 감소함에 따라 교정 상태를 유지하고, 충실한 설명을 제공하며, 침묵하는 실패(silent failures)를 방지하는 능력이 결여되어 있다는 것입니다.

2. 방법론

저자들은 임의의 탐지기 로짓(logit)을 레이블이 없는 역량 모니터링 기능이 강화된 교정된 신뢰 점수($T$)로 변환하는 래퍼(wrapper) 메커니즘인 **교정된 딥페이크 신뢰 점수(Calibrated Deepfake Trust Score, CDTS)**를 소개합니다.

실험 설정

• 탐지기: 세 가지 아키텍처를 평가했습니다: Xception 및 EfficientNet-B4 (합성곱 신경망, CNN)와 CLIP 비전 트랜스포머(Vision Transformer). 이들은 모두 페이스 스왑(face-swap) 위조 데이터를 학습했습니다.
• 데이터셋: FaceForensics++ (c23), CelebDF v2, DF40 생성기 제품군(GAN부터 확산 모델 시대까지 포괄), 그리고 외부 데이터셋인 FaceForensics DeepFakeDetection (DFD) 세트를 사용하여 분포 외(out-of-distribution) 검증을 수행했습니다.
• 역량 조작: 데이터셋의 정체성과 역량을 분리하기 위해, 저자들은 재연(reenactment) 학습된 (FR) Xception 체크포인트를 페이스 스왑 데이터에 사용했습니다. 이를 통해 다른 탐지 가능한 위조 데이터에 대해 낮은 판별 역량(AUC < 0.67)을 유도하여, 통제된 "저역량(low-competence)" 환경을 조성했습니다.
• 교정 프로토콜: 본 연구는 각 타겟 생성기의 레이블이 있는 데이터 중 정체성이 분리된 홀드아웃(held-out) 절반에 교정기를 적합시키는 **오라클 프로토콜(oracle protocol)**을 채택합니다. 이는 단일 교정기의 전이 가능성과는 별개로, 특정 역량이 주어졌을 때 점수가 교정 가능한지의 문제를 격리합니다.
• 지표:
  • 역량(Competence): ROC 곡선 아래 면적 (AUC).
  • 교정(Calibration): 빈닝 편향(binning bias)을 피하기 위한 등질 기대 교정 오차 (Equal-mass Expected Calibration Error, ECE).
  • 설명 충실도(Explanation Faithfulness): 점수 포화(saturation)로 인한 혼란을 피하기 위해, 패치 제거 시 실제 확률 변화와 Grad-CAM 중요도 사이의 스피어만 상관계수를 사용하는 포화 없는 영역별 순위 지표.
  • 레이블 없는 신호: 정답 레이블 없이 계산된 예측 엔트로피(predictive entropy), 점수 분산(score dispersion), 참조 발산(reference-divergence, KS 및 Wasserstein) 등.

3. 주요 기여 및 결과

C1: 역량과 교정의 결합 (The Competence–Calibration Coupling)

핵심 발견은 탐지기의 판별 역량과 교정 오차 사이에 강한 음의 상관관계가 존재한다는 것입니다. 즉, 역량(AUC)이 떨어지면 교정 오차(ECE)는 상승합니다.

• 증거: 이 결합은 두 개의 CNN과 하나의 트랜스포머를 포함한 32개의 구성에서 나타났습니다 (풀링된 Pearson $r = -0.81$).
• 인과관계: 이 관계는 단순히 시간적 또는 데이터셋 특유의 현상이 아닙니다. 역량을 직접 조작했을 때(FS 데이터에 FR 체크포인트 사용), 이 결합은 더욱 강화되었습니다 ($r = -0.94$).
• 외부 타당성: 탐지기가 학습한 적 없는 네 번째 홀드아웃 데이터셋(DFD)에서도 이 결합이 재현되었으며, 개별 액터별 상관관계 또한 유의미하게 유지되었습니다 ($Xception의 경우 $r = -0.89$).
• 배포 현실: 인도메인 데이터에 고정된 단일 교정기는 새로운 생성기가 나타나는 지점에서 정확히 실패합니다. 이 배포된 교정기의 오차는 오라클 프로토콜보다 훨씬 더 밀접하게 역량을 추적합니다 ($r = -0.98$). 이는 신뢰 점수가 새로운 생성기가 등장하는 지점에서 매우 신뢰할 수 없음을 확인시켜 줍니다.

C2: 교정 형평성 vs. 정확도 형평성 (Calibration Equity vs. Accuracy Equity)

본 논문은 교정 형평성이 정확도 형평성과 구별됨을 보여줍니다.

• 발견: 하위 그룹들은 동일한 정확도(유사한 AUC)를 가질 수 있지만, 교정 상태는 불평등할 수 있습니다. 예를 들어, 피부색 하위 그룹의 경우 AUC 차이는 0.0006에 불과했으나, 쌍별 ECE 차이는 0.0151에 달했습니다.
• 시사점: 오직 에러율에만 초점을 맞춘 표준 공정성 감사(fairness audit)는 인구통계학적 그룹 간의 신뢰 점수 신뢰도에 존재하는 실질적인 격차를 놓칠 수 있습니다.

C3: 설명 충실도는 역량에 결합됨 (Explanation Faithfulness is Competence-Coupled)

포화 없는 지표를 사용하여, 저자들은 설명 충실도가 역량과 함께 상승함을 보여주었습니다 ($r = +0.94$).

• 메커니즘: 역량이 높은 탐지기는 결정의 근거가 되는 살리언시 맵(saliency maps)을 생성합니다. 반면, 역량이 낮은 탐지기는 증거와 상관관계가 없는 살리언시 맵을 생성하여 설명의 충실도를 떨어뜨립니다.

C4: 레이블 없는 역량 모니터링 (Label-Free Competence Monitoring)

본 논문은 예측 엔트로피가 역량을 추정하기 위한 강력한 레이블 없는 신호임을 식별했습니다.

• 이식성: 참조 발산 신호(예: KS 거리)가 아키텍처에 따라 부호가 바뀌는 것과 달리(Xception에서는 양수, EfficientNet에서는 음수), 예측 엔트로피는 모든 세 가지 아키텍처에서 역량과 일관된 음의 상관관계를 유지합니다 ($r = -0.84, -0.38, -0.95$).
• 유용성: 이를 통해 정답 레이블 없이도 미지의 생성기에 대한 교정 위험을 감지할 수 있습니다.

C5: 신뢰 신호의 통합 (Unification of Trust Signals)

합성곱 기반 탐지기에서, 고유 신뢰 신호(교정 및 설명 충실도)는 하나의 역량 정렬된 요인으로 수렴합니다 (전체 분산의 약 90%를 설명). 전체 멀티 신호 구조(모니터링 신호 포함)는 아키텍처마다 다를 수 있지만, 역량이 신뢰 저하의 공유 동인이라는 핵심 발견은 CNN과 트랜스포머 모두에 일반화됩니다.

C6: 역량 인지 라우팅 (Competence-Aware Routing)

레이블 없는 역량 추정치(점수 분산)를 기반으로 소스 배치를 라우팅하는 것이 신뢰도 기반 라우팅보다 성능이 우수합니다.

• 결과: 역량 인지 라우팅은 전체 AURC(Area Under the Risk-Coverage) 곡선을 낮추며, 특히 검증 시스템이 중단(abstain) 여부를 결정해야 하는 저-중간 커버리지 작동 영역에서 성능을 향amel합니다.

4. 의의 및 주장

본 논문은 탐지기의 신뢰성이 다섯 가지 독립적인 보장(교정, 형평성, 충실도 등)의 집합이 아니라, **역량(competence)**이라는 하나의 측정 가능한 요인에 의해 조직된다고 주장합니다.

• 문제의 재정의: 저자들은 "시간적 추측"(신뢰가 단순히 시간이 흐름에 따라 저하된다는 생각)을 거부합니다. 대신, 시간은 단지 탐지기의 역량 경계로부터의 거리를 나타내는 대리 지표일 뿐이라고 주장합니다. 신호들이 동시에 반응하는 이유는 이들이 역량이라는 공통의 동인을 공유하기 때문입니다.
• 실행 가능한 통찰: 신뢰 점수는 **역량을 인지(competence-aware)**해야 합니다. 시스템은 역량(레이블 없는 엔트로피를 통해)을 추정하고, 이를 바탕으로 신뢰도를 조건화해야 합니다.
• 범위와 겸손: 저자들은 "통합 요인"에 관한 주장의 범위를 명시적으로 제한합니다. 역량-교정 결합과 레이블 없는 모니터링은 세 가지 아키텍처 모두에서 일반화되지만, 모든 신뢰 신호를 단일 요인으로 통합하는 것은 합성곱 백본에 국한됩니다. 본 논문은 역량이 모든 가능한 아키텍처나 충실도 방법론에 대한 보편적인 단일 요인이라고 주장하는 것이 아니라, 테스트된 CNN과 트랜스포머에서 입증된 공유 동인임을 밝히는 것입니다.

CDTS 래퍼는 이러한 통찰을 실행 가능하게 만들기 위해 제안되었습니다. 이를 통해 시스템은 단순한 원시 확신도가 아니라 탐지기의 실제 능력에 기반하여 "알고, 보여주고, 경고하며, 차별하지 않고, 라우팅"할 수 있습니다.