기술 요약: 평범한 토큰에 숨겨진 것

문제 정의

생성형 AI, 특히 오디오와 같은 연속 모달리티를 위한 자기회귀 모델의 급속한 발전은 강력한 콘텐츠 출처 증명의 긴급한 필요성을 야기했습니다. 텍스트와 같은 이산 도메인에 대한 워터마킹 기술은 잘 정립되어 있지만, 이를 연속 모달리티에 적용하는 것은 근본적인 장벽인 재토큰화 불일치에 직면해 있습니다.

자기회귀 오디오 모델에서 콘텐츠는 이산 토큰의 시퀀스로 생성되지만 연속적인 파형으로 합성됩니다. 워터마크를 감지하려면 파형을 코덱에 의해 재인코딩 (재토큰화) 해야 합니다. 그러나 신경 코덱은 정확한 인덱스 보존보다 재구성 품질을 우선시하기 때문에, 재토큰화된 시퀀스는 종종 원래 생성된 시퀀스와 다릅니다. 이 "재토큰화 오차"는 일반적으로 특정 토큰 로그이트 (logits) 에 편향을 주어 삽입되는 워터마크 신호가 급격히 소실되게 만듭니다. 특히 컨텍스트 윈도우 크기 ($h$) 가 증가함에 따라 더욱 그렇습니다. 기존 솔루션은 코덱 모듈을 항등 (idempotent) 하도록 파인튜닝하여 이를 해결하려 시도하지만, 이 과정은 계산 비용이 많이 들고 화이트박스 접근이 필요하며, 표준 워터마킹 방식의 "학습 불필요 (training-free)"라는 장점을 무효화합니다.

방법론

저자들은 이산 표현 학습에 내재된 구조적 중복성을 활용하는 경량, 무경사 (gradient-free) 워터마킹 방법인 Hidden in Plain Tokens를 제안합니다. 코덱을 항등적으로 만드는 대신, 이 방법은 워터마킹 방식을 코덱의 자연스러운 오차 패턴에 적응시킵니다.

1. 재토큰화의 통계적 분석

이 논문은 먼저 재토큰화 과정을 노이즈 채널로 모델링합니다. 그들은 표준 KGW(Kirchenbauer et al., 2023) 워터마크에 대한 기대 감지 통계량 ($z$-score) 이 컨텍스트 윈도우 크기 $h$와 토큰 일치율 $r$에 따라 지수적으로 감소함을 유도합니다:
$$E[z|H_1] \propto \sqrt{N} \cdot r^{h+1}$$
연속 모달리티에서는 $r < 1$이므로 신호가 빠르게 소실됩니다. 저자들은 정확한 토큰 일치는 드물지만, 토큰들이 종종 소수의 "의미적 이웃 (semantic neighbors)"과 혼동된다는 것을 관찰합니다.

2. 커뮤니티 감지를 통한 어휘 축소

이를 완화하기 위해 저자들은 어휘 클러스터링 접근법을 도입합니다:

• 그래프 구성: 파형 데이터셋을 인코딩하고 재인코딩하여 혼동 행렬을 구축하며, 토큰을 그래프의 노드로, 혼동 빈도를 엣지 가중치로 간주합니다.
• 커뮤니티 감지: 비지도 알고리즘 (특히 Leiden 방법) 을 사용하여 서로 자주 혼동되는 안정적인 토큰 클러스터를 식별합니다. 이는 효과적으로 어휘 크기를 $|V|$에서 더 작은 클러스터 집합으로 축소합니다.
• 클러스터 수준 워터마킹: 개별 토큰에 편향을 주는 대신, 워터마크 편향은 클러스터 수준에서 적용됩니다. 해싱에 사용되는 컨텍스트 히스토리 및 현재 토큰 선택은 워터마크 규칙을 적용하기 전에 각각의 클러스터 인덱스로 매핑됩니다.

3. 이론적 개선

클러스터 수준에서 작동함으로써, 이 방법은 토큰 일치율 $r$을 클러스터 일치율 $r_{cl}$로 대체합니다. $r_{cl} > r$이므로 (클러스터는 가장 가까운 이웃들을 집계함), 지수 감소 항은 $r_{cl}^{h+1}$이 되어, 기본 생성 모델이나 코덱을 수정하지 않고도 기대 $z$-score 와 감지 강건성을 크게 향상시킵니다.

주요 기여

1. 통계적 분석: 저자들은 재토큰화 오차가 워터마크 감지성을 어떻게 저하시키는지 이론적으로 정량화하여, 컨텍스트 윈도우 크기에 따른 신호의 지수적 감소를 강조합니다.
2. 무경사 방법: 그들은 커뮤니티 감지를 통해 근본적인 어휘 구조를 발견하고 워터마킹 규칙을 적용하기 전에 이를 정제하는 새로운 블랙박스 방법을 도입합니다. 이는 학습 불필요 패러다임을 유지합니다.
3. 강건성과 품질: 이 방법은 오디오 수정 및 재토큰화 노이즈에 대한 내재적 강건성을 달성하면서도 인지된 오디오 품질의 저하를 최소화합니다.

실험 결과

이 방법은 Moshi(대화형 음성), MusicGen(음악 생성) 을 포함한 최첨단 자기회귀 오디오 모델과 CosyVoice3, Spark-TTS와 같은 텍스트 - 음성 변환 모델에서 평가되었습니다.

• 감지성: 제안된 방법은 "Base"(원시 KGW) 및 "WMAR"(파인튜닝된 코덱) 방법을 포함한 베이스라인보다 감지성을 여러 차수 향상시킵니다. 더 높은 차수의 컨텍스트 ($h=1, 2$) 가 있더라도, 이 방법은 매우 낮은 오양성률 (FPR) 에서 높은 양성률 (TPR) 을 유지합니다.
• 강건성: 워터마크는 신호 처리 (스무딩, 필터링, 노이즈), 압축 (MP3, DAC, EnCodec), 시간적 수정 (자르기, 이동) 을 포함한 다양한 공격 하에서도 감지 가능합니다. 시간적 불일치는 모든 토큰 기반 방법의 과제로 남아 있지만, 제안된 방법은 베이스라인보다 훨씬 우수하게 수행됩니다.
• 오디오 품질: 프리셰트 오디오 거리 (FAD) 및 평균 의견 점수 (MOS) 지표를 사용한 평가는 워터마킹 과정이 오디오 품질을 심각하게 저하시키지 않음을 나타냅니다. 많은 경우, 워터마크가 적용된 오디오의 품질 점수는 파인튜닝된 WMAR 베이스라인과 비슷하거나 더 좋습니다.

중요성 및 주장

이 논문은 멀티미디어의 토큰 수준 워터마크에 대한 새로운 최첨단 기술을 확립한다고 주장합니다. 그 주요 중요성은 토큰 수준 오디오 워터마킹의 인식된 취약성이 침습적 모델 학습이 아니라 모델이 학습한 이산 표현 공간의 정제를 통해 해결 가능함을 입증하는 데 있습니다.

저자들은 잠재 공간의 구조적 정렬 (커뮤니티 감지를 통해 포착됨) 이 신호 도메인에서의 강건성으로 직접 변환된다고 주장합니다. 이 접근법은 계산 비용이 많이 드는 코덱 파인튜닝에 대한 실용적이고 효율적인 대안을 제공하여, 합성 오디오를 위한 강력한 워터마킹을 더 접근 가능하고 배포 가능하게 만듭니다. 이 작업은 이산 표현 학습의 중복성이 연속 모달리티의 한계를 극복하는 데 활용될 수 있는 특징임을 시사합니다.