🤖 AI

Watermarking Diffusion Language Models

이 논문은 기존 자동회귀 언어 모델용 워터마킹 기법의 한계를 극복하고, 임의 순서로 토큰을 생성하는 확산 언어 모델 (DLM) 에도 적용 가능한 최초의 워터마킹 방식을 제안하여 높은 탐지율과 품질 유지, 그리고 기존 기법과 유사한 강건성을 달성했습니다.

원저자: Thibaud Gloaguen, Robin Staab, Nikola Jovanović, Martin Vechev

게시일 2026-02-20

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Thibaud Gloaguen, Robin Staab, Nikola Jovanović, Martin Vechev

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

확산 언어 모델 (DLM) 을 위한 '보이지 않는 도장' 만들기: ICLR 2026 논문 요약

이 논문은 인공지능이 글을 쓸 때, 그 글이 AI 가 썼다는 것을 알 수 있게 하지만 사람에게는 보이지 않는 **'디지털 도장 (워터마크)'**을 찍는 새로운 방법을 소개합니다. 특히 기존의 방식과 전혀 다른 **'확산 언어 모델 (Diffusion Language Models, DLM)'**이라는 최신 AI 기술에 맞춰 개발된 첫 번째 기술입니다.

이 복잡한 내용을 일상적인 비유로 쉽게 설명해 드리겠습니다.

1. 배경: 왜 새로운 도장이 필요한가요?

기존 AI ( autoregressive 모델):
기존의 AI 는 글을 쓸 때 한 글자씩 순서대로 써나갑니다. 마치 사람이 글을 쓸 때 "A 를 쓰고, 그다음 B 를 쓰고..."라고 순서대로 나열하는 것과 같습니다.

문제점: 이 방식은 이미 쓴 글자를 바탕으로 다음 글자를 결정하므로, "지금 쓴 글자의 앞글자가 뭐였지?"를 확인하기 쉽습니다. 그래서 기존 AI 에는 이미 잘 작동하는 도장 기술이 있습니다.

새로운 AI (확산 모델, DLM):
이 논문에서 다루는 새로운 AI 는 글자를 순서대로 쓰는 게 아니라, 빈칸을 채우는 방식으로 글을 씁니다.

비유: 마치 퍼즐을 맞추는 것과 같습니다. 처음엔 빈칸이 가득 차 있고, AI 가 빈칸을 하나씩 채워나가며 완성된 그림을 만들어냅니다. 중요한 건, 빈칸을 채우는 순서가 정해져 있지 않다는 점입니다. (예: 10 번째 빈칸을 먼저 채우고, 그다음 3 번째 빈칸을 채울 수도 있습니다.)
문제점: 기존 도장 기술은 "앞글자를 보고 도장을 찍는다"는 원리인데, 확산 모델은 앞글자가 아직 결정되지 않았을 수도 있습니다. 그래서 기존 도장 기술로는 이 AI 가 쓴 글을 구별해내기 어렵습니다.

2. 해결책: "미래를 내다보는" 새로운 도장

연구진은 이 문제를 해결하기 위해 두 가지 창의적인 아이디어를 섞었습니다.

아이디어 1: "예상치"에 도장을 찍다 (Expectation)

상황: 아직 빈칸이 채워지지 않아서 "앞글자"를 알 수 없는 상태입니다.
해결: AI 가 "앞글자가 A 일 가능성은 30%, B 일 가능성은 70%"라고 확률적으로 예측할 때, 그 확률 분포 전체를 고려해서 도장을 찍습니다.
비유: 비가 올지 안 올지 확실히 모르지만, "비가 올 확률이 70% 라면 우산을 준비해라"라고 미리 지시하는 것과 같습니다. 글자가 결정되기 전이라도, AI 가 그 글자를 선택할 확률에 따라 도장의 강도를 조절합니다.

아이디어 2: "나중에 도움이 될 글자"를 고르다 (Predictive Bias)

상황: 지금 선택한 글자가 나중에 다른 빈칸을 채울 때, 그 빈칸이 도장 (검은색/초록색) 을 잘 받도록 도와줄까요?
해결: AI 가 지금 글자를 고를 때, "이 글자를 고르면 나중에 나오는 글자들이 도장을 잘 받도록 만들겠다"는 전략을 씁니다.
비유: 축구 경기에서 지금 패스를 할 때, "내 패스를 받으면 팀mate 가 골을 넣기 쉬운 위치로 가게 될 것"을 계산해서 패스를 주는 것과 같습니다. 단순히 지금 순간만 보는 게 아니라, 글자 전체의 흐름을 고려해서 도장을 강화합니다.

3. 어떻게 작동할까요? (간단한 과정)

AI 가 글을 생성할 때: AI 는 빈칸을 채우기 위해 여러 글자 후보를 고려합니다.
도장 적용: 연구진이 개발한 알고리즘은 "이 글자를 고르면 도장 신호가 강해질까?"를 계산합니다.
- 만약 지금 고른 글자가 나중에 나올 글자들의 도장을 도와준다면, 그 글자를 선택할 확률을 살짝 높입니다.
- 이 과정은 사람의 눈에는 보이지 않을 정도로 미세하게 조정됩니다.
검증: 나중에 이 글을 분석할 때, "도장 신호가 너무 많지 않나?"를 통계적으로 확인합니다. 만약 신호가 많다면 "이건 AI 가 쓴 글이다"라고 판단합니다.

4. 실험 결과: 얼마나 잘 작동하나요?

정확도: 이 새로운 도장은 99% 이상의 정확도로 AI 가 쓴 글을 찾아냅니다. (거짓 경보는 거의 없습니다.)
품질: 도장을 찍어도 글의 자연스러움이나 품질은 거의 떨어지지 않습니다. 마치 좋은 종이 위에 아주 얇은 잉크로 도장을 찍는 것과 같습니다.
강인함: 글자를 조금 바꾸거나 (예: 동의어로 교체), 문장을 재구성해도 도장은 여전히 잘 잡힙니다.

5. 결론: 왜 이것이 중요한가요?

이 기술은 AI 가 쓴 글을 구별할 수 있는 첫 번째 확실한 방법을 제공합니다.

신뢰성: AI 가 쓴 가짜 뉴스나 저작권 침해 글을 쉽게 찾아낼 수 있습니다.
규제 대응: 유럽 등지에서 AI 생성 콘텐츠에 대한 표시 의무가 강화되고 있는데, 이 기술이 그 해결책이 될 수 있습니다.
미래 지향적: 앞으로 더 빠르고 유연하게 글을 쓰는 새로운 AI 들이 등장할 텐데, 이 기술은 그런 미래의 AI 들에도 바로 적용할 수 있습니다.

한 줄 요약:

"퍼즐을 아무 순서나 맞추는 새로운 AI 가 있어 기존 도장이 먹통이 됐는데, 연구진이 '확률로 미리 도장을 찍고, 미래의 글자까지 고려해서 도장을 강화하는' 새로운 방식을 만들어 AI 가 쓴 글을 99% 확률로 찾아낸다는 이야기입니다."

1. 문제 정의 (Problem)

배경: 최근 DLM 은 ARLM 과 유사한 성능을 내면서도 더 빠른 생성 속도, 내재된 오류 수정 능력, 다중 모달 확장성 등의 장점을 가지고 있습니다. 그러나 이러한 모델의 확산은 AI 생성 콘텐츠의 오남용 위험을 증가시킵니다.
기존 기술의 한계: 기존 ARLM 워터마킹 (예: Red-Green 워터마킹) 은 이전 토큰을 기반으로 해시 (hash) 를 계산하여 다음 토큰의 확률을 조작하는 방식입니다.
DLM 의 특수성: DLM 은 시퀀스의 토큰을 왼쪽에서 오른쪽으로 순차적으로 생성하지 않고, 마스킹된 토큰을 임의의 순서로 '언마스킹 (unmasking)'합니다. 따라서 특정 토큰을 생성할 때 그 토큰의 완전한 문맥 (context) 이 아직 결정되지 않은 상태일 수 있습니다.
핵심 문제: 기존 ARLM 워터마킹은 문맥이 완전히 존재해야 해시를 계산할 수 있으므로, DLM 에서는 적용이 불가능하거나 매우 약한 워터마킹 (Naive approach) 만 가능합니다.

2. 방법론 (Methodology)

저자들은 DLM 워터마킹을 **제약 최적화 문제 (Constrained Optimization Problem)**로 재정의하고, 이를 해결하는 실용적인 알고리즘을 개발했습니다.

A. 최적화 프레임워크

목표: 생성된 시퀀스 전체에서 '초록색 (Green)' 토큰의 비율을 최대화하면서, 모델의 품질 (Perplexity 등) 에 미치는 영향을 최소화 (KL 발산 제약) 하는 확률 분포 $q^*$ 를 찾는 것입니다.
수식:
$q^* = \arg \max_{q} \mathbb{E}_{\Omega \sim q}[\hat{\gamma}(\Omega)] \quad \text{s.t.} \quad \forall t, KL(q_t, p_t) \leq \varepsilon$
여기서 $\hat{\gamma}$ 는 초록색 토큰 비율, $p$ 는 원본 DLM 의 출력 분포입니다.

B. 핵심 기법: 기대값 기반 워터마킹 (Expectation-based)

문맥이 불완전한 상태에서도 워터마킹을 적용하기 위해 두 가지 전략을 결합했습니다:

기대값 부스팅 (Expectation Boost): 현재 토큰의 문맥이 아직 결정되지 않았더라도, 문맥 해시의 분포 (distribution of context hashes) 에 대한 기대값을 계산하여 워터마킹 신호를 적용합니다. 이는 불완전한 문맥에서도 모든 토큰에 워터마킹을 적용할 수 있게 합니다.
예측 편향 (Predictive Bias): 현재 토큰을 선택함으로써 나중에 생성될 다른 토큰들의 해시가 초록색이 될 확률을 높이는 방향으로 토큰을 편향시킵니다. 즉, 현재 토큰이 미래 토큰들의 워터마킹 강도를 높이는지 고려합니다.

C. 알고리즘 구현

해시 함수: SumHash(주변 토큰 ID 합) 또는 MinHash 를 사용하여 문맥을 해시화합니다.
반복 최적화: 고정점 반복 (Fixed-point iteration) 을 통해 최적의 분포 $q^*$ 를 근사합니다. 실험적으로 1 회 반복만으로도 강력한 워터마킹이 가능함이 확인되었습니다.
검출기: 기존 ARLM 의 Red-Green 워터마킹 검출기 (이항 검정) 를 그대로 사용하여 호환성을 유지합니다.

3. 주요 기여 (Key Contributions)

DLM 전용 워터마킹의 최초 제안: ARLM 워터마킹의 순차적 의존성 한계를 극복하고, 확산 모델의 비순차적 생성 특성에 맞는 첫 번째 워터마킹 체계를 제시했습니다.
이론적 프레임워크 정립: DLM 워터마킹을 제약 최적화 문제로 공식화하고, 이를 해결하는 실용적인 알고리즘을 유도했습니다.
ARLM 워터마킹과의 연결성: 제안된 방법이 ARLM 경우로 제한될 때 기존 Red-Green 워터마킹과 정확히 일치함을 증명하여 이론적 일관성을 확보했습니다.
검증: 광범위한 실험을 통해 제안된 방법이 기존 ARLM 워터마킹을 DLM 에 적용한 베이스라인보다 월등히 우수함을 입증했습니다.

4. 실험 결과 (Results)

검출 성능 (Detectability):
- TPR@1% (1% 위양성률 기준 참양성률): 제안된 방법은 99% 이상의 높은 검출률을 달성했습니다.
- 베이스라인 비교: 기존 ARLM 워터마킹을 DLM 에 적용한 Naive 방식은 TPR@1% 에서 약 60~80% 수준에 그쳤으나, 제안된 방법은 이를 압도했습니다.
- 품질 영향: 텍스트 품질 (Perplexity, GPT-4 점수, 벤치마크 정확도) 에 미치는 영향은 미미했습니다.
강건성 (Robustness):
- 로컬 수정: 단어 삭제, 대체, 문맥 인식 대체 (Context-aware substitution) 등에 대해 기존 워터마킹과 유사하거나 더 나은 강건성을 보였습니다.
- 강력한 적대자: 문장 재구성 (Paraphrasing) 이나 역번역 (Back-translation) 과 같은 공격에도 텍스트 길이가 길어질수록 신호가 회복되는 경향을 보였습니다.
기타 비교: Unigram, PatternMark 와 같은 순서 무관 (Order-agnostic) 워터마킹 기법보다 검출성과 보안성 (Type-1 오류 제어 등) 면에서 우수함을 입증했습니다.

5. 의의 및 결론 (Significance)

실용성: 이 연구는 DLM 이 실용화되는 단계에서 콘텐츠의 출처를 신뢰할 수 있게 추적할 수 있는 첫 번째 솔루션을 제공합니다.
규제 대응: EU AI Act 등 AI 생성 콘텐츠에 대한 규제 강화 흐름에 맞춰, DLM 에도 적용 가능한 표준 워터마킹 기술을 제시했습니다.
기술적 확장: 확산 모델의 비순차적 특성을 고려한 새로운 워터마킹 패러다임을 제시함으로써, 향후 다양한 생성형 AI 모델에 대한 워터마킹 연구의 기초를 마련했습니다.

요약하자면, 이 논문은 DLM 의 비순차적 생성 메커니즘을 고려하여 문맥 해시의 분포를 기반으로 워터마킹 신호를 최적화함으로써, 기존 기술의 한계를 극복하고 99% 이상의 높은 검출률과 낮은 품질 저하를 동시에 달성한 획기적인 연구입니다.