💻 computer science

EDGE-Shield: Efficient Denoising-staGE Shield for Violative Content Filtering via Scalable Reference-Based Matching

본 논문은 저작권 침해 및 딥페이크 생성 위험에 대응하기 위해, 이미지 생성 과정 중 노이즈 제거 단계에서 참조 기반 매칭과 $x$ -pred 변환을 활용하여 기존 방법 대비 처리 시간을 획기적으로 단축하면서도 높은 정확도로 위반 콘텐츠를 필터링하는 확장 가능한 'EDGE-Shield'를 제안합니다.

원저자: Takara Taniguchi, Ryohei Shimizu, Minh-Duc Vo, Kota Izumi, Shiqi Yang, Teppei Suzuki

게시일 2026-04-08

📖 3 분 읽기☕ 가벼운 읽기

CC0 1.0

원저자: Takara Taniguchi, Ryohei Shimizu, Minh-Duc Vo, Kota Izumi, Shiqi Yang, Teppei Suzuki

원본 논문은 CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/)에 따라 공공 도메인에 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

EDGE-Shield: 그림을 그리는 AI 가 나쁜 그림을 그리기 전에 막아주는 '초고속 경비원'

이 논문은 최근 핫한 **'텍스트를 이미지로 바꾸는 AI(예: 미드저니, DALL-E 등)'**가 저작권이 있는 그림이나 특정 인물의 얼굴을 무단으로 복제해서 그리는 문제를 해결하기 위한 새로운 기술을 소개합니다.

기존 방법들의 문제점과 이 논문이 제안한 EDGE-Shield라는 새로운 솔루션을 쉽게 설명해 드릴게요.

1. 왜 이런 기술이 필요할까요? (문제 상황)

AI 가 그림을 그릴 때 두 가지 큰 문제가 있습니다.

저작권/초상권 침해: AI 가 배우의 얼굴이나 유명한 화가의 스타일을 그대로 베껴서 그릴 수 있습니다.
새로운 문제: 매일 새로운 유명인이나 저작권이 있는 그림이 쏟아져 나오는데, 기존 AI 는 이들을 미리 학습하지 않았기 때문에 막아내지 못합니다.

기존 방법들의 한계:

기존 경비원 (기존 필터): 그림이 완전히 다 그려진 후에 "이거 나쁜 그림이네?"라고 확인합니다.
- 비유: 식당에서 요리가 다 완성되고 접시에 담겨 나올 때까지 기다렸다가, "아, 이 요리는 손님이 시킨 거 아니야!"라고 거절하는 것과 같습니다. 이미 요리사 (AI) 가 재료를 다 쓰고 불을 썼으니 시간과 비용이 낭비됩니다.
학습형 경비원: 새로운 유명인을 막으려면 AI 를 다시 교육시켜야 합니다.
- 비유: 새로운 도둑이 나타나면 경찰서 (AI) 를 통째로 재교육시켜야 하므로, 새로운 도둑이 나올 때마다 너무 느립니다.

2. EDGE-Shield 는 무엇인가요? (해결책)

이 논문에서 제안한 EDGE-Shield는 그림이 완성되기 훨씬 전, 그려지는 중간 단계에서 나쁜 그림을 알아채고 즉시 멈추게 합니다.

이를 위해 두 가지 핵심 기술을 사용했습니다.

① "미리 준비된 명단" (Reference-Based & Embedding Caching)

원리: 금지해야 할 그림들 (유명 배우 얼굴, 저작권 그림 등) 의 특징을 미리 숫자 데이터 (임베딩) 로 변환해 메모리에 저장해 둡니다.
비유: 경비원이 "오늘 도둑 명단"을 손에 들고 있는 게 아니라, 명단 전체를 머릿속에 완벽하게 외워두고 있습니다. 새로운 그림이 나오면 명단을 하나하나 대조할 필요 없이, 순간적으로 "아, 이 얼굴은 명단에 있네!"라고 판단합니다.
효과: 금지할 대상이 10 개든 1,000 개든 속도가 거의 변하지 않습니다. (확장성 우수)

② "미래를 보는 안경" (x-pred Transformation)

원리: AI 가 그림을 그리는 과정은 '노이즈 (잡음)'에서 시작해 점점 선명해집니다. 보통은 그림이 다 그려져야 어떤 그림인지 알 수 있습니다. 하지만 EDGE-Shield 는 **그림이 아직 흐릿할 때 (중간 단계)**에 AI 가 예측한 '미래의 완성된 그림'을 가상으로 재구성해 봅니다.
비유: 안개 낀 밤에 길을 가는데, 안개 속에서 사람의 윤곽이 희미하게 보입니다. 보통은 안개가 다 걷혀야 (그림이 완성되어야) "아, 저건 도둑이네!"라고 알 수 있습니다. 하지만 EDGE-Shield 는 안개 속에서도 그 사람의 얼굴을 선명하게 추측해 내는 안경을 끼고 있습니다.
효과: 그림이 다 그려지기 전에, **그림이 그려지는 초기 단계 (약 50%~80% 시간 단축)**에서 이미 "나쁜 그림이다!"라고 판단하고 작업을 중단시킵니다.

3. 실제 효과는 어떨까요?

실험 결과, EDGE-Shield 는 기존 방법들보다 압도적으로 빨랐습니다.

속도: 그림을 다 그릴 때까지 기다렸던 기존 방법보다 최대 79% 까지 시간이 단축되었습니다. (예: 10 초 걸리던 게 2 초 만에 끝남)
정확도: 그림이 다 그려지지 않아도, 중간 단계에서 판단해도 나쁜 그림을 찾아내는 정확도는 기존 방법과 거의 비슷하거나 더 좋았습니다.
확장성: 금지할 대상이 140 개로 늘어나도 속도가 느려지지 않았습니다.

4. 한 줄 요약

EDGE-Shield는 AI 가 나쁜 그림을 그리는 도중, 그림이 아직 흐릿할 때 미리 준비된 명단과 미래 예측 기술을 통해 "이건 금지된 그림이야!"라고 순간적으로 잡아채는 초고속 경비원입니다.

이 기술 덕분에 우리는 저작권이나 초상권 침해 걱정 없이, AI 가 그리는 그림을 더 빠르고 안전하게 즐길 수 있게 되었습니다.

1. 문제 정의 (Problem Statement)

텍스트-to-이미지 (T2I) 생성 모델의 급속한 발전은 저작권 침해 및 딥페이크와 같은 위법 콘텐츠 생성의 위험을 초래했습니다. 기존 콘텐츠 필터링 방식들은 다음과 같은 한계를 가지고 있었습니다:

지식 컷오프 (Knowledge Cutoff): 학습 기반 (Train-based) 필터는 모델 학습 시점에 존재하지 않는 새로운 저작권 작품이나 개인의 권리를 보호하지 못합니다.
높은 지연 시간 (High Latency): 기존 참조 기반 (Reference-based) 또는 출력 기반 (Output-based) 필터는 이미지 생성이 완전히 끝난 후 검사를 수행하므로, 위법 콘텐츠가 생성되는 동안 불필요한 계산 자원을 소모하고 높은 지연 시간을 유발합니다.
확장성 부족 (Scalability Issues): 다수의 참조 이미지 (Reference Images) 를 처리할 때, 각 참조 이미지마다 독립적인 평가를 수행해야 하는 기존 방식은 참조 이미지 수가 증가함에 따라 계산 비용이 기하급수적으로 늘어나 실용성이 떨어집니다.

2. 제안 방법론: EDGE-Shield

저자들은 위 문제들을 해결하기 위해 **Denoising 과정 중 (During the denoising process)**에 작동하는 확장 가능한 참조 기반 콘텐츠 필터인 EDGE-Shield를 제안했습니다. 이 방법은 크게 세 가지 핵심 단계로 구성됩니다.

A. 사전 계산된 참조 임베딩 캐싱 (Reference Embedding Caching)

동작 원리: 위법 콘텐츠가 될 수 있는 참조 이미지 집합 ( $R$ ) 의 임베딩을 사전에 계산하여 메모리에 캐시 (Matrix) 로 저장합니다.
효과: 매 생성 단계마다 참조 이미지를 다시 인코딩할 필요가 없으므로, 참조 이미지 수가 수천 개로 늘어나더라도 추론 지연 시간 (Latency) 에 거의 영향을 주지 않아 높은 확장성을 확보합니다.

B. x-pred 변환 (x-pred Transformation)

동작 원리: ODE 기반 생성 모델 (Flow-based models) 은 일반적으로 중간 상태 ( $z_t$ $z_{t}$ ) 에서 흐름 속도 ( $v_t$ $v_{t}$ ) 를 예측합니다. EDGE-Shield 는 이 예측된 속도를 활용하여 중간 노이즈 상태 ( $z_t$ ) 를 가상의 최종 깨끗한 이미지 ( $x_\theta$ ) 로 변환합니다.
- 공식: $x_\theta(z_t, t) = z_t + (1-t)v_\theta(z_t, t)$
효과: 생성 초기 단계 (Early stage) 에서도 노이즈가 제거된 상태와 유사한 '가상 깨끗한 잠재 공간 (Pseudo-clean latent)'을 얻어낼 수 있습니다. 이를 통해 생성이 완료되기 훨씬 전에 위법 여부를 판단할 수 있어 지연 시간을 획기적으로 단축합니다.

C. 유사도 기반 점수 계산 (Similarity-based Scoring)

동작 원리: x-pred 변환을 통해 얻은 잠재 표현을 VAE 디코더를 통해 이미지로 복원한 후, 이미지 인코더를 통해 임베딩 벡터 ( $e_t$ ) 를 추출합니다. 이 벡터와 사전 캐시된 참조 임베딩 행렬 ( $\mathbf{R}$ ) 간의 코사인 유사도를 행렬 - 벡터 곱셈으로 한 번에 계산합니다.
판단: 최대 유사도 점수 ( $p$ ) 가 임계값 ( $\gamma$ ) 을 초과하면 생성 과정을 즉시 중단하고 위법 콘텐츠로 간주합니다.

3. 주요 기여 (Key Contributions)

생성 과정 중 실시간 필터링: 이미지 생성이 완료될 때까지 기다리지 않고, Denoising 과정 초기 단계에서 위법 콘텐츠를 탐지하여 불필요한 생성을 차단합니다.
확장성 있는 아키텍처: 참조 이미지 임베딩을 사전 계산하고 캐싱하여, 참조 이미지 수의 증가에 따른 지연 시간 증가를 최소화합니다.
x-pred 변환의 효과성 입증: Flow-based 모델의 중간 상태를 변환하여 초기 단계에서도 높은 분류 정확도를 달성함을 증명했습니다.
성능 검증: Z-Image-Turbo 와 Qwen-Image 두 가지 최신 T2I 모델에서 기존 방법들보다 우수한 성능을 입증했습니다.

4. 실험 결과 (Results)

저자들은 Z-Image-Turbo 와 Qwen-Image 모델을 사용하여 CPDM 및 HUB 데이터셋 (개인 얼굴, IP, 예술 스타일 포함) 으로 실험을 수행했습니다.

지연 시간 단축 (Latency Reduction):
- Z-Image-Turbo: 기존 방법 대비 약 79% 단축 (2.1 초 $\rightarrow$ 0.45 초).
- Qwen-Image: 기존 방법 대비 약 50% 단축.
- 기존 VLM 기반 필터들은 생성 완료 후 검사를 수행하므로 시간이 오래 걸렸으나, EDGE-Shield 는 생성 시작 후 매우 빠르게 판단합니다.
정확도 (Accuracy):
- ROC-AUC 점수는 약 0.85 수준으로, 기존 최첨단 VLM 기반 필터 (Qwen3-VL 등) 와 비교해도 동등하거나 더 높은 성능을 보였습니다.
- 특히 Z-Image-Turbo 의 경우, 생성 단계 1 에서도 높은 정확도를 유지했습니다.
확장성 (Scalability):
- 참조 이미지 수가 10 개에서 140 개로 증가해도 지연 시간은 거의 일정하게 유지되었으며, 정확도도 향상되는 경향을 보였습니다.
아키텍처 분석:
- x-pred 변환: 변환을 적용하지 않으면 초기 단계 (T=1~3) 에서 성능이 낮았으나, 적용 시 T=1 부터 즉시 높은 성능을 보였습니다.
- 인코더 영향: Qwen3-VL Embedding 을 사용할 때 가장 높은 성능 (ROC-AUC 0.857) 을 보였습니다.
- 약점: 저작권 (IP) 과 개인 얼굴 (Individual) 분류에는 탁월했으나, 예술적 스타일 (Style) 모방 탐지에는 상대적으로 낮은 성능을 보였습니다 (코사인 유사도의 한계).

5. 의의 및 결론 (Significance & Conclusion)

EDGE-Shield 는 T2I 모델의 안전성 보장을 위한 새로운 패러다임을 제시합니다.

실시간 대응: 생성이 완료되기 전에 위법 콘텐츠를 차단함으로써 컴퓨팅 자원을 절약하고 사용자에게 즉시 피드백을 제공합니다.
실용성: 높은 정확도를 유지하면서도 지연 시간을 크게 줄여, 실제 서비스 환경에 배포 가능한 수준의 효율성을 확보했습니다.

한계점 및 향후 과제: 현재 예술적 스타일 모방 탐지 성능이 상대적으로 낮으며, 참조 데이터셋이 수만 개로 확장될 때 아키텍처를 더 정교하게 다듬어야 할 필요가 있습니다.

이 연구는 생성형 AI 의 안전성 (Safety) 과 효율성 (Efficiency) 을 동시에 만족시키는 중요한 기술적 진보로 평가됩니다.