🤖 machine learning

Shallow Diffuse: Robust and Invisible Watermarking through Low-Dimensional Subspaces in Diffusion Models

यह शोध पत्र शैलो डिफ्यूज़ (Shallow Diffuse) को प्रस्तुत करता है, जो डिफ्यूजन मॉडल्स के लिए एक सुदृढ़ और अदृश्य वॉटरमार्किंग तकनीक है जो कम-आयामी उप-स्थानों (low-dimensional subspaces) का लाभ उठाकर वॉटरमार्क एम्बेडिंग को इमेज जनरेशन से अलग करती है ताकि मौजूदा तरीकों की तुलना में वॉटरमार्क की पहचान क्षमता और जनरेशन निरंतरता को महत्वपूर्ण रूप से बढ़ाया जा सके।

मूल लेखक: Wenda Li, Huijie Zhang, Qing Qu

प्रकाशित 2026-02-13

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Wenda Li, Huijie Zhang, Qing Qu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "Shallow Diffuse" पेपर का सरल भाषा और रचनात्मक उपमाओं (analogies) का उपयोग करते हुए हिंदी अनुवाद दिया गया है।

बड़ी समस्या: AI आर्ट को ट्रैक करना कठिन है

एक ऐसी दुनिया की कल्पना करें जहाँ कोई भी सिर्फ एक वाक्य टाइप करके कुछ भी एकदम असली दिखने वाली फोटो बना सकता है। डिफ्यूजन मॉडल्स (जैसे DALL-E, Midjourney, या Stable Diffusion) यही करते हैं।

लेकिन इसमें एक पेंच है:

फेक न्यूज़: बुरे तत्व विश्व नेताओं की ऐसी फर्जी तस्वीरें बना सकते हैं जो उन्होंने कभी की ही नहीं।
कॉपीराइट: कलाकारों को डर है कि उनकी शैली (style) चोरी हो रही है।
"मॉडल कोलैप्स" (Model Collapse): यदि AI, AI द्वारा बनाई गई छवियों पर ही ट्रेनिंग करने लगे, तो वह अंततः मूर्ख और दोहराव वाला (repetitive) हो जाता है।

हमें इन छवियों को टैग करने के तरीके की आवश्यकता है ताकि हमें पता चल सके, "हे, यह एक रोबोट द्वारा बनाया गया है।" इस टैग को वॉटरमार्क (Watermark) कहा जाता है।

पुराना तरीका: "भारी बैकपैक" दृष्टिकोण

पिछले तरीकों ने AI की सोचने की प्रक्रिया के बिल्कुल शुरुआती चरण (जिसे "सीड" या seed कहते हैं) में बदलाव करके वॉटरमार्क डालने की कोशिश की।

उपमा: कल्पना कीजिए कि आप एक केक (छवि) बना रहे हैं। वॉटरमार्क डालने के लिए, पुराने तरीकों ने उस आटे को बदलने की कोशिश की जिससे आप शुरुआत कर रहे थे।

समस्या: यदि आप आटे को बहुत अधिक बदलते हैं, तो केक का स्वाद बदल जाता है (छवि विकृत दिखती है)। यदि आप इसे पर्याप्त नहीं बदलते हैं, तो यदि कोई ऊपर से थोड़ी फ्रॉस्टिंग (धुंधलापन या संपादन) डाल देता है, तो वॉटरमार्क गायब हो जाता है।
सीमा: आपको यह करने के लिए 'बेकर' (बनाने वाला) होना भी जरूरी था। यदि आपको बेकरी में एक केक मिलता (यूजर परिदृश्य), तो आप घंटों पहले इस्तेमाल किए गए आटे को वापस जाकर नहीं बदल सकते थे।

नया तरीका: "शैलो डिफ्यूज" (Shallow Diffuse)

मिचीगन विश्वविद्यालय के लेखकों ने "शैलो डिफ्यूज" नामक एक चतुर तरकीब निकाली है।

मूल विचार: उन्होंने महसूस किया कि जब एक AI चित्र बनाता है, तो उसे वास्तव में एक साथ हर छोटी बारीकी के बारे में सोचने की आवश्यकता नहीं होती है। वह मुख्य रूप से "बड़ी तस्वीर" के आकार पर ध्यान केंद्रित करता है। बाकी का स्थान खाली या "नल" (null) होता है।

उपमा: हाशिये में अदृश्य स्याही
कल्पना कीजिए कि AI कागज के एक टुकड़े पर एक पोर्ट्रेट बना रहा है।

"डीप" (Deep) हिस्सा: AI अपनी 99% ऊर्जा चेहरा, आँखें और बाल बनाने में खर्च करता है। यह "लो-डायमेंशनल सबस्पेस" (low-dimensional subspace) है।
"शैलो" (Shallow) हिस्सा: चित्र के चारों ओर बहुत सारा खाली स्थान (हाशिये) है जिसे AI अनदेखा कर देता है क्योंकि चित्र को अच्छा दिखने के लिए उसकी आवश्यकता नहीं होती।

शैलो डिफ्यूज ऐसे काम करता है:

आटे (सीड) को बदलने के बजाय, वे तब तक इंतजार करते हैं जब तक कि AI चित्र बनाने के आधे रास्ते तक न पहुँच जाए।
वे एक गुप्त संदेश (वॉटरमार्क) को खाली हाशिये (null space) में छिपा देते हैं।
क्योंकि AI चेहरा बनाने के लिए हाशिये को अनदेखा करता है, इसलिए चित्र बिल्कुल वैसा ही दिखता है (परफेक्ट कंसिस्टेंसी)।
लेकिन क्योंकि संदेश "खाली" स्थान में छिपा हुआ है, इसलिए यदि कोई चित्र को धुंधला या क्रॉप करने की कोशिश करता है, तो भी यह खराब नहीं होता। यह सुरक्षित और पता लगाने योग्य रहता है।

यह गेम चेंजर क्यों है?

1. यह हर जगह काम करता है (सर्वर और यूजर)

सर्वर परिदृश्य: AI कंपनी छवि बनाते समय इसका उपयोग कर सकती है।
यूजर परिदृश्य: यदि आपके पास पहले से ही एक छवि है और आप इसे वॉटरमार्क करना चाहते हैं, तो आप इस तरीके का उपयोग भी कर सकते हैं।
जादू: आपको मूल "सीड" जानने या पीछे जाकर समय बदलने की आवश्यकता नहीं है। आप बस तैयार छवि लेते हैं, उस खाली हाशिये को खोजने के लिए एक त्वरित "रिवर्स" प्रक्रिया चलाते हैं, उसमें वॉटरमार्क डालते हैं, और उसे वापस भेज देते हैं। यह एक पहले से मेल किए जा चुके पत्र पर स्टैम्प लगाने जैसा है, लेकिन स्टैम्प लिखने वाले शब्दों को खराब नहीं करता।

2. यह अदृश्य है (कंसिस्टेंसी)

चूंकि वॉटरमार्क "नल स्पेस" (उस हिस्से में जिसे AI महत्व नहीं देता) में छिपा है, इसलिए छवि की गुणवत्ता कम नहीं होती है।

पुराना तरीका: पेंटिंग पर स्टिकर लगाने जैसा है; यह लुक बदल देता है।
शैलो डिफ्यूज: कैनवास के पीछे गुप्त कोड लिखने जैसा है जिसे कोई देख नहीं सकता, लेकिन पेंटिंग एकदम शानदार दिखती है।

3. यह मजबूत है (रोबस्टनेस)

यदि कोई चित्र को धुंधला करके या क्रॉप करके वॉटरमार्क हटाने की कोशिश करता है, तो भी वॉटरमार्क बना रहता है।

उपमा: कल्पना कीजिए कि वॉटरमार्क पेंटिंग के आसपास की खाली हवा में रहने वाला एक भूत है। यदि आप पेंटिंग के ऊपर पेंट करते हैं (ब्लर) या उसका एक हिस्सा काट देते हैं (क्रॉप), तो भूत अभी भी वहीं तैर रहा है जहाँ आपने उसे छोड़ा था।

"सीक्रेट सॉस": लो-डायमेंशनल सबस्पेस

यह पेपर कुछ जटिल गणित का उपयोग करके यह सिद्ध करता है कि AI मॉडल स्वाभाविक रूप से चित्र बनाने की प्रक्रिया के दौरान इन "खाली स्थानों" (low-dimensional subspaces) को बनाते हैं।

इसे एक परछाईं के खेल (shadow puppet show) की तरह समझें। कठपुतली (छवि) जटिल है, लेकिन प्रकाश स्रोत (AI का तर्क) केवल कुछ विशिष्ट दिशाओं में ही चलता है।
शैलो डिफ्यूज उस दिशा में रोशनी डालता है जिस दिशा में कठपुतली नहीं चलती। दर्शक वही कठपुतली देखते हैं, लेकिन दीवार पर परछाईं (वॉटरमार्क) वहां मौजूद होती है जिसे डिटेक्टर देख सकता है।

सारांश

शैलो डिफ्यूज AI छवियों को टैग करने का एक नया, अदृश्य और अटूट तरीका है।

पुराने तरीके: सामग्री बदलने की कोशिश करते थे, जिससे स्वाद बिगड़ जाता था या वे केवल किचन (बनाने की प्रक्रिया) में ही काम करते थे।
शैलो डिफ्यूज: रेसिपी के खाली स्थान में एक गुप्त नोट छिपा देता है। केक का स्वाद और रूप एकदम परफेक्ट रहता है, लेकिन गुप्त नोट तब भी सुरक्षित रहता है जब आप केक को तोड़ने की कोशिश करते हैं।

यह हमें AI छवियों पर भरोसा करने की अनुमति देता है, यह जानते हुए कि वे वास्तव में कहाँ से आई हैं, बिना उनकी सुंदरता को खराब किए।

यहाँ पेपर "Shallow Diffuse: Robust and Invisible Watermarking through Low-Dim Subspaces in Diffusion Models" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

डिफ्यूजन मॉडल्स (जैसे Stable Diffusion, DALL-E 3) के माध्यम से AI-जनित सामग्री (AIGC) के तीव्र प्रसार ने गलत सूचना, कॉपीराइट उल्लंघन और "मॉडल कोलैप्स" (सिंथेटिक डेटा पर प्रशिक्षित मॉडल्स का क्षरण) के संबंध में महत्वपूर्ण चुनौतियाँ पैदा कर दी हैं। हालाँकि वॉटरमार्किंग एट्रिब्यूशन (attribution) के लिए एक प्राथमिक समाधान है, मौजूदा विधियाँ गंभीर सीमाओं से ग्रस्त हैं:

असंगति (Inconsistency): वे विधियाँ जो प्रारंभिक रैंडम नॉइज़ में वॉटरमार्क एम्बेड करती हैं (जैसे Tree-Ring, RingID), अक्सर गॉसियन नॉइज़ वितरण को विकृत कर देती हैं, जिससे मूल मॉडल की तुलना में महत्वपूर्ण दृश्य गिरावट (visual degradation) और असंगत इमेज जनरेशन होता है।
परिदृश्य सीमाएँ (Scenario Limitations): कई रोबस्ट विधियों के लिए प्रारंभिक रैंडम सीड (सर्वर परिदृश्य) तक पहुँच की आवश्यकता होती है, जिससे वे मौजूदा छवियों के पोस्ट-प्रोसेसिंग (यूज़र परिदृश्य) के लिए अनुपयोगी हो जाती हैं। इसके विपरीत, पारंपरिक पोस्ट-प्रोसेसिंग विधियाँ ब्लरिंग या कम्प्रेशन जैसे सरल हमलों के प्रति नाजुक होती हैं।
ट्रेड-ऑफ (Trade-off): ऐसी विधियों का अभाव है जो बिना मॉडल रिट्रेनिंग के उच्च रोबस्टनेस, उच्च दृश्य निरंतरता (imperceptibility) और सर्वर एवं यूज़र दोनों परिदृश्यों में लचीलापन एक साथ प्राप्त कर सकें।

2. कार्यप्रणाली: Shallow Diffuse (Methodology)

Shallow Diffuse का मुख्य नवाचार डिफ्यूजन मॉडल्स में अंतर्निहित लो-डायमेंशनल सबस्पेस स्ट्रक्चर (low-dimensional subspace structure) का लाभ उठाकर वॉटरमार्किंग प्रक्रिया को इमेज जनरेशन प्रक्रिया से डिकपलिंग (decoupling) करना है।

मुख्य सैद्धांतिक अंतर्दृष्टि (Key Theoretical Insights)

लो-रैंक जैकोबियन (Low-Rank Jacobian): लेखक इस खोज का लाभ उठाते हैं कि डिफ्यूजन मॉडल्स में पोस्टीरियर मीन प्रेडिक्टर (PMP), जिसे $f_{\theta,t}(x_t)$ द्वारा दर्शाया जाता है, डिफ्यूजन प्रक्रिया के मध्य टाइमस्टेप्स (विशेष रूप से $t \in [0.2T, 0.7T]$ ) के दौरान लोकल लिनियैरिटी प्रदर्शित करता है और इसका जैकोबियन मैट्रिक्स $J_{\theta,t}$ लो-रैंक होता है।
नल स्पेस सेपरेशन (Null Space Separation): क्योंकि जैकोबियन लो-रैंक है ( $r_t \ll d$ , जहाँ $d$ एम्बिएंट डायमेंशन है), किसी भी परटर्बेशन वेक्टर का एक बड़ा हिस्सा जैकोबियन के नल स्पेस (null space) में स्थित होता है।
डिकपलिंग रणनीति (Decoupling Strategy): एक विशिष्ट टाइमस्टेप $t^*$ पर वॉटरमार्क इंजेक्ट करके, जहाँ जैकोबियन लो-रैंक है, वॉटरमार्क परटर्बेशन $\lambda \Delta x$ जनरेशन प्रक्रिया द्वारा काफी हद तक अनदेखा कर दिया जाता है (क्योंकि $J_{\theta,t} \Delta x \approx 0$ )। यह सुनिश्चित करता है कि प्रेडिक्टेड क्लीन इमेज $\hat{x}_0$ , अनवॉटरमार्क्ड वर्जन के साथ सुसंगत बनी रहे, जबकि वॉटरमार्क रेसिडुअल नॉइज़ टर्म में एम्बेडेड रहता है।

एल्गोरिदम वर्कफ़्लो (Algorithm Workflow)

यह विधि दो मोड में कार्य करती है:

सर्वर परिदृश्य (जनरेशन):
- एक रैंडम सीड $x_T$ और टेक्स्ट प्रॉम्प्ट $c$ से शुरुआत करें।
- क्लासिफायर-फ्री गाइडेंस (CFG) का उपयोग करके एक विशिष्ट टाइमस्टेप $t^*$ (आमतौर पर $0.3T$ ) तक डिफ्यूजन प्रक्रिया को आगे बढ़ाएं।
- लेटेंट रिप्रेजेंटेशन $x_{t^*}$ में वॉटरमार्क $\lambda \Delta x$ इंजेक्ट करें।
- अंतिम वॉटरमार्क्ड इमेज $x_0^W$ उत्पन्न करने के लिए रिवर्स सैंपलिंग प्रक्रिया जारी रखें।
यूज़र परिदृश्य (पोस्ट-प्रोसेसिंग):
- एक मौजूदा इमेज $x_0$ लें।
- इमेज को टाइमस्टेप $t^*$ पर लेटेंट स्पेस में मैप करने के लिए DDIM इनवर्जन करें ( $x_{t^*} = \text{DDIM-Inv}(x_0, t^*)$ )।
- $x_{t^*}$ में वॉटरमार्क $\lambda \Delta x$ इंजेक्ट करें।
- $t^*$ से $0$ तक रिवर्स सैंपलिंग प्रक्रिया चलाएं ताकि वॉटरमार्क्ड इमेज जनरेट हो सके।

वॉटरमार्क डिज़ाइन (Watermark Design)

फ्रीक्वेंसी डोमेन (Frequency Domain): वॉटरमार्क को डिस्क्रीट फूरियर ट्रांसफॉर्म (DFT) का उपयोग करके फ्रीक्वेंसी डोमेन में डिज़ाइन किया गया है।
हाई-फ्रीक्वेंसी फोकस (High-Frequency Focus): लो-फ्रीक्वेंसी कंपोनेंट्स को संशोधित करने वाली पिछली विधियों (जो दृश्य आर्टिफ़ेक्ट्स का कारण बनती हैं) के विपरीत, Shallow Diffuse हाई-फ्रीक्वेंसी कंपोनेंट्स को लक्षित करता है।
पैटर्न (Pattern): वॉटरमार्क में एक सर्कुलर मास्क $M$ और एक की (key) $W$ शामिल है जो गॉसियन डिस्ट्रीब्यूशन से सैंपल किए गए मानों वाले कॉन्सेंट्रिक रिंग्स (concentric rings) से बनी है। यह डिज़ाइन सुनिश्चित करता है कि वॉटरमार्क अदृश्य (invisible) है लेकिन रोबस्ट है।

3. मुख्य योगदान (Key Contributions)

नया डिकपलिंग मैकेनिज्म: डिफ्यूजन जैकोबियन के लो-डायमेंशनल नल स्पेस का लाभ उठाकर वॉटरमार्किंग को सैंपलिंग प्रक्रिया से अलग करने वाली पहली ट्रेनिंग-फ्री विधि।
दोहरे-परिदृश्य लचीलापन (Dual-Scenario Flexibility): बिना प्रारंभिक सीड या मॉडल रिट्रेनिंग की आवश्यकता के, यह अनूठे रूप से सर्वर-साइड (जनरेशन-टाइम) और यूज़र-साइड (पोस्ट-प्रोसेसिंग) दोनों परिदृश्यों का समर्थन करता है।
सैद्धांतिक गारंटी (Theoretical Guarantees): यह कठोर प्रमाण (थ्योरम 1 और 2) प्रदान करता है कि:
- कंसिस्टेंसी (Consistency): वॉटरमार्क्ड और ओरिजिनल इमेज के बीच $\ell_2$ डिस्टेंस, हाई एम्बिएंट डायमेंशन $d$ के बजाय लो-रैंक $r_t$ पर निर्भर एक टर्म द्वारा सीमित है।
- डिटेक्टेबिलिटी (Detectability): DDIM इनवर्जन के बाद भी वॉटरमार्क उच्च संभावना के साथ रिकवर करने योग्य रहता है।
ट्रेनिंग-फ्री (Training-Free): एडवरसेरियल ऑप्टिमाइजेशन विधियों (जैसे ROBIN) के विपरीत, Shallow Diffuse के लिए डिफ्यूजन मॉडल की फाइन-ट्यूनिंग या रिट्रेनिंग की आवश्यकता नहीं होती है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने Stable Diffusion 2.1 पर अत्याधुनिक बेसलाइन्स (Tree-Ring, RingID, Gaussian Shading, Stable Signature, आदि) के विरुद्ध Shallow Diffuse का मूल्यांकन किया।

कंसिस्टेंसी (विजुअल क्वालिटी):
- सर्वर परिदृश्य: Shallow Diffuse ने डिफ्यूजन-आधारित विधियों में उच्चतम PSNR (35.49), SSIM (0.96), और न्यूनतम LPIPS (0.02) प्राप्त किया, जो Tree-Ring (PSNR 16.61) और RingID (PSNR 14.27) से काफी बेहतर है।
- यूज़र परिदृश्य: इसने सैद्धांतिक ऊपरी सीमा (बिना वॉटरमार्क के SD) के लगभग समान कंसिस्टेंसी स्कोर प्राप्त किया, जो अन्य डिफ्यूजन-आधारित विधियों से कहीं आगे है जो DDIM इनवर्जन एरर्स या खराब कंसिस्टेंसी से जूझती हैं।
रोबस्टनेस (Robustness):
- डिस्टॉर्शन अटैक्स (JPEG, ब्लर, नॉइज़), रीजनरेशन अटैक्स (डिफ्यूजन प्यूरीफिकेशन, VAE कम्प्रेशन), और एडवरसेरियल अटैक्स (एवरेजिंग) के विरुद्ध स्टेट-ऑफ-द-आर्ट रोबस्टनेस प्रदर्शित की।
- सर्वर परिदृश्य में औसतन 0.93 का TPR@1%FPR प्राप्त किया और यूज़र परिदृश्य में भी 0.93 प्राप्त किया, जो सबसे रोबस्ट विधियों (Gaussian Shading, RingID) के तुलनीय है, लेकिन बिना उनके कंसिस्टेंसी ट्रेड-ऑफ के।
ट्रेड-ऑफ विश्लेषण: मास्क रेडियस को एडजस्ट करके, यह विधि विजुअल फिडेलिटी और ज्योमेट्रिक रोबस्टनेस के बीच एक नियंत्रणीय ट्रेड-ऑफ प्रदान करती है, जो लगातार मौजूदा विधियों के पारेटो फ्रंटियर (Pareto frontier) से बेहतर प्रदर्शन करती है।
जनरलाइजेशन (Generalization): विधि को ट्रांसफार्मर-आधारित मॉडल्स (FLUX) तक सफलतापूर्वक सामान्यीकृत किया गया, जो लो-डायमेंशनल सबस्पेस हाइपोथेसिस की सार्वभौमिकता की पुष्टि करता है।

5. महत्व (Significance)

विश्वसनीय AI (Trustworthy AI): Shallow Diffuse AI-जनित सामग्री को ट्रैक करने के लिए एक व्यावहारिक, तैनात करने योग्य समाधान प्रदान करता है, जो गलत सूचना से निपटने और बौद्धिक संपét (intellectual property) की रक्षा के लिए महत्वपूर्ण है।
पैराडाइम शिफ्ट (Paradigm Shift): यह "नॉइज़ इंजेक्शन" प्रतिमान (जो जनरेशन को विकृत करता है) से हटकर "सबस्पेस इंजेक्शन" प्रतिमान की ओर बढ़ता है, यह सिद्ध करता है कि वॉटरमार्क को जनरेशन प्रक्रिया के "ब्लाइंड स्पॉट्स" में छिपाया जा सकता है।
व्यावहारिक तैनाती (Practical Deployment): ट्रेनिंग-फ्री होना और सर्वर एवं यूज़र दोनों वर्कफ़्लो के साथ संगत होना इसे बिना किसी कंप्यूटेशनल ओवरहेड या मॉडल रिट्रेनिंग के मौजूदा कमर्शियल डिफ्यूजन पाइपलाइन्स के लिए तुरंत लागू करने योग्य बनाता है।
सैद्धांतिक आधार (Theoretical Foundation): यह कार्य डिफ्यूजन मैनिफोल्ड्स की अंतर्निहित लो-डायमेंशनलिटी और रोबस्ट, इनविजिबल वॉटरमार्किंग की व्यवहार्यता के बीच एक मजबूत सैद्धांतिक संबंध स्थापित करता है।