DeMark: A Query-Free Black-Box Attack on Deepfake Watermarking Defenses
यह शोध पत्र DeMark को प्रस्तुत करता है, जो एक क्वेरी-मुक्त ब्लैक-बॉक्स हमला (query-free black-box attack) ढांचा है, जो विजुअल गुणवत्ता को बनाए रखते हुए डीपफेक वॉटरमार्क को प्रभावी ढंग से हटाने के लिए एनकोडर-डिकोडर वॉटरमार्किंग मॉडलों में लेटेंट-स्पेस कमजोरियों का लाभ उठाता है, जिससे मौजूदा वॉटरमार्किंग सुरक्षा और प्रस्तावित जवाबी उपायों की वर्तमान अपर्याप्तता को प्रदर्शित किया जाता है।
मूल पेपर CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/) के तहत सार्वजनिक डोमेन को समर्पित है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: अदृश्य स्याही की समस्या
कल्पना कीजिए कि एक ऐसी दुनिया है जहाँ आर्टिफिशियल इंटेलिजेंस (AI) ऐसे फोटो और वीडियो बना सकता है जो 100% असली दिखते हैं। इन "डीपफेक" (deepfakes) का उपयोग झूठ फैलाने या दूसरों के रूप में खुद को पेश करने के लिए रोकने के उद्देश्य से, टेक कंपनियाँ उन पर एक अदृश्य स्याही (एक डिजिटल वॉटरमार्क) का स्टैम्प लगाने की कोशिश कर रही हैं।
इस अदृश्य स्याही को एक बैंक नोट पर छिपे हुए सीरियल नंबर की तरह समझें। यदि आप एक नकली नोट देखते हैं, तो आप यह साबित करने के लिए सीरियल नंबर की जांच कर सकते हैं कि वह नकली है। इन वॉटरमार्क्स का लक्ष्य यह है कि डिटेक्टर (पहचान करने वाले सिस्टम) कह सकें, "यह इमेज AI द्वारा बनाई गई है।"
हालाँकि, इस पेपर के लेखक, वेई सोंग (Wei Song) और उनकी टीम ने एक डरावना सवाल पूछा: "क्या होगा अगर कोई उस अदृश्य स्याही को बिना तस्वीर खराब किए धोने का तरीका ढूंढ ले?"
उन्होंने DEMARK नामक एक टूल बनाया है यह साबित करने के लिए कि, अभी के समय में, ये अदृश्य स्टैम्प हमारी सोच से कहीं अधिक आसानी से हटाए जा सकते हैं।
DEMARK कैसे काम करता है: "कंप्रेस्ड सूटकेस" की उपमा
DEMARK कैसे काम करता है, इसे समझने के लिए कल्पना कीजिए कि AI इमेज केवल एक सपाट तस्वीर नहीं है; यह एक जटिल सूटकेस है जिसमें दो चीजें भरी हुई हैं:
- इमेज (Image): वास्तविक फोटो (कपड़े, परिदृश्य)।
- वॉटरमार्क (Watermark): छिपा हुआ सीरियल नंबर (अदृश्य स्याही)।
आमतौर पर, ये दोनों चीजें एक विशिष्ट तरीके से एक साथ पैक की जाती हैं ताकि डिटेक्टर बाद में स्याही को ढूंढ सके।
DEMARK "कंप्रेसिव सेंसिंग" (Compressive Sensing) की अवधारणा का उपयोग करता है। यहाँ इसकी उपमा दी गई है:
कल्पना कीजिए कि आपके पास कपड़ों से भरा एक सूटकेस है (इमेज) और एक छिपा हुआ गुप्त नोट है (वॉटरमार्क)।
- पुराना तरीका (अन्य हमले): नोट को हटाने के लिए, लोगों ने सूटकेस को जोर-जोर से हिलाने (डिस्टॉर्शन) या सूटकेस को पिघलाकर फिर से बनाने (रीजनरेशन) की कोशिश की। समस्या यह थी कि हिलाने से कपड़े खराब हो जाते थे, और पिघलाने से अक्सर गुप्त नोट नए कपड़े के अंदर ही फंसा रह जाता था।
- DEMARK का तरीका: DEMARK एक सुपर-स्मार्ट पैकिंग विशेषज्ञ की तरह काम करता है। यह सूटकेस खोलता है और कहता है, "मुझे केवल कपड़ों को अच्छा दिखने की जरूरत है। मुझे अतिरिक्त पैडिंग या उस गुप्त नोट की आवश्यकता नहीं है।"
यह सूटकेस की सामग्री को कंप्रेस (compress) करने के लिए एक गणितीय ट्रिक का उपयोग करता है। यह डेटा के "अनावश्यक" (redundant) हिस्सों को फेंक देता है। क्योंकि वॉटरमार्क डेटा के "अतिरिक्त" या "घने" हिस्सों में छिपा होता है, इसलिए अनावश्यक हिस्सों को हटाने से अनजाने में (या जानबूझकर) वह गुप्त नोट बिखर जाता है।
परिणामस्वरूप? सूटकेस अब बहुत हल्का और सुव्यवस्थित हो जाता है। कपड़े (इमेज) मानवीय आंखों के लिए अभी भी बेहतरीन दिखते हैं, लेकिन गुप्त नोट (वॉटरमार्क) को इतना बिखेर दिया गया है कि डिटेक्टर उसे अब ढूंढ नहीं पाता।
DEMARK के तीन जादू के नुस्खे
पेपर बताता है कि DEMARK इस "बिखराव" (scattering) के प्रभाव को तीन विशिष्ट कार्यों के माध्यम से प्राप्त करता है, जिन्हें वे डिसपर्सल इफेक्ट (Dispersal Effect) कहते हैं:
- स्पैरसिटीिटी चेंज (Sparsity Change - "खाली शेल्फ" का नुस्खा):
कल्पना कीजिए कि वॉटरमार्क एक कमरे में खड़े लोगों की भीड़ है। DEMARK अधिकांश लोगों को बाहर निकाल देता है, जिससे केवल कुछ बिखरे हुए व्यक्ति ही बचते हैं। डिटेक्टर एक भीड़ की उम्मीद करता है; जब वह एक खाली कमरा देखता है, तो वह हार मान लेता है। - इंटेंसिटी रिडिस्ट्रिब्यूशन (Intensity Redistribution - "धुंधलापन" का नुस्खा):
वॉटरमार्क एक चमकदार रोशनी की तरह है। DEMARK रोशनी को बंद नहीं करता है; यह उस रोशनी की ऊर्जा को एक बहुत बड़े क्षेत्र में फैला देता है ताकि वह एक मंद, अदृश्य चमक बन जाए। वह अभी भी वहीं है, लेकिन इतना कमजोर है कि देखा न जा सके। - पोजीशनल रिडिस्ट्रिब्यूशन (Positional Redistribution - "फर्नीचर इधर-उधर करने" का नुस्खा):
वॉटरमार्क आमतौर पर एक विशिष्ट स्थान पर छिपा होता है (जैसे कालीन के नीचे)। DEMARK कालीन और फर्नीचर को इधर-उधर कर देता है। डिटेक्टर मूल स्थान पर देखता है, वहां कुछ नहीं पाता, और मान लेता है कि वॉटरमार्क वहां नहीं है।
परिणाम: एक वास्तविकता की जाँच
टीम ने वर्तमान में उपयोग किए जा रहे आठ सबसे उन्नत वॉटरमार्किंग सिस्टम (जिसमें गूगल, माइक्रोसॉफ्ट और रिसर्च लैब के सिस्टम शामिल हैं) के खिलाफ DEMARK का परीक्षण किया।
- DEMARK से पहले: डिटेक्टर 100% समय वॉटरमार्क को ढूंढ सकते थे।
- DEMARK के बाद: डिटेक्टर औसतन केवल 33% समय ही वॉटरमार्क को ढूंढ सके।
- इमेज क्वालिटी: तस्वीरें अभी भी सुंदर और प्राकृतिक दिख रही थीं। वे धुंधली या पिक्सेलेटेड नहीं लगीं।
एक पेच (The Catch): पेपर में DEMARK को रोकने के लिए तीन तरीकों का भी परीक्षण किया गया (जैसे वॉटरमार्क को मजबूत बनाना या डिटेक्टर को मुकाबला करने के लिए प्रशिक्षित करना)। दुर्भाग्य से, इनमें से कोई भी बचाव प्रभावी ढंग से काम नहीं आया। भले ही उन्होंने समस्या को ठीक करने की कोशिश की, DEMARK फिर भी वॉटरमार्क को हटाने में सक्षम रहा।
यह क्यों महत्वपूर्ण है (बिना तकनीकी शब्दों के)
पेपर निष्कर्ष निकालता है कि डीपफेक के खिलाफ सुरक्षा के लिए उपयोग की जाने वाली वर्तमान "अदृश्य स्याही" तकनीक नाजुक है। यह इस बात पर निर्भर करती है कि वॉटरमार्क को एक विशिष्ट गणितीय स्थान (लेटेंट स्पेस) में छिपाया गया है, और DEMARK ने साबित कर दिया है कि आप तस्वीर को खराब किए बिना उस स्थान को आसानी से बिखेर सकते हैं।
संक्षेप में: यदि आप असली फोटो और नकली फोटो के बीच अंतर बताने के लिए इन वॉटरमार्क्स पर भरोसा कर रहे हैं, तो यह पेपर सुझाव देता है कि आप मुसीबत में पड़ सकते हैं। "अदृश्य स्याही" को ऐसे टूल से धोया जा सकता है जिसे यह जानने की भी आवश्यकता नहीं है कि स्याही कैसे बनाई गई थी (यह "क्वेरी-फ्री" और "ब्लैक-बॉक्स" है)।
लेखक यह नहीं कह रहे हैं कि, "अब जाकर डीपफेक बनाओ।" वे कह रहे हैं, "हमें सुरक्षा घेरे में एक छेद मिला है। हमें इन वॉटरमार्क्स पर समाज को सुरक्षित रखने के लिए भरोसा करने से पहले एक बेहतर घेरा बनाने की आवश्यकता है।"
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।