💻 computer science

Anti-I2V: Safeguarding your photos from malicious image-to-video generation

एंटी-I2V एक नवीन रक्षा तंत्र है जो $L*a*b*$ और फ्रीक्वेंसी डोमेन में एडवरसेरियल परटर्बेशन्स (adversarial perturbations) लागू करके व्यक्तिगत तस्वीरों को दुर्भावनापूर्ण इमेज-टू-वीडियो जनरेशन से सुरक्षित करता है, जबकि डिफ्यूजन बैकबोन्स (diffusion backbones), जिसमें डिफ्यूजन ट्रांसफॉर्मर्स भी शामिल हैं, के बीच टेम्पोरल कोहेरेंस (temporal coherence) और जनरेशन फिडेलिटी (generation fidelity) को कम करने के लिए विशिष्ट नेटवर्क लेयर्स को लक्षित करता है।

मूल लेखक: Duc Vu, Anh Nguyen, Chi Tran, Anh Tran

प्रकाशित 2026-03-26

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Duc Vu, Anh Nguyen, Chi Tran, Anh Tran

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक अनमोल पारिवारिक फोटो है। अतीत में, यदि कोई आपकी केवल एक फोटो का उपयोग करके आपको कुछ मूर्खतापूर्ण या खतरनाक करते हुए दिखाने वाला नकली वीडियो बनाना चाहता था, तो उन्हें बहुत कौशल और समय की आवश्यकता होती थी। लेकिन आज, नए "इमेज-टू-वीडियो" (Image-to-Video) AI टूल्स के साथ, कोई भी बस एक प्रॉम्प्ट टाइप कर सकता है जैसे "इस व्यक्ति को मेज पर नाचते हुए दिखाओ," और AI तुरंत आपका बिल्कुल वैसा ही वास्तविक दिखने वाला वीडियो बना देगा। यह गोपनीयता का एक बहुत बड़ा जोखिम है।

पेपर "Anti-I2V" इसे रोकने के लिए एक डिजिटल ढाल पेश करता है। इसे एक डिजिटल "ग्लिच" (glitch) या "जहर" (poison) के रूप में समझें जिसे आप अपनी फोटो अपलोड करने से पहले उसमें जोड़ते हैं। यह ग्लिच मानवीय आंखों के लिए अदृश्य है, लेकिन यह AI को पूरी तरह से भ्रमित कर देता है, जिससे वह आपका एक सुसंगत (coherent) वीडियो बनाने में असमर्थ हो जाता है।

यहाँ बताया गया है कि यह कैसे काम करता है, कुछ रचनात्मक उपमाओं (analogies) का उपयोग करते हुए:

1. समस्या: "परफेक्ट कॉपीकैट" (The Perfect Copycat)

कल्पना कीजिए कि एक AI कलाकार है जो आपकी शैली की नकल करने में अविश्वसनीय रूप से प्रतिभाशाली है। यदि आप उसे अपने चेहरे की एक फोटो देते हैं, तो वह कल्पना कर सकता है कि आप दौड़ रहे हैं, कूद रहे हैं या गा रहे हैं। समस्या यह है कि वे बहुत अच्छे हैं। वे ऐसे डीपफेक (deepfakes) बना सकते हैं जो असली दिखते हैं, जिनका उपयोग झूठ फैलाने या लोगों को परेशान करने के लिए किया जा सकता है।

2. पुराना बचाव: "कैनवास पर पेंट करना" (Painting Over the Canvas)

इसे रोकने के पिछले प्रयास एक पेंटिंग को थोड़ा सा अदृश्य पेंट छिड़ककर सुरक्षित करने के समान थे।

दोष: अधिकांश पुराने तरीकों ने इमेज के RGB रंगों (लाल, हरा, नीला) के साथ छेड़छाड़ करने की कोशिश की।
परिणाम: यह आकाश में नीले रंग की छाया को थोड़ा बदलने की कोशिश करने जैसा है। AI स्मार्ट है; वह इन छोटे रंग परिवर्तनों को अपनी निर्माण प्रक्रिया के दौरान आसानी से "धो" सकता है, ठीक वैसे ही जैसे बारिश हल्की धूल को धो देती है। AI आपको फिर भी पहचान लेता है और वीडियो बना लेता है।

3. नया बचाव: "Anti-I2V" (अदृश्य कवच)

लेखकों ने महसूस किया कि उन्हें AI को भ्रमित करने के लिए एक स्मार्ट तरीके की आवश्यकता है। उन्होंने केवल पेंट नहीं बदला; उन्होंने कैनवास की संरचना ही बदल दी। उन्होंने दो मुख्य तरकीबों का उपयोग किया:

तरकीब A: "रंग की आत्मा" को बदलना (Lab* Space)

मानक रेड/ग्रीन/ब्लू मिश्रण के साथ छेड़छाड़ करने के बजाय, उन्होंने फोटो को एक अलग रंग भाषा में बदल दिया जिसे Lab* कहा जाता है।

उपमा: कल्पना कीजिए कि आप अपने दोस्त को एक रंग का वर्णन कर रहे हैं।
- RGB ऐसा है जैसे कहना, "50% लाल, 50% हरा मिलाएं।"
- Lab* ऐसा है जैसे कहना, "यह कितना चमकीला है, इसमें लाल बनाम हरा कितना है, और नीला बनाम पीला कितना है।"
जादू: Anti-I2V विधि "लाल बनाम हरा" और "नीला बनाम पीला" वाले हिस्सों के साथ छेड़छाड़ करती है। आपकी मानवीय आंखों के लिए, फोटो बिल्कुल वैसी ही दिखती है। लेकिन AI के लिए, यह ऐसा है जैसे फोटो ने कोई भेष धारण कर लिया हो। AI रंगों के "वाइब" (vibe) को लेकर भ्रमित हो जाता है, जिससे आपके चेहरे को ट्रैक करना कठिन हो जाता है।

तरकीब B: "लो-फ्रीक्वेंसी" का विध्वंस (Frequency Domain)

इमेज पैटर्न से बनी होती हैं। कुछ पैटर्न तीखे किनारे (हाई फ्रीक्वेंसी) होते हैं, और कुछ चिकने, बड़े आकार (लो फ्रीक्वेंसी) होते हैं।

उपमा: एक गाने के बारे में सोचें। हाई नोट्स झांझ और सीटी (शार्प डिटेल्स) की तरह हैं, लेकिन बेस लाइन और धुन लो-फ्रीक्वेंसी (मुख्य संरचना) हैं।
जादू: AI चेहरे के समग्र आकार और उसके हिलने-डुलने के तरीके को समझने के लिए "बेस लाइन" (लो फ्रीक्वेंसी) पर बहुत अधिक निर्भर करता है। Anti-I2V इन लो-फ्रीक्वेंसी बेस नोट्स में थोड़ा सा "स्टेटिक" (static) इंजेक्ट करता है। यह एक गाने के बैकग्राउंड में हल्की सी गूंज (hum) डालने जैसा है। आप शायद इसे नोटिस न करें, लेकिन AI की लय बिगड़ जाती है, और वह वीडियो को स्मूथ (smooth) नहीं रख पाता।

4. AI की "याददाश्त" को तोड़ना (The Internal Layers)

AI मॉडल केवल एक तस्वीर को एक बार नहीं देखते; वे इसे समझ की कई "परतों" (layers) के माध्यम से देखते हैं, जैसे प्याज छीलना।

पुराना तरीका: हमलावर केवल अंत में (फाइनल आउटपुट पर) AI को भ्रमित करने की कोशिश करते थे।
Anti-I2V का तरीका: यह विधि AI पर तब हमला करती है जब वह सोच रहा होता है।
- IRC (Internal Representation Collapse): कल्पना कीजिए कि AI ब्लॉक्स का एक टावर बनाने की कोशिश कर रहा है। Anti-I2V AI को यह भुला देता है कि ऊपर के ब्लॉक्स कैसे दिखते हैं और उन्हें नीचे के ब्लॉक्स जैसे दिखने के लिए मजबूर करता है। टावर ढह जाता है क्योंकि AI वीडियो को फ्रेम-दर-फ्रेम बनाते समय आपके चेहरे के विवरणों को याद नहीं रख पाता।
- IRA (Internal Representation Anchor): यह AI को यह कहने जैसा है, "इस व्यक्ति को मत देखो; इसके बजाय एक अजनबी को देखो।" यह AI को आपके फीचर्स को किसी और के साथ मिलाने के लिए मजबूर करता है, जिसके परिणामस्वरूप एक वीडियो निकलता है जो एक अजनबी का धुंधला मिश्रण है, न कि आप।

5. परिणाम: एक "टूटा हुआ" वीडियो

जब आप अपनी फोटो पर Anti-I2V का उपयोग करते हैं और फिर वीडियो जेनरेट करने का प्रयास करते हैं:

शील्ड के बिना: AI आपका नाचने का एक परफेक्ट वीडियो बनाता है।
शील्ड के साथ: AI वीडियो बनाने की कोशिश करता है, लेकिन विफल हो जाता है। परिणाम एक ऐसा वीडियो होता है जहाँ आपका चेहरा पिघल सकता है, किसी अजनबी में बदल सकता है, या हलचल झटकेदार और अप्राकृतिक हो सकती है। "टेम्पोरल कोहेरेंस" (समय के साथ गति की निरंतरता/स्मूथनेस) नष्ट हो जाती है।

सारांश

Anti-I2V आपके DNA में एक डिजिटल "ग्लिच" डालने जैसा है जिसे केवल कंप्यूटर ही देख सकते हैं। यह आपकी फोटो को इंसानों के लिए खराब नहीं करता है, लेकिन यह आपके चेहरे को समझने की AI की क्षमता को तोड़ देता है, यह सुनिश्चित करता है कि कोई भी आपकी फोटो का उपयोग आपके नकली, हानिकारक वीडियो बनाने के लिए न कर सके। यह नवीनतम, सबसे शक्तिशाली AI मॉडल पर काम करता है, जो आपकी डिजिटल गोपनीयता के लिए एक बहुत मजबूत ढाल बनाता है।

यहाँ शोध पत्र "Anti-I2V: Safeguarding your photos from malicious image-to-video generation" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

इमेज-टू-वीडियो (I2V) डिफ्यूजन मॉडल्स (जैसे CogVideoX, OpenSora, DynamiCrafter) की तीव्र प्रगति उपयोगकर्ताओं को एक एकल संदर्भ छवि (reference image) और एक टेक्स्ट प्रॉम्प्ट से यथार्थवादी, टेम्पोरल रूप से सुसंगत (temporally coherent) वीडियो बनाने की अनुमति देती है। हालांकि यह प्रभावशाली है, लेकिन यह तकनीक महत्वपूर्ण सुरक्षा जोखिम पैदा करती है, जिससे किसी व्यक्ति की फोटो का उपयोग करके डीपफेक और अनधिकृत सामग्री बनाना संभव हो जाता है।

मौजूदा रक्षा तंत्र (adversarial attacks) मुख्य रूप से टेक्स्ट-टू-इमेज (T2I) या इमेज-टू-इमेज जनरेशन को लक्षित करते हैं। वे I2V पर लागू होने पर गंभीर सीमाओं का सामना करते हैं:

लक्ष्य बेमेल (Target Mismatch): अधिकांश विधियाँ स्थिर छवि निर्माण या VAE फीचर्स को बाधित करने पर ध्यान केंद्रित करती हैं, जो I2V की मुख्य चुनौती: टेम्पोरल कंसिस्टेंसी (temporal consistency) को संबोधित करने में विफल रहती हैं।
आर्किटेक्चर गैप (Architecture Gap): कई रक्षा प्रणालियाँ UNet-आधारित आर्किटेक्चर के लिए डिज़ाइन की गई हैं और नए, अधिक मजबूत डिफ्यूजन ट्रांसफॉर्मर (DiT) मॉडल्स के विरुद्ध मान्य नहीं की गई हैं, जिनमें अधिक क्षमता और उन्नत अटेंशन मैकेनिज्म होते हैं।
ऑप्टिमाइज़ेशन स्पेस (Optimization Space): अधिकांश विधियाँ सीधे RGB स्पेस में गड़बड़ी (perturbations) को ऑप्टिमाइज़ करती हैं, जिसे आधुनिक वीडियो मॉडल्स की पुनरावृत्ति डैनोइजिंग (iterative denoising) और शुद्धिकरण (purification) प्रक्रियाओं द्वारा आसानी से निष्प्रभावी किया जा सकता है।

2. कार्यप्रणाली: Anti-I2V (Methodology: Anti-I2V)

लेखक Anti-I2V का प्रस्ताव करते हैं, जो एक ऐसा रक्षा ढांचा (defense framework) है जिसे विविध डिफ्यूजन बैकबोन पर उत्पन्न वीडियो की गुणवत्ता और पहचान संरक्षण (identity preservation) को कम करने के लिए अदृश्य एडवरसैरियल गड़बड़ी (adversarial perturbations) उत्पन्न करने के लिए डिज़ाइन किया गया है। यह विधि तीन मुख्य नवाचारों से बनी है:

A. डुअल-स्पेस पर्टर्बेशन (Dual-Space Perturbation - DSP)

केवल RGB कलर स्पेस में शोर (noise) को ऑप्टिमाइज़ करने के बजाय, Anti-I2V शुद्धिकरण और डैनोइजिंग के विरुद्ध मजबूती बढ़ाने के लिए दो पूरक डोमेन में कार्य करता है:

L*a*b* कलर स्पेस: गड़बड़ी विशेष रूप से a* (हरा-लाल) और b* (नीला-पीला) चैनलों पर लागू की जाती है। ये चैनल ल्युमिनेंस (चमक) से दृष्टिगत रूप से अलग (perceptually decorrelated) होते हैं, जिससे शोर मनुष्यों के लिए कम दृश्यमान होता है जबकि मॉडल के रंग बोध को प्रभावी ढंग से भ्रमित करता है।
फ्रीक्वेंसी डोमेन (DCT): यह विधि छवि के डिस्क्रीट कोसाइन ट्रांसफॉर्म (DCT) का विश्लेषण करती है और लो-फ्रीक्वेंसी घटकों (ऊपरी-बाएँ गुणांकों) में शोर इंजेक्ट करती है। यह सतही पिक्सेल मानों के बजाय छवि की मूल संरचनात्मक और बनावट संबंधी जानकारी को लक्षित करता है, जिससे मानक ब्लरिंग या संपीड़न (compression) के माध्यम से गड़बड़ी को हटाना कठिन हो जाता है।

B. सिमेंटिक फीचर डिस्रप्शन (Semantic Feature Disruption - Internal Representation Collapse & Anchor)

वीडियो जनरेशन के लिए आवश्यक टेम्पोरल कोहेरेंस को बाधित करने के लिए, Anti-I2V डैनोइजिंग नेटवर्क (UNet या DiT) और VAE के भीतर आंतरिक फीचर प्रोपेगेशन को लक्षित करता है।

इंटरनल रिप्रेजेंटेशन कोलैप्स (Internal Representation Collapse - IRC): यह विधि उन परतों (layers) की पहचान करती है जहाँ उच्च-स्तरीय सिमेंटिक फीचर्स उभरते हैं (जैसे OpenSora में लेयर 19+) और उन्हें शुरुआती परतों (जैसे लेयर 3) के फीचर रिप्रेजेंटेशन में कोलैप्स होने के लिए मजबूर करती है, जिनमें केवल निम्न-स्तरीय संरचनात्मक जानकारी होती है। यह गहरे और उथले परतों के फीचर्स के बीच यूक्लिडियन दूरी को कम करके प्राप्त किया जाता है।
इंटरनल रिप्रेजेंटेशन एंकर (Internal Representation Anchor - IRA): यह लॉस (loss) VAE और डैनोइजिंग मॉड्यूल दोनों के सभी परतों में बाधित छवि और एक लक्ष्य छवि (या अनटारगेटेड हमलों में मूल छवि) के फीचर्स के बीच की दूरी को कम करता है। यह मॉडल को पूरी जनरेशन प्रक्रिया के दौरान सुसंगत पहचान विशेषताओं (identity features) को निकालने से रोकता है।

C. अंतिम ऑब्जेक्टिव फंक्शन (Final Objective Function)

कुल लॉस फंक्शन दृश्य अदृश्यता (visual imperceptibility) सुनिश्चित करने के लिए प्रस्तावित लॉस को सहायक बाधाओं (auxiliary constraints) के साथ जोड़ता है:
$L_{Anti-I2V} = L_{IRC} + L_{IRA} + L_{auxiliary} - L_{DM}$
जहाँ $L_{auxiliary}$ में छवि समानता बनाए रखने के लिए CLIP फीचर लॉस और LPIPS (परसेप्चुअल लॉस) शामिल है, और $L_{DM}$ मानक डिफ्यूजन लॉस है जिसका उपयोग ऑप्टिमाइज़ेशन को निर्देशित करने के लिए किया जाता है।

3. प्रमुख योगदान (Key Contributions)

प्रथम I2V-विशिष्ट रक्षा: विविध आर्किटेक्चर (UNet, DiT, MMDiT) में दुर्भावनापूर्ण इमेज-टू-वीडियो जनरेशन को विशेष रूप से लक्षित करने वाला पहला व्यापक रक्षा ढांचा पेश करता है।
नया ऑप्टिमाइज़ेशन स्पेस: पारंपरिक RGB-आधारित हमलों की तुलना में बेहतर मजबूती प्रदर्शित करते हुए, L*a*b* कलर स्पेस के साथ फ्रीक्वेंसी डोमेन (DCT) पर्टर्बेशन के उपयोग का मार्ग प्रशस्त करता है।
लेयर-वाइज सिमेंटिक डिस्रप्शन: IRC और IRA लॉस प्रस्तावित करता है जो मध्यवर्ती परतों में फीचर प्रोपेगेशन को बाधित करते हैं, जिससे उत्पन्न वीडियो की टेम्पोरल कोहेरेंस और पहचान संरक्षण प्रभावी रूप से टूट जाता है।
व्यापक मूल्यांकन: चेहरे-केंद्रित (CelebV-Text) और फुल-बॉडी एक्शन (UCF101) बेंचमार्क का उपयोग करके अत्याधुनिक मॉडल्स (CogVideoX-5B, OpenSora v1.2, DynamiCrafter) पर विधि को प्रमाणित करता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने Anti-I2V का मूल्यांकन SDS, AdvDM, MIST, और VGMShield जैसे बेसलाइन्स के विरुद्ध किया।

पहचान क्षरण (Identity Degradation): Anti-I2V ने सभी मॉडल्स में सबसे कम Identity Score Matching (ISM) और CLIP-FIQA स्कोर प्राप्त किया।
- उदाहरण: DynamiCrafter पर, Anti-I2V ने ISM को 0.528 (क्लीन) से घटाकर 0.151 कर दिया, जो अगले सर्वश्रेष्ठ बेसलाइन (0.262) से काफी बेहतर है।
वीडियो गुणवत्ता और टेम्पोरल कोहेरेंस: इस विधि ने Q-Align स्कोर (वीडियो गुणवत्ता मीट्रिक) और DINO समानता को नाटकीय रूप से कम कर दिया, जो फ्रेम-टू-फ्रेम निरंतरता और दृश्य निष्ठा (visual fidelity) में गंभीर गिरावट का संकेत देता है।
- उदाहरण: UCF101 पर, Anti-I2V ने Q-Align (वीडियो) स्कोर को 0.562 से घटाकर 0.084 कर दिया।
मजबूती (Robustness): डुअल-स्पेस पर्टर्बेशन (DSP) ने तब भी प्रभावशीलता बनाए रखी जब छवियों पर JPEG कंप्रेशन, गॉसियन ब्लर और शुद्धिकरण हमले (DiffPure, GrIDPure) किए गए, जो RGB-केवल पर्टर्बेशन से बेहतर प्रदर्शन करता है।
ट्रांसफ़ेरेबिलिटी (Transferability): एक मॉडल (जैसे CogVideoX) पर ऑप्टिमाइज़ की गई गड़बड़ी अन्य आर्किटेक्चर (OpenSora, DynamiCrament) में सफलतापूर्वक स्थानांतरित हुई, जो मजबूत सामान्यीकरण (generalization) प्रदर्शित करती है।

5. महत्व (Significance)

Anti-I2V I2V मॉडल्स के दुरुपयोग के खिलाफ एक मजबूत रक्षा प्रदान करके AI सुरक्षा में एक महत्वपूर्ण अंतर को संबोधित करता है। इसका महत्व निम्नलिखित में निहित है:

स्केलेबिलिटी: यह पुराने UNet-आधारित मॉडल्स और अत्याधुनिक DiT-आधारित आर्किटेक्चर दोनों पर प्रभावी ढंग से काम करता है, जो वर्तमान में सबसे शक्तिशाली और बचाव के लिए सबसे कठिन हैं।
दक्षता (Efficiency): उच्च-स्तरीय GPU या पोज़ गाइडेंस की आवश्यकता वाले पिछले कार्यों के विपरीत, Anti-I2V कम्प्यूटेशनल रूप से व्यवहार्य है और इसके लिए विशिष्ट पोज़ इनपुट पर निर्भर नहीं है।
गोपनीयता सुरक्षा: यह व्यक्तियों को अपने फोटो को डीपफेक या हानिकारक सामग्री उत्पन्न करने के लिए उपयोग किए जाने से बचाने के लिए एक व्यावहारिक समाधान प्रदान करता है, जिसके लिए स्वयं जनरेशन मॉडल्स को संशोधित करने की आवश्यकता नहीं है।

निष्कर्षतः, Anti-I2V वीडियो जनरेशन के लिए एडवरसैरियल डिफेंस में एक अत्याधुनिक प्रगति का प्रतिनिधित्व करता है, जो दुर्भावनापूर्ण I2V मॉडल्स की क्षमताओं को प्रभावी ढंग से बेअसर करने के लिए मल्टी-डोमेन पर्टर्बेशन और डीप सिमेंटिक डिस्रप्शन का उपयोग करता है।