The Malicious Technical Ecosystem: Exposing Limitations in Technical Governance of AI-Generated Non-Consensual Intimate Images of Adults
यह शोध पत्र एक उत्तरजीवी-केंद्रित दृष्टिकोण अपनाता है ताकि यह उजागर किया जा सके कि कैसे सुलभ उपकरणों का एक "दुर्भावनापूर्ण तकनीकी पारिस्थितिकी तंत्र" एआई-जनित गैर-सहमति वाली अंतरंग छवियों के निर्माण को सक्षम बनाता है, और साथ ही यह प्रदर्शित करता है कि वर्तमान शासन ढांचे, जैसे कि NIST AI 100-4 रिपोर्ट, त्रुटिपूर्ण अंतर्निहित धारणाओं के कारण इस परिदृश्य को प्रभावी ढंग से विनियमित करने में विफल रहते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ सरल भाषा और रचनात्मक उपमाओं का उपयोग करके शोध पत्र (paper) का स्पष्टीकरण दिया गया है।
बड़ी तस्वीर: एक "भेड़ की खाल में डिजिटल भेड़िया"
कल्पना कीजिए कि आपके पास एक पड़ोस है जहाँ लोग नकली पहचान पत्र (ID कार्ड) बना रहे हैं। इनमें से कुछ कार्ड इतने सटीक हैं कि वे असली लगते हैं, लेकिन अन्य स्पष्ट रूप से नकली हैं—उनकी तस्वीरें धुंधली हैं, नाम गलत लिखे गए हैं, और स्याही फैली हुई है।
भले ही सब जानते हैं कि ये कार्ड नकली हैं, फिर भी इनका उपयोग लोगों को नुकसान पहुँचाने के लिए किया जा रहा है। इनका उपयोग पहचान चुराने, प्रतिष्ठा खराब करने और पीड़ितों को असुरक्षित महसूस कराने के लिए किया जाता है।
यह शोध पत्र इसी समस्या के एक विशिष्ट, खतरनाक संस्करण के बारे में है: वयस्कों के एआई-जनित (AI-generated) "डीपफेक" अश्लील चित्र/वीडियो। लेखक उन उपकरणों और वेबसाइटों के समूह को "मैलेशियस टेक्निकल इकोसिस्टम" (MTE - दुर्भावनापूर्ण तकनीकी पारिस्थितिकी तंत्र) कहते हैं जो इसे संभव बनाते हैं।
MTE को एक अकेले बुरे आदमी के रूप में नहीं, बल्कि एक विशाल, विकेंद्रीकृत (decentralized) "डू-इट-योरसेल्फ" (DIY) फैक्ट्री के रूप में देखें जो पूरी तरह से नियंत्रण से बाहर है।
1. फैक्ट्री का फर्श: MTE क्या है?
लेखकों ने पाया है कि इन हानिकारक छवियों को बनाना अविश्वसनीय रूप से आसान हो गया है। अब आपको कंप्यूटर जीनियस होने की आवश्यकता नहीं है।
- ओपन-सोर्स ब्लूप्रिंट्स: 2017 से, हैकर्स और शोधकर्ताओं ने GitHub जैसी सार्वजनिक वेबसाइटों पर फेस-स्वैपिंग (चेहरा बदलने वाले) सॉफ्टवेयर के "ब्लूप्रिंट" (कोड) साझा किए हैं। यह किसी सार्वजनिक लाइब्रेरी की मेज पर बम बनाने किट की योजना छोड़ने जैसा है।
- "न्यूडिफाइंग" (नग्न करने वाले) ऐप्स: उन ब्लूप्रिंट्स के ऊपर लगभग 200 अलग-अलग ऐप्स और वेबसाइटें बनी हैं। ये "ईजी बटन" (आसान विकल्प) हैं। एक सामान्य व्यक्ति एक महिला की फोटो अपलोड कर सकता है, एक बटन दबा सकता है, और मिनटों में, ऐप उसके कपड़े हटा देता है और उसका चेहरा पीड़ित के चेहरे से बदल देता है।
- परिणाम: ये उपकरण ऐसी छवियां बनाते हैं जो अक्सर स्पष्ट रूप से "नकली" (धुंधली या अजीब) होती हैं, लेकिन फिर भी इनका उपयोग महिलाओं, LGBTQ+ लोगों और अल्पसंख्यकों को परेशान करने, ब्लैकमेल करने और उन्हें मानसिक आघात पहुँचाने के लिए किया जाता है।
उपमा: कल्पना कीजिए कि एक पड़ोस है जहाँ कोई भी हार्डवेयर स्टोर से "जहरीला स्प्रे" खरीद सकता है। वह स्प्रे इतना सस्ता और उपयोग में आसान है कि एक बच्चा भी उसे पड़ोसी के दरवाजे पर छिड़क सकता है। भले ही स्प्रे की गंध बहुत खराब हो और वह स्पष्ट रूप से दिखाई दे, फिर भी वह दरवाजे को खराब कर देता है और परिवार को डरा देता है। समस्या केवल बच्चा नहीं है; समस्या यह है कि हार्डवेयर स्टोर वह स्प्रे किसी को भी बेच रहा है।
2. वर्तमान समाधान: क्यों "सुरक्षा जाल" टूटा हुआ है?
सरकार और तकनीकी कंपनियों (जैसे NIST, जो अमेरिका के "सुरक्षा मानक ब्यूरो" की तरह है) ने इसे रोकने के लिए नियम लिखने की कोशिश की है। लेखक तर्क देते हैं कि ये नियम विफल हो रहे हैं क्योंकि वे समस्या को गलत नजरिए से देख रहे हैं।
यहाँ तीन मुख्य कारण दिए गए हैं कि वर्तमान नियम क्यों काम नहीं कर रहे हैं:
गलती #1: "यदि यह नकली दिखता है, तो यह सुरक्षित है।"
खामी: वर्तमान नियम पारदर्शिता (transparency) पर ध्यान केंद्रित करते हैं। वे कहते हैं, "यदि हम छवि पर एक वॉटरमार्क लगा दें जिसमें लिखा हो 'AI-जनित', तो लोग जान जाएंगे कि यह नकली है और इससे नुकसान नहीं होगा।"
वास्तविकता: यह कहने जैसा है कि, "यदि एक नकली बम को चमकीला गुलाबी रंग दिया जाए और उस पर 'खिलौना' लिख दिया जाए, तो वह किसी को चोट नहीं पहुँचाएगा।"
लेखक बताते हैं कि भले ही छवि स्पष्ट रूप से नकली हो, फिर भी यह वास्तविक दर्द पहुँचाती है। यह प्रतिष्ठा को बर्बाद करती है, मानसिक स्वास्थ्य संकट पैदा करती है, और पीड़ितों को ऑनलाइन जाने से डराती है। "नकली" का लेबल बुलीइंग (परेशान करने) या उत्पीड़न को नहीं रोकता है।
गलती #2: "सभी बुरी छवियां एक जैसी हैं।"
खामी: नियम अक्सर एडल्ट डीपफेक (वयस्क डीपफेक) को बाल यौन शोषण सामग्री (CSAM) के साथ एक ही श्रेणी में रखते हैं।
वास्तविकता: हालांकि दोनों ही भयानक हैं, लेकिन वे अलग-अलग समस्याएं हैं।
- बाल शोषण: बच्चे की यौन स्थिति में कोई भी तस्वीर परिभाषा के अनुसार अवैध है। पुलिस के पास इन्हें तुरंत ब्लॉक करने के लिए इन छवियों का एक डेटाबेस होता है।
- वयस्क शोषण: यहाँ समस्या सहमति (consent) की है। एक वास्तविक वयस्क की फोटो पूरी तरह से कानूनी हो सकती है, लेकिन AI का उपयोग करके उन्हें एक नकली अश्लील दृश्य में डालना अपराध है। आप केवल इसलिए फोटो को ब्लॉक नहीं कर सकते क्योंकि वह व्यक्ति फोटो में नहीं है; AI ने उन्हें वहां बनाया है। बाल शोषण को पकड़ने के लिए डिज़ाइन किए गए वर्तमान उपकरण इन "सहमति" के उल्लंघन को पकड़ने में प्रभावी नहीं हैं।
गलती #3: "केवल बड़े खिलाड़ी ही समस्या हैं।"
खामी: वर्तमान नियम बड़े कॉर्पोरेट AI कंपनियों (जैसे वे जो कलाकारों के लिए उपकरण बनाते हैं) को रोकने पर ध्यान केंद्रित करते हैं। वे बुरे उपयोगकर्ताओं को चैट बॉक्स में "एक पोर्न वीडियो बनाओ" टाइप करने से रोकने की कोशिश करते हैं।
वास्तविकता: असली खतरा DIY फैक्ट्री (MTE) है।
बुरे तत्व किसी बड़े कॉर्पोरेट ऐप में प्रॉम्प्ट (निर्देश) टाइप नहीं कर रहे हैं। वे ऊपर बताए गए "न्यूडिफाइंग" ऐप्स का उपयोग कर रहे हैं। ये ऐप्स टेक्स्ट प्रॉम्प्ट नहीं लेते; वे बस एक फोटो और एक बटन क्लिक लेते हैं। वर्तमान नियम एक विशाल नदी पर बांध लगाकर बाढ़ को रोकने की कोशिश करने जैसे हैं, जबकि हजारों छोटी पाइपों को अनदेखा कर रहे हैं जो पहले से ही बेसमेंट में बाढ़ ला रही हैं। MTE में मौजूद तकनीक स्वयं बुराई के लिए बनाई गई है, न कि केवल इसे उपयोग करने वाले लोगों के कारण।
3. समाधान: एक उत्तरजीवी-केंद्रित (Survivor-Centered) दृष्टिकोण
शोध पत्र निष्कर्ष निकालता है कि हमें इस बारे में सोचने के तरीके को बदलने की आवश्यकता है।
- पीड़ित को दोष देना बंद करें: वर्तमान में, यह पीड़ित पर निर्भर है कि वह छवि की रिपोर्ट करे और उसे हटाने के लिए मिन्नतें करे। यह थका देने वाला है और अक्सर विफल रहता है।
- "पारदर्शिता" पर भरोसा करना बंद करें: हम "यह नकली है" लेबल पर निर्भर नहीं रह सकते कि इससे नुकसान नहीं होगा।
- फैक्ट्री को निशाना बनाएं: हमें स्वयं उपकरणों और पारिस्थितिकी तंत्र (MTE) को विनियमित करने की आवश्यकता है। हमें इन "न्यूडिफाइंग" ऐप्स को अस्तित्व में रहने से रोकने और उन्हें होस्ट करने वाले प्लेटफार्मों को जवाबदेह ठहराने की आवश्यकता है।
अंतिम रूपक (Metaphor):
कल्पना कीजिए कि एक शहर है जहाँ लोग खिड़कियों पर पत्थर फेंक रहे हैं।
- वर्तमान दृष्टिकोण: हम पीड़ितों को पुलिस बुलाने के लिए कहते हैं, हम "पत्थर खतरनाक हैं" के संकेत लगाते हैं, और हम बड़े पत्थर फेंकने वाले स्टेडियमों को रोकने की कोशिश करते हैं।
- शोध पत्र का दृष्टिकोण: हमें यह समझने की जरूरत है कि पत्थर बगल वाली फैक्ट्री में बनाए जा रहे हैं और कुछ रुपयों में किसी को भी बेचे जा रहे हैं। हमें केवल पत्थर फेंकने वालों को डांटने के बजाय, उस फैक्ट्री को बंद करने की आवश्यकता है।
लेखक तकनीकी जगत से यह मान लेना बंद करने के लिए कह रहे हैं कि "नकली" का अर्थ "हानिरहित" है, और ऐसे नियम बनाने के लिए कह रहे हैं जो वास्तव में इस शोषण को पैदा करने वाले उपकरणों को रोक सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।