A Marketplace for AI-Generated Adult Content and Deepfakes
यह शोध पत्र सिविटाई (Civitai) प्लेटफॉर्म के 14 महीने के डेटासेट का विश्लेषण करता है ताकि यह प्रकट किया जा सके कि इसकी मुद्रीकृत बाउंटी प्रणाली महिला हस्तियों को लक्षित करने वाले गैर-सहमति वाले, NSFW डीपफेक के निर्माण को असमान रूप से प्रोत्साहित करती है, जिससे समुदाय-संचालित जनरेटिव एआई मार्केटप्लेस में महत्वपूर्ण लैंगिक नुकसान और शासन संबंधी चुनौतियों पर प्रकाश पड़ता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक विशाल, हलचल भरे डिजिटल बाज़ार की कल्पना करें जिसे Civitai कहा जाता है। इसे एक विशाल, हाई-टेक मेले की तरह समझें जहाँ लोग केवल भौतिक वस्तुएं ही नहीं खरीदते और बेचते, बल्कि वे AI-जनरेटेड छवियों (images) और टूल्स का व्यापार करते हैं।
इस बाज़ार में, एक विशेष अनुभाग है जिसे "Bounties" कहा जाता है। आप एक 'बौंटी' को एक "वांटेड" पोस्टर की तरह समझ सकते हैं, लेकिन यहाँ किसी अपराधी की तलाश नहीं है, बल्कि आप एक विशिष्ट चित्र या AI टूल की तलाश कर रहे हैं। एक व्यक्ति ("Supporter") एक अनुरोध पोस्ट करता है, कहता है, "मुझे टक्सीडो पहने हुए एक बिल्ली की तस्वीर चाहिए," और मेज पर इनाम के रूप में वर्चुअल कॉइन्स ("buzz") रखता है। अन्य उपयोगकर्ता ("creators") उस छवि को बनाने के लिए प्रतिस्पर्धा करते हैं। जो व्यक्ति इसे सही ढंग से सबसे पहले पूरा करता है, वह पैसा जीत जाता है।
इस शोध पत्र के शोधकर्ताओं ने यह जांचने के लिए इस बाज़ार की जांच करने का निर्णय लिया कि लोग वास्तव में क्या मांग रहे हैं, कौन मांग रहा है, और नियमों का पालन कैसे किया जा रहा है। उन्होंने 14 महीनों में पोस्ट किए गए हर एक "वांटेड" पोस्टर को देखा। उन्होंने जो पाया उसे सरल शब्दों में यहाँ दिया गया है:
1. "एडल्ट" अनुभाग का दबदबा
शोधकर्ताओं ने पाया कि हालांकि लोग कई तरह की चीजें मांगते हैं (जैसे कला या लोगो), लेकिन अनुरोधों का एक बहुत बड़ा हिस्सा NSFW (काम के लिए सुरक्षित नहीं/Not Safe For Work) सामग्री के लिए है—यानी, एडल्ट या स्पष्ट सामग्री।
- ट्रेंड (रुझान): अध्ययन की शुरुआत में, ये अनुरोध अल्पसंख्यक थे। लेकिन समय के साथ, वे लगातार बढ़ते गए। 14 महीनों के अंत तक, लगभग आधे अनुरोध एडल्ट कंटेंट के लिए थे।
- टूल: अधिकांश अनुरोध केवल एक एकल चित्र के लिए नहीं हैं; वे LoRAs के लिए हैं। एक LoRA को एक "विशेष निर्देश पुस्तिका" या "फ़िल्टर" के रूप में सोचें जिसे आप हमेशा के लिए डाउनलोड और उपयोग कर सकते हैं। एक बार जब कोई ऐसा LoRA बना लेता है जो किसी विशिष्ट प्रकार की एडल्ट इमेज जनरेट कर सकता है, तो कोई भी उस टूल का उपयोग करके अनंत विविधताएं बना सकता है। बाज़ार उन लोगों द्वारा नियंत्रित है जो इन "निर्देश पुस्तिकाओं" को खरीदने की कोशिश कर रहे हैं ताकि AI मॉडल्स को उन चीजों को करने के लिए निर्देशित किया जा सके जिनके लिए उन्हें मूल रूप से डिज़ाइन नहीं किया गया था।
2. "डीपफेक" की समस्या: किसे निशाना बनाया जा रहा है?
इस संदर्भ में "डीपफेक" का अर्थ है एक वास्तविक, जीवित व्यक्ति (जैसे कोई सेलिब्रिटी) की छवि बनाने का अनुरोध, जिसने वास्तव में उस तस्वीर के लिए पोज़ नहीं दिया था।
- लैंगिक अंतर (Gender Gap): शोधकर्ताओं ने एक चौंकाने वाला असंतुलन पाया। यदि आप वास्तविक लोगों की छवियां बनाने के सभी अनुरोधों को देखें, तो 10 में से 9 महिलाओं के हैं। लक्षित व्यक्ति बड़ी संख्या में महिला सेलिब्रिटी, अभिनेत्रियाँ और इन्फ्लुएंसर्स हैं।
- "स्वयं" का लूपहोल: कुछ लोगों ने यह दावा करके नियमों को दरकिनार करने की कोशिश की कि, "मैं अपने स्वयं के या अपनी पत्नी के चित्र के लिए पूछ रहा हूँ।" शोधकर्ताओं ने पाया कि इन दावों को सत्यापित करना अक्सर असंभव था और इससे सहमति (consent) की समस्या का समाधान नहीं हुआ।
3. "सुपर-रिक्वेस्टर्स" (अत्यधिक अनुरोध करने वाले)
अध्ययन ने इस बात पर गौर किया कि पोस्टिंग कौन कर रहा है। यह एक निष्पक्ष, समान वितरण नहीं है जहाँ हर कोई थोड़ा-थोड़ा पोस्ट करता है।
- 20% का नियम: लगभग 20% उपयोगकर्ता कुल अनुरोधों के लगभग आधे के लिए जिम्मेदार हैं।
- डीपफेक का संकेंद्रण: वास्तविक लोगों की छवियां बनाने के अनुरोधों को चलाने के लिए यह संकेंद्रण और भी अधिक है। लोगों का एक बहुत छोटा समूह ही वास्तविक व्यक्तियों की छवियां बनाने के अधिकांश अनुरोधों को संचालित कर रहा है।
4. "चेतावनी संकेत" जो हमेशा वहां नहीं होता
Civitai का एक नियम है: यदि आप किसी वास्तविक व्यक्ति की तस्वीर मांगते हैं, तो सिस्टम को उस पेज पर एक चेतावनी संकेत (warning sign) लगाना चाहिए। यह संकेत कहता है, "हे, यह एक वास्तविक व्यक्ति है। हम केवल सुरक्षित छवियों की अनुमति देते हैं, और वह व्यक्ति हमसे इसे हटाने के लिए कह सकता है।"
- अंतराल (Gap): शोधकर्ताओं ने जांच की कि क्या यह चेतावनी संकेत वास्तव में दिखाई देता है।
- वास्तविक लोगों के "सुरक्षित" (SFW) अनुरोधों के लिए, संकेत 86% बार दिखाई दिया।
- वास्तविक लोगों के "एडल्ट" (NSFW) अनुरोधों के लिए, यह संकेत 42% बार गायब था।
- निष्कर्ष: भले ही प्लेटफॉर्म के पास एक नियम है, लेकिन "चेतावनी संकेत" अक्सर ठीक उसी समय गायब होता है जब इसकी सबसे अधिक आवश्यकता होती है—जब अनुरोध स्पष्ट (explicit) सामग्री के लिए होते हैं।
सारांश
शोध पत्र निष्कर्ष निकालता है कि यह बाज़ार एक ऐसी जगह में विकसित हो गया है जहाँ उपयोगकर्ताओं का एक छोटा समूह एडल्ट कंटेंट और वास्तविक महिलाओं की छवियों की मांग को भारी रूप से चला रहा है, और अक्सर सुरक्षा फिल्टरों को बायपास करने के लिए विशेष AI टूल्स (LoRAs) का उपयोग कर रहा है। हालांकि प्लेटफॉर्म के पास नियम और चेतावनी संकेत हैं, लेकिन उनका प्रवर्तन (enforcement) असंगत है, विशेष रूप से सबसे संवेदनशील और संभावित रूप से हानिकारक अनुरोधों के लिए।
महत्वपूर्ण नोट: शोधकर्ताओं ने केवल अनुरोधों (जो लोग मांग रहे थे) को देखा, न कि अंतिम चित्रों को जो बनाए गए थे, और न ही उन व्यक्तिगत कारणों को कि लोगों ने ये अनुरोध क्यों किए। उन्होंने केवल यह मानचित्रित किया कि इस डिजिटल रेस्टोरेंट में क्या "ऑर्डर" दिया जा रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।