Video Deepfake Abuse: How Company Choices Predictably Shape Misuse Patterns
यह शोध पत्र तर्क देता है कि पर्याप्त सुरक्षा उपायों के बिना बिना क्यूरेटेड वेब डेटा पर प्रशिक्षित ओपन-वेट वीडियो जनरेशन मॉडल्स की रिलीज़, और अपर्याप्त प्लेटफॉर्म मॉडरेशन का संयोजन, पूर्वानुमेय रूप से गैर-सहमति वाली अंतरंग छवियों और बाल यौन शोषण सामग्री के प्रसार को बढ़ावा देता है, जिसके लिए इन हानियों को कम करने हेतु डेवलपर्स और वितरकों द्वारा सक्रिय जोखिम प्रबंधन आवश्यक है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ एक सरल भाषा और रोज़मर्रा के उदाहरणों का उपयोग करके शोध पत्र (paper) का स्पष्टीकरण दिया गया है।
बड़ी तस्वीर: "ओपन सोर्स" का दोधारी तलवार
कल्पना कीजिए कि एक ऐसी दुनिया जहाँ कोई भी एक उच्च-शक्ति वाला 3D प्रिंटर बना सकता है। 2022 में, AI इमेज जनरेटर्स (जैसे Stable Diffusion) के साथ ऐसा ही हुआ। अचानक, लोग अपनी कल्पना की किसी भी चीज़ की अविश्वसनीय रूप से वास्तविक तस्वीरें बनाने में सक्षम हो गए।
यह कलाकारों और रचनाकारों के लिए बहुत अच्छा था। लेकिन, ठीक वैसे ही जैसे एक 3D प्रिंटर खिलौना या हथियार दोनों बना सकता है, इन AI टूल्स का उपयोग तेजी से गैर-सहमति वाली अंतरंग छवियों (NCII)—यानी वास्तविक लोगों की आपत्तिजनक स्थितियों में फर्जी तस्वीरें, जिनमें बच्चे भी शामिल हैं—बनाने के लिए किया गया।
यह शोध पत्र तर्क देता है कि अभी (2025 में) AI वीडियो जनरेटर्स के साथ भी बिल्कुल यही हो रहा है। हम एक ऐसी दहलीज को पार कर रहे हैं जहाँ फर्जी, वास्तविक दिखने वाले वीडियो बनाना लगभग हर किसी के लिए आसान, सस्ता और सुलभ होता जा रहा है।
मुख्य समस्या: "रेसिपी" बनाम "शेफ"
यह समझने के लिए कि ये बुरे वीडियो कैसे बनाए जाते हैं, शोध पत्र एक आपूर्ति श्रृंखला (supply chain) के उदाहरण (चित्र 1) का उपयोग करता है। इसे एक कुकिंग इकोसिस्टम की तरह समझें:
- डेवलपर्स (शेफ): बड़ी कंपनियाँ (जैसे Alibaba, Stability AI, आदि) मूल "रेसिपी" (AI मॉडल) बनाती हैं।
- डिस्ट्रीब्यूशन प्लेटफॉर्म्स (पेंट्री/किराना स्टोर): Civitai और Hugging Face जैसी वेबसाइटें वह जगह हैं जहाँ लोग इन रेसिपीज़ को डाउनलोड करते हैं।
- मॉडिफायर (होम कुक्स/घर के रसोइये): हज़ारों लोग मूल रेसिपी को डाउनलोड करते हैं, उसमें बदलाव करते हैं, और उसमें अपने खुद के "मसाले" (fine-tuning) मिलाते हैं ताकि उसे विशिष्ट चीजों, जैसे कि NSFW (काम के दौरान अनुपयुक्त) सामग्री बनाने में बेहतर बनाया जा सके।
- यूज़र्स (डाइनर्स/खाने वाले): लाखों लोग इन बदली हुई रेसिपीज़ को डाउनलोड करते हैं ताकि अंतिम वीडियो बनाया जा सके।
शोध पत्र का मुख्य निष्कर्ष:
शोध पत्र ने पाया कि एक सीमित संख्या में "रेसिपीज़" (मॉडल्स) ही इन अधिकांश बुरे वीडियो के लिए जिम्मेदार हैं। विशेष रूप से, Wan 2.x, Stable Video Diffusion, HunyuanVideo, और LTX-Video जैसे मॉडल्स का उपयोग अत्यधिक मात्रा में फर्जी पोर्न और शोषण सामग्री बनाने के लिए किया जा रहा है।
यह क्यों हुआ? (2022 का सबक)
यह समझने के लिए कि अभी ऐसा क्यों हो रहा है, शोध पत्र 2022 की ओर पीछे देखता है।
- "बुरी" रेसिपी: 2022 में, एक कंपनी ने Stable Diffusion 1.0 नामक एक मॉडल जारी किया। उन्होंने इसके "वेट्स" (कोड) मुफ्त में दिए, लेकिन उन्होंने ट्रेनिंग डेटा को ठीक से फ़िल्टर नहीं किया। यह ऐसा था जैसे एक शेफ को एक ऐसी कुकबुक से सिखाना जिसमें ज़हर की रेसिपी भी शामिल हो। क्योंकि डेटा अव्यवस्थित था, AI ने बुरी चीजें आसानी से बनाना सीख लिया।
- "अच्छी" रेसिपी: बाद में, उसी कंपनी ने Stable Diffusion 2.0 जारी किया। उन्होंने कुकबुक को साफ किया और "ज़हर" वाली रेसिपीज़ को हटा दिया। परिणाम? AI अब NSFW सामग्री बनाने में बहुत खराब हो गया। समुदाय ने वास्तव में शिकायत की कि यह "बहुत अधिक सेंसर किया हुआ" था।
- सबक: जब डेवलपर्स मॉडल जारी करने से पहले अपने डेटा को साफ करते हैं और सुरक्षा फिल्टर जोड़ते हैं, तो यह बुरी सामग्री बनाने के लिए एक बड़ी बाधा पैदा करता है। जब वे ऐसा नहीं करते हैं, तो बुरी चीजें जंगल की आग की तरह फैल जाती हैं।
वर्तमान स्थिति: "क्या अब बहुत देर हो चुकी है?"
कुछ लोग तर्क देते हैं: "खैर, बुरे मॉडल्स तो पहले ही बाहर आ चुके हैं। अब बहुत देर हो चुकी है। भले ही हम अब सुरक्षित मॉडल्स बनाएं, लोग पुराने बुरे मॉडल्स का ही उपयोग करेंगे।"
शोध पत्र कहता है कि यह गलत है। वे एक पायरेसी उदाहरण का उपयोग करते हैं:
- अवैध मूवी डाउनलोड के बारे में सोचें। भले ही पायरेटेड फिल्में तकनीकी रूप से उपलब्ध हैं, फिर भी सर्च इंजन और कंपनियाँ उन्हें ढूँढना कठिन बनाने का काम करती हैं। यह हर किसी को नहीं रोकता, लेकिन यह उन सामान्य उपयोगकर्ताओं और किशोरों को रोकता है जो गहराई तक नहीं जाना चाहते।
- इसी तरह, यदि डेवलपर्स और प्लेटफॉर्म्स बुरे AI मॉडल्स को ढूँढना और उपयोग करना कठिन बना देते हैं, तो नुकसान की कुल मात्रा काफी कम हो जाती है। यह बुरा करने के लिए आवश्यक "घर्षण" (प्रयास/मेहनत) को बढ़ाने के बारे में है।
समाधान क्या हैं?
शोध पत्र सुझाव देता है कि दो मुख्य समूहों को आगे आना चाहिए:
1. डेवलपर्स (शेफ)
उन्हें "नग्न" (बिना सुरक्षा के) मॉडल्स जारी करना बंद करना चाहिए। इसके बजाय, उन्हें:
- डेटा को साफ करना चाहिए: यह सुनिश्चित करें कि AI को शुरुआत में ही पोर्न या शोषण सामग्री पर प्रशिक्षित न किया जाए।
- सुरक्षा जाल जोड़ना चाहिए: "अनलर्निंग" (unlearning) तकनीकों का उपयोग करें ताकि AI बुरा काम करना भूल जाए, भले ही बाद में कोई इसे बदलने की कोशिश करे।
- खुद का परीक्षण करना चाहिए: मॉडल जारी करने से पहले खुद को तोड़ने (break) की कोशिश करें ताकि देखा जा सके कि इसका दुरुपयोग कैसे हो सकता है।
- पारदर्शी होना चाहिए: जनता को स्पष्ट रूप से बताएं कि उन्होंने सुरक्षा के कौन से कदम उठाए हैं। वर्तमान में, अधिकांश कंपनियाँ इस बारे में चुप रहती हैं (देखें शोध पत्र में टेबल 1)।
2. डिस्ट्रीब्यूशन प्लेटफॉर्म्स (पेंट्री/स्टोर)
Civitai और Hugging Face जैसी वेबसाइटें गेटकीपर (द्वारपाल) हैं।
- वे वर्तमान में विशेष रूप से फर्जी पोर्न और बाल शोषण सामग्री बनाने के लिए डिज़ाइन किए गए हज़ारों मॉडल्स को होस्ट कर रहे हैं।
- शोध पत्र का तर्क है कि इन प्लेटफॉर्म्स को अपनी अलमारियों की सक्रिय रूप से निगरानी करनी चाहिए। यदि वे इन विशिष्ट "बुरे रेसिपीज़" को नहीं हटाते हैं, तो वे नुकसान को बढ़ा रहे हैं।
निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि कंपनियों के चुनाव मायने रखते हैं।
- यदि डेवलपर्स बिना सुरक्षा फिल्टर के मॉडल जारी करते हैं, तो वे अनुमानित रूप से नुकसान पहुँचा रहे हैं।
- यदि प्लेटफॉर्म्स शोषण के लिए डिज़ाइन किए गए मॉडल्स को नहीं हटाते हैं, तो वे समस्या को बदतर बना रहे हैं।
यह AI को बैन करने के बारे में नहीं है। यह जोखिम प्रबंधन (risk management) के बारे में है। जैसे हम कारों को इसलिए बैन नहीं करते क्योंकि कुछ लोग उन्हें खतरनाक तरीके से चलाते हैं, हमें AI वीडियो को बैन करने की भी ज़रूरत नहीं है। लेकिन हमें सबसे बुरे परिणामों को रोकने के लिए ब्रेक, सीटबेल्ट और स्पीड लिमिट (सुरक्षा उपाय) लगाने की आवश्यकता है। यदि कंपनियाँ अब ये कदम उठाती हैं, तो वे भविष्य में फर्जी, अपमानजनक सामग्री की मात्रा को काफी कम कर सकती हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।