Deepfakes at Face Value: Image and Authority
यह शोधपत्र यह तर्क देता है कि डीपफेक न केवल उनके द्वारा पहुँचाए जाने वाले नुकसान के कारण गलत हैं, बल्कि इसलिए भी क्योंकि वे अनधिकृत अनुकरण के लिए उनकी बायोमेट्रिक विशेषताओं को एल्गोरिदम के माध्यम से जबरन भर्ती करके एक व्यक्ति के अपनी स्वयं की पहचान पर अधिकार को छीन लेते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: यह केवल नुकसान पहुँचाने के बारे में नहीं है
कल्पना कीजिए कि आप एक पार्क में टहल रहे हैं। कोई चुपके से आपकी एक फोटो खींच लेता है, लेकिन वह उसे ऑनलाइन पोस्ट नहीं करता, न ही किसी को दिखाता है, और आपको कभी पता भी नहीं चलता। वे बस उसे एक दराज में बंद करके रख देते हैं।
ज्यादातर लोग कहेंगे, "अगर किसी ने इसे नहीं देखा और आपको कोई नुकसान नहीं पहुँचा, तो इसमें बड़ी बात क्या है?"
यह पेपर तर्क देता है कि इसमें एक बड़ी बात है, भले ही किसी को नुकसान न पहुँचा हो। लेखक, जेम्स रवि कर्टपैट और उनके सहयोगियों का कहना है कि डीपफेक (deepfakes) के मौजूदा नियम इस बात पर बहुत अधिक ध्यान केंद्रित करते हैं कि वे कितना नुकसान पहुँचाते हैं (जैसे प्रतिष्ठा खराब करना या झूठ फैलाना)। लेकिन वे एक गहरे मुद्दे को छोड़ देते हैं: डीपफेक आपके अपने चेहरे पर आपके "प्रबंधकीय अधिकार" (managerial rights) चुरा लेते हैं।
वे इसे "अथॉरिटी इंटरेस्ट व्यू" (Authority Interest View) कहते हैं।
मूल विचार: आप अपनी छवि के स्वयं CEO हैं
अपने चेहरे, आवाज और शरीर को एक कंपनी की तरह समझें। आप उसके CEO हैं। आपके पास यह तय करने का विशेष अधिकार है कि:
- आपकी कंपनी के लोगो (आपके चेहरे) का उपयोग कौन कर सकता है।
- आपके ब्रांड के साथ कौन से उत्पाद बनाए जा सकते हैं।
- आपका ब्रांड कब और कहाँ दिखाई देगा।
जब कोई आपका डीपफेक बनाता है, तो वे केवल आपकी "नकल" नहीं कर रहे होते; वे फैक्ट्री को हाईजैक (hijack) कर रहे होते हैं। वे आपके बायोमेट्रिक डेटा (आपके चेहरे और आवाज) का उपयोग एक नया उत्पाद बनाने के लिए कच्चे माल के रूप में कर रहे हैं (आपका एक ऐसा वीडियो बनाना जिसमें आप वे काम कर रहे हैं जो आपने कभी नहीं किए) और इसके लिए आपकी अनुमति नहीं ली गई है।
पेपर का तर्क है कि यह गलत है भले ही उस उत्पाद को कभी बेचा न जाए या किसी ने देखा भी न हो। क्यों? क्योंकि CEO (आप) उत्पादन प्रक्रिया (production line) पर अपना नियंत्रण खो चुके हैं।
"बेयर वॉन्ग" (Bare Wrong) सादृश्य: घुसपैठिया
यह समझने के लिए कि बिना "नुकसान" पहुँचाए यह गलत क्यों है, लेखक घुसपैठ (trespassing) का उदाहरण देते हैं।
कल्पना कीजिए कि एक पड़ोसी फूल चुनने के लिए आपके लॉन पर आ जाता है। उन्होंने आपकी घास को नुकसान नहीं पहुँचाया, कुछ चुराया नहीं, और आपके जागने से पहले ही चले गए।
- नुकसान वाला दृष्टिकोण (The Harm View): "कोई नुकसान नहीं हुआ, इसलिए यह ठीक है।"
- अधिकार वाला दृष्टिकोण (The Authority View): "आपने बिना पूछे मेरी जमीन पर कदम रखा। आपने यह तय करने के मेरे अधिकार का उल्लंघन किया कि मेरी घास पर कौन कदम रखेगा।"
जमीन पर चलना अपने आप में गलत था, चाहे घास कुचली गई हो या नहीं। डीपफेक भी वैसा ही है। आपका डीपफेक बनाना आपके डिजिटल लॉन पर चलने जैसा है। यह आपके अधिकार का उल्लंघन है, भले ही वह वीडियो एक निजी फोल्डर में छिपा हुआ हो।
दो केस स्टडीज: यह हमेशा गलत क्यों है
पेपर यह साबित करने के लिए दो विशिष्ट उदाहरणों का उपयोग करता है कि "नुकसान" ही एकमात्र महत्वपूर्ण चीज़ नहीं है।
1. "सीक्रेट पोर्न" केस
कल्पना कीजिए कि कोई आपकी सार्वजनिक तस्वीरों का उपयोग करके AI के माध्यम से आपका एक अश्लील (pornographic) वीडियो बनाता है।
- ट्विस्ट: वे वादा करते हैं कि यह वीडियो कभी साझा नहीं किया जाएगा। आपको कभी पता नहीं चलेगा कि इसका अस्तित्व है। कोई और इसे कभी नहीं देख पाएगा।
- प्रश्न: क्या यह अभी भी गलत है?
- पेपर का उत्तर: हाँ।
- रूपक (Metaphor): कल्पना कीजिए कि कोई आपके बारे में एक फर्जी डायरी लिखता है, यह दावा करते हुए कि आपने बहुत बुरी बातें कहीं, लेकिन वह उसे तुरंत जला देता है। भले ही किसी ने उसे पढ़ा नहीं, फिर भी उन्होंने आपकी अपनी कहानी पर नियंत्रण रखने के आपके अधिकार का उल्लंघन किया। उस वीडियो को बनाकर, उन्होंने आपकी पहचान के साथ एक "खिलौने" की तरह व्यवहार किया, आपके "ना" कहने के अधिकार को नजरअंदाज किया।
2. "परफेक्ट कॉपी" केस
कल्पना कीजिए कि एक प्रसिद्ध एडल्ट फिल्म अभिनेता है। कोई AI का उपयोग करके एक ऐसा वीडियो बनाता है जो बिल्कुल वैसा ही दिखता है जैसा कि उस अभिनेता ने अतीत में वास्तव में किया था। सामग्री 100% सत्य है; अभिनेता ने वास्तव में वह किया था।
- ट्विस्ट: चूंकि अभिनेता ने मूल दृश्य के लिए पहले ही सहमति दी थी, और नया वीडियो केवल एक सटीक प्रति (copy) है, तो क्या यह गलत है?
- पेपर का उत्तर: हाँ।
- रूपक: कल्पना कीजिए कि आपको किसी को 50 का चेक लिख देता है। भले ही आपको वास्तव में उन्हें $50 देने थे, और राशि सही है, लेकिन हस्ताक्षर की नकल करना अभी भी एक अपराध है।
- क्यों? गलत बात पैसे (सामग्री) के बारे में नहीं है; यह हस्ताक्षर (लेखकत्व/authorship) के बारे में है। डीपफेक उस अभिनेता के अपने प्रदर्शन पर उनके "हस्ताक्षर" को चुराता है। उन्होंने इस विशिष्ट डिजिटल रचना के लिए अनुमति नहीं दी थी।
कला के बारे में क्या? ("हेयरकट" सादृश्य)
आप पूछ सकते हैं: "यदि मैं किसी के चेहरे का उपयोग नहीं कर सकता, तो क्या मैं उनका चित्र नहीं बना सकता? क्या मैं उनका पोर्ट्रेट नहीं पेंट कर सकता?"
लेखक कहते हैं कि हाँ, और यहाँ अंतर है:
- ड्राइंग/पेंटिंग (अनुमेय/Permissible): जब एक कलाकार आपका पोर्ट्रेट पेंट करता है, तो वे अपने हाथों, आँखों और मस्तिष्क का उपयोग कर रहे होते हैं। वे आपका व्याख्या (interpretation) कर रहे हैं। यह एक शेफ द्वारा आपकी रेसिपी का उपयोग करके भोजन पकाने जैसा है। शेफ अभी भी शेफ ही है।
- डीपफेक (गलत/Wrongful): जब AI एक डीपफेक बनाता है, तो वह आपके चेहरे को इंजन के रूप में उपयोग करता है। यह एक रोबोट द्वारा आपके वास्तविक शरीर को जबरदस्ती नाचने के लिए मजबूर करने जैसा है, जबकि आप कुर्सी पर बैठकर देख रहे हैं। AI आपके "बायोमेट्रिक डेटा" का उपयोग एक नए प्रदर्शन को उत्पन्न करने के लिए कच्चे माल के रूप में कर रहा है।
मुख्य अंतर:
- चित्रण (Depiction): "मैं आपको देख रहा हूँ और जो मैं देख रहा हूँ उसे चित्रित कर रहा हूँ।" (कलाकार लेखक है)।
- सिमुलेशन (Simulation): "मैं एक नया प्रदर्शन उत्पन्न करने के लिए आपके चेहरे का उपयोग कर रहा हूँ।" (AI लेखक है, लेकिन वह अपनी ऊर्जा के रूप में आपकी पहचान का उपयोग कर रहा है)।
भविष्य के लिए यह क्यों मायने रखता है
यह पेपर निष्कर्ष निकालता है कि हमें AI के संबंध में कानूनों और नैतिकता के बारे में सोचने के तरीके को बदलने की आवश्यकता है।
- यह केवल "फेक न्यूज" के बारे में नहीं है: हम अक्सर डीपफेक के बारे में इसलिए चिंतित होते हैं क्योंकि वे हमें धोखा देते हैं। लेकिन यह पेपर कहता है कि असली मुद्दा सहमति (consent) है। भले ही डीपफेक सच बोल रहा हो (जैसे अभिनेता वाला उदाहरण), फिर भी यह उल्लंघन है यदि आपने उस विशिष्ट उपयोग के लिए "हाँ" नहीं कहा है।
- यह "डिजिटल बॉडी इंटीग्रिटी" के बारे में है: जिस तरह आपके पास अपने भौतिक शरीर का अधिकार है (कोई भी बिना अनुमति के आपको छू नहीं सकता), उसी तरह आपके पास अपने "डिजिटल शरीर" का भी अधिकार है। कोई भी आपकी अनुमति के बिना आपके चेहरे को एक उपकरण के रूप में उपयोग नहीं कर सकता।
- सहमति सर्वोपरि है: यदि आप "हाँ" कहते हैं (जैसे एक अभिनेता जो फिल्म भूमिका के लिए सहमति देता है, या एक मरीज जिसकी आवाज को चिकित्सा कारणों से बहाल करने के लिए सहमति ली जाती है), तो यह ठीक है। गलत तब होता है जब "CEO" (आप) को निर्णय लेने की प्रक्रिया से बाहर कर दिया जाता है।
एक वाक्य में सारांश
डीपफेक बनाना केवल इसलिए गलत नहीं है क्योंकि यह आपको नुकसान पहुँचा सकता है या लोगों को धोखा दे सकता है, बल्कि इसलिए गलत है क्योंकि यह आपकी अपनी छवि का बॉस होने के आपके अधिकार को चुराता है, और आपके चेहरे को एक ऐसे उपकरण के रूप में देखता है जो हर किसी का है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।