Deepfakes: we need to re-think the concept of "real" images
यह स्थिति पत्र (position paper) यह तर्क देता है कि "नकली" छवियों का पता लगाने पर वर्तमान ध्यान मौलिक रूप से त्रुटिपूर्ण है क्योंकि यह "वास्तविक" छवियों की पुरानी परिभाषाओं और डेटासेट पर निर्भर करता है, और अनुसंधान समुदाय से प्रामाणिकता की अवधारणा का पुनर्मूल्यांकन करने का आग्रह करता है क्योंकि आधुनिक स्मार्टफोन फोटोग्राफी स्वयं जनरेटिव मॉडल में उपयोग किए जाने वाले न्यूरल नेटवर्क-आधारित एल्गोरिदम के समान एल्गोरिदम का उपयोग करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जासूस हैं जो एक जालसाज को पकड़ने की कोशिश कर रहे हैं। आपका काम एक पेंटिंग को देखना है और यह तय करना है: "क्या यह एक असली उत्कृष्ट कृति है, या यह एक नकली है?"
वर्षों से, मशीन लर्निंग समुदाय इस "डीपफेक" (Deepfake) समस्या को हल करने के लिए उच्च-तकनीकी स्कैनर बना रहा है। उन्होंने अपने AI जासूसों को "असली" पेंटिंग्स (तस्वीरों) के एक विशाल पुस्तकालय पर प्रशिक्षित किया है ताकि वे समझ सकें कि वास्तविकता कैसी दिखती है।
समस्या: इस शोध पत्र के लेखक तर्क देते हैं कि जासूस एक पुराने पुस्तकालय का उपयोग कर रहे हैं। वे आधुनिक जालसाजी को पहचानने के लिए "असली" की उस परिभाषा का उपयोग कर रहे हैं जो लगभग दस साल पहले ही बेकार हो चुकी थी।
यहाँ उनके तर्क का विवरण दिया गया है, जिसे सरल उपमाओं (analogies) का उपयोग करके समझाया गया है:
1. "पुराना पुस्तकालय" वाली समस्या
AI जासूसों को वर्तमान में ऐसे डेटासेट (तस्वीरों के पुस्तकालय) पर प्रशिक्षित किया जाता है जो ज्यादातर 10 से 15 साल पुराने हैं।
- उपमा: कल्पना कीजिए कि आप एक छात्र को आधुनिक कारों को पहचानने के लिए सिखा रहे हैं, लेकिन उसे केवल 'मॉडल टी फोर्ड' की तस्वीरें दिखाते हैं। छात्र सीख जाता है कि "कार" कैसी दिखती है (लकड़ी के पहिये और खुली छत के आधार पर)। जब आप उसे एक आधुनिक टेस्ला दिखाते हैं, तो वह भ्रमित हो सकता है क्योंकि वह उन "असली" कारों जैसा नहीं दिखता जो उसकी किताब में हैं।
- वास्तविकता: शोध पत्र दिखाता है कि वर्तमान के लगभग सभी "असली" इमेज डेटासेट पुराने, कम रिज़ॉल्यूशन वाले और अत्यधिक कंप्रेस्ड (जैसे JPEG) हैं। वे आज की तस्वीरों का प्रतिनिधित्व नहीं करते हैं।
2. "स्मार्ट कैमरा" का बदलाव
आज, 90% से अधिक तस्वीरें स्मार्टफोन से ली जाती हैं। लेकिन यहाँ एक मोड़ है: स्मार्टफोन केवल फोटो "लेते" नहीं हैं; वे उन्हें "कंप्यूट" (compute) करते हैं।
- उपमा: पुराने दिनों में, एक कैमरा एक खिड़की की तरह था। आप उसके माध्यम से देखते थे, और प्रकाश फिल्म पर पड़ता था। छवि वास्तविकता की एक सीधी रिकॉर्डिंग थी।
- नई वास्तविकता: एक आधुनिक स्मार्टफोन एक किचन ब्लेंडर (मिक्सर) की तरह है। आप इसमें कच्ची सामग्री डालते हैं (कई सेंसर, कई कैमरों और एक सेकंड के भीतर ली गई कई फ्रेम्स से आने वाला प्रकाश), और फोन का आंतरिक कंप्यूटर (जटिल न्यूरल नेटवर्क का उपयोग करके) इन सबको मिलाकर एक बेहतरीन स्मूदी (अंतिम फोटो) तैयार करता है।
- संघर्ष: AI डिटेक्टरों को AI जनरेटर द्वारा बनाई गई "नकली" छवियों को पकड़ने के लिए प्रशिक्षित किया गया था। लेकिन अब, हमारे फोन से आने वाली "असली" तस्वीरें भी AI एल्गोरिदम (न्यूरल नेटवर्क) द्वारा बनाई जा रही हैं। "असली" और "नकली" के बीच की रेखा धुंधली होती जा रही है क्योंकि "असली" तस्वीरें भी पहले से ही डिजिटल रूप से पकाई जा रही हैं।
3. विफल परीक्षण
लेखकों ने अपने बिंदु को सिद्ध करने के लिए एक सरल प्रयोग चलाया।
- परीक्षण: उन्होंने अपने सबसे अच्छे "नकली-पकड़ने वाले" AI मॉडल लिए और उन्हें दो चीजें दिखाईं:
- इंटरनेट से ली गई पुरानी, कम गुणवत्ता वाली तस्वीरें (जिन्हें AI अच्छी तरह जानता था)।
- वास्तविक जीवन में नवीनतम आईफोन (iPhone) के साथ ली गई ताज़ा, रॉ (raw) तस्वीरें।
- परिणाम: AI पुराने फोटो पर बहुत अच्छा काम करता था। लेकिन जब उसे ताज़ा आईफोन फोटो दिखाई गईं, तो AI भ्रमित हो गया और विफल होने लगा। वह एक "असली" आईफोन फोटो और एक "नकली" AI इमेज के बीच अंतर नहीं कर सका क्योंकि आईफोन फोटो को फोन के अपने AI द्वारा प्रोसेस किया गया था।
- उपमा: यह एक सुरक्षा गार्ड की तरह है जिसे लाल टोपी पहनने वाले लोगों को पहचानने के लिए प्रशिक्षित किया गया है। वह लाल टोपी वाले हर व्यक्ति को पकड़ लेता है। लेकिन फिर, पुलिस बल भी लाल टोपी पहनने लगता है। अब, गार्ड अपराधियों और पुलिस के बीच अंतर नहीं कर पाता।
4. दार्शनिक जाल
शोध पत्र का तर्क है कि हम एक चक्र में फंसे हुए हैं।
- यदि हम "असली" को "AI द्वारा स्पर्श न की गई चीज़" के रूप में परिभाषित करते हैं, तो लगभग कोई भी फोटो अब असली नहीं है, क्योंकि हमारे फोन लाइटिंग को ठीक करने, शोर (noise) हटाने और इमेज को शार्प करने के लिए AI का उपयोग करते हैं।
- यदि हम "असली" को "एक इंसान द्वारा ली गई चीज़" के रूप में परिभाषित करते हैं, तो यह परिभाषा काम नहीं आती, क्योंकि भारी काम तो फोन के AI ने किया है।
लेखकों का निष्कर्ष
यह शोध पत्र दोषों को ठीक करने के लिए कोई नया एल्गोरिदम पेश नहीं करता है। इसके बजाय, यह एक चेतावनी देता है: हमें रुककर पूरे खेल के बारे में फिर से सोचने की जरूरत है।
- नया डेटा: हमें नए डेटासेट की आवश्यकता है जिनमें आधुनिक, स्मार्टफोन-कंप्यूटेड फोटो शामिल हों, न कि केवल पुराने, लो-रेज़ डेटा।
- नई परिभाषाएं: हमें यह तय करने की आवश्यकता है कि "असली" का क्या अर्थ है। क्या एक फोटो असली है यदि फोन ने उसकी ब्राइटनेस बढ़ाई है? क्या यह नकली है यदि AI ने चेहरे का दाग हटाया है? हम अब केवल "डिजिटल फिंगरप्रिंट्स" पर निर्भर नहीं रह सकते क्योंकि "असली" फोटो में भी वे मौजूद हैं।
- शायद डिटेक्टर काम नहीं करेंगे: लेखक सुझाव देते हैं कि शायद इमेज के पिक्सल को देखकर नकली छवियों का पता लगाना एक असफल प्रयास है। इसके बजाय, हमें अन्य तरीकों पर निर्भर रहना पड़ सकता, जैसे कि डिजिटल वॉटरमार्क या ब्लॉकचेन सिग्नेचर, जिससे किसी इमेज की उत्पत्ति (origin) को प्रमाणित किया जा सके, न कि केवल यह अनुमान लगाया जाए कि वह "असली" दिख रही है या नहीं।
संक्षेप में: हमने झूठ बोलने वालों को पकड़ने के लिए जो उपकरण बनाए थे, वे विफल हो रहे हैं क्योंकि सच बोलने वाले (हमारे फोन) भी उन्हीं तरकीबों का उपयोग करने लगे हैं। अगली पीढ़ी के नकलीपन को पकड़ने से पहले हमें नियम पुस्तिका को फिर से लिखने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।