एक ऐसी दुनिया की कल्पना करें जहाँ आपकी आँखें और कान अब जो देखते और सुनते हैं, उस पर भरोसा नहीं कर सकते। हम एक ऐसे युग में जी रहे हैं जहाँ कंप्यूटरों ने इतनी अच्छी तरह से पेंट करना, गाना और अभिनय करना सीख लिया है कि वे वास्तविक लोगों के "नकली" संस्करण बना सकते हैं। ये केवल खराब चित्र या मज़ेदार आवाज़ों की नकल नहीं हैं; ये हाइपर-रियलिस्टिक डिजिटल जालसाजी हैं जिन्हें डीपफेक (deepfakes) कहा जाता है। इन्हें डिजिटल कठपुतलियों के रूप में सोचें: आप किसी राजनेता का वीडियो ले सकते हैं, उनका चेहरा किसी और के चेहरे से बदल सकते हैं, उन्हें ऐसी बातें कहलवा सकते हैं जो उन्होंने कभी नहीं कहीं, या सिर्फ एक वाक्य टाइप करके किसी सेलिब्रिटी का मंगल ग्रह पर यूनिकॉर्न की सवारी करते हुए वीडियो बना सकते हैं। यह तकनीक एक दोधारी तलवार है। एक तरफ, यह रचनात्मकता और मनोरंजन के लिए एक जादुई उपकरण है। दूसरी ओर, यह स्कैमर्स और हेरफेर करने वालों के लिए एक हथियार है जो लोगों को पैसे देने या झूठ पर विश्वास करने के लिए धोखा दे सकते हैं। बड़ा सवाल वैज्ञानिकों के लिए यह है: यदि नकली चीजें बेहतर होती जा रही हैं, तो क्या हम उन्हें परेशानी पैदा करने से पहले पहचानने के लिए पर्याप्त स्मार्ट डिटेक्टर (पहचानने वाले यंत्र) बना सकते हैं?

यह शोध पत्र उन सभी के लिए एक विशाल, व्यवस्थित खजाना मानचित्र (ट्रेजर मैप) की तरह है जो इस उच्च-दांव वाले चूहे-बिल्ली के खेल को समझने की कोशिश कर रहे हैं। लेखक, जो रोमानिया, यूएई और अमेरिका के विश्वविद्यालयों के शोधकर्ताओं की एक टीम है, ने इन डीपफेक को बनाने और उन्हें पकड़ने के लिए ज्ञात हर पद्धति को इकट्ठा किया है। वे छवियों, वीडियो और ऑडियो फाइलों के शोर के बीच से गुजरते हैं और यह समझने के लिए एक स्पष्ट "वंश वृक्ष" (या वर्गीकरण/taxonomy) बनाते हैं कि ये नकली चीज़ें कैसे बनाई जाती हैं। वे पुराने ज़माने के टूल्स, जैसे कि जेनरेटिव एडवरसैरियल नेटवर्क (GANs)—जो दो कलाकारों के बीच की लड़ाई की तरह है, जहाँ एक नकली पेंटिंग बनाने की कोशिश करता है और दूसरा उसे पकड़ने की—और नए, सुपर-पावरफुल "डिफ्यूजन मॉडल्स" (diffusion models) को देखते हैं जो रैंडम स्टैटिक शोर को एक स्पष्ट तस्वीर में बदलने का काम करते हैं, ठीक वैसे ही जैसे एक मूर्तिकार मूर्ति प्रकट करने के लिए पत्थर के ब्लॉक को तराशता है।

शोधकर्ता फिर अपना ध्यान जासूसों की ओर मोड़ते हैं: वे कंप्यूटर प्रोग्राम जो नकली चीज़ों को पकड़ने के लिए डिज़ाइन किए गए हैं। वे वर्तमान में उपलब्ध सर्वश्रेष्ठ उपकरणों की समीक्षा करते हैं, जो मुख्य रूप से जटिल न्यूरल नेटवर्क (मानव मस्तिष्क से प्रेरित गणितीय प्रणाली) का उपयोग करते हैं ताकि उन सूक्ष्म, अदृश्य खामियों या "आर्टिफैक्ट्स" (artifacts) को देखा जा सके जिन्हें इंसान नहीं देख पाते। लेकिन यहाँ वह मोड़ आया जो उन्होंने खोजा: वर्तमान सर्वोत्तम डिटेक्टर विफल हो रहे हैं। जब उन्होंने इन डिटेक्टरों का परीक्षण उन नए, शक्तिशाली AI टूल्स द्वारा बनाए गए डीपफेक्स पर किया जिन्हें डिटेक्टरों ने पहले कभी नहीं देखा था, तो डिटेक्टर भ्रमित हो गए और नकली चीज़ों को पहचानने में विफल रहे। यह एक सुरक्षा गार्ड को एक विशिष्ट प्रकार के नकली आईडी को पहचानने के लिए प्रशिक्षित करने जैसा है, और अगले ही दिन अपराधी पूरी तरह से नए प्रकार की जालसाजी पर स्विच कर देते हैं। यह पेपर एक नया "टेस्ट ट्रैक" (बेंचमार्क) भी पेश करता है ताकि इस विफलता को मापा जा सके और सुझाव देता है कि केवल हर संभव नकली चीज़ को पकड़ने के बजाय, हमें खेल को पूरी तरह से बदलने की आवश्यकता हो सकती है—शायद कंटेंट के स्रोत को ब्लॉकचेन तकनीक का उपयोग करके सत्यापित करके, या विशिष्ट व्यक्तियों पर ध्यान केंद्रित करके ताकि पहचानना आसान हो सके।

बड़ी तस्वीर: क्या हो रहा है?

डीपफेक अनिवार्य रूप से डिजिटल भ्रम हैं। वे इमेज (फोटो), वीडियो (चलते चित्र), ऑडियो (आवाज़), या मल्टीमॉडल (ध्वनि के साथ वीडियो) हो सकते हैं। यह पेपर बताता है कि इन्हें विभिन्न "स्वादों" में कैसे बनाया जाता है:

• आइडेंटिटी स्वैपिंग (Identity Swapping): एक व्यक्ति का चेहरा लेकर दूसरे के शरीर पर चिपकाना (जैसे फेस स्वैप)।
• एक्सप्रेशन स्वैपिंग (Expression Swapping): किसी व्यक्ति को वास्तव में दुखी होने के बावजूद खुश दिखाना, बिना उनकी पहचान बदले।
• टॉकिंग फेस सिंथेसिस (Talking Face Synthesis): किसी व्यक्ति के होंठों को हिलाना और उनके चेहरे के भाव बदलना ताकि वह एक वॉयस रिकॉर्डिंग से मेल खा सके, भले ही उन्होंने वे शब्द कभी न कहे हों।
• टेक्स्ट-टू-इमेज/वीडियो (Text-to-Image/Video): "मॉर्गन फ्रीमन यूनिकॉर्न की सवारी करते हुए" जैसा वाक्य टाइप करना और कंप्यूटर को शून्य से एक बिल्कुल नया वीडियो बनाने देना।

लेखकों ने पाया कि इन नकली चीज़ों के "निर्माताओं" ने कुछ मुख्य टूल्स का उपयोग किया है। पुराने पसंदीदा GANs और VAEs (वेरिएशनल ऑटोएनकोडर्स) थे, लेकिन नए दिग्गज डिफ्यूजन मॉडल्स (Diffusion Models) और ट्रांसफॉर्मर्स (Transformers) हैं। ये नए टूल्स इतने अच्छे हैं कि वे सेकंडों में उच्च गुणवत्ता वाले डीपफेक बना सकते हैं।

जासूसी का काम: हम उन्हें कैसे पकड़ने की कोशिश करते हैं

मेज़ के दूसरी ओर डिटेक्टर हैं। लंबे समय तक, ये डिटेक्टर उन "खामियों" (glitches) को पकड़ने के लिए प्रशिक्षित किए गए थे जो पुराने AI टूल्स द्वारा छोड़ी गई थीं। उदाहरण के लिए, यदि एक पुराने AI को असली चेहरे पर नकली नाक मिलाने में कठिनाई होती थी, तो डिटेक्टर ने उस विशिष्ट धुंधलेपन को ढूँढना सीख लिया। यह पेपर डिटेक्टरों को उनके काम करने के तरीके के आधार पर व्यवस्थित करता है:

• CNNs: ये पारंपरिक कैमरों की तरह हैं जो पैटर्न खोजने के लिए पिक्सेल-दर-पिक्सेल इमेज को स्कैन करते हैं।
• Transformers: ये नए, स्मार्ट सिस्टम हैं जो पूरी तस्वीर (या वीडियो) को एक साथ देखते हैं, यह समझते हुए कि विभिन्न हिस्से एक-दूसरे से कैसे संबंधित हैं।
• हाइब्रिड मॉडल्स (Hybrid Models): ये दोनों दुनियाओं के सर्वश्रेष्ठ गुणों को मिलाते हैं।

शोधकर्ताओं ने डेटासेट्स (असली और नकली वीडियो के संग्रह) की एक विशाल सूची जुटाई है जिनका उपयोग वैज्ञानिक अपने डिटेक्टरों को प्रशिक्षित करने और परीक्षण करने के लिए करते हैं। उन्होंने FaceForensics++, Celeb-DF, और DeepFake-TIMIT जैसे प्रसिद्ध डेटासेट्स को देखा। उन्होंने यहाँ तक कि इस बात की रैंकिंग भी बनाई कि कौन से डिटेक्टर इन विशिष्ट परीक्षणों पर सबसे अच्छा काम करते हैं।

चौंकाने वाली खोज: डिटेक्टर हार रहे हैं

यह इस पेपर का सबसे महत्वपूर्ण हिस्सा है। लेखकों ने "सर्वश्रेष्ठ" डिटेक्टरों को लिया—वे जो पुराने परीक्षणों पर 99% सटीकता प्राप्त करते थे—और उन्हें एक नई चुनौती में झोंक दिया: आउट-ऑफ-डिस्ट्रीब्यूशन (out-of-distribution) परीक्षण। इसका मतलब है कि उन्होंने डिटेक्टरों का परीक्षण उन डीपफेक्स पर किया जो नए, अनदेखे AI टूल्स द्वारा बनाए गए थे जिन्हें डिटेक्टरों ने पहले कभी नहीं देखा था।

परिणाम? डिटेक्टर बुरी तरह विफल रहे।

पेपर दिखाता है कि जब AI निर्माता अपने टूल्स को अपग्रेड करते हैं, तो डिटेक्टर पीछे छूट जाते हैं। एक डिटेक्टर जो टूल A द्वारा बनाए गए नकली चीज़ों को पकड़ने में परफेक्ट था, वह टूल B द्वारा बनाए गए नकली चीज़ों के प्रति पूरी तरह अंधा हो सकता है। लेखक कहते हैं कि ऐसा इसलिए है क्योंकि डिटेक्टर पुराने टूल्स के विशिष्ट "फिंगरप्रिंट्स" को पहचानने के लिए सीख रहे हैं, न कि डीपफेक के मौलिक स्वभाव को समझने के लिए। यह एक कुत्ते को केवल लाल कारों पर भौंकने के लिए प्रशिक्षित करने जैसा है; यदि एक नीली कार पास से गुजरती है, तो कुत्ता शांत रहता है।

आगे क्या है? नए विचार और उपकरण

चूंकि वर्तमान "नकली चीज़ को पहचानो" वाला दृष्टिकोण संघर्ष कर रहा है, इसलिए यह पेपर कुछ ताज़ा विचार प्रस्तावित करता है:

1. एक नया बेंचमार्क: लेखकों ने विशेष रूप से यह देखने के लिए एक नया टेस्ट बनाया है कि डिटेक्टर इन "अनदेखे" नकली चीज़ों को कितनी अच्छी तरह संभालते हैं। यह शोधकर्ताओं को उनके सिस्टम की वास्तविक कमजोरियों को देखने में मदद करता है।
2. POI डिटेक्शन (Person-of-Interest): यह अनुमान लगाने के बजाय कि कोई भी वीडियो नकली है, क्या होगा अगर हम वीडियो की तुलना उस व्यक्ति की ज्ञात, सत्यापित फोटो से करें? यदि वीडियो ज्ञात फोटो से मेल नहीं खाता है, तो वह नकली है। यह समस्या को सरल बनाता है।
3. ब्लॉकचेन समाधान: नकली चीज़ों को सामने आने के बाद पकड़ने के बजाय, कंटेंट के स्रोत को साझा करने से पहले सत्यापित क्यों न किया जाए? पेपर सुझाव देता है कि मीडिया के मूल (origin) को ट्रैक करने के लिए ब्लॉकचेन का उपयोग किया जाए, जिससे यह सुनिश्चित हो सके कि केवल सत्यापित कंटेंट ही साझा किया जाए।

निष्कर्ष

यह पेपर एक चेतावनी (wake-up call) है। यह हमें बताता है कि जबकि हमने डीपफेक बनाने और उन्हें पकड़ने, दोनों में अद्भुत प्रगति की है, लेकिन यह "हथियारों की दौड़" (arms race) अभी खत्म नहीं हुई है। वर्तमान डिटेक्टर बहुत अधिक विशिष्ट हैं; वे बीते कल के नकली चीज़ों को पकड़ने में माहिर हैं लेकिन कल के नकली चीज़ों से आसानी से धोखा खा जाते हैं। लेखक निष्कर्ष निकालते हैं कि हमें केवल "खामियों" को खोजने पर निर्भर रहना बंद करना होगा और ऐसे सिस्टम बनाने पर ध्यान देना होगा जो सामान्य (generalize) हो सकें—यानी, ऐसे सिस्टम जो किसी भी टूल द्वारा बनाई गई नकली चीज़ को पहचान सकें। तब तक, वास्तविकता और डिजिटल भ्रम के बीच की रेखा धुंधली होती रहेगी, और हमें सच्चाई को सुरक्षित रखने के लिए बेहतर उपकरणों की आवश्यकता होगी।