The Deepfakes We Missed: We Built Detectors for a Threat That Didn't Arrive
यह स्थिति पत्र (position paper) तर्क देता है कि मशीन लर्निंग समुदाय का सार्वजनिक हस्तियों के डीपफेक का पता लगाने पर एक दशक लंबा ध्यान वास्तविकता से विचलित हो गया है, क्योंकि वास्तविक प्रमुख खतरे गैर-सहमति वाली अंतरंग छवियों, वॉयस-क्लोन घोटालों और भावनात्मक धोखाधड़ी में बदल गए हैं, जो एक महत्वपूर्ण बाधा उत्पन्न कर रहे हैं जिसके लिए अनुसंधान एजेंडों के तत्काल पुनर्संतुलन की आवश्यकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "द डीपफेक्स वी मिस्ड" (The Deepfakes We Missed) पेपर का सरल भाषा और उपमाओं के माध्यम से स्पष्टीकरण दिया गया है, ताकि इसके मुख्य तर्कों को स्पष्ट किया जा सके।
बड़ी तस्वीर: गलत ढाल बनाना
कल्पना कीजिए कि इंजीनियरों के एक समूह ने एक परम अग्निशामक (fire extinguisher) डिजाइन करने में दस साल बिताए। उन्होंने अपना सारा समय और पैसा उन विशाल, भीषण जंगलों की आग के खिलाफ परीक्षण करने में लगाया जो उन्हें लगता था कि होने वाली है। उन्होंने विशाल टैंक बनाए, जटिल स्प्रे पैटर्न बनाए और उस आग से लड़ने के लिए मैनुअल लिखे जो पूरे शहर को जला सकती है।
लेकिन जब "आग का मौसम" आखिरकार आया, तो वे विशाल जंगल की आग कभी नहीं लगी। इसके बजाय, वास्तविक खतरा लोगों के घरों में शुरू होने वाली हजारों छोटी, छिपी हुई रसोई की आग और उनके बेसमेंट में गैस लीक निकला।
इंजीनियर अभी भी अपने विशाल जंगल-की-आग वाले अग्निशामक लेकर खड़े हैं, शहर को बचाने के लिए तैयार हैं, जबकि असली नुकसान तो रसोई और बेसमेंट में हो रहा है। पेपर का तर्क है कि एआई (AI) डीपफेक डिटेक्शन का क्षेत्र ठीक इसी स्थिति में है।
"जंगल की आग" जो कभी नहीं हुई (T1)
पिछले एक दशक से, शोधकर्ता एक विशिष्ट प्रकार के डीपफेक पर जुनूनी रहे हैं: मशहूर हस्तियों के नकली वीडियो (जैसे राजनेता या फिल्मी सितारे) जो ऐसी बातें कह रहे हैं जो उन्होंने कभी नहीं कहीं।
- डर: हर कोई इस बात से डरा हुआ था कि एक राष्ट्रपति द्वारा युद्ध की घोषणा करने या किसी सेलिब्रिटी द्वारा किसी घोटाले का समर्थन करने वाला नकली वीडियो चुनावों में अराजकता पैदा करेगा और वीडियो साक्ष्य पर विश्वास को नष्ट कर देगा।
- वास्तविकता: 2024 के वैश्विक चुनावों में, यह विशिष्ट आपदा नहीं हुई। हालांकि राजनेताओं के कुछ नकली वीडियो सामने आए, लेकिन आम लोगों, पत्रकारों और फैक्ट-चेकर्स ने उन्हें पहचान लिया। उन्हें यह खोजने के लिए सुपर-कंप्यूटर एआई डिटेक्टर की आवश्यकता नहीं थी; मानवीय आंखों ने यह काम कर दिया।
- अनुसंधान: इसके बावजूद, 71% सभी रिसर्च पेपर और डेटासेट अभी भी पूरी तरह से इन "मशहूर व्यक्तियों" के वीडियो को पकड़ने पर केंद्रित हैं। यह बिल्कुल वैसा ही है जैसे इंजीनियर अभी भी अपने जंगल-की-आग वाले अग्निशामक को पॉलिश कर रहे हों।
"रसोई की आग" जो वास्तव में हुई (T2, T3, T5)
जब शोधकर्ता आसमान में बड़ी आग की तलाश कर रहे थे, तब वास्तविक नुकसान तीन विशिष्ट क्षेत्रों में हो रहा था जिन्हें बहुत कम ध्यान दिया गया:
"रसोई की आग" (पियर-जेनरेटेड NCII):
- यह क्या है: आम लोग (अक्सर छात्र या परिचित) बिना अनुमति के दूसरे आम लोगों की फर्जी, अंतरंग (intimate) तस्वीरें बनाने के लिए एआई का उपयोग कर रहे हैं।
- पैमाना: यह तेजी से बढ़ रहा है। 2025 में, रिपोर्टों ने दिखाया कि एआई-जनरेटेड बाल यौन शोषण सामग्री और गैर-सहमति वाली अंतरंग छवियों में 260 गुना वृद्धि हुई है।
- कमी: शोधकर्ताओं के पास इसके लिए लगभग शून्य डिटेक्टर हैं। यह घर के लिए स्मोक डिटेक्टर (धुआं पहचानने वाला यंत्र) न होने जैसा है, जबकि आपके पास जंगलों के लिए अग्निशामक है।
"गैस लीक" (वॉयस-क्लोन स्कैम्स):
- यह क्या है: स्कैमर्स (धोखेबाज) परिवार के सदस्यों या बॉस की आवाज़ की नकल करने के लिए एआई का उपयोग करके लोगों को पैसे भेजने के लिए धोखा दे रहे हैं।
- पैमाना: 2025 में, इन स्कैम्स से लगभग $900 मिलियन का नुकसान हुआ। एक प्रसिद्ध मामले में, एक फाइनेंस वर्कर ने पैसे भेज दिए क्योंकि उसे लगा कि वह अपने बॉस के साथ वीडियो कॉल पर है (जो वास्तव में एक एआई अवतार था)।
- कमी: अधिकांश शोध स्टूडियो में रिकॉर्ड किए गए ऑडियो पर केंद्रित है। लेकिन ये स्कैम रियल-टाइम फोन कॉल्स में होते हैं जहाँ कनेक्शन की गुणवत्ता खराब होती है। वर्तमान डिटेक्टर बहुत धीमे हैं और फोन लाइनों पर काम नहीं करते हैं।
"छिपे हुए पाइप" (मैसेजिंग ऐप्स):
- यह क्या है: निजी ग्रुप चैट (जैसे व्हाट्सएप या टेलीग्राम) के माध्यम से फैलने वाली नकली सामग्री, जहाँ एन्क्रिप्शन सामग्री को सार्वजनिक दृष्टि से छिपा देता है।
- पैमाना: इसी तरह से "रसोई की आग" (अंतरंग छवि घोटाले) फैलती है।
- कमी: वर्तमान डिटेक्टर "ओपन वेब" (जैसे यूट्यूब या ट्विटर) के लिए बने हैं। वे निजी, एन्क्रिप्टेड संदेशों के अंदर नहीं देख सकते।
हम अभी भी गलत चीज़ की ओर क्यों देख रहे हैं?
पेपर पूछता है: यदि बड़ी जंगल की आग नहीं हुई, तो हम अभी भी जंगल की आग वाले अग्निशामक क्यों बना रहे हैं?
यह तीन कारण बताता है कि शोध समुदाय क्यों अटका हुआ है:
- "टेस्ट स्कोर" का जाल: शोधकर्ताओं को नौकरी और फंडिंग पाने के लिए पेपर प्रकाशित करने की आवश्यकता होती है। ऐसा करने के लिए, वे मानक "टेस्ट सेट्स" (जैसे FaceForensics++) का उपयोग करते हैं। इन टेस्ट में केवल मशहूर लोग होते हैं। यदि आप वॉयस स्कैम या निजी छवियों के लिए डिटेक्टर का परीक्षण करने की कोशिश करते हैं, तो उपयोग करने के लिए कोई मानक टेस्ट उपलब्ध नहीं है। यह ड्राइविंग लाइसेंस प्राप्त करने जैसा है, लेकिन उपलब्ध एकमात्र टेस्ट रेस कार चलाना है, जबकि आपको शहर में मिनीवैन चलानी है।
- "प्राइवेसी वॉल" (गोपनीयता की दीवार): एआई को प्रशिक्षित करने के लिए मशहूर लोगों की तस्वीरें प्राप्त करना बहुत आसान है। पीड़ितों की निजी तस्वीरें या स्कैम कॉल्स की रिकॉर्डिंग एकत्र करना अवैध और अनैतिक है। क्योंकि डेटा प्राप्त करना कठिन है, इसलिए शोधकर्ता इस पर काम करने से बचते हैं।
- "हेडलाइन" प्रभाव: राष्ट्रपति का एक नकली वीडियो रात के समाचारों में आता है। एक ग्रुप चैट में एक किशोर को परेशान करने वाला एक नकली वीडियो नहीं आता। शोधकर्ता और फंडर्स वास्तविक आंकड़ों के बजाय हेडलाइंस का पीछा करते हैं।
समाधान: मानचित्र बदलें
पेपर यह नहीं कहता कि हमें मशहूर व्यक्ति वाले डीपफेक का अध्ययन पूरी तरह से बंद कर देना चाहिए। इसके बजाय, यह तर्क देता है कि हमें अपने प्रयासों को संतुलित (rebalance) करने की आवश्यकता है।
यह तीन नए अनुसंधान एजेंडे प्रस्तावित करता है:
- रियल-टाइम फोन डिटेक्टर: ऐसा एआई बनाएं जो लाइव फोन कॉल को सुन सके और एक सेकंड से भी कम समय में कह सके "रुको, यह आवाज़ नकली लग रही है", भले ही फोन कनेक्शन खराब हो।
- निजी "होम" डिटेक्टर: ऐसे उपकरण बनाएं जो आपके अपने फोन पर चल सकें और यह जांच सकें कि कोई फोटो नकली है या नहीं, बिना आपकी निजी तस्वीरों को केंद्रीय सर्वर पर भेजे (आपकी गोपनीयता बनाए रखने के लिए)।
- चैट-ऐप डिफेंस: निजी ग्रुप चैट के भीतर नकली सामग्री का पता लगाने के तरीके विकसित करें बिना एन्क्रिप्शन को तोड़े।
निष्कर्ष
पेपर का निष्कर्ष है कि डीपफेक से लड़ने में सबसे बड़ी समस्या यह नहीं है कि हमारा एआई पर्याप्त स्मार्ट नहीं है। समस्या यह है कि हम 2026 की दुनिया में नेविगेट करने के लिए 2017 का मानचित्र उपयोग कर रहे हैं। हमने उस खतरे के लिए डिटेक्टर बनाए जो आया ही नहीं, जबकि वे खतरे जो आ गए हैं, वे अनियंत्रित रूप से बढ़ रहे हैं। अब समय आ गया है कि जंगल की आग वाले अग्निशामक को नीचे रखा जाए और उन घरों के लिए स्मोक डिटेक्टर बनाना शुरू किया जाए जहाँ असली खतरा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।