Explainable Deepfake Detection with Feature-robust Augmentation and Evidence-grounded Explanation Optimization
यह शोध पत्र व्याख्यात्मक डीपफेक डिटेक्शन के लिए एक नवीन ढांचे का प्रस्ताव करता है जो इमेज डिग्रेडेशन के विरुद्ध लचीलापन बढ़ाने के लिए फीचर-रोबस्ट ऑग्मेंटेशन को सुपरवाइज्ड कॉन्ट्रास्टिव लर्निंग के साथ जोड़ता है, और तथ्यात्मक रूप से सटीक स्पष्टीकरण उत्पन्न करने के लिए एविडेंस-ग्राउंडेड प्रेफरेंस ऑप्टिमाइज़ेशन का उपयोग करता है, जिसने ACM मल्टीमीडिया 2026 एक्सप्लेनेबल डीपफेक डिटेक्शन चैलेंज में प्रथम स्थान प्राप्त किया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
डिजिटल युग में, क्या वास्तविक है और क्या निर्मित किया गया है, इसके बीच की रेखा तेजी से धुंधली होती जा रही है। जनरेटिव आर्टिफिशियल इंटेलिजेंस (AI) उस स्तर तक उन्नत हो गया है जहाँ यह ऐसी छवियां बना सकता है जो कैमरे द्वारा ली गई तस्वीरों से लगभग अभिन्न हैं। ये निर्मित छवियां, जिन्हें अक्सर 'डीपफेक' कहा जाता है, समाचारों, कानूनी साक्ष्यों और व्यक्तिगत विश्वास की अखंडता के लिए एक गंभीर खतरा पैदा करती हैं। वर्षों से, शोधकर्ता ऐसे कंप्यूटर प्रोग्राम बनाने पर ध्यान केंद्रित कर रहे हैं जो किसी छवि को दिखाए जाने पर केवल "हाँ" या "ना" कह सकें, और यह तय कर सकें कि वह प्रामाणिक है या नकली। हालाँकि, वास्तविक दुनिया में, एक साधारण निर्णय ही पर्याप्त नहीं होता है। एक फोरेंसिक विशेषज्ञ या तथ्य-जांचकर्ता (fact-checker) को यह जानने की आवश्यकता होती है कि कोई छवि संदिग्ध क्यों है। उन्हें विशिष्ट दृश्य संकेतों को देखने की आवश्यकता होती—जैसे कि अप्राकृतिक छाया, विकृत बनावट, या असंभव ज्यामिति—जो धोखे को प्रकट करते हैं। इस आवश्यकता ने एक नए अध्ययन क्षेत्र को जन्म दिया है: 'एक्सप्लेनेबल डिटेक्शन' (व्याख्यात्मक पहचान), जहाँ लक्ष्य केवल नकली को खोजना नहीं है, बल्कि मानवीय पर्यवेक्षक को साक्ष्य स्पष्ट रूप से समझाना भी है।
इस क्षेत्र में प्रगति के बावजूद, मौजूदा प्रणालियाँ दो प्रमुख समस्याओं से जूझ रही हैं जो उनकी उपयोगिता को सीमित करती हैं। पहला, ये प्रणालियाँ अक्सर नाजुक होती हैं; यदि कोई छवि थोड़ी धुंधली, संकुचित (compressed), या कम गुणवत्ता वाली है, तो डिटेक्टर की सटीकता गिर सकती है। दूसरा, जब ये प्रणालियाँ अपने तर्क को समझाने का प्रयास करती हैं, तो वे अक्सर सच बताने में विफल रहती हैं। वे हेरफेर के वास्तविक साक्ष्यों को छोड़ सकती हैं, या इससे भी बदतर, ऐसे विवरण गढ़ सकती हैं जो मौजूद ही नहीं हैं, जिसे 'हैलुसिनेशन' (hallucination) नामक व्यवहार कहा जाता है। पेकिंग यूनिवर्सिटी के शोधकर्ताओं की एक टीम ने इस समस्या का समाधान एक नए फ्रेमवर्क के साथ किया है, जिसने 2026 ACM मल्टीमीडिया एक्सप्लेनेबल डीपफेक डिटेक्शन चैलेंज में प्रथम स्थान प्राप्त किया है। उनका दृष्टिकोण न केवल नकली को पहचानने की क्षमता में सुधार करता है, बल्कि यह भी सुनिश्चित करता है कि सिस्टम खराब छवि गुणवत्ता के बावजूद विश्वसनीय बना रहे और व्याख्या को चित्र में पाए गए तथ्यात्मक साक्ष्यों तक ही सख्ती से सीमित रखे।
शोधकर्ताओं ने छवि की गुणवत्ता की समस्या को हल करने से शुरुआत की। वास्तविक दुनिया में, छवियां शायद ही कभी पूर्ण होती हैं; वे अक्सर रीसाइज की जाती हैं, संकुचित की जाती हैं, या शोर (noise) के कारण खराब हो जाती हैं। टीम ने पाया कि कंप्यूटर को नकली पहचानने के लिए प्रशिक्षित करने के मानक तरीके अक्सर बहुत अधिक प्रकार के इमेज डिस्टॉर्शन (विकृति) के संपर्क में आने पर विफल हो जाते हैं। नकली को पहचानने के बजाय, कंप्यूटर परिवर्तनों की विविधता से भ्रमित हो जाता है, जिसे लेखक 'फीचर ड्रिफ्ट' (feature drift) कहते हैं। इसे ठीक करने के लिए, उन्होंने एक प्रशिक्षण पद्धति विकसित की जो मॉडल को विविध प्रकार की खराब छवियों के संपर्क में लाती है और साथ ही उसे यह सिखाती है कि एक वास्तविक या नकली छवि कैसी दिखती है, इसकी एक स्थिर समझ बनाए रखी जाए। उन्होंने एक ऐसी तकनीक का उपयोग किया जहाँ एक "टीचर" मॉडल, जो सीखने वाले मॉडल का एक सुव्यवस्थित और स्थिर संस्करण है, "स्टूडेंट" का मार्गदर्शन करता है। यह सुनिश्चित करता है कि छवि कितनी भी विकृत क्यों न हो, कंप्यूटर का आंतरिक प्रतिनिधित्व (internal representation) सुसंगत बना रहे। यह सिस्टम को डीपफेक को सटीक रूप से पहचानने की अनुमति देता है, भले ही छवि की गुणवत्ता खराब हो, एक ऐसी क्षमता जो पिछले मॉडलों में नहीं थी।
एक बार जब सिस्टम सफलतापूर्वक नकली की पहचान कर लेता है, तो अगली चुनौती यह समझाना है कि ऐसा क्यों है। शोधकर्ताओं ने देखा कि मानक स्पष्टीकरण मॉडल अक्सर ऐसे उत्तर देते हैं जो सुनने में तो तर्कसंगत लगते हैं लेकिन तथ्यात्मक रूप से गलत होते हैं। वे अप्रासंगिक विवरणों, जैसे कि शर्ट के रंग पर ध्यान केंद्रित कर सकते हैं, जबकि वास्तविक हेरफेर, जैसे कि एक विकृत हाथ को अनदेखा कर सकते हैं। इसे हल करने के लिए, टीम ने एक नई प्रशिक्षण प्रक्रिया बनाई जो मॉडल को शैली (style) के ऊपर सत्य को महत्व देना सिखाती है। उन्होंने एक डेटासेट बनाया जहाँ कंप्यूटर को स्पष्टीकरण के जोड़े दिखाए गए: एक जो पूर्ण और सटीक था, और दूसरा जो त्रुटिपूर्ण था। त्रुटिपूर्ण उदाहरणों को विशेष रूप से सामान्य गलतियों की नकल करने के लिए डिज़ाइन किया गया था, जैसे कि महत्वपूर्ण साक्ष्यों को छोड़ देना या मनगढ़ंत विवरण जोड़ना। मॉडल को सटीक स्पष्टीकरणों को प्राथमिकता देने और त्रुटिपूर्ण विकल्पों को अस्वीकार करने के लिए प्रशिक्षित करके, सिस्टम ने वास्तविक हेरफेर के निशानों को प्राथमिकता देना सीख लिया। यह प्रक्रिया, जिसे 'प्रेफरेंस ऑप्टिमाइजेशन' (preference optimization) कहा जाता है, प्रभावी रूप से हैलुसिनेशन को फ़िल्टर करती है और मॉडल को चित्र में मौजूद वास्तविक दृश्य साक्ष्यों पर आधारित तर्क देने के लिए मजबूर करती है।
इसका परिणाम एक ऐसा सिस्टम है जो मजबूत और ईमानदार दोनों है। दस लाख छवियों के विशाल डेटासेट का उपयोग करते हुए परीक्षणों में, नए फ्रेमवर्क ने प्रमुख प्रौद्योगिकी कंपनियों के बेसलाइन मॉडलों सहित सभी प्रतिस्पर्धियों को पीछे छोड़ दिया। इसने डीपफेक का पता लगाने और साक्ष्यों के प्रति अर्थपूर्ण रूप से वफादार (semantically faithful) स्पष्टीकरण उत्पन्न करने, दोनों में उच्चतम स्कोर प्राप्त किया। शोधकर्ताओं ने स्थितियों के लिए मॉडल का एक दूसरा, सुव्यवस्थित (streamlined) संस्करण भी विकसित किया जहाँ विस्तृत विश्लेषण की तुलना में गति और संक्षिप्तता अधिक महत्वपूर्ण है। इस संस्करण को सबसे महत्वपूर्ण सुरागों के संक्षिप्त सारांश प्रदान करने के लिए प्रशिक्षित किया गया था, जो सटीकता और त्वरित पठनीयता के बीच संतुलन बनाता है। यह कार्य प्रदर्शित करता है कि ऐसी आर्टिफिशियल इंटेलिजेंस बनाना संभव है जो न केवल सत्य को देख सकती है बल्कि उसे स्पष्ट रूप से समझा भी सकती है, बिना खराब छवि गुणवत्ता या स्वयं के तथ्य गढ़ने की प्रवृत्ति से विचलित हुए। यह प्रगति फोरेंसिक विश्लेषकों और जनता दोनों के लिए एक अधिक विश्वसनीय उपकरण प्रदान करती है, जिससे पहचान प्रक्रिया को पारदर्शी और साक्ष्य-आधारित बनाकर डिजिटल मीडिया में विश्वास बहाल करने में मदद मिलती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।