CORE: Conflict-Oriented Reasoning for General Multimodal Manipulation Detection
यह शोध पत्र CORE का प्रस्ताव करता है, जो एक संघर्ष-उन्मुख तर्क ढांचा (conflict-oriented reasoning framework) है जो अंतर्निहित अर्थ संबंधी या भौतिक विसंगतियों की पहचान करके सामान्यीकरण योग्य फर्जी समाचारों का पता लगाने की मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स की क्षमता को बढ़ाने के लिए एक नव-निर्मित 'कॉन्फ्लिक्ट एट्रिब्यूशन कॉर्पस' का लाभ उठाता है, जिससे मौजूदा अत्याधुनिक विधियों की तुलना में फ्यू-शॉट और जीरो-शॉट परिदृश्यों में बेहतर प्रदर्शन प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, हलचल भरा बाज़ार है जहाँ लोग कहानियाँ, चित्र और समाचारों का व्यापार करते हैं। हाल ही में, एक नए प्रकार का व्यापारी आया है: जेनेरेटिव एआई (Generative AI)। ये व्यापारी चित्र बनाने और कहानियाँ लिखने में इतने कुशल हैं कि वे ऐसी "फेक न्यूज" बना सकते हैं जो पूरी तरह से असली और वास्तविक लगती है। यह एक उस्ताद जालसाज की तरह है जो राष्ट्रपति को फुटबॉल ट्रॉफी जीतते हुए दिखाने वाला एक पोर्ट्रेट पेंट कर सकता है, भले ही ऐसा कभी हुआ ही न हो।
समस्या यह है कि पुराने सुरक्षा गार्ड (वर्तमान डिटेक्शन टूल्स) विशिष्ट प्रकार के नकलीपन को पहचानने के लिए प्रशिक्षित हैं। यदि वे जानते हैं कि "टेढ़ी मुस्कान" को कैसे पहचानना है, तो वे उसे पकड़ लेंगे। लेकिन अगर जालसाज ने अपनी तकनीक बदलकर "अजीब रोशनी" का इस्तेमाल कर लिया, तो पुराने गार्ड भ्रमित हो जाते हैं। उन्हें हर बार जब जालसाज अपनी शैली बदलता है, तो शून्य से फिर से प्रशिक्षित करने की आवश्यकता होती है, जिसमें बहुत अधिक समय और डेटा लगता है।
CORE से मिलिए: "कॉन्फ्लिक्ट डिटेक्टिव" (टकराव का जासूस)
इस शोध पत्र के लेखकों, जिंजिए शेन (Jinjie Shen) और उनकी टीम ने महसूस किया कि सभी फर्जी खबरों में एक बात समान होती है: उनका कोई अर्थ नहीं होता। उनमें एक आंतरिक विरोधाभास होता है।
इसे एक जासूस द्वारा रहस्य सुलझाने की तरह समझें।
- पुराना तरीका: जासूस हर ज्ञात अपराधी का चेहरा याद कर लेता है। यदि कोई नया अपराधी अलग चेहरे के साथ आता है, तो जासूस विफल हो जाता है।
- CORE का तरीका: जासूस अपराध के तर्क (logic) को सीखता है। वह पूछता है: "क्या यह कहानी दुनिया के बारे में मेरी जानकारी के विपरीत है?"
CORE (कॉन्फ्लिक्ट-ओरिएंटेड रीजनिंग) एक स्मार्ट कंप्यूटर मस्तिष्क (जिसे मल्टीमॉडल लार्ज लैंग्वेज मॉडल कहा जाता है) को वह तर्क-आधारित जासूस बनने की शिक्षा देता है। विशिष्ट नकली चीजों को याद करने के बजाय, यह टकराव (conflict) को पहचानना सीखता है।
CORE कैसे काम करता है: तीन चरणों वाला प्रशिक्षण शिविर
इस कंप्यूटर मस्तिष्क को सिखाने के लिए, शोधकर्ताओं ने तीन भागों वाला एक विशेष प्रशिक्षण कार्यक्रम बनाया:
1. "कॉन्फ्लिक्ट लाइब्रेरी" (द कॉन्फ्लिक्ट एट्रिब्यूशन कॉर्पस)
सबसे पहले, उन्हें एक पाठ्यपुस्तक की आवश्यकता थी। उन्होंने 14,000 फर्जी खबरों की एक विशाल लाइब्रेरी बनाई। लेकिन उन्होंने उन्हें केवल "नकली" के रूप में लेबल नहीं किया। उन्होंने उन्हें एक फॉरेंसिक विशेषज्ञ की तरह विस्तार से समझा:
- कॉन्फ्लिक्ट फैक्टर (टकराव का कारक): विरोधाभास क्या है? (जैसे, "टेक्स्ट कहता है 'राष्ट्रपति' लेकिन चित्र एक फुटबॉल पुरस्कार दिखाता है।")
- कॉन्फ्लिक्ट सोर्स (टकराव का स्रोत): झूठ कहाँ से आया? (जैसे, "टेक्स्ट झूठ बोल रहा है," या "इमेज झूठ बोल रही है," या "यह वास्तविक दुनिया के तथ्यों के विपरीत है।")
- उपमा: यह एक छात्र को परीक्षा देने जैसा है जहाँ वह केवल "गलत" नहीं लिखता, बल्कि यह भी लिखता है कि उत्तर गलत क्यों है और प्रश्न के किस हिस्से के कारण त्रुटि हुई।
2. "ब्रिज बिल्डर" (मोडैलिटी ब्रिजिंग प्री-ट्रेनिंग)
कंप्यूटर अक्सर यह जोड़ने में संघर्ष करते हैं कि वे क्या "देखते" हैं (चित्र) और क्या "पढ़ते" हैं (टेक्स्ट)। कभी-कभी, कंप्यूटर फुटबॉल के मैदान का चित्र देखता है लेकिन "राष्ट्रपति" शब्द वाले टेक्स्ट को वास्तव में नहीं समझ पाता।
- CORE इन दोनों दुनियाओं के बीच एक पुल बनाता है। यह कंप्यूटर को एक चित्र देखने और तुरंत उसके टेक्स्ट विवरण को समझने, और इसके विपरीत, प्रशिक्षित करता है, ताकि वे एक ही भाषा बोल सकें।
3. "लॉजिक जिम" (कॉन्फ्लिक्ट परसेप्शन ट्रेनिंग)
अब, कंप्यूटर जिम जाता है। "कॉन्फ्लिक्ट लाइब्रेरी" का उपयोग करके, वह विरोधाभासों को पहचानने का अभ्यास करता है।
- कंप्यूटर अपने दिमाग में "विरोधाभासी विचारों" को एक-दूसरे से दूर धकेलना सीखता है। यदि वह "राष्ट्रपति" और "फुटबॉल पुरस्कार" को एक साथ देखता है, तो वह चिल्लाकर कहना सीख जाता है: "रुको! ये दोनों चीजें एक साथ नहीं हो सकतीं!"
- वह यह कहना सीख जाता है: "यह फर्जी है क्योंकि टेक्स्ट दावा करता है X, लेकिन इमेज दिखाती है Y, और मेरी जानकारी कहती है कि X और Y एक साथ नहीं हो सकते।"
यह गेम-चेंजर क्यों है
शोध पत्र दिखाता है कि यह नया दृष्टिकोण अविश्वसनीय रूप से तेज़ और लचीला है।
"फ्यू-शॉट" (Few-Shot) की महाशक्ति: कल्पना कीजिए कि आप एक गार्ड को एक नए प्रकार की फर्जी खबर (जैसे, किसी विशिष्ट नए सेलिब्रिटी का डीपफेक) को पहचानने के लिए सिखाना चाहते हैं।
- पुराने तरीके: उस विशिष्ट सेलिब्रिटी के हजारों उदाहरणों की आवश्यकता होती है।
- CORE: इसे केवल कुछ ही उदाहरणों की आवश्यकता होती (कभी-कभी केवल 100, या शून्य!)। क्योंकि यह पहले से ही टकराव के तर्क को समझता है, यह तुरंत उस तर्क को नए सेलिब्रिटी पर लागू कर सकता है। यह किसी को शतरंज के नियम समझाकर खेलने के लिए तैयार करने जैसा है, बजाय इसके कि उसे हर संभव खेल को याद करने के लिए मजबूर किया जाए।
"ज़ीरो-शॉट" (Zero-Shot) का चमत्कार: कुछ परीक्षणों में, CORE उन ब्रांड-न्यू प्रकार की फर्जी खबरों को भी पहचान सका जिन्हें उसने पहले कभी नहीं देखा था, बस खबर को पढ़कर और यह पूछकर कि, "क्या यह तर्कसंगत है?"
निष्कर्ष
पेपर का दावा है कि आंतरिक टकराव (तार्किक विरोधाभास) पर ध्यान केंद्रित करके, न कि विशिष्ट दृश्य ट्रिक (जालसाजी तकनीक) पर, CORE एक ऐसा डिटेक्टर बनाता है जो मजबूत, सामान्य और नया सीखने के लिए विशाल डेटा लाइब्रेरी पर निर्भर नहीं है। यह कंप्यूटर को एक क्रिटिकल थिंकर (गंभीर विचारक) में बदल देता है जो पूछता है, "क्या यह कहानी तर्कसंगत है?" बजाय इसके कि "क्या मैंने यह चित्र पहले देखा है?"
शोधकर्ताओं ने अपनी "कॉन्फ्लिक्ट लाइब्रेरी" और अपना कोड जनता के लिए उपलब्ध करा दिया है, इस उम्मीद में कि अन्य लोग इंटरनेट को ईमानदार बनाए रखने के लिए इस "तर्क-आधारित जासूस" का उपयोग कर सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।