Reliable News or Propagandist News? A Neurosymbolic Model Using Genre, Topic, and Persuasion Techniques to Improve Robustness in Classification
यह शोध पत्र एक न्यूरोसिम्बोलिक मॉडल प्रस्तावित करता है जो मानक भाषा मॉडल दृष्टिकोणों की तुलना में प्रोपेगेंडा (प्रचार) का पता लगाने की मजबूती और सामान्यीकरण को बढ़ाने के लिए गैर-संदर्भगत टेक्स्ट एम्बेडिंग को शैली, विषय और अनुनय तकनीकों जैसे प्रतीकात्मक लक्षणों के साथ जोड़ता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ इस शोध पत्र (paper) का विवरण दिया गया है, जिसे सरल भाषा और कुछ रचनात्मक उपमाओं (analogies) के साथ समझाया गया है।
समस्या: भेड़ के रूप में भेड़िया
कल्पना कीजिए कि आप एक जंगल (इंटरनेट) में ताज़ा, साफ़ पानी (विश्वसनीय समाचार) की तलाश में घूम रहे हैं। अचानक, आपको एक धारा दिखाई देती है जो बिल्कुल असली चीज़ जैसी दिखती है। इसमें वही साफ़ पानी है, वही पत्थर हैं, और यहाँ तक कि वही मछलियाँ भी हैं। लेकिन यदि आप इसे पीते हैं, तो आप बीमार पड़ जाते हैं। यही प्रचार (propaganda) है।
प्रचार बहुत चालाकी भरा होता है क्योंकि यह केवल झूठ नहीं बोलता; यह वास्तविक समाचारों की इतनी सटीक नकल करता है कि अंतर करना कठिन हो जाता है। यह आपको धोखा देने के लिए तथ्यों को छिपे हुए, पक्षपाती संदेशों के साथ मिला देता है।
पुराना समाधान: "सुपर-इंटेलिजेंट" जासूस
कुछ समय के लिए, शोधकर्ताओं ने इन नकली धाराओं को पकड़ने के लिए AI जासूसों (जैसे BERT या RoBERTa) का उपयोग करने की कोशिश की। ये सुपर-स्मार्ट कंप्यूटर हैं जो लाखों लेख पढ़ते हैं।
खामी: ये AI जासूस उन छात्रों की तरह थे जिन्होंने एक विशिष्ट परीक्षा के लिए उत्तर कुंजी (answer key) रट ली थी। यदि आप उन्हें किसी दूसरी किताब से कोई प्रश्न देते, तो वे घबरा जाते थे। उन्होंने प्रचार की अवधारणा (concept) को समझने के बजाय अपने प्रशिक्षण डेटा (training data) से विशिष्ट शब्दों या पैटर्न को रट लिया था। जब उनके सामने फर्जी समाचार का कोई नया स्रोत आता, तो वे अक्सर विफल हो जाते थे।
नया समाधान: "न्यूरोसिम्बोलिक" जासूस
इस शोध पत्र के लेखकों ने एक नए प्रकार का जासूस बनाया है। वे इसे एक न्यूरोसिम्बोलिक मॉडल (Neurosymbolic Model) कहते हैं। इसे एक ऐसे जासूस के रूप में सोचें जिसके पास दो अलग-अलग उपकरण हैं:
- अंतर्ज्ञान (Intuition - Neural): यह AI वाला हिस्सा है। यह टेक्स्ट को पढ़ता है और शब्दों के बारे में एक "एहसास" प्राप्त करता है, ठीक वैसे ही जैसे एक इंसान वाक्य पढ़ते समय महसूस करता है।
- चेकलिस्ट (Checklist - Symbolic): यह मानवीय तर्क वाला हिस्सा है। केवल अनुमान लगाने के बजाय, यह टूल एक क्लिपबोर्ड पर विशिष्ट बॉक्स चेक करता है:
- शैली (Genre): क्या यह एक सीधा समाचार रिपोर्ट है, एक विचार (opinion) लेख है, या एक व्यंग्य (satire/मजाक) है?
- विषय (Topic): यह वास्तव में किस बारे में है?
- अनुनय के तरीके (Persuasion Tricks): क्या यह भावनात्मक हेरफेर का उपयोग कर रहा है? क्या यह एक ही वाक्यांश को बार-बार दोहरा रहा है? क्या यह गुस्से से भर देने वाले "भारित" (loaded) शब्दों का उपयोग कर रहा है?
प्रयोग: "जंगल" परीक्षण
यह देखने के लिए कि क्या उनका नया जासूस बेहतर है, शोधकर्ताओं ने परीक्षणों की एक श्रृंखला आयोजित की। उन्होंने जासूस को केवल रैंडम लेखों पर टेस्ट नहीं किया; उन्होंने विशेष "जाल" बनाए ताकि यह देखा जा सके कि क्या जासूस नई स्थितियों को संभाल सकता है।
- रैंडम ट्रैप (The Random Trap): केवल रैंडम लेख चुनना (आसान परीक्षण)।
- "नया स्रोत" ट्रैप (The "New Source" Trap): जासूस को ऐसे समाचार आउटलेट्स के लेख देना जिन्हें उसने पहले कभी नहीं देखा था।
- "नई राजनीति" ट्रैप (The "New Politics" Trap): उसे ऐसे राजनीतिक विचारों वाले लेख देना जिनका सामना उसने प्रशिक्षण के दौरान नहीं किया था।
- "विश्वसनीयता" ट्रैप (The "Credibility" Trap): उसे अविश्वसनीय माने जाने वाले स्रोतों के लेख देना।
परिणाम: क्यों चेकलिस्ट जीतती है
यहाँ हुआ क्या:
- पुराना AI (केवल टेक्स्ट): जब जासूस को एक नए स्रोत या एक नए राजनीतिक दृष्टिकोण वाले लेख दिए गए, तो वह भ्रमित हो गया। वह उन विशिष्ट शब्दों पर बहुत अधिक निर्भर था जिन्हें उसने रटा था। वह "नया स्रोत" और "विश्वसनीयता" परीक्षणों में विफल रहा, और अक्सर पूरी तरह से हार मान गया (शून्य के करीब स्कोर)।
- नया हाइब्रिड जासूस (The New Hybrid Detective): इस जासूस ने अपना धैर्य बनाए रखा। भले ही उसने एक नया स्रोत देखा, उसने अपनी चेकलिस्ट देखी। उसने गौर किया, "अरे, यह लेख एक समाचार रिपोर्ट होने का दावा करता है, लेकिन यह 10 अलग-अलग अनुनय के तरीकों का उपयोग कर रहा है और इसमें कोई स्रोत नहीं है।"
- परिणाम: हाइब्रिड मॉडल बहुत अधिक मजबूत (robust) था। उसने केवल शब्दों को नहीं रटा; बल्कि उसने धोखे की संरचना को समझा।
"क्यों" (व्याख्यात्मकता/Explainability)
इस शोध पत्र का सबसे शानदार हिस्सा यह है कि हम वास्तव में देख सकते हैं कि नए जासूस ने अपना निर्णय क्यों लिया।
- आसान मामलों में (रैंडम लेख), जासूस मुख्य रूप से अपने अंतर्ज्ञान (शब्दों को पढ़ने) पर निर्भर था।
- कठिन मामलों में (नए, संदिग्ध स्रोत), जासूस ने अपनी चेकलिस्ट का उपयोग करना शुरू कर दिया। उसने महसूस किया कि शब्द पर्याप्त नहीं हैं, इसलिए उसने "अनुनय के तरीकों" और "शैली" के सुरागों पर अधिक जोर दिया ताकि फर्जी समाचार को पकड़ा जा सके।
निचोड़ (The Bottom Line)
यह शोध पत्र तर्क देता है कि आधुनिक प्रचार को पकड़ने के लिए, हम केवल उस AI पर भरोसा नहीं कर सकते जो केवल टेक्स्ट पढ़ता है। हमें AI को यह भी सिखाना होगा कि टेक्स्ट को कैसे बनाया गया है।
उपमा (Analogy):
- पुराना AI: एक व्यक्ति जो एक विशिष्ट केक की रेसिपी जानता है। यदि आप उसे एक अलग केक देते हैं, तो वह नहीं जानता कि वह क्या है।
- नया हाइब्रिड AI: एक व्यक्ति जो रेसिपी भी जानता है और जिसके पास सामग्री की एक चेकलिस्ट भी है। यदि आप उसे एक ऐसा केक देते हैं जो केक जैसा दिखता है लेकिन साबुन और ग्लिटर (चमक) से बना है (प्रचार), तो चेकलिस्ट चिल्लाती है, "रुको, इसमें साबुन है!"
AI की पढ़ने की गति को मानवीय तर्क वाली चेकलिस्ट के साथ जोड़कर, शोधकर्ताओं ने एक ऐसी प्रणाली बनाई है जिसे धोखा देना बहुत कठिन है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।