A Causal Graph Approach to Oppositional Narrative Analysis
यह शोध पत्र एक ग्राफ-आधारित ढांचे का प्रस्ताव करता है जो आख्यानों (narratives) को इकाई-परस्पर क्रिया ग्राफ (entity-interaction graphs) के रूप में मॉडल करता है और न्यूनतम कारण उप-ग्राफ (minimal causal subgraphs) निकालने के लिए कारण अनुमान (causal estimation) का उपयोग करता है, जिससे पारंपरिक ब्लैक-बॉक्स मॉडल में निहित पूर्वाग्रहों को कम करते हुए विरोधी आख्यानों को वर्गीकृत करने में उत्कृष्ट प्रदर्शन प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रहस्य सुलझाने वाले जासूस हैं: क्या यह टेक्स्ट एक निर्दोष राय है, या यह एक समन्वित साजिश (conspiracy theory) है?
आज के अधिकांश AI जासूस एक "ब्लैक बॉक्स" की तरह काम करते हैं। वे एक वाक्य पढ़ते हैं, उत्तर का अनुमान लगाते हैं, और कहते हैं, "यह एक साजिश है!" लेकिन वे वास्तव में यह नहीं समझा सकते कि क्यों। वे बस पैटर्न पहचानते हैं, जैसे कि एक कुत्ता बिना यह समझे कि गेंद क्या है, उसे पहचान लेता है। वे उस डेटा से भी पक्षपाती हो सकते हैं जिस पर उन्हें प्रशिक्षित किया गया था।
यह शोध पत्र एक नए प्रकार के जासूस को पेश करता है: द कॉज़ल ग्राफ डिटेक्टिव (The Causal Graph Detective)। केवल शब्दों को पढ़ने के बजाय, यह जासूस विचारों के बीच संबंध का एक दृश्य मानचित्र (visual map) बनाता है, यह पता लगाता है कि कौन से विचार वास्तव में साजिश का कारण बन रहे हैं, और फिर अपने तर्क को समझाता है।
यह कैसे काम करता है, इसे सरल चरणों में यहाँ दिया गया है:
1. द मैप मेकर (ग्राफ बनाना)
कल्पना कीजिए कि आप "सरकार वैक्सीन और 5G टावरों के बारे में सच छिपा रही है" के बारे में एक टेक्स्ट पढ़ रहे हैं।
- पुराना तरीका: AI "सरकार", "वैक्सीन" और "5G" जैसे शब्दों को देखता है और बस उन्हें गिनता है।
- इस शोध पत्र का तरीका: AI एक मानचित्रकार (cartographer) की तरह कार्य करता है। यह मुख्य पात्रों (entities) को निकालता है और उनके बीच रेखाएं खींचता है ताकि यह दिखाया जा सके कि वे कैसे परस्पर क्रिया करते हैं।
- पात्र A: सरकार।
- पात्र B: वैक्सीन।
- पात्र C: 5G टावर।
- मानचित्र: यह एक रेखा खींचता है जो कहती है, "सरकार वैक्सीन और 5G के बारे में सच छिपा रही है।"
यह एक बाइपार्टिट ग्राफ़ (Bipartite Graph) बनाता है। इसे एक सबवे मैप की तरह समझें। स्टेशनों का एक सेट "पात्रों" (सरकार, वैक्सीन) का है, और दूसरा सेट "कार्यों/संबंधों" (छिपाना, जोड़ना) का है। रेखाएं दिखाती हैं कि पात्र कैसे एक ही नैरेटिव के माध्यम से यात्रा कर रहे हैं।
2. द "कॉज-एंड-इफेक्ट" फ़िल्टर (कॉज़ल डिस्टिलेशन)
अब, जासूस के पास एक मानचित्र है, लेकिन मानचित्र अव्यवस्थित है। इसमें बहुत अधिक स्टेशन हैं। कुछ केवल बैकग्राउंड शोर (जैसे "द" या "है") हैं। जासूस को असली दोषियों को खोजने की आवश्यकता है।
शोध पत्र कॉज़ल ग्राफ़ डिस्टिलेशन (Causal Graph Distillation) नामक तकनीक का उपयोग करता है।
- उपमा: कल्पना कीजिए कि आप यह पता लगाने की कोशिश कर रहे हैं कि केक का स्वाद खराब क्यों है। आपके पास 20 सामग्रियों की एक सूची है।
- पुराना तरीका: आप पूरा केक चखते हैं और कहते हैं, "यह मैदा है!" (लेकिन शायद वह नमक था)।
- नया तरीका: आप केक को अलग-अलग करते हैं। आप मैदा हटाते हैं और फिर से स्वाद लेते हैं। फिर आप नमक हटाते हैं। आप एक-एक करके सामग्री हटाते रहते हैं जब तक कि केक फिर से अच्छा न हो जाए।
- परिणाम: आपको एहसास होता है, "आहा! यदि मैं नमक हटा दूँ, तो केक ठीक है। नमक ही खराब स्वाद का कारण था।"
शोध पत्र में, AI इस प्रक्रिया को टेक्स्ट के साथ करता है। यह पूछता है: "यदि मैं मानचित्र से 'सरकार' शब्द हटा दूँ, तो क्या टेक्स्ट अभी भी एक साजिश जैसा दिखेगा?"
- यदि उत्तर नहीं है (टेक्स्ट अब साजिश जैसा नहीं दिखता), तो "सरकार" एक कॉज़ल ड्राइवर (Causal Driver) था।
- यदि उत्तर हाँ है (यह अभी भी एक साजिश जैसा दिखता है), तो वह शब्द केवल शोर था।
यह प्रक्रिया एक "मिनिमल कॉज़ल सबग्राफ़" (Minimal Causal Subgraph) बनाती है। यह पूरे सबवे मैप को केवल उन तीन सबसे महत्वपूर्ण स्टेशनों तक सिकोड़ने जैसा है जिन्होंने वास्तव में ट्रेन को दुर्घटनाग्रस्त किया।
3. परिणाम: एक स्मार्ट, हल्का जासूस
लेखकों ने इसका परीक्षण COVID-19 के बारे में टेलीग्राम संदेशों के एक डेटासेट पर किया।
- प्रदर्शन: उनके "कॉज़ल डिटेक्टिव" ने 1.0 में से 0.93 का स्कोर प्राप्त किया, जो अन्य सभी टीमों को पीछे छोड़ दिया।
- दक्षता: यह आश्चर्यजनक रूप से हल्का है। जबकि अन्य शीर्ष टीमें भारी कंप्यूटरों (जैसे एक सेमी-ट्रक) का उपयोग करती हैं, यह मॉडल एक बहुत छोटे इंजन (एक कॉम्पैक्ट कार) पर चलता है, लेकिन उतनी ही तेज़ गति से चलता है।
- व्याख्यात्मकता (Explainability): क्योंकि इसने मानचित्र बनाया और शोर को हटाया, यह आपको ठीक से दिखा सकता है कि किन शब्दों ने इसे "साजिश" तय करने का निर्णय लिया। यह केवल अनुमान नहीं लगाता; यह इसे सिद्ध करता है।
यह क्यों मायने रखता है?
साजिशें खतरनाक हैं क्योंकि वे लोगों को हेरफेर करती हैं। उनसे लड़ने के लिए, हमें ऐसे उपकरणों की आवश्यकता है जो टेक्स्ट में छिपे समन्वित हमलों (coordinated attacks) को पहचान सकें।
- वर्तमान उपकरण मेटल डिटेक्टर की तरह हैं: वे धातु मिलने पर बीप करते हैं, लेकिन वे आपको यह नहीं बताते कि वह सिक्का है या बम।
- यह उपकरण बम निरोधक विशेषज्ञ (bomb squad expert) की तरह है: यह उपकरण को विच्छेदित करता है, ट्रिगर (कॉज़ल एंटिटी) को ढूंढता है, और आपको बताता है कि यह क्यों खतरनाक है।
कमी (सीमाएँ)
शोध पत्र कुछ बातें स्वीकार करता है:
- "नकली" काउंटरफैक्चुअल्स (Fake Counterfactuals): चूंकि हम वास्तव में समय में पीछे जाकर यह नहीं देख सकते कि किसी विशिष्ट शब्द के बिना टेक्स्ट कैसा होता, इसलिए AI को इसे सिमुलेट करना पड़ता है। यह एक बहुत अच्छा अनुमान है, लेकिन पूर्ण सत्य नहीं।
- स्पिलओवर (Spillover): कभी-कभी, एक शब्द को हटाने से उसके बगल वाले शब्दों का अर्थ बदल जाता है (जैसे कि "नहीं" को हटाने से पूरा वाक्य बदल जाता है)। AI इसे ठीक करने के लिए कड़ी मेहनत कर रहा है, लेकिन यह कठिन है।
सारांश
यह शोध पत्र टेक्स्ट का विश्लेषण करने का एक नया तरीका प्रस्तावित करता है जो केवल शब्दों को "पढ़ता" नहीं है बल्कि उनके बीच के संबंधों को समझता है। टेक्स्ट को एक मानचित्र में बदलकर और फिर अनावश्यक हिस्सों को काटकर "मूल कारणों" को खोजकर, यह एक ऐसा सिस्टम बनाता है जो न केवल साजिशों को पहचानने में अधिक सटीक है, बल्कि इतना पारदर्शी भी है कि यह समझा सके कि इसने वह निर्णय क्यों लिया। यह "ब्लैक बॉक्स" अनुमान से "ग्लास बॉक्स" समझ की ओर एक कदम है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।