LLM-based Detection of Manipulative Political Narratives
यह शोध पत्र एक ऐसा कम्प्यूटेशनल फ्रेमवर्क प्रस्तुत करता है जो 1.2 मिलियन से अधिक सोशल मीडिया पोस्ट्स से पूर्व-निर्धारित श्रेणियों पर निर्भर रहे बिना, विशिष्ट हेरफेर वाली राजनीतिक विमर्शों (नैरेटिव्स) को प्रभावी ढंग से पहचानने और उन्हें संरचित करने के लिए फ़िल्टरिंग और अनसुपरवाइज्ड क्लस्टरिंग हेतु फ्यू-शॉट प्रॉम्प्टिंग को रीजनिंग मॉडल्स के साथ जोड़ता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक विशाल, अराजक शहर का चौक (सोशल मीडिया) है जहाँ लाखों लोग एक साथ चिल्ला रहे हैं। कुछ लोग सिर्फ मौसम की शिकायत कर रहे हैं या मेयर की नई नीति की आलोचना कर रहे हैं (वैध आलोचना)। लेकिन अन्य लोग एक विशिष्ट, समन्वित कहानी फुसफुसा रहे हैं जिसे लोगों को डराने, अपने पड़ोसियों से नफरत करने या व्यवस्था में विश्वास खोने के लिए बनाया गया है (हेरफेर करने वाली कहानियाँ)।
समस्या यह है कि वे "फुसफुसाहटें" अक्सर "शिकायतों" जैसी ही सुनाई देती हैं। वे समान शब्दों का उपयोग करती हैं, लेकिन उनका इरादा अलग होता है। एक व्यक्ति कह रहा है, "मेयर अपना काम ठीक से नहीं कर रहा है," जबकि दूसरा कह रहा है, "मेयर गुप्त रूप से हमारे शहर को नष्ट करने के लिए एलियंस के साथ मिलकर काम कर रहा है।" दोनों मेयर की आलोचना कर रहे हैं, लेकिन केवल एक ही हेरफेर करने वाला जाल है।
यह शोध पत्र एक नए, स्मार्ट सिस्टम का वर्णन करता है जिसे म्यूनिख के 'यूनिवर्सिटी ऑफ द बुंडेसवेहर' के शोधकर्ताओं द्वारा 1.2 मिलियन सोशल मीडिया पोस्ट के समुद्र में उन विशिष्ट "जालों" को खोजने के लिए बनाया गया है। उन्होंने इसे कैसे किया, इसके सरल उपमाओं का उपयोग करते हुए यहाँ बताया गया है:
1. "स्मार्ट बाउंसर" (फ़िल्टर)
सबसे पहले, शोधकर्ताओं को वास्तविक आलोचकों और हेरफेर करने वालों को अलग करने की आवश्यकता थी। वे केवल कंप्यूटर को "झूठ खोजने" के लिए नहीं कह सकते थे, क्योंकि हेरफेर करने वाले झूठ बोलने के लिए सच का उपयोग करते हैं (जैसे, "हाँ, अर्थव्यवस्था खराब है, और यहाँ एक फर्जी कहानी है कि इसका कारण कौन है")।
इसके बजाय, उन्होंने एक शक्तिशाली AI (एक लार्ज लैंग्वेज मॉडल) का उपयोग करके एक स्मार्ट बाउंसर बनाया।
- यह कैसे काम करता है: उन्होंने AI को एक विशिष्ट नियम पुस्तिका और "बुरे तत्वों" (जैसे कि समाचार साइटों की नकल करने वाले या फर्जी घोटाले गढ़ने वाले समूह) के कुछ उदाहरण दिए।
- चाल: उन्होंने AI को बताया, "यदि आप ऐसी कहानी सुनते हैं जो लोगों को गुस्सा दिलाने या डराने के लिए एक समन्वित साजिश जैसी लगती है, तो उसे फ्लैग करें। लेकिन यदि यह टैक्स के बारे में परेशान होने वाला एक सामान्य व्यक्ति है, तो उसे जाने दें।"
- परिणाम: AI ने एक बहुत ही सख्त बाउंसर की तरह काम किया। इसने लगभग सभी संभावित हेरफेर करने वाली कहानियों को आगे जाने दिया (भले ही इसने गलती से कुछ सामान्य लोगों को भी अंदर आने दिया हो), क्योंकि कुछ अतिरिक्त लोगों को पकड़ लेने से बेहतर है कि किसी खतरनाक साजिश को मिस न किया जाए।
2. "मूड मैप" (क्लस्टरिंग)
बाउंसर द्वारा पोस्ट को फ़िल्टर करने के बाद, शोधकर्ताओं के पास "संदिग्ध" कहानियों का ढेर था। अब, उन्हें उन्हें समूहों में बांटने की आवश्यकता थी।
- उपमा: कल्पना कीजिए कि हजारों रंगीन मार्बल्स को एक बड़े बक्से में फेंक दिया गया है। कुछ लाल हैं, कुछ नीले हैं, लेकिन वे सभी आपस में मिले हुए हैं।
- विधि: उन्होंने इन मार्बल्स को व्यवस्थित करने के लिए एक विशेष मानचित्र बनाने वाले टूल (जिसे UMAP और HDBSCAN कहा जाता है) का उपयोग किया। उन्हें विषय (जैसे, "अर्थव्यवस्था के बारे में सभी पोस्ट") के आधार पर समूहबद्ध करने के बजाय, उन्होंने उन्हें वाइब (vibe) या इरादे (जैसे, "वे सभी पोस्ट जो विश्वासघात जैसा महसूस कराते हैं") के आधार पर समूहबद्ध किया।
- जादू: क्योंकि उन्होंने कंप्यूटर को यह नहीं बताया कि किन समूहों की तलाश करनी है, कंप्यूटर ने अपने आप कहानियों के 41 अलग-अलग "कबीले" खोज निकाले। यह एक भीड़ भरे कमरे में जाने और यह महसूस करने जैसा है कि, "ओह, इस कोने में हर कोई एक गुप्त सरकारी साजिश के बारे में फुसफुसा रहा है, जबकि उस कोने में हर कोई एलियंस के बारे में फुसफुसा रहा है।"
3. "स्टोरी समराइज़र" (लेबलिंग)
एक बार समूह बन जाने के बाद, शोधकर्ताओं को यह जानने की आवश्यकता थी कि प्रत्येक समूह वास्तव में क्या कह रहा है।
- प्रक्रिया: उन्होंने प्रत्येक समूह के शीर्ष पोस्ट लिए और एक अत्यंत बुद्धिमान AI से पूरे समूह के लिए एक-लाइन की हेडलाइन लिखने को कहा।
- आउटपुट: कीवर्ड्स की एक उबाऊ सूची (जैसे "अर्थव्यवस्था, गैस, युद्ध") देने के बजाय, AI ने पूरी कहानियाँ दीं।
- उदाहरण समूह 1: "सरकार हमें अपने बच्चों को बदलने के लिए खतरनाक प्रवासियों को लाने के माध्यम से धोखा दे रही है।"
- उदाहरण समूह 2: "सरकार अमीर लॉबिस्टों के लिए फर्जी युद्ध लड़ने के लिए अपने शांति की बलि दे रही है।"
उन्होंने क्या पाया?
जब उन्होंने इस सिस्टम को जर्मनी के 1.2 मिलियन से अधिक पोस्ट पर लागू किया, तो उन्होंने 41 विशिष्ट हेरफेर करने वाली कहानियाँ पाईं। ये चार मुख्य "थीम" या स्तंभों में विभाजित थीं:
- द ग्रेट रिप्लेसमेंट (The Great Replacement): यह विचार कि सरकार जानबूझकर मूल आबादी को प्रवासियों के साथ बदल रही है।
- द प्रॉक्सी वॉर (The Proxy War): यह विचार कि जर्मनी केवल अमेरिका का एक कठपुतली है, जो रूस के खिलाफ लड़ने के लिए अपने ही लोगों की बलि दे रहा है।
- द क्लाइमेट डिक्टेटरशिप (The Climate Dictatorship): यह विचार कि जलवायु परिवर्तन आम लोगों को नियंत्रित करने और उन्हें कंगाल बनाने के लिए अभिजात वर्ग द्वारा बनाया गया एक ढोंग है।
- द सेवियर नैरेटिव (The Savior Narrative): यह विचार कि सभी पारंपरिक दल भ्रष्ट हैं, और केवल एक विशिष्ट राजनीतिक दल (और एलन मस्क जैसे बाहरी व्यक्ति) ही देश को बचा सकता है।
यह क्यों महत्वपूर्ण है
शोधकर्ताओं ने पाया कि पारंपरिक तरीके (जैसे केवल शब्दों की आवृत्ति गिनना) यहाँ विफल हो जाते हैं क्योंकि वे कहानी को मिस कर देते हैं। आपके पास "गैस की कीमतों" के बारे में एक पोस्ट हो सकती है जो एक सामान्य शिकायत है, और दूसरी भी हो सकती है जो एक साजिश सिद्धांत का हिस्सा है।
यह नया सिस्टम एक जासूस की तरह है जो केवल पन्ने पर लिखे शब्दों को नहीं देखता, बल्कि कथानक (plot) को समझता है। इसने सामान्य राजनीतिक बहस के "शोर" (noise) को समन्वित हेरफेर के "सिग्नल" (signal) से सफलतापूर्वक अलग कर दिया, भले ही हेरफेर करने वाले एक फर्जी कहानी बताने के लिए वास्तविक तथ्यों का उपयोग कर रहे हों।
महत्वपूर्ण नोट: शोधकर्ता इस बात पर जोर देते हैं कि उनका सिस्टम समन्वित साजिशों को खोजने के लिए बनाया गया है, न कि यह निर्णय लगाने के लिए कि किसी व्यक्ति की व्यक्तिगत राय सही है या गलत। कभी-कभी, एक सामान्य व्यक्ति कुछ ऐसा कह सकता है जो एक साजिश जैसा लगता है, और सिस्टम उसे फ्लैग कर सकता है। लेकिन चूंकि सिस्टम चीजों को एक साथ समूहबद्ध करता है, इसलिए वे एकल, अलग-थलग आवाजें आमतौर पर "शोर" के रूप में फ़िल्टर हो जाती हैं, जिससे केवल बड़े, समन्वित किस्से ही दिखाई देते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।