Predicting, Evaluating, and Explaining Top Misinformation Spreaders via Archetypal User Behavior
यह शोध पत्र तीन विशिष्ट उपयोगकर्ता श्रेणियों (एम्प्लीफायर, सुपर-स्प्रेडर और समन्वित खाते) को मॉडल करके शीर्ष दुष्प्रचार फैलाने वालों के पूर्वानुमान, मूल्यांकन और स्पष्टीकरण के लिए एक रूपरेखा प्रस्तावित करता है, जो यह प्रदर्शित करता है कि सुपर-स्प्रेडर के लक्षण शीर्ष रैंकिंग पर हावी हैं जबकि टेम्पोरल डायनेमिक्स और व्याख्यात्मक एआई (एक्सप्लेनेबल एआई) सक्रिय सामग्री मॉडरेशन के लिए भविष्य कहने वाली सटीकता और व्याख्यात्मकता को बढ़ाते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
सोशल मीडिया पर, जानकारी विचार की गति से चलती है, लेकिन इसे साझा करने वाले सभी लोग एक ही भूमिका नहीं निभाते हैं। कुछ लोग मूल कहानियाँ बनाते हैं, जबकि अन्य उन्हें केवल आगे बढ़ाते हैं, और कुछ लोग मिलकर यह सुनिश्चित करने के लिए काम करते हैं कि एक संदेश अधिक से अधिक आँखों तक पहुँचे। जब गलत जानकारी फैलती है, तो यह शायद किसी एक व्यक्ति की गलती नहीं होती; इसके बजाय, यह विभिन्न प्रकार के उपयोगकर्ताओं के व्यवहार का एक जटिल जाल है जहाँ अलग-अलग उपयोगकर्ता नैरेटिव को बढ़ाते हैं, समन्वित करते हैं और लॉन्च करते हैं। इन लोगों को समझना और वे कैसे काम करते हैं, यह जानना महत्वपूर्ण है क्योंकि झूठी कहानियाँ जनमत को विकृत कर सकती हैं, विज्ञान में विश्वास को कम कर सकती हैं, और वास्तविक दुनिया में नुकसान पहुँचा सकती हैं। प्लेटफॉर्म के लिए चुनौती यह है कि जब तक किसी गलत कहानी को चिह्नित और हटाया जाता है, तब तक वह अक्सर इतना दूर जा चुकी होती है कि उसे रोका न जा सके। इसे गति पकड़ने से पहले रोकने के लिए, शोधकर्ताओं को यह पहचानने का एक तरीका चाहिए कि कौन से खाते सबसे अधिक नुकसान पहुँचाने की संभावना रखते हैं, उनके इरादों का अनुमान लगाने के बजाय, उनके वास्तविक व्यवहार को देखकर।
शोधकर्ताओं की एक टीम ने इस समस्या को हल करने के लिए कम विश्वसनीयता वाली सामग्री फैलाने वाले उपयोगकर्ताओं द्वारा छोड़े गए डिजिटल पदचिह्नों (डिजिटल फुटप्रिंट्स) को देखने का लक्ष्य रखा। उन्होंने उन तीन विशिष्ट व्यवहार पैटर्न, या "आर्केटाइप्स" (archetypes) पर ध्यान केंद्रित किया, जिनका ये उपयोगकर्ता पालन करते हैं। पहला समूह, जिसे वे 'एम्प्लीफायर' (amplifiers) कहते हैं, शायद ही कभी अपनी पोस्ट बनाता है। इसके बजाय, वे एक मेगाफोन की तरह काम करते हैं, दूसरों द्वारा बनाई गई सामग्री को उसकी पहुंच बढ़ाने के लिए लगातार रीशेयर करते हैं। दूसरा समूह, जिसे 'सुपर-स्प्रेडर्स' (super-spreaders) के रूप में जाना जाता है, वायरल सामग्री के मूल निर्माता हैं। वे ऐसी पोस्ट लिखते हैं जिन्हें हजारों बार साझा किया जाता है, जो उस चिंगारी की तरह काम करते हैं जो आग लगा देती है। तीसरा समूह समन्वित खातों (coordinated accounts) का है, जो एक ही समय में एक ही संदेश को आगे बढ़ाने के लिए तालमेल के साथ काम करते हैं, जिससे व्यापक सार्वजनिक सहमति का भ्रम पैदा होता है। शोधकर्ताओं ने महसूस किया कि ये भूमिकाएँ हमेशा अलग नहीं होती हैं; एक अकेला उपयोगकर्ता एक कहानी के लिए सुपर-स्प्रेडर और दूसरी के लिए एम्प्लीफायर के रूप में कार्य कर सकता है, या एक समूह एक प्रभावशाली आवाज की नकल करने के लिए अपने कार्यों को समन्वित कर सकता है।
यह परीक्षण करने के लिए कि वे यह कितनी अच्छी तरह अनुमान लगा सकते हैं कि अगली बार कौन गलत सूचना फैलाएगा, शोधकर्ताओं ने महामारी के दौरान ट्विटर से डेटा के दो विशाल संग्रहों का विश्लेषण किया। एक डेटासेट में इटली की बातचीत शामिल थी, जबकि दूसरा कई भाषाओं में पोस्ट का एक वैश्विक संग्रह था। उन्होंने पहले पोस्ट में लिंक की गई वेबसाइटों की विश्वसनीयता के आधार पर सामग्री को लेबल किया, जो एक ऐसी प्रणाली है जो समाचार डोमेन को शून्य से सौ तक रेट करती है। फिर उन्होंने तीन व्यवहारिक आर्केटाइप्स के आधार पर उपयोगकर्ताओं को रैंक करने के लिए विभिन्न गणितीय मॉडल बनाए। कुछ मॉडलों ने इस बात की गणना की कि एक उपयोगकर्ता ने कितनी बार गलत कहानियों को रीशेयर किया, जबकि अन्य ने इस बात को देखा कि एक उपयोगकर्ता ने कहानी पोस्ट होने के बाद कितनी जल्दी उसे साझा किया, या एक उपयोगकर्ता की गतिविधि अन्य लोगों की गतिविधि के साथ कितनी निकटता से मेल खाती है। उन्होंने एक क्लासिक इन्फ्लुएंस स्कोर (प्रभाव स्कोर) का एक नया, समय-संवेदनशील संस्करण भी बनाया जो केवल एक क्षणिक दृश्य देखने के बजाय दिनों और हफ्तों में उपयोगकर्ता की गतिविधि में होने वाले बदलावों को ध्यान में रखता है।
परिणामों ने दिखाया कि सबसे बड़े समस्या पैदा करने वालों को खोजने का सबसे प्रभावी तरीका सुपर-स्प्रेडर्स को खोजना था। जब शोधकर्ताओं ने मूल सामग्री उत्पन्न करने की क्षमता के आधार पर उपयोगकर्ताओं को रैंक किया जिसे अन्य लोग रीशेयर करेंगे, तो ये खाते लगातार सूची में सबसे ऊपर दिखाई दिए। ये वे व्यक्ति हैं जो वायरल होने की प्रारंभिक लहर के लिए जिम्मेदार हैं जिससे झूठे नैरेटिव स्थापित हो पाते हैं। हालाँकि, जैसे-जैसे शोधकर्ता प्रभावशाली उपयोगकर्ताओं की सूची में नीचे की ओर देखते हैं, तस्वीर अधिक जटिल होती जाती है। मध्य और निचले रैंक में, एम्प्लीफायर और समन्वित समूहों का व्यवहार बहुत अधिक प्रमुख हो जाता है। यह सुझाव देता है कि जबकि कुछ सुपर-स्प्रेडर्स आग शुरू करते हैं, एम्प्लीफायर ही इसे जलाए रखते हैं और समन्वित समूह नेटवर्क में इसकी लपटों को हवा देते हैं।
इन विभिन्न व्यवहारों को एक साथ कैसे काम करता है, इसकी स्पष्ट तस्वीर पाने के लिए, टीम ने एक मशीन लर्निंग मॉडल को प्रशिक्षित किया जिसने तीनों आर्केटाइप्स को एक एकल प्रणाली में संयोजित किया। फिर उन्होंने एक ऐसी तकनीक का उपयोग किया जो यह बताती है कि मॉडल अपने निर्णय कैसे लेता है, जिससे वे देख सके कि कौन से व्यवहार सबसे अधिक मायने रखते थे। उन्होंने पाया कि मॉडल इस बात पर बहुत अधिक निर्भर था कि एक उपयोगकर्ता ने कितनी बार कम विश्वसनीयता वाली सामग्री को रीशेयर किया, जो एम्प्लीफायर से जुड़ा एक लक्षण है। यह आश्चर्यजनक था क्योंकि कोई उम्मीद कर सकता था कि वायरल सामग्री बनाने वाले लोग सबसे महत्वपूर्ण संकेत होंगे। इसके बजाय, डेटा ने दिखाया कि रीशेयर करने की क्रिया जोखिम का एक शक्तिशाली संकेतक है। मॉडल ने यह भी पुष्टि की कि सुपर-स्प्रेडर्स, जो निरंतर जुड़ाव (engagement) उत्पन्न करने की क्षमता द्वारा पहचाने जाते थे, विशेष रूप से शीर्ष रैंक वाले उपयोगकर्ताओं के बीच महत्वपूर्ण थे। जैसे-जैसे रैंकिंग नीचे की ओर बढ़ी, समन्वित व्यवहार और रीशेयरिंग की आवृत्ति का प्रभाव मजबूत होता गया, जो एक ऐसे स्तरित पारिस्थितिकी तंत्र को प्रकट करता है जहाँ विभिन्न प्रकार के अभिनेता एक ही समस्या में अलग-अलग भूमिकाएँ निभाते हैं।
अध्ययन ने यह भी परीक्षण किया कि जब बहुत कम डेटा उपलब्ध हो, तो ये तरीके कितनी अच्छी तरह काम करते हैं, जो एक ऐसे परिदृश्य का अनुकरण करता है जहाँ एक प्लेटफॉर्म को नई कहानी आने के तुरंत बाद निर्णय लेना होता है। उन्होंने पाया कि समय-संवेदनशील इन्फ्लुएंस स्कोर सीमित जानकारी के साथ भी स्थिर और सटीक बना रहता है, जो उन पुराने तरीकों से बेहतर प्रदर्शन करता है जो उपयोगकर्ता की गतिविधि के समय को ध्यान में नहीं रखते थे। हालाँकि, मशीन लर्निंग मॉडल बहुत कम मात्रा में डेटा पर प्रशिक्षित होने पर संघर्ष करता है, जो यह सुझाव देता है कि जबकि जटिल मॉडल शक्तिशाली होते हैं, उन्हें पैटर्न सीखने के लिए पर्याप्त इतिहास की आवश्यकता होती है। शोधकर्ताओं ने निष्कर्ष निकाला कि प्लेटफॉर्म के लिए सबसे अच्छा दृष्टिकोण संभवतः इन उपकरणों का एक संयोजन है: सबसे खतरनाक खातों की तेज़ी से पहचान करने के लिए सरल, समय-जागरूक स्कोर का उपयोग करना, और गलत सूचना के प्रसार को बनाए रखने वाले व्यवहारों की पूरी श्रृंखला को समझने के लिए अधिक विस्तृत मॉडल का उपयोग करना। उपयोगकर्ता के इरादे का अनुमान लगाने के बजाय इन अवलोकन योग्य पैटर्न पर ध्यान केंद्रित करके, प्लेटफॉर्म हस्तक्षेप कर सकते हैं, उन विशिष्ट खातों को लक्षित कर सकते हैं जो सबसे अधिक नुकसान पहुँचाते हैं, इससे पहले कि गलत जानकारी को नियंत्रित करना असंभव हो जाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।