Examining hate speech infection in social media using range constraints in multidimensional data structures
यह शोध पत्र एक ऐसी कार्यप्रणाली प्रस्तावित करता है जो सोशल मीडिया पर घृणास्पद भाषण (हेट स्पीच) के प्रसार को संचालित करने वाले टेम्पोरल विंडोज़ और उपयोगकर्ता कनेक्टिविटी पैटर्न की सटीक पहचान करने के लिए शेपलेट-आधारित टाइम सीरीज़ विश्लेषण को बहुआयामी डेटा संरचनाओं और रेंज बाधाओं के साथ जोड़ती है, जिससे अधिक प्रभावी घटना का पता लगाने और शमन को सक्षम बनाया जा सके।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि सोशल मीडिया एक विशाल, हलचल भरी पार्टी की तरह है जहाँ हर कोई अपने विचार चिल्लाकर व्यक्त कर रहा है। कभी-कभी, माहौल खराब हो जाता है और एक विशिष्ट प्रकार का "विषाक्त संक्रमण" (नफरत फैलाने वाला भाषण या hate speech) फैलने लगता है। इस शोध पत्र के लेखक, एलियना काफ़ेज़ा (Eleanna Kafeza) और उनकी टीम, यह पता लगाना चाहते थे कि यह संक्रमण ठीक कब शुरू होता है और इसे कौन फैला रहा है, न कि केवल उड़ते हुए हर एक बुरे शब्द को पकड़ने की कोशिश करना।
एक उपयोगकर्ता की टाइमलाइन को केवल पोस्टों की एक सूची के रूप में नहीं, बल्कि एक हृदय गति मॉनिटर (heartbeat monitor) के रूप में देखें। शब्दों को देखने के बजाय, टीम ने प्रत्येक उपयोगकर्ता की भावनात्मक तीव्रता को एक ग्राफ पर टेढ़ी-मेढ़ी रेखा में बदल दिया। यदि कोई उपयोगकर्ता गुस्से वाली, नफरत भरी चीजें पोस्ट कर रहा है, तो उनका "हृदय गति" नकारात्मक ऊर्जा के साथ ऊपर-नीचे (स्पाइक) होगा।
जासूसों का टूलकिट: शेपलेट्स और सफिक्स ट्री (Shapelets and Suffix Trees)
बुरे तत्वों को खोजने के लिए, शोधकर्ताओं ने शेपलेट वर्गीकरण (shapelet classification) नामक एक चतुर तकनीक का उपयोग किया। कल्पना कीजिए कि आप कीचड़ भरे पदचिह्नों के ढेर में एक विशिष्ट उंगलियों के निशान (fingerprint) को खोज रहे हैं। एक "शेपलेट" उस पदचिह्न का एक छोटा, विशिष्ट हिस्सा है जो साबित करता है कि वह किसका है। इस मामले में, "उंगलियों का निशान" भावनात्मक उतार-चढ़ाव का एक विशिष्ट पैटर्न है जो केवल नफरत फैलाने वाले उपयोगकर्ताओं में ही दिखाई देता है।
लेकिन हर एक पदचिह्न की तुलना हर एक उंगलियों के निशान से करना बहुत समय लेने वाला काम होता। इसलिए, टीम ने एक सुपर-फास्ट लाइब्रेरी बनाई जिसे सफिक्स ट्री (Suffix Tree) कहा जाता है। इसे एक जादुई, व्यवस्थित फाइलिंग कैबिनेट की तरह समझें जहाँ शब्दों के हर संभावित पैटर्न को तुरंत छाँटकर व्यवस्थित कर दिया जाता है। लाइब्रेरी की हर किताब को पढ़ने के बजाय, आप बस कैबिनेट से पूछ सकते हैं, "'गुस्से' से शुरू होने वाली कहानी कहाँ है?" और वह आपको सीधे सही शेल्फ की ओर इशारा कर देगा। इसने उनकी खोज को अविश्वसनीय रूप से तेज़ बना दिया, जिससे एक ऐसा कार्य जो आमतौर पर युगों लेता है, पलक झपकते ही पूरा हो गया।
दो-चरणीय फ़िल्टर: समय और प्रभाव (Time and Influence)
पैटर्न ढूँढना केवल पहला चरण था। असली जादू तब हुआ जब उन्होंने दो अतिरिक्त फिल्टर जोड़े, जैसे कि दरवाजे पर आईडी चेक करने वाला बाउंसर: समय (Time) और प्रभाव (Influence)।
- समय की खिड़की (The Time Window): टीम ने महसूस किया कि नफरत फैलाने वाला भाषण अक्सर किसी विशिष्ट घटना, जैसे कि कोई समाचार ब्रेकिंग न्यूज़ के रूप में आने के तुरंत बाद विस्फोट करता है। उन्होंने केवल बुरे पैटर्न को नहीं देखा; उन्होंने पूछा, "क्या यह पैटर्न अभी हुआ?" विशिष्ट समय अंतराल (जैसे 13 घंटे की विंडो) पर ध्यान केंद्रित करके, वे सटीक रूप से पहचान सके कि "संक्रमण" कब फैलना शुरू हुआ।
- प्रभाव की जाँच (The Influence Check): उन्होंने यह भी जाँच की कि उपयोगकर्ता कितना "लोकप्रिय" या "जुड़ा हुआ" (connected) था। उन्होंने कुछ आश्चर्यजनक पाया: नफरत फैलाने वाला भाषण हमेशा बड़े मशहूर हस्तियों (celebrities) से नहीं आता था। वास्तव में, उन्हें संदेह था कि प्रभावशाली उपयोगकर्ताओं को जल्दी बैन कर दिया जाता है, इसलिए संक्रमण अक्सर सामान्य, कम जुड़े हुए उपयोगकर्ताओं के माध्यम से फैलता है। उन्होंने एक गणितीय उपकरण का उपयोग किया जिसे 2D रेंज ट्री (2D Range Tree) कहा जाता है, ताकि यह जाँच सकें कि क्या उपयोगकर्ता की पोस्ट सही समय पर हुई थी और क्या उनका प्रभाव स्तर एक निश्चित सीमा में फिट बैठता था।
आंकड़े क्या कहते हैं
टीम ने इसका परीक्षण ट्वीट्स के एक विशाल डेटासेट पर किया जिसे एक महीने (1 फरवरी, 2022 से मार्च 1, 2022 तक) में एकत्र किया गया था। उन्होंने 3,912 उपयोगकर्ताओं को देखा जिन्होंने नफरत फैलाने वाले भाषण पोस्ट किए थे और इसे 7,824 अलग-अलग उपयोगकर्ताओं के 46,557 ट्वीट्स के डेटासेट के साथ संतुलित किया।
जब उन्होंने अपने प्रयोग चलाए, तो परिणाम उत्साहजनक लेकिन उनके सेटअप के प्रति विशिष्ट थे:
- सटीकता (Accuracy): उनके सबसे अच्छे सेटअप ने 0.72 की औसत सटीकता और 0.84 का औसत F1-स्कोर के साथ सही नफरत फैलाने वाले उपयोगकर्ताओं को खोज निकाला।
- गति (Speed): उनकी नई विधि पुराने, "नाइव" (naive) तरीके की तुलना में बहुत अधिक तेज़ थी। जबकि पुराने तरीके को एक छोटे परीक्षण के लिए लगभग 0.12 × 10⁻² सेकंड लगे, उनकी नई विधि ने इसे 2.15 × 10⁻⁶ सेकंड में कर दिया। जैसे-जैसे डेटा बढ़कर 23,800 आइटम हुआ, उनकी विधि तेज़ बनी रही (लगभग 2.97 × 10⁻⁶ सेकंड), जबकि पुराना तरीका काफी धीमा हो गया।
- सही बिंदु (The Sweet Spot): उन्होंने पाया कि नफरत का संक्रमण [0, 13] (घंटे) के एक विशिष्ट समय अंतराल में और [0, 17.5] पर्सेंटाइल के प्रभाव वाले उपयोगकर्ताओं के बीच सबसे अधिक दृश्यमान था। यह सुझाव देता है कि संक्रमण अक्सर उन उपयोगकर्ताओं के एक छोटे समूह से शुरू होता है जो अनिवार्य रूप से सबसे प्रसिद्ध नहीं हैं, लेकिन एक विशिष्ट संकट के दौरान बहुत सक्रिय होते हैं।
वे क्या दावा नहीं करते
यह ध्यान रखना महत्वपूर्ण है कि यह शोध पत्र क्या नहीं कहता है। लेखक स्पष्ट रूप से इस बात पर जोर देते हैं कि वे नफरत फैलाने वाले भाषण को हमेशा के लिए "हल" करने का दावा नहीं कर रहे हैं। वे स्पष्ट रूप से केवल शब्दों की सूचियों या संदर्भ के बिना केवल टेक्स्ट को देखने पर निर्भर रहने के विरुद्ध तर्क देते हैं। वे यह भी नोट करते हैं कि उनकी विधि तब सबसे अच्छा काम करती है जब आपके पास फिल्टर करने के लिए विशिष्ट स्थितियाँ (जैसे ज्ञात घटना का समय) हों; यह बिना किसी अतिरिक्त डेटा के शून्य में नफरत खोजने वाली कोई जादुई छड़ी नहीं है।
बड़ी तस्वीर (The Big Picture)
भावनात्मक अराजकता को व्यवस्थित डेटा आकृतियों में बदलकर और उन्हें खोजने के लिए एक सुपर-फास्ट लाइब्रेरी का उपयोग करके, लेखकों ने दिखाया कि हम नफरत फैलाने वाले भाषण के "संक्रमण" को अधिक सटीकता से पकड़ सकते हैं। उन्होंने पाया कि यह देखकर कि गुस्सा कब बढ़ता है और इसे कौन फैला रहा है, हम पहले की तुलना में बहुत तेज़ी से समस्या के स्रोत की पहचान कर सकते हैं। हालांकि वे सुझाव देते हैं कि इससे सोशल मीडिया प्लेटफॉर्म तत्काल कार्रवाई कर सकते हैं, वे इसे एक अंतिम समाधान के रूप में नहीं, बल्कि टूलबॉक्स में एक शक्तिशाली नए उपकरण के रूप में प्रस्तुत करते हैं। लक्ष्य पूरे जंगल के जलने से पहले चिंगारी को पहचानना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।