Analyzing Toxic Behavior and Its Impact on the Mastodon Community
यह शोध पत्र मैस्टोडन के विकेंद्रीकृत और असंगत रूप से मॉडरटेड पारिस्थितिकी तंत्र के भीतर विषाक्त सामग्री (toxic content) के विकास और प्रसार का विश्लेषण करने के लिए मशीन लर्निंग का उपयोग करता है, जो सामुदायिक स्वास्थ्य और शासन पर इसके प्रभाव के बारे में अंतर्दृष्टि प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, हलचल भरे शहर की तरह है। अधिकांश शहरों में, एक केंद्रीय मेयर का कार्यालय होता है जो सभी के लिए नियम बनाता है: कूड़ा न फैलाना, चिल्लाना नहीं, और लड़ना नहीं। इस तरह बड़े, केंद्रीकृत सोशल मीडिया साइट काम करते हैं; एक कंपनी पूरे प्लेटफॉर्म के लिए नियम तय करती है। लेकिन एक और प्रकार का शहर भी है: हजारों छोटे, स्वतंत्र गांवों का एक संघ। इस दुनिया में, हर गांव का अपना मेयर, अपने कानून और अपनी जीवन शैली होती है। कुछ गांव सख्त और शांत होते हैं, जबकि अन्य जंगली और स्वतंत्र। यह Mastodon की दुनिया है, जो एक ऐसा सोशल मीडिया प्लेटफॉर्म है जहाँ कोई एक बॉस सब कुछ नियंत्रित नहीं करता है।
इस विकेंद्रीकृत शहर में, लोग किसी भी विषय पर बात कर सकते हैं, लेकिन कभी-कभी शोर बहुत बढ़ जाता है। शोधकर्ता "टॉक्सिसिटी" (Toxicity) शब्द का उपयोग उस बदतमीजी, नफरत या रूखेपन के लिए करते हैं जो लोग ऑनलाइन कहते हैं—जैसे नाम रखना, अपमान करना, या घृणास्पद बातें कहना। क्योंकि इसे रोकने के लिए कोई एक एकल मेयर नहीं है, इसलिए यह जानना मुश्किल है कि पूरा शहर सुरक्षित है या केवल एक गांव का बुरा दिन चल रहा है। वैज्ञानिक उत्सुक हैं: क्या एक मिलियन अलग-अलग गांव के नियमों का होना पूरे शहर को अधिक खतरनाक बनाता है, या क्या गांव वास्तव में चीजों को सभ्य रखने में बेहतर काम करते हैं? यह शोध पत्र इसी प्रश्न में गहराई से उतरता है, जिसमें लाखों संदेशों को पढ़ने के लिए कंप्यूटर उपकरणों का उपयोग किया गया है और यह देखा गया है कि क्या Mastodon के "गांव" वास्तव में जहरीले हैं या वे केवल गलत समझे गए हैं।
द ग्रेट मास्टोडन मिस्चीफ हंट (The Great Mastodon Mischief Hunt)
दो शोधकर्ताओं, पासन और ओल्गा ने Mastodon के डिजिटल गांवों में जासूस बनने का निर्णय लिया। वे यह देखना चाहते थे कि क्या एक केंद्रीय बॉस की कमी का मतलब यह था कि बदतमीजी बेकाबू हो रही थी, या स्वतंत्र समुदाय वास्तव में चीजों को मैत्रीपूर्ण बनाए रखने में बहुत अच्छा काम कर रहे थे। ऐसा करने के लिए, उन्होंने केवल अनुमान नहीं लगाया; उन्होंने डेटा का एक विशाल जाल पकड़ा। उन्होंने केवल तीन दिनों (1 मई से 3 मई, 2025 तक) के दौरान 25,777 उपयोगकर्ताओं के पोस्ट देखे। यह बहुत सारी बातचीत है! कुल मिलाकर, उन्होंने 1,035,949 पोस्ट एकत्र किए, हालांकि उनके विस्तृत विश्लेषण ने प्रत्येक चयनित इंस्टेंस के भीतर शीर्ष 10 सबसे सक्रिय उपयोगकर्ताओं के पोस्टों पर ध्यान केंद्रित किया।
उन्होंने अंग्रेजी बोलने वाली दुनिया के शीर्ष 10 सबसे सक्रिय गांवों (जिन्हें "इंस्टेंस" कहा जाता है) पर ध्यान केंद्रित किया। इन्हें आप मुख्य चौकों की तरह समझ सकते हैं: कुछ बहुत बड़े सामान्य केंद्र जैसे mastodon.social हैं, जबकि अन्य छोटे, विशिष्ट क्लब जैसे infosec.exchange (सुरक्षा के दीवानों के लिए) या chaos.social (कार्यकर्ताओं के लिए) हैं। यह पता लगाने के लिए कि क्या लोग बदतमीजी कर रहे थे, उन्होंने Google Perspective API नामक एक सुपर-स्मार्ट कंप्यूटर मस्तिष्क का उपयोग किया। यह टूल टेक्स्ट को पढ़ता है और इसे 0 से 1 के बीच एक "टॉक्सिसिटी स्कोर" देता है। 0 का स्कोर एक पिल्ले जितना प्यारा है, और 1 का स्कोर एक तूफान जितना भयानक है। उन्होंने केवल अंग्रेजी पोस्टों को देखा ताकि कंप्यूटर मस्तिष्क चुटकुलों और अपमानों को सही ढंग से समझ सके।
उन्हें क्या मिला: चौंकाने वाला सच
यहाँ एक मोड़ है: शोधकर्ताओं को उम्मीद थी कि एक केंद्रीय बॉस के बिना, चीजें थोड़ी अराजक हो सकती हैं। लेकिन डेटा ने एक अलग कहानी बताई। जब उन्होंने इन सभी गांवों के औसत "टॉक्सिसिटी स्कोर" को देखा, तो संख्याएं आश्चर्यजनक रूप से कम थीं। वास्तव में, किसी भी गांव का औसत स्कोर 0.2 से अधिक नहीं था। इसका मतलब है कि औसतन, बातचीत ज्यादातर विनम्र और सभ्य थी।
हालाँकि, हर गांव बिल्कुल एक जैसा नहीं था। शोधकर्ताओं को कुछ दिलचस्प अंतर मिले:
- बड़े खिलाड़ी: सबसे बड़ा गांव, mastodon.social, में 5,871 से अधिक उपयोगकर्ता और लगभग 43,000 पोस्ट थे। विशाल होने के बावजूद, इसका टॉक्सिसिटी स्कोर बहुत कम था। ऐसा लगता है कि भारी भीड़ के बावजूद, नियम अच्छी तरह काम कर रहे थे।
- शांत वाले: chaos.social, mstdn.social, और hachyderm.io जैसे गांवों के स्कोर इतने कम थे कि वे शून्य से मुश्किल से ऊपर थे ( 0.1 से कम)। ये समुदाय ऐसे संस्कृति वाले प्रतीत होते थे जहाँ बदतमीजी करना कूल नहीं माना जाता था।
- अपवाद (The Outlier): एक गांव ऐसा था जो अलग खड़ा था: aethy.com (डेटा टेबल में 'athey.com' के रूप में सूचीबद्ध)। यह 163 उपयोगकर्ताओं और 345 पोस्ट के साथ एक छोटा स्थान था, लेकिन इसका टॉक्सिसिटी स्कोर समूह में सबसे अधिक 0.214 था। हालाँकि यह भी कुल मिलाकर एक "कम" स्कोर माना जाता है, लेकिन यह समूह में सबसे अधिक था।
इसका क्या अर्थ है?
यह शोध पत्र सुझाव देता है कि विकेंद्रीकृत प्रणाली होने का मतलब स्वतः ही यह नहीं है कि वह जगह जहरीली है। वास्तव में, ऐसा लगता है कि गांव का आकार उतना मायने नहीं रखता जितना कि गांव का संचालन कैसे किया जाता है। बड़ा गांव (mastodon.social) हजारों लोगों के बावजूद मैत्रीपूर्ण रहने में सफल रहा, जबकि छोटे गांव (aethy.com) में अपमानजनक टिप्पणियों की दर थोड़ी अधिक थी। यह संकेत देता है कि शायद छोटे गांवों को चीजों को नियंत्रण में रखने के लिए थोड़ा संघर्ष करना पड़ता है, शायद इसलिए क्योंकि उनके पास मॉडरेट करने के लिए कम लोग होते हैं या उनके नियम अलग होते हैं।
शोधकर्ता यह कहने में सावधानी बरतते हैं कि उन्होंने इस रहस्य को हमेशा के लिए हल नहीं कर दिया है। वे सुझाव देते हैं कि कम टॉक्सिसिटी स्कोर यह दर्शाते हैं कि Mastodon के उपयोगकर्ता आम तौर पर अच्छे बने रहना पसंद करते हैं, और स्थानीय सामुदायिक नियम अच्छी तरह काम कर सकते हैं। लेकिन वे यह भी बताते हैं कि एक थोड़ा "ज्यादा बदतमीज" गांव यह साबित करता है कि हर समुदाय को अपने स्वयं के नियमों पर ध्यान देने की आवश्यकता है। यदि कोई गांव अपनी देखभाल नहीं करता है, तो बदतमीजी घुसपैठ कर सकती है।
इसलिए, इस शोध पत्र की कहानी आशा के साथ एक छोटी सी चेतावनी की है। विकेंद्रीकृत इंटरनेट अपमानों का एक कानूनहीन रेगिस्तान नहीं है; यह ज्यादातर एक मैत्रीपूर्ण पड़ोस है। लेकिन वास्तविक जीवन की तरह, हर पड़ोस को इसे ऐसा बनाए रखने के लिए नियमों के एक अच्छे सेट और सक्रिय पड़ोसियों की आवश्यकता होती है। शोधकर्ता आशा करते हैं कि इन पैटर्न को समझकर, विभिन्न गांव एक-दूसरे से सीख सकते हैं और पूरे संघ को सभी के चैट करने के लिए एक सुरक्षित स्थान बनाए रख सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।