Detecting LGBTQ+ Instances of Cyberbullying
यह अध्ययन वास्तविक सोशल मीडिया डेटा का उपयोग करके विशेष रूप से LGBTQ+ समुदाय को लक्षित करने वाली साइबर बुलिंग की घटनाओं का सटीक रूप से पता लगाने और उन्हें अलग करने में विभिन्न ट्रांसफॉर्मर मॉडलों की प्रभावशीलता का मूल्यांकन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
सोशल मीडिया की कल्पना एक विशाल, हलचल भरे शहर के चौक (town square) के रूप में करें। अतीत में, यदि कोई व्यक्ति बुरा व्यवहार करना चाहता था, तो उसे अपमानजनक बातें चिल्लाने के लिए आपके ठीक बगल में खड़ा होना पड़ता था। आज, उस "शहर के चौक" के पास एक कीबोर्ड है, और लोग मीलों दूर से डिजिटल पत्थर फेंक सकते हैं। यही साइबरबुलिंग (cyberbullying) है।
हालाँकि इन डिजिटल पत्थरों से हर कोई घायल हो सकता है, लेकिन यह शोध पत्र बताता है कि लोगों का एक विशिष्ट समूह—LGBTQ+ समुदाय—दूसरों की तुलना में बहुत अधिक और बार-बार निशाना बनाया जा रहा है। यह ऐसा है जैसे वे एक ऐसे 'टारगेट ज़ोन' में खड़े हैं जहाँ बुली (bully) विशेष रूप से उनकी पहचान को निशाना बना रहे हैं।
यहाँ शोधकर्ताओं ने क्या किया, इसे सरल भाषा में समझाया गया है:
मिशन: एक डिजिटल सुरक्षा गार्ड बनाना
शोधकर्ता एक "स्मार्ट सुरक्षा गार्ड" (एक कंप्यूटर प्रोग्राम) बनाना चाहते थे जो इंस्टाग्राम पर टिप्पणियों (comments) को देख सके और तुरंत कह सके, "हे, यह बुलिंग है, और यह विशेष रूप से LGBTQ+ लोगों को निशाना बना रही है।"
वे जानते थे कि साधारण सुरक्षा गार्ड अक्सर गलतियाँ करते हैं। वे किसी टिप्पणी को केवल एक मज़ाक समझ सकते हैं जबकि वह वास्तव में नफरत भरी भाषा (hate speech) हो सकती है, या वे स्लैंग (slang) और छिपे हुए अपमानों से भ्रमित हो सकते हैं। इसलिए, टीम ने तीन अलग-अलग "मस्तिष्क" (कंप्यूटर मॉडल) का परीक्षण किया ताकि यह देखा जा सके कि सबसे अच्छा गार्ड कौन सा है:
- RoBERTa
- BERT
- GPT-2
प्रशिक्षण का मैदान: एक छोटा, पेचीदा क्लासरूम
इन गार्ड्स को सिखाने के लिए, शोधकर्ताओं ने 1,083 इंस्टाग्राम टिप्पणियों का एक विशिष्ट सेट इस्तेमाल किया।
- समस्या: अधिकांश टिप्पणियाँ LGBTQ+ बुलिंग के बारे में नहीं थीं। केवल 200 के करीब ही ऐसी थीं। यह एक कुत्ते को सिखाने जैसा है कि वह डेंडिलियन (dandelions) के मैदान में एक विशिष्ट दुर्लभ फूल को कैसे खोजे। कुत्ता उस दुर्लभ फूल को अनदेखा करना सीख सकता है क्योंकि वहाँ बहुत सारे डेंडिलियन मौजूद हैं।
- समाधान: गार्ड्स को सीखने में मदद करने के लिए, शोधकर्ताओं ने "ओवरसैंपलिंग" (SMOTE और ADASYN) नामक तकनीक का उपयोग किया। कल्पना कीजिए कि हम उन कुछ दुर्लभ फूलों के उदाहरणों को ले रहे हैं और उनकी फोटोकॉपी बना रहे हैं ताकि गार्ड्स के पास उन्हें पहचानने का अधिक अभ्यास हो सके।
परिणाम: सबसे अच्छा गार्ड कौन था?
प्रशिक्षण के बाद, उन्होंने गार्ड्स का परीक्षण किया। यहाँ क्या हुआ:
- RoBERTA चैंपियन रहा: यह सबसे स्मार्ट गार्ड था। इसे उच्चतम समग्र स्कोर मिला और यह बुलिंग को पहचानने में सबसे बेहतर था।
- बाकी संघर्ष करते रहे: BERT और GPT-2 सामान्य बुलिंग को पहचानने में अच्छे थे, लेकिन जब मामला विशेष रूप से LGBTQ+ मुद्दों से जुड़ा था, तो वे भ्रमित हो गए।
बड़ी समस्या: "मिस्ड स्पॉट" (छूटा हुआ स्थान) की समस्या
भले ही RoBERTa सबसे अच्छा था, फिर भी इसमें एक बड़ी कमी (blind spot) थी।
- अच्छी खबर: यह यह कहने में उत्कृष्ट था कि, "यह LGBTQ+ बुलिंग नहीं है।" (यह बहुत कम गलत चेतावनी देता था)।
- बुरी खबर: यह यह कहने में अभी भी खराब था कि, "यह LGBTQ+ बुलिंग है।" इसने कई वास्तविक हमलों को मिस कर दिया।
इसने उन्हें क्यों मिस किया?
पेपर बताता है कि LGBTQ+ लोगों के खिलाफ बुलिंग अक्सर एक गुप्त कोड (secret code) की तरह होती है।
- कभी-कभी इसमें कटाक्ष (sarcasm) का उपयोग होता है।
- कभी-कभी इसमें ऐसे स्लैंग का उपयोग होता है जिसका अर्थ स्थिति के आधार पर बदल जाता है।
- कभी-कभी अपमान को एक ऐसे वाक्य के भीतर छिपा दिया जाता है जो देखने में निर्दोष लगता है।
कंप्यूटर मॉडल उन छात्रों की तरह हैं जिन्होंने शब्दकोश तो रट लिया है लेकिन वे मज़ाक या लहजे (tone) को नहीं समझते। वे शब्दों को देखते हैं लेकिन उनके पीछे की चुभन को नहीं समझ पाते। उदाहरण के लिए, पेपर ने पाया कि मॉडल कभी-कभी "dyke" शब्द को मिस कर देता है क्योंकि उसके पास इस विशिष्ट अपशब्द (slur) के पर्याप्त उदाहरण नहीं थे, या वह किसी टिप्पणी को मिस कर देता था क्योंकि वह बातचीत के संदर्भ (context) को नहीं समझ पाता था।
निष्कर्ष
शोधकर्ताओं ने निष्कर्ष निकाला कि हालांकि हमने कुछ बहुत ही स्मार्ट "सुरक्षा गार्ड" (AI मॉडल) बनाए हैं, लेकिन वे अभी भी पूर्ण नहीं हैं।
- RoBERTa वर्तमान में हमारे पास मौजूद सबसे मजबूत गार्ड है।
- ओवरसैंपलिंग (अधिक अभ्यास उदाहरण बनाना) ने थोड़ी मदद की, लेकिन इसने समस्या को पूरी तरह से हल नहीं किया।
- चुनौती: बुलिंग वर्तमान तकनीक के लिए बहुत सूक्ष्म और पेचीदा है ताकि वह हर बार उसे पकड़ सके। मॉडल अभी भी बहुत से हमलों को मिस कर रहे हैं (False Negatives)।
शोध पत्र सुझाव देता है कि इन गार्ड्स को वास्तव में प्रभावी बनाने के लिए, हमें उन्हें अधिक विविध उदाहरणों के साथ सिखाने, उन्हें चित्र और वीडियो दिखाने (केवल टेक्स्ट नहीं), और उन्हें मानवीय बातचीत के गहरे संदर्भ को समझने में मदद करने की आवश्यकता है। तब तक, डिजिटल टाउन स्क्वायर में अभी भी ऐसे 'ब्लाइंड स्पॉट्स' हैं जहाँ LGBTQ+ समुदाय असुरक्षित बना हुआ है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।