Decoding Islamophobic Discourse: Using LLMs to Identify Tropes and Semi-Coded Hate Speech
यह शोध पत्र चरमपंथी प्लेटफार्मों के बड़े पैमाने के डेटा का विश्लेषण करने के लिए लार्ज लैंग्वेज मॉडल्स (LLMs) और टॉपिक मॉडलिंग का उपयोग करता है, जो यह प्रदर्शित करता है कि LLMs अर्ध-कोडित इस्लामभित (Islamophobic) अपशब्दों की प्रभावी ढंग से पहचान कर सकते हैं और यह भी प्रकट करते हैं कि इस प्रकार का घृणास्पद भाषण विविध राजनीतिक आंदोलनों में व्यापक रूप से व्याप्त है और अक्सर अन्य प्रकार के घृणा भाषणों की तुलना में उच्च विषाक्तता स्कोर प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, शोर-शराबे वाले शहर के चौक जैसा है। हाल के वर्षों में, इस चौक में कुछ लोगों के एक समूह ने मुसलमानों के प्रति अपमानजनक बातें चिल्लाना शुरू कर दिया है, लेकिन उन्होंने एक चालाकी भरा नया तरीका सीख लिया है: स्पष्ट अपशब्दों का उपयोग करने के बजाय, वे "गुप्त कोड शब्दों" (secret code words) का उपयोग कर रहे हैं।
यह शोध पत्र उन जासूसों की एक टीम की तरह है जो यह पता लगाने की कोशिश कर रहा है कि क्या आधुनिक AI (विशेष रूप से लार्ज लैंग्वेज मॉडल्स या LLMs) इस कोड को तोड़ सकता है और नफरत को फैलने से रोक सकता है।
यहाँ उनके अन्वेषण का विवरण दिया गया, जिसमें सरल उपमाओं का उपयोग किया गया है:
1. समस्या: नफरत का "छलावरण" (The "Camouflage" of Hate)
अतीत में, नफरत भरे भाषण (hate speech) एक ऐसे व्यक्ति की तरह थे जिसने चमकीली लाल शर्ट पहनी हो जिस पर "I HATE YOU" लिखा हो। इसे पहचानना आसान था।
अब, नफरत फैलाने वाले छलावरण (camouflage) पहन रहे हैं। वे ऐसे शब्दों का उपयोग कर रहे हैं जो निर्दोष दिखते हैं या सामान्य नाम जैसे लगते हैं, लेकिन चरमपंथी मंचों (जैसे 4Chan या Gab) के संदर्भ में, उनका अर्थ भयानक होता है।
- "Mudslime" का तरीका: कल्पना कीजिए कि "Muslim" शब्द को लेकर उसमें "M" को "Mud" से बदल दिया जाए और "slime" जोड़ दिया जाए। यह सुनने में घिनौना और अमानवीय लगता है, लेकिन यदि आप केवल शब्द को संदर्भ के बिना पढ़ें, तो यह एक अजीब से बनाए गए नाम जैसा दिखता है।
- "Abdul" का जाल: "Abdul" एक सामान्य, सामान्य मुस्लिम नाम है। लेकिन इन प्लेटफार्मों पर, नफरत फैलाने वाले इसका उपयोग एक सामान्य अपमान के रूप में करते हैं, जैसे कि कोई पूरे समूह का मजाक उड़ाने के लिए किसी सामान्य नाम का उपयोग करता है।
- "Muzrat" का मिश्रण: यह "Muzz" (एक डेटिंग ऐप) और "Rat" का मिश्रण है। इसे मुसलमानों को कीट-पतंगों (vermin) की तरह दिखाने के लिए बनाया गया है, लेकिन इसे इस तरह से लिखा गया है कि यह स्वचालित फिल्टरों से बच सके।
शोधकर्ता इन शब्दों को "आउट-ऑफ-वोकैबुलरी" (Out-of-Vocabulary - OOV) या "सेमी-कोडेड" (semi-coded) शब्द कहते हैं। ये डिजिटल रूप में भेड़ की खाल में भेड़िये के समान हैं।
2. अन्वेषण: क्या AI छलावरण के पीछे देख सकता है?
शोधकर्ताओं ने एक बहुत ही स्मार्ट AI (GPT-4) से इन पोस्ट्स को पढ़ने और यह तय करने के लिए कहा: "क्या यह नफरत भरा भाषण है?"
- अच्छी खबर: AI "भेड़ की खाल में भेड़िये" को पहचानने में आश्चर्यजनक रूपamente रूप से अच्छा है। जब शोधकर्ताओं ने इसे mudslime, pislam, या muzrat जैसे पोस्ट दिए, तो AI ने अधिकांश समय सही ढंग से पहचाना कि वे नफरत भरे थे। वह समझ गया कि भले ही शब्द अजीब या तटस्थ दिखते हों, लेकिन उनका इरादा दुर्भावनापूर्ण है।
- बुरी खबर: AI कभी-कभी संदर्भ (context) को लेकर भ्रमित हो जाता है। यदि कोई पोस्ट बिना किसी अन्य नफरत भरे शब्द के "Abdul" नाम का उपयोग करता है, तो AI सोच सकता है, "ओह, यह तो बस एक नाम है," और वह नफरत को पहचानने में चूक सकता है। निश्चित होने के लिए उसे और अधिक सुरागों की आवश्यकता होती है।
3. विषाक्तता परीक्षण: यह नफरत कितनी "जहरीली" है?
शोधकर्ताओं ने मुसलमानों के खिलाफ नफरत भरे भाषण की तुलना यहूदियों के खिलाफ नफरत भरे भाषण (Antisemitism) से की। उन्होंने Google Perspective API नामक एक उपकरण का उपयोग किया, जो एक "विषाक्तता मीटर" (toxicity meter) के रूप में कार्य करता है।
- परिणाम: मीटर ने दिखाया कि मुसलमानों के खिलाफ नफरत भरा भाषण, यहूदियों के खिलाफ नफरत भरे भाषण की तुलना में काफी अधिक विषाक्त (अधिक असभ्य, आक्रामक और अपमानजनक) है।
- उपमा: यदि Antisemitism एक तेज चाकू की तरह है, तो इस अध्ययन में मुसलमानों के खिलाफ नफरत भरा भाषण एक हथौड़े (sledgehammer) की तरह था। यह अधिक भारी, अधिक शोर वाला और अधिक हिंसक भाषा वाला था।
4. "ट्रोप" पहेली: क्या AI कहानी को समझ सकता है?
नफरत भरे भाषण अक्सर पुरानी, पुनर्चक्रित कहानियों या "ट्रोप्स" (रूढ़ियों) पर निर्भर करते हैं। शोधकर्ताओं ने AI को नफरत भरे भाषणों को पांच विशिष्ट श्रेणियों में वर्गीकृत करने के लिए कहा:
- नस्लवाद (Racism): लोगों पर उनकी त्वचा या जातीयता के आधार पर हमला करना।
- प्रवासन (Immigration): यह दावा करना कि मुस्लिम देश "चुरा" रहे हैं।
- धर्म (Religion): इस्लाम की एक विश्वास प्रणाली के रूप में हमला करना।
- पैगंबर (The Prophet): पैगंबर मुहम्मद का अपमान करना।
- उत्पीड़न (Oppression): यह दावा करना कि मुस्लिम महिलाएं उत्पीड़ित हैं या उनके साथ बुरा व्यवहार किया जाता है।
- परिणाम: AI पैगंबर के खिलाफ अपमान को पहचानने में माहिर था (क्योंकि शब्द बहुत विशिष्ट और स्पष्ट थे) और धर्म पर हमलों को भी।
- संघर्ष: AI को नस्लवाद, प्रवासन और उत्पीड़न के बीच अंतर करने में कठिनाई हुई। वह अक्सर इन सबको आपस में मिला देता था। यह एक ऐसे जासूस की तरह है जो हत्या के हथियार को आसानी से पहचान सकता है लेकिन यह समझने में कठिनाई महसूस करता है कि क्यों अपराध हुआ या कौन सा विशिष्ट मकसद इस्तेमाल किया गया।
5. निष्कर्ष: एक जारी प्रक्रिया
शोध पत्र यह निष्कर्ष निकालता है कि हालांकि AI इन "गुप्त कोड शब्दों" को पहचानने में बेहतर हो रहा है, लेकिन यह अभी भी पूर्ण नहीं है।
- क्या काम करता है: AI बता सकता है कि mudslime एक बुरा शब्द है।
- क्या काम नहीं करता: AI कभी-कभी सूक्ष्म अर्थों को समझने में चूक जाता है जब नफरत बहुत सूक्ष्म हो या जब यह समझने की कोशिश कर रहा हो कि कौन सा विशिष्ट रूढ़िवादी विचार (stereotype) उपयोग किया जा रहा है।
मुख्य बात (Bottom Line):
शोधकर्ता सोशल मीडिया प्लेटफार्मों को कह रहे हैं: "आप अब केवल स्पष्ट बुरे शब्दों को देखकर काम नहीं चला सकते। आपको अपने AI को इन नए, अजीब, कोडित शब्दों को समझने के लिए सिखाना होगा, अन्यथा नफरत भरा भाषण दरारों से निकलकर बाहर आता रहेगा।" वे यह भी सुझाव देते हैं कि चूंकि यह नफरत इतनी विषाक्त है, इसलिए ऑनलाइन शहर के चौक को सुरक्षित रखने के लिए इस पर तत्काल ध्यान देने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।