Multiclass Hate Speech Detection with RoBERTa-OTA: Integrating Transformer Attention and Graph Convolutional Networks
यह शोध पत्र RoBERTa-OTA का प्रस्ताव करता है, जो एक ऑन्टोलॉजी-निर्देशित आर्किटेक्चर है जो संदर्भपूर्ण भाषाई समझ को संरचित डोमेन ज्ञान के साथ जोड़कर मल्टीक्लास हेट स्पीच डिटेक्शन की सटीकता और दक्षता में महत्वपूर्ण सुधार करने के लिए RoBERTa एम्बेडिंग्स को ग्राफ कन्वोल्यूशनल नेटवर्क के साथ एकीकृत करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, हलचल भरे शहर के चौक की तरह है जहाँ लाखों लोग एक साथ चिल्ला रहे हैं, बातें कर रहे हैं और बहस कर रहे हैं। इस चौक में एक गंभीर समस्या है: कुछ लोग नफरत भरे भाषण (hate speech) फैला रहे हैं, विशेष रूप से उम्र, लिंग, धर्म, जातीयता या अन्य गुणों के आधार पर समूहों को निशाना बना रहे हैं।
"टाउन गार्ड्स" (कंटेंट मॉडरेटर्स) का काम इन चिल्लाहटों को सुनना और नफरत को किसी को भी चोट पहुँचाने से पहले रोकना है। लेकिन पेच यह है कि नफरत फैलाने वाले चालाक हैं। वे हमेशा स्पष्ट अपशब्दों का उपयोग नहीं करते। कभी-कभी वे कोड वर्ड्स (गुप्त शब्द), सूक्ष्म चुटकुले या छिपे हुए अर्थों का उपयोग करते हैं जिन्हें पकड़ना कठिन होता है।
यह शोध पत्र एक नया, सुपर-स्मार्ट टाउन गार्ड RoBERTa-OTA पेश करता है। यह कैसे काम करता है, यहाँ सरल भाषा में समझाया गया है:
1. समस्या: "चालाक" नफरत फैलाने वाला
पुराने गार्ड (पुराने कंप्यूटर प्रोग्राम) उन लोगों की तरह थे जिन्होंने केवल "बुरे शब्दों" की एक सूची रट ली थी। यदि उन्हें सूची में कोई शब्द सुनाई देता, तो वे उस व्यक्ति को रोक देते। लेकिन आधुनिक नफरत फैलाने वाले चालाक हैं। वे किसी विशिष्ट समूह के बारेв बिना किसी एक "बुरे शब्द" का उपयोग किए अपमानजनक बातें कर सकते हैं। वे संदर्भ (context) और सूक्ष्म संकेतों का उपयोग करते हैं।
यहाँ तक कि नए और अधिक स्मार्ट गार्ड (जैसे मानक RoBERTa AI) भाषा को समझने में बहुत अच्छे हैं, लेकिन वे कभी-कभी इन सूक्ष्म, कोडित हमलों को मिस कर देते हैं क्योंकि वे केवल शब्दों को सुन रहे होते हैं, बिना इस गहरी समझ के कि किसे निशाना बनाया जा रहा है।
2. समाधान: एक नक्शा रखने वाला जासूस
लेखकों ने RoBERTa-OTA बनाया है, जो ऐसा लगता है जैसे उन्होंने AI जासूस को एक साथ दो महाशक्तियाँ दे दी हों:
- महाशक्ति A: कान (RoBERTa): यह वह हिस्सा है जो वास्तविक शब्दों, लहजे और वाक्य की संरचना को सुनता है। यह मानव भाषा को समझने में बहुत अच्छा है, ठीक वैसे ही जैसे एक मूल वक्ता (native speaker)।
- महाशक्ति B: नक्शा (Ontology & Graph): यह नया, विशेष हिस्सा है। कल्पना कीजिए कि जासूस की मेज पर एक भौतिक नक्शा है जो दिखाता है कि विभिन्न समूह एक-दूसरे से कैसे संबंधित हैं।
- नक्शा जानता है कि "धर्म" संबंधी नफरत अक्सर जटिल धार्मिक शब्दों का उपयोग करती है।
- नक्शा जानता है कि "लिंग" संबंधी नफरत अक्सर दिखावट के बारे में कोडित अपमानों में छिपी होती है।
- नक्शा जानता है कि "उम्र" संबंधी नफरत पीढ़ीगत रूढ़ियों (stereotypes) पर निर्भर करती है।
यह नक्शा केवल एक सूची नहीं है; यह एक ग्राफ (Graph) (कनेक्शन का जाल) है। AI इस नक्शे को देखने के लिए एक ग्राफ कन्वोल्यूशनल नेटवर्क (GCN) का उपयोग करता है। यह एक जासूस द्वारा नक्शे को देखने जैसा है और यह कहना है, "रुको, यह वाक्य महिलाओं को निशाना बना रहा है, भले ही इसमें 'महिला' शब्द का उपयोग न किया गया हो, क्योंकि इसकी संरचना मेरे नक्शे पर मौजूद पैटर्न से मेल खाती है।"
3. वे एक साथ कैसे काम करते हैं (दोहरी धारा - "Dual-Stream")
इस AI को एक दो-लेन वाले राजमार्ग की तरह समझें:
- लेन 1: टेक्स्ट अंदर आता है, और AI शब्दों का विश्लेषण करता है ( "कान")।
- लेन 2: AI "नक्शे" (नफरत की श्रेणियों के बारे में संरचित ज्ञान) को देखता है ताकि यह देखा जा सके कि लक्षित समूह के आधार पर टेक्स्ट कैसा होना चाहिए।
राजमार्ग के अंत में, ये दोनों लेन आपस में मिल जाती हैं। AI जो शब्द इसने सुने उन्हें नक्शे से जाने गए पैटर्न के साथ जोड़ देता है। यह इसे उन "चालाक" नफरत फैलाने वालों को पकड़ने में मदद करता है जिन्हें पुराने गार्ड मिस कर देते थे।
4. परिणाम: अधिक अपराधियों को पकड़ना
शोधकर्ताओं ने इस नए गार्ड का परीक्षण नफरत भरे भाषण के 39,747 उदाहरणों के विरुद्ध किया।
- पुराना गार्ड (मानक RoBERTa): इसने नफरत भरे भाषण को लगभग 95% सही ढंग से पकड़ा।
- नया गार्ड (RoBERTa-OTA): इसने 96% सही ढंग से पकड़ा।
वह 1% छोटा लग सकता है, लेकिन वास्तविक दुनिया में, जहाँ प्रतिदिन लाखों पोस्ट की जाँच की जाती है, वह अतिरिक्त 1% का अर्थ है हजारों अधिक हानिकारक पोस्ट पकड़े गए जो पुराने गार्डों की नजरों से बच निकलते।
सबसे अच्छी बात?
नया गार्ड केवल थोड़ा सा भारी है। यह बहुत कम अतिरिक्त कंप्यूटर मेमोरी का उपयोग करता है (जैसे एक धावक को एक छोटा बैग पहनाना) लेकिन यह उतना ही तेज़ चलता है। यह धीमा नहीं हुआ; यह बस अधिक स्मार्ट हो गया।
5. यह क्यों महत्वपूर्ण है
सबसे बड़ी जीत उन श्रेणियों के लिए थी जिन्हें पकड़ना सबसे कठिन था:
- लिंग-आधारित नफरत: इसमें 2.36% का सुधार हुआ।
- "अन्य" नफरत (विकलांगता, अभिविन्यास आदि को निशाना बनाना): इसमें 2.38% का सुधार हुआ।
ये वे प्रकार की नफरत हैं जो अक्सर सबसे सूक्ष्म और कोडित होती हैं। "नक्शे" (ontology) का उपयोग करके "कानों" (AI) को मार्गदर्शन देकर, सिस्टम ने उन अदृश्य सुरागों को पहचानना सीख लिया जिन्हें मानक AI मिस कर देता था।
संक्षेप में
शोध पत्र कहता है: "केवल शब्दों को न सुनें। यह भी देखें कि किसे निशाना बनाया जा रहा है उसका नक्शा क्या है। जब आप एक बेहतरीन सुनने वाले को एक स्मार्ट नक्शे के साथ जोड़ते हैं, तो आप नफरत भरे भाषण को रोकने में एक बहुत बेहतर जासूस बन जाते हैं।"
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।