ChildGuard: A Specialized Dataset for Combatting Child-Targeted Hate Speech
यह शोध पत्र ChildGuard को प्रस्तुत करता है, जो सोशल मीडिया प्लेटफॉर्म से 351,877 एनोटेटेड इंस्टेंस का एक बड़े पैमाने का अंग्रेजी डेटासेट है, जिसे तीन आयु समूहों और प्रासंगिक/लेक्सिकल उपसमूहों में सामग्री को वर्गीकृत करके बाल-लक्षित घृणा भाषण (hate speech) का पता लगाने में मौजूद अंतर को दूर करने के लिए डिज़ाइन किया गया है, जिसने ट्रांसफार्मर-आधारित मॉडलों के साथ 82.07% का सर्वश्रेष्ठ मैक्रो-एफ1 (Macro-F1) स्कोर प्राप्त किया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, हलचल भरा खेल का मैदान है। आमतौर पर, हम खेल के मैदानों को मस्ती वाली जगहों के रूप में देखते हैं, लेकिन कभी-कभी बड़े बच्चे या अजनबी आकर छोटे बच्चों को बुरा और दुख पहुँचाने वाली बातें चिल्लाकर कहते हैं। यह शोध पत्र उस बुलिंग (धौंस दिखाना या परेशान करना) को पकड़ने के लिए एक विशेष "सुरक्षा गार्ड" प्रणाली बनाने के बारे में है, लेकिन इसमें एक मोड़ है: इसे विशेष रूप से यह समझने के लिए डिज़ाइन किया गया है कि बच्चों को निशाना बनाने वाली बुलिंग कैसी दिखती है, न कि वयस्कों को।
यहाँ ChildGuard की कहानी है, जिसे सरल रूप में समझाया गया है:
1. समस्या: "वयस्क" सुरक्षा गार्ड भ्रमित है
वर्तमान में, इंटरनेट पर नफरत भरे भाषण (hate speech) को पकड़ने के लिए उपकरण मौजूद हैं, लेकिन वे ऐसे सुरक्षा गार्डों की तरह हैं जिन्हें केवल वयस्कों को परेशान होते देखने के लिए प्रशिक्षित किया गया है। वे जानते हैं कि वयस्क अपमान कैसा सुनाई देता है (जैसे, "आप एक बुरे राजनेता हैं")।
लेकिन जब कोई बुली (बुलिंग करने वाला) किसी बच्चे को निशाना बनाता है, तो अपमान बदल जाता है। वे कह सकते हैं, "तुम नाचने के लिए बहुत मोटी हो," "अपने देश वापस जाओ," या "बेबी, मर जाओ।" ये अलग हैं क्योंकि:
- वे उम्र को निशाना बनाते हैं: वे बच्चे की परिपक्वता या आकार पर हमला करते हैं।
- वे सूक्ष्म (subtle) होते हैं: कभी-कभी नफरत सीधी नहीं होती; यह कटाक्ष या संदर्भ (context) में छिपी होती है (जैसे, एक किशोर को छोटा महसूस कराने के लिए कहना, "जाओ अपने खिलौनों के साथ खेलो")।
यह शोध पत्र तर्क देता है कि मौजूदा उपकरण "वयस्क-केंद्रित" (adult-centric) हैं। वे बच्चों को निशाना बनाने के विशिष्ट सूक्ष्म अंतरों को नहीं समझ पाते, जिससे उनके सबसे महत्वपूर्ण विकास के वर्षों के दौरान वे असुरक्षित रह जाते हैं।
2. समाधान: एक नया "खेल के मैदान का मानचित्र" बनाना (ChildGuard)
इसे ठीक करने के लिए, शोधकर्ताओं ने ChildGuard बनाया। इसे एक रोबोटिक गार्ड के रूप में नहीं, बल्कि एक विशाल, विस्तृत मानचित्र के रूप में सोचें जो उन सभी तरह की बुरी बातों का विवरण रखता है जो कभी किसी बच्चे से ऑनलाइन कही गई हैं।
- आकार: उन्होंने लगभग 352,000 उदाहरणों वाले टेक्स्ट एकत्र किए। यह एक छोटे शहर के समाचार पत्र को पूरे एक साल तक पढ़ने के समान है।
- स्रोत: उन्होंने इन्हें तीन प्रमुख "खेल के मैदानों" से एकत्र किया: X (Twitter), Reddit, और YouTube।
- श्रेणियाँ: उन्होंने डेटा को केवल एक ढेर में नहीं डाला। उन्होंने इसे तीन आयु समूहों में विभाजित किया, ठीक वैसे ही जैसे एक स्कूल छात्रों को वर्गीकृत करता है:
- छोटे बच्चे (11 वर्ष से कम): उन्हें "बेबी," "टॉडलर," या "डायपर" जैसे शब्दों से निशाना बनाया जाता है।
- प्री-टीन (11-12 वर्ष): उन्हें "स्कूलगर्ल" या "माइनर" जैसे शब्दों से निशाना बनाया जाता है।
- टीनएजर्स (13-17 वर्ष): उन्हें "टीनएजर" या "हाई स्कूल" जैसे शब्दों से निशाना बनाया जाता है।
उन्होंने डेटा को दो प्रकार के "बुरे व्यवहार" में भी बांटा:
- लेक्सिकल (थप्पड़ जैसा सीधा प्रहार): बुरे शब्दों का उपयोग करके सीधे अपमान (जैसे, "तुम एक बेकार बदमाश हो")।
- कॉन्टेक्स्टुअल (फुसफुसाहट जैसा सूक्ष्म): ऐसी बुरी बातें जो केवल तभी समझ में आती हैं जब आप पूरी बातचीत या स्थिति को समझते हैं (जैसे, कटाक्ष या अप्रत्यक्ष धमकियाँ)।
3. गोपनीयता कवच (Privacy Shield)
इस डेटा को देखने से पहले, शोधकर्ताओं ने "प्राइवेसी गॉगल्स" (गोपनीयता चश्मा) पहन लिया। उन्होंने सभी वास्तविक नाम, उपयोगकर्ता नाम और स्थान को हटा दिया। यदि उन्हें कोई नाम मिला, तो उन्होंने उसे एक यादृच्छिक कोड (random code) से बदल दिया। यह सुनिश्चित करता है कि उन्होंने पीड़ितों को उजागर किए बिना केवल बुलिंग का अध्ययन किया।
4. परीक्षण: वर्तमान रोबोट कितने अच्छे हैं?
शोधकर्ताओं ने इस नए मानचित्र (ChildGuard) को आज के सबसे स्मार्ट AI कंप्यूटरों (जैसे GPT-4, Claude और अन्य) के खिलाफ टेस्ट किया। वे देखना चाहते थे कि क्या ये AI बुलिंग को पहचान सकते हैं।
परिणाम मिले-जुले रहे:
- अच्छी खबर: सबसे अच्छे AI ने लगभग 82% उत्तर सही दिए। यह एक अच्छा स्कोर है, लेकिन पूर्ण नहीं।
- बुरी खबर: स्कोर काफी गिर गया जब AI ने विशिष्ट चुनौतियों का सामना किया:
- छोटे बच्चे: 11 वर्ष से कम उम्र के बच्चों के खिलाफ बुलिंग को पहचानना कठिन हो गया (स्कोर गिरकर ~75% हो गया)।
- कॉन्टेक्स्टुअल नफरत: वे "थप्पड़ों" (सीधे अपमान) की तुलना में "फुसफुसाहटों" (कटाक्ष/अप्रत्यक्ष नफरत) के साथ संघर्ष करते हैं।
- क्रॉस-प्लेटफ़ॉर्म: उन्होंने Reddit पर अच्छा प्रदर्शन किया लेकिन YouTube पर अधिक संघर्ष किया।
वे क्यों असफल हुए?
शोधकर्ताओं ने पाया कि AI मुख्य रूप से इन कारणों से भ्रमित हुआ:
- छिपी हुई नफरत: जब बुलिंग स्पष्ट नहीं थी।
- संदर्भ (Context): जब अर्थ पूरी बातचीत पर निर्भर था।
- उम्र का भ्रम: जब यह बताना मुश्किल था कि अपमान किसी बच्चे को लक्षित कर रहा है या किसी वयस्क को।
5. निष्कर्ष
शोध पत्र यह निष्कर्ष निकालता है कि हालांकि हमारे पास शक्तिशाली AI उपकरण हैं, वे अभी भी बच्चों को ऑनलाइन पूरी तरह से सुरक्षित करने के लिए तैयार नहीं हैं। वे अभी भी बहुत अधिक "वयस्क-केंद्रित" हैं।
ChildGuard एक नया, विशेष उपकरण (एक डेटासेट) है जिसे अब शोधकर्ता बेहतर, अधिक संवेदनशील AI गार्ड को प्रशिक्षित करने के लिए उपयोग कर सकते हैं। यह इस बात पर प्रकाश डालता है कि बच्चों के मानसिक स्वास्थ्य की ऑनलाइन रक्षा करने के लिए यह समझना आवश्यक है कि एक 7 साल के बच्चे से बात करने वाले बुली की भाषा, 40 साल के वयस्क से बात करने वाले बुली से बहुत अलग होती है।
संक्षेप में: हमने बच्चों को ऑनलाइन कैसे परेशान किया जाता है, इसका एक विशाल पुस्तकालय बनाया है ताकि हम अपने कंप्यूटरों को सिखा सकें कि "तुम एक बच्चे हो" केवल एक विवरण नहीं, बल्कि एक नफरत भरा हमला हो सकता है, और हमारे वर्तमान कंप्यूटर अभी भी यह सबक सीख रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।