Multi-Stage Training for Abusive Comment Detection in Indic Languages
यह शोध पत्र अभिव्यक्ति की स्वतंत्रता को बनाए रखने के लिए गलत सकारात्मक परिणामों (फॉल्स पॉजिटिव) को कम करते हुए, भारतीय भाषाओं में अपमानजनक टिप्पणियों का पता लगाने के लिए भाषा-आधारित प्रीप्रोसेसिंग और मॉडलों के एक समूह (एन्सेम्बल) को संयोजित करने वाले एक बहु-चरणीय प्रशिक्षण पाइपलाइन का प्रस्ताव करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि सोशल मीडिया एक विशाल, हलचल भरे शहर के चौक की तरह है जहाँ हर कोई अपने विचार चिल्ला रहा है, खबरें साझा कर रहा है और बातचीत कर रहा है। हालांकि यह जुड़ाव के लिए बहुत अच्छा है, लेकिन कभी-कभी लोग एक-दूसरे पर सड़े हुए टमाटर (अपमानजनक टिप्पणियाँ) फेंकने लगते हैं। इस शोध पत्र का लक्ष्य इस शहर के चौक के लिए एक स्मार्ट सुरक्षा गार्ड बनाना है जो सड़े हुए टमाटरों को पहचान सके, लेकिन गलती से उन लोगों को न रोक दे जो बस एक ज़ोरदार, लेकिन हानिरहित बहस कर रहे हों।
यहाँ बताया गया है कि लेखकों ने इस शहर के चौक के लिए अपना सुरक्षा गार्ड कैसे बनाया, जिसे सरल शब्दों में समझाया गया है:
समस्या: एक शोर भरा, अस्त-व्यस्त कमरा
टीम को एक भारतीय ऐप "Moj" से टिप्पणियों का एक विशाल ढेर (7,00,000) दिया गया था। ये टिप्पणियाँ 15 से अधिक विभिन्न भारतीय भाषाओं में थीं।
हालाँकि, डेटा एक मेस (mess) की तरह था, जैसे एक कमरा जहाँ किसी ने सब कुछ फर्श पर फेंक दिया हो:
- भाषा का भ्रम: लोग अक्सर अंग्रेजी अक्षरों का उपयोग करके हिंदी शब्द टाइप करते थे (जैसे "Hinglish"), या भाषाओं को आपस में मिला देते थे। कंप्यूटर के लिए अर्थ समझना कठिन था।
- "लेबल नॉइज़" (Label Noise) का जाल: यह सबसे बड़ी बाधा थी। टीम ने पाया कि "उत्तर कुंजी" (labels जो उन्हें बता रही थी कि क्या अपमानजनक था) लगभग 9-10% बार गलत थी।
- उपमा: कल्पना कीजिए कि एक शिक्षक टेस्ट ग्रेड कर रहा है लेकिन गलती से एक सही उत्तर को "गलत" और एक गलत उत्तर को "सही" मार्क कर देता है। यदि कंप्यूटर इस शिक्षक से सीखने की कोशिश करता है, तो वह भ्रमित हो जाएगा। लेखकों ने यहाँ तक कि एक अजीब प्रयोग भी किया जहाँ उन्होंने सभी लेबल्स को उलट दिया (कंप्यूटर को बताया कि "अपमानजनक" का मतलब "सुरक्षित" है) और कंप्यूटर ने वास्तव में एक उच्च स्कोर प्राप्त किया, जिससे यह साबित हुआ कि मूल लेबल्स वास्तव में खराब थे।
समाधान: एक पांच-चरणों वाली असेंबली लाइन
इसे ठीक करने के लिए, लेखकों ने एक बहु-चरणीय पाइपलाइन बनाई, जो एक फैक्ट्री की असेंबली लाइन की तरह है जो अंतिम निर्णय लेने से पहले डेटा को साफ करती है, छाँटती है और पॉलिश करती है।
चरण 1: सफाई दल (Preprocessing)
सबसे पहले, उन्होंने एक सफाई कर्मचारी की तरह काम किया। उन्होंने HTML टैग्स (डिजिटल कचरा) को हटाया और "ट्रांसलिटरेट" (transliterate) करने के लिए एक टूल का उपयोग किया।
- उपमा: यदि किसी ने अंग्रेजी अक्षरों में "Namaste" लिखा था, तो उन्होंने इसे वापस वास्तविक हिंदी लिपि में बदल दिया। इससे कंप्यूटर को शब्दों को बेहतर ढंग से समझने में मदद मिली, ठीक वैसे ही जैसे किसी किताब को उसके मूल रूप में पढ़ने में मदद मिलती है बजाय इसके कि वह एक खराब अनुवाद हो।
चरण 2: भाषा विशेषज्ञ (Model Training)
सभी 15 भाषाओं को समझने के लिए एक विशाल, सामान्य मस्तिष्क का उपयोग करने के बजाय, उन्होंने प्रत्येक भाषा के लिए विशिष्ट "विशेषज्ञों" को प्रशिक्षित किया।
- उन्होंने उन्नत AI मॉडल (जैसे XLM-R और Muril) का उपयोग किया जिन्होंने पहले ही लाखों किताबें पढ़ी थीं। उन्होंने इन मॉडलों को विशिष्ट भारतीय भाषाओं में दुर्व्यवहार पहचानने में विशेषज्ञ बनने के लिए फाइन-ट्यून किया।
चरण 3: जासूस की नोटबुक (Embeddings & Metadata)
मॉडल्स ने केवल शब्दों को नहीं देखा; उन्होंने टिप्पणी के "वाइब" (vibe) को भी देखा।
- उन्होंने टेक्स्ट को एक गणितीय मानचित्र (जिसे एम्बेडिंग्स कहा जाता है) में बदल दिया जो अर्थ और संदर्भ को पकड़ता है।
- उन्होंने "मेटाडेटा" भी जोड़ा, जो टिप्पणी की लोकप्रियता को देखने जैसा है। यदि किसी टिप्पणी में हजारों "रिपोर्ट्स" हैं और शून्य "लाइक्स" हैं, तो यह एक मजबूत संकेत है कि वह अपमानजनक हो सकती है। उन्होंने टेक्स्ट के अर्थ को इन सामाजिक संकेतों के साथ जोड़ा।
चरण 4: "अनुमान और जाँच" लूप (Pseudo-Labeling)
चूंकि मूल लेबल्स शोर भरे (noisy) थे, इसलिए उन्होंने Pseudo-Labeling नामक एक चतुर तकनीक का उपयोग किया।
- उपमा: कल्पना कीजिए कि एक छात्र गणित में काफी अच्छा है। शिक्षक कहता है, "यहाँ कुछ सवाल हैं जहाँ उत्तर गायब हैं। आप उन्हें हल करें, और फिर हम आपके उत्तरों का उपयोग आपको और अधिक सिखाने के लिए करेंगे।"
- कंप्यूटर ने बिखरे हुए डेटा पर अपने सर्वश्रेष्ठ अनुमान लगाए। फिर, उसने खुद को फिर से प्रशिक्षित करने के लिए उन अनुमानों का उपयोग किया। उसने इसे बार-बार किया, धीरे-धीरे "बुरे शिक्षक" (शोर वाले लेबल्स) को अनदेखा करना और अपने बढ़ते अंतर्ज्ञान पर भरोसा करना सीखा।
चरण 5: अंतिम समिति (Ensemble & Thresholds)
अंत में, वे केवल एक मॉडल पर निर्भर नहीं रहे। उन्होंने विभिन्न मॉडलों की एक "समिति" बनाई।
- उन्होंने अपने सर्वश्रेष्ठ मॉडलों के भविष्यवाणियों को लिया और उन्हें संयोजित किया (एक वेटेड एन्सेम्बल)।
- सीक्रेट सॉस: उन्होंने महसूस किया कि हिंदी में जो अपमानजनक है, वह तमिल में अलग हो सकता है। इसलिए, उन्होंने प्रत्येक भाषा के लिए अलग-अलग "संवेदनशीलता स्तर" (thresholds) निर्धारित किए।
- उपमा: एक सुरक्षा गार्ड लाइब्रेरी में चिल्लाने को लेकर बहुत सख्त हो सकता है (हिंदी टिप्पणियाँ) लेकिन एक स्पोर्ट्स स्टेडियम में चिल्लाने को लेकर अधिक उदार हो सकता है (तमिल टिप्पणियाँ)। प्रत्येक भाषा के लिए संवेदनशीलता को ट्यून करके, उन्होंने निर्दोष टिप्पणियों को अपमानजनक के रूप में चिह्नित करने से रोका।
परिणाम
डेटा को साफ करके, विशिष्ट भाषा विशेषज्ञों का उपयोग करके, "बुरे शिक्षक" की समस्या को स्यूडो-लेबलिंग के साथ ठीक करके और प्रत्येक भाषा के लिए संवेदनशीलता को ट्यून करके, उन्होंने एक ऐसी प्रणाली बनाई जिसने 0.90000 का स्कोर प्राप्त किया।
मुख्य निष्कर्ष:
यह शोध पत्र दिखाता है कि विविध भाषाओं में अपमानजनक सामग्री को पकड़ने के लिए, आप केवल "एक ही आकार सबके लिए उपयुक्त" (one-size-fits-all) दृष्टिकोण का उपयोग नहीं कर सकते। आपको डेटा को साफ करना होगा, प्रशिक्षण लेबल्स की गलतियों को ठीक करना होगा, और प्रत्येक भाषा के साथ उसके अपने विशिष्ट नियमों के साथ व्यवहार करना होगा। यह सुनिश्चित करता है कि सिस्टम अच्छे सेबों को फेंकने के बजाय बुरे सेबों को पकड़ ले, जिससे शहर का चौक सुरक्षित भी रहता है और लोगों के बोलने के लिए स्वतंत्र भी।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।