Multilingual Polarization Detection Using Transformer-Based Models with Class Weighting and Threshold Tuning
यह शोध पत्र SemEval-2026 टास्क 9 के लिए अंग्रेजी और स्वाहिली में बहुभाषी ध्रुवीकरण, प्रकारों और अभिव्यक्तियों का पता लगाने में प्रतिस्पर्धी प्रदर्शन प्राप्त करने के लिए क्लास वेटिंग और थ्रेशोल्ड ट्यूनिंग के साथ RoBERTa और AfroXLMR मॉडलों का उपयोग करते हुए एक ट्रांसफार्मर-आधारित दृष्टिकोण प्रस्तुत करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, शोर-शराबे वाले शहर के चौक की तरह है जहाँ लाखों लोग अपनी राय चिल्लाकर रख रहे हैं। कभी-कभी ये बातचीत स्वस्थ बहस होती है, लेकिन अक्सर, ये चिल्लाने के मुकाबलों में बदल जाती हैं जहाँ लोग सुनना बंद कर देते हैं और अपने विश्वासों, नस्ल, धर्म या लिंग के आधार पर एक-दूसरे पर हमला करने लगते हैं। इसे ध्रुवीकरण (Polarization) कहा जाता है।
आप जो पेपर पढ़ रहे हैं वह "एरॉन" नामक एक टीम का रिपोर्ट कार्ड है, जिन्होंने एक वैश्विक प्रतियोगिता (Sem评Eval-2026) में भाग लिया ताकि एक ऐसा रोबोट बनाया जा सके जो इस शहर के चौक को सुन सके, विशेष रूप से अंग्रेजी और स्वाहिली में, और तीन चीजें समझ सके:
- क्या यह बातचीत ध्रुवीकृत (एक चिल्लाने वाला मुकाबला) है या नहीं?
- लड़ाई किस बारे में है (राजनीति, नस्ल, धर्म, आदि)?
- वे कैसे लड़ रहे हैं (रूढ़ियों, अपमानों या अमानवीय भाषा का उपयोग करके)?
यहाँ बताया गया है कि उन्होंने अपना रोबोट कैसे बनाया और उन्हें क्या मिला, जिसे सरल भाषा में समझाया गया है:
1. उपकरण: सही "कान" चुनना
टीम ने एक ऐसा सामान्य रोबोट इस्तेमाल नहीं किया जो सभी भाषाओं को समान रूप से बोलता हो। उन्होंने महसूस किया कि जिस तरह एक व्यक्ति विदेशी की तुलना में स्थानीय बोली को बेहतर समझ सकता है, उसी तरह AI मॉडल को भी विशिष्ट होने की आवश्यकता होती है।
- अंग्रेजी के लिए: उन्होंने रोबोट को "RoBERTa" दिया, एक ऐसा मॉडल जिसे विशेष रूप से अंग्रेजी की बारीकियों को समझने के लिए प्रशिक्षित किया गया है।
- स्वाहिली के लिए: उन्होंने उसे "AfroXLMR" दिया, जो विशेष रूप से अफ्रीकी भाषाओं पर प्रशिक्षित है।
- उपमा: कल्पना कीजिए कि आप एक भीड़ भरे कमरे में बहस सुनने की कोशिश कर रहे हैं। यदि आप एक सामान्य सुनने वाले यंत्र (hearing aid) का उपयोग करते हैं, तो आप फुसफुसाहट को मिस कर सकते हैं। लेकिन यदि आप एक ऐसा यंत्र उपयोग करते हैं जो उस कमरे की फ्रीक्वेंसी के लिए ट्यून किया गया है, तो आप सब कुछ स्पष्ट रूप से सुनते हैं। उन्होंने वही किया।
2. समस्या: "दुर्लभ अतिथि" का मुद्दा
उन्होंने जिस डेटा का विश्लेषण किया, उसमें अधिकांश बातचीत सामान्य विषयों (जैसे सामान्य राजनीति) के बारे में थी, लेकिन कुछ विषय बहुत दुर्लभ थे (जैसे लिंग या यौन ध्रुवीकरण)।
- उपमा: एक कक्षा की कल्पना करें जहाँ 95% छात्र लाल शर्ट पहने हुए हैं और केवल 5% नीली शर्ट पहने हुए हैं। यदि आप किसी छात्र से किसी नए व्यक्ति की शर्ट के रंग का अनुमान लगाने के लिए कहते हैं, तो वे लगभग हमेशा "लाल" ही कहेंगे क्योंकि यह सबसे आम है। वे "नीली" शर्ट को पहचानने में विफल रहेंगे।
- समाधान: टीम ने अपने रोबोट को "नीली शर्ट" पर अतिरिक्त ध्यान देने के लिए सिखाया। उन्होंने एक क्लास-वेटेड लॉस (Class-Weighted Loss) फंक्शन का उपयोग किया। इसे एक ऐसे शिक्षक के रूप में सोचें जो कहता है, "यदि तुम एक लाल शर्ट को मिस करते हो, तो यह एक छोटी गलती है। लेकिन यदि तुम एक नीली शर्ट को मिस करते हो, तो तुम्हें भारी दंड मिलेगा।" इसने रोबोट को दुर्लभ और कठिन मामलों को बेहतर ढंग से सीखने के लिए मजबूर किया।
3. फाइन-ट्यूनिंग: संवेदनशीलता को समायोजित करना
प्रशिक्षण के बाद, रोबोट को निर्णय लेना था: "क्या यह टेक्स्ट ध्रुवीकृत है या नहीं?" आमतौर पर, रोबोट 50/50 के नियम का उपयोग करते हैं (यदि 50% संभावना है, तो हाँ कहें)। लेकिन टीम ने पाया कि यह नियम बहुत कठोर था।
- उपमा: हवाई अड्डे पर धातु का पता लगाने वाले यंत्र (metal detector) के बारे में सोचें। यदि यह बहुत कम सेट है, तो यह असली हथियारों को अनदेखा कर देता है। यदि यह बहुत अधिक सेट है, तो यह चाबियों के लिए भी चिल्लाने लगता है। टीम ने प्रत्येक प्रकार के ध्रुवीकरण के लिए थ्रेशोल्ड (threshold) को ट्यून किया। उन्होंने "रूढ़ियों" के लिए "सहानुभूति की कमी" की तुलना में संवेदनशीलता को अलग तरह से समायोजित किया, जिससे यह सुनिश्चित हुआ कि रोबोट बिना बेवजह शोर मचाए सही मात्रा में गड़बड़ी को पकड़ सके।
4. परिणाम: उन्होंने कैसा प्रदर्शन किया?
रोबोट ने बहुत अच्छा प्रदर्शन किया, विशेष रूप से अन्य टीमों और पुरानी विधियों की तुलना में।
- बाइनरी डिटेक्शन (क्या यह ध्रुवीकृत है?): रोबोट अंग्रेजी और स्वाहिली दोनों में लगभग 79% सटीक था। यह स्वाहिली में ध्रुवीकरण को पहचानने में थोड़ा बेहतर था, संभवतः इसलिए क्योंकि स्वाहिली डेटा में ध्रुवीकृत और गैर-ध्रुवीकृत टेक्स्ट का मिश्रण अधिक संतुलित था।
- प्रकार और प्रकटीकरण (क्या और कैसे?): यह कठिन था। रोबोट लगभग 46–58% सटीक था। यह अभी भी एक मजबूत स्कोर है क्योंकि यह कार्य अत्यंत कठिन है (जैसे अंधेरे कमरे में आइसक्रीम के विशिष्ट स्वाद का अनुमान लगाना)।
- रैंकिंग: स्वाहिली कार्य के लिए कि लोग कैसे लड़ रहे थे (प्रकटीकरण), यह टीम 16 टीमों में से दूसरे स्थान पर आई।
5. जहाँ रोबोट लड़खड़ाया (त्रुटि विश्लेषण)
यहाँ तक कि सबसे स्मार्ट रोबोट भी गलतियाँ करते हैं। टीम ने त्रुटियों को देखा और उन्हें तीन मुख्य समस्या क्षेत्र मिले:
- "मजबूत" और "बुरे" के बीच भ्रम: रोबोट कभी-कभी एक मजबूत खेल टिप्पणी (जैसे "लेकर्स, सेल्टिक्स को नष्ट कर देंगे") को एक घृणित ध्रुवीकृत हमले के रूप में समझ लेता था। इसने तीव्रता को ध्रुवीकरण समझ लिया।
- "थ्योरी ऑफ माइंड" की कमी: रोबोट अमानवीयकरण (dehumanization) (लोगों को वस्तुओं की तरह मानना) और सहानुभूति की कमी का पता लगाने में संघर्ष करता है। इनके लिए गहरे मानवीय भावनाओं और रूपकों को समझना आवश्यक है, जो एक कैलकुलेटर से कविता समझने के लिए कहने जैसा है।
- दुर्लभ लेबल: अपने विशेष "दंड" प्रशिक्षण के बावजूद, रोबोट अभी भी बहुत दुर्लभ श्रेणियों (जैसे लिंग/यौन ध्रुवीकरण) को मिस कर गया क्योंकि सीखने के लिए उदाहरण बहुत कम थे।
सारांश
टीम ने एक विशेष सुनने वाली प्रणाली बनाई है जो अंग्रेजी और स्वाहिली के लिए अलग-अलग "कानों" का उपयोग करती है, सिस्टम को दुर्लभ विषयों के बारे में गहराई से सोचने के लिए सिखाती है, और सबसे अधिक गड़बड़ी को पकड़ने के लिए इसकी संवेदनशीलता को ट्यून करती है। हालाँकि यह अभी भी पूर्ण नहीं है—विशेष रूप से गहरी मानवीय क्रूरता या व्यंग्य को समझने के मामले में—लेकिन यह ऑनलाइन झगड़ों को समझने और उन्हें नियंत्रित करने में मदद करने की दिशा में एक महत्वपूर्ण कदम है।
महत्वपूर्ण नोट: लेखक स्पष्ट रूप से कहते हैं कि यह एक शोध उपकरण है। वे चेतावनी देते हैं कि यदि वास्तविक दुनिया में मानवीय पर्यवेक्षण के बिना इसका उपयोग किया जाता है, तो यह अनजाने में वैध राजनीतिक आवाजों को चुप करा सकता है या हाशिए पर मौजूद समूहों को गलत तरीके से निशाना बना सकता है। उनका मानना है कि अंतिम निर्णय लेने के लिए मनुष्य का प्रक्रिया में होना अनिवार्य है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।