Cost-sensitive multi-label classification in BERT-based models: An inverse-frequency re-weighting approach to emoji pragmatics
यह अध्ययन प्रदर्शित करता है कि अरबी डिजिटल विमर्श के भीतर कम प्रतिनिधित्व वाले इमोजी प्रैग्मैटिक फंक्शन्स (pragmatic functions) को वर्गीकृत करने में MARBERT पर एक इनवर्स-फ्रीक्वेंसी री-वेटिंग दृष्टिकोण लागू करना बेसलाइन मॉडलों की तुलना में काफी बेहतर प्रदर्शन करता है, जो अरबी एनएलपी (NLP) में कम्प्यूटेशनल प्रैग्मैटिक्स को आगे बढ़ाने के लिए गंभीर लेबल असंतुलन को प्रभावी ढंग से संबोधित करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
सोशल मीडिया के विशाल और शोर-शराबे वाले परिदृश्य में, एक एकल पोस्ट एक साथ दर्जनों अलग-अलग अर्थ रख सकती है। एक वाक्य एक मजाक, राहत की सांस और एक मित्र पर किया गया सूक्ष्म कटाक्ष हो सकता है, जो कुछ शब्दों और कुछ रंगीन आइकनों में लिपटा होता है। कंप्यूटरों के लिए, इस जटिलता को समझना एक अत्यंत कठिन कार्य है। हालांकि मशीनें खुशी या क्रोध जैसी सरल भावनाओं को पहचानने में काफी कुशल हो गई हैं, लेकिन जब उन्हें मानवीय संचार के अधिक सूक्ष्म और स्तरित उद्देश्यों को पहचानने के लिए कहा जाता है, तो वे अक्सर लड़खड़ा जाती हैं। यह डिजिटल प्राग्मैटिक्स (digital pragmatics) का क्षेत्र है: यह अध्ययन कि लोग चीजों को करने के लिए, जैसे एकजुटता दिखाने, किसी बात को नरम बनाने या व्यंग्य व्यक्त करने के लिए भाषा और प्रतीकों का उपयोग कैसे करते हैं। अरबी भाषी दुनिया में, यह चुनौती और भी बड़ी है क्योंकि यह भाषा स्वयं एक जीवंत मोज़ेक (mosaic) है। लोग औपचारिक, लिखित मानक और विभिन्न रंगीन, अनौपचारिक बोलियों के बीच सहजता से स्विच करते हैं, और अक्सर एक ही बातचीत के भीतर उन्हें मिला देते हैं। जब आप इस मिश्रण में इमोजी जोड़ देते हैं, तो कंप्यूटर को एक पोस्ट के पीछे के पूर्ण इरादे को समझने के लिए सिखाना एक अत्यधिक कठिन पहेली बन जाता है।
दो शोधकर्ताओं, फहद अल हुसेन और मोहम्मद शोरमानी ने इस पहेली के एक विशिष्ट हिस्से को हल करने का बीड़ा उठाया। वे जानना चाहते थे कि क्या उन्नत कंप्यूटर मॉडल अरबी फेसबुक पोस्ट में इमोजी के बहु-स्तरीय और ओवरलैपिंग कार्यों को पहचानना सीख सकते हैं, भले ही उनमें से कुछ कार्य बहुत कम दिखाई देते हों। उन्होंने 8,000 से अधिक अद्वितीय पोस्टों के एक डेटासेट पर ध्यान केंद्रित किया, जिनमें से प्रत्येक में कम से कम दो इमोजी थे। लक्ष्य केवल यह कहना नहीं था कि कोई पोस्ट सकारात्मक है या नकारात्मक, बल्कि इसे अर्थ की विशिष्ट श्रेणियों में वर्गीकृत करना था, जैसे कि "प्रार्थना", "आश्चर्य", "सहमति", या "मिटिगेशन" (विवाद को नरम करने की क्रिया)। शोधकर्ताओं को एक महत्वपूर्ण बाधा का सामना करना पड़ा: उनके डेटा में, "हास्य" जैसे कुछ कार्य हजारों बार दिखाई दिए, जबकि "मिटिगेशन" जैसे अन्य कार्य केवल कुछ दर्जन बार ही दिखाई दिए। यह आर्टिफिशियल इंटेलिजेंस में एक आम समस्या है; बिना मदद के, एक कंप्यूटर दुर्लभ वस्तुओं को अनदेखा करने और केवल सामान्य वस्तुओं पर ध्यान केंद्रित करने की प्रवृत्ति रखता है, जिससे वह सूक्ष्म, कम बार होने वाले अर्थों के प्रति प्रभावी रूप से अंधा हो जाता है।
इसे हल करने के लिए, टीम ने अरबी पाठ को समझने के लिए डिज़ाइन किए गए दो शक्तिशाली कंप्यूटर मॉडलों का परीक्षण किया। पहला, जिसे AraBERT के रूप में जाना जाता है, मुख्य रूप से औपचारिक, मानक अरबी पर प्रशिक्षित था, ठीक वैसे ही जैसे एक छात्र जिसने पाठ्यपुस्तकों और समाचार लेखों का अध्ययन किया हो। दूसरा, MARBERT, सोशल मीडिया पोस्ट के एक विशाल संग्रह पर प्रशिक्षित था, जो इसे रोजमर्रा के ऑनलाइन जीवन में पाए जाने वाले स्लैंग, बोलियों और अनौपचारिक लेखन शैलियों से अधिक परिचित बनाता है। शोधकर्ताओं ने इन मॉडलों को इमोजी के दस अलग-अलग सूक्ष्म-कार्यों को पहचानने के लिए सिखाया, जिसमें प्रेम व्यक्त करने से लेकर व्यंग्य संकेत देने तक शामिल है। हालांकि, वे जानते थे कि केवल डेटा को मॉडलों को खिला देना पर्याप्त नहीं होगा। दुर्लभ कार्यों को अनदेखा किए जाने की समस्या को ठीक करने के लिए, उन्होंने सीखने की प्रक्रिया में एक चतुर समायोजन पेश किया। प्रत्येक कार्य के उदाहरण को समान रूप से महत्वपूर्ण मानने के बजाय, उन्होंने कंप्यूटर को दुर्लभ वाले उदाहरणों पर अतिरिक्त ध्यान देने के लिए कहा। कल्पना कीजिए कि एक शिक्षक छात्र के होमवर्क को ग्रेड दे रहा है: यदि छात्र सामान्य प्रश्नों को सही करता है लेकिन दुर्लभ, कठिन प्रश्नों को छोड़ देता है, तो शिक्षक यह तय कर सकता है कि छात्र वास्तव में पूरे विषय को समझ ले, इसके लिए उन दुर्लभ प्रश्नों को अंतिम स्कोर में अतिरिक्त भार दिया जाए। शोधकर्ताओं ने इसी तर्क को लागू किया, कंप्यूटर को बताया कि "मिटिगेशन" जैसे दुर्लभ कार्य पर गलती करना "जोर देने" जैसे सामान्य कार्य पर गलती करने की तुलना में बहुत बड़ी त्रुटि है।
इस प्रयोग के परिणाम उत्साहजनक थे। जब मॉडलों को इस विशेष समायोजन के बिना सीखने के लिए छोड़ दिया गया, तो उन्होंने सामान्य कार्यों पर तो उचित प्रदर्शन किया लेकिन दुर्लभ कार्यों पर लगभग पूरी तरह से विफल रहे। उदाहरण के लिए, मॉडल "आश्चर्य", "सहमति" या "मिटिगेशन" की पहचान नहीं कर सके, और उन्हें सफलता की शून्य दर सौंपी गई। इसने पुष्टि की कि हस्तक्षेप के बिना, सामान्य डेटा पर कंप्यूटर का ध्यान उसे सूक्ष्म, दुर्लभ अर्थों के प्रति अंधा बना देता है। हालांकि, एक बार जब शोधकर्ताओं ने अपने 'कॉस्ट-सेन्सिटिव री-वेटिंग' (cost-sensitive re-weighting) तरीके को लागू किया, तो तस्वीर नाटकीय रूप से बदल गई। मॉडल बहुत अधिक सटीकता के साथ दुर्लभ कार्यों को पहचानने लगे। सोशल मीडिया डेटा पर प्रशिक्षित मॉडल, MARBERT, ने सबसे प्रभावशाली सुधार दिखाया। इसकी कार्यों की पूरी श्रृंखला को सही ढंग से पहचानने की क्षमता में उल्लेखनीय उछाल आया, जो सफलता के मध्यम स्तर से बढ़कर संतुलित प्रदर्शन के उच्च स्तर तक पहुँच गया। इसने "आश्चry" और "सहमति" को बहुत अधिक विश्वसनीयता के साथ पहचानना सीखा, और इसने उस मायावी "मिटिगेशन" कार्य को भी पकड़ना शुरू कर दिया, जो पहले सिस्टम के लिए अदृश्य था।
अध्ययन ने दोनों मॉडलों के बीच एक महत्वपूर्ण अंतर को भी रेखांकित किया। औपचारिक अरबी पर प्रशिक्षित मॉडल, AraBERT, में सुधार तो हुआ, लेकिन इसके लाभ मामूली थे। इसे सोशल मीडिया पोस्ट की अव्यवस्थित, मिश्रित प्रकृति के अनुकूल होने के लिए संघर्ष करना पड़ा। इसके विपरीत, MARBERT, जो अपने प्रशिक्षण के दौरान बोलियों और अनौपचारिक भाषण के वास्तविक दुनिया के अराजक स्वरूप के संपर्क में आया था, इस कार्य को संभालने के लिए कहीं अधिक सुसज्जित था। यह सुझाव देता है कि लोगों के ऑनलाइन संचार को समझने के लिए, एक मॉडल को उस भाषा पर प्रशिक्षित करने की आवश्यकता है जैसा कि उन स्थानों में बोला और टाइप किया जाता है, न कि केवल जैसा कि औपचारिक पुस्तकों में दिखाई देता है। शोधकर्ताओं ने पाया कि सोशल मीडिया पर प्रशिक्षित मॉडल को एक ऐसी शिक्षण रणनीति के साथ जोड़ने से, जो दुर्लभ उदाहरणों पर ध्यान केंद्रित करने के लिए मजबूर करती है, सर्वोत्तम परिणाम प्राप्त हुए। उन्होंने नहीं पाया कि केवल एक विधि ही जादुв समाधान थी; बल्कि, सफलता एक ऐसे मॉडल के संयोजन से आई जो भाषाई संदर्भ को समझता था और एक ऐसी शिक्षण पद्धति से जो यह सुनिश्चित करती थी कि बातचीत के किसी भी हिस्से को अनदेखा न किया जाए।
अंततः, यह कार्य प्रदर्शित करता है कि कंप्यूटर को अरबी डिजिटल विमर्श में इमोजी के जटिल, बहु-स्तरीय उपयोग को समझने के लिए सिखाया जा सकता है, बशर्ते प्रशिक्षण प्रक्रिया को दुर्लभ और सामान्य को समान महत्व देने के लिए डिज़ाइन किया गया हो। शोधकर्ताओं ने दिखाया कि प्रशिक्षण प्रक्रिया को समायोजित करके, वे उन सूक्ष्म व्यावहारिक कार्यों को पहचानने की क्षमता को अनलॉक कर सकते थे जो पहले छूट गए थे। यह अरबी भाषा प्रौद्योगिकी के लिए एक महत्वपूर्ण कदम है, जो सरल भावना विश्लेषण (sentiment analysis) से आगे बढ़कर मानवीय अंतःक्रिया की गहरी समझ की ओर बढ़ता है। निष्कर्ष यह है कि आर्टिफिशियल इंटेलिजेंस के लिए डिजिटल संचार की समृद्धि को वास्तव में समझने के लिए, इसे लोगों द्वारा ऑनलाइन वास्तव में बोले जाने वाले और लिखे जाने वाले विविध, अनौपचारिक और अक्सर असंतुलित वास्तविकता पर प्रशिक्षित किया जाना चाहिए। अध्ययन यह निष्कर्ष निकालता है कि हालांकि तकनीक पूर्ण नहीं है और अभी भी अत्यंत दुर्लभ उदाहरणों के साथ चुनौतियों का सामना कर रही है, भविष्य का मार्ग उन मॉडलों का उपयोग करने में निहित है जो भाषा की वास्तविक विविधता को दर्शाते हैं और ऐसी शिक्षण प्रणालियों को डिजाइन करने में है जो सामान्य को अद्वितीय पर हावी न होने दें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।