Leveraging LLMs for Context-Aware Implicit Textual and Multimodal Hate Speech Detection
यह शोध पत्र यह प्रदर्शित करता है कि सहायक पृष्ठभूमि संदर्भ (auxiliary background context) उत्पन्न करने के लिए लार्ज लैंग्वेज मॉडल्स का लाभ उठाना और इसे एम्बेडिंग कॉनकैटिनेशन (embedding concatenation) के माध्यम से सम्मिलित करना, टेक्स्टुअल और मल्टीमॉडल दोनों सेटिंग्स में निहित घृणास्पद भाषण (implicit hate speech) का पता लगाने में महत्वपूर्ण सुधार करता है, जो ज़ीरो-कॉन्टेक्स्ट बेसलाइन्स और मौजूदा एंटिटी-लिंकिंग दृष्टिकोणों से बेहतर प्रदर्शन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
इंटरनेट मानवीय अभिव्यक्ति का एक विशाल, शोर-शराबे वाला बाजार है, जहाँ सबसे खतरनाक शब्द अक्सर वे होते हैं जो चिल्लाते नहीं हैं। हालांकि किसी कंप्यूटर के लिए स्पष्ट अपशब्दों या सीधे खतरों को पहचानना अपेक्षाकृत आसान है, लेकिन एक अलग प्रकार की विषाक्तता (toxicity) आँखों के सामने छिपी रहती है। यह 'निहित घृणा' (implicit hate speech) है: ऐसी शत्रुता जो व्यंग्य, सांस्कृतिक संकेतों, या दुनिया की साझा समझ पर निर्भर करती है ताकि अपना प्रभाव डाल सके। एक वाक्य जो अपने आप में निर्दोष लग सकता है, वह किसी विशिष्ट घटना, ऐतिहासिक संदर्भ, या किसी समुदाय के भीतर के चुटकुलों के चश्मे से देखे जाने पर एक जहरीला हमला बन सकता है। वर्षों से, शोधकर्ताओं ने कंप्यूटर को इन छिपे हुए अर्थों को देखना सिखाने की कोशिश की है, लेकिन उन्हें एक मौलिक समस्या का सामना करना पड़ा है: मशीनों के पास उस पृष्ठभूमि ज्ञान (background knowledge) का अभाव है जिसे मनुष्य स्वाभाविक रूप से स्वीकार करते हैं। वे शब्दों को पढ़ सकते हैं, लेकिन वे उनके पीछे की कहानी को नहीं जानते।
इसे हल करने के लिए, व्रीजे यूनिवर्सिटी एम्स्टर्डम (Vrije Universiteit Amsterdam) के शोधकर्ताओं की एक टीम ने निर्णय लिया कि वे अपने कंप्यूटर मॉडल को एक ट्यूटर देंगे। उन्होंने लार्ज लैंग्वेज मॉडल्स (LLMs) की ओर रुख किया—वही शक्तिशाली कृत्रिम बुद्धिमत्ता प्रणाली जो निबंध लिख सकती है या बातचीत कर सकती है—और उनसे कुछ विशिष्ट करने को कहा। AI को यह तय करने वाला न्यायाधीश बनाने के बजाय कि क्या घृणित है, उन्होंने इसका उपयोग एक तथ्य-जांचकर्ता (fact-checker) और एक इतिहासकार के रूप में किया। प्रत्येक सोशल मीडिया पोस्ट जिसका विश्लेषण सिस्टम कर रहा था, उसके लिए AI को पृष्ठभूमि संदर्भ का एक छोटा पैराग्राफ तैयार करने के लिए कहा गया। यदि किसी पोस्ट में किसी अस्पष्ट राजनीतिक समूह या किसी वायरल मीम का उल्लेख था, तो AI यह समझाता था कि वे कौन थे और उनके विचार क्या थे, जिससे प्रभावी रूप से दुनिया के ज्ञान के उन अंतरालों को भरा जा सका जिन्हें एक मानक कंप्यूटर प्रोग्राम मिस कर देता। शोधकर्ताओं ने फिर इस नई जानकारी को अपने डिटेक्शन सिस्टम में फीड करने के चार अलग-अलग तरीकों का परीक्षण किया, यह पूछते हुए कि क्या तथ्यों को पोस्ट के बगल में बस पेस्ट कर देना पर्याप्त था, या क्या कंप्यूटर को वास्तविक इरादे को समझने के लिए पोस्ट और तथ्यों को अलग-अलग प्रोसेस करने की आवश्यकता थी।
इस प्रयोग के परिणाम स्पष्ट और मापने योग्य थे। जब शोधकर्ताओं ने हजारों ट्वीट्स के एक डेटासेट पर, जिनमें निहित घृणा शामिल थी, अपने तरीके का परीक्षण किया, तो वह सिस्टम जिसने AI-जनित पृष्ठभूमि संदर्भ का उपयोग किया था, केवल कच्चे टेक्स्ट (raw text) पर निर्भर मॉडलों की तुलना में काफी बेहतर प्रदर्शन करता था। सबसे सफल दृष्टिकोण एक विशिष्ट तकनीक थी जहाँ कंप्यूटर मूल पोस्ट का एक डिजिटल प्रतिनिधित्व और उत्पन्न पृष्ठभूमि कहानी का एक अलग प्रतिनिधित्व बनाता था, और फिर इन दो अलग-अलग सूचनाओं के टुकड़ों को जोड़ता था। इस पद्धति ने बिना किसी संदर्भ वाले सिस्टम की तुलना में घृणित सामग्री की सही पहचान करने की क्षमता में तीन प्रतिशत तक सुधार किया। यह सुधार तब और भी नाटकीय हो गया जब शोधकर्ताओं ने इसी तर्क को एक अन्य प्रकार की सामग्री: इंटरनेट मीम्स (memes) पर लागू किया। मीम्स चित्र और टेक्स्ट का संयोजन होते हैं, जो अक्सर दृश्य संकेतों पर निर्भर करते हैं जो एक मशीन के लिए उतने ही भ्रमित करने वाले होते हैं जितना कि कोडेड भाषा एक इंसान के लिए। महिला विरोधी (misogynistic) मीम्स के एक डेटासेट पर, संदर्भ-संवर्धित (context-enhanced) सिस्टम ने अपनी सटीकता में छह प्रतिशत तक सुधार किया।
हालाँकि, बेहतर पहचान का मार्ग बाधाओं से रहित नहीं था। शोधकर्ताओं ने पाया कि किसी पोस्ट में केवल अधिक शब्द जोड़ने से हमेशा मदद नहीं मिली; वास्तव में, इसने कभी-कभी कंप्यूटर को भ्रमित भी किया। जब AI ने पहले से ही स्पष्ट रूप से घृणित पोस्ट के लिए एक लंबा, विस्तृत विवरण तैयार किया, तो अतिरिक्त जानकारी ने कभी-कभी मूल संदेश को कमजोर कर दिया, जिससे सिस्टम घृणा को पहचानने में चूक गया। इसके विपरीत, जब AI ने एक निर्दmless (निर्दोष) पोस्ट के लिए एक बैकस्टोरी बनाई, तो इसने कभी-कभी उन संबंधों को भी बना दिया जो घृणित विचारों से जुड़े थे, जिससे निर्दोष सामग्री को गलत तरीके से खतरनाक के रूप में चिह्नित कर दिया गया। ऐसा इसलिए हुआ क्योंकि AI, अपनी मदद करने की कोशिश में, कभी-कभी एक तटस्थ वाक्यांश या किसी समूह के बारे में चेतावनी को घृणा के समर्थन के रूप में अति-व्याख्या (over-interpret) कर देता था। अध्ययन ने दिखाया कि हालांकि पृष्ठभूमि ज्ञान प्रदान करना एक शक्तिशाली उपकरण है, लेकिन इसे सावधानी से संभालना चाहिए। सबसे प्रभावी तरीका पोस्ट और संदर्भ को एक ही टेक्स्ट ब्लॉक में मिलाना नहीं था, बल्कि विश्लेषण के बिल्कुल अंत तक उन्हें अलग रखना था, जिससे कंप्यूटर मूल संदेश को नई जानकारी के विरुद्ध तौल सके बिना एक दूसरे को दबाए।
इस कार्य ने एक सामान्य धारणा को भी चुनौती दी: कि सबसे शक्तिशाली कृत्रिम बुद्धिमत्ता वह होनी चाहिए जो अंतिम निर्णय ले। शोधकर्ताओं ने परीक्षण किया कि क्या लार्ज लैंग्वेज मॉडल स्वयं यह तय कर सकता था कि पोस्ट घृणित है या नहीं, और स्वयं एक क्लासिफायर के रूप में कार्य कर सकता था। हालाँकि AI इस मामले में काफी अच्छा था, विशेष रूप से विजुअल मीम्स के साथ, लेकिन इसने उस विशेष डिटेक्शन सिस्टम से बेहतर प्रदर्शन नहीं किया जिसने AI का उपयोग केवल पृष्ठभूमि तथ्य उत्पन्न करने के लिए किया था। यह सुझाव देता है कि वर्तमान में सबसे अच्छा दृष्टिकोण एक साझेदारी है: लार्ज लैंग्वेज मॉडल का उपयोग प्रासंगिक तथ्यों को प्राप्त करने के लिए एक गतिशील लाइब्रेरी के रूप में करना, और फिर उन तथ्यों के आधार पर अंतिम निर्णय लेने के लिए एक सरल, अधिक केंद्रित सिस्टम का उपयोग करना। यह मॉड्यूलर दृष्टिकोण सिस्टम को घृणा भाषण के विशिष्ट पैटर्न सीखने की अनुमति देता है जबकि उसके पास दुनिया के उस विशाल ज्ञान तक पहुँच भी होती है जो निहित घृणा को समझने योग्य बनाता है।
अंततः, यह अध्ययन प्रदर्शित करता है कि संदर्भ केवल घृणा भाषण का पता लगाने के लिए एक सहायक जुड़ाव नहीं है; यह आधुनिक इंटरनेट की सूक्ष्म, कोडेड भाषा को समझने के लिए एक आवश्यकता है। पृष्ठभूमि जानकारी के निर्माण को वर्गीकरण (classification) के कार्य से एक अलग चरण के रूप में मानकर, शोधकर्ताओं ने एक ऐसा सिस्टम बनाया जो अधिक सटीक और अधिक मजबूत है। उन्होंने दिखाया कि छिपी हुई घृणा को पकड़ने की कुंजी केवल शब्दों को पढ़ने में नहीं, बल्कि उस दुनिया को समझने में है जिसका वे शब्द वर्णन करते हैं। हालाँकि यह सिस्टम पूर्ण नहीं है और अभी भी निर्दोष व्यंग्य और वास्तविक द्वेष के बीच की महीन रेखा के लिए संघर्ष करता है, लेकिन इसके निष्कर्ष भविष्य के लिए एक स्पष्ट दिशा प्रदान करते हैं। जैसे-जैसे कृत्रिम बुद्धिमत्ता विकसित होती जा रही है, प्रासंगिक संदर्भ उत्पन्न करने और उसे एकीकृत करने की क्षमता संभवतः किसी भी ऐसे सिस्टम के लिए मानक बन जाएगी जिसका कार्य ऑनलाइन स्थानों को मानवीय अभिव्यक्ति के सबसे कपटपूर्ण रूपों से बचाना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।