AHA-Memes: A Fine-Grained Multimodal Benchmark for Understanding Hate in Arabic Memes
यह शोध पत्र AHA-Memes को प्रस्तुत करता है, जो 5,000 मैन्युअल रूप से एनोटेट किए गए उदाहरणों और 66,000 सिल्वर-लेबल वाले मीम्स के साथ पहला बड़े पैमाने पर, सूक्ष्म-स्तरीय अरबी घृणित मीम बेंचमार्क है, साथ ही इसमें अरबी ऑनलाइन सामग्री में सांस्कृतिक रूप से आधारित घृणा का पता लगाने की कम खोजी गई चुनौतियों को संबोधित करने के लिए विभिन्न मल्टीमॉडल मॉडलों का व्यापक मूल्यांकन भी शामिल है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
इंटरनेट की कल्पना एक विशाल, अराजक डिजिटल शहर के चौक के रूप में करें जहाँ लोग चुटकुले, समाचार और तस्वीरें साझा करते हैं। इस शहर में, एक "मीम" (meme) एक डिजिटल 'इनसाइड जोक' (अंदरूनी चुटकुले) की तरह है: एक तस्वीर जिसके साथ एक कैप्शन होता है जो केवल तभी समझ में आता है जब आप उस विशिष्ट संस्कृति, वर्तमान घटनाओं या उसके पीछे के छिपे हुए इतिहास को जानते हों। कभी-कभी, ये चुटकुले हानिरहित मनोरंजन होते हैं, जैसे कि एक मज़ेदार बिल्ली की फोटो और उसका कोई अजीब सा कैप्शन। लेकिन अन्य समय में, वही तस्वीर और कैप्शन एक हथियार बन सकते हैं, जिसे किसी विशिष्ट समूह के खिलाफ—उनकी धर्म, जाति, लिंग या वे कहाँ से आते हैं—नफरत फैलाने, अपमानित करने या चोट पहुँचाने के लिए डिज़ाइन किया गया हो। यह "घृणित मीम्स" (hateful memes) की जटिल दुनिया है।
वर्षों से, वैज्ञानिक कंप्यूटर प्रोग्राम (जैसे डिजिटल सुरक्षा गार्ड) बनाने की कोशिश कर रहे हैं ताकि इन बुरे चुटकुलों को पहचान सकें और उन्हें फैलने से पहले रोक सकें। हालाँकि, इनमें से अधिकांश प्रोग्राम अंग्रेजी मीम्स पर प्रशिक्षित थे, जो केवल अमेरिकी सड़कों पर गाड़ी चलाना सीखने जैसा है। वे अन्य दुनिया के मीम्स को देखते समय अक्सर भ्रमित हो जाते हैं, विशेष रूप से वे जो अरबी भाषा का उपयोग करते हैं, क्योंकि वहां "चुटकुले" स्थानीय संस्कृति, बोलियों और गहरे ऐतिहासिक संदर्भों पर बहुत अधिक निर्भर करते हैं। यदि एक कंप्यूटर स्थानीय स्लैंग (बोलचाल की भाषा) या विशिष्ट सांस्कृतिक संदर्भों को नहीं समझता है, तो वह पूरे घृणित मीम को पहचानने में चूक सकता है या, इससे भी बुरा, एक हानिरहित चुटकुले को खतरनाक समझ सकता है। बड़ा सवाल जो शोधकर्ता पूछ रहे हैं वह यह है: हम कंप्यूटर को अरबी मीम्स में नफरत की बारीकियों को समझने के लिए कैसे सिखाएं, जहाँ अर्थ अक्सर एक तस्वीर और कुछ शब्दों के मिश्रण में छिपा होता है?
यह शोध पत्र इस पहेली को सुलझाने में मदद करने के लिए AHA-MEMES नामक एक नया टूल पेश करता है। इसे एक विशाल, सावधानीपूर्वक व्यवस्थित पुस्तकालय के रूप में सोचें जिसमें 5,000 अरबी मीम्स हैं जिन्हें मानव विशेषज्ञों ने पढ़ा, विश्लेषण किया और लेबल किया है। शोधकर्ताओं ने केवल यह नहीं पूछा, "क्या यह बुरा है?" बल्कि उन्होंने गहराई तक जाकर यह भी बनाया कि नफरत कैसे पहुंचाई जाती है। उन्होंने हमलों को विशिष्ट "रणनीतियों" में वर्गीकृत किया, जैसे कि उपहास (किसी का मज़ाक उड़ाना), अमानवीयकरण (लोगों के साथ जानवरों या वस्तुओं जैसा व्यवहार करना), उकसावा (दूसरों को नुकसान पहुँचाने के लिए प्रेरित करना), या गाली-गलौज (अपमानजनक नामों का उपयोग करना)। उन्होंने "अच्छे" मीम्स को भी लेबल किया, जिसमें हास्य (humor) और व्यंग्य (sarcasm) के बीच अंतर स्पष्ट किया गया।
इस पुस्तकालय को बनाने के लिए, टीम ने फेसबुक, इंस्टाग्राम और ट्विटर जैसे लोकप्रिय सोशल मीडिया प्लेटफॉर्म से मीम्स एकत्र किए। उन्होंने एक चतुर दो-चरणीय प्रक्रिया का उपयोग किया: पहले, उन्होंने 71,000 मीम्स के एक विशाल ढेर में से उन मीम्स को खोजने के लिए एक शक्तिशाली AI का उपयोग किया जो संभवतः घृणित हो सकते थे। फिर, उन्होंने 5,000 मीम्स की सावधानीपूर्वक समीक्षा और लेबलिंग करने के लिए तीन मूल अरबी वक्ताओं को काम पर रखा, जिससे यह सुनिश्चित हुआ कि लेबल सटीक और सांस्कृतिक रूप से संवेदनशील हों। एक बोनस के रूप में, उन्होंने लगभग 66,000 अतिरिक्त मीम्स का एक "सिल्वर" (silver) डेटासेट भी जारी किया जिसे AI द्वारा लेबल किया गया था, जो भविष्य के कंप्यूटर मॉडलों के लिए एक प्रशिक्षण जिम की तरह कार्य करता है ताकि वे अभ्यास कर सकें, भले ही वे लेबल पूरी तरह से सटीक न हों।
शोधकर्ताओं ने फिर इस नए पुस्तकालय को परीक्षण के लिए रखा। उन्होंने विभिन्न कंप्यूटर मॉडल्स को चुनौती दी—कुछ जो केवल टेक्स्ट पढ़ते हैं, कुछ जो केवल चित्रों को देखते हैं, और कुछ जो एक साथ दोनों करने की कोशिश करते हैं—यह देखने के लिए कि कौन सा मॉडल नफरत को सबसे अच्छी तरह से पहचान सकता है। परिणाम काफी खुलासा करने वाले थे। उन्होंने पाया कि सबसे अच्छा प्रदर्शन करने वाले मॉडल वे थे जो चित्र और टेक्स्ट दोनों को एक साथ देख सकते थे, बिल्कुल वैसे ही जैसे एक इंसान करता है। दिलचस्प बात यह है कि टेक्स्ट (मीम पर लिखे शब्द) ने अधिकांश सुराग दिए, जबकि चित्र ने महत्वपूर्ण संदर्भ प्रदान किया। हालांकि, अध्ययन ने एक प्रमुख चुनौती को भी उजागर किया: यहाँ तक कि सबसे स्मार्ट कंप्यूटर भी दुर्लभ और सूक्ष्म प्रकार की नफरत को पहचानने में संघर्ष करते थे, अक्सर उन्हें पहचानने में चूक जाते थे या उन्हें व्यंग्य समझ लेते थे।
यह शोध पत्र सुझाव देता है कि हालांकि हमने प्रगति की है, लेकिन अरबी मीम्स में नफरत का पता लगाना अभी भी एक कठिन कार्य है। कंप्यूटर बेहतर हो रहे हैं, लेकिन उन्हें अभी भी उन गहरे सांस्कृतिक सूक्ष्मताओं को समझने के लिए अधिक मदद की आवश्यकता है जो एक संदर्भ में मीम को मज़ेदार और दूसरे में घृणित बनाते हैं। इस डेटासेट और इसे बनाने के लिए उपयोग किए गए दिशानिर्देशों को जारी करके, लेखक अन्य शोधकर्ताओं को एक ठोस आधार देने की आशा करते हैं ताकि वे अधिक स्मार्ट, अधिक सांस्कृतिक रूप से जागरूक उपकरण बना सकें जो डिजिटल चौक को सभी के लिए सुरक्षित रख सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।