Labels or Input? Rethinking Augmentation in Multimodal Hate Detection
यह शोध पत्र एक एंड-टू-एंड पाइपलाइन का प्रस्ताव करता है जो संरचित प्रॉम्प्ट्स, सूक्ष्म लेबलिंग और एक नवीन काउंटरफैक्चुअल डेटा ऑग्मेंटेशन फ्रेमवर्क को संयोजित करके कॉम्पैक्ट विजन-लैंग्वेज मॉडल्स को मल्टीमॉडल हेट डिटेक्शन के लिए उन्नत करता है, जिससे महंगे बड़े मॉडल्स पर निर्भर किए बिना सूक्ष्म सामग्री पर मजबूत प्रदर्शन प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, अराजक डिजिटल शहर का चौक है। इस चौक में, लोग चुटकुले, समाचार और मीम्स साझा करते हैं। लेकिन कभी-कभी, एक मज़ेदार तस्वीर और एक मूर्खतापूर्ण कैप्शन के भीतर, एक द्वेषपूर्ण अपमान या एक नफरत भरा संदेश छिपा हो सकता है। यह "भेड़ की खाल में भेड़िये" जैसा है।
लंबे समय से, कंप्यूटर इन "नफरत भरे मीम्स" को पहचानने की कोशिश कर रहे हैं ताकि शहर के चौक को सुरक्षित रखा जा सके। लेकिन यह एक कठिन काम है क्योंकि नफरत हमेशा स्पष्ट नहीं होती; यह अक्सर एक हानिरहित तस्वीर और एक बुरे मज़ाक का मिश्रण होती है।
यह शोध पत्र एक टीम की तरह है जो यह पता लगाने की कोशिश कर रही है कि कंप्यूटर को इन छिपे हुए भेड़ियों को पहचानने के लिए कैसे सिखाया जाए, बिना काम करने के लिए लाखों महंगे विशेषज्ञों को काम पर रखे। उन्होंने दो मुख्य रणनीतियों का परीक्षण किया: कंप्यूटर को दी जाने वाली निर्देशों को बदलना और बेहतर अभ्यास परीक्षण बनाना।
दो जासूसी रणनीतियाँ
1. "निर्देश पुस्तिका" का अपग्रेड (प्रॉम्प्ट ऑप्टिमाइज़ेशन)
कल्पना कीजिए कि आप एक रोबोट को बुरे चुटकुलों को पहचानने के लिए सिखा रहे हैं।
- पुराना तरीका: आप बस कहते हैं, "क्या यह घृणास्पद है? हाँ या नहीं।"
- नया तरीका: लेखकों ने रोबोट को बहुत अधिक विस्तृत निर्देश पुस्तिका देने की कोशिश की। केवल "हाँ/नहीं" कहने के बजाय, उन्होंने रोबोट से इसे 0 से 9 के पैमाने पर (जैसे दर्द का पैमाना) नफरत के स्तर को रेट करने के लिए कहा और उसे विशिष्ट श्रेणियों को देखने के लिए कहा, जैसे कि "क्या यह लिंगभेदी है?" या "क्या यह नस्लवादी है?"
उन्होंने क्या पाया:
- यदि कार्य सरल है (केवल हाँ/नहीं), तो एक छोटा, सरल निर्देश सबसे अच्छा काम करता है।
- लेकिन यदि कार्य कठिन है (रेटिंग करना कि कुछ कितना बुरा है), तो विस्तृत, संरचित निर्देशों ने रोबोट को बहुत स्मार्ट बना दिया।
- आश्चर्य: सबसे बड़े, सबसे स्मार्ट रोबोटों के लिए, इन विस्तृत निर्देशों को देने से उनका प्रदर्शन लगभग उतना ही अच्छा रहा जितना कि उन्हें नए डेटा पर महीनों प्रशिक्षित करने से होता। यह यह समझने जैसा है कि एक बुद्धिमान छात्र को पूरा विषय फिर से सीखने की आवश्यकता नहीं है; उन्हें बस एक बेहतर अध्ययन मार्गदर्शिका (स्टडी गाइड) की आवश्यकता है।
2. "नकली" अभ्यास परीक्षण (मल्टीमॉडल ऑग्मेंटेशन)
दूसरी समस्या जिसका टीम ने सामना किया वह यह थी कि रोबोट जिन "पाठ्यपुस्तकों" (डेटासेट) का अध्ययन कर रहे थे, वे त्रुटिपूर्ण थे। प्रशिक्षण डेटा में कई नफरत भरे मीम्स केवल एक बुरी तस्वीर थे जिसके ऊपर एक बुरे कैप्शन को चिपका दिया गया था। रोबोटों ने "बुरे शब्दों" को "नफरत" से जोड़ना सीख लिया था, भले ही तस्वीर निर्दोष हो।
इसे ठीक करने के लिए, टीम ने एक फैक्ट्री बनाई जो "नकली" अभ्यास परीक्षण बनाती है।
- यह कैसे काम करता है: उन्होंने एक नफरत भरा मीम (एक अच्छी तस्वीर + एक बुरा कैप्शन) लिया और कैप्शन को एक अच्छे, तटस्थ (न्यूट्रल) कैप्शन से बदलने के लिए AI का उपयोग किया, जबकि तस्वीर को बिल्कुल वैसा ही रखा।
- लक्ष्य: यह रोबट को सिखाता है: "हे, यह तस्वीर वास्तव में ठीक है! यह केवल शब्दों के कारण नफरत भरी है। यदि आप शब्दों को बदल देते हैं, तो नफरत गायब हो जाती है।"
उन्होंने क्या पाया:
- इन "तटस्थ किए गए" मीम्स को प्रशिक्षण डेटा में जोड़ने से, रोबोट संदर्भ (कॉन्टेक्स्ट) को समझने में बहुत बेहतर हो गए। उन्होंने केवल बुरे शब्दों को देखना बंद कर दिया और पूरी तस्वीर को देखना शुरू कर दिया।
- यह विशेष रूप से स्मार्ट, बड़े रोबोटों के लिए बहुत प्रभावी रहा, जिससे उन्हें उन सूक्ष्म, पेचीदा चुटकुलों को पकड़ने में मदद मिली जो आमतौर पर बच निकलते हैं।
परिणाम: एक बेहतर, सस्ता समाधान
शोध पत्र निष्कर्ष निकालता है कि आपको इस समस्या को हल करने के लिए हमेशा सबसे महंगे, विशाल सुपर-कंप्यूटरों की आवश्यकता नहीं होती है।
- बेहतर निर्देश मायने रखते हैं: यदि आप एक छोटे, सस्ते कंप्यूटर को वास्तव में अच्छे, संरचित निर्देशों (प्रॉम्प्ट्स) का एक सेट देते हैं, तो यह एक विशाल, महंगे कंप्यूटर के लगभग समान प्रदर्शन कर सकता है।
- बेहतर डेटा मायने रखता है: यदि आप कंप्यूटर को "साफ किए गए" उदाहरणों (जहाँ नफरत को हटा दिया गया है लेकिन तस्वीर वैसी ही है) के साथ सिखाते हैं, तो वे अधिक निष्पक्ष होने और रूढ़ियों के आधार पर गलतियाँ करने की संभावना कम करने में सीखते हैं।
निचोड़ (द बॉटम लाइन)
लेखकों ने एक ऐसा सिस्टम बनाया है जो इन "साफ किए गए" मीम्स और बेहतर निर्देश बनाता है ताकि छोटे, अधिक किफायती कंप्यूटर ऑनलाइन नफरत को पहचानने में शानदार काम कर सकें। उन्होंने साबित किया कि यह बदलकर कि हम AI से कैसे बात करते हैं और हम उसे क्या सिखाते हैं, हम भारी तकनीक पर बहुत अधिक पैसा खर्च किए बिना सुरक्षित ऑनलाइन स्थान बना सकते हैं।
महत्वपूर्ण नोट: टीम ने बहुत सावधानी से कहा कि उन्होंने कोई नई घृणित सामग्री नहीं बनाई है। उनकी "फैक्ट्री" केवल मौजूदा बुरे मीम्स को लेती है और उन्हें शिक्षण उपकरण के रूप में उपयोग करने के लिए अच्छे, तटस्थ मीम्स में बदल देती है। उनका लक्ष्य नुकसान को कम करना था, न कि अधिक नुकसान पैदा करना।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।