Beyond Binary Classification: Detecting Fine-Grained Sexism in Social Media Videos
यह शोधपत्र FineMuSe प्रस्तुत करता है, जो एक नया स्पेनिश मल्टीमॉडल डेटासेट है जिसमें सूक्ष्म-स्तरीय एनोटेशन और एक पदानुक्रमित वर्गीकरण है, ताकि बाइनरी क्लासिफिकेशन से आगे बढ़कर सेक्सिज्म डिटेक्शन को उन्नत किया जा सके और उन मल्टीमॉडल एलएलएम (LLMs) का मूल्यांकन किया जा सके जो सूक्ष्म सेक्सिज्म की पहचान करने में मनुष्यों के साथ प्रतिस्पर्धी प्रदर्शन दिखाते हैं, साथ ही दृश्य संकेतों के माध्यम से व्यक्त होने वाले सह-घटित होने वाले प्रकारों का पता लगाने में आने वाली चुनौतियों को भी उजागर करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को एक भीड़भाड़ वाले, शोर भरे वीडियो चैट रूम में बदतमीजी या अनुचित व्यवहार को पहचानने के बारे में सिखाने की कोशिश कर रहे हैं।
लंबे समय तक, हमारे द्वारा बनाए गए रोबोट बहुत सख्त बाउंसरों की तरह थे। वे केवल दो चीजें कह सकते थे: "आप अंदर आ सकते हैं" (यह ठीक है) या "आप बाहर जाइए" (यह लिंगभेदी है)। यदि कोई वीडियो स्पष्ट रूप से घृणित था, तो बाउंसर उसे बाहर निकाल देता था। लेकिन अगर लिंगभेद सूक्ष्म था—जैसे कि कोई ऐसा मजाक जो सुनने में मजेदार लगे लेकिन वास्तव में बुरा हो, या कोई ऐसी टिप्पणी जो तारीफ जैसी लगे लेकिन वास्तव में एक जाल हो—तो बाउंसर उसे जाने देता था। वे बहुत ही द्विआधारी (binary) थे; वे केवल काले और सफेद को देखते थे, और बीच के ग्रे शेड्स (धुंधले क्षेत्रों) को छोड़ देते थे।
यह शोध पत्र एक नई, बहुत अधिक स्मार्ट प्रणाली पेश करता है जिसे FineMuSe कहा जाता है (इसे "लिंगभेद के लिए एक सूक्ष्मदर्शी" के रूप में सोचें)। यह कैसे काम करता है, यहाँ सरल रूप में दिया गया है:
1. नया डेटासेट: "बुरे पलों का संग्रहालय" (A "Museum of Mean Moments")
शोधकर्ताओं ने TikTok, YouTube Shorts और BitChute जैसी जगहों से 828 लघु वीडियो एकत्र किए। लेकिन उन्हें केवल "बुरा" या "अच्छा" लेबल करने के बजाय, उन्होंने एक विशाल, विस्तृत सूची तैयार की।
एक जासूस के बोर्ड की कल्पना करें जो लाल धागों से ढका हुआ है। उन्होंने केवल यह नहीं कहा, "यह वीडियो लिंगभेदपूर्ण है।" उन्होंने पूछा:
- क्या यह एक रूढ़िवादिता (Stereotype) है? (जैसे, "महिलाएं गणित में खराब होती हैं।")
- क्या यह इनकार (Denial) है? (जैसे, "अब लैंगिक असमानता जैसी कोई चीज़ नहीं बची है।")
- क्या यह भेदभाव (Discrimination) है? (जैसे, किसी पर LGBTQ+ होने के कारण हमला करना।)
- क्या यह वस्तुकरण (Objectification) है? (जैसे, किसी व्यक्ति के साथ देखने के लिए रखी गई वस्तु की तरह व्यवहार करना।)
- क्या यह एक मजाक (Joke) है? (क्या लिंगभेद एक पंचलाइन के पीछे छिपा हुआ है?)
उन्होंने उन वीडियो को भी लेबल किया जो लिंगभेद के खिलाफ लड़ते हैं या बुरे अनुभवों की रिपोर्ट करते हैं। यह बिल्कुल सटीक रूप से यह समझने का एक समृद्ध मानचित्र बनाता है कि लिंगभेद कैसे प्रकट होता है, न कि केवल यह कि वह प्रकट होता है।
2. चुनौती: "दृश्य जाल" (The "Visual Trap")
शोधकर्ताओं ने दुनिया के सबसे स्मार्ट AI दिमागों (Large Language Models) का इस नए मानचित्र पर परीक्षण किया। उन्होंने AI को दो प्रकार के सुराग दिए:
- स्क्रिप्ट: वीडियो में बोले गए केवल शब्द।
- पूरी तस्वीर: शब्द, आवाज का लहजा और वास्तविक वीडियो चित्र।
परिणाम: AI स्क्रिप्ट पढ़ने में काफी अच्छा हो गया। यदि कोई कहता, "महिलाओं को घर पर रहना चाहिए," तो AI जानता था कि यह लिंगभेदपूर्ण है।
समस्या: AI संघर्ष करता था जब लिंगभेद दृश्यों (visuals) में छिपा होता था।
कल्पना कीजिए कि एक वीडियो है जहाँ एक पुरुष कहता है, "मैं अपनी पत्नी से प्यार करता हूँ," जो सुनने में अच्छा लगता है। लेकिन वीडियो में वह उसे एक नौकरानी की तरह व्यवहार करते हुए दिखाता है, जबकि वह महिला एक सिंहासन पर बैठी है और वह उसके बैग उठा रहा है। AI ने अच्छे शब्दों को पढ़ लिया लेकिन बुरे चित्र को मिस कर गया। यह एक ऐसे व्यक्ति की तरह है जो गाने के बोल तो सुनता है लेकिन गायक के गुस्से वाले चेहरे को नहीं देखता। AI को वीडियो को केवल "पढ़ने" की नहीं, बल्कि "देखने" की आवश्यकता है।
3. "इंसान बनाम रोबोट" मुकाबला
शोधकर्ताओं ने यह भी पूछा: "क्या AI समझा सकता है कि उसने एक वीडियो को क्यों फ्लैग किया?"
उन्होंने AI के स्पष्टीकरणों की तुलना मानव विशेषज्ञों द्वारा लिखे गए स्पष्टीकरणों से की।
- फैसला: AI स्पष्टीकरण लिखने में आश्चर्यजनक रूप से अच्छा है! यह लगभग उतना ही अच्छा लिख सकता है जितना कि एक इंसान, जैसे: "यह लिंगभेदपूर्ण है क्योंकि यह एक रूढ़िवादिता को छिपाने के लिए मजाक का उपयोग करता है।"
- कमी: कभी-कभी AI कारण तो सही बताता है लेकिन कारण के 'दृश्य' (visual) हिस्से को भूल जाता है। यह एक ऐसे जासूस की तरह है जिसने अपराध को तो सही पहचाना लेकिन खिड़की पर उंगली के निशान देखना भूल गया।
4. यह क्यों मायने रखता है
सोचिए कि ऑनलाइन मॉडरेशन पानी को फिल्टर करने जैसा है।
- पुराना तरीका: आपके पास एक बड़ा जाल है जो केवल बड़े पत्थरों (स्पष्ट हेट स्पीच) को पकड़ता है। बारीक, अदृश्य रेत (सूक्ष्म लिंगभेद) उसके बीच से निकल जाती है, जिससे पानी फिर भी गंदा रहता है।
- नया तरीका (FineMuSe): आपके पास एक हाई-टेक फिल्टर है जो पत्थरों, रेत और यहाँ तक कि सूक्ष्म शैवाल (algae) को भी पकड़ लेता है। यह समझता है कि लिंगभेद केवल एक चीज नहीं है; यह एक गिरगिट की तरह है जो प्लेटफॉर्म (TikTok बनाम YouTube) और भाषा (मेक्सिको बनाम स्पेन की स्पेनिश बोलियों) के आधार पर अपना रंग बदल लेता है।
निचोड़
यह शोध पत्र एक बड़ी छलांग है। यह हमें बताता है कि हालांकि AI स्पष्ट लिंगभेद को पहचानने में बहुत स्मार्ट हो रहा है, लेकिन इसे अभी भी दृश्यात्मक रूप से "कमरे को पढ़ने" (context समझने) की आवश्यकता है। केवल शब्दों को सुनना पर्याप्त नहीं है; AI को शारीरिक भाषा, संदर्भ और छिपे हुए चुटकुलों को समझने की आवश्यकता है।
इन उदाहरणों का यह विस्तृत "संग्रहालय" बनाकर, शोधकर्ता भविष्य के AI को अध्ययन करने के लिए एक बेहतर पाठ्यपुस्तक दे रहे हैं, इस उम्मीद में कि वे ऐसे उपकरण बना सकें जो अंततः उस सूक्ष्म, चालाकी भरे अन्याय को पकड़ सकें जो सामने होते हुए भी छिपा हुआ है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।