Causality Guided Representation Learning for Cross-Style Hate Speech Detection
यह शोध पत्र CADET का प्रस्ताव करता है, जो एक कॉज़ल रिप्रेजेंटेशन लर्निंग फ्रेमवर्क है जो लेटेंट फैक्टर्स को अलग करने और कन्फाउंडर्स को नियंत्रित करने के लिए एक कॉज़ल ग्राफ के माध्यम से नफरत भरे भाषण (हेट स्पीच) के सृजन को मॉडल करता है, जिससे विविध शैलियों और प्लेटफार्मों में स्पष्ट और निहित दोनों प्रकार के नफरत भरे भाषणों का सुदृढ़ पता लगाना सक्षम होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, शोर-शराबे वाले बाज़ार की तरह है जहाँ लोग अपने विचार चिल्लाकर व्यक्त कर रहे हैं। कभी-कभी, लोग सीधे तौर पर अपमान करते हैं (जैसे "तुम बेकार हो!")। अन्य बार, वे अपने अपमान को चुटकुलों, कटाक्ष या चतुर शब्द-क्रीड़ा के पीछे छिपा देते हैं (जैसे "ओह, मैं अकेले सब कुछ करने से इतना थक गया हूँ... शायद मुझे घर के काम करने के लिए एक महिला की ज़रूरत है")।
अपमान को पकड़ने के लिए डिज़ाइन किए गए वर्तमान कंप्यूटर प्रोग्राम उन सुरक्षा गार्डों की तरह हैं जो केवल विशिष्ट कीवर्ड्स (keywords) की तलाश करते हैं। यदि कोई ज्ञात बुरे शब्द का उपयोग करता है, तो गार्ड उन्हें रोक देता है। लेकिन यदि अपमान किसी चुटकुले या रूढ़िवादी धारणा (stereotype) के भीतर छिपा हुआ है, तो गार्ड उसे चूक जाता है। इससे भी बुरा यह है कि यदि चिल्लाने की "शैली" (style) बदल जाती है (जैसे एक शोर वाले स्टेडियम से एक शांत पुस्तकालय में जाना), तो गार्ड भ्रमित हो जाता है क्योंकि उसने आवाज़ की भावना को नहीं, बल्कि उसके वॉल्यूम को पहचानना सीखा था।
यह शोध पत्र CADET (Causality Guided Representation Learning for Cross-Style Hate Speech Detection) नामक एक नई प्रणाली पेश करता है जो इसे एक कीवर्ड स्कैनर के बजाय एक जासूस की तरह काम करके ठीक करने की कोशिश करता है।
जासूस का सिद्धांत: "क्यों" बनाम "कैसे"
लेखक एक कॉज़ल ग्राफ (कारण और प्रभाव का मानचित्र) का उपयोग करके घृणा (hate speech) को समझने का एक नया तरीका प्रस्तावित करते हैं। उनका तर्क है कि घृणा को समझने के लिए आपको तीन चीजों को अलग करना होगा:
- प्रेरणा (The "Why"): निर्माता का वास्तविक इरादा नुकसान पहुँचाने या अपमानित करने का। यही घृणा का मूल है।
- लक्ष्य (Target - कौन): वह समूह या व्यक्ति जिस पर हमला किया जा रहा है।
- शैली (The "How"): क्या संदेश सीधा और स्पष्ट (Explicit) है या सूक्ष्म और चालाकी भरा (Implicit)।
- वातावरण (The Context): प्लेटफॉर्म (जैसे ट्विटर बनाम फेसबुक) या इंटरनेट का वर्तमान मिजाज।
समस्या: "वातावरण" एक चालाक जादूगर की तरह कार्य करता है। यह लोगों के लिखने के तरीके (शैली) और उनके लक्ष्य को प्रभावित करता है। यह एक "भ्रामक सहसंबंध" (spurious correlation) पैदा करता है। उदाहरण के लिए, यदि एक विशिष्ट प्लेटफॉर्म पर ज्यादातर "सूक्ष्म" (sneaky) घृणा होती है, तो कंप्यूटर यह सीख सकता है कि "सूक्ष्म शैली = घृणा", भले ही वह सूक्ष्म शैली वास्तव में घृणित न हो। जब वह कंप्यूटर एक नए प्लेटफॉर्म पर जाता है जहाँ "सूक्ष्म" का अर्थ कुछ और है, तो वह विफल हो जाता है।
समाधान: CADET का "जादुई लेंस"
CADET शोर को हटाकर सच्चाई खोजने के लिए डिज़ाइन किया गया है। यह इस प्रकार काम करता है, यहाँ कुछ उपमाएँ दी गई हैं:
1. विसंयोजन (Disentanglement - सामग्रियों को अलग करना)
कल्पना कीजिए कि स्ट्रॉबेरी, पालक और चीनी से बना एक स्मूदी (smoothie) है। वर्तमान मॉडल पूरे स्मूदी का स्वाद लेते हैं और उसके स्वाद का अनुमान लगाते हैं। CADET एक ऐसी मशीन की तरह है जो स्मूदी को उसके मूल अवयवों में वापस अलग कर देती है।
- यह एक पोस्ट को लेता है और प्रेरणा (घृणा) को शैली (चीनी) और लक्ष्य (फल) से अलग करता है।
- यह कंप्यूटर को यह सीखने के लिए मजबूर करता है कि "घृणा" वाला घटक ही महत्वपूर्ण है, चाहे वह "स्पष्ट" चीनी के साथ मिश्रित हो या "सूक्ष्म" चीनी के साथ।
2. एंटी-मैजिक ट्रिक (Confounder Mitigation - भ्रम मिटाना)
"वातावरण" (प्लेटफॉर्म) मॉडल को धोखा देने की कोशिश करता है। CADET एडवर्सरियल ट्रेनिंग (Adversarial Training) नामक एक तकनीक का उपयोग करता है। कल्पना कीजिए कि "लुका-छिपी" का खेल है जहाँ AI का एक हिस्सा दूसरे हिस्से से प्लेटफॉर्म की पहचान छिपाने की कोशिश करता है। ऐसा करके, AI प्लेटफॉर्म की विशिष्ट विचित्रताओं को अनदेखा करना सीख जाता है और केवल घृणा के सार्वभौमिक संकेतों पर ध्यान केंद्रित करता है।
3. "क्या होगा अगर" मशीन (Counterfactual Reasoning - काल्पनिक तर्क)
यह सबसे रचनात्मक हिस्सा है। CADET पूछता है: "क्या होगा अगर यह घृणित पोस्ट किसी अलग शैली में लिखी गई होती?"
- यह एक घृणित इरादे वाली पोस्ट को लेता है और अपने डिजिटल मस्तिष्क के भीतर शैली के स्विच को "स्पष्ट" से "सूक्ष्म" (या इसके विपरीत) में गणितीय रूप से "फ्लिप" करता है।
- फिर यह जाँचता है: "क्या यह नया संस्करण अभी भी घृणित है?"
- यदि उत्तर "हाँ" है, तो मॉडल सीखता है कि घृणा इरादे से आती है, शैली से नहीं। यदि मॉडल को लगता है कि नया संस्करण सुरक्षित है, तो वह जानता है कि वह अभी भी गलत संकेतों (जैसे विशिष्ट शब्दों) पर निर्भर है और उसे और अधिक सीखने की आवश्यकता है।
परिणाम: एक बेहतर जासूस
लेखकों ने विभिन्न सोशल मीडिया प्लेटफॉर्म से वास्तविक दुनिया के डेटा पर CADET का परीक्षण किया। उन्होंने पाया कि:
- यह शैलियों के बीच काम करता है: जब इसे सीधे अपमान के लिए प्रशिक्षित किया गया, तब भी CADET सूक्ष्म और व्यंग्यात्मक पोस्ट को पकड़ सका। अन्य मॉडल इसमें बुरी तरह विफल रहे।
- यह मजबूत (Robust) है: भले ही घृणा की "शैली" पूरी तरह से बदल गई हो, CADET भ्रमित नहीं हुआ।
- यह व्याख्या योग्य (Explainable) है: एक "ब्लैक बॉक्स" AI के विपरीत जो केवल "घृणा" कहता है, CADET बता सकता है कि उसने किसी पोस्ट को क्यों चिह्नित किया। वह कह सकता है, "मैंने घृणा का पता लगाया क्योंकि प्रेरणा हानिकारक थी, भले ही शैली सूक्ष्म थी।"
सारांश
संक्षेप में, वर्तमान AI मॉडल उन बाउंसरों की तरह हैं जो केवल तभी लोगों को अंदर जाने देते हैं जब वे एक विशिष्ट टोपी नहीं पहने होते हैं। यदि बुरे लोग टोपी बदल लेते हैं, तो बाउंसर उन्हें अंदर जाने देते हैं। CADET एक ऐसा बाउंसर है जो टोपी को पूरी तरह से अनदेखा करता है और यह देखने के लिए सीधे व्यक्ति की आँखों में देखता है कि क्या वे क्रोधित हैं। "काउंटरफैक्चुअल रीजनिंग" (विभिन्न परिदृश्यों की कल्पना करना) और "इरादे" को "शैली" से अलग करके, CADET एक बहुत अधिक स्मार्ट, अधिक विश्वसनीय प्रणाली बनाता है जो इंटरनेट को घृणा से सुरक्षित रखने में मदद करती है, चाहे वह छिपने की कितनी भी कोशिश करे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।