HateMirage: An Explainable Multi-Dimensional Dataset for Decoding Faux Hate and Subtle Online Abuse
यह शोध पत्र HateMirage प्रस्तुत करता है, जो खंडित गलत सूचनाओं (debunked misinformation) से प्राप्त 4,530 एनोटेटेड "फॉक्स हेट" (faux hate) टिप्पणियों का एक नवीन बहु-आयामी डेटासेट है, जिसे विकृत आख्यानों, हानिकारक इरादे और सामाजिक प्रभाव के बीच सूक्ष्म अंतर्संबंधों को पकड़कर व्याख्यात्मक एआई (explainable AI) अनुसंधान को आगे बढ़ाने के लिए डिज़ाइन किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, हलचल भरे शहर के चौक की तरह है। इस चौक में लोग चिल्लाते हैं, बहस करते हैं और कभी-कभी बहुत बुरी बातें भी कहते हैं। लंबे समय से, इस चौक को सुरक्षित रखने की कोशिश कर रहे शोधकर्ता सबसे शोर मचाने वाले, स्पष्ट रूप से बदतमीजी करने वालों को ढूंढ रहे थे—वे जो गालियां और धमकियां देते हैं। उन्होंने इन स्पष्ट बुरे तत्वों को पकड़ने के लिए "जासूसी किट" (डेटासेट) बनाईं।
लेकिन अब एक नए प्रकार के शरारती तत्व सामने आए हैं जिन्हें ये पुरानी किट नहीं पकड़ पाती। ये Faux Hate (छद्म घृणा) फैलाने वाले लोग हैं। वे चिल्लाते नहीं हैं; वे फुसफुसाते हैं। वे अपशब्दों का उपयोग नहीं करते; वे झूठ को "तथ्यों" के लिफाफे में लपेटकर पेश करते हैं। वे जादूगरों की तरह हैं जो घृणा को एक ट्रिक (चाल) में गायब कर देते हैं, जिससे आप इस बात को लेकर भ्रमित हो जाते हैं कि वे वास्तव में बुरा व्यवहार कर रहे थे या सिर्फ मजाक कर रहे थे।
यह शोध पत्र इन जादूगरों को पकड़ने के लिए HateMirage नामक एक नया उपकरण पेश करता है।
1. "Faux Hate" टिप्पणी क्या है?
पारंपरिक घृणास्पद भाषण (hate speech) को एक ईंट की तरह समझें जो किसी पर फेंकी गई हो। यह स्पष्ट है, भारी है और तुरंत चोट पहुँचाती है।
- उदाहरण: "[देश] के लोगों से मुझे नफरत है।"
Faux Hate, हालांकि, एक जहरीले सेब की तरह है जो दिखने में स्वादिष्ट लगता है। यह एक झूठ या साजिश के सिद्धांत (conspiracy theory) में लिपटा होता है।
- उदाहरण: "[देश] के लोग गुप्त रूप से हमें नुकसान पहुँचाने के लिए वायरस फैला रहे हैं।"
दूसरा कमेंट कोई अपशब्द का उपयोग नहीं करता है, लेकिन इसे उस देश के प्रति उतनी ही नफरत पैदा करने के लिए बनाया गया है जितनी पहली टिप्पणी के लिए थी। समस्या यह है कि यह एक "झूठे तथ्य" के पीछे छिपा हुआ है। यदि आप केवल बुरे शब्दों की तलाश करेंगे, तो आप इस जहर को नहीं देख पाएंगे।
2. पुराने जासूसी किट के साथ समस्या
पिछले डेटासेट धातु का पता लगाने वाले यंत्रों (metal detectors) की तरह थे। वे बड़े धातु के ईंटों (स्पष्ट घृणा) को खोजने में बेहतरीन हैं, लेकिन वे प्लास्टिक में लिपटे जहरीले सेबों (सूक्ष्म, फर्जी-खबर वाली घृणा) का पता नहीं लगा सकते। वे यह भी नहीं बताते थे कि कोई चीज़ क्यों बुरी है; वे बस कहते थे, "यह बुरा है।"
3. पेश है HateMirage: "एक्स-रे विजन" वाला डेटासेट
लेखकों ने HateMirage बनाया (जो "Mirage" यानी मृगतृष्णा से प्रेरित है)। यह 4,530 टिप्पणियों का एक संग्रह है जो निर्दोष दिखती हैं लेकिन हानिकारक हैं क्योंकि वे झूठ पर आधारित हैं।
लेकिन उन्होंने केवल टिप्पणियाँ ही एकत्र नहीं कीं; उन्होंने ठीक से समझने के लिए इसमें तीन परतों वाला "एक्स-रे विजन" जोड़ा है:
- Target (लक्ष्य कौन है?): हमला किस पर किया जा रहा है? (जैसे, एक विशिष्ट धर्म, एक देश, एक राजनीतिक दल)।
- Intent (इरादा क्या है?): झूठा व्यक्ति क्या करने की कोशिश कर रहा है? (जैसे, "वे इस समूह के प्रति लोगों को डराना चाहते हैं," या "वे पड़ोसियों के बीच लड़ाई शुरू करना चाहते हैं")।
- Implication (इसका परिणाम क्या होगा?): क्या नुकसान होगा? (जैसे, "इससे लोग अपने स्थानीय सरकार पर भरोसा करना बंद कर सकते हैं" या "इससे वास्तविक दुनिया में हिंसा भड़क सकती है")।
उपमा (Analogy):
कल्पना कीजिए कि एक टिप्पणी एक जादुई ट्रिक है।
- पुराने डेटासेट केवल कहते हैं: "वह एक बुरा जादू था।"
- HateMirage कहता है: "वह एक बुरा जादू था। Target दर्शक थे। Intent दर्शकों को यह विश्वास दिलाना था कि खरगोश वास्तव में एक चूहा है। Implication यह है कि अब दर्शक खरगोशों से डर रहे हैं।"
4. उन्होंने इसे कैसे बनाया?
टीम ने जासूसों की तरह काम किया:
- झूठ को ढूँढा: वे उन कहानियों को खोजने के लिए तथ्य-जांच (fact-checking) वेबसाइटों (जैसे AltNews) पर गए जो पहले ही गलत साबित हो चुकी थीं (जैसे, "वायरस एक जैविक हथियार है")।
- टिप्पणियाँ ढूँढीं: वे इन झूठों पर चर्चा करने वाले YouTube वीडियो पर गए और लोगों द्वारा लिखी गई टिप्पणियों को इकट्ठा किया।
3. AI जासूस: उन्होंने इन टिप्पणियों को पढ़ने और "Target," "Intent," और "Implication" की व्याख्या लिखने के लिए एक बहुत ही स्मार्ट AI (GPT-4) का उपयोग किया। - मानवीय जाँच: उन्होंने एक नमूने की वास्तविक मनुष्यों द्वारा दोबारा जाँच करवाई ताकि यह सुनिश्चित हो सके कि AI अपनी ओर से कुछ मनगढ़ंत बातें तो नहीं लिख रहा है।
5. जासूसों का परीक्षण (Models)
लेखकों ने विभिन्न AI मॉडलों (छोटे से लेकर बड़े तक) का परीक्षण किया यह देखने के लिए कि क्या वे जासूसों की तरह इन टिप्पणियों को पढ़ और समझा सकते हैं।
- परिणाम: यह केवल AI को "बड़ा" (अधिक मस्तिष्क शक्ति) बनाने के बारे में नहीं है। यह उसे तर्क करने (reasoning) का तरीका सिखाने के बारे में है।
- कुछ छोटे मॉडलों ने आश्चर्यजनक रूप से अच्छा प्रदर्शन किया क्योंकि उन्हें ऐसे डेटा पर प्रशिक्षित किया गया था जो उन्हें केवल तथ्य रटने के बजाय सोचने और निर्देशों का पालन करने का तरीका सिखाता था।
- AI के लिए सबसे कठिन काम Implication (दीर्घकालिक नुकसान) की भविष्यवाणी करना था, क्योंकि इसके लिए केवल शब्दों को नहीं, बल्कि मानव मनोविज्ञान और समाज को समझने की आवश्यकता होती है।
6. यह क्यों महत्वपूर्ण है?
यदि हम केवल ईंट फेंकने वाले लोगों को ही पकड़ते हैं, तो जहरीले सेब शहर के चौक को सड़ाते रहेंगे।
- मॉडरेटर्स (Moderators) के लिए: यह उन्हें यह समझने में मदद करता है कि कोई पोस्ट क्यों हानिकारक है, ताकि वे उपयोगकर्ताओं को अपने निर्णय समझा सकें।
- शोधकर्ताओं के लिए: यह हमें यह समझने में मदद करता है कि झूठ घृणा में कैसे बदल जाता है।
- आपके लिए: यह एक सुरक्षित इंटरनेट की दिशा में एक कदम है जहाँ हम उस "फेक न्यूज" को पहचान सकें जो हमें एक-दूसरे से नफरत करने के लिए उकसा रही है, भले ही वह किसी मजाक या "तथ्य" के रूप में सजी हो।
संक्षेप में: HateMirage एक नया मानचित्र है जो हमें ऑनलाइन झूठ के कोहरे के बीच रास्ता खोजने में मदद करता है। यह कंप्यूटरों को न केवल बुरे शब्दों को पहचानना सिखाता है, बल्कि घृणा के पीछे की कहानी को समझना भी सिखाता है, ताकि हम उस भ्रम को रोकने के लिए काम कर सकें इससे पहले कि वह किसी को नुकसान पहुँचाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।