Leveraging Argument Structure to Predict Content Hatefulness
यह शोध पत्र प्रदर्शित करता है कि WSF-ARG+ डेटासेट से तर्क संरचना एनोटेशन (आधार और निष्कर्ष) का लाभ उठाना श्वेत वर्चस्व वाले फ़ोरम संदेशों की समग्र घृणा को प्रभावी ढंग से अनुमानित कर सकता है, जो 96% तक F1 स्कोर प्राप्त करता है और सूचना संबंधी विकार (information disorder) से निपटने के लिए एक आशाजनक दृष्टिकोण प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, शोर-शराबे वाले बाज़ार की तरह है जहाँ लोग अपने विचार चिल्लाकर रख रहे हैं। कभी-कभी, ये विचार गलत (भ्रामक जानकारी) होते हैं और कभी-कभी इन्हें विशेष समूहों को नुकसान पहुँचाने या उनका अपमान करने के लिए बनाया जाता है (घृणास्पद भाषण/हेट स्पीच)। अक्सर, ये दोनों समस्याएँ आपस में मिल जाती हैं। एक बुरा तत्व एक घृणास्पद संदेश को एक "तार्किक" पैकेज में लपेट सकता है ताकि वह एक गंभीर तर्क जैसा दिखे, इस उम्मीद में कि आप उस पर विश्वास कर लेंगे।
यह शोध पत्र एक जासूस की तरह है जो यह पता लगाने की कोशिश कर रहा है कि केवल शब्दों को पढ़ने के बजाय, तर्क कैसे बनाया गया है यह देखकर उस "घृणास्पद पैकेज" को कैसे पहचाना जाए।
निर्माण खंड: आधार वाक्य (Premises) और निष्कर्ष (Conclusions)
एक तर्क को एक घर की तरह समझें।
- आधार वाक्य (Premises) ईंट और गारे की तरह हैं। ये वे तथ्य या दावे हैं जिनका व्यक्ति नींव के रूप में उपयोग कर रहा है।
- निष्कर्ष (Conclusion) छत की तरह है। यह वह मुख्य बिंदु है जिसे वे सिद्ध करने की कोशिश कर रहे हैं।
आमतौर पर, जब हम घृणास्पद भाषण का पता लगाने की कोशिश करते हैं, तो हम पूरे घर को देखते हैं और पूछते हैं, "क्या यह डरावना लग रहा है?" लेकिन यह शोध पत्र एक अलग सवाल पूछता है: "क्या हम केवल यह देखकर बता सकते हैं कि घर खतरनाक है या नहीं कि ईंटें कैसे रखी गई हैं और छत क्या कहती है?"
प्रयोग: एक श्वेत वर्चस्ववादी मंच (White Supremacy Forum)
शोधकर्ताओं ने एक विशिष्ट श्वेत वर्चस्ववादी मंच (जो घृणास्पद सामग्री के लिए जाना जाता है) के संदेशों के एक विशेष संग्रह का अध्ययन किया। उनके पास 227 घृणास्पद संदेश और 136 गैर-घृणास्पद संदेश थे।
उन्होंने केवल टेक्स्ट नहीं पढ़ा; उन्होंने प्रत्येक संदेश को उसके "ईंटों" (आधार वाक्यों) और "छत" (निष्कर्ष) में तोड़ दिया। उन्होंने प्रत्येक भाग को दो विशेष लेबल भी दिए:
- घृणास्पदता (Hatefulness): क्या यह विशिष्ट वाक्य बुरा या अपमानजनक है?
- जांचने योग्यता (Checkworthiness): क्या यह एक ऐसा दावा है जिसकी तथ्य-जांच की जा सकती है (जैसे "आसमान नीला है") या यह केवल एक राय है (जैसे "मुझे लगता है कि आसमान सुंदर है")?
जासूसी का काम: उन्होंने इसका परीक्षण कैसे किया
शोधकर्ताओं ने एक कंप्यूटर मॉडल (एक "स्मार्ट सॉर्टर") बनाया जो यह भविष्यवाणी करता था कि कोई संदेश घृणास्पद है या नहीं। उन्होंने मॉडल को अलग-अलग प्रकार के सुराग देने की कोशिश की:
केवल ब्लूप्रिंट (संरचना): उन्होंने मॉडल से कहा, "यहाँ ईंटों और छत का क्रम है, लेकिन उनके बारे में कोई विवरण नहीं है कि वे क्या कहते हैं।"
- परिणाम: इसने ठीक-ठाक काम किया। केवल तर्क के आकार को जानने से मॉडल लगभग 70% बार सही अनुमान लगाने में सफल रहा। यह यह जानने जैसा है कि एक टेढ़ी नींव वाला घर अधिक संभावना है कि एक बुरा घर होगा, भले ही हम उसकी दीवारों को न देख सकें।
ब्लूप्रिंट + तथ्य-जांच लेबल: उन्होंने "जांचने योग्यता" के टैग जोड़ दिए (मॉडल को बताया कि कौन से भाग तथ्य बनाम राय हैं)।
- परिणाम: आश्चर्यजनक रूप से, इसने मॉडल को और भी खराब बना दिया। यह एक जासूस को बहुत अधिक भ्रमित करने वाला शोर वाला नक्शा देने जैसा है; सरल संरचना वास्तव में इस विशिष्ट, छोटे समूह के संदेशों के लिए अधिक विश्वसनीय थी।
ब्लूप्रिंट + घृणा लेबल: उन्होंने मॉडल को ठीक से बताया कि कौन सी ईंटें और छत घृणास्पद थीं।
- परिणाम: यह "धुआं पकड़ने वाला सबूत" (smoking gun) था। जब मॉडल को पता चला कि कौन से विशिष्ट भाग घृणास्पद थे, तो यह अविश्वसनीय रूप से सटीक हो गया, और लगभग 96% बार सही उत्तर दिया।
मुख्य निष्कर्ष
शोध पत्र ने दो मुख्य बातें पाईं:
- संरचना मायने रखती है: तर्क कैसे व्यवस्थित है (निष्कर्ष की ओर ले जाने वाले आधार वाक्यों का क्रम), इसमें इस बात के बहुत सारे सुराग होते हैं कि पूरा संदेश घृणास्पद है या नहीं। आपको हमेशा हर शब्द पढ़ने की आवश्यकता नहीं होती।
- "ईंटें" कहानी बताती हैं: "ईंटों" (आधार वाक्यों) की घृणास्पद प्रकृति अक्सर यह बताने के लिए पर्याप्त होती है कि पूरा "घर" खतरनाक है। आपको यह जानने के लिए हमेशा "छत" (निष्कर्ष) तक पहुँचने की प्रतीक्षा करने की आवश्यकता नहीं है कि कुछ गलत है।
भविष्य के लिए एक चेतावनी
शोधकर्ताओं ने एक पेंच (catch) की ओर भी इशारा किया। जबकि "घृणा लेबल" के होने से मॉडल अत्यंत सटीक हो गया, वास्तविक दुनिया में हमारे पास वे लेबल पहले से तैयार नहीं होते हैं। हमें उन्हें खुद ढूंढना पड़ता है।
उन्होंने यह भी पाया कि "जांचने योग्यता" (तथ्य-जांच टैग) जोड़ने से उनका छोटा, सरल मॉडल मदद नहीं कर सका। यह एक विशाल, जटिल मानचित्र को पढ़ने के लिए एक छोटे आवर्धक लेंस (magnifying glass) का उपयोग करने जैसा है; उपकरण उस अतिरिक्त जानकारी को संभालने के लिए पर्याप्त बड़ा नहीं था। वे सुझाव देते हैं कि बड़े, अधिक शक्तिशाली कंप्यूटर (जैसे बड़े भाषा मॉडल) उन तथ्य-जांच टैग का प्रभावी ढंग से उपयोग कर सकते हैं, लेकिन फिलहाल, सरल संरचना ही सबसे विश्वसनीय सुराग है जो उन्होंने पाया।
संक्षेप में: घृणास्पद भाषण को एक इमारत की तरह मानकर और उसके हिस्सों को कैसे जोड़ा गया है इसका विश्लेषण करके, हम खतरे को अधिक आसानी से पहचान सकते हैं। तर्क का आकार स्वयं एक शक्तिशाली संकेत है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।