PEACE 2.0: Grounded Explanations and Counter-Speech for Combating Hate Expressions
PEACE 2.0 एक नवीन उपकरण है जो स्पष्ट और अप्रत्यक्ष दोनों प्रकार के घृणास्पद संदेशों के लिए साक्ष्य-आधारित स्पष्टीकरण प्रदान करने और तथ्यात्मक प्रति-भाषण (counter-speech) को स्वचालित रूप से उत्पन्न करने के लिए रिट्रीवल-ऑगमेंटेड जनरेशन पाइपलाइन का उपयोग करके घृणास्पद भाषण विश्लेषण और शमन को बढ़ाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, हलचल भरे शहर के चौक की तरह है। हाल ही में, यह चौक अपमान चिल्लाने, अफवाहें फैलाने और शब्दों से दूसरों को चोट पहुँचाने की कोशिश करने वाले लोगों से भर गया है। यह घृणास्पद भाषण (Hate Speech) है।
लंबे समय से, इस शहर के चौक के "सुरक्षा गार्ड" (वे कंप्यूटर प्रोग्राम जिनका हम उपयोग करते हैं) स्पष्ट रूप से धौंस जमाने वालों को पकड़ने में बहुत अच्छे रहे हैं। यदि कोई चिल्लाता है, "मैं तुम्हारे रंग की वजह से तुमसे नफरत करता हूँ," तो गार्ड तुरंत इशारा करता है और कहता, "रुको!"
लेकिन समस्या यह है: धौंस जमाने वाले अब अधिक चतुर हो गए हैं। वे अब केवल चिल्ला नहीं रहे हैं; वे फुसफुसा रहे हैं, कोड शब्दों का उपयोग कर रहे हैं, या ऐसे चुटकुले बना रहे हैं जिन्हें केवल कुछ लोग ही समझ पाते हैं। यह अंतर्निहित घृणास्पद भाषण (Implicit Hate Speech) है। यह ऐसा है जैसे कोई धमकाने वाला कहे, "कुछ लोग यहाँ बस फिट नहीं बैठते," बिना कभी यह बताए कि उनका मतलब किससे है। इसे पकड़ना बहुत कठिन है।
इसके अलावा, भले ही गार्ड किसी धमकाने वाले को पकड़ लेते हैं, वे आमतौर पर उन्हें बस बाहर निकाल देते हैं (पोस्ट डिलीट कर देते हैं)। लेकिन क्या होगा अगर हम उस धमकाने वाले को सबक सिखा सकें, या आसपास के लोगों को सच्चाई समझने में मदद कर सकें? यहीं पर प्रति-भाषण (Counter-Speech) आता है—नफरत का जवाब तथ्यों और दयालुता के साथ देना, न कि केवल चुप्पी के साथ।
पेश है PEACE 2.0। इस टूल को इस शहर के चौक के लिए एक सुपर-पावर्ड, हाई-टेक "शांति रक्षक" (Peacekeeper) के रूप में समझें। यह केवल धमकाने वालों को पकड़ता ही नहीं है; यह समझाता भी है कि वे क्यों गलत हैं और एक आदर्श, तथ्य-आधारित जवाब लिखने में मदद करता है ताकि बहस को रोका जा सके।
यहाँ बताया गया है कि PEACE 2.0 कैसे काम करता है, जिसे तीन सरल सुपरपावर्स में विभाजित किया गया है:
1. "फैक्ट-चेकर" बैकपैक (RAG)
कल्पना कीजिए कि आप एक वाद-विवाद में छात्र हैं। यदि आप अपने टेक्स्टबुक के बिना तर्क देने की कोशिश करते हैं, तो आप बातें बना सकते हैं या अनिश्चित लग सकते हैं। लेकिन यदि आपके पास दुनिया की सबसे विश्वसनीय किताबों (जैसे संयुक्त राष्ट्र के मानवाधिकार कानून) का बैकपैक है, तो आप तथ्यों के साथ किसी भी बहस को जीत सकते हैं।
PEACE 2.0 के पास यह बैकपैक है। यह RAG (रिट्रीवल-ऑगमेंटेड जनरेशन) नामक एक प्रणाली का उपयोग करता है।
- बैकपैक के बिना: कंप्यूटर जो वह "सोचता" है कि सच है, उसके आधार पर जवाब का अनुमान लगाने की कोशिश करता है।
- बैकपैक के साथ: कंप्यूटर तुरंत अपने 30,000+ विश्वसनीय दस्तावेजों के पुस्तकालय को खोजता है, आवश्यक सटीक तथ्य ढूंढता है, और अपना जवाब बनाने के लिए उनका उपयोग करता है।
इसका मतलब है कि जब PEACE 2.0 घृणास्पद भाषण का जवाब देता है, तो वह केवल अनुमान नहीं लगा रहा होता; वह कानून और इतिहास का हवाला दे रहा होता है।
2. "डिटेक्टिव का आवर्धक लेंस" (व्याख्याएँ)
कभी-कभी कोई संदेश निर्दोष दिखता है लेकिन वास्तव में एक जाल होता है। PEACE 2.0 एक आवर्धक लेंस (Magnifying Glass) के साथ एक जासूस की तरह काम करता है।
- यह एक संदेश को पढ़ता है और निर्णय लेता है: "क्या यह घृणास्पद भाषण है?"
- फिर, यह केवल "हाँ" नहीं कहता। यह ठीक से समझाता है कि क्यों।
- जादू: "फैक्ट-चेकर बैकपैक" के कारण, जासूस केवल यह नहीं कहता कि "यह बुरा लग रहा है।" वह कहता है, "यह वाक्य घृणास्पद भाषण है क्योंकि यह मानव अधिकार घोषणा के अनुच्छेद 12 का उल्लंघन करता है, जो समूह X की रक्षा करता है।" यह रूखे कमेंट और शहर के वास्तविक नियमों के बीच के संबंध को जोड़ता है।
3. "डिप्लोमैट का पेन" (प्रतिक्रिया उत्पन्न करना)
यह नवीनतम और सबसे शानदार विशेषता है। एक बार जब PEACE 2.0 घृणा को पहचान लेता है और तथ्य ढूंढ लेता है, तो यह आपके लिए एक प्रतिक्रिया लिखता है।
- यह वापस में कोई गुस्सा भरा भाषण नहीं लिखता।
- यह एक प्रति-भाषण (Counter-Speech) लिखता है: एक शांत, प्रेरक और तथ्य-युक्त जवाब जो लड़ाई शुरू किए बिना घृणा को खत्म कर देता है।
- यह आपको दो संस्करण दिखा सकता है: एक जो एक "स्मार्ट गेसर" (बिना तथ्यों के) द्वारा लिखा गया है और एक जो "बैकपैक वाले विशेषज्ञ" (तथ्यों के साथ) द्वारा लिखा गया है। विशेषज्ञ संस्करण हमेशा बेहतर, अधिक प्रेरक और बहस करने में कठिन होता है।
यह क्यों मायने रखता है?
शोधकर्ताओं ने पुराने तरीके के मुकाबले PEACE 2.0 का परीक्षण किया।
- परिणाम: जब PEACE 2.0 ने अपने "फैक्ट-चेकर बैकपैक" का उपयोग किया, तो इसकी व्याख्याएँ बहुत स्पष्ट थीं, और इसके जवाब बहुत अधिक प्रभावशाली थे।
- उपमा: यह एक पड़ोसी के "मुझे ऐसा लगता है" कहने बनाम एक पड़ोसी के "यह सच नहीं है। 2024 के आधिकारिक जनगणना डेटा के अनुसार, जनसंख्या वास्तव में..." कहने के बीच के अंतर जैसा है। दूसरा वाला हर बार बहस जीत जाता है।
निष्कर्ष
PEACE 2.0 एक ऐसा टूल है जो हमें घृणास्पद भाषण को केवल छिपाने से आगे बढ़कर उसे समझने और उसका सामना करने में मदद करता है। यह एक जासूस की दिमागी शक्ति, एक लाइब्रेरियन के ज्ञान और एक शांतिदूत की कूटनीति को जोड़ता है।
इसका लक्ष्य हमारे ऑनलाइन शहर के चौक को एक ऐसी जगह बनाना है जहाँ हम केवल बुरे शब्दों को हटाते नहीं हैं, बल्कि जहाँ हम वास्तव में बेहतर, अधिक सूचित बातचीत कर सकते हैं जो सभी को सुरक्षित और समावेशी महसूस कराती है। यह केवल शोर को रोकने के बारे में नहीं है; यह शांति लाने के बारे में है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।