Mod-Guide: An LLM-based Content Moderation Feedback System to Address Insensitive Speech toward Indigenous Ethnic and Religious Minority Communities

यहाँ "Mod-Guide" पेपर का सरल भाषा और रचनात्मक उपमाओं (analogies) का उपयोग करके किया गया विवरण दिया गया है।

बड़ी तस्वीर: सांस्कृतिक भावनाओं के लिए एक अनुवादक

कल्पना कीजिए कि इंटरनेट एक विशाल, शोर-शराबे वाला शहर का चौक है। इस चौक में दो समूह के लोग हैं: बहुसंख्यक (सबसे आम आवाजें) और अल्पसंख्यक (छोटे, अक्सर अनदेखे किए जाने वाले समूह)।

कभी-कभी, बहुसंख्यक लोग ऐसी बातें कहते हैं जो तकनीकी रूप से "घृणास्पद भाषण" (जैसे अपशब्दों का प्रयोग) नहीं होतीं, लेकिन वे फिर भी दुखद होती हैं। वे ऐसे मजाक, धारणाएं या टिप्पणियां कर सकते हैं जो अनजाने में अल्पसंख्यक की संस्कृति, धर्म या इतिहास को कमतर आंकते हैं या उसका अनादर करते हैं। यह वैसा ही है जैसे कोई कहे, "तुम यह अजीब टोपी क्यों पहनते हो? यह बदसूरत है," यह समझे बिना कि पहनने वाले के लिए वह टोपी एक पवित्र मुकुट है।

समस्या यह है कि शहर के चौक के "बाउंसर" (कंटेंट मॉडरेशन सिस्टम) आमतौर पर बहुसंख्यकों द्वारा प्रशिक्षित होते हैं। वे इन सूक्ष्म दुखों को समझने में विफल रहते हैं क्योंकि वे अल्पसंख्यक के दृष्टिकोण को नहीं समझते। वे कह सकते हैं, "यह टिप्पणी ठीक है," जबकि अल्पसंख्यक व्यक्ति अंदर से गहरा आहत महसूस कर रहा होता है।

यह पेपर Mod-Guide पेश करता है, जो एक नया टूल है जिसे बाउंसरों को अल्पसंख्यक के दृष्टिकोण को समझने में मदद करने के लिए डिज़ाइन किया गया है।

समस्या: "पर्दा" और "गायब डिक्शनरी"

लेखक यह समझाने के लिए दो शक्तिशाली रूपकों का उपयोग करते हैं कि ऐसा क्यों होता है:

1. पर्दा (The Veil): कल्पना कीजिए कि एक मोटा, अदृश्य पर्दा बहुसंख्यकों और अल्पसंख्यकों को अलग करता है। बहुसंख्यक अल्पसंख्यकों की वास्तविक भावनाओं को नहीं देख पाते, और अल्पसंख्यक खुद को गलत समझा हुआ महसूस करते हैं।
2. हर्मेन्यूटिकल इनजस्टिस (Hermeneutical Injustice): यह कहने का एक औपचारिक तरीका है कि अल्पसंख्यक के पास एक "डिक्शनरी" की कमी है। उनके पास अनुभव और भावनाएं हैं, लेकिन इंटरनेट की "आधिकारिक भाषा" (और AI) के पास उन शब्दों की कमी है जो यह वर्णन कर सकें कि वे अनुभव दर्दनाक क्यों हैं।

इस कारण से, मानक AI मॉडल (जैसे कि वर्तमान में सोशल मीडिया साइटों द्वारा उपयोग किए जाने वाले मॉडल) अक्सर "संवेदनशीलहीन भाषण" (insensitive speech) को पकड़ने में विफल रहते हैं। वे शब्दों को देखते हैं, लेकिन उनके पीछे के अर्थ को नहीं समझ पाते।

समाधान: एक "सामुदायिक पुस्तकालय" बनाना

इसे ठीक करने के लिए, शोधकर्ताओं ने केवल AI से अनुमान लगाने के लिए नहीं कहा। इसके बजाय, वे स्रोत तक गए।

चरण 1: कहानीकार (The Corpus)
शोधकर्ताओं ने बांग्लादेश के दो विशिष्ट अल्पसंख्यक समूहों से 22 सदस्यों को इकट्ठा किया: हिंदू समुदाय (धार्मिक अल्पसंख्यक) और चकमा समुदाय (स्वदेशी जातीय अल्पसंख्यक)।

• उन्होंने इन समुदाय के सदस्यों से ऐसे ऑनलाइन कमेंट्स के उदाहरण मांगे जो उन्हें ठेस पहुँचाते हैं।
• महत्वपूर्ण बात यह थी कि समुदाय के सदस्यों ने केवल यह नहीं कहा कि "यह बुरा है।" उन्होंने व्याख्याएँ भी लिखीं। उन्होंने समझाया कि वह क्यों बुरा था, अपने धार्मिक ग्रंथों, इतिहास और अपने अनुभवों का उपयोग करते हुए।
• उपमा: कल्पना कीजिए कि एक लाइब्रेरी है जहाँ, केवल "बुरे शब्दों" की सूची होने के बजाय, आपके पास उन लोगों द्वारा लिखी गई किताबों की एक शेल्फ है, जो विस्तार से समझा रहे हैं कि एक विशिष्ट वाक्य दिल पर चोट क्यों लगा।

चरण 2: टूल (Mod-Guide)
शोधकर्ताओं ने Mod-Guide नामक एक टूल बनाया। इसे कंटेंट मॉडरेटर्स के लिए एक स्मार्ट असिस्टेंट की तरह समझें।

• दिमाग (The Brain): यह एक शक्तिशाली AI (GPT-4) का उपयोग करता है।
• याददाश्त (RAG): यही असली जादू है। AI को अपने सामान्य प्रशिक्षण के आधार पर अनुमान लगाने के बजाय, Mod-Guide उसे जवाब देने से पहले सामुदायिक पुस्तकालय (चरण 1 में बनाया गया कॉर्पस) को खोलने के लिए मजबूर करता है।
• भूमिका निभाना (The Role-Play): AI को फीडबैक देने के लिए अलग-अलग "टोपियाँ" (persona) पहनने के लिए कहा जाता है। कभी-कभी यह एक शिक्षक (शिक्षित करने की कोशिश करने वाला), कभी-कभी एक मध्यस्थ (झगड़ा शांत करने की कोशिश करने वाला), या एक न्यायाधीश (फैसला सुनाने वाला) के रूप में कार्य करता है।

वास्तविक जीवन में यह कैसे काम करता है

आइए पेपर के एक उदाहरण को देखें:

• संवेदनशीलहीन टिप्पणी: एक उपयोगकर्ता पोस्ट करता है, "मुझे मूर्तियों की रक्षा करने में विश्वास नहीं है; मैं अपनी आस्था को उनकी रक्षा करने के लिए लाया था, न कि मूर्तियों को बचाने के लिए।" (यह हिंदुओं के लिए अपमानजनक है जो मूर्तियों को पवित्र मानते हैं)।
• मानक AI: कह सकता है, "यह केवल एक राय है, यह ठीक है।"
• Mod-Guide (लाइब्रेरी के साथ): AI हिंदू समुदाय के सदस्यों की व्याख्या को खोजता है। वह देखता है कि उनके लिए, मूर्तियाँ ईश्वर से जुड़ने का एक माध्यम हैं, न कि केवल मूर्तियाँ।
• परिणाम: Mod-Guide उपयोगकर्ता को बताता है, "यह टिप्पणी हानिकारक हो सकती है क्योंकि यह कई लोगों के लिए मूर्तियों की पवित्र प्रकृति को खारिज करती है। आप इसे अधिक सम्मानजनक बनाने के लिए कैसे बदल सकते हैं, यहाँ बताया गया है।"

उन्हें क्या पता चला

शोधकर्ताओं ने मानक AI के मुकाबले Mod-Guide का परीक्षण किया और पाया:

1. यह आउटपुट को बदल देता है: जब AI "सामुदायिक पुस्तकालय" (RAG) का उपयोग करता है, तो उसके उत्तर मानक AI से पूरी तरह अलग होते हैं। यह सांस्कृतिक बारीकियों के प्रति बहुत अधिक संवेदनशील हो जाता है।
2. यह अधिक सटीक है: अल्पसंख्यक समुदायों के विशेषज्ञों ने उत्तरों की समीक्षा की। उन्होंने कहा कि मानक AI अक्सर "सतही" था या बात को समझ नहीं पाया। Mod-Guide के उत्तर गहरे और उनकी संस्कृति के संबंध में तथ्यात्मक रूप से अधिक सटीक थे।
3. किसे यह पसंद आया?
   • जातीयता मायने रखती है: स्वदेशी (चकमा) अल्पसंख्यक समूह के लोगों को बहुसंख्यकों की तुलना में फीडबैक बहुत अधिक उपयोगी लगा।
   • धर्म उतना महत्वपूर्ण नहीं था: दिलचस्प बात यह है कि चाहे कोई हिंदू हो या मुस्लिम, इससे फर्क नहीं पड़ा कि उन्होंने टूल को कितना उपयोगी पाया; यह उनके जातीय बैकग्राउंड के बारे में अधिक था।
   • "शिक्षक" और "मध्यस्थ" की भूमिका: फीडबैक सबसे अधिक मददगार था जब AI ने एक सख्त न्यायाधीश के बजाय एक शिक्षक या मध्यस्थ की तरह व्यवहार किया।

सीमाएँ (सावधानी)

लेखक इस बारे में ईमानदार हैं कि यह टूल अभी क्या नहीं कर सकता:

• यह छोटा है: जो "लाइब्रेरी" उन्होंने बनाई वह छोटी है (132 उदाहरण)। यह एक ऐसी डिक्शनरी की तरह है जिसमें केवल कुछ ही पन्ने हैं। यह उनके द्वारा अध्ययन किए गए विशिष्ट समूहों के लिए अच्छा काम करता है, लेकिन यह दुनिया के हर अपमान या अन्य अल्पसंख्यक समूहों को कवर नहीं कर सकता।
• यह जादू नहीं है: इस टूल को अभी भी मानवीय निगरानी की आवश्यकता है। यह पूरी तरह से मानवीय निर्णय की जगह नहीं ले सकता, विशेष रूप से बहुत जटिल या दृश्य सामग्री (जैसे टेक्स्ट के साथ चित्र) के लिए।
• बांग्लादेश के लिए विशिष्ट: इनके निष्कर्ष बांग्लादेश के हिंदू और चकमा समुदायों के लिए विशिष्ट हैं। यह स्वचालित रूप से अन्य देशों के अल्पसंख्यकों की समस्याओं को हल नहीं करता है, हालांकि तरीके को कॉपी किया जा सकता है।

मुख्य निष्कर्ष

यह पेपर तर्क देता है कि इंटरनेट को निष्पक्ष बनाने के लिए, हम केवल बड़े, सामान्य AI मॉडल पर भरोसा नहीं कर सकते। हमें स्थानीय, समुदाय-विशिष्ट ज्ञान के पुस्तकालय बनाने की आवश्यकता है।

AI को उन लोगों द्वारा लिखी गई "डिक्शनरी" देकर, जो वास्तव में आहत हो रहे हैं, हम इसे एक हानिरहित टिप्पणी और एक गहराई से अपमानजनक टिप्पणी के बीच अंतर समझने में मदद कर सकते हैं। यह दंड (लोगों को बैन करने) से पुनर्स्थापनात्मक न्याय (लोगों को एक-दूसरे को समझने और संबंध सुधारने में मदद करने) की ओर बढ़ने के बारे में है।

संक्षेप में: Mod-Guide एक ऐसा टूल है जो AI को यह सिखाता है कि उसे केवल अनुमान नहीं लगाना चाहिए, बल्कि उन लोगों की बात सुननी चाहिए जिनकी रक्षा करने के लिए उसे बनाया गया है।