SCOPE: A Dataset of Stereotyped Prompts for Counterfactual Fairness Assessment of LLMs
यह शोध पत्र SCOPE को प्रस्तुत करता है, जो विविध विषयों, जनसांख्यिकीय समूहों और संचार संबंधी उद्देश्यों में 240,000 से अधिक काउंटरफैक्चुअल (counterfactual) प्रॉम्प्ट्स वाला एक बड़े पैमाने का डेटासेट है, जिसे लार्ज लैंग्वेज मॉडल्स में रूढ़िवादी पूर्वाग्रहों के व्यवस्थित मूल्यांकन और शमन के लिए डिज़ाइन किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप अपने दैनिक कार्यों में मदद के लिए एक नया सहायक (assistant) रख रहे हैं। आप चाहते हैं कि आपका यह सहायक निष्पक्ष हो, जो हर किसी के साथ बिल्कुल एक जैसा व्यवहार करे, चाहे वह कोई भी हो। लेकिन आप यह कैसे परखेंगे कि वह वास्तव में निष्पक्ष है? आप उससे सिर्फ यह नहीं पूछ सकते, "क्या तुम निष्पक्ष हो?" क्योंकि वह लगभग हर बार "हाँ" ही कहेगा।
वास्तव में इसे परखने के लिए, आपको "अंतर पहचानो" (Spot the Difference) का खेल खेलना होगा।
यह शोध पत्र एक विशाल नए टूल पेश करता है जिसे SCOPE कहा जाता है (Stereotype-Conditioned Prompts for Evaluation)। SCOPE को एक विस्तृत और व्यवस्थित "अंतर पहचानो" परीक्षणों की एक बड़ी 'प्लेबुक' के रूप में समझें, जिसे विशेष रूप से यह जांचने के लिए बनाया गया है कि आर्टिफिशियल इंटेलिजेंस (AI) पक्षपाती तो नहीं हो रहा है।
यह कैसे काम करता है, इसे सरल अवधारणाओं में यहाँ दिया गया है:
1. समस्या: एक "जादुई दर्पण" जो झूठ बोलता है
वर्तमान AI मॉडल (जैसे वे जो ईमेल लिखते हैं या सलाह देते हैं) बहुत अच्छे हैं, लेकिन वे कभी-कभी एक ऐसे जादुई दर्पण की तरह व्यवहार करते हैं जो देखने वाले के आधार पर वास्तविकता को विकृत कर देता है।
- यदि आप पूछते हैं, "क्या एक डॉक्टर अपने काम में कुशल है?" तो AI कह सकता है, "हाँ, वे बहुत कुशल हैं।"
- यदि आप पूछते हैं, "क्या एक महिला डॉक्टर अपने काम में कुशल है?" तो AI थोड़ा हिचकिचा सकता है या थोड़ा अलग, कम आत्मविश्वास भरा उत्तर दे सकता है, भले ही काम वही है।
पक्षपात के लिए पिछले परीक्षण एक छोटे, टूटे हुए टॉर्च के उपयोग की तरह थे। उनमें केवल कुछ ही उदाहरण (जैसे 1,500 वाक्य) थे और वे बहुत सीमित थे। वे सवाल पूछने के विभिन्न तरीकों का परीक्षण नहीं कर सकते थे, इसलिए वे AI के छिपे हुए पूर्वाग्रहों को पकड़ने में चूक जाते थे।
2. समाधान: "SCOPE" प्लेबुक
लेखकों ने 241,280 प्रश्नों की एक विशाल लाइब्रेरी बनाई (जो 120,640 जोड़ों में व्यवस्थित है)।
कल्पित कीजिए कि एक शेफ (रसोइया) टेस्टिंग मेनू तैयार कर रहा है।
- पुराना तरीका: शेफ 10 लोगों को एक ही व्यंजन परोसता है, लेकिन उनमें से दो के लिए प्लेट पर नाम बदल देता है।
- SCOPE का तरीका: शेफ 1,438 अलग-अलग व्यंजन (विषय) तैयार करता है। प्रत्येक व्यंजन के लिए, वह उन्हें 1,536 अलग-अलग समूहों (जनसांख्यिकी जैसे जाति, लिंग, आयु, धर्म आदि) को परोसता है।
लेकिन यहाँ असली जादू है: भोजन बिल्कुल एक जैसा है।
SCOPE में प्रत्येक प्रश्न के जोड़े के लिए, अर्थ पूरी तरह समान है। केवल वह सामाजिक समूह बदलता है जिसका उल्लेख किया गया है।
- जोड़ा A: "पुरुष तनाव को कैसे संभालते हैं?"
- जोड़ा B: "महिलाएं तनाव को कैसे संभालती हैं?"
यदि AI इन दोनों समान प्रश्नों के लिए अलग-अलग उत्तर देता है, तो हमें पता चल जाता है कि वह पक्षपाती हो रहा है।
3. चार "आवाजें" (Communicative Intents)
शोधकर्ताओं ने महसूस किया कि लोग AI से अलग-अलग तरीकों से बात करते हैं। कभी हम सवाल पूछते हैं, कभी सलाह मांगते हैं, कभी निर्देश देते हैं, और कभी स्पष्टीकरण मांगते हैं।
SCOPE AI को चार अलग-अलग "आवाजों" में परखता है:
- प्रश्न (Question): "सबसे अच्छा तरीका क्या है...?"
- सिफारिश (Recommendation): "मैं सुझाव देता हूँ कि आप..."
- निर्देश (Direction): "यह करें..."
- स्पष्टीकरण (Clarification): "क्या आप समझा सकते हैं...?"
उपमा (Analogy): एक वेटर का परीक्षण करने की कल्पना करें।
- यदि आप उससे विनम्रता से पूछते हैं, तो वह अच्छा हो सकता है।
- यदि आप उसे आदेश देते हैं, तो वह रूखा हो सकता है।
- यदि आप उससे सिफारिश मांगते हैं, तो वह महंगी चीजें बेचने की कोशिश कर सकता है।
SCOPE यह जांचता है कि क्या AI आपके पूछने के तरीके के आधार पर एक "दलित पुरुष" के साथ "सफेद पुरुष" की तुलना में अलग व्यवहार करता है। हो सकता है कि AI सवाल पूछने पर निष्पक्ष हो, लेकिन सिफारिश मांगने पर पक्षपाती हो जाए।
4. इसे कैसे बनाया गया (असेंबली लाइन)
शोधकर्ताओं ने ये सभी प्रश्न खुद नहीं लिखे (उसमें बहुत समय लगता!)। उन्होंने एक स्मार्ट असेंबली लाइन बनाई:
- ब्लूप्रिंट (खाका): उन्होंने ज्ञात रूढ़ियों (stereotypes) की एक छोटी सूची से शुरुआत की (जैसे "समलैंगिक पुरुष भावुक होते हैं")।
- अनुवादक (Translator): उन्होंने एक बहुत ही स्मार्ट AI का उपयोग उन रूढ़ियों को एक संरचित प्रारूप में बदलने के लिए किया: विषय + वंचित समूह + उन्नत समूह।
- जेनरेटर (Generator): उन्होंने AI को निर्देश दिया: "इस ब्लूप्रिंट को लें और समूह A के लिए इस प्रश्न को पूछने के 10 अलग-अलग तरीके लिखें, और समूह B के लिए भी 10 अलग-अलग तरीके लिखें। सुनिश्चित करें कि अर्थ बिल्कुल समान हो, लेकिन शब्द अलग हों।"
- गुणवत्ता जांच (Quality Check): मनुष्यों ने परिणामों की समीक्षा की ताकि यह सुनिश्चित हो सके कि AI ने कोई धोखाधड़ी या गलती नहीं की है।
5. यह क्यों महत्वपूर्ण है
यह डेटासेट AI निष्पक्षता के लिए एक तनाव परीक्षण (stress test) की तरह है।
- डेवलपर्स के लिए: यह उनके AI में बग्स (खामियों) को जनता के सामने लाने से पहले खोजने का एक उपकरण है।
- शोधकर्ताओं के लिए: यह उन्हें यह देखने की अनुमति देता है कि AI ठीक कहाँ और क्यों विफल होता है।
- समाज के लिए: यह सुनिश्चित करने में मदद करता है कि भर्ती, ऋण देने और स्वास्थ्य सेवा के लिए उपयोग किए जाने वाले AI उपकरण अनजाने में लोगों की पहचान के आधार पर भेदभाव न करें।
निष्कर्ष
शोध पत्र कहता है: "हमने AI को पक्षपात करते हुए पकड़ने के लिए एक विशाल, विविध और चतुर परीक्षणों का सेट बनाया है।" SCOPE का उपयोग करके, हम यह अनुमान लगाना बंद कर सकते हैं कि AI निष्पक्ष है या नहीं, और ठोस साक्ष्य के साथ इसे सिद्ध करना शुरू कर सकते हैं। यह AI को एक ऐसा दर्पण देने जैसा है जो सच दिखाता है, चाहे वह इसे छिपाने की कितनी भी कोशिश करे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।