Measuring Stereotype and Deviation Biases in Large Language Models
यह अध्ययन चार उन्नत लार्ज लैंग्वेज मॉडल्स द्वारा जनरेट किए गए व्यक्तिगत प्रोफाइल्स का विश्लेषण करके उनमें रूढ़िवादी (stereotype) और विचलन (deviation) पूर्वाग्रहों की जांच करता है, जिससे यह पता चलता है कि परीक्षण किए गए सभी मॉडल्स विशिष्ट विशेषताओं के साथ जनसांख्यिकीय समूहों को जोड़ने और वास्तविक दुनिया के जनसांख्यिकीय वितरण से अलग होने में महत्वपूर्ण पूर्वाग्रह प्रदर्शित करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास चार अलग-अलग AI "कहानीकार" (लार्ज लैंग्वेज मॉडल्स, या LLMs) हैं। आप उनसे एक पात्र बनाने और उनके बारे में सब कुछ बताने के लिए कहते हैं: उनके राजनीतिक विचार, धर्म, वे किससे प्रेम करते हैं, वे कितना पैसा कमाते हैं, और उनका पेशा क्या है।
यह पेपर एक जासूसी रिपोर्ट की तरह है जो यह जाँचता है कि ये कहानीकार वास्तविक दुनिया के बारें में सच बोल रहे हैं, या वे केवल पुराने, आलसी रूढ़िों (stereotypes) को दोहरा रहे हैं। शोधकर्ताओं ने दो मुख्य प्रश्न पूछे:
- "रूढ़िवादिता" परीक्षण (The "Stereotype" Test): क्या ये AI कहानीकार विभिन्न समूहों के साथ अलग-अलग व्यवहार करते हैं? (जैसे, क्या वे हमेशा पुरुषों को "इंजीनियर" और महिलाओं को "शिक्षिका" बनाते हैं?)
- "विचलन" परीक्षण (The "Deviation" Test): क्या उनके द्वारा बनाए गए पात्र वास्तव में वास्तविक दुनिया के लोगों जैसे दिखते हैं? (जैसे, यदि वे 100 लोग बनाते हैं, तो क्या उनके राजनीतिक विचार वास्तविक अमेरिकी जनसंख्या से मेल खाते हैं, या अचानक हर कोई उदारवादी (liberal) हो जाता है?)
यहाँ उन्हें क्या मिला, जिसे सरल रूप में नीचे दिया गया है:
1. "राजनीतिक लेंस" टूटा हुआ है (The "Political Lens" is Broken)
जब AI से किसी व्यक्ति की राजनीतिक पार्टी का अनुमान लगाने के लिए कहा गया, तो इसने एक टूटे हुए कंपास की तरह काम किया।
- निष्कर्ष: AI द्वारा बनाया गया लगभग हर एक व्यक्ति उदारवादी (Liberal) था। चाहे वह पात्र पुरुष हो, महिला हो, अश्वेत हो, श्वेत हो या एशियाई हो, AI ने भारी बहुमत से कहा, "वे उदारवादी हैं।"
- वास्तविकता की जाँच: वास्तविक दुनिया में, लोग उदारवादी, रूढ़िवादी (Conservative) और तटस्थ (Neutral) के बीच विभाजित होते हैं। AI ने रूढ़िवादियों और तटस्थ लोगों को लगभग पूरी तरह से अनदेखा कर दिया।
- उपमा: यह एक शेफ से भीड़ के लिए बुफे पकाने के लिए कहने जैसा है, लेकिन शेफ केवल पिज्जा ही परोसता है। भले ही आप सलाद, स्टेक या टैको मांगें, शेफ आपको और अधिक पिज्जा ही देता है क्योंकि उसे वही पकाना आता है।
2. "धर्म" का फिल्टर संकीर्ण है (The "Religion" Filter is Narrow)
जब AI ने अनुमान लगाया कि एक व्यक्ति किस धर्म का पालन करता है:
- निष्कर्ष: AI ने ज्यादातर ईसाई (Christian) या अधार्मिक/गैर-आस्तिक (Unaffiliated) होने का अनुमान लगाया। इसने हिंदू, यहूदी या मुस्लिम का अनुमान बहुत कम लगाया, भले ही लाखों वास्तविक लोग इन धर्मों का पालन करते हैं।
- आयु का मोड़: AI की उम्रदराज लोगों (बेबी बूमर्स) के साथ एक विशिष्ट आदत थी। इसने लगभग हमेशा अनुमान लगाया कि वे ईसाई हैं। युवा पीढ़ियों के लिए, इसने "अधार्मिक/गैर-आस्तिक" होने का अनुमान लगाया।
- उपमा: एक मानचित्र की कल्पना करें जहाँ केवल अमेरिका और कनाडा ही देश के रूप में खींचे गए हैं, और बाकी सभी देशों को केवल "अज्ञात" लेबल किया गया है। दुनिया के धर्मों का AI मानचित्र वास्तविक जनसंख्या के बड़े हिस्सों को गायब कर देता है।
3. "प्रेम जीवन" का विरूपण (The "Love Life" Distortion)
जब AI ने यौन अभिविन्यास (sexual orientation) का अनुमान लगाया:
- निष्कर्ष: AI ने बहुत अधिक LGBTQ+ पात्रों का आविष्कार किया। वास्तविक दुनिया में, अधिकांश लोग विषमलैंगिक (heterosexual) पहचान रखते हैं। AI ने इसे उलट दिया, जिससे इसके द्वारा बनाए गए पात्रों में विशाल बहुमत LGBTQ+ हो गया।
- लिंग विभाजन: इसकी एक विशिष्ट पद्धति थी: इसने लगभग हमेशा अनुमान लगाया कि पुरुष समलैंगिक थे और महिलाएं उभयलिंगी (bisexual) थीं।
- उपमा: यह एक कमरे में जाने जैसा है जहाँ AI कहता है, "यहाँ हर कोई लाल टोपी पहने हुए है," जबकि वास्तव में, केवल कुछ ही लोग ऐसा कर रहे हैं। AI एक अल्पसंख्यक समूह को इस हद तक बढ़ा देता है कि वह बहुमत जैसा दिखने लगता है।
4. "पेशा" और "धन" की रूढ़ियाँ (The "Job" and "Money" Stereotypes)
जब AI ने नौकरियों और धन का अनुमान लगाया:
- निष्कर्ष: AI ने पुराने ढर्रे की रूढ़ियों पर बहुत अधिक भरोसा किया।
- नौकरियाँ: इसने लगभग सभी के लिए, विशेष रूप से पुरानी पीढ़ियों के लिए, शिक्षिका और ग्राफिक डिजाइनर बनाना पसंद किया।
- जाति और पैसा: इसने अक्सर अनुमान लगाया कि अश्वेत लोग "निम्न वर्ग" के थे और एशियाई लोग "उच्च वर्ग" के थे।
- इनकार: एक अन्य AI मॉडल (Claude) ने कुछ समूहों (जैसे श्वेत पुरुषों या अश्वेत पुरुषों) के लिए नौकरियों का अनुमान लगाने को लेकर इतनी घबराहट दिखाई कि उसने उत्तर देने से ही मना कर दिया, यह कहते हुए कि "मैं यह नहीं कर सकता।"
- उपमा: AI उस व्यक्ति की तरह है जिसने केवल कुछ फिल्में देखी हैं। यदि वह एक अश्वेत पात्र को देखता है, तो वह मान लेता है कि वह एक सामुदायिक कार्यकर्ता है। यदि वह एक एशियाई पात्र को देखता है, तो वह मान लेता है कि वह एक डॉक्टर है। वह वास्तविक जीवन के आंकड़ों के बजाय "फिल्म लॉजिक" पर काम कर रहा है।
5. "नाम का खेल" (Implicit vs. Explicit)
शोधकर्ताओं ने कुछ चतुर किया। उन्होंने AI से दो तरीकों से पूछा:
- स्पष्ट (Explicit): "एक अश्वेत पुरुष के बारे में लिखो।"
- अंतर्निहित (Implicit): "एक पुरुष के बारे में लिखो जिसका नाम जमाल है।" (नाम बिना कहे ही नस्ल का संकेत देता है)।
परिणाम: AI दोनों मामलों में लगभग एक जैसा व्यवहार करता था। चाहे आपने सीधे तौर पर "अश्वेत पुरुष" कहा हो या उस समूह से जुड़े नाम का उपयोग किया हो, AI ने समान रूढ़ियों को लागू किया। यह सुझाव देता है कि AI केवल आपके द्वारा टाइप किए गए शब्दों पर प्रतिक्रिया नहीं दे रहा है; इसने इन संबंधों को अपने मस्तिष्क के भीतर गहराई से "सीख" लिया है।
बड़ी तस्वीर (The Big Picture)
पेपर यह निष्कर्ष निकालता है कि ये AI मॉडल समाज के तटस्थ दर्पण नहीं हैं। इसके बजाय, वे एक 'फनहाउस मिरर' (funhouse mirror) की तरह हैं जो कुछ समूहों को खींचते और सिकोड़ते हैं।
- वे उदारवादी विचारों को एकमात्र दृष्टिकोण के रूप में दिखाते हैं।
- वे LGBTQ+ पहचान को बहुमत के रूप में दिखाते हैं।
- वे वृद्ध लोगों को ईसाई और शिक्षिका के रूप में दिखाते हैं।
- वे एशियाई लोगों को धनी और अश्वेत लोगों को गरीब के रूप में दिखाते हैं।
लेखक चेतावनी देते हैं कि यदि हम इन AI मॉडलों का उपयोग निर्णय लेने (जैसे भर्ती करना, ऋण देना या समाचारों का विश्लेषण करना) के लिए करते हैं, तो हम अनजाने में एक ऐसी दुनिया बना सकते हैं जो वास्तविक दुनिया के बजाय AI की विकृत कल्पना जैसी दिखेगी। वे सुझाव देते हैं कि डेवलपर्स को प्रशिक्षण डेटा (training data) को ठीक करने की आवश्यकता है ताकि AI इन "आलसी" अनुमानों को दोहराना बंद करे और वास्तविकता को अधिक सटीक रूप से प्रतिबिंबित करना शुरू करे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।