Generating the Modal Worker: A Cross-Model Audit of Race and Gender in LLM-Generated Personas Across 41 Occupations
यह शोध पत्र 41 अमेरिकी व्यवसायों में चार प्रमुख लार्ज लैंग्वेज मॉडल्स का ऑडिट करता है और पाता है कि वे व्यावसायिक प्रोफाइल्स को प्रमुख रूढ़ियों की ओर संकुचित करके नस्लीय और लैंगिक जनसांख्यिकी को व्यवस्थित रूप से विकृत करते हैं, जिससे श्वेत और अश्वेत श्रमिकों का काफी कम प्रतिनिधित्व होता है और हिस्पैनिक एवं एशियाई श्रमिकों का अत्यधिक प्रतिनिधित्व होता है, जिससे साझा संरचनात्मक पूर्वाग्रहों का पता चलता है जो सिंथेटिक आबादी में जनसांख्यिकीय दृश्यता को नया आकार देते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास चार अलग-अलग "डिजिटल कहानीकार" (AI मॉडल जैसे GPT-4, Gemini, DeepSeek, और Mistral) हैं। आप उनसे एक सरल प्रश्न पूछते हैं: "मुझे एक ऐसे व्यक्ति के बारे में बताओ जो संयुक्त राज्य अमेरिका में एक [Job Title/पद] के रूप में काम करता है।"
आप यह सवाल 41 अलग-अलग नौकरियों के लिए पूछते हैं, नर्सों से लेकर इंजीनियरों और ट्रक ड्राइवरों तक, और आप प्रत्येक मॉडल से प्रत्येक नौकरी के लिए 10,000 अलग-अलग लोग बनाने के लिए कहते हैं। यह 15 लाख से अधिक काल्पनिक लोग बनते हैं।
इस शोध पत्र के शोधकर्ताओं ने जासूसों की तरह काम किया। उन्होंने इन 15 लाख काल्पनिक पात्रों को लिया और उनकी तुलना वास्तविक दुनिया के जनगणना डेटा (U.S. Bureau of Labor Statistics) से की, यह देखने के लिए कि क्या AI सच्चाई बता रहा है कि वास्तव में वे लोग कौन हैं जो ये काम करते हैं।
यहाँ जो उन्होंने पाया, उसे सरल भाषा में समझाया गया है:
1. "एक ही सांचे का" संकट (The Mold)
जब आप किसी इंसान से एक "नर्स" का वर्णन करने के लिए कहते हैं, तो वे कह सकते हैं, "वह एक महिला हो सकती है, एक पुरुष हो सकता है, एक युवा व्यक्ति या एक बुजुर्ग व्यक्ति हो सकता है।"
लेकिन ये AI मॉडल कुकी कटर (सांचों) की तरह व्यवहार करते हैं।
- निष्कर्ष: अधिकांश नौकरियों के लिए, AI लोगों का मिश्रण नहीं बनाता। यह एक प्रमुख प्रकार को चुनता है और उसे 99% समय बाहर निकाल देता है।
- उपमा: कल्पना कीजिए कि एक बेकरी "इंजीनियर" कुकीज़ बनाती है। विभिन्न स्वादों के बजाय, बेकरी यह तय करती है कि हर एक इंजीनियर कुकी चॉकलेट ही होनी चाहिए। यदि आप 1,000 इंजीनियर कुकीज़ मांगते हैं, तो आपको 1,000 चॉकलेट वाली ही मिलती हैं। AI लिंग और जाति के साथ यही करता है। यह एक "जनसंख्या" बनना बंद कर देता है और एक "रूढ़िवादिता" (stereotype) बन जाता है।
2. "रूढ़िवादिता को बढ़ाना" (The Funhouse Mirror)
AI केवल वास्तविकता की नकल नहीं करता; यह अक्सर इसे बढ़ा-चढ़ाकर पेश करता है, जैसे कि एक 'फनहाउस मिरर' (विकृत दर्पण) चीजों को खींचकर बड़ा कर देता है।
- निष्कर्ष: यदि वास्तविक जीवन में कोई काम पहले से ही ज्यादातर पुरुषों द्वारा किया जाता है (जैसे कि ट्रक ड्राइवर), तो AI इसे और भी अधिक पुरुष प्रधान दिखाता है। यदि कोई काम ज्यादातर महिलाओं का है (जैसे कि प्रीस्कूल टीचर), तो AI इसे लगभग पूरी तरह से महिलाओं का काम बना देता है।
- परिणाम: "मध्य मार्ग" गायब हो जाता है। AI एक ऐसी दुनिया बनाता है जहाँ नौकरियाँ अत्यधिक विभाजित हैं, जिससे लोगों के लिए उन भूमिकाओं में खुद को देखना कठिन हो जाता है जो उस "सांचे" में फिट नहीं बैठतीं।
3. "अदृश्य लोग" और "अति-प्रतिनिधित्व"
शोधकर्ताओं ने पाया कि AI ने नस्ल (race) को संभालने के तरीके में कुछ बहुत ही विशिष्ट और अजीब पैटर्न बनाए:
- ब्लैक वर्कर्स का "गायब होना": कई नौकरियों में, AI ने ब्लैक वर्कर्स को लगभग पूरी तरह से मिटा दिया। यदि आपने "लाइब्रेरियन" या "बायोलॉजिस्ट" के बारे में पूछा, तो AI ने शायद ही कभी किसी अश्वेत व्यक्ति की कल्पना की, भले ही वास्तविक जीवन में वे उन नौकरियों में मौजूद हैं। यह ऐसा है जैसे AI ने तय कर लिया कि वे लोग उन कमरों में अस्तित्व में ही नहीं हैं।
- "हिस्पैनिक हाउसकीपर" का रूपक: AI हाउसकीपर्स को हिस्पैनिक बनाने के प्रति जुनूनी था। वास्तविक जीवन में, हाउसकीपर्स विविध होते हैं। AI की दुनिया में, वे लगभग 100% हिस्पैनिक थे। इसने एक वास्तविक रुझान को लिया और उसे एक अतिरंजित चित्रण (caricature) में बदल दिया।
- "एशियन प्रोफेशनल" का बढ़ता प्रभाव: इसके विपरीत, AI ने वैज्ञानिकों, लाइब्रेरियन और डॉक्टरों जैसे उच्च-स्तर के पदों पर एशियाई चेहरों को रखने के लिए बहुत उत्साह दिखाया, जिससे वे वास्तविक कार्यबल की तुलना में अक्सर अधिक दिखाई देने लगे।
4. "सार्वभौमिक पूर्वाग्रह" (यह केवल एक खराब सेब नहीं है)
आप सोच सकते हैं, "हो सकता है कि अमेरिकी AI (GPT-4) पक्षपाती हो, लेकिन चीनी AI (DeepSeek) या फ्रांसीसी AI (Mistral) अलग होगा।"
- चौंकाने वाली बात: नहीं। अलग-अलग देशों और कंपनियों के चारों मॉडलों ने वही गलतियाँ कीं।
- उपमा: यह वैसा ही है जैसे कि आप चार अलग-अलग देशों के चार अलग-अलग शेफ से एक "क्लासिक बर्गर" बनाने के लिए कहें, और वे सभी गलती से बर्गर के बजाय आइसक्रीम पर अचार रख दें। यह सुझाव देता है कि समस्या केवल एक शेफ की खराब रेसिपी नहीं है; बल्कि यह है कि उन सभी ने एक ही पुस्तकालय (इंटरनेट) से सीखा है जिसमें ये रूढ़ियाँ पहले से मौजूद हैं।
5. "वेतन संबंधी त्रुटि" (The Salary Glitch)
AI ने वेतन का अनुमान लगाने की भी कोशिश की।
- निष्कर्ष: AI जानता था कि CEO सफाई कर्मचारियों से अधिक कमाते हैं। लेकिन जब पुरुष बनाम महिला की बात आई, तो AI ने वास्तविक दुनिया के वेतन अंतर (pay gap) को लगभग पूरी तरह से अनदेखा कर दिया। इसने एक ही काम में पुरुषों और महिलाओं को बिल्कुल समान वेतन दिया।
- मोड़: हालांकि यह सुनने में "निष्पक्ष" लगता है, शोधकर्ता तर्क देते हैं कि यह वास्तव में एक समस्या है। वास्तविक दुनिया में मौजूद एक बहुत ही वास्तविक और अन्यायपूर्ण समस्या को छिपाकर, AI इस अंतर को मिटा देता है।
यह क्यों मायने रखता है?
इन AI व्यक्तित्वों को डिजिटल रोल मॉडल के रूप में देखें।
- यदि एक छोटी लड़की AI से पूछती है, "एक सॉफ्टवेयर इंजीनियर कैसा दिखता है?" और AI उसे 99% बार एक श्वेत पुरुष दिखाता है, तो वह अवचेतन रूप से सोच सकती है, "यह काम मेरे लिए नहीं है।"
- यदि एक छोटा अश्वेत लड़का पूछता है, "एक लाइब्रेरियन कैसा दिखता है?" और AI उसे एक श्वेत महिला दिखाता है, तो वह अदृश्य महसूस कर सकता है।
मुख्य बात (The Bottom Line):
ये AI उपकरण वर्तमान में आलसी और पक्षपाती फोटोग्राफर की तरह काम कर रहे हैं। कार्यबल की एक विस्तृत, विविध फोटो लेने के बजाय, वे एक संकीर्ण, विकृत सेल्फी ले रहे हैं जो पुरानी रूढ़ियों को पुख्ता करती है। शोध पत्र का तर्क है कि हमें "कैमरा सेटिंग्स" को ठीक करने की आवश्यकता है ताकि जब AI लोग उत्पन्न करे, तो वह वास्तविक दुनिया की जटिल और विविध वास्तविकता को दर्शाए, न कि उसका एक सरल कार्टून संस्करण।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।