Personality Shapes Gender Bias in Persona-Conditioned LLM Narratives Across English and Hindi: An Empirical Investigation
यह अध्ययन इस बात की जांच करता है कि कैसे व्यक्तित्व अनुकूलन (persona conditioning) अंग्रेजी और हिंदी में एलएलएम-जनित (LLM-generated) आख्यानों में लैंगिक पूर्वाग्रह को प्रभावित करता है, जिसमें यह पाया गया कि व्यक्तित्व के गुण—विशेष रूप से डार्क ट्रायड (Dark Triad) से संबंधित—पेशेवर संदर्भों में लैंगिक रूढ़ियों के परिमाण और दिशा को महत्वपूर्ण रूप से प्रभावित करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
"मास्क" की समस्या: क्यों AI व्यक्तित्व अनजाने में रूढ़ियों (Stereotypes) में बदल सकते हैं
कल्पना कीजिए कि आप एक फिल्म के लिए एक अभिनेता को काम पर रख रहे हैं। आप उनसे कहते हैं, "आप एक पेशेवर डॉक्टर की भूमिका निभा रहे हैं।" अधिकांश अभिनेता पेशेवर दिखते हुए ही आएंगे। लेकिन फिर, आप एक मोड़ देते हैं: "आप एक डॉक्टर हैं, लेकिन आपका व्यक्तित्व बहुत गहरा और जोड़-तोड़ करने वाला (manipulative) है।"
अचानक, अभिनेता केवल अपना लहजा ही नहीं बदलता; वह पुराने, अनुचित रूढ़िवादी ढर्रों (clichés) की ओर झुकने वाले व्यवहार करने लग सकता है—शायद एक "पागल वैज्ञानिक" या "क्रूर खलनायक" की तरह व्यवहार करना।
यह शोध पत्र ठीक इसी घटना की खोज करता है, लेकिन आर्टिफिशियल इंटेलिजेंस (AI) के संदर्भ में।
मूल विचार: "व्यक्तित्व फ़िल्टर" (The Personality Filter)
जब हम AI (जैसे ChatGPT) का उपयोग करते हैं, तो हम अक्सर इसे एक "पर्सोना" (Persona) अपनाने के लिए कहते हैं। हम कह सकते हैं, "एक मददगार शिक्षक की तरह व्यवहार करें" या "एक सख्त निर्माण श्रमिक (construction worker) की तरह व्यवहार करें।" यह AI को अधिक आकर्षक और वास्तविक बनाता है।
हालाँकि, शोधकर्ताओं ने पाया कि जब आप AI को एक विशिष्ट व्यक्तित्व (जैसे कि बहुत मिलनसार होना या इसके विपरीत, थोड़ा "बदतमीज़" होना) देते हैं, तो AI केवल अपना मूड ही नहीं बदलता—वह अनजाने में लैंगिक रूढ़ियों (gender stereotypes) की आवाज़ को तेज़ कर देता है।
प्रयोग: एक बहुभाषी स्ट्रेस टेस्ट
शोधकर्ताओं ने एक विशाल प्रयोग किया। उन्होंने केवल एक प्रश्न नहीं पूछा; उन्होंने अंग्रेजी और हिंदी दोनों में 23,400 अलग-अलग कहानियाँ तैयार कीं।
उन्होंने तीन सामग्रियों का उपयोग करके "मिक्स एंड मैच" का खेल खेला:
- व्यवसाय (Job): (जैसे, नर्स, इंजीनियर, ड्राइवर, शिक्षक)।
- लिंग (Gender): (पुरुष, महिला, या तटस्थ/Neutral)।
- व्यक्तित्व (Personality): उन्होंने दो वैज्ञानिक ढाँचों का उपयोग किया:
- "अच्छे" गुण (HEXACO): ईमानदार, दयालु या मेहनती होना।
- "अंधेरे" गुण (Dark Triad): जोड़-तोड़ करने वाला (manipulative), आत्ममुग्ध (narcissistic), या आवेगपूर्ण (impulsive) होना।
"अहा!" क्षण (उन्होंने क्या पाया)
1. "डार्क" व्यक्तित्व का प्रवर्धक (Amplifier)
व्यक्तित्व के गुणों को रेडियो के वॉल्यूम नॉब (volume knobs) की तरह समझें। शोधकर्ताओं ने पाया कि "डार्क ट्रायड" गुण (जैसे जोड़-तोड़ करना) एक वॉल्यूम नॉब की तरह काम करते हैं जो लैंगिक पूर्वाग्रह (gender bias) को बढ़ा देते हैं।
- यदि आप AI को एक "डार्क" व्यक्तित्व वाले पुरुष पेशेवर के रूप में लिखने के लिए कहते हैं, तो यह पुरुषों के आक्रामक, प्रभुत्व जमाने वाले या नियम तोड़ने वाले होने के बारे में कहानियाँ लिखने लगता है।
- यदि आप इसे एक महिला पेशेवर के रूप में लिखने के लिए कहते हैं, तो यह उसे उसी तरह "आक्रामक" नहीं बनाता; इसके बजाय, यह उसे "गुप्त रूप से चालाक" बना देता है—जैसे कि सोप ओपेरा का कोई पात्र जो लोगों के पीछे से हेरफेर करता है।
2. "अच्छे" व्यक्तित्व का म्यूट बटन (Mute Button)
दूसरी ओर, "प्रोसोलियल" (prosocial) गुण (जैसे दयालु या खुले विचारों वाला होना) एक म्यूट बटन की तरह कार्य करते हैं। वे वास्तव में पूर्वाग्रहों को शांत करने में मदद करते हैं, जिससे कहानियाँ अधिक संतुलित महसूस होती हैं और रूढ़ियों का संग्रह कम लगती हैं।
3. भाषाई मोड़ (अंग्रेजी बनाम हिंदी)
शोधकर्ताओं ने पाया कि पूर्वाग्रह हर भाषा में एक जैसा नहीं होता है।
- हिंदी में, AI का "डिफ़ॉल्ट" सेटिंग पुरुष रूढ़ियों की ओर बहुत अधिक था। ऐसा आंशिक रूप से इसलिए है क्योंकि हिंदी भाषा में अंतर्निहित व्याकरण है जो लिंग को चिह्नित करता है (क्रिया और विशेषण इस आधार पर बदलते हैं कि आप पुरुष के बारे में बात कर रहे हैं या महिला के बारे में), जो कुछ निश्चित रूढ़ियों को अधिक आसानी से "लॉक इन" कर सकता है।
- अंग्रेजी में, व्यक्तित्व के गुणों का पूर्वाग्रह को वापस और आगे बढ़ाने पर बहुत अधिक नाटकीय प्रभाव पड़ता है।
यह आपके लिए क्यों मायने रखता है?
हम तेजी से शिक्षा, ग्राहक सेवा और सामाजिक ऐप्स के लिए AI का उपयोग कर रहे हैं। यदि किसी AI को छात्रों की मदद करने के लिए एक "मैत्रीपूर्ण व्यक्तित्व" के साथ प्रोग्राम किया गया है, लेकिन वह व्यक्तित्व अनजाने में उसकी व्याख्याओं में लैंगिक रूढ़ियों को सक्रिय कर देता है, तो यह अगली पीढ़ी को सूक्ष्म रूप से पक्षपाती विचार सिखा सकता है।
निष्कर्ष: AI का "व्यक्तित्व" केवल एक रंग की परत नहीं है; यह एक लेंस है। और जो लेंस आप AI को देते हैं, उसके आधार पर, वह दुनिया को एक बहुत ही विकृत, रूढ़िवादी दृष्टिकोण से देख सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।