Harsher on Male? Evaluating LLMs on Gender-Asymmetric Moral Framing Across Diverse Conflict Scenarios
यह शोधपत्र GAMA-Bench प्रस्तुत करता है, जो 1,298 संघर्ष परिदृश्यों का एक लिंग-प्रतिबिंबित (gender-mirrored) बेंचमार्क है, यह प्रकट करने के लिए कि बड़े भाषा मॉडल समान दुराचार के लिए पुरुष पात्रों के प्रति लगातार अधिक कठोर, दंडात्मक और दोष-केंद्रित फ्रेमिंग लागू करते हैं, जबकि महिला पात्रों के प्रति अधिक सहानुभूतिपूर्ण और उपचारात्मक प्रतिक्रियाएं प्रदान करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपका एक बहुत ही बुद्धिमान, नेक दिल रोबोट दोस्त है जो जीवन की समस्याओं पर सलाह देता है। आप उससे एक ही कहानी दो बार पूछते हैं: एक बार जहाँ परेशानी पैदा करने वाला व्यक्ति एक पुरुष है, और दूसरी बार जहाँ वह एक महिला है। कहानी, बुरा व्यवहार और परिणाम बिल्कुल समान हैं।
आप उम्मीद कर सकते हैं कि रोबोट दोनों बार एक जैसी ही सलाह देगा। लेकिन इस शोध पत्र के अनुसार, ऐसा नहीं होता है।
यहाँ शोधकर्ताओं ने जो पाया है, उसका कुछ रोजमर्रा के उपमाओं (analogies) का उपयोग करते हुए एक सरल विवरण दिया गया है।
"दर्पण" प्रयोग (The "Mirror" Experiment)
शोधकर्ताओं ने एक विशेष परीक्षण क्षेत्र बनाया जिसे GAMA-Bench कहा गया। इसे दर्पणों वाले एक विशाल हॉल की तरह समझें।
- सेटअप: उन्होंने संघर्षों से जुड़े 1,298 अलग-अलग परिदृश्य बनाए—जैसे कि पैसे को लेकर जोड़े का झगड़ा, किसी सहकर्मी द्वारा क्रेडिट चुराना, या किसी की निजता में दखल देना।
- चाल: हर एक परिदृश्य के लिए, उन्होंने दो संस्करण बनाए। एक में, बुरा काम करने वाला व्यक्ति एक पुरुष है ("मैं एक पुरुष हूँ...")। दूसरे में, वह एक महिला है ("मैं एक महिला हूँ...")। बाकी सब कुछ—शब्द, कार्य, गलती की गंभीरता—बिल्कुल एक जैसा रखा गया।
- परीक्षण: उन्होंने इन कहानियों पर सलाह देने के लिए 10 अलग-अलग शीर्ष स्तर के AI मॉडल्स से पूछा।
"दोहरा मानक" की खोज (The "Double Standard" Discovery)
परिणामों ने एक सुसंगत पैटर्न दिखाया, जैसे कि कोई छिपा हुआ नियम हो जिसका रोबोट बिना जाने पालन कर रहा था।
जब "बुरा आदमी" एक पुरुष था: AI एक सख्त, बिना किसी ढील वाले कोच की तरह व्यवहार करता था।
- इसने उसे डांटने के लिए कठोर शब्दों का उपयोग किया।
- इसने उसे गड़बड़ी के लिए पूरी तरह से जिम्मेदार ठहराया।
- इसने उसे "मर्दानगी दिखाने" और अपने व्यवहार को तुरंत सुधारने के लिए कहा।
- इसने स्थिति को एक गंभीर संकट के रूप में देखा जिसे तत्काल दंड की आवश्यकता थी।
जब "बुरी औरत" एक महिला थी: AI एक कोमल, चिकित्सीय परामर्शदाता (therapeutic counselor) की तरह व्यवहार करता था।
- इसने अधिक नरम, समझदारी भरे शब्दों का उपयोग किया।
- इसने समझाने की कोशिश की कि उसने ऐसा क्यों किया होगा (शायद वह असुरक्षित या तनाव में थी)।
- इसने सहानुभूति व्यक्त की और केवल दंड देने के बजाय रिश्ते को सुधारने के तरीके सुझाए।
- इसने स्थिति को एक गलतफहमी के रूप में देखा जिसे गले मिलने और बातचीत से ठीक किया जा सकता है।
उपमा: कल्पना कीजिए कि एक शिक्षक दो छात्रों को परीक्षा में नकल करते हुए पकड़ता है।
- यदि छात्र एक लड़का है, तो शिक्षक कहता है, "तुम एक नकलची हो। तुम्हें निलंबित कर दिया जाएगा। यह एक चरित्र दोष है।"
- यदि छात्र एक लड़की है, तो शिक्षक कहता, "ओह नहीं, तुम पर बहुत दबाव रहा होगा। चलो इस बारें में बात करते हैं कि तुम्हें ऐसा करने की आवश्यकता क्यों महसूस हुई, और हम तुम्हारी कैसे मदद कर सकते हैं ताकि तुम्हें भविष्य में ऐसा महसूस न हो।"
- शोध पत्र ने पाया कि AI मॉडल बिल्कुल यही बिजली की गति से बदलने वाला स्विच कर रहे हैं।
क्या बड़ा या स्मार्ट AI इसे ठीक कर देता है?
आप सोच सकते हैं, "शायद नए, बड़े या स्मार्ट रोबोट इसे सही कर देंगे।" शोधकर्ताओं ने इसे देखने के लिए परीक्षण किया कि:
- आकार: छोटे मॉडल्स बनाम विशाल मॉडल्स।
- प्रशिक्षण: बुनियादी मॉडल्स बनाम सहायक के रूप में प्रशिक्षित मॉडल्स।
- सोच: वे मॉडल्स जो जवाब देने से पहले चरण-दर-चरण "सोचते" हैं।
परिणाम: नहीं। पूर्वाग्रह (bias) या तो बदतर हो गया या वैसा ही रहा। वास्तव में, मॉडल जितना बड़ा और अधिक "उन्नत" था, दोहरा मानक उतना ही मजबूत होता गया। "सख्त कोच" बनाम "कोमल परामर्शदाता" का यह अंतर गायब नहीं हुआ; यह बस और अधिक मुखर हो गया।
यह क्यों महत्वपूर्ण है
शोध पत्र तर्क देता है कि हम आमतौर पर AI की जांच सरल प्रश्नों से करते हैं जैसे, "नर्स कौन है? एक पुरुष या एक महिला?" (जवाब आमतौर पर "दोनों" होता है, लेकिन AI अक्सर "महिला" कहता है)।
लेकिन यह शोध पत्र दिखाता है कि पूर्वाग्रह अधिक चालाक है। यह केवल इस बारे में नहीं है कि AI क्या कहता है, बल्कि यह भी है कि वह इसे कैसे कहता है। भले ही AI इस बात से सहमत हो कि व्यवहार गलत था, फिर भी वह लिंग के आधार पर परिणामों को अलग तरह से पेश करता है।
- पुरुषों के लिए: फ्रेम अनुशासन (Discipline) का है।
- महिलाओं के लिए: फ्रेम उपचार/सुधार (Healing) का है।
निचोड़ (The Bottom Line)
शोध पत्र निष्कर्ष निकालता है कि वर्तमान AI मॉडल्स में एक अंतर्निहित "जेंडर लेंस" (gender lens) है जो ठीक एक ही बुरे व्यवहार को आंकने के तरीके को बदल देता है। वे पुरुषों के प्रति लगातार कठोर और महिलाओं के प्रति अधिक क्षमाशील (या उपचारात्मक) होते हैं, भले ही कहानी के तथ्य बिल्कुल समान हों। यह किसी एक विशिष्ट रोबोट की खराबी नहीं है; यह आज के लगभग सभी प्रमुख AI मॉडल्स में पाया जाने वाला एक पैटर्न है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।