Analysing Differences in Persuasive Language in LLM-Generated Text: Uncovering Stereotypical Gender Patterns
यह अध्ययन 16 भाषाओं में 13 लार्ज लैंग्वेज मॉडल्स का मूल्यांकन करता है और पाता है कि वे लगातार प्रभावशाली भाषा उत्पन्न करते हैं जिसमें प्राप्तकर्ता के लिंग के आधार पर महत्वपूर्ण, लैंगिक-रूढ़िवादी अंतर होते हैं, जो सामाजिक मनोविज्ञान और समाजभाषाविज्ञान में प्रलेखित पूर्वाग्रहों को दर्शाते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास 13 अलग-अलग सुपर-स्मार्ट रोबोट्स (लार्ज लैंग्वेज मॉडल्स, या LLMs) की एक टीम है। आप उनसे एक प्रेरक संदेश लिखने के लिए कहते हैं, जैसे कि अपने भाई या बहन को आपके साथ एक नई भाषा सीखने के लिए मनाने वाला एक ईमेल। आप हर रोबोट को बिल्कुल एक ही निर्देश देते हैं, लेकिन एक छोटा सा ट्विस्ट है: आधे रोबोट्स के लिए, आप उन्हें बताते हैं कि भाई एक पुरुष है, और बाकी आधे के लिए, आप उन्हें बताते हैं कि बहन एक महिला है।
यह शोध पत्र एक जासूसी कहानी की तरह है जहाँ शोधकर्ता "भाषा के जासूस" के रूप में कार्य करते हैं ताकि यह देख सकें कि क्या एक छोटे से शब्द के आधार पर रोबोट अपनी लिखने की शैली बदल देते हैं।
बड़ी खोज: रोबोट्स ने "जेंडर वाले चश्मे" पहन रखे हैं
शोधकर्ताओं ने पाया कि सभी 13 रोबोट्स ने अपनी लिखने की शैली बदल दी इस आधार पर कि वे पुरुष या महिला से बात कर रहे थे। उन्होंने केवल सर्वनाम (pronoun) नहीं बदला; उन्होंने संदेश के पूरे भाव (vibe) को ही फिर से लिख दिया।
इसे एक गिरगिट की तरह समझें जो न केवल पृष्ठभूमि से मेल खाने के लिए अपना रंग बदलता है, बल्कि उस रूढ़िवादिता (stereotype) से मेल खाने के लिए भी रंग बदलता है जो उसने इंसानों को देखते हुए सीखी है।
"पुरुष" से बात करते समय: रोबोट एक कठोर कोच या बिजनेस स्ट्रैटेजिस्ट की तरह व्यवहार करते थे। उन्होंने "चुनौतियों", "कौशल", "करियर" और "जीतने" जैसे शब्दों का उपयोग किया। लहजा सीधा, तथ्यात्मक और काम पूरा करने पर केंद्रित था।
- उपमा: यह ऐसा है जैसे रोबोट ने सूट-टाई पहनी हो और "गेम प्लान" और "मेट्रिक्स" के बारे में बात करने लगा हो।
"महिला" से बात करते समय: रोबोट एक गर्मजोशी भरे, भावनात्मक सबसे अच्छे दोस्त की तरह व्यवहार करते थे। उन्होंने "प्यार", "क्वालिटी टाइम", "मज़ा" और "साथ होने" के बारे में शब्दों का उपयोग किया। लहजा कोमल, अधिक देखभाल करने वाला और भावनाओं पर केंद्रित था।
- उपमा: यह ऐसा है जैसे रोबोट ने एक आरामदायक स्वेटर पहना हो और "हृदयस्पर्शी संबंधों" और "साझा यात्राओं" के बारे में बात करने लगा हो।
"जज" रोबोट
शोधकर्ताओं को यह कैसे पता चला? उन्होंने केवल ईमेल नहीं पढ़े; उन्होंने एक विशेष "जज रोबोट" (एक अन्य AI) का उपयोग करके उन्हें ग्रेड दिया।
एक टैलेंट शो के जजों के पैनल की कल्पना करें। स्कोर 10 में से देने के बजाय, उन्होंने 19 अलग-अलग "स्वादों" (flavors) की परख की, जैसे कि:
- तर्क बनाम भावना: क्या रोबोट ने तथ्यों (तर्क) का उपयोग किया या भावनाओं (भावना) का?
- सीधा बनाम विनम्र: क्या उसने कहा "यह करो" या "क्या आप बुरा मानेंगे?"
- स्वतंत्र बनाम सामुदायिक: क्या इसने "मैं और मेरे लक्ष्य" पर ध्यान केंद्रित किया या "हम और हमारा रिश्ता" पर?
जज रोबोट ने पुष्टि की कि "पुरुष" वाले संदेश लगातार अधिक तार्किक और सीधे थे, जबकि "महिला" वाले संदेश लगातार अधिक भावनात्मक और संबंधपरक थे।
क्या यह हर जगह हुआ?
शोधकर्ताओं ने इसे 16 अलग-अलग भाषाओं (जैसे अंग्रेजी, चीनी, जर्मन और जापानी) में परखा। भले ही रोबोट अलग-अलग भाषाएं बोल रहे थे, पैटर्न कायम रहा। चाहे रोबोट डेनिश बोल रहा हो या वियतनामी, वह पुरुषों के लिए "टफ गाय" संदेश और महिलाओं के लिए "सॉफ्ट गर्ल" संदेश ही लिखता रहा।
उन्होंने यह भी जांचा कि क्या रोबोट केवल आलसी हो रहे थे या क्या टेक्स्ट की लंबाई मायने रखती थी। उन्होंने पाया कि यह अंतर इसलिए नहीं था क्योंकि एक संदेश दूसरे से लंबा था; बल्कि शैली ही मौलिक रूप से भिन्न थी।
यह क्यों मायने रखता है?
शोध पत्र बताता है कि ये रोबोट ये शैलियाँ हवा में पैदा नहीं कर रहे हैं। वे उन मानवीय रूढ़ियों (stereotypes) को प्रतिबिंबित कर रहे हैं जो हमारे समाज में मौजूद हैं।
- दर्पण प्रभाव (The Mirror Effect): ठीक वैसे ही जैसे एक दर्पण सामने रखी चीज़ को दर्शाता है, ये AI मॉडल उन पूर्वाग्रहों को दर्शाते हैं जो उन्होंने उस विशाल मात्रा में मानव टेक्स्ट से सीखे हैं जिस पर उन्हें प्रशिक्षित किया गया है। यदि इंसान अक्सर पुरुषों के बारे में "उपलब्धि" और महिलाओं के बारे में "संबंधों" के संदर्भ में लिखते हैं, तो AI सीख जाता है कि लिखने का "सही" तरीका यही है।
- खतरा: शोध पत्र चेतावनी देता है कि यदि हम इन रोबोट्स का उपयोग वास्तविक दुनिया के संदेशों (जैसे नौकरी के आवेदन, राजनीतिक विज्ञापन, या सेल्स पिच) को लिखने के लिए करते हैं, तो वे अनजाने में पुराने ढर्रे की रूढ़ियों को मजबूत कर सकते हैं। उदाहरण के लिए, एक रोबोट किसी महिला के लिए वेतन वार्ता (salary negotiation) का ईमेल बहुत अधिक "कोमल" लिख सकता है जो प्रभावी न हो, या किसी पुरुष के लिए बहुत "आक्रामक" लिख सकता है, सिर्फ इसलिए क्योंकि प्रॉम्प्ट में जेंडर लेबल दिया गया था।
यह पेपर क्या नहीं कहता
स्पष्ट करने के लिए, यह शोध पत्र एक नैदानिक रिपोर्ट (diagnostic report) है, समाधान पुस्तिका नहीं।
- यह हमें यह नहीं बताता कि रोबोट को कैसे ठीक किया जाए।
- यह यह नहीं कहता कि क्या ये संदेश वास्तव में असली लोगों पर बेहतर या बदतर काम करते हैं (इसने केवल शैली को मापा, सफलता को नहीं)।
- यह यह भी नहीं समझाता कि ये पूर्वाग्रह गहराई में उनके कोड में क्यों हैं, केवल यह बताता है कि वे मौजूद हैं।
निष्कर्ष
यह पेपर साबित करता है कि हमारे सबसे उन्नत AI उपकरण भी अभी भी "जेंडर वाले चश्मे" पहने हुए हैं। यदि आप उन्हें किसी पुरुष के लिए संदेश लिखने के लिए कहते हैं, तो वे "बिजनेस" लेंस पहन लेते हैं। यदि आप महिला के लिए पूछते हैं, तो वे "इमोशनल" लेंस पहन लेते हैं। शोधकर्ताओं ने इसे मापने के लिए एक ढांचा तैयार किया, और उन्होंने पाया कि यह पूर्वाग्रह लगभग हर प्रमुख AI मॉडल और भाषा में मौजूद है जिसका उन्होंने परीक्षण किया। यह एक याद दिलाता है कि हालांकि AI स्मार्ट है, लेकिन इसने उन मनुष्यों की रूढ़ियों से खुद को बाहर नहीं निकाला है जिन्होंने इसे सिखाया है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।