Occupational Prompting Reveals Cultural Bias in Large Language Models
यह शोध पत्र यह प्रदर्शित करता है कि ओपन-वेट लार्ज लैंग्वेज मॉडल्स को राष्ट्रीय पहचानों के बजाय व्यावसायिक पहचानों के साथ प्रॉम्प्ट करने से एक व्यापक रूप से पश्चिमी-झुकाव वाले सांस्कृतिक स्थान के भीतर संरचित सांस्कृतिक पूर्वाग्रह और विशिष्ट मूल्य झुकाव प्रकट होते हैं, जो यह संकेत देता है कि पेशेवर भूमिकाएं एआई प्रतिक्रियाओं में गैर-तटस्थ मूल्य पैटर्न को प्रेरित करती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक विशाल, अदृश्य मानचित्र है जो दुनिया भर की विभिन्न संस्कृतियों के जीवन के प्रति दृष्टिकोण को दर्शाता है। इस मानचित्र पर, एक तरफ "उत्तरजीविता और परंपरा" (सुरक्षा, नियम और परिवार पर ध्यान केंद्रित करना) है, तो दूसरी तरफ "आत्म-अभिव्यक्ति और स्वतंत्रता" (रचनात्मकता, व्यक्तिगत पसंद और नए विचारों पर ध्यान केंद्रित करना) है। इसे इंगलहार्ट-वेज़ल सांस्कृतिक स्थान (Inglehart–Welzel cultural space) कहा जाता है।
लंबे समय से, शोधकर्ता यह जानते हैं कि जब वे एक लार्ज लैंग्वेज मॉडल (LLM)—एक सुपर-स्मार्ट एआई चैटबॉट—से सामान्य प्रश्न पूछते हैं, तो वह इस मानचित्र के "पश्चिमी" हिस्से के बीच में खड़ा होने की प्रवृत्ति रखता है। यह थोड़ा उस व्यक्ति की तरह व्यवहार करता है जो किसी समृद्ध, शिक्षित, पश्चिमी देश से आता है, भले ही आपने उसे ऐसा होने के लिए न कहा हो।
बड़ा प्रयोग: एआई को एक वर्दी पहनाना
इस नए अध्ययन में, शोधकर्ताओं ने एक सरल लेकिन चतुर प्रश्न पूछा: क्या होता है यदि हम एआई को केवल "एक व्यक्ति" बनने के लिए नहीं कहते, बल्कि उसे एक विशिष्ट नौकरी का रूप लेने के लिए कहते हैं?
इसे "वेश बदलना" (dress-up) के खेल की तरह समझें। केवल यह कहने के बजाय कि "आप एक इंसान हैं," शोधकर्ताओं ने कहा, "आप एक लेखाकार (accountant) हैं," या "आप एक नर्स हैं," या "आप एक शिक्षक हैं।" इसके बाद उन्होंने इन "नौकरी की पोशाक पहने हुए" एआई से खुशी, धर्म, विश्वास और अधिकार (वही प्रश्न जिनका उपयोग वास्तविक दुनिया के सर्वेक्षणों में किया जाता है) के बारे में प्रश्नों की एक श्रृंखला पूछी।
परिणाम: मानचित्र नहीं बदलता, लेकिन एआई इधर-उधर घूमता है
यहाँ उन्हें क्या मिला, जिसे सरल उपमाओं का उपयोग करके समझाया गया है:
- "पश्चिमी" चुंबक: भले ही एआई को नर्स, इंजीनियर या शिक्षक बनने के लिए कहा गया था, वह सांस्कृतिक मानचित्र के "पश्चिमी" पड़ोस को कभी नहीं छोड़ पाया। यह अचानक दुनिया के किसी पूरी तरह से अलग हिस्से (जैसे मध्य पूर्व या पूर्वी एशिया) के व्यक्ति जैसा नहीं बना। एआई का "होम बेस" अभी भी बहुत पश्चिमी है।
- "जॉब यूनिफॉर्म" प्रभाव: हालांकि, विशिष्ट नौकरी ने एआई को उसी पश्चिमी पड़ोस के भीतर इधर-उधर घुमाया।
- "नियमों का पालन करने वाले": जब एआई को लेखाकार (accountant), ऑडिटर या साइबर सुरक्षा विशेषज्ञ के रूप में तैयार किया गया, तो वह मानचित्र के "उत्तरजीविता और परंपरा" वाले पक्ष की ओर थोड़ा झुक गया। यह अधिक गंभीर, जोखिम और सुरक्षा पर केंद्रित लगा। यह एक लेखाकार द्वारा एक सख्त सूट पहनने और पहले सुरक्षा के बारे में सोचने जैसा था।
- "सपनों के सौदागर": जब एआई को शिक्षक, कलाकार, परामर्शदाता (counselor) या लाइब्रेरियन के रूप में तैयार किया गया, तो यह "आत्म-अभिव्यक्ति" की ओर झुक गया। यह रचनात्मकता, व्यक्तिगत विकास और स्वतंत्रता पर अधिक केंद्रित लगा। यह एक कलाकार द्वारा एक रंगीन स्कार्फ पहनने और नए विचारों के बारे में सोचने जैसा था।
- "रक्षक": पुलिस अधिकारी, न्यायाधीश और सैन्य कर्मियों जैसी नौकरियों ने एआई को केंद्र की ओर, सख्त व्यवस्था और सार्वजनिक सुरक्षा से जुड़े क्षेत्रों के करीब धकेल दिया।
"पोशाक" तटस्थ नहीं है
सबसे महत्वपूर्ण बात यह है: एआई नौकरी के शीर्षक को एक तटस्थ लेबल (जैसे केवल एक नाम का टैग) के रूप में नहीं लेता है। इसके बजाय, नौकरी का शीर्षक एक स्क्रिप्ट की तरह काम करता है। जब आप एआई से कहते हैं "आप एक इंजीनियर हैं," तो यह केवल अपना नाम नहीं बदलता; यह अपने व्यक्तित्व और अपने मूल्यों को भी बदल देता है ताकि वह उस इंजीनियर के अनुरूप हो सके जैसा कि वह सोचता है।
"मॉडल" का अंतर
शोधकर्ताओं ने पांच अलग-अलग एआई मॉडल का परीक्षण किया। उन्होंने पाया कि जबकि वे सभी पश्चिमी पड़ोस में ही रहे, वे वहां तक पहुँचने के लिए अलग-अलग रास्तों पर चले।
- एक मॉडल शायद सोचेगा कि एक "पुलिस अधिकारी" एक "न्यायाधीश" जैसा लगता है।
- दूसरा मॉडल शायद सोचेगा कि एक "पुलिस अधिकारी" एक "निर्माण श्रमिक" जैसा दिखता है।
- वे सभी सामान्य भाव (vibe) पर सहमत थे, लेकिन वे वहां तक पहुँचने के लिए अलग-अलग "जॉब कॉस्ट्यूम्स" का उपयोग करते थे।
इसका क्या अर्थ है (और क्या नहीं)
यह अध्ययन दिखाता है कि यदि आप निर्णय लेने या रिपोर्ट लिखने में एआई का उपयोग करते हैं, तो आप उसे जो "भूमिका" देते हैं (उदाहरण के लिए, "एक वित्तीय सलाहकार के रूप में कार्य करें"), वह सूक्ष्म रूप से उन मूल्यों और प्राथमिकताओं को बदल देगी जिन्हें वह व्यक्त करता है। यह एआई को पूरी तरह से अलग संस्कृति जैसा नहीं बनाएगा, लेकिन यह इसे "सुरक्षा और नियमों" या "रचनात्मकता और स्वतंत्रता" की ओर झुका देगा, जो उस नौकरी पर निर्भर करता है जो आप उसे सौंपते हैं।
महत्वपूर्ण नोट: शोधकर्ता सावधानीपूर्वक कहते हैं कि इसका मतलब यह नहीं है कि वास्तविक जीवन के लेखाकार या नर्स वास्तव में इन विशिष्ट मूल्यों को रखते हैं। इसका मतलब केवल यह है कि एआई ने इन नौकरियों को सोचने के इन विशिष्ट पैटर्न के साथ जोड़ना सीख लिया है। इसके अलावा, अध्ययन में उपयोग की गई नौकरियों की सूची एक अन्य एआई की मदद से बनाई गई थी, इसलिए यह अनुसंधान के लिए एक उपकरण है, दुनिया के हर काम का सटीक विवरण नहीं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।