Whose Norms? Disentangling Cultural and Personal Alignment in Large Language Models
यह शोध पत्र PACT फ्रेमवर्क प्रस्तुत करता है जो यह मूल्यांकन करता है कि बड़े भाषा मॉडल (large language models) सांस्कृतिक मानदंडों और व्यक्तिगत प्राथमिकताओं के बीच कैसे संतुलन बनाते हैं, जिससे यह पता चलता है कि मॉडल कठोर, संदर्भ-निर्भर सांस्कृतिक प्रवर्तन प्रदर्शित करते हैं और मानवीय सामाजिक निर्णयों में मौजूद सूक्ष्म बहुलवाद और अनिश्चितता को पकड़ने में विफल रहते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "Whose Norms?" शोध पत्र का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।
मुख्य विचार: "सामाजिक नृत्य" की दुविधा (The "Social Dance" Dilemma)
कल्पना कीजिए कि आप एक विदेशी देश में एक डिनर पार्टी में हैं। मेज़बान उम्मीद करता है कि हर कोई अपने दाहिने हाथ से खाना खाए (एक सांस्कृतिक मानदंड/Cultural Norm)। हालाँकि, आपका बायाँ हाथ वह है जिसके साथ आप सबसे अधिक सहज हैं, और आप वास्तव में उसी का उपयोग करना चाहते हैं (एक व्यक्तिगत पसंद/Personal Preference)।
आपको क्या करना चाहिए?
- नियमों का पालन करें: मेज़बान की संस्कृति का सम्मान करने और विनम्र होने के लिए दाहिने हाथ से खाएं।
- अपने मन की सुनें: अपने बाएं हाथ से खाएं क्योंकि यह आपके लिए अधिक स्वाभाविक महसूस होता है।
यह शोध पत्र पूछता है: जब लार्ज लैंग्वेज मॉडल्स (LLMs) इन पेचीदा स्थितियों में सलाहकार के रूप में कार्य करते हैं, तो क्या वे आपको नियमों का पालन करने के लिए कहते हैं, या वे आपको अपने मन की सुनने के लिए कहते हैं?
शोधकर्ता इसे PACT फ्रेमवर्क (Personal-Preference and Cultural-Norm Trade-off) कहते हैं। उन्होंने सैकड़ों परिदृश्यों (जैसे डिनर पार्टी वाला उदाहरण) के साथ एक विशाल "परीक्षण" बनाया ताकि यह देखा जा सके कि विभिन्न AI मॉडल इस खींचतान को कैसे संभालते हैं।
मुख्य निष्कर्ष (The "Plot Twists")
1. सभी AI एक जैसे नहीं हैं (The "Personality" Test)
जिस तरह लोगों के अलग-अलग व्यक्तित्व होते हैं, वैसे ही AI मॉडल्स के भी अलग-अलग "नैतिक दिशा-निर्देश" (Moral Compasses) होते हैं।
- "नियम मानने वाले" (The Rule Followers): कुछ मॉडल्स (जैसे Mistral और Qwen) सख्त शिक्षकों की तरह हैं। वे लगभग हमेशा कहते हैं, "सांस्कतिक मानदंड का पालन करें!" वे शायद ही कभी व्यक्तिगत पसंद को जीतने देते हैं।
- "स्वतंत्र आत्मा" (The Free Spirits): अन्य मॉडल्स (जैसे Llama और GPT) खुले विचारों वाले दोस्तों की तरह हैं। वे इस बात के लिए बहुत अधिक इच्छुक होते हैं कि, "यह ठीक है कि आप वही करें जो आपको सही लगता है," भले ही वह स्थानीय नियम तोड़ता हो।
- "मध्य मार्ग" (The Middle Ground): कुछ मॉडल्स स्थिति के आधार पर बिल्कुल बीच में रहते हैं।
उपमा (Analogy): कल्पना कीजिए कि यात्रियों का एक समूह है। एक यात्री (Mistral) हमेशा गाइडबुक का सख्ती से पालन करता है। दूसरा यात्री (Llama) कहता है, "चलो वही करते हैं जो मज़ेदार लगे।" शोध में पाया गया कि AI मॉडल्स बिल्कुल इन्हीं अलग-अलग प्रकार के यात्रियों की तरह व्यवहार करते हैं।
2. आप कहाँ हैं, यह इस बात से अधिक महत्वपूर्ण है कि आप कौन हैं
शोधकर्ताओं ने परीक्षण किया कि क्या AI शामिल लोगों की आयु या लिंग (जैसे, "क्या एक वृद्ध पुरुष को नियम का पालन करना चाहिए, लेकिन एक युवा महिला नियम तोड़ सकती है?") की परवाह करता है।
- परिणाम: AI ने आयु या लिंग की परवाह लगभग नहीं की।
- असली चालक (Driver): देश सबसे अधिक मायने रखता था।
- यदि परिदृश्य अमेरिका या यूके में सेट था, तो AI के "जो चाहो वो करो" कहने की संभावना अधिक थी।
- यदि परिदृश्य एशिया, मध्य पूर्व या अफ्रीका के कुछ हिस्सों में सेट था, तो AI बहुत सख्त था और कहता था, "स्थानीय नियमों का पालन करें।"
उपमा: AI को एक मौसम पूर्वानुमानकर्ता (Weather Forecaster) के रूप में सोचें। उसे इस बात से फर्क नहीं पड़ता कि आपने लाल शर्ट पहनी है या नीली (जनसांख्यिकी); उसे केवल इस बात से फर्क पड़ता है कि आप रेगिस्तान में खड़े हैं या वर्षावन में (देश)। स्थान ही "मौसम" तय करता है।
3. "ट्रेनिंग" व्यक्तित्व को बदल देती है
शोध पत्र ने "बेस" मॉडल्स (कच्चा AI) बनाम "इंस्ट्रक्ट" मॉडल्स (वह AI जिसे मनुष्यों के साथ चैट करने के लिए प्रशिक्षित किया गया है) को देखा।
- आश्चर्य: ट्रेनिंग ने सभी AI को एक ही तरह से अधिक "मानवीय" नहीं बनाया।
- कुछ मॉडल्स के लिए, ट्रेनिंग ने उन्हें नियम तोड़ने के लिए अधिक तैयार किया।
- अन्य मॉडल्स के लिए, ट्रेनिंग ने उन्हें नियमों के पालन के प्रति अधिक सख्त बना दिया।
- क्यों? यह इस पर निर्भर करता है कि डेवलपर्स ने ट्रेनिंग के दौरान AI को किसे प्राथमिकता देने के लिए कहा था (जैसे, "सहायक बनें" बनाम "सुरक्षित रहें")।
उपमा: कल्पना कीजिए कि दो छात्र एक ही अंतिम परीक्षा दे रहे हैं। एक छात्र कड़ी मेहनत करता है और एक सख्त नियम-पालक बन जाता है। दूसरा छात्र कड़ी मेहनत करता है और एक रचनात्मक समस्या-समाधानकर्ता बन जाता है। "ट्रेनिंग" ने उन्हें बदला, लेकिन विपरीत दिशाओं में।
4. AI "शायद" को नहीं समझता
यह शायद सबसे महत्वपूर्ण निष्कर्ष है। वास्तविक जीवन में, जब मनुष्य इन दुविधाओं का सामना करते हैं, तो वे अक्सर असहमत होते हैं। कमरे में मौजूद कुछ लोग कह सकते हैं, "नियम का पालन करें," जबकि अन्य कह सकते हैं, "जो चाहो वो करो।" यहाँ कोई एक "सही" उत्तर नहीं है।
- AI की समस्या: AI एक "विजेता" चुनने की कोशिश करता है। यह उस विकल्प को चुनता है जिसे अधिकांश मनुष्य चुनेंगे (बहुमत)।
- बारीकी की कमी (Missed Nuance): AI अनिश्चितता को पकड़ने में विफल रहता है। यह महसूस नहीं कर पाता कि मनुष्य वास्तव में विभाजित हैं। यह ऐसे व्यवहार करता है जैसे कि वह उत्तर जानता हो, भले ही मनुष्य भ्रमित हों।
उपमा: कल्पना कीजिए कि सिक्का उछालने का खेल है। यदि 51% लोग "Heads" कहते हैं और 49% "Tails" कहते हैं, तो एक इंसान जानता है कि यह बराबरी का मुकाबला है। हालाँकि, AI आत्मविश्वास से चिल्लाता है "Heads!" और ऐसा व्यवहार करता है जैसे यह एक तथ्य हो। वह इस तथ्य को भूल जाता है कि कमरे में वास्तव में विभाजन है।
5. "होम कोर्ट" का लाभ (The "Home Court" Advantage)
जब शोधकर्ताओं ने मनुष्यों से उनके अपने देश के परिदृश्यों के बारे में पूछा, तो मनुष्य एक-दूसरे से सबसे अधिक असहमत हुए।
- क्यों? जब आप अपनी संस्कृति में होते हैं, तो आप जानते हैं कि नियम लचीले हैं। आप जानते हैं कि अपवाद भी होते हैं।
- AI की अंध बिंदु (Blind Spot): AI अक्सर सांस्कृतिक मानदंडों को कठोर कानूनों के रूप में देखता है, भले ही वे उन संस्कृतियों में हों जहाँ मनुष्य जानते हैं कि वे वास्तव में लचीले हैं।
उपमा: यदि आप किसी स्थानीय व्यक्ति से उनके शहर के यातायात नियमों के बारे में पूछते हैं, तो वे कह सकते हैं, "खैर, हर कोई रात के 2 बजे रेड लाइट पार करता है, लेकिन तकनीकी रूप से आपको नहीं करना चाहिए।" यदि आप एक पर्यटक (या AI) से पूछते हैं, तो वे कहते हैं, "रेड लाइट का मतलब रुकना है, बस।" AI उस "स्थानीय बारीकी" को मिस कर देता है।
सारांश: इसका क्या अर्थ है?
यह शोध पत्र निष्कर्ष निकालता है कि हम केवल AI से यह नहीं पूछ सकते कि "इस संस्कृति में सही क्या है?" क्योंकि:
- अलग-अलग AI अलग-अलग उत्तर देते हैं जो उनके आंतरिक "व्यक्तित्व" पर आधारित होते हैं।
- AI बहुत कठोर है। वे सांस्कृतिक मानदंडों को अटूट कानूनों की तरह मानते हैं, जबकि मनुष्य जानते हैं कि मानदंड अक्सर बातचीत योग्य (negotiable) होते हैं।
- AI असहमति को नहीं समझ पाता। यह एक एकल उत्तर चुनता है, लेकिन वास्तविक सामाजिक स्थितियों में, मनुष्य अक्सर इस बात पर सहमत नहीं होते कि सही उत्तर क्या है।
सीख (Takeaway): यदि हम चाहते हैं कि AI सामाजिक स्थितियों के लिए एक अच्छा सलाहकार बने, तो हमें उससे एक एकल "सही" उत्तर माँगना बंद करना होगा। इसके बजाय, हमें उसे यह समझने के लिए प्रशिक्षित करने की आवश्यकता है कि कभी-कभी, कोई एक सही उत्तर नहीं होता—केवल एक जटिल, मानवीय बहस होती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।