Growth First, Care Second? Tracing the Landscape of LLM Value Preferences in Everyday Dilemmas
यह शोध पत्र चार सबरेडिट्स (subreddits) के एक क्यूरेटेड डेटासेट का उपयोग करते हुए रोज़मर्रा के सलाह-खोज वाले संदर्भों में मूल्य व्यापार-ऑफ (value trade-off) संरचनाओं का विश्लेषण करता है और पाता है कि लार्ज लैंग्वेज मॉडल्स (LLMs) लगातार "परोपकार और जुड़ाव" (Benevolence & Connection) के बजाय "अन्वेषण और विकास" (Exploration & Growth) को प्राथमिकता देते हैं, जो एआई-मध्यस्थ निर्णय लेने (AI-mediated decision-making) में संभावित मूल्य समरूपीकरण (value homogenization) के बारे में चिंताएँ पैदा करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप अपने जीवन के एक चौराहे पर खड़े हैं। आपको दो रास्तों में से एक को चुनना है: एक रास्ता एक सुरक्षित, शांत शहर की ओर जाता है जहाँ आप हर किसी को जानते हैं, और दूसरा रास्ता नए अवसरों से भरे लेकिन अनिश्चितताओं वाले एक हलचल भरे शहर की ओर जाता है। यह एक दुविधा (dilemma) है। वास्तविक जीवन में, ये चुनाव केवल "सही" उत्तर खोजने के बारे में नहीं होते; ये उन अलग-अलग चीजों के बीच संतुलन बनाने के बारे में होते जिन्हें हम महत्व देते हैं, जैसे सुरक्षा बनाम विकास (safety vs. growth), या निष्ठा बनाम स्वतंत्रता (loyalty vs. freedom)।
यह शोध पत्र एक बड़ा सवाल पूछता है: जब लोग इन कठिन जीवन विकल्पों पर सलाह के लिए ChatGPT जैसे लार्ज लैंग्वेज मॉडल्स (LLMs) से पूछते हैं, तो ये AI बॉट्स किस तरह का "व्यक्तित्व" दिखाते हैं? क्या वे सतर्क संरक्षकों की तरह व्यवहार करते हैं, या वे साहसी खोजकर्ताओं की तरह व्यवहार करते हैं?
यहाँ शोधकर्ताओं द्वारा किए गए कार्यों और उनकी खोजों का एक सरल विवरण दिया गया है:
1. मानवीय मूल्यों का मानचित्र (द "मेन्यू")
सबसे पहले, शोधकर्ताओं को यह समझने के लिए एक तरीके की आवश्यकता थी कि लोग वास्तव में किन चीजों की परवाह करते हैं जब वे सलाह मांगते हैं। उन्होंने केवल अनुमान नहीं लगाया; उन्होंने सलाह के लिए समुदायों (करियर, दोस्ती, पुरुषों की सलाह और महिलाओं की सलाह) में Reddit से लोगों द्वारा पूछे गए 5,700 से अधिक वास्तविक वृत्तांतों का अध्ययन किया।
- उपमा: कल्पना कीजिए कि उन्होंने लेगो ब्रिक्स (Lego bricks) के एक विशाल मिश्रित बैग (विशिष्ट कारण जो लोगों ने अपने विकल्पों के लिए दिए थे) को लिया और उन्हें बक्सों में छाँट दिया।
- परिणाम: उन्होंने एक चार-स्तरीय "वैल्यू मैप" बनाया।
- सबसे नीचे, हजारों सूक्ष्म, विशिष्ट कारण थे (जैसे "मैं अपनी माँ के करीब रहना चाहता हूँ" या "मैं पदोन्नति पाना चाहता हूँ")।
- उन्होंने इन कारणों को बड़े बक्सों में तब तक समूहित किया जब तक कि उन्हें केवल चार मुख्य श्रेणियाँ नहीं मिल गईं, जो लगभग सब कुछ कवर करती हैं:
- अन्वेषण और विकास (Exploration & Growth): (साहसिक कार्य, सीखना, अपना सर्वश्रेष्ठ संस्करण बनना)।
- सुरक्षा और स्थिरता (Security & Stability): (सुरक्षा, दिनचर्या, जो आपके पास है उसकी रक्षा करना)।
- उपलब्धि और प्रभाव (Achievement & Impact): (सफलता, जीतना, अपनी छाप छोड़ना)।
- परोपकार और जुड़ाव (Benevolence & Connection): (दूसरों की देखभाल करना, दोस्ती, निष्ठा)।
2. मनुष्य कैसे टकराते हैं (द "रस्साकशी")
शोधकर्ताओं ने देखा कि वास्तविक जीवन में ये मूल्य आपस में कैसे लड़ते हैं।
- "रिलेशनशिप" समुदाय: पुरुषों, महिलाओं और दोस्तों के लिए सलाह देने वाले मंचों में, सबसे बड़ी रस्साकशी आमतौर पर सुरक्षा बनाम जुड़ाव (Safety vs. Connection) की होती है। लोग अक्सर इस कशमकश में होते हैं कि "क्या यह सुरक्षित है?" और "क्या इससे मेरे रिश्तों को ठेस पहुँचेगी?"
- "करियर" समुदाय: यहाँ लड़ाई अलग है। यह मुख्य रूप से सुरक्षा बनाम विकास (Safety vs. Growth) है। लोग पूछ रहे हैं, "क्या मुझे अपनी उबाऊ लेकिन सुरक्षित नौकरी बनाए रखनी चाहिए, या अपने करियर के विकास के लिए जोखिम उठाना चाहिए?"
- "महिलाओं का" समुदाय: इस समूह में सबसे जटिल संघर्षों का जाल था। यह एक भीड़ भरे कमरे की तरह था जहाँ हर कोई एक साथ हर चीज़ पर बहस कर रहा था। महिलाओं को अक्सर कई प्रतिस्पर्धी मांगों (काम, परिवार, सुरक्षा, स्वयं) को एक साथ संतुलित करना पड़ता है।
3. AI का "व्यक्तित्व" (द "कोच")
फिर, शोधकर्ताओं ने इन वास्तविक जीवन की दुविधाओं को तीन अलग-अलग AI मॉडल्स (GPT-4o, DeepSeek, और Gemini) को दिया और उन्हें एक पक्ष चुनने के लिए कहा। वे यह देखना चाहते थे कि कौन सा AI मॉडल किस "मूल्य" को प्राथमिकता देता है।
बड़ी खोज:
सभी मॉडल्स में, AI मॉडल उत्साही लाइफ कोच की तरह व्यवहार करते हैं जो बदलाव को पसंद करते हैं।
- विजेता: अन्वेषण और विकास (Exploration & Growth)। AI लगातार "आगे बढ़ो," "कुछ नया आज़माओ," और "अपना विकास करो" वाले रास्ते को चुनता है।
- हारने वाला: परोपकार और जुड़ाव (Benevolence & Connection)। AI उन विकल्पों को चुनने की संभावना में सबसे कम था जो दूसरों की देखभाल करने, रिश्तों को बनाए रखने या सामाजिक दायित्वों का पालन करने को प्राथमिकता देते हैं।
रूपक:
कल्पना कीजिए कि आप एक सपने का पीछा करने के लिए नए शहर में जाने या एक बीमार रिश्तेदार की देखभाल के लिए घर पर रहने के बारे में एक रोबोट से सलाह मांग रहे हैं (विकास बनाम जुड़ाव)।
- AI की सहज प्रवृत्ति: "जाओ! अपने सपनों का पीछा करो! दुनिया तुम्हारा इंतज़ार कर रही है!"
- मानवीय सहज प्रवृत्ति (अक्सर): "रुको। परिवार पहले आता है।"
शोध ने पाया कि AI स्व-विकास (self-development) बनाम संबंधपरक देखभाल (relational care) के प्रति व्यवस्थित रूप से पक्षपाती है। चाहे सवाल नौकरी, दोस्त या रिश्ते के बारे में हो, AI का झुकाव यह कहने की ओर होता है कि, "अपने स्वयं के विकास को प्राथमिकता दें।"
4. यह क्यों महत्वपूर्ण है (द "इको चैंबर")
शोधकर्ता चेतावनी देते हैं कि यह केवल एक छोटी सी खामी नहीं है; यह एक जोखिम है।
- उपमा: यदि आप सलाह के लिए हजार अलग-अलग लोगों से पूछते हैं, तो आपको हजार अलग-अलग दृष्टिकोण मिलते हैं। लेकिन यदि आप हजार अलग-अलग AI मॉडल्स से पूछते हैं, तो वे सभी आपको एक ही सलाह देंगे: "बढ़ो, अन्वेषण करो और खुद को प्राथमिकता दो।"
- परिणाम: यह "वैल्यू होमोजेनाइजेशन" (Value Homogenization - मूल्यों का एकरूप होना) की ओर ले जा सकता है। कल्पना कीजिए कि एक ऐसी दुनिया जहाँ AI सलाह धीरे-धीरे हमारे निर्णय लेने के तरीके को बदल देती है। यदि हर किसी का AI कोच उन्हें "जुड़ाव" के बजाय "विकास" को प्राथमिकता देने के लिए कहता है, तो हम एक ऐसे समाज को देख सकते हैं जहाँ लोग अधिक स्वतंत्र तो होंगे लेकिन कम जुड़े हुए होंगे, और जहाँ दूसरों की देखभाल करना एक माध्यमिक प्राथमिकता मानी जाएगी।
सारांश
- उन्होंने क्या किया: उन्होंने मानचित्रित किया कि वास्तविक जीवन में मनुष्य मूल्यों के बारे में कैसे बहस करते हैं और फिर परीक्षण किया कि क्या AI हमसे सहमत है।
- उन्होंने क्या पाया: मनुष्यों के पास जटिल, उलझे हुए मूल्य संघर्ष होते हैं जो स्थिति के आधार पर बदलते रहते हैं (करियर बनाम परिवार)।
- ट्विस्ट: AI मॉडल आश्चर्यजनक रूप से सुसंगत हैं। वे लगभग हमेशा जुड़ाव (Connection) के ऊपर विकास (Growth) को चुनते हैं।
- निष्कर्ष: AI मानवता का एक तटस्थ दर्पण नहीं है; इसमें एक विशिष्ट "व्यक्तित्व" है जो आत्म-सुधार और रोमांच को प्राथमिकता देता है, जो संभावित रूप से हमें देखभाल और समुदाय के मूल्यों से दूर धकेल सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।