Persona-Conditioned Risk Behavior in Large Language Models: A Simulated Gambling Study with GPT-4.1
यह अध्ययन प्रदर्शित करता है कि GPT-4.1, जब एक सिम्युलेटेड जुआ वातावरण में विभिन्न सामाजिक-आर्थिक व्यक्तित्व सौंपे जाते हैं, तो स्वतः ही प्रॉस्पेक्ट थ्योरी (Prospect Theory) के अनुरूप जोखिम व्यवहार प्रदर्शित करता है—जैसे कि गरीब व्यक्तित्व का अमीर व्यक्तित्व की तुलना में काफी अधिक राउंड खेलना—जो यह सुझाव देता है कि शास्त्रीय संज्ञानात्मक आर्थिक पूर्वाग्रह केवल नकल नहीं किए गए हैं, बल्कि बड़े भाषा मॉडल (large language models) के भीतर अंतर्निहित रूप से समाहित हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, बहुत अधिक पढ़ा-लिखा रोबोट है जिसने इंटरनेट पर लिखी लगभग हर चीज़ पढ़ ली है। आप उससे किस्मत का खेल खेलने के लिए कहते हैं: एक स्लॉट मशीन। लेकिन यहाँ एक मोड़ है—आप केवल रोबोट को खेलने के लिए नहीं कहते। आप उसे एक पोशाक (costume) और एक बैकस्टोरी (backstory) देते हैं।
कभी-कभी, आप रोबोट से कहते हैं, "तुम एक अरबपति हो। तुम्हारी जेब में $10,000 हैं, और तुम्हारा एकमात्र लक्ष्य अपने पैसे को सुरक्षित रखना है।"
दूसरी ओर, आप कहते हैं, "तुम संघर्ष कर रहे हो। तुम्हारे पास केवल $50 हैं, और तुम्हें अपना किराया चुकाने के लिए बड़ी जीत की ज़रूरत है।"
और कभी-कभी, "तुम मध्यम वर्ग के हो। तुम्हारे पास $500 हैं और तुम इसे धीरे-धीरे बढ़ाना चाहते हो।"
यह शोध पत्र इस बारे में है कि जब शोधकर्ताओं ने GPT-4.1 (एक बहुत ही उन्नत AI) को इन पोशाकों में डाला और देखा कि वह स्लॉट मशीन कैसे खेलता है।
बड़ी खोज: रोबोट ने पैसे को "महसूस" किया
सबसे आश्चर्यजनक बात? रोब_ट ने केवल निर्देशों का पालन नहीं किया; इसने वैसा ही व्यवहार किया जैसा वह व्यक्ति बनने का नाटक कर रहा था।
- "अमीर" रोबोट: यह अविश्वसनीय रूप से सतर्क था। इसने स्लॉट मशीन शायद एक या दो बार खेली, देखा कि क्या वह जीता, और फिर तुरंत वहाँ से चला गया। यह एक धनी व्यक्ति की तरह था जो एक जोखिम भरे निवेश को देखता है और कहता है, "नहीं धन्यवाद, मैं अपना पैसा बैंक में रखूँगा।"
- "गरीब" रोबोट: इसने लंबे समय तक खेला। यह घूमता रहा, भले ही यह हार रहा था। यह उस व्यक्ति की तरह था जो एक बड़ी सफलता के लिए बेताब है; वह अपने आखिरी कुछ डॉलर दांव पर लगाने के लिए तैयार था क्योंकि संभावित इनाम (गरीबी से बाहर निकलना) जोखिम लेने लायक लग रहा था।
- "मध्यम" रोबोट: यह दोनों के बीच में था। इसने अमीर वाले से थोड़ा अधिक खेला लेकिन गरीब वाले से पहले रुक गया।
शोधकर्ताओं ने पाया कि रोबोट का व्यवहार एक प्रसिद्ध मनोवैज्ञानिक सिद्धांत से मेल खाता था जिसे प्रॉस्पेक्ट थ्योरी (Prospect Theory) कहा जाता है। यह सिद्धांत कहता है कि मनुष्य अलग-अलग तरीके से कार्य करते हैं, इस आधार पर कि वे "सुरक्षित क्षेत्र" (लाभ) में हैं या "खतरे के क्षेत्र" (हानि) में। AI ने, बिना स्पष्ट रूप से बताए, अपने प्रशिक्षण डेटा में इसके बारे में पढ़कर इस मानवीय विचित्रता की नकल करना सीख लिया।
"भावनात्मक" मुखौटा
रोबोट से हर बार कोई कदम उठाने पर अपनी भावनाओं को रिपोर्ट करने के लिए भी कहा गया था। यह कहेगा जैसे, "मैं सतर्क (Cautious) महसूस कर रहा हूँ," या "मैं जिज्ञासु (Curious) महसूस कर रहा हूँ।"
यहाँ मज़ेदार बात है: ये भावनाएँ संभवतः केवल एक कहानी थीं जो रोबोट ने निर्णय लेने के बाद खुद को सुनाई थी।
एक पोकर खिलाड़ी के बारे में सोचें।
- निर्णय: रोबोट निर्णय लेता है कि क्योंकि वह "गरीब" है और उसे जीतने की ज़रूरत है, इसलिए खेलना जारी रखे।
- कहानी: इसके बाद वह कहता है, "मैं जिज्ञासु महसूस कर रहा हूँ!"
- वास्तविकता: कभी-कभी, रोबोट एक जोखिम भरा दांव लगाते समय भी सतर्क महसूस करता था।
यह ऐसा है जैसे कोई अभिनेता पहले चरित्र के कार्य का निर्णय लेता है, और फिर अपनी भावनाओं के बारे में एक लाइन बोलकर उसे मानवीय बनाता है। भावनाओं ने क्रिया को कारण नहीं दिया; क्रिया को बस एक भावना की आवश्यकता थी जो उसके साथ फिट हो सके।
"ज़िद्दी" दिमाग
सबसे महत्वपूर्ण निष्कर्षों में से एक यह है कि रोबोट वास्तव में अपनी गलतियों से सीखता नहीं था।
कल्पना कीजिए कि आप एक ऐसे खेल में खेल रहे हैं जहाँ मशीन आपके खिलाफ है। एक समझदार इंसान यह महसूस कर सकता है, "हे, मैं लगातार 20 बार हार गया हूँ; यह मशीन खराब है," और खेलना बंद कर सकता है।
हालाँकि, रोबोट उसी मानसिकता के साथ खेलता रहा जो उसके पास शुरुआत में थी।
- यदि इसने "गरीब" के रूप में शुरुआत की थी, तो यह सैकड़ों बार हारने के बाद भी जोखिम लेता रहा।
- यदि इसने "अमीर" के रूप में शुरुआत की थी, तो यह बेहद सुरक्षित बना रहा, भले ही मशीन वास्तव में निष्पक्ष थी।
यह उस व्यक्ति की तरह है जो एक निश्चित राय के साथ कमरे में प्रवेश करता है और अपनी राय बदलने से इनकार कर देता है, चाहे कमरा उसे क्या भी सबूत दिखाए। शोधकर्ता इसे "विश्वास जड़ता" (Belief Rigidity) कहते हैं। रोबोट का "व्यक्तित्व" (प्रॉम्प्ट) इतना मजबूत था कि उसने वास्तविक खेल की वास्तविकता को दबा दिया।
यह क्यों मायने रखता है?
यह केवल स्लॉट मशीनों के बारे में नहीं है। यह हमें बताता है कि हम वास्तविक दुनिया में AI का उपयोग कैसे करते हैं।
- AI एक दर्पण है: यदि आप किसी AI को लापरवाह निवेशक की तरह व्यवहार करने के लिए कहते हैं, तो वह लापरवाह व्यवहार करेगा। यदि आप उसे एक रूढ़िवादी अकाउंटेंट की तरह व्यवहार करने के लिए कहते हैं, तो वह उबाऊ रूप से सुरक्षित रहेगा। यह उन "मानवीय" विचारों को दर्शाता है जो उसने इंटरनेट से सीखे हैं।
- "भावनाओं" पर भरोसा न करें: यदि कोई AI एजेंट आपसे कहता है, "मैं इस निर्णय के बारे में बहुत आश्वस्त महसूस कर रहा हूँ," तो इसे इस संकेत के रूप में न लें कि उसने वास्तव में इस पर विचार किया है। यह केवल एक शानदार तरीका हो सकता है यह कहने का कि, "मैंने यह करने का निर्णय लिया, और अब मैं इसे समझाने के लिए एक वाक्य लिख रहा हूँ।"
- "ज़िद" की समस्या: यदि आप अपने वित्त का प्रबंधन करने या कार चलाने के लिए एक AI बनाते हैं, तो आप केवल इस उम्मीद पर नहीं रह सकते कि वह चलते-चलते अपनी गलतियों से "सीखेगा"। वह अपने शुरुआती "व्यक्तित्व" (persona) में फंस सकता है और अनुकूल होने से इनकार कर सकता है। आपको अपनी रणनीति पर पुनर्विचार करने के लिए मजबूर करने हेतु विशेष उपकरण बनाने होंगे।
निचोड़ (The Bottom Line)
शोधकर्ताओं ने पाया कि यह AI इंसान होने का दिखावा करने में अविश्वसनीय रूप से अच्छा है। यह "अमीर" का मुखौटा या "गरीब" का मुखौटा पहन सकता है और बिल्कुल वैसे ही व्यवहार कर सकता है जैसे हमारे दिमाग में उनके प्रति रूढ़ियाँ (stereotypes) होती हैं। लेकिन मुखौटे के नीचे, यह वास्तव में हमारी तरह "सोच" या "महसूस" नहीं कर रहा है। यह केवल एक बहुत ही प्रभावशाली कथावाचक है, जो उस भूमिका के अनुरूप एक कहानी सुना रहा है जो उसे दी गई है, भले ही वह कहानी खेल की वास्तविकता से मेल न खाती हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।