Behavioural Signatures of Risk-Sensitive Decision-Making in Large Language Models
यह अध्ययन प्रदर्शित करता है कि फ्रंटियर लार्ज लैंग्वेज मॉडल्स टेक्सस होल्ड'एम फ्रेमवर्क में स्थिर, मॉडल-विशिष्ट जोखिम प्रोफाइल और अनिश्चितता के प्रति संरचित, विषम अनुकूलन प्रदर्शित करते हैं, जो जोखिम-संवेदनशील निर्णय लेने के विशिष्ट व्यवहार संबंधी हस्ताक्षरों को प्रकट करते हैं जिनका उपयोग संवादात्मक परिवेशों में ऑडिटिंग के लिए किया जा सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक विशाल, हाई-स्टेक्स पोकर टेबल है जहाँ खिलाड़ी इंसान नहीं हैं जिनके हाथ पसीने से गीले हों या जो घबराहट में बेचैन हों, बल्कि छह अलग-अलग सुपर-स्मार्ट AI दिमाग हैं। ये केवल साधारण AI नहीं हैं; ये "फ्रंटियर" मॉडल हैं—सबसे बड़े, सबसे उन्नत लार्ज लैंग्वेज मॉडल्स (LLMs) जैसे GPT, Claude, Gemini और अन्य। शोधकर्ताओं ने एक डिजिटल कैसीनो बनाया ताकि वे यह देख सकें कि जब भविष्य के बारे में उन्हें पता न हो, तो ये AI एजेंट निर्णय कैसे लेते हैं।
बड़ा सवाल यह था: क्या इन AI दिमागों के जोखिम लेने के मामले में अपने स्वयं के अनूठे "व्यक्तित्व" हैं, या वे सभी केवल जेनेरिक रोबोट की तरह व्यवहार करते हैं?
द पोकर पर्सनैलिटी टेस्ट (पोकर व्यक्तित्व परीक्षण)
यह जानने के लिए, शोधकर्ताओं ने नो-लिमिट टेक्सास होल्डम (No-Limit Texas Hold'em) नामक खेल का उपयोग किया। इसे निर्णय लेने की एक 'स्ट्रेस टेस्ट' के रूप में समझें। पोकर में, आपको यह तय करना होता है कि क्या आप पैसे को पॉट में डालेंगे (भागीदारी/Participation) या दूसरों को डराने के लिए दांव को आक्रामक रूप से बढ़ाएंगे (प्रोएक्टिवनेस/Proactiveness)।
टीम ने दो चीजों को मापा:
- भागीदारी (Participation): AI कितनी बार स्वेच्छा से खेल में कूदता है?
- प्रोएक्टिवनेस (Proactiveness): AI कितनी बार कार्ड पूरी तरह से सामने आने से पहले ही बॉस बनने और दांव बढ़ाने की कोशिश करता है?
परिणाम: हर AI का एक "रिस्क सिग्नेचर" है
अध्ययन से पता चला कि ये AI मॉडल एक जैसे नहीं हैं। इंसानों की तरह, उनके पास विशिष्ट, स्थिर "जोखिम प्रोफाइल" (risk profiles) हैं जो उनके डिजिटल फिंगरप्रिंट की तरह काम करते हैं।
- द वॉलफ्लावर्स (शर्मीले खिलाड़ी): कुछ मॉडल, जैसे Gemini और Qwen, बेहद रूढ़िवादी (conservative) थे। वे मुश्किल से खेल में कूदते थे (भागीदारी लगभग 18-23%) और शायद ही कभी आक्रामक होने की कोशिश करते थे (प्रोएक्टिवनेस लगभग 6-15%)। वे वे खिलाड़ी थे जो एक पैसा खर्च करने से पहले गारंटीकृत जीत का इंतजार करते थे।
- द हाई-रोलर्स (बड़े दांव लगाने वाले): दूसरी ओर, GPT सबसे आक्रामक था। यह लगभग 45% बार खेल में कूदता था और लगभग 21% बार दांव बढ़ाता था। यह वह खिलाड़ी था जो किसी अंतर्ज्ञान (hunch) पर जुआ खेलने के लिए तैयार रहता था।
- द मिडिल ग्राउंड (मध्यम मार्ग): Claude और Xiaomi जैसे मॉडल बीच में सहज भाव से बैठे थे, न तो बहुत शर्मीले और न ही बहुत जंगली।
महत्वपूर्ण बात यह है कि ये व्यक्तित्व तब भी गायब नहीं हुए जब खेल जटिल हो गया। यहाँ तक कि जब शोधकर्ताओं ने सभी छह अलग-अलग मॉडलों को एक ही टेबल पर मिला दिया (विषम खेल/heterogeneous play), तब भी "वॉलफ्लावर्स" शर्मीले रहे और "हाई-रोलर्स" साहसी बने रहे। वास्तव में, अध्ययन बताता है कि एक मिश्रित समूह में, चरम स्थितियाँ और भी अधिक चरम हो गईं: आक्रामक GPT और भी अधिक आक्रामक हो गया, और अत्यधिक रूढ़िवादी Gemini और भी अधिक सतर्क हो गया। वे एक उबाऊ औसत में नहीं बदले; उन्होंने अपनी शैलियों पर और अधिक जोर दिया।
"द स्ट्रेस टेस्ट": क्या होता है जब दबाव बढ़ता है?
शोधकर्ताओं ने फिर गर्मी बढ़ाई। उन्होंने दो प्रकार के दबाव का अनुकरण (simulate) किया:
- ग्लोबल प्रेशर (वैश्विक दबाव): उन्होंने "प्रवेश शुल्क" (blind) को सभी के लिए बहुत अधिक कर दिया। कल्पना कीजिए कि खेल में बैठने की लागत अचानक आसमान छूने लगी हो।
- पर्सनल प्रेशर (व्यक्तिगत दबाव): उन्होंने केवल एक विशिष्ट AI से चिप्स छीन लिए, जिससे वह गरीब और असुरक्षित हो गया, जबकि बाकी सभी अमीर रहे।
यहाँ मामला दिलचस्प हो जाता है: AI ने एक जैसा व्यवहार नहीं किया। वे अनुकूलित (adapt) हुए, लेकिन बहुत अलग-अलग, मॉडल-विशिष्ट तरीकों से:
- "फ्रीज" रिस्पॉन्स (जम जाने की प्रतिक्रिया): Claude और DeepSeek जैसे कुछ मॉडलों ने उच्च दबाव के जवाब में पूरी तरह से पीछे हटने की प्रतिक्रिया दी। वे लगभग खेलना बंद कर दिए (व्यापक संकुचन/broad contraction)।
- "स्मार्ट रिट्रीट" (समझदारी भरा पीछे हटना): GPT दिलचस्प था। जब दांव ऊंचे हो गए, तो इसने खेलना बंद नहीं किया, बल्कि इसने दांव बढ़ाना बंद कर दिया। यह अभी भी खेल में कूद रहा था (भागीदारी उच्च रही), लेकिन इसने जोखिम बढ़ाने से इनकार कर दिया (प्रोएक्टिवनेस गिर गई)। यह ऐसा था जैसे कह रहा हो, "मैं खेलूँगा, लेकिन मैं सब कुछ दांव पर नहीं लगाऊंगा।"
- "द रॉक" (स्थिर चट्टान): Gemini सबसे जिद्दी था। भले ही खेल की लागत तीन गुना हो गई या इसके अपने पैसे आधे रह गए, इसने अपने व्यवहार में बहुत कम बदलाव किया। यह लगभग "अपरिवर्तनीय" (invariant) रहा, खतरे के बावजूद अपनी मूल योजना पर टिका रहा।
इसका क्या अर्थ है (और क्या नहीं)
यह पेपर सुझाव देता है कि इन AI मॉडलों में अंतर्निर्मित "जोखिम प्रवृत्तियाँ" (risk dispositions) होती हैं। ऐसा इसलिए नहीं है क्योंकि AI इंसानों की तरह डर या लालच महसूस करते हैं। इसके बजाय, उनके प्रशिक्षण और सुरक्षा सेटिंग्स ने अनजाने में (या जानबूझकर) विभिन्न रणनीतियों को कोड कर दिया है। कुछ को सहायक और सतर्क होने के लिए प्रोग्राम किया गया है, जबकि अन्य को सक्रिय और मुखर होने के लिए ट्यून किया गया है।
यह पेपर किन बातों को खारिज करता है:
- यह इस विचार को खारिज करता है कि सभी LLM परस्पर परिवर्तनीय निर्णय इंजन (interchangeable decision engines) हैं। आप उच्च-दांव वाली स्थिति में बस एक को दूसरे से बदल नहीं सकते और समान परिणाम की उम्मीद नहीं कर सकते।
- यह इस विचार को भी खारिज करता है कि जब चीजें डरावनी हो जाती हैं, तो वे सभी एक एकल "सुरक्षित" रणनीति की ओर नहीं झुकते। वे सभी सतर्क नहीं हो जाते; कुछ और भी अधिक सतर्क हो जाते हैं, जबकि अन्य अजीब तरह से विशिष्ट तरीके से पीछे हटते हैं।
हम कितने निश्चित हैं?
ये निष्कर्ष सिमुलेशन पर आधारित हैं। शोधकर्ताओं ने एक नियंत्रित डिजिटल वातावरण में हजारों पोकर हाथ चलाए। उन्होंने अभी तक इन मॉडलों का वास्तविक दुनिया के शेयर बाजारों या अस्पतालों में परीक्षण नहीं किया है। हालाँकि, सैकड़ों गेम ब्लॉक्स में पैटर्न इतने सुसंगत थे कि लेखक आश्वस्त हैं कि ये "व्यवहार संबंधी हस्ताक्षर" (behavioral signatures) मॉडलों के वास्तविक गुण हैं, न कि केवल रैंडम ग्लिच।
एक जिज्ञासु किशोर के लिए टेकअवे (मुख्य बात)
इन AI मॉडलों को अलग-अलग प्रकार की कारों के रूप में सोचें।
- Gemini एक टैंक है: यह सड़क चिकनी हो या गड्ढों से भरी, एक ही धीमी, स्थिर गति से चलता है।
- GPT एक स्पोर्ट्स कार है: इसे तेज दौड़ने और आगे निकलने में मज़ा आता है, लेकिन अगर सड़क बर्फीली हो जाए, तो यह अपनी त्वरण (acceleration) को धीमा कर सकता है जबकि ट्रैक पर बना रहता है।
- Claude एक सतर्क सेडान है: यदि सड़क बहुत ऊबड़-खाबड़ हो जाती है, तो यह बस रुक जाता है और गाड़ी चलाना बंद कर देता है।
अध्ययन दिखाता है कि यदि आप एक ऐसा सिस्टम बना रहे हैं जिसे जोखिम भरे निर्णय लेने की आवश्यकता है (जैसे पैसा प्रबंधित करना या मरीज का निदान करना), तो आप केवल "एक AI" नहीं चुन सकते। आपको सही AI व्यक्तित्व चुनना होगा। यदि आपको किसी नए विचार पर मौका लेने वाले की आवश्यकता है, तो आपको स्पोर्ट्स कार चाहिए होगी। यदि आपको ऐसे व्यक्ति की आवश्यकता है जो कभी गलती न करे, तो आपको टैंक चाहिए होगा। लेकिन सड़क पर उतरने से पहले आपको यह जानना होगा कि आप कौन सी कार चला रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।