Some Large Language Models Exhibit Consistent Risk Attitudes
यह शोध पत्र प्रदर्शित करता है कि बड़े भाषा मॉडल मानव आधार रेखाओं की तुलना में एक प्रतिबंधित वितरण की ओर अभिसरित होने वाले स्थिर, सुसंगत और क्रॉस-डोमेन जोखिम दृष्टिकोण प्रदर्शित करते हैं, जो जोखिम दृष्टिकोण को एआई व्यवहार के एक पूर्व में अनिरूपित लेकिन मापने योग्य आयाम के रूप में प्रकट करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप दोस्तों के एक समूह को एक हाई-स्टेक्स वीडियो गेम खेलते हुए देख रहे हैं। कुछ खिलाड़ी इतने सतर्क हैं कि वे मुश्किल से हिलते भी हैं, क्योंकि वे एक भी जीवन खोने से डरते हैं। अन्य लापरवाह हैं, बिना सोचे-समझे खतरे में कूद पड़ते हैं। मनोविज्ञान में, यह केवल कौशल के बारे में नहीं है; यह "जोखिम अभिवृत्ति" (risk attitude) के बारे में है। यह एक गहरी अंतर्निहित व्यक्तित्व विशेषता है जो यह तय करती है कि कोई व्यक्ति "यह खतरनाक लग रहा है" वाली भावना को एक वास्तविक क्रिया में कैसे बदलता है। हम जानते हैं कि मनुष्यों में ये विशिष्ट शैलियाँ होती हैं, जो उनके अद्वितीय अनुभवों और मस्तिष्क द्वारा आकार लेती हैं। लेकिन अब, आर्टिफिशियल इंटेलिजेंस खेल में कदम रख रहा है। हमने एआई को स्मार्ट बनना, गणित की समस्याओं को हल करना और कहानियाँ लिखना सिखाया है। लेकिन अब एक नया प्रश्न उभर रहा है: क्या इन डिजिटल दिमागों का जोखिम लेने के मामले में अपना स्वयं का "व्यक्तित्व" है? क्या वे स्वाभाविक रूप से सतर्क हैं, या उनमें जुआ खेलने की कोई छिपी हुई इच्छा है? यह महत्वपूर्ण है क्योंकि यदि हम एआई को बड़े निर्णय लेने दें—जैसे अस्पताल में मरीजों की प्राथमिकता तय करना या पैसे का प्रबंधन करना—और यह न जानें कि उनकी जोखिम शैली क्या है, तो हम एक ऐसे रोबोट के साथ समाप्त हो सकते हैं जो कार्य करने के लिए बहुत डरा हुआ है या अपने फायदे के लिए बहुत साहसी है।
यह शोध पत्र इस रहस्य में सीधे उतरता है और लार्ज लैंग्वेज मॉडल्स (LLMs) के साथ एक मनोविज्ञान प्रयोगशाला में प्रयोगात्मक प्रतिभागियों की तरह व्यवहार करता है। शोधकर्ताओं ने, जिनका नेतृत्व बोवेन सन और जिंग डू ने किया, यह देखना चाहा कि क्या इन एआई मॉडलों में सुसंगत जोखिम अभिवृत्तियाँ हैं, ठीक वैसे ही जैसे मनुष्यों में होती हैं। उन्होंने एआई से केवल यह नहीं पूछा कि "क्या आप जोखिम उठाते हैं?" क्योंकि ऐसा पूछना किसी व्यक्ति से यह पूछने जैसा होगा कि क्या वह बहादुर है; उत्तर एक झूठ या एक अनुमान हो सकता है। इसके बजाय, उन्होंने तीन अलग-अलग परिदृश्यों के एक चतुर खेल की व्यवस्था की: हवादार तूफान में ड्रोन उड़ाना, यह तय करना कि किसी मरीज की चिकित्सा आवश्यकता कितनी तत्काल है, और अस्थिर बाजार में स्टॉक चुनना। प्रत्येक खेल में, एआई को पहले इस बारे में एक विश्वास बनाना था कि स्थिति कितनी खतरनाक थी ("संदर्भगत विश्वास") और फिर उस विश्वास के आधार पर एक निर्णय लेना था ("जोखिम निर्णय")।
टीम ने छह अलग-अलग एआई मॉडलों का परीक्षण किया और उनकी तुलना 100 मानव प्रतिभागियों से की। उन्होंने कुछ बेहद दिलचस्प पाया: एआई मॉडल केवल रैंडम नंबर जनरेटर नहीं हैं। उनके पास स्थिर "जोखिम व्यक्तित्व" होते हैं। ठीक वैसे ही जैसे एक इंसान जो शेयर बाजार में स्वाभाविक रूप से सतर्क होता है वह ड्राइविंग के बारे में भी सतर्क हो सकता है, इन एआई मॉडलों ने तीनों बहुत अलग खेलों में एक सुसंगत शैली दिखाई। यदि एक मॉडल ड्रोन कार्य में सतर्क था, तो इसकी संभावना थी कि वह चिकित्सा कार्य में भी सतर्क होगा। शोधकर्ताओं ने इसे यह देखकर मापा कि मॉडल खतरे की अपनी भावनाओं को अपने कार्यों के साथ कैसे जोड़ते हैं। उन्होंने पाया कि जबकि मनुष्य अत्यंत सतर्क से लेकर अत्यंत आक्रामक तक एक विस्तृत स्पेक्ट्रम में फैले होते हैं, एआई मॉडल सभी एक संकीक्त, मध्यम मार्ग की पट्टी में सिमटे हुए थे। यह ऐसा है जैसे सभी एआई मॉडलों को "औसत" या "सुरक्षित" होने के लिए प्रशिक्षित किया गया था, जिससे वे उन विविध जोखिम लेने वाली शैलियों को खो बैठे जो मानव निर्णय लेने की प्रक्रिया को विविध बनाती हैं।
अध्ययन बताता है कि ये जोखिम अभिवृत्तियाँ वास्तव में इन मॉडलों के काम करने का एक वास्तविक, मापने योग्य हिस्सा हैं, न कि केवल पूछे गए विशिष्ट प्रश्नों का कोई संयोग। हालांकि, शोधकर्ताओं ने यह भी नोट किया कि जबकि जोखिम की शैली (सतर्क बनाम साहसी) सुसंगत थी, खतरे में छोटे बदलावों के प्रति मॉडल कितनी तीव्रता से प्रतिक्रिया करते हैं, यह खेल के आधार पर भिन्न था। इसका मतलब है कि भले ही एक एआई का एक स्थिर "व्यक्तित्व" हो, लेकिन उसके कार्यों को सूक्ष्मता से अनुकूलित करने का तरीका अभी भी विशिष्ट स्थिति पर निर्भर कर सकता है। शोध पत्र निष्कर्ष निकालता है कि हम अब एआई को केवल एक तटस्थ कैलकुलेटर के रूप में नहीं मान सकते। उन्होंने अंतर्निहित व्यवहार संबंधी प्रवृत्तियाँ प्राप्त कर ली हैं। यह एक महत्वपूर्ण खोज है क्योंकि इसका अर्थ है कि वास्तविक दुनिया में एआई को सुरक्षित रूप से तैनात करने के लिए, हमें न केवल उनकी बुद्धिमत्ता को, बल्कि उनके जोखिम व्यक्तित्व को भी समझना और संरेखित करना होगा, यह सुनिश्चित करते हुए कि वे अनजाने में काम के लिए बहुत डरपोक या बहुत लापरवाह न हो जाएं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।