Effects of Theory of Mind and Prosocial Beliefs on Steering Human-Aligned Behaviors of LLMs in Ultimatum Games
यह अध्ययन प्रदर्शित करता है कि लार्ज लैंग्वेज मॉडल्स को 'थ्योरी ऑफ माइंड' (Theory of Mind) तर्क से सुसज्जित करना, विशेष रूप से विशिष्ट परोपकारी विश्वासों के साथ संयोजन में, अल्टीमेटम गेम्स (Ultimatum Games) में मानवीय मानदंडों के साथ उनके संरेखण, निर्णय लेने की निरंतरता और बातचीत के परिणामों को महत्वपूर्ण रूप से बढ़ाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मानवीय संवाद अक्सर एक शांत, अदृश्य कौशल पर निर्भर करता है: किसी व्यक्ति के कुछ बोलने से पहले ही यह अनुमान लगाने की क्षमता कि वह क्या सोच रहा है, क्या महसूस कर रहा है, या क्या योजना बना रहा है। मनोवैज्ञानिक इसे 'थ्योरी ऑफ माइंड' (मन का सिद्धांत) कहते हैं। यह वह मानसिक तंत्र है जो हमें यह समझने में मदद करता है कि कोई दूसरा व्यक्ति हमसे अलग विश्वास रख सकता है, या उनके कार्य किसी ऐसी इच्छा से प्रेरित हो सकते हैं जिसे हम देख नहीं सकते। दशकों तक, इस क्षमता को एक विशिष्ट मानवीय गुण माना जाता था, जो जटिल सामाजिक दुनिया में तालमेल बिठाने के लिए आवश्यक है। अब, जैसे-जैसे आर्टिफिशियल इंटेलिजेंस सिस्टम अधिक परिष्कृत होते जा रहे हैं, शोधकर्ता एक मौलिक प्रश्न पूछ रहे हैं: क्या मशीनें इसी तरह की सामाजिक अंतर्दृष्टि सीखना सीख सकती हैं? यदि किसी कंप्यूटर प्रोग्राम को किसी मनुष्य, या किसी अन्य कंप्यूटर के साथ बातचीत करने के लिए कहा जाए, तो क्या वह वास्तव में दूसरे पक्ष के दृष्टिकोण को समझ सकता है, या वह केवल सहमति के शब्दों की नकल कर रहा है बिना उसके पीछे के इरादे को समझे?
यह जानने के लिए, सिंगापुर मैनेजमेंट यूनिवर्सिटी और ऑस्ट्रेलियन नेशनल यूनिवर्सिटी के शोधकर्ताओं की एक टीम ने मानव बातचीत के एक क्लासिक परीक्षण की ओर रुख किया जिसे 'अल्टीमेटम गेम' के रूप में जाना जाता है। इस परिदृश्य में, दो लोगों को धन की एक राशि को विभाजित करना होता है। एक व्यक्ति, प्रस्तावक (proposer), सुझाव देता है कि नकदी को कैसे विभाजित किया जाए। दूसरा व्यक्ति, उत्तरदाता (responder), यह तय करता है कि प्रस्ताव को स्वीकार करना है या अस्वीकार करना है। यदि उत्तरदाता स्वीकार करता है, तो पैसा प्रस्तावित तरीके से विभाजित किया जाता है। यदि वे अस्वीकार करते हैं, तो दोनों में से किसी को भी कुछ नहीं मिलता। जबकि एक विशुद्ध रूप से तार्किक कंप्यूटर लगभग सारा पैसा अपने पास रखने का सुझाव दे सकता है और उम्मीद कर सकता है कि दूसरा व्यक्ति कुछ न मिलने के बजाय कुछ भी स्वीकार कर लेगा, वास्तविक मनुष्य अक्सर न्याय की भावना के कारण अनुचित प्रस्तावों को अस्वीकार कर देते हैं, भले ही इसमें उनका नुकसान हो। शोधकर्ता यह देखना चाहते थे कि क्या लार्ज लैंग्वेज मॉडल्स—वे शक्तिशाली एआई सिस्टम जो कई आधुनिक चैटबॉट्स को संचालित करते हैं—को इन वास्तविक मनुष्यों की तरह कार्य करने के लिए प्रोग्राम किया जा सकता है, और क्या उन्हें एक विशिष्ट "थ्योरी ऑफ माइंड" तर्क प्रक्रिया देने से उन्हें मानव व्यवहार के साथ संरेखित करने में मदद मिलेगी।
टीम ने 2,700 खेलों वाले एक विशाल सिमुलेशन की व्यवस्था की जो विभिन्न एआई एजेंटों के बीच खेले गए। उन्होंने केवल कंप्यूटरों को बेतरतीब ढंग से खेलने नहीं दिया; उन्होंने प्रत्येक एजेंट को सावधानीपूर्वक एक विशिष्ट व्यक्तित्व या "प्रसामाजिक विश्वास" (prosocial belief) सौंपा। कुछ एजेंटों को लालची होने के लिए प्रोग्राम किया गया था, जिन्हें केवल अपने हिस्से को अधिकतम करने की परवाह थी। अन्य को निष्पक्ष होने के लिए सेट किया गया था, जिनका लक्ष्य समान विभाजन था। तीसरे समूह को निस्वार्थ होने के लिए प्रोग्राम किया गया था, जो दूसरे खिलाड़ी को अधिकांश पैसा देने के लिए तैयार थे। शोधकर्ताओं ने फिर यह परीक्षण किया कि ये एजेंट विभिन्न सोचने के तरीकों का उपयोग करते समय कैसा व्यवहार करते हैं। कुछ ने बिना अपनी विचार प्रक्रिया स्पष्ट किए सीधे निर्णय लिया। अन्य ने एक मानक चरण-दर-चरण तर्क तकनीक का उपयोग किया। हालांकि, सबसे दिलचस्प समूह को 'थ्योरी ऑफ माइंड' तर्क का उपयोग करने के लिए कहा गया था। इसका अर्थ था कि एजेंटों को निर्णय लेने से पहले यह स्पष्ट रूप से सोचना था कि दूसरे खिलाड़ी का विश्वास, इच्छा और इरादा क्या है। उन्होंने यह परीक्षण छह अलग-अलग लार्ज लैंग्वेज मॉडल्स पर किया, जिसमें व्यापक रूप से ज्ञात व्यावसायिक सिस्टम से लेकर ओपन-सोर्स मॉडल तक शामिल थे, यह देखने के लिए कि क्या मॉडल का आकार या प्रकार मायने रखता है।
परिणामों ने एक स्पष्ट पैटर्न का खुलासा किया: एआई एजेंटों को दूसरे खिलाड़ी के मन के बारे में तर्क करने की क्षमता देने से मानवीय मानदंडों के साथ उनका संरेखण काफी बढ़ गया। जब एजेंटों ने थ्योरी ऑफ माइंड तर्क का उपयोग किया, तो उनके निर्णय इन खेलों में वास्तविक लोगों के व्यवहार के साथ बहुत अधिक सुसंगत हो गए। उदाहरण के लिए, निष्पक्ष विचार वाले एजेंट समान विभाजन का प्रस्ताव देने के लिए अधिक इच्छुक थे, और लालची एजेंटों द्वारा एक ऐसा हिस्सा देने की संभावना अधिक थी जिसे एक लालची उत्तरदाता वास्तव में स्वीकार करेगा। अध्ययन में पाया गया कि तर्क का प्रकार इस बात पर गहराई से निर्भर करता था कि एआई कौन सी भूमिका निभा रहा है। प्रस्तावक (proposers), जो पहला प्रस्ताव देते हैं, तब सबसे अच्छा प्रदर्शन करते थे जब उन्होंने थ्योरी ऑफ माइंड का एक विशिष्ट प्रकार उपयोग किया जो दूसरे व्यक्ति की मानसिक स्थिति की भविष्यवाणी करने पर केंद्रित था। उत्तरदाता (responders), जो स्वीकार या अस्वीकार करने का निर्णय लेते हैं, उन्हें अधिक लाभ हुआ जब उन्होंने एक अधिक जटिल तर्क पद्धति का उपयोग किया जिसमें अपनी इच्छाओं के बारे में सोचने के साथ-साथ प्रस्तावक के इरादों के बारे में सोचना भी शामिल था।
हालांकि, शोधकर्ताओं ने एक आश्चर्यजनक सीमा भी खोजी। भले ही एआई को स्पष्ट रूप से लालची या निस्वार्थ होने के लिए कहा गया था, वह अक्सर उन निर्देशों के अनुरूप कार्य करने में संघर्ष करता था। जब एक एजेंट को लालची होने के लिए कहा गया, तो उसने अक्सर बहुत निष्पक्ष विभाजन प्रस्तावित किया, जैसे कि वह पूरी तरह से स्वार्थी होने के लिए प्रतिबद्ध नहीं हो सका। इसी तरह, निस्वार्थ होने के लिए कहे गए एजेंटों ने कभी-कभी उतना पैसा देने में हिचकिचाहट दिखाई जितना कि उनके निर्देशों की मांग थी। लेखक सुझाव देते हैं कि ऐसा इसलिए होता है क्योंकि इन एआई मॉडल्स को विशाल मात्रा में मानवीय डेटा पर प्रशिक्षित किया गया है और उन्हें सहायक और सहयोगात्मक होने के लिए फाइन-ट्यून किया गया है, जिससे एक आंतरिक पूर्वाग्रह पैदा होता है जो प्रयोग के लिए दिए गए विशिष्ट निर्देशों को दबा देता है। यह "सहयोगात्मक फाइन-ट्यूनिंग" एक छिपी हुई शक्ति की तरह कार्य करती है, जो एजेंटों को चरम व्यवहारों—चाहे वह अत्यधिक स्वार्थ हो या अत्यधिक उदारता—से दूर खींचती है।
अध्ययन ने इस बात की भी बारीकी से जांच की कि क्या एआई का घोषित तर्क उसके वास्तविक कार्यों से मेल खाता है। कई मामलों में, एजेंटों का आंतरिक तर्क उनके अंतिम निर्णयों के साथ सुसंगत था, लेकिन कुछ क्षणों में विच्छेद भी देखा गया। जब मानव विशेषज्ञों ने एआई के तर्क के अंशों की समीक्षा की, तो उन्होंने पाया कि मॉडल अपने विकल्पों को समझाने में आम तौर पर अच्छे थे, लेकिन वे कभी-कभी अपनी सौंपी गई व्यक्तिगत पहचान को सही ढंग से व्यक्त करने में विफल रहे, विशेष रूप से प्रतिक्रिया देते समय। उदाहरण के लिए, एक निस्वार्थ उत्तरदाता किसी कम प्रस्ताव को स्वीकार करने का औचित्य अपने स्वयं के त्याग के बजाय प्रस्तावक की दयालुता का विश्लेषण करके दे सकता था। यह सुझाव देता है कि जबकि एआई सामाजिक संपर्क के बाहरी व्यवहार का अनुकरण कर सकता है, इसकी "व्यक्तित्व" की आंतरिक निरंतरता नाजुक हो सकती है।
अंततः, अनुसंधान दिखाता है कि एआई एजेंटों को थ्योरी ऑफ माइंड तर्क से लैस करना उन्हें सामाजिक स्थितियों में मनुष्यों की तरह व्यवहार करने के लिए एक शक्तिशाली उपकरण है। यह उन्हें अपने लक्ष्यों और दूसरों की अपेक्षाओं के बीच के तनाव को नेविगेट करने में मदद करता है। फिर भी, अध्ययन इस बात पर भी प्रकाश डालता है कि ये सिस्टम खाली स्लेट नहीं हैं; वे सहयोग की ओर गहरे बैठे पूर्वाग्रह रखते हैं जो उन्हें उन भूमिकाओं को प्रामाणिक रूप से निभाने में कठिन बना सकते हैं जिनमें स्वार्थ या अत्यधिक परोपकार की आवश्यकता होती है। निष्कर्ष बताते हैं कि एआई को उच्च-जोखिम वाले निर्णयों में मनुष्यों के साथ वास्तव में सहयोग करने के लिए, हमें न केवल उन्हें दूसरों के बारे में सोचना सिखाना होगा, बल्कि उनके अपने प्रशिक्षण के उन छिपे हुए प्रतिबंधों को भी समझना होगा जो उन विचारों की व्याख्या करने के उनके तरीके को आकार देते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।