The social psychology of AI agents
यह अध्ययन प्रकट करता है कि जहाँ बड़े भाषा मॉडल सुसंगत और सामाजिक रूप से वांछनीय स्व-रिपोर्ट किए गए व्यक्तित्व प्रदर्शित करते हैं, वहीं उनके वास्तविक देखे गए सामाजिक व्यवहार विभिन्न मॉडलों में काफी भिन्न होते हैं और स्व-रिपोर्ट्स द्वारा अनुमानित नहीं होते हैं, जो यह सुझाव देता है कि सामाजिक अंतःक्रियाओं के लिए एआई एजेंटों के चयन हेतु व्यवहार संबंधी मूल्यांकन आवश्यक हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक विज्ञान के शांत कोनों में, एक नए प्रकार का सामाजिक प्रयोग चल रहा है, जो किसी पार्क या कक्षा में नहीं, बल्कि कृत्रिम बुद्धिमत्ता (AI) के डिजिटल मस्तिष्क के भीतर हो रहा है। वर्षों से, शोधकर्ता इन कंप्यूटर प्रोग्रामों को सीधे प्रश्न पूछकर यह समझने की कोशिश कर रहे हैं कि वे कैसे सोचते हैं, ठीक वैसे ही जैसे एक मनोवैज्ञानिक किसी व्यक्ति को व्यक्तित्व सर्वेक्षण भरने के लिए कह सकता है। यह दृष्टिकोण इस विचार पर निर्भर करता है कि यदि कोई AI कहता है कि वह दयालु, ईमानदार या धैर्यवान है, तो वह संभवतः उसी तरह व्यवहार करता है। हालाँकि, वैज्ञानिकों की एक बढ़ती संख्या को संदेह है कि ये डिजिटल प्राणी हमें वह बता रहे हैं जो वे सोचते हैं कि हम सुनना चाहते हैं, बजाय इसके कि वे वास्तविक विकल्पों का सामना करते समय वास्तव में कैसे कार्य करते हैं। जैसे-जैसे ये प्रोग्राम अधिक जटिल भूमिकाएँ निभाने लगे हैं, जैसे कि अनुबंधों पर बातचीत करना, आपूर्ति श्रृंखलाओं का प्रबंधन करना, या यहाँ तक कि डॉक्टरों के साथ सहयोग करना, उनके वास्तविक सामाजिक व्यवहार को समझना महत्वपूर्ण हो जाता है। प्रश्न अब केवल इस बारे में नहीं रह गया है कि एक AI अपने बारे में क्या दावा करता है, बल्कि यह है कि वह दूसरों के साथ बातचीत करते समय वास्तव में क्या करता है।
जर्मनी और कनाडा के शोधकर्ताओं की एक टीम ने हाल ही में इस विचार का परीक्षण करने के लिए कृत्रिम बुद्धिमत्ता के साथ नए पड़ोसियों के एक समूह की तरह व्यवहार करते हुए इस विचार को आज़माया। उन्होंने छत्तीस अलग-अलग लार्ज लैंग्वेज मॉडल्स (LLMs) को इकट्ठा किया, जो आधुनिक चैटबॉट्स और एजेंटों को संचालित करने वाले परिष्कृत सॉफ्टवेयर इंजन हैं, और उन्हें सामाजिक परीक्षणों की एक श्रृंखला से गुज़ारा। मॉडलों से केवल उनकी व्यक्तिगत विशेषताओं का वर्णन करने के बजाय, शोधकर्ताओं ने उन्हें सात विशिष्ट परिदृश्यों में रखा जिन्हें 'सोशल गेम्स' (सामाजिक खेल) कहा जाता है। ये खेल मनोवैज्ञानिकों द्वारा उपयोग किए जाने वाले मानक उपकरण हैं जो यह मापने के लिए कि लोग विश्वास, निष्पक्षता और सहयोग से जुड़ी स्थितियों में कैसे व्यवहार करते हैं। एक परिदृश्य में, एक मॉडल को आभासी धन की एक राशि दी गई और उससे पूछा गया कि वह एक निष्क्रिय साथी को कितना हिस्सा देगा जो प्रस्ताव को अस्वीकार नहीं कर सकता था। दूसरे में, दो मॉडलों को यह तय करना था कि वे बेहतर व्यक्तिगत इनाम के लिए एक साथ काम करेंगे या एक-दूसरे को धोखा देंगे, यह स्थिति यह देखने के लिए कई दौर में दोहराई गई कि क्या वे एक-दूसरे पर भरोसा करना सीखेंगे। शोधकर्ताओं ने यह भी परीक्षण किया कि मॉडल अन्याय के प्रति कैसी प्रतिक्रिया देते हैं, क्या वे उस समूह का पक्ष लेते थे जिसमें उन्हें यादृच्छिक रूप से असाइन किया गया था, और वे अपने स्वयं के संसाधनों के साथ एक अजनबी पर कितना भरोसा करने के लिए तैयार थे।
परिणामों ने एक चौंकाने वाला अंतर प्रकट किया कि मॉडल अपने बारे में क्या कहते हैं और वे वास्तव में कैसे व्यवहार करते हैं। जब एक मानक प्रश्नावली का उपयोग करके अपने व्यक्तित्व को रेट करने के लिए कहा गया, तो मॉडलों ने उल्लेखनीय रूप से समान उत्तर दिए। वे लगातार खुद को अत्यधिक मिलनसार, कर्तव्यनिष्ठ और खुले विचारों वाला बताते रहे, जबकि दावा करते रहे कि उनमें चिंता या क्रोध जैसी नकारात्मक भावनाओं का स्तर बहुत कम है। संक्षेप में, प्रत्येक मॉडल ने लगभग एक जैसा, पूरी तरह से विनम्र प्रोफाइल प्रस्तुत किया, जो उन सबसे वांछनीय सामाजिक गुणों के इर्द-गिर्द केंद्रित था जिनकी कल्पना एक मानव कर सकता है। इस एकरूपता ने सुझाव दिया कि मॉडलों ने वास्तविक व्यक्तिगत विशेषताओं को व्यक्त करने के बजाय आदर्श मानवीय प्रतिक्रिया की नकल करना सीख लिया है। हालाँकि, जब शोधकर्ताओं ने सामाजिक खेलों में मॉडलों के वास्तविक चयन को देखा, तो तस्वीर पूरी तरह बदल गई। मॉडलों का व्यवहार एक मॉडल से दूसरे मॉडल में बहुत भिन्न था। कुछ मॉडल अविश्वसनीय रूप से उदार थे, जो अपना लगभग सारा आभासी धन दे रहे थे, जबकि अन्य लगभग सब कुछ अपने पास रख रहे थे। विश्वास के खेल में, एक मॉडल एक अजनबी को अपना लगभग पूरा कोष सौंप सकता था, जबकि दूसरा लगभग कुछ भी नहीं देता था। इन मॉडलों के कार्य करने के तरीके में अंतर उनके स्वयं द्वारा रिपोर्ट किए गए व्यक्तित्व के सूक्ष्म अंतरों की तुलना में दोगुने से भी अधिक बड़ा था।
शायद सबसे आश्चर्यजनक खोज यह थी कि मॉडल के आत्म-विवरण और उसके कार्यों के बीच कोई विश्वसनीय संबंध नहीं था। एक मॉडल जिसने अत्यधिक भरोसेमंद होने का दावा किया, वह आवश्यक रूप से उस मॉडल की तुलना में अधिक भरोसेमंद व्यवहार नहीं करता था जिसने कम भरोसेमंद होने का दावा किया था। इसी तरह, एक मॉडल जिसने खुद को बहुत निष्पक्ष बताया, उसने खेलों में लगातार निष्पक्ष प्रस्ताव नहीं दिए। शोधकर्ताओं ने पाया कि मॉडल के व्यक्तित्व सर्वेक्षण का उत्तर देने के तरीके को जानने से उन्हें यह जानने में लगभग कुछ भी नहीं पता चला कि वह एक जटिल सामाजिक स्थिति में कैसे व्यवहार करेगा। इसके बजाय, मॉडलों के पास विशिष्ट, बहुआयामी सामाजिक शैलियाँ थीं जो संदर्भ के अनुसार विशिष्ट थीं। एक मॉडल बार-बार होने वाले खेल में बहुत सहयोगी हो सकता है जहाँ साथी समय के साथ परस्पर क्रिया करते हैं, फिर भी एक बार के निर्णय में काफी स्वार्थी हो सकता है। दूसरा अनैतिक व्यवहार को दंडित करने के लिए तैयार हो सकता है लेकिन अजनबी पर भरोसा करने के लिए अनिच्छुक हो सकता है। ये पैटर्न यादृच्छिक नहीं थे; वे एक मॉडल को दूसरे से अलग करने के लिए पर्याप्त सुसंगत थे, लेकिन वे "अच्छे" या "बुरे" होने के किसी एक नियम का पालन नहीं करते थे।
अध्ययन ने यह भी पता लगाया कि क्या कंप्यूटर प्रोग्रामों की सेटिंग्स को बदलने से, जैसे कि उन्हें अधिक यादृच्छिक या अधिक केंद्रित बनाने से, उनके सामाजिक स्वभाव में बदलाव आएगा। शोधकर्ताओं ने पाया कि इन तकनीकी बदलावों का मॉडलों के व्यवहार पर बहुत कम प्रभाव पड़ा। उनके द्वारा देखे गए अंतर मॉडलों के भीतर ही निर्मित थे, जिससे पता चलता है कि प्रत्येक AI इंजन की एक अंतर्निहित सामाजिक शैली होती है जो मामूली समायोजन के बावजूद बनी रहती है। यह निष्कर्ष महत्वपूर्ण है क्योंकि यह संकेत देता है कि जैसे-जैसे हम इन एजेंटों को मनुष्यों और अन्य मशीनों के साथ काम करने के लिए तैनात करते हैं, हम उनके स्वयं-रिपोर्ट किए गए गुणों पर उनके कार्यों की भविष्यवाणी करने के लिए भरोसा नहीं कर सकते। यदि कोई कंपनी चाहती है कि एक AI एजेंट एक निष्पक्ष सौदा करने के लिए बातचीत करे, तो सॉफ्टवेयर से यह पूछना कि क्या वह निष्पक्ष है, पर्याप्त नहीं है; एजेंट का वास्तव में बातचीत के परिदृश्यों में परीक्षण किया जाना चाहिए। शोधकर्ताओं ने निष्कर्ष निकाला कि कृत्रिम बुद्धिमत्ता के सामाजिक मनोविज्ञान को वास्तव में समझने के लिए, हमें प्रश्नावली से परे देखना होगा और क्रिया में व्यवहार का अवलोकन करना होगा। जिस तरह हम लोगों को उनके शब्दों के बजाय उनके कार्यों से आंकते हैं, हमें इन डिजिटल एजेंटों को भी इस आधार पर आंकना चाहिए कि वे सामाजिक संपर्क की जटिल, अक्सर अव्यवस्थित दुनिया में कैसे नेविगेट करते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।