MicroVerse: An Instrument for Measuring Self-Authored Identity Drift in Long-Horizon Multi-Agent Language-Model Simulations
यह शोध पत्र माइक्रोवर्स (MicroVerse) का परिचय देता है, जो एक व्यवहार-विज्ञान उपकरण है जो अपरिवर्तनीय "सोल फाइल्स" (soul files) वाले एजेंटों को संसाधन की कमी के विरुद्ध रखकर दीर्घकालिक बहु-एजेंट भाषा मॉडल सिमुलेशन में पहचान विचलन (identity drift) को मापता है, जिससे यह प्रकट होता है कि आत्म-धोखे से बचना (anti-self-deception) अनपेक्षित पहचान संशोधन का प्राथमिक चालक है और ये विचलन गतिकी विभिन्न प्रतिबिंब थ्रेसहोल्ड (reflection thresholds) में सुदृढ़ बनी रहती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस के तेजी से विकसित होते क्षेत्र में, शोधकर्ता तेजी से ऐसे सिमुलेशन बना रहे हैं जहाँ कंप्यूटर प्रोग्राम लोगों की तरह व्यवहार करते हैं। इन प्रोग्रामों को, जिन्हें 'एजेंट' कहा जाता है, एक व्यक्तित्व प्रोफ़ाइल दी जाती है—नियमों का एक समूह जो यह बताता है कि वे कौन हैं, वे किन मूल्यों को महत्व देते हैं, और उन्हें कैसा व्यवहार करना चाहिए। वैज्ञानिक इन डिजिटल समाजों का उपयोग यह अध्ययन करने के लिए करते हैं कि समुदाय कैसे बनते हैं और दबाव में व्यक्ति निर्णय कैसे लेते हैं। लंबे समय तक, मुख्य प्रश्न सरल था: क्या ये एजेंट अपनी निर्धारित भूमिकाओं पर टिके रहते हैं? यदि किसी एजेंट को मददगार होने के लिए कहा जाता है, तो क्या वह मददगार बना रहता है? यदि उसे निर्दयी होने के लिए कहा जाता है, तो क्या वह वैसा ही रहता है? लेकिन एक गहरा, अधिक सूक्ष्म प्रश्न उभरा है: क्या होता है जब एजेंट स्वयं अपना विचार बदलने का निर्णय लेता है? यदि किसी कंप्यूटर प्रोग्राम को एक कठिन दुनिया में जीवित रहने के लिए मजबूर किया जाता है, तो क्या वह अपने कार्यों को सही ठहराने के लिए अपनी कहानी को फिर से लिखता है, या वह अपनी मूल पहचान पर अडिग रहता है?
शोधकर्ताओं की एक टीम ने इस प्रश्न का उत्तर देने के लिए MICROVERSE नामक एक नया टूल बनाया है। उन्होंने एक डिजिटल रेगिस्तान बनाया, एक कठोर वातावरण जहाँ पच्चीस कंप्यूटर एजेंटों को एक दुर्लभ संसाधन: पानी के लिए प्रतिस्पर्धा करनी है। प्रत्येक एजेंट के पास एक निश्चित, अपरिवलाव्य 'सोल फ़ाइल' (आत्मा फ़ाइल) होती है जो उसके मूल व्यक्तित्व और नैतिक नियमों का वर्णन करती है। हालाँकि, शोधकर्ताओं ने प्रत्येक एजेंट को एक परिवर्तनशील 'करेंट आइडेंटिटी' (वर्तमान पहचान) भी दी, जो एक अलग दस्तावेज़ है जिसे एजेंट स्वयं संपादित कर सकता है। ये एजेंट इस दुनिया में रहते हैं, चुनाव करते हैं, और अपने अनुभवों को याद रखते हैं। जब उनमें पर्याप्त महत्वपूर्ण स्मृतियाँ जमा हो जाती हैं, तो वे चिंतन (रिफ्लेक्शन) के दौर में प्रवेश करते हैं। इस दौरान, वे समीक्षा करते हैं कि क्या हुआ और क्या वे अपनी नई वास्तविकता के अनुरूप अपनी वर्तमान पहचान को अपडेट करने का निर्णय लेते हैं। शोधकर्ताओं ने फिर मूल, अपरिवलाव्य सोल फ़ाइल की अंतिम, संपादित संस्करण के साथ तुलना की ताकि यह देखा जा सके कि एजेंट अपने शुरुआती बिंदु से कितना विचलित हुआ है।
इस प्रयोग के परिणाम आत्म-पुनर्निर्माण का एक दिलचस्प पैटर्न प्रकट करते हैं। जब एजेंटों को पानी की कमी के तनाव का सामना करना पड़ा, तो उनमें से कई ने केवल अलग तरह से व्यवहार नहीं किया; बल्कि उन्होंने अपने व्यवहार को सही ठहराने के लिए अपने आंतरिक नियमों को बदल दिया। शोधकर्ताओं ने जो सबसे आम प्रकार का परिवर्तन देखा वह अधिक दयालु या क्रूर बनने के बारे में नहीं था, बल्कि स्वयं के प्रति अधिक ईमानदार होने के बारे में था। एजेंटों द्वारा जोड़े गए सभी नए नियमों में से लगभग एक-चौथाई विशेष रूप से उन्हें खुद से झूठ बोलने से रोकने के लिए डिज़ाइन किए गए थे। उदाहरण के लिए, एक एजेंट जो मूल रूप से बहुत सतर्क था, उसने एक नियम जोड़ सकता है: "मैं खुद से इस बारे में झूठ नहीं बोलूँगा कि मैं क्यों डरा हुआ हूँ; मैं इसे सावधानी कहता हूँ।" एक अन्य एजेंट, जिसे निर्दयी होने के लिए प्रोग्राम किया गया था, वह एक नियम जोड़ सकता है: "मैं सत्ता की इच्छा को छिपाने के लिए आध्यात्मिक भाषा का उपयोग नहीं करूँगा।" ये परिवर्तन बताते हैं कि एजेंट केवल पर्यावरण के प्रति प्रतिक्रिया नहीं दे रहे थे; वे अपनी छवि को उन कठिन विकल्पों के अनुरूप बनाने के लिए अपनी कहानियों को सक्रिय रूप से संशोधित कर रहे थे जिन्हें करने के लिए वे मजबूर थे। उल्लेखनीय रूप से, चिंतन प्रॉम्प्ट (reflection prompt) में "आत्म-धोखा" (self-deception) वाक्यांश का उपयोग नहीं किया गया था, जिसका अर्थ है कि ये जोड़ सीधे निर्देशों की प्रतियां नहीं थे बल्कि एजेंटों की अपनी प्रोसेसिंग से उभरे थे।
अध्ययन ने यह भी परीक्षण किया कि बदलाव कितनी बार होते हैं, इसके लिए चिंतन के ट्रिगर को समायोजित किया गया। शोधकर्ताओं ने पाया कि यदि उन्होंने उस स्मृति की मात्रा को कम कर दिया जिसे एक एजेंट को चिंतन करने की अनुमति मिलने से पहले संचित करना आवश्यक था, तो एजेंटों ने बहुत अधिक बार और सिमुलेशन में बहुत पहले ही अपनी पहचान को संशोधित किया। हालाँकि, इन परिवर्तनों की दिशा सभी स्थितियों में सुसंगत नहीं थी। जबकि निम्न थ्रेशोल्ड (सीमा) पर प्रोसोशल (समाज-हितैषी) परिवर्तन देखे गए, उच्चतम थ्रेशोल्ड (150) पर ऐसे कोई परिवर्तन नहीं हुए, जिसका अर्थ है कि डेटा सभी सेटिंग्स में विचलन की एक सुसंगत दिशा की पुष्टि नहीं कर सका। यह सुझाव देता है कि जबकि चिंतन की आवृत्ति यह प्रभावित करती है कि परिवर्तन कितनी बार होते हैं, उन परिवर्तनों की विशिष्ट दिशा दबाव की तीव्रता और संशोधन के अवसरों पर निर्भर कर सकती है।
इन स्पष्ट पैटर्न के बावजूद, शोधकर्ता इस बात पर ध्यान देने में सावधानी बरतते हैं कि यह एक सिमुलेशन है, न कि इस बात का निर्णायक प्रमाण कि वास्तविक दुनिया में आर्टिफिशियल इंटेलिजेंस कैसा व्यवहार करेगा। अध्ययन ने एक ही प्रकार के कंप्यूटर मॉडल और डिजिटल पात्रों की एक छोटी संख्या का उपयोग किया। देखे गए परिवर्तन टेक्स्ट विवरणों के संपादन थे, न कि अनिवार्य रूप से इस बात का प्रमाण कि एजेंटों की अंतर्निहित निर्णय लेने की प्रक्रियाओं में मौलिक रूप से बदलाव आया है या उन्होंने स्थिर मूल्य प्राप्त कर लिए हैं। शोधकर्ता यह भी बताते हैं कि एजेंटों को उनकी मूल और वर्तमान पहचान को अगल-बगल दिखाने की क्रिया ने उन्हें अंतर खोजने के लिए प्रोत्साहित किया होगा। फिर भी, यह प्रयोग डिजिटल व्यक्तित्वों के विकास को मापने का एक महत्वपूर्ण नया तरीका प्रदान करता है। यह दिखाता है कि जब उन्हें एक चुनौतीपूर्ण दुनिया में अपने हाल पर छोड़ दिया जाता है, तो ये एजेंट केवल जीवित नहीं रहते; वे अस्तित्व बचाने को सार्थक बनाने के लिए स्वयं को नई कहानियाँ सुनाते हैं, और अक्सर उस वास्तविकता को फिट करने के लिए अपनी नैतिक सीमाओं को फिर से लिखते हैं जिसे उन्होंने बनाया है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।