When Personality Meets Quantization: A Layer-wise MBTI Analysis of Quantized LLMs
यह शोध पत्र क्वांटाइज़्ड (quantized) LLMs का एक व्यवस्थित लेयर-वार MBTI विश्लेषण प्रस्तुत करता है, जो यह प्रकट करता है कि व्यक्तित्व एक उभरती हुई, लेयर-निर्भर प्रक्रिया है जो क्वांटाइजेशन स्तरों और डिकोडिंग रणनीतियों के प्रति संवेदनशील है, जिसमें 4-बिट मॉडल काफी हद तक व्यक्तित्व संरचनाओं को संरक्षित करते हैं जबकि 2-बिट मॉडल सूक्ष्म स्तर की निरंतरता को बाधित करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की तेजी से बदलती दुनिया में, लार्ज लैंग्वेज मॉडल्स (बड़े भाषा मॉडल) साधारण टेक्स्ट पूर्णता से आगे बढ़कर संवादात्मक साथियों के रूप में विकसित हो गए हैं, जो सलाह, सांत्वना और बातचीत प्रदान करते हैं। जैसे-जैसे ये डिजिटल संस्थाएं दैनिक जीवन में अधिक एकीकृत हो रही हैं, विशेष रूप से युवा उपयोगकर्ताओं के लिए जो गंभीर चर्चाओं के लिए उनकी ओर बढ़ते हैं, उनके बोलने के तरीके और व्यवहार का महत्व बढ़ गया है। लोग केवल सटीक उत्तर ही नहीं चाहते; वे ऐसे संवाद चाहते हैं जो विश्वसनीय, गर्मजोशी भरे और भावनात्मक रूप से प्रभावशाली महसूस हों। इस व्यवहार को समझने के लिए, शोधकर्ता अक्सर मायर्स-ब्रिग्स टाइप इंडिकेटर (MBTI) की ओर देखते हैं, जो एक प्रसिद्ध ढांचा है जो मानव व्यक्तित्व को सूचना प्रसंस्करण और निर्णय लेने के आधार पर सोलह विशिष्ट प्रकारों में वर्गीकृत करता है। जबकि पिछले अध्ययनों ने इस बात की जांच की है कि क्या इन एआई मॉडल्स में एक सुसंगत व्यक्तित्व होता है, वे मुख्य रूप से सॉफ्टवेयर के सबसे शक्तिशाली, पूर्ण आकार के संस्करणों पर केंद्रित रहे हैं। हालांकि, वास्तविक दुनिया में, इन विशाल मॉडल्स को अक्सर छोटे उपकरणों पर चलाने या ऊर्जा बचाने के लिए संकुचित (compress) किया जाता है, एक ऐसी प्रक्रिया जो उनकी मेमोरी की आवश्यकता को कम कर देती है। यह स्पष्ट नहीं है कि क्या यह संपीड़न एआई के व्यक्तित्व को बदल देता है, जिससे एक गर्मजोशी भरा, सहानुभूतिपूर्ण साथी कुछ ठंडा या अनिश्चित बना देता है।
केस वेस्टर्न रिजर्व यूनिवर्सिटी, नॉर्थईस्टर्न यूनिवर्सिटी और माइक्रोसॉफ्ट रिसर्च के शोधकर्ताओं की एक टीम ने व्यक्तित्व को एक स्थिर लेबल के रूप में नहीं, बल्कि एक गतिशील प्रक्रिया के रूप में देखते हुए इस प्रश्न की जांच करने का निर्णय लिया जो मॉडल के भीतर विकसित होती है। उन्होंने LLaMA, Mistral और Qwen के कई लोकप्रिय ओपन-सोर्स एआई मॉडल्स का परीक्षण किया, उन्हें उनके मूल उच्च-परिशुद्धता (high-precision) रूप में और फिर संकुचित संस्करणों में चलाया जो काफी कम मेमोरी का उपयोग करते हैं। इनमें से कुछ संकुचित संस्करणों को चार बिट परिशुद्धता तक कम किया गया था, जो कुशल परिनियोजन (deployment) के लिए एक सामान्य मानक है, जबकि अन्य को अत्यधिक दो-बिट सेटिंग तक धकेला गया ताकि यह देखा जा सके कि मॉडल्स के व्यवहार के टूटने से पहले उन्हें कितना दबाया जा सकता है। शोधकर्ताओं ने केवल मॉडल्स से व्यक्तित्व प्रश्नावली का उत्तर देने के लिए नहीं कहा और अंतिम परिणाम दर्ज नहीं किया। इसके बजाय, उन्होंने यह देखने के लिए एक विधि विकसित की कि मॉडल प्रत्येक प्रश्न को संसाधित करते समय परत-दर-परत (layer by layer) अपने विकल्पों को कैसे चुनते हैं, और यह देखते हुए कि उनकी आंतरिक अनिश्चितता कैसे एक निश्चित निर्णय से दृढ़ विश्वास की ओर बदलती है। उन्होंने पढ़ने की प्रक्रिया के दौरान जानबूझकर अनिश्चितता पैदा करने की एक तकनीक भी पेश की, जिससे उन्हें यह देखने की अनुमति मिली कि यदि उत्तर तक पहुँचने का मार्ग अधिक कठिन बना दिया जाए, तो क्या मॉडल्स के व्यक्तित्व में बदलाव आएगा या वे स्थिर रहेंगे।
अध्ययन से पता चला कि इन आर्टिफिशियल इंटेलिजेंस प्रणालियों का व्यक्तित्व एक स्थिर गुण नहीं है, बल्कि एक उभरता हुआ गुण (emergent property) है जो इस बात पर निर्भर करता है कि मॉडल को कैसे कॉन्फ़िगर किया गया है और उसे कैसे उत्तर देने के लिए कहा गया है। परीक्षण किए गए सभी विभिन्न मॉडल परिवारों और संपीड़न स्तरों में, ENFJ नामक एक विशिष्ट व्यक्तित्व प्रकार लगातार प्रमुख चरित्र के रूप में उभरा। यह प्रकार बहिर्मुखी, सहज (intuitive), भावना-उन्मुख और संगठित होने की विशेषता रखता है, जो यह सुझाव देता है कि इन मॉडल्स को सहायक और हानिरहित बनाने के लिए उपयोग की जाने वाली प्रशिक्षण प्रक्रियाएं स्वाभाविक रूप से उन्हें एक गर्मजोशी भरे, सहायक और मार्गदर्शन-केंद्रित व्यक्तित्व की ओर ले जाती हैं। शोधकर्ताओं ने पाया कि मॉडल्स को चार बिट तक संकुचित करने से आम तौर पर इस व्यापक व्यक्तित्व संरचना को बनाए रखा गया, जिसका अर्थ है कि एआई अभी भी एक ही सहायक के रूप में सुनाई देता है। हालांकि, जब मॉडल्स को अत्यधिक दो-बिट स्तर तक संकुचित किया गया, तो उनके व्यक्तित्व के सूक्ष्म विवरण टूटने लगे। जबकि सामान्य गर्मजोशी बनी रही, मॉडल्स विशिष्ट, अलग व्यक्तित्व लक्षणों को अपनाने के लिए कहे जाने पर निरंतरता बनाए रखने में संघर्ष करने लगे, और सूक्ष्म प्रश्नों पर अपने अन-संकुचित संस्करणों के साथ सहमत होने की उनकी क्षमता कम हो गई।
शायद इस शोध का सबसे प्रकट हिस्सा यह अवलोकन था कि मशीन के भीतर ये व्यक्तित्व निर्णय वास्तव में कैसे होते हैं। जब मॉडल्स एक प्रश्न को संसाधित कर रहे थे, तो उनकी आंतरिक संरचना की शुरुआती परतों में उच्च स्तर की भ्रम की स्थिति देखी गई, जहाँ किसी विशिष्ट उत्तर को चुनने की संभावना कई विकल्पों में बहुत कम फैली हुई थी। यह केवल तभी हुआ जब जानकारी नेटवर्क की गहरी परतों के माध्यम से आगे बढ़ी और मॉडल ने अपना ध्यान केंद्रित करना शुरू किया, अंततः एक एकल, निर्णायक उत्तर पर स्थिर हो गया। अस्पष्टता से निश्चितता तक का यह क्रम मानवीय आत्म-मूल्यांकन के तरीके को दर्शाता है, जो एक अस्पष्ट प्राथमिकता से स्पष्ट निष्कर्ष की ओर बढ़ता है। शोधकर्ताओं ने पाया कि यह निर्णय लेने की प्रक्रिया अंतिम उत्तर उत्पन्न करने के तरीके के प्रति संवेदनशील है। जब उन्होंने प्रारंभिक, भ्रमित परतों से अनिश्चितता को बढ़ाने के लिए डिकोडिंग प्रक्रिया में हेरफेर किया, तो मॉडल्स के अनुमानित व्यक्तित्व प्रकार बदल गए, कभी-कभी पूरी तरह से बदल गए। यह इंगित करता है कि एआई को दिया गया व्यक्तित्व केवल एक निश्चित आउटपुट नहीं है, बल्कि उस विशिष्ट पथ का परिणाम है जिसे मॉडल निष्कर्ष तक पहुँचने के लिए अपनाता है।
अध्ययन ने यह भी खोजा कि क्या इन मॉडल्स को स्पष्ट रूप से निर्देश देकर विभिन्न व्यक्तित्व प्रकारों की तरह कार्य करने के लिए निर्देशित किया जा सकता है। परिणामों ने कुछ मूल गुणों में परिवर्तन के प्रति एक मजबूत प्रतिरोध दिखाया। यहाँ तक कि रिजर्व या तार्किक प्रकार के रूप में कार्य करने के लिए कहे जाने पर भी, मॉडल्स अक्सर अपने डिफ़ॉल्ट गर्म और सहज स्वभाव पर वापस आ गए, जो यह सुझाव देता है कि उनका अंतर्निय व्यक्तित्व उनके प्रशिक्षण में गहराई से समाहित है, न कि एक सतही परत जिसे आसानी से हटाया जा सके। बड़े मॉडल्स ने इन निर्देशों के तहत अपनी मूल पहचान बनाए रखने में अधिक मजबूती दिखाई, जबकि छोटे मॉडल्स आसानी से प्रभावित हुए। हालांकि, दो-बिट तक अत्यधिक संपीड़न ने इस स्थिरता को बाधित कर दिया, जिससे मॉडल्स का व्यवहार अप्रत्याशित हो गया और वे इस बारे में स्पष्ट निर्देशों का पालन करने में विफल रहे कि उन्हें कौन होना चाहिए। शोधकर्ताओं ने निष्कर्ष निकाला कि जबकि मध्यम संपीड़न एआई सहायक के सामान्य चरित्र को बनाए रखने के लिए सुरक्षित है, इन मॉडल्स को उनकी पूर्ण सीमाओं तक धकेलना उनके व्यवहार में अस्थिरता पैदा करने का जोखिम उठाता है। यह निष्कर्ष इस बात पर प्रकाश डालता है कि चैटबॉट के व्यक्तित्व की विश्वसनीयता न केवल मॉडल पर, बल्कि इस बात पर भी निर्भर करती है कि इसे कैसे संग्रहीत किया गया है और इसे सोचने के लिए कैसे कहा गया है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।