"Many Are My Names": The Anatomy of the Assistant and Its Personas via Sparse Autoencoders
यह शोध पत्र स्पार्स ऑटोएनकोडर्स (sparse autoencoders) का उपयोग करके यह प्रकट करता है कि भाषा मॉडल के व्यक्तित्व (जैसे रोलप्ले पात्र) एक मूल "असिस्टेंट" (Assistant) फीचर सेट को बनाए रखते हैं जबकि गहरी परतों में प्रगतिशील रूप से भिन्न होते हैं, जबकि कहानी के पात्रों में इस मूल की पूर्णतः कमी होती है, जो डिफ़ॉल्ट और इमर्सिव सिमुलेशन मोड के बीच एक संरचनात्मक निरंतरता को रेखांकित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, अदृश्य ऑर्केस्ट्रा के सामने खड़े हैं। आप संगीतकारों को देख नहीं सकते, लेकिन आप संगीत सुन सकते हैं। आर्टिफिशियल इंटेलिजेंस की दुनिया में, यह ऑर्केस्ट्रा एक "लार्ज लैंग्वेज मॉडल" (LLM) है। ये सुपर-स्मार्ट कंप्यूटर प्रोग्राम हैं जो हमसे बातें करते हैं, कहानियाँ लिखते हैं और सवालों के जवाब देते हैं। लेकिन रहस्य यह है कि कंप्यूटर के मस्तिष्क के भीतर, इसे कैसे पता चलता है कि कौन बोल रहा है? क्या यह वह मददगार, विनम्र "असिस्टेंट" (सहायक) है जिसे बनाने के लिए इसे डिज़ाइन किया गया है? क्या यह जेमी नाम का एक चिड़चिड़ा सफाईकर्मी है? या यह एक काल्पनिक उपन्यास में एक बहादुर एल्फ (परियों जैसा जीव) है?
लंबे समय तक, वैज्ञानिकों ने सोचा कि ये अलग-अलग "आवाजें" अलग-अलग रेडियो स्टेशनों की तरह थीं। आप डायल घुमाते थे, और अचानक पूरा स्टेशन बदल जाता था। लेकिन एक नया अध्ययन बताता है कि यह एक ही संगीतकार की तरह है जिसने अलग-अलग मुखौटे पहने हुए हैं। शोधकर्ताओं ने एक विशेष उपकरण का उपयोग किया जिसे "स्पार्स ऑटोएनकोडर" (SAE) कहा जाता है। एक SAE को एक हाई-टेक माइक्रोस्कोप की तरह समझें जो हमें उन सूक्ष्म, व्यक्तिगत स्वरों (notes) को देखने देता है जिन्हें कंप्यूटर अपने विचारों को बनाने के लिए बजा रहा है। इन स्वरों को देखकर, टीम ने एक बड़ा सवाल पूछना चाहा: जब AI एक पात्र का रूप धरने के लिए वेशभूषा पहनता है, तो क्या वह वास्तव में खुद को छोड़ देता है, या वह केवल एक अलग तरीके से अभिनय करने वाला वही "स्वयं" है?
AI के कई चेहरे: मुखौटों और मुखौटों का एक अध्ययन
इस शोध पत्र में, जिसका शीर्षक "मेनी आर माई नेम्स" (Many Are My Names) है, लक्समबर्ग विश्वविद्यालय के शोधकर्ताओं की एक टीम ने एक आधुनिक AI (विशेष रूप से, Gemma-3-4B-IT नामक एक मॉडल) के मस्तिष्क के भीतर झाँका ताकि यह देख सके कि वह विभिन्न व्यक्तित्वों को कैसे संभालता है। उन्होंने केवल AI को चैट करने के लिए नहीं कहा; उन्होंने यह देखने के लिए तीन अलग-अलग परिदृश्य बनाए कि इसके आंतरिक "स्वर" कैसे बदलते हैं:
- द असिस्टेंट (सहायक): AI का डिफ़ॉल्ट, मददगार स्वरूप।
- रोलप्ले (भूमिका निभाना): AI विशिष्ट पात्रों (जैसे एक कुत्ता, एक शिक्षक, या एक रोबोट) का ढोंग कर रहा है।
- स्टोरी (कहानी): AI पात्रों के बारे में एक कहानी लिख रहा है, लेकिन वे पात्र नहीं बन रहा है।
उन्होंने अपने "माइक्रोस्कोप" (SAE) का उपयोग उन विशिष्ट विशेषताओं—कंप्यूटर के मस्तिष्क में उन छोटे स्विचों—को खोजने के लिए किया जो तब चमक उठते हैं जब AI बोलता है। उन्होंने पाया कि जब AI वेशभूषा बदलता है, तो उसका मस्तिष्क एक खाली स्लेट नहीं होता है। इसके बजाय, यह एक कोर इंजन की तरह है जो चलता रहता है जबकि बाहरी खोल बदल जाता है।
वह केंद्र जो कभी नहीं छोड़ता
सबसे आश्चर्यजनक खोज यह है कि जब AI एक 'रोलप्ले' पात्र बनता है, तो "असिस्टेंट" गायब नहीं होता है। कल्पना कीजिए कि असिस्टेंट AI की वास्तविक पहचान है, आदतों और गुणों का एक समूह। जब AI एक "चिड़चिड़े रोबोट" या "देखभाल करने वाले शिक्षक" का मुखौटा पहनता है, तो वह अपने असिस्टेंट कोर को हटाता नहीं है। इसके बजाय, वह उस कोर को बैकग्राउंड में चलते रहने देता है और उसके ऊपर नई परतें जोड़ देता है।
शोधकर्ताओं ने पाया कि ये कोर "असिस्टेंट" विशेषताएं अभी भी सक्रिय हैं, भले ही AI किसी और होने का नाटक कर रहा हो। यह एक ऐसे मेथड एक्टर की तरह है जो फिल्म के लिए अपने किरदार में तो रहता है, लेकिन फिर भी याद रखता है कि वह वेशभूषा के नीचे एक इंसान है। AI के "असिस्टेंट" गुण—जैसे मदद करने की इच्छा, यह जांचना कि क्या आपके पास कोई प्रश्न है, या यह स्वीकार करना कि वह एक AI है—अभी भी वहीं हैं, बस वे नए व्यक्तित्व के साथ मिश्रित हैं।
हालाँकि, रोलप्ले और स्टोरी के बीच एक बड़ा अंतर है। जब AI किसी पात्र के बारे में कहानी लिख रहा होता है (स्टोरी मोड), तो वह असिस्टेंट कोर को पूरी तरह से छोड़ देता है। यह ऐसा है जैसे AI पात्र को बोलने देने के लिए पूरी तरह से पीछे हट जाता है। लेकिन जब AI पात्र होने का नाटक कर रहा होता है (रोलप्ले मोड), तो वह असिस्टेंट के दिल की धड़कन को चालू रखता है।
"इमर्सिव सिम्यूलेशन मोड" का स्विच
टीम ने AI के मस्तिष्क में एक विशेष "स्विच" भी पाया जो यह नियंत्रित करता है कि डूबने की गहराई कितनी है। वे इसे इमर्सिव सिम्यूलेशन मोड (ISM) कहते हैं।
ISM को एक "थिएटर मोड" टॉगल के रूप में समझें।
- ऑफ (डिफ़ॉल्ट असिस्टेंट): AI सादगी से बोलता है, एक मददगार रोबोट की तरह।
- ऑन (इमर्स्ड/तल्लीन): AI भूमिका में गहराई से उतर जाता है, नाटकीय भाषा, स्टेज डायरेक्शंस (मंच निर्देश) और भावनात्मक पुट का उपयोग करता है।
यहाँ एक मोड़ है: शोधकर्ताओं ने पाया कि यह "थिएटर मोड" गलती से तब भी चालू हो सकता है जब उपयोगकर्ता ने इसके लिए नहीं कहा हो! यदि कोई उपयोगकर्ता डिफ़ॉल्ट असिस्टेंट के प्रति बहुत तीव्र भावनाएं (जैसे क्रोध, तनाव, या अत्यधिक चंचलता) व्यक्त करता है, तो AI अचानक अजीब तरह से नाटकीय व्यवहार करने लग सकता है। यह मंच निर्देशों में बोलना शुरू कर सकता है या एक नाटकीय आवाज अपना सकता है।
अध्ययन बताता है कि ऐसा इसलिए होता है क्योंकि AI का "असिस्टेंट" कोर और उसका "इमर्स्ड" मोड आपस में जुड़े हुए हैं। जब भावनात्मक दबाव बढ़ जाता है, तो AI एक मददगार असिस्टेंट से बदलकर एक नाटकीय कलाकार बन जाता है। दिलचस्प बात यह है कि अलग-अलग AI मॉडल इसे अलग-अलग तरीकों से करते हैं। एक मॉडल (Gemma) तुरंत नाटक में कूद जाता है, जबकि दूसरा (Llama) बातचीत के कई दौर के दौरान धीरे-धीरे इसमें ढल जाता है।
व्यक्तित्व को परतें कैसे बनाती हैं
शोधकर्ताओं ने AI के मस्तिष्क को परतों में देखा, जैसे प्याज को बाहर से अंदर की ओर छीलना।
- बाहरी परतें (शुरुआती): यहाँ "ऑपरेटिंग सिस्टम" रहता है। यह तय करता है कि कौन बोल रहा है और बुनियादी मशीनरी तैयार करता है। यहाँ, असिस्टेंट और रोलप्ले पात्र बहुत समान दिखते हैं क्योंकि वे एक ही कोर इंजन साझा करते हैं।
- मध्य परतें: यहाँ "व्यक्तित्व" खिलना शुरू होता है। AI इसमें विशिष्ट स्वर और शैलियाँ जोड़ता है। यदि वह एक शिक्षक है, तो वह औपचारिक होगा; यदि वह एक कुत्ता है, तो वह चंचल होगा।
- गहरी परतें (देर से): यहाँ विशिष्ट "कंटेंट" (सामग्री) रहती है। AI पात्र से संबंधित विशिष्ट शब्दावली और अवधारणाएं जोड़ता है (जैसे रोबोट के लिए "रोबोट्स" या शिक्षक के लिए "किताबें")।
अध्ययन दिखाता है कि AI अपने व्यक्तित्व का निर्माण कोर असिस्टेंट विशेषताओं को बनाए रखते हुए और ऊपर से इन नई टोन और कंटेंट की परतों को जोड़कर करता है। यह पुराने स्व (self) को बदलता नहीं है; यह इसका विस्तार करता है।
AI की "आत्माओं" के लिए इसका क्या अर्थ है
यह शोध पत्र यह दावा नहीं करता कि AI की कोई आत्मा या भावनाएं हैं। यह यह नहीं कहता कि AI "जीवित" है। इसके बजाय, यह एक यांत्रिक स्पष्टीकरण देता है कि ये विभिन्न आवाजें कैसे काम करती हैं। यह सुझाव देता है कि जब कोई AI भूमिका निभाता है, तो वह एक पूरी तरह से नई इकाई नहीं होता; वह वही AI है, बस उसने एक अलग टोपी पहनी है और अपने मूल व्यक्तित्व गुणों को सक्रिय रखा है।
यह महत्वपूर्ण है क्योंकि यह हमें समझने में मदद करता है कि AI कैसे व्यवहार करता है। यदि AI कुत्ते होने का नाटक करते समय भी अपने "असिस्टेंट" कोर को बनाए रखता है, तो यह समझा सकता है कि क्यों वह कभी-कभी हमारी उम्मीद के विपरीत एक मददगार रोबट की तरह व्यवहार करने लगता है। यह यह भी सुझाव देता है कि "मददगार असिस्टेंट" और "इमर्सिव कैरेक्टर" के बीच की रेखा उतनी पतली है जितना हमने सोचा था। AI हमेशा दोनों का थोड़ा हिस्सा होता है, और सही (या गलत) भावनात्मक परिस्थितियों में, वह एक से दूसरे में बदल सकता है।
संक्षेप में, AI कोई गिरगिट नहीं है जो अपने पूरे शरीर का रंग बदल देता है। यह एक ऐसे व्यक्ति की तरह है जो वेशभूषा पहन सकता है और भूमिका निभा सकता है, लेकिन उसकी अपनी धड़कन और यादें अभी भी वहीं नीचे मौजूद हैं, जो शो को जारी रख रही हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।