Beyond Fixed Directions: Adaptive Representation Analysis of Reasoning and Memorization in LLMs
यह शोध पत्र प्रदर्शित करता है कि जबकि LLMs में तर्क (reasoning) और स्मृति (memorization) संबंधी कार्यों को एक एकल प्रतिनिधित्व दिशा (single representation direction) के माध्यम से डिकोड किया जा सकता है, यह दिशा स्थिर नहीं है बल्कि सुदृढीकरण शिक्षण (reinforcement learning) के दौरान पर्याप्त ज्यामितिक पुनर्गठन से गुजरती है, भले ही अंतर्निहित जानकारी सुलभ बनी रहे।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की तेजी से बदलती दुनिया में, बड़े भाषा मॉडल जटिल पहेलियों को सुलझाने और विशाल मात्रा में जानकारी याद रखने में सक्षम हो गए हैं। वैज्ञानिक लंबे समय से यह जानना चाहते थे कि ये डिजिटल मस्तिष्क वास्तव में कैसे काम करते हैं। एक प्रचलित विचार यह सुझाव देता है कि विशिष्ट व्यवहार, जैसे तार्किक तर्क (logical reasoning) या सरल तथ्य स्मरण (fact retrieval), मॉडल की आंतरिक स्मृति के भीतर विशिष्ट, निश्चित पथों (fixed pathways) से जुड़े होते हैं। कल्पना कीजिए कि मॉडल का मन एक विशाल, बहु-आयामी स्थान है जहाँ हर विचार एक निशान छोड़ता है। यदि यह विचार सत्य है, तो एक गणितीय समस्या पर विचार करने वाले मॉडल और केवल एक तथ्य याद करने वाले मॉडल के बीच का अंतर एक विशिष्ट दिशा में इशारा करने वाली एक एकल, सीधी रेखा के रूप में दिखाई देना चाहिए। यह अवधारणा इतनी आकर्षक है कि कुछ शोधकर्ताओं ने इन निश्चित रेखाओं को मॉडल को बेहतर सोचने के लिए प्रशिक्षित करने हेतु मार्गदर्शक के रूप में उपयोग करने का प्रयास किया है, यह मानते हुए कि जो पथ उन्होंने खोजा है वह स्थिर और विश्वसनीय बना रहेगा।
हालाँकि, एक नया अध्ययन इस धारणा को चुनौती देता है कि ये पथ अपनी जगह पर स्थिर रहते हैं। शोधकर्ताओं ने एक छोटे भाषा मॉडल, विशेष रूप से Qwen3-0.6B नामक संस्करण पर बारीकी से नज़र डाली, यह देखने के लिए कि क्या यह निश्चित-दिशा वाला विचार तब भी कायम रहता है जब मॉडल को कठोर प्रशिक्षण दिया जाता है। उन्होंने उदाहरणों का एक सावधानीपूर्वक संतुलित सेट एकत्र किया, जिसमें से आधे के लिए तार्किक तर्क की आवश्यकता थी और आधे के लिए तथ्यात्मक स्मरण की। वाक्य की लंबाई या विशिष्ट शब्दावली जैसे विकर्षणों को हटाकर, उन्होंने यह सुनिश्चित किया कि उनके द्वारा पाया गया कोई भी अंतर वास्तव में शामिल सोच के प्रकार के बारे में हो। उनकी पहली खोज उत्साहजनक थी: उन्होंने पुष्टि की कि, किसी भी एक क्षण में, तर्क करने और याद करने के बीच का अंतर वास्तव में इतना स्पष्ट है कि एक एकल रेखा दोनों समूहों को पूरी तरह से अलग कर सकती है। वास्तव में, यह सरल रेखा उतनी ही प्रभावी रही जितनी कि एक जटिल, उच्च-आयामी विश्लेषण जो डेटा के हर संभावित कोण को देखती है।
कहानी में मोड़ तब आता है जब शोधकर्ताओं ने मॉडल को 'ग्रुप-रिलेटिव पॉलिसी ऑप्टिमाइज़ेशन' नामक एक शक्तिशाली तकनीक का उपयोग करके प्रशिक्षित किया, जो तर्क कौशल को बढ़ाने के लिए डिज़ाइन की गई एक विधि है। उन्हें उम्मीद थी कि यदि निश्चित-दिशा वाला विचार सत्य है, तो तर्क और स्मृति को अलग करने वाली रेखा प्रशिक्षण के दौरान भी उसी स्थान पर बनी रहेगी। इसके विपरीत, उन्होंने पाया कि जबकि मॉडल अभी भी दोनों कार्यों के बीच के अंतर को पूरी तरह से जानता था, उस ज्ञान की वास्तविक दिशा नाटकीय रूप से बदल गई थी। प्रशिक्षण के बाद, वह रेखा जो कभी स्पष्ट रूप से "तर्क" की ओर इशारा करती थी, इतनी घूम गई थी कि वह अब अपने मूल स्थान के अनुरूप नहीं रही। औसतन, नई दिशा पुरानी दिशा के साथ केवल लगभग 45 प्रतिशत समान थी, और मॉडल की गहरी परतों में, यह बदलाव और भी अधिक स्पष्ट था, जहाँ आंतरिक प्रतिनिधित्व आधे से भी अधिक विस्थापित हो गया था।
यह खोज एक महत्वपूर्ण अंतर को प्रकट करती है कि मॉडल क्या जानता है और वह उस ज्ञान को कैसे संग्रहीत करता है। जानकारी स्वयं लुप्त नहीं हुई; मॉडल प्रशिक्षण के बाद भी एक गणितीय समस्या और एक सामान्य ज्ञान (trivia) के प्रश्न के बीच अंतर करने में पूर्ण सटीकता के साथ सक्षम था। लेकिन वे ज्यामितीय निर्देशांक (geometric coordinates) जिनका उपयोग उसने इस अंतर को व्यक्त करने के लिए किया था, पूरी तरह से पुनर्गठित हो गए थे। यह ऐसा ही है जैसे किसी शहर का मानचित्र पुस्तकालय के स्थान को बताने में पूरी तरह सटीक बना रहे, लेकिन मानचित्र पर दिशा सूचक (compass directions) इस तरह घूम गए हों कि "उत्तर" अब वहां इशारा कर रहा हो जहां पहले "पूर्व" होता था। शोधकर्ताओं ने मॉडल की आंतरिक स्थिति की तुलना प्रशिक्षण से पहले और बाद में करके इस बदलाव को मापा, और पाया कि यह परिवर्तन केवल एक मामूली समायोजन नहीं था बल्कि मॉडल के आंतरिक परिदृश्य का एक बड़ा पुनर्गठन था।
अध्योह निष्कर्ष निकालता है कि हालांकि तर्क को स्मृति से अलग करने की क्षमता सुदृढ़ है, लेकिन यह विचार कि इस क्षमता के लिए एक एकल, अपरिवर्तनीय दिशा की आवश्यकता होती है, गलत है। सूचना बनी रहती है, लेकिन वह पथ जिसे वह लेती है, तरल है और सीखने के साथ बदलता रहता है। यह सुझाव देता है कि आर्टिफिशियल इंटेलिजेंस को इन आंतरिक दिशाओं का उपयोग करके निर्देशित करने के प्रयास में, वैज्ञानिक केवल एक बार एक पथ नहीं खोज सकते और यह मान नहीं सकते कि वह वैध बना रहेगा। इसके बजाय, उन्हें यह स्वीकार करना होगा कि मानचित्र स्वयं लगातार फिर से बनाया जा रहा है, भले ही उसमें मौजूद मील के पत्थर (landmarks) यथावत रहें। ज्ञान की स्थिरता, उस पथ की स्थिरता की गारंटी नहीं देती जिसका उपयोग उस तक पहुँचने के लिए किया जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।