RACE: Scalable Statistical Estimation of Functional Consistency in LLM Neurons
यह शोध पत्र RACE को प्रस्तुत करता है, जो एक गणनात्मक रूप से कुशल फॉरवर्ड-पास सांख्यिकीय ढांचा है जो ट्रांसफॉर्मर न्यूरॉन्स की डोमेन-व्यापी कार्यात्मक निरंतरता का मूल्यांकन करता है, और मौजूदा ग्रेडिएंट-आधारित विधियों की तुलना में बेहतर स्केलेबिलिटी और विशिष्टता प्रदर्शित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक आर्टिफिशियल इंटेलिजेंस के विशाल, डिजिटल मस्तिष्क के भीतर, एक छिपी हुई गतिविधि की परत मौजूद है जिसका मानचित्रण शोधकर्ता अभी बस शुरू ही कर रहे हैं। ये सिस्टम, जिन्हें लार्ज लैंग्वेज मॉडल्स (बड़े भाषा मॉडल) के रूप में जाना जाता है, इंसानों की तरह वाक्यों या अनुच्छेदों में नहीं सोचते हैं। इसके बजाय, वे अरबों छोटे, आपस में जुड़े हुए स्विचों के माध्यम से सूचना को संसाधित करते हैं जिन्हें न्यूरॉन्स कहा जाता है। जब आप किसी कंप्यूटर को कविता लिखने, गणित की समस्या हल करने, या कोड की एक लाइन को डीबग करने के लिए कहते हैं, तो इन न्यूरॉन्स के विशिष्ट समूह इस कार्य को करने के लिए सक्रिय होते हैं। वर्षों से, वैज्ञानिक इस बात को समझने के लिए संघर्ष कर रहे हैं कि कौन से न्यूरॉन्स किन कार्यों के लिए जिम्मेदार हैं। कठिनाई इस प्रक्रिया के पैमाने में निहित है; ये मॉडल इतने जटिल हैं कि उन्हें काम करते देखना अक्सर एक एकल स्ट्रीटलाइट को देखकर पूरे शहर को समझने की कोशिश करने जैसा लगता है। सही स्विच खोजने के पिछले तरीके या तो व्यावहारिक होने के लिए बहुत धीमे थे या वे व्यक्तिगत क्षणों पर इतने केंद्रित थे कि वे इस बात के बड़े चित्र को चूक गए कि सिस्टम समय के साथ कैसे व्यवहार करता है।
शोधकर्ताओं की एक टीम ने अब इन डिजिटल मस्तिष्कों को सुनने का एक नया तरीका पेश किया है, जिसे वे RACE नाम देते हैं। पूरे सिस्टम को रिवर्स-इंजीनियर करने या हर एक कनेक्शन के प्रभाव की गणना करने के बजाय, यह दृष्टिकोण मॉडल की आंतरिक गतिविधि को एक सांख्यिकीय पैटर्न के रूप में मानता है। शोधकर्ताओं ने महसूस किया कि एक विशिष्ट उद्देश्य की सेवा करने वाले न्यूरॉन्स, जैसे कि पायथन कोड लिखना या बीजगणित हल करना, केवल बेतरतीब ढंग से सक्रिय नहीं होते हैं। इसके बजाय, वे उस विशिष्ट प्रकार के कार्य को किए जाने पर मॉडल की आंतरिक स्थिति में एक सुसंगत, स्थिर तरीके से योगदान देते हैं। हजारों उदाहरणों में इन सुसंगत योगदानों को ट्रैक करके, टीम यह पहचान सकती है कि कौन से न्यूरॉन्स किसी दिए गए काम के लिए वास्तविक विशेषज्ञ हैं। यह उस न्यूरॉन को खोजने के बारे में नहीं है जो एक बार सक्रिय होता है और फिर भूल जाता है; यह उन न्यूरॉन्स को खोजने के बारे में है जो हर बार मॉडल से कुछ विशिष्ट करने के लिए कहा जाने पर विश्वसनीय रूप से उपस्थित होते हैं।
इस खोज का मूल तत्व वैज्ञानिकों द्वारा महत्व को मापने के तरीके में बदलाव है। पुराने तकनीकें अक्सर जटिल गणनाओं पर निर्भर करती थीं जिनमें कंप्यूटर को अपने स्वयं के तर्क के माध्यम से पीछे की ओर चलना पड़ता था, जो एक अत्यंत धीमी और कम्प्यूटेशनल रूप से महंगी प्रक्रिया थी। नई विधि, RACE, एक सिंगल फॉरवर्ड पास (एकल अग्रगामी पथ) में काम करती है, यह देखती है कि मॉडल सूचना को कैसे संसाधित करता है क्योंकि वह स्वाभाविक रूप से शुरुआत से अंत तक बहती है। यह देखता है कि प्रत्येक न्यूरॉन मॉडल की आंतरिक मेमोरी स्ट्रीम में क्या सूक्ष्म अपडेट करता है। यदि कोई न्यूरॉन लगातार मॉडल की सोच को एक विशिष्ट कार्य के लिए सही दिशा में धकेलता है, तो उसे उच्च स्कोर मिलता है। यदि उसका व्यवहार अनिश्चित है या यदि वह केवल कुछ दुर्लभ अवसरों पर ही मदद करता है, तो उसे अनदेखा कर दिया जाता है। यह शोधकर्ताओं को हर संभावित परिणाम की गणना किए बिना मॉडल की क्षमताओं का एक विश्वसनीय मानचित्र बनाने की अनुमति देता है।
यह जांचने के लिए कि क्या यह मानचित्र सटीक था, शोधकर्ताओं ने कई अलग-अलग लार्ज लैंग्वेज मॉडल्स पर नियंत्रित प्रयोग किए, जिनमें छोटे 4-बिलियन-पैरामीटर वाले मॉडल्स से लेकर विशाल 32-बिलियन-पैरामीटर वाले मॉडल्स तक शामिल थे। उन्होंने तीन अलग-अलग क्षेत्रों पर ध्यान केंद्रित किया: कंप्यूटर कोड लिखना, गणितीय समस्याओं को हल करना, और विशिष्ट व्यवहारों को नियंत्रित करना जैसे कि वाक्य संरचना के एक विशेष प्रकार का उपयोग करना। प्रत्येक मामले में, उन्होंने किसी दिए गए कार्य के लिए जिम्मेदार शीर्ष न्यूरॉन्स की पहचान करने के लिए RACE पद्धति का उपयोग किया। फिर, उन्होंने एक नाजुक ऑपरेशन किया: उन्होंने काम करते समय उन विशिष्ट न्यूरॉन्स को अस्थायी रूप से शांत (साइलेंस) कर दिया।
परिणाम चौंकाने वाले थे। जब शोधकर्ताओं ने कोडिंग कार्यों के लिए पहचाने गए न्यूरॉन्स को म्यूट किया, तो सही कोड लिखने की मॉडल की क्षमता काफी कम हो गई, जबकि सामान्य प्रश्नों के उत्तर देने या गणित की समस्याओं को हल करने की उसकी क्षमता काफी हद तक बरकरार रही। यही बात गणित के लिए भी सच थी; गणित वाले न्यूरॉन्स को शांत करने से मॉडल की तर्क करने की क्षमता बाधित हुई, लेकिन इसकी सामान्य भाषा क्षमताओं को प्रभावित नहीं किया। इसने पुष्टि की कि पद्धति ने सफलतापूर्वक उन विशिष्ट घटकों को अलग कर लिया है जो इन कौशलों के लिए जिम्मेदार हैं। इसके विपरीत, जब उन्होंने न्यूरॉन्स को चुनने के लिए पुराने, कम सटीक तरीकों का उपयोग किया, तो नुकसान व्यापक था, जिसने केवल एक कौशल को लक्षित करने के बजाय मॉडल के प्रदर्शन को समग्र रूप से प्रभावित किया।
दो मुख्य प्रकार के न्यूरॉन्स के बीच का अंतर सबसे महत्वपूर्ण निष्कर्षों में से एक था। शोधकर्ताओं ने पाया कि गणितीय तर्क और कोडिंग के लिए जिम्मेदार न्यूरॉन्स अत्यधिक विशिष्ट थे और कार्यों के बीच शायद ही कभी साझा किए जाते थे। हालांकि, अटेंशन (ध्यान) में शामिल न्यूरॉन्स, जो मॉडल का वह हिस्सा है जो यह तय करता है कि किन शब्दों पर ध्यान केंद्रित करना है, बहुत अधिक सामान्य थे। ये अटेंशन न्यूरॉन्स पुन: प्रयोज्य उपकरण प्रतीत होते थे जो मॉडल को कविता लिखने से लेकर समीकरणों को हल करने तक लगभग हर चीज़ में मदद करते थे। यह अंतर स्पष्ट करता है कि मॉडल के कुछ हिस्सों को क्यों संशोधित करना या हटाना दूसरों की तुलना में आसान है; विशिष्ट भाग एक वर्कशॉप के समर्पित उपकरणों की तरह हैं, जबकि अटेंशन भाग उन्हें पकड़ने वाले हाथों की तरह हैं।
शोधकर्ताओं ने यह भी खोजा कि उनकी विधि अविश्वसनीय रूप से कुशल थी। जबकि पिछली तकनीकों के लिए न्यूरॉन्स को स्कोर करने के लिए कंप्यूटर को मॉडल को एक सौ चौहत्तर बार चलाने के बराबर गणना करने की आवश्यकता थी, नई विधि को एक पूर्ण रन से भी कम की आवश्यकता थी। यह गति इससे कहीं बड़े मॉडल्स का विश्लेषण और ऑडिट करना संभव बनाती है। इसका अर्थ यह भी है कि भविष्य में, डेवलपर्स इस तकनीक का उपयोग मॉडल्स को फाइन-ट्यून करने के लिए कर सकते हैं, जिससे पूरे सिस्टम को फिर से प्रशिक्षित किए बिना अवांछित व्यवहारों को हटाया जा सकता है या विशिष्ट कौशलों को बढ़ाया जा सकता है।
अध्ययन ने यह भी देखा कि विशिष्ट न्यूरॉन्स कैसे व्यवहार करते हैं जब मॉडल को उस चीज़ से थोड़ा अलग कार्य करने के लिए कहा जाता है जिस पर उसे प्रशिक्षित किया गया था। जब शोधकर्ताओं ने मॉडल का नए, अनदेखे गणितीय प्रश्नों पर परीक्षण किया, तो RACE द्वारा पहचाने गए न्यूरॉन्स को शांत करने पर प्रदर्शन में महत्वपूर्ण गिरावट आई। यह सुझाव देता है कि पद्धति कौशल के मौलिक तंत्र को पाती है, न कि केवल विशिष्ट प्रश्नों के सेट के लिए रटे हुए पैटर्न को। ज्ञान को सामान्य बनाने (जनरलाइज करने) की मॉडल की क्षमता इन्हीं समान स्थिर न्यूरॉन्स पर निर्भर करती है।
शायद सबसे सूक्ष्म खोज मॉडल की विशिष्ट शैलीगत विकल्पों का उपयोग करने की क्षमता से जुड़ी थी, जैसे कि पायथन कोड लिखना जो सूची के एक विशेष प्रकार का उपयोग करता है। शोधकर्ताओं ने सिस्टम को इस विशिष्ट शैली को पहचानने के लिए प्रशिक्षित किया और फिर संबंधित न्यूरॉन्स को शांत कर दिया। परिणाम यह था कि मॉडल अभी भी कोड लिख सकता था, लेकिन उसने लगभग पूरी तरह से उस विशिष्ट शैली का उपयोग करना बंद कर दिया, भले ही वह अन्य तरीकों से सही कोड लिख सकता था। यह स्तर की सटीकता बताती है कि यह पद्धति बहुत संकीर्ण व्यवहारों को अलग कर सकती है, जो मॉडल के आउटपुट को सर्जिकल सटीकता के साथ निर्देशित करने का एक तरीका प्रदान करती है।
शोधकर्ता स्वीकार करते हैं कि उनकी पद्धति हर समस्या के लिए पूर्ण समाधान नहीं है। उन्होंने पाया कि यह उन हिस्सों के लिए सबसे अच्छा काम करती है जो सूचना को सीधे, योगात्मक (एडिटिव) तरीके से संसाधित करते हैं, लेकिन यह अटेंशन मैकेनिज्म में होने वाली अधिक जटिल, ओवरलैपिंग इंटरैक्शन को मैप करने में कम प्रभावी है। वे यह भी नोट करते हैं कि यह पद्धति रैखिक (लीनियर) पैटर्न पर निर्भर करती है, जिसका अर्थ है कि यह न्यूरॉन्स के मिलकर काम करने के अधिक जटिल, गैर-रैखिक तरीकों को मिस कर सकती है। हालांकि, परीक्षण किए गए अधिकांश कार्यों के लिए, दृष्टिकोण ने मॉडल के काम करने के तरीके को समझने का एक स्पष्ट, विश्वसनीय और तेज़ तरीका प्रदान किया।
यह कार्य 'मैकेनिस्टिक इंटरप्रिटेबिलिटी' के क्षेत्र में एक महत्वपूर्ण कदम है, जिसका लक्ष्य आर्टिफिशियल इंटेलिजेंस के "ब्लैक बॉक्स" को खोलना है। इन विशाल प्रणालियों के भीतर विशिष्ट कार्यात्मक घटकों की पहचान करने और उन्हें अलग करने का एक तरीका प्रदान करके, शोधकर्ताओं ने हमें इस तकनीक को समझने, डीबग करने और सुधारने के लिए नए उपकरण दिए हैं जो हमारे विश्व को आकार दे रहे हैं। मॉडल के किस हिस्से के लिए एक विशिष्ट कौशल जिम्मेदार है, इसे सटीक रूप से पहचानने की क्षमता का अर्थ है कि हम अनुमान लगाने से आगे बढ़ सकते हैं और यह निर्णय ले सकते हैं कि इन प्रणालियों को कैसे बनाया जाना चाहिए और उनका उपयोग कैसे किया जाना चाहिए। आगे का रास्ता अब एक साथ पूरे शहर को समझने की कोशिश करने के बारे में नहीं है, बल्कि एक विशिष्ट सड़क पर चलने और यह जानने के बारे में है कि वहां वास्तव में क्या हो रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।