SHIFT-LLM: Distribution Shift Correction in Depth-Pruned LLMs
SHIFT-LLM एक ट्रेनिंग-फ्री पोस्ट-प्रूनिंग फ्रेमवर्क है जो ट्रांसफार्मर ब्लॉक्स को हटाने के कारण होने वाले वितरण संबंधी बदलावों (distributional shifts) को ठीक करने के लिए क्लोज्ड-फॉर्म रिग्रेशन के माध्यम से कैलिब्रेट किए गए लाइटवेट लीनियर रेसिडुअल एडेप्टर्स को सम्मिलित करके डेप्थ-प्रून की गई लार्ज लैंग्वेज मॉडल्स में सटीकता को पुनर्स्थापित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लार्ज लैंग्वेज मॉडल्स (LLMs) आज के कई सबसे उन्नत आर्टिफिशियल इंटेलिजेंस टूल्स के पीछे के इंजन हैं, जो कहानियाँ लिखने, समस्याओं को हल करने और जटिल प्रश्नों के उत्तर देने में सक्षम हैं। ये सिस्टम डिजिटल प्रोसेसिंग यूनिट्स की परतों से बने होते हैं जो एक के ऊपर एक रखी गई होती हैं, बिल्कुल एक बहुमंजिला इमारत की तरह जहाँ प्रत्येक मंजिल नीचे वाली मंजिल से ऊपर भेजी गई जानकारी को परिष्कृत करती है। एक इमारत में जितनी अधिक मंजिलें होंगी, उसका अंतिम आउटपुट उतना ही विस्तृत और परिष्कृत हो सकता है, लेकिन यह इस संरचना को अविश्वसनीय रूप से भारी और संचालित करने के लिए महंगा भी बना देता है। कई व्यावहारिक अनुप्रयोगों के लिए, विशेष रूप से सीमित शक्ति या मेमोरी वाले उपकरणों पर, ये विशाल मॉडल उपयोग के लिए बहुत बड़े होते हैं। इन्हें छोटा करने के लिए, शोधकर्ताओं ने इमारत से पूरी की पूरी मंजिलों को हटाने की विधियाँ विकसित की हैं, जिसे 'डेप्थ प्रूनिंग' (depth pruning) कहा जाता है। हालाँकि यह भार को कम करने और मॉडल की गति बढ़ाने में सफल होता है, लेकिन यह अक्सर शेष मंजिलों को लड़खड़ाने पर मजबूर कर देता है। क्योंकि हटाई गई मंजिलों को ऊपर वाली मंजिलों को विशिष्ट प्रकार की जानकारी पास करने के लिए डिज़ाइन किया गया था, उन्हें हटा देने से ऊपरी परतें भ्रमित हो जाती हैं, क्योंकि उन्हें ऐसे संकेत मिलते हैं जो अब उनके प्रशिक्षित अपेक्षाओं से मेल नहीं खाते। यह बेमेल स्थिति, जिसे 'डिस्ट्रीब्यूशन शिफ्ट' (distribution shift) कहा जाता है, मॉडल की सटीकता को कम करती है और गलतियाँ करने का कारण बनती है, जिससे डेवलपर्स को त्रुटियों को ठीक करने के लिए मॉडल को फिर से प्रशिक्षित करने में महत्वपूर्ण समय और कंप्यूटिंग शक्ति खर्च करनी पड़ती है।
हुआवेई नोह्स आर्क लैब (Huawei Noah's Ark Lab) के शोधकर्ताओं की एक टीम ने SHIFT-LLM नामक एक नया दृष्टिकोण पेश किया है जो बिना रीट्रेनिंग (पुनः प्रशिक्षण) की आवश्यकता के इस समस्या को हल करता है। हटा दी गई मंजिलों को फिर से बनाने या शेष मंजिलों को फिर से सिखाने के बजाय, उनकी विधि प्रत्येक उस स्थान पर एक छोटा, हल्का सुधार मॉड्यूल (correction module) डाल देती है जहाँ एक परत हटाई गई थी। कल्पना कीजिए कि यदि आपने एक इमारत से एक मंजिल हटा दी होती, तो आप वहां एक साधारण, कस्टम-मेड रैंप स्थापित करते जो अंतर को पूरी तरह से पाट देता, यह सुनिश्चित करते हुए कि ऊपरी मंजिलों पर लोग अभी भी ठीक वही निर्देश प्राप्त करें जो उन्हें तब प्राप्त होते जब वह गायब मंजिल अभी भी वहीं होती। डिजिटल दुनिया में, यह रैंप एक लीनियर एडेप्टर (linear adapter) है जो सूचना के सीधे मार्ग को सुरक्षित रखता है और साथ ही एक छोटा, गणनात्मक समायोजन जोड़ता है। यह समायोजन उस विशिष्ट योगदान की नकल करने के लिए डिज़ाइन किया गया है जो हटाए गए लेयर ने किया होता, जिससे बाकी मॉडल को यह विश्वास दिलाने में मदद मिलती है कि गायब मंजिल अभी भी मौजूद है।
इस पद्धति की प्रतिभा इस बात में निहित है कि यह उस समायोजन की गणना कैसे करती है। गायब लेयर को क्या करना चाहिए था, यह जानने के लिए हजारों घंटों के प्रशिक्षण को चलाने के बजाय, शोधकर्ता डेटा के एक छोटे सेट का उपयोग करके सटीक रूप से मापते हैं कि कितनी जानकारी खो गई है। फिर वे उस खोई हुई जानकारी को बहाल करने के लिए आवश्यक सटीक सुधार निर्धारित करने के लिए एक सरल गणितीय गणना का उपयोग करते हैं। यह प्रक्रिया पूरी तरह से स्वचालित है और इसमें ग्रेडिएंट-आधारित ऑप्टिमाइज़ेशन (gradient-based optimization) की आवश्यकता नहीं होती है, जो आमतौर पर टूटे हुए मॉडलों को ठीक करने के लिए आवश्यक जटिल, पुनरावृत्ति वाली सीखने की प्रक्रिया है। इस क्लोज्ड-फॉर्म गणना (closed-form calculation) का उपयोग करके, टीम केवल कुछ सौ उदाहरणों का उपयोग करके मिनटों में मॉडल की आंतरिक स्थिति को ठीक कर सकती है, जबकि इसके लिए आमतौर पर दिनों के कंप्यूटिंग समय की आवश्यकता होती है। परिणाम एक ऐसा प्रून किया गया मॉडल है जो कम परतों के होने की गति और दक्षता बनाए रखता है, लेकिन मूल, विशाल मॉडल के लगभग समान सटीकता के साथ कार्य करता है।
अपने प्रयोगों में, शोधकर्ताओं ने पांच अलग-अलग लार्ज लैंग्वेज मॉडल परिवारों पर इस तकनीक का परीक्षण किया, जो 1.5 बिलियन पैरामीटर वाले छोटे मॉडल्स से लेकर 14 बिलियन पैरामीटर वाले बड़े वर्जन्स तक विस्तृत थे। उन्होंने लेयर्स को हटाने का निर्णय लेने के लिए छह अलग-अलग विधियों को लागू किया और सामान्य ज्ञान और तर्क की परीक्षा लेने के लिए सात अलग-अलग बेंचमार्क पर परिणामों का मूल्यांकन किया। निष्कर्ष सुसंगत थे: सुधार मॉड्यूल (correction modules) ने लगभग हर कॉन्फ़िगरेशन में प्रूनिंग के दौरान खोई गई सटीकता को सफलतापूर्वक बहाल किया। एक उल्लेखनीय मामले में, जिसमें 8-बिलियन-पैरामीटर वाला मॉडल शामिल था, इस पद्धति ने एक मानक बेंचमार्क पर 15.7 अंक की जबरदस्त सटीकता हासिल की, जो एक ऐसा लाभ है जिसके लिए आमतौर पर व्यापक और महंगे रीट्रेनिंग की आवश्यकता होती है। यहाँ तक कि जब मॉडल्स को प्रूनिंग के बाद पहले से ही फाइन-ट्यून किया जा रहा था, तब भी इस सुधार मॉड्यूल को जोड़ने से अतिरिक्त बढ़ावा मिला, जो यह सुझाव देता है कि प्रदर्शन को और अधिक बढ़ाने के लिए दोनों दृष्टिकोण मिलकर अच्छा काम करते हैं।
शोधकर्ताओं ने यह भी प्रदर्शित किया है कि इन सुधार मॉड्यूल्स को स्पेस बचाने के लिए और अधिक कंप्रेस किया जा सकता है और जब कई परतें क्रमवार हटाई जाती हैं तो उन्हें आपस में मिलाया (merge) जा सकता है, जिससे यह सुनिश्चित होता है कि प्रूनिंग से प्राप्त दक्षता का लाभ सुधार के ओवरहेड के कारण कम न हो जाए। यह कार्य यह सुझाव देता है कि लार्ज लैंग्वेज मॉडल्स को छोटा बनाने में प्राथमिक बाधा केवल हिस्सों को हटाना नहीं है, बल्कि उनके बीच सूचना के प्रवाह में व्यवधान है। सूचना के प्रवाह को सरल, लक्षित समायोजन के साथ ठीक करने पर ध्यान केंद्रित करके, SHIFT-LLM शक्तिशाली AI मॉडल्स को रोजमर्रा के उपयोग के लिए व्यावहारिक बनाने का एक सामान्य और कुशल तरीका प्रदान करता है। अध्ययन पुष्टि करता है कि सही सुधार के साथ, हम अपने डिजिटल मस्तिष्क के भारी, अनावश्यक हिस्सों को उनकी स्पष्ट रूप से सोचने की क्षमता खोए बिना हटा सकते हैं, जो तेज़, सस्ते और अधिक सुलभ आर्टिफिशियल इंटेलिजेंस के द्वार खोलता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।