OPTIMA: Optimal One-shot Pruning for LLMs via Quadratic Programming Reconstruction
OPTIMA एक स्केलेबल, वन-शॉट पोस्ट-ट्रेनिंग प्रूनिंग विधि है जो बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) के लिए है, जो एक साझा हेसियन (Hessian) के साथ स्वतंत्र कॉलम-वाइज क्वाड्रेटिक प्रोग्राम्स के रूप में लेयर-वाइज वेट रिकंस्ट्रक्शन को फॉर्मुलेट करती है, जिससे आधुनिक एक्सीलरेटर्स पर कम्प्यूटेशनल दक्षता बनाए रखते हुए ह्यूरिस्टिक दृष्टिकोणों की तुलना में बेहतर सटीकता प्राप्त होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने नहीं लिखा है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लार्ज लैंग्वेज मॉडल्स (बड़े भाषा मॉडल) शक्तिशाली कंप्यूटर प्रोग्राम हैं जिन्होंने विशाल मात्रा में टेक्स्ट का अध्ययन करके मानव भाषा को समझना और उत्पन्न करना सीखा है। वे कहानियाँ लिख सकते हैं, जटिल प्रश्नों के उत्तर दे सकते हैं और समस्याओं को हल कर सकते हैं, लेकिन उनके साथ एक महत्वपूर्ण कमी भी आती है: वे बहुत विशाल होते हैं। इन मॉडल्स में अरबों पैरामीटर्स होते हैं, जो वे आंतरिक नंबर हैं जिन्हें सिस्टम भाषा को समझने के लिए समायोजित करता है। अपने आकार के कारण, उन्हें चलाने के लिए महंगे, शक्तिशाली हार्डवेयर की आवश्यकता होती है, जिससे उन्हें रोजमर्रा के कार्यों या छोटे उपकरणों पर उपयोग करना कठिन हो जाता है। इन मॉडल्स को अधिक व्यावहारिक बनाने के लिए, शोधकर्ता उन्हें उनकी सोचने की क्षमता खोए बिना छोटा करने के तरीके खोजते हैं। एक लोकप्रिय तरीका 'प्रूनिंग' (छंटाई) कहलाता है, जिसमें मॉडल के आकार को कम करने के लिए कम महत्वपूर्ण नंबरों को हटा दिया जाता है। हालाँकि, यह प्रक्रिया जटिल है। यदि आप केवल नंबरों को हटा देते हैं, तो मॉडल अक्सर अपने काम में बहुत खराब हो जाता है। यदि आप नुकसान की भरपाई के लिए सभी नंबरों की पुनर्गणना करके मॉडल को ठीक करने की कोशिश करते हैं, तो गणित इतना भारी हो जाता है कि आधुनिक कंप्यूटरों पर इसे करना असंभव हो जाता है।
शोधकर्ताओं की एक टीम ने इस विशिष्ट समस्या को हल करने के लिए OPTIMA नामक एक नया दृष्टिकोण विकसित किया है। उनका लक्ष्य केवल नंबरों को हटाने वाले तेज़ लेकिन गलत तरीके और एक साथ सब कुछ ठीक करने वाले बहुत धीमे तरीके के बीच एक मध्य मार्ग खोजना था। उन्होंने महसूस किया कि यह तय करने के बाद कि किन नंबरों को हटाया जाना है, बचे हुए नंबरों को ठीक करने का कार्य कई छोटे, स्वतंत्र समस्याओं में विभाजित किया जा सकता है। पूरे मॉडल के गणित को एक ही विशाल, असंभव चरण में हल करने के बजाय, उन्होंने मॉडल के नंबरों के प्रत्येक कॉलम (स्तंभ) को अलग से लिया। उन्होंने पाया कि जबकि प्रत्येक कॉलम का अपने विशिष्ट बाधाओं (constraints) के आधार पर अपना स्वयं का स्वरूप था, वे सभी एक सामान्य अंतर्निहित संरचना साझा करते थे। इसने उन्हें एक विशेष गणितीय उपकरण, जिसे 'क्वाड्रेटिक प्रोग्राम' के रूप में जाना जाता है, का उपयोग करके प्रत्येक कॉलम के लिए सटीक प्रतिस्थापन मान (replacement values) खोजने की अनुमति दी। क्योंकि प्रत्येक कॉलम के लिए संरचना समान थी, वे एक ही कंप्यूटर चिप पर हजारों इन छोटी समस्याओं को एक-एक करके हल करने के बजाय एक साथ हल कर सकते थे।
शोधकर्ताओं ने LLaMA और Gemma जैसे लोकप्रिय मॉडल्स सहित विभिन्न प्रकार के लार्ज लैंग्वेज मॉडल्स पर इस पद्धति का परीक्षण किया। उन्होंने इस तकनीक को उन मॉडल्स पर लागू किया जिन्हें पहले से ही अन्य मौजूदा तरीकों द्वारा प्रून (छंटा) किया गया था, जो अनिवार्य रूप से परिणामों को सुधारने के लिए एक अंतिम पॉलिश के रूप में कार्य करता था। अधिकांश मामलों में, इस अतिरिक्त चरण ने मॉडल्स की सटीकता को काफी बढ़ा दिया। उदाहरण के लिए, जब उन्होंने मॉडल्स का विभिन्न मानक कार्यों पर परीक्षण किया, तो इस नई पद्धति ने औसत स्कोर को कुछ कठिन परिदृश्यों में, विशेष रूप से जब मॉडल्स को बहुत छोटा बनाया गया था, लगभग चार अंकों तक सुधार दिया। यह विधि विभिन्न प्रकार के प्रूनिंग पैटर्न और मॉडल आकारों में अच्छी तरह से काम करती है, एक बिलियन-पैरामीटर वाले छोटे मॉडल से लेकर अरबों पैरामीटर वाले बहुत बड़े मॉडल्स तक। यह ध्यान देना महत्वपूर्ण है कि हालांकि इस पद्धति ने सटीकता में सुधार किया, लेकिन इसे चलाने में मौजूदा सबसे तेज़ तरीकों की तुलना में अधिक समय लगा, जिसमें एक उच्च श्रेणी के ग्राफिक्स कार्ड पर आठ-अरब पैरामीटर वाले मॉडल को प्रोसेस करने में लगभग चालीस घंटे लगे। हालाँकि, शोधकर्ताओं ने जोर देकर कहा कि यह एक बार होने वाला खर्च है जो मॉडल के उपयोग से पहले किया जाता है, और परिणामी मॉडल मूल प्रून किए गए संस्करण की तरह ही तेजी से चलता है।
अध्ययन ने यह भी रेखांकित किया कि यह दृष्टिकोण हर स्थिति के लिए कोई जादुई समाधान नहीं है। कुछ विशिष्ट मामलों में, नई पद्धति ने मॉडल के प्रदर्शन में सुधार नहीं किया और कभी-कभी इसे थोड़ा खराब भी कर दिया, जो यह दर्शाता है कि प्रूनिंग पद्धति और सुधार चरण के बीच की अंतःक्रिया जटिल हो सकती है। इसके अलावा, शोधकर्ताओं ने पाया कि यह पद्धति तब सबसे अच्छा काम करती है जब प्रारंभिक प्रूनिंग सुधार की बहुत गुंजाइश छोड़ देती है, जैसे कि जब मॉडल को बहुत 'स्पार्स' (विरल) बनाया जाता है। उन्होंने यह भी देखा कि पद्धति की सफलता विशिष्ट प्रकार के मॉडल और इस बात पर निर्भर करती है कि प्रूनिंग मूल रूप से कैसे की गई थी। इन सीमाओं के बावजूद, यह कार्य प्रदर्शित करता है कि प्रून किए गए मॉडल्स को ठीक करने के लिए कठोर गणितीय अनुकूलन (optimization) का उपयोग करना संभव है। एक विशाल, असंभव समस्या को हजारों छोटी, समानांतर कार्यों में तोड़कर, शोधकर्ताओं ने दिखाया कि हम अपनी बुद्धिमत्ता से समझौता किए बिना लार्ज लैंग्वेज मॉडल्स को छोटा और कुशल बनाए रख सकते हैं। यह अधिक सक्षम आर्टिफिशियल इंटेलिजेंस को उस हार्डवेयर पर चलाने का मार्ग खोलता है जो वर्तमान में इसे सहारा देने के लिए बहुत कमजोर है, जिससे शक्तिशाली भाषा उपकरण रोजमर्रा के उपयोग के करीब आते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।