SLoPe: Double-Pruned Sparse Plus Lazy Low-Rank Adapter Pretraining of LLMs
SLOPE लार्ज लैंग्वेज मॉडल्स के लिए एक नवीन प्रीट्रेनिंग विधि है जो डबल-प्रून्ड N:M स्पार्स वेट्स को केवल प्रशिक्षण के अंतिम 1% इटरेशन में लागू की जाने वाली एक "लेज़ी" लो-रैंक एडैप्टर रणनीति के साथ जोड़ती है, जिससे डेंस मॉडल्स के तुलनीय मॉडल सटीकता बनाए रखते हुए प्रशिक्षण और इन्फरेंस दोनों के दौरान महत्वपूर्ण गति वृद्धि (1.54× तक) और मेमोरी में कमी (0.63× तक) प्राप्त होती है।
आर्टिफिशियल इंटेलिजेंस की आधुनिक दुनिया तेजी से बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) द्वारा परिभाषित हो रही है, जो मानव भाषा को समझने और उत्पन्न करने के लिए टेक्स्ट के विशाल पुस्तकालयों पर प्रशिक्षित विशाल डिजिटल मस्तिष्क हैं। ये प्रणालियाँ शक्तिशाली हैं, लेकिन इनके साथ एक भारी कीमत जुड़ी है: इन्हें प्रशिक्षित करने के लिए अत्यधिक कंप्यूटर शक्ति और चलाने के लिए स्मृति (मेमोरी) की विशाल मात्रा की आवश्यकता होती है। इन मॉडलों को उपयोग करने में तेज़ और सस्ता बनाने के लिए, शोधकर्ताओं ने लंबे समय से उनकी आंतरिक संरचना के उन हिस्सों को हटाकर उन्हें सरल बनाने का प्रयास किया है जो कम महत्वपूर्ण लगते हैं, इस प्रक्रिया को 'प्रूनिंग' (pruning) के रूप में जाना जाता है। एक विशाल पुस्तकालय की कल्पना करें जहाँ आप हर उस पुस्तक को हटाने का निर्णय लेते हैं जिसे अक्सर नहीं पढ़ा जाता; इमारत छोटी और सुलभ हो जाती है, लेकिन यदि आप बहुत अधिक या गलत पुस्तकें हटा देते हैं, तो पुस्तकालय प्रश्नों का उत्तर देने की अपनी क्षमता खो देता है। डिजिटल क्षेत्र में, यह सरलीकरण अक्सर सटीकता की हानि की ओर ले जाता है, जहाँ मॉडल कम विश्वसनीय हो जाता है। इसके अलावा, जबकि डेटा हटाने से स्थान बचता है, कंप्यूटर को अभी भी सीखने के प्रत्येक चरण के दौरान यह जाँचने का जटिल कार्य करना पड़ता है कि किन हिस्सों को रखना है और किन्हें हटाना है, जो अक्सर गति के लाभों को निष्प्रभावी कर देता है।
शोधकर्ताओं के एक दल ने गति, स्मृति और सटीकता के बीच इस निरंतर संतुलन (ट्रेड-ऑफ) को हल करने के लिए SLOPE नामक एक नया दृष्टिकोण विकसित किया है। उनकी विधि इन विशाल भाषा मॉडलों को उनकी भाषा समझने की क्षमता से समझौता किए बिना काफी कम संसाधनों के साथ प्रशिक्षित और उपयोग करने की अनुमति देती है। उनके नवाचार का मूल इस बात में निहित है कि वे मॉडल की सीखने की प्रक्रिया को कैसे संभालते हैं। शुरुआत से ही मॉडल को सरल बनाने के बजाय, वे इसे लगभग पूरे प्रशिक्षण काल के दौरान एक मानक, सरल संरचना का उपयोग करके सीखने की अनुमति देते हैं। फिर, प्रशिक्षण समय के अंतिम, बहुत छोटे अंश में, वे एक छोटा, लचीला जुड़ाव (addition) पेश करते है जो मॉडल को किसी भी खोई हुई सटीकता को पुनः प्राप्त करने में मदद करता है। यह जुड़ाव एक भारी, पूर्ण आकार का घटक नहीं है, बल्कि एक हल्का, कुशल स्तर (लेयर) है जो एक फाइन-ट्यूनिंग टूल की तरह कार्य करता है, जिससे मॉडल को अतिरिक्त डेटा के विशाल मात्रा को संग्रहीत या संसाधित करने की आवश्यकता के बिना अपनी तीक्ष्णता वापस पाने की अनुमति मिलती है।
शोधकर्ताओं ने एक विशिष्ट बाधा (बॉटलनेक) का भी समाधान किया है जिसने इन मॉडलों को सरल बनाने के पिछले प्रयासों को धीमा कर दिया था। मानक कंप्यूटर संचालन में, मॉडल को अपने आंतरिक डेटा को दो अलग-अलग दिशाओं में देखना होता है: एक बार अगले शब्द की भविष्यवाणी करने के लिए और दूसरी बार अपनी गलतियों को सुधारने के लिए। सरलीकरण की पिछली विधियाँ पहली दिशा के लिए तो अच्छी तरह से काम करती थीं, लेकिन दूसरी दिशा में डेटा देखते समय कंप्यूटर को अतिरिक्त, धीमा कार्य करने के लिए मजबूर करती थीं। नई विधि संचालन के क्रम को बदल देती है ताकि सरलीकरण दोनों दिशाओं में एक साथ कुशलता से कार्य कर सके। यह कंप्यूटर को डेटा को बहुत तेज़ी से संसाधित करने की अनुमति देता है, जिससे शून्य और गैर-शून्य (zeros and non-zeros) के इन विशिष्ट पैटर्न को संभालने के लिए डिज़ाइन किए गए विशेष हार्डवेयर का उपयोग किया जा सके। सुधार चरण (करेक्शन फेज) में डेटा को संसाधित करने से पहले उसे प्रून करने के तरीके को पुनर्गठित करके, शोधकर्ताओं ने यह सुनिश्चित किया कि मॉडल बहुत उच्च गति से डेटा के माध्यम से चलते हुए भी उतनी ही प्रभावी ढंग से सीख सके।
जब सैकड़ों मिलियन से लेकर दस बिलियन पैरामीटर्स तक के मॉडलों पर परीक्षण किया गया, तो परिणाम पर्याप्त थे। नई विधि ने प्रशिक्षण प्रक्रिया को 1.25 गुना तक तेज कर दिया और उपयोग के दौरान अंतिम मॉडल को 1.54 गुना तक तेज़ बना दिया। शायद इससे भी अधिक महत्वपूर्ण बात यह है कि इसने कुछ मामलों में इन मॉडलों को चलाने के लिए आवश्यक कंप्यूटर मेमोरी की मात्रा को आधे से अधिक कम कर दिया। शोधकर्ताओं ने पाया कि प्रशिक्षण के बिल्कुल अंत में अपने हल्के, लचीले स्तर को जोड़कर, मॉडल बहुत बड़े, बिना सरल किए गए संस्करणों के बहुत करीब सटीकता स्तर प्राप्त कर सकता है। यह दृष्टिकोण उस सामान्य खामी से बचता है जहाँ सरल मॉडलों को फिर से उपयोगी बनाने के लिए पूर्ण आकार के डेटा के साथ पुन: प्रशिक्षण के एक महंगे अंतिम चरण की आवश्यकता होती है। इसके बजाय, मॉडल अपने पूरे जीवनचक्र में कुशल रहता है, सीखने की शुरुआत से लेकर उपयोगकर्ता के प्रश्न का उत्तर देने के क्षण तक।
यह अध्ययन प्रदर्शित करता है कि आर्टिफिशियल इंटेलिजेंस में दक्षता और उच्च प्रदर्शन दोनों होना संभव है, बशर्ते कि सरलीकरण एक विशिष्ट रणनीति के साथ लागू किया जाए। शोधकर्ताओं ने दिखाया कि अतिरिक्त क्षमता कब जोड़ी जाती है, इसका समय बहुत मायने रखता है; सीखने की प्रक्रिया के बिल्कुल अंत में थोड़ी सी लचीलापन पेश करने से पूरे सफर के दौरान उस लचीलेपन को बनाए रखने के प्रयास की तुलना में बेहतर परिणाम मिलते हैं। यह खोज इस धारणा को चुनौती देती है कि एक मॉडल को या तो पूरी तरह से जटिल या पूरी तरह से सरल होना चाहिए, बल्कि यह सुझाव देती है कि एक हाइब्रिड दृष्टिकोण, जहाँ मॉडल ज्यादातर सरल है लेकिन फिनिश लाइन पर लक्षित बढ़ावा (बूस्ट) प्राप्त करता है, दोनों दुनियाओं का सर्वश्रेष्ठ प्रदान करता है। यह कार्य उन्नत आर्टिफिशियल इंटेलिजेंस को अधिक सुलभ, तेज़ और इसे चलाने वाले हार्डवेयर पर कम मांग वाला बनाने के लिए एक स्पष्ट मार्ग प्रदान करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।