Forward Pass Domain Adaptation (Without Cross-Layer Backpropagation)
यह शोध पत्र फॉरवर्ड-पास-ओनली (FPO) ट्रेनिंग को पेश करता है, जो बड़े भाषा मॉडलों के लिए एक डोमेन अनुकूलन विधि है जो बैकप्रोपैगेशन के बिना सीधे लक्ष्य परतों पर एक एकल आउटपुट-लेयर एरर सिग्नल लागू करके काफी उच्च थ्रूपुट और कम मेमोरी उपयोग प्राप्त करती है, जबकि इन-डोमेन और ऑफ-डोमेन दोनों बेंचमार्क पर मानक फाइन-ट्यूनिंग के तुलनीय प्रदर्शन को बनाए रखती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लार्ज लैंग्वेज मॉडल्स (LLMs) आज उपलब्ध कई सबसे उन्नत आर्टिफिशियल इंटेलिजेंस टूल्स के पीछे के इंजन हैं, जो लिखने, तर्क करने और समस्याओं को हल करने में ऐसी दक्षता दिखाने में सक्षम हैं जो कभी मशीनों के लिए असंभव लगती थी। इन मॉडल्स को विशिष्ट कार्यों के लिए उपयोगी बनाने के लिए, जैसे कि चिकित्सा स्थितियों का निदान करना या कानूनी दस्तावेजों का विश्लेषण करना, शोधकर्ता आमतौर पर उन्हें "फाइन-ट्यून" करते हैं। इस प्रक्रिया में मॉडल को बड़ी मात्रा में नया, विशिष्ट डेटा दिखाया जाता है और इसके आंतरिक सेटिंग्स को समायोजित किया जाता है ताकि वह उस नई दुनिया के पैटर्न को सीख सके। हालाँकि, यह समायोजन अविश्वसनीय रूप से महंगा है। इसके लिए मॉडल को आगे चलाने (फॉरवर्ड रन) और फिर यह समझने के लिए कि बेहतर परिणाम प्राप्त करने हेतु सिस्टम के हर एक हिस्से को कैसे बदला जाए, उसे पीछे की ओर (बैकवर्ड) चलाने के लिए शक्तिशाली कंप्यूटरों की आवश्यकता होती है। यह पिछला कदम भारी मात्रा में मेमोरी की मांग करता है, जो अक्सर मॉडल को चलाने के लिए आवश्यक मेमोरी से तीन गुना अधिक होता है, जिससे इसे मानक उपभोक्ता कंप्यूटरों पर या उन स्थितियों में करना असंभव हो जाता है जहाँ गति अत्यंत महत्वपूर्ण होती है।
कैलिफोर्निया विश्वविद्यालय, सांता क्रूज़ और मेलबर्न विश्वविद्यालय के शोधकर्ताओं की एक टीम ने इस महंगे पिछले चरण (बैकवर्ड स्टेप) को पूरी तरह से दरकिनार करने का एक तरीका खोज निकाला है। उन्होंने पाया कि लार्ज लैंग्वेज मॉडल्स के लिए, नई जानकारी सीखने के लिए आवश्यक सबसे महत्वपूर्ण समायोजन मुख्य रूप से नेटवर्क की अंतिम परतों (लेयर्स) में होते हैं, जो प्रोसेसिंग चेन के अंत के पास होती हैं। केवल इन अंतिम परतों पर ध्यान केंद्रित करके और केवल एक सिंगल फॉरवर्ड पास से उपलब्ध जानकारी का उपयोग करके आवश्यक परिवर्तनों की गणना करके, उन्होंने एक नई प्रशिक्षण विधि विकसित की है जिसे 'फॉरवर्ड-पास-ओनली MLP ट्रेनिंग' कहा जाता है। यह दृष्टिकोण मॉडल को अपने स्वयं के ढांचे में पीछे देखे बिना नई कुशलताएँ सीखने की अनुमति देता है, जिससे आवश्यक मेमोरी लगभग चालीस प्रतिशत कम हो जाती है और यह प्रक्रिया मानक तरीकों की तुलना में लगभग तीन गुना तेज़ हो जाती है। महत्वपूर्ण रूप से, यह गति और दक्षता उस सामान्य लागत के बिना आती है जो पहले जो मॉडल पहले से जानता था उसे भूल जाने के रूप में होती है; जबकि पारंपरिक तरीके एक नई विशेषज्ञता सीखने के दौरान मॉडल की सामान्य क्षमताओं को अक्सर कम कर देते हैं, यह नई तकनीक मॉडल के मूल ज्ञान को बरकरार रखती है।
इस खोज का मूल आधार इन मॉडल्स द्वारा सूचना को संसाधित करने के तरीके के बारे में एक सरल लेकिन गहन अवलोकन पर आधारित है। एक मानक प्रशिक्षण सत्र में, कंप्यूटर मॉडल के आउटपुट के बिल्कुल अंत में एक त्रुटि संकेत (एरर सिग्नल) की गणना करता है और फिर उस संकेत को नेटवर्क के भीतर परत-दर-परत पीछे भेजता है ताकि नेटवर्क के भीतर वेट्स (weights) को समायोजित किया जा सके। शोधकर्ताओं ने महसूस किया कि मॉडल की अंतिम एक-चौथाई परतों के लिए, आवश्यक समायोजन की दिशा लगभग उस संकेत के समान होती है जिसे बिना पीछे की ओर जाने के पथ को ट्रैक किए, केवल आउटपुट और मॉडल की वर्तमान स्थिति का उपयोग करके निकाला जा सकता है। उन्होंने इस विचार का परीक्षण तीन बिलियन से आठ बिलियन पैरामीटर्स वाले छह अलग-अलग सार्वजनिक मॉडल्स पर किया, और पाया कि वास्तविक समायोजन की दिशा, सरल, फॉरवर्ड-ओनली सिग्नल के साथ बहुत करीब से मेल खाती है। यह संरेखण इतना मजबूत था कि यह उपयोगी साबित हुआ, जिसमें संकेत लगभग आधे मामलों में एक ही दिशा में इशारा करते थे, और यह निरंतरता विभिन्न मॉडल आर्किटेक्चरों में भी बनी रही।
इस सिद्धांत को व्यवहार में लाने के लिए, टीम ने एक त्वरित डायग्नोस्टिक टूल विकसित किया जिसे एक सिंगल कंप्यूटर चिप पर चलाने में लगभग दो मिनट लगते हैं। यह टूल यह मापता है कि एक विशिष्ट मॉडल की प्रत्येक लेयर के लिए सरल फॉरवर्ड सिग्नल, जटिल बैकवर्ड सिग्नल के साथ कितनी अच्छी तरह मेल खाता है। यह एक मानचित्र की तरह कार्य करता है, जो शोधकर्ताओं को ठीक से दिखाता है कि नेटवर्क में कहाँ से बैकवर्ड पास को सुरक्षित रूप से छोड़ा जा सकता है। एक बार जब ये "व्यवहार्य" (वायबल) अंतिम परतें पहचान ली जाती हैं, तो प्रशिक्षण प्रक्रिया मौलिक रूप से बदल जाती है। मॉडल द्वारा उठाए गए प्रत्येक कदम का एक विशाल, जटिल रिकॉर्ड बनाने के बजाय जिसे वे बाद में रिवर्स कर सकें, सिस्टम बस मॉडल को आगे चलाता है, अंत में त्रुटि की गणना करता है, और लक्षित परतों पर एक सीधा सुधार लागू करता है। कोई बैकवर्ड पास कभी निर्मित नहीं किया जाता है, और गणना के इतिहास को स्टोर करने के लिए कोई मेमोरी बर्बाद नहीं की जाती है। यह उस प्राथमिक बाधा को समाप्त करता है जिसने कई लोगों को अपने हार्डवेयर पर बड़े मॉडल्स को फाइन-ट्यून करने से रोका था।
तीन अलग-अलग मॉडल परिवारों पर इस पद्धति के परीक्षण के परिणाम चौंकाने वाले थे। गति के मामले में, नया दृष्टिकोण मानक फाइन-ट्यूनिंग की तुलना में 2.7 और 3.2 गुना तेज़ था, जिससे शोधकर्ता समान समय में काफी अधिक डेटा प्रोसेस कर सकते हैं। मेमोरी-सीमित हार्डवेयर, जैसे कि एक सिंगल हाई-एंड ग्राफिक्स कार्ड पर, यह विधि डेटा के बड़े बैचों को एक साथ प्रोसेस करने की अनुमति देती है, जबकि मानक विधियाँ मेमोरी सीमाओं के कारण क्रैश हो जाती थीं। शायद सबसे महत्वपूर्ण बात यह है कि इस पद्धति ने मॉडल की सामान्य बुद्धिमत्ता को संरक्षित किया। जब शोधकर्ताओं ने विविध असंबंधित कार्यों, जैसे कि सामान्य ज्ञान के प्रश्नों के उत्तर देने या तर्क पहेलियों को हल करने पर अनुकूलित मॉडल्स का परीक्षण किया, तो मॉडल्स ने लगभग उसी तरह प्रदर्शन किया जैसा वे प्रशिक्षण से पहले कर रहे थे। इसके विपरीत, मानक तरीकों से प्रशिक्षित मॉडल्स में सामान्य कार्यों पर उनके प्रदर्शन में काफी गिरावट देखी गई, जिसे 'कैटैस्ट्रोफिक फॉरगेटिंग' (विनाशकारी विस्मृति) के रूप में जाना जाता है। नए तरीके ने इस जाल से बचने में सफलता पाई, जिससे मॉडल की व्यापक क्षमताओं को स्थिर रखते हुए उसकी नई विशेषज्ञता को सीखा जा सका।
शोधकर्ताओं ने यह भी पता लगाया कि सामान्य ज्ञान का यह संरक्षण क्यों होता है। उन्होंने अपनी पद्धति की तुलना एक हाइब्रिड दृष्टिकोण से की जहाँ उन्होंने केवल अंतिम परतों को अपडेट किया लेकिन अभी भी मानक, धीमे बैकवर्ड पास का उपयोग किया। उन्होंने पाया कि सामान्य ज्ञान का संरक्षण केवल नई गणना पद्धति का कमाल नहीं था, बल्कि यह नेटवर्क की अंतिम परतों में परिवर्तनों को सीमित करने का सीधा परिणाम था। शुरुआती परतें, जो भाषा और तर्क के मौलिक निर्माण खंडों को संभालती हैं, को अछूता छोड़ दिया गया, जिससे मॉडल की मूल समझ को ओवरराइट होने से बचाया जा सका। हालाँकि, यह नई पद्धति ही एकमात्र व्यावहारिक तरीका है, क्योंकि मानक बैकवर्ड पास केवल कुछ परतों तक सीमित होने पर भी बहुत धीमा और मेमोरी-इंटेंसिव होता है। नया दृष्टिकोण इस "सुरक्षित" क्षेत्र में काम करना संभव बनाता है जहाँ सीखना कुशल है और भूलना न्यूनतम है।
हालाँकि यह विधि अत्यधिक प्रभावी है, लेकिन इसकी कुछ सीमाएँ भी हैं। इस तकनीक के साथ प्रशिक्षित मॉडल्स ने नए डोमेन को उतनी गहराई से नहीं सीखा जितना कि पूर्ण, धीमी पद्धति वाले मॉडल्स ने सीखा; उन्होंने उस विशिष्ट कार्य पर जो उन्हें सिखाया गया था, थोड़ा कम सुधार प्राप्त किया। यह एक ट्रेड-ऑफ (समझौता) है: नई पद्धति अधिकतम प्रदर्शन के एक छोटे से हिस्से का त्याग करती है ताकि गति, मेमोरी दक्षता और सामान्य ज्ञान के संरक्षण में भारी सुधार प्राप्त किया जा सके। शोधकर्ता सुझाव देते हैं कि कई वास्तविक दुनिया के अनुप्रयोगों के लिए, जैसे कि किसी विशिष्ट उपयोगकर्ता के लिए मॉडल को व्यक्तिगत बनाना या उपभोक्ता हार्डवेयर पर किसी विशेष उद्योग के लिए इसे अनुकूलित करना, यह ट्रेड-ऑफ पूरी तरह से सार्थक है। यह पद्धति अनुकूलन के लिए एक ऐसा द्वार खोलती है जो पहले असंभव था, जिससे एक ऐसी प्रक्रिया जो कभी डेटा सेंटर की मांग करती थी, अब एक सिंगल मशीन पर चल सकती है, और वह भी मॉडल की मूल बुद्धिमत्ता को ओवर-स्पेशलाइजेशन के नुकसान से सुरक्षित रखते हुए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।