Learning how to Forget: Fine-tuning for Long-Context Sparse Attention
यह शोध पत्र ट्रांसफार्मर मॉडलों के लिए एक फाइन-ट्यूनिंग विधि प्रस्तुत करता है जो मध्यम हार्डवेयर पर स्पार्स अटेंशन (sparse attention) के साथ कुशल लॉन्ग-कॉन्टेक्स्ट इन्फरेंस को सक्षम बनाता है, क्योंकि यह मॉडलों को विभिन्न KV कैश नीतियों के साथ सह-अनुकूलित (co-adapt) होने की अनुमति देता है, जो अक्सर सटीक अटेंशन दृष्टिकोणों से बेहतर प्रदर्शन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक आर्टिफिशियल इंटेलिजेंस सिस्टम जो मानव के समान टेक्स्ट जनरेट करते हैं, वे एक ऐसे तंत्र पर निर्भर करते हैं जो अल्पकालिक स्मृति (short-term memory) के रूप में कार्य करता है, जिससे वे बातचीत या किसी लंबे दस्तावेज़ में पहले कही गई बातों को याद रख पाते हैं। यह स्मृति एक डिजिटल बफर में संग्रहीत होती है जो सिस्टम द्वारा प्रत्येक नए शब्द को प्रोसेस करने के साथ बढ़ती जाती है। इन सिस्टम्स को टेक्स्ट के लंबे हिस्सों पर अच्छी तरह से कार्य करने के लिए, इस स्मृति का विशाल होना आवश्यक है, लेकिन इसे रखने के लिए आवश्यक कंप्यूटर हार्डवेयर महंगा और सीमित होता है। जब मेमोरी बफर भर जाता है, तो सिस्टम को यह निर्णय लेना पड़ता है कि नई जगह बनाने के लिए पुरानी जानकारी के किन हिस्सों को हटा दिया जाए। यदि वह गलत जानकारी को हटा देता है, तो सिस्टम अपनी तर्क करने या प्रश्नों के सटीक उत्तर देने की क्षमता खो देता है। यह एक कठिन ट्रेड-ऑफ (trade-off) पैदा करता है: स्मृति को छोटा रखने से पैसा बचता है और सिस्टम को मानक उपकरणों पर चलाने की अनुमति मिलती है, लेकिन इससे स्मार्ट होने के लिए आवश्यक संदर्भ (context) खोने का जोखिम रहता है।
शोधकर्ताओं ने लंबे समय से सिस्टम को यह सिखाने के माध्यम से इसे हल करने का प्रयास किया है कि वह क्या रखना है, इस बारे में चयनात्मक (selective) बने, जिसे 'स्पार्स अटेंशन' (sparse attention) कहा जाता है। हालांकि, एक नया अध्ययन बताता है कि अब तक इन सिस्टम्स को कैसे प्रशिक्षित किया गया था, इसमें एक गंभीर खामी है। अधिकांश मौजूदा तरीके AI को एक पूर्ण, असीमित स्मृति के साथ प्रशिक्षित करते हैं और फिर बाद में उसे एक सीमित स्मृति के साथ काम करने के लिए मजबूर करते हैं। शोधकर्ताओं ने पाया कि यह दृष्टिकोण विफल हो जाता है क्योंकि AI ने कभी उन विशिष्ट बाधाओं के तहत कार्य करना नहीं सीखा जो उसे वास्तव में झेलनी पड़ेंगी। टीम ने यह प्रदर्शित किया कि मॉडल को शुरू से ही जानबूझकर भूलने और एक निश्चित मेमोरी साइज के अनुकूल होने के लिए प्रशिक्षित करके, सिस्टम उन मॉडल्स की तुलना में काफी बेहतर प्रदर्शन कर सकता था जिन्हें असीमित संसाधनों के साथ प्रशिक्षित किया गया था, भले ही वह एक एकल, मध्यम रूप से शक्तिशाली कंप्यूटर चिप पर चल रहा हो।
अमेज़न वेब सर्विसेज और यूनिवर्सिटी ऑफ एम्स्टर्डम के वैज्ञानिकों के नेतृत्व वाली टीम ने इन लार्ज लैंग्वेज मॉडल्स को फाइन-ट्यून करने का एक नया तरीका विकसित किया है। इन मॉडल्स को विशाल सुपरकंप्यूटरों का उपयोग करके पूर्ण स्मृति का अनुकरण करने के बजाय, उन्होंने उन्हें एक विशिष्ट मेमोरी मैनेजमेंट पॉलिसी के साथ सह-अनुकूल (co-adapt) होने के लिए सिखाया। एक ऐसे लाइब्रेरियन की कल्पना करें जिसे अनंत शेल्फ वाले पुस्तकालय में किताबें व्यवस्थित करने के लिए प्रशिक्षित किया गया है, और फिर उसे एक छोटे कमरे में काम करने के लिए कहा जाता है जिसमें केवल एक शेल्फ है। बड़े पुस्तकालय में प्रशिक्षित लाइब्रेरियन छोटे कमरे में यह प्राथमिकता तय करने में संघर्ष करेगा कि क्या रखना है। इसके विपरीत, इस पेपर में प्रस्तावित विधि उस लाइब्रेरियन को सीधे छोटे कमरे में प्रशिक्षित करती है, जिससे उसे उस विशिष्ट स्थान के नियमों के आधार पर यह सिखाया जाता है कि कौन सी किताबें रखनी हैं और किन्हें हटाना है। यह मॉडल को अपनी सीमाओं की लय (rhythm) को सीखने की अनुमति देता है, बजाय इसके कि वह बहुत अधिक स्थान होने की आदतों को छोड़ने की कोशिश करे।
टीम ने चार बिलियन पैरामीटर्स वाले एक मॉडल पर इस दृष्टिकोण का परीक्षण किया, जो एक पर्याप्त लेकिन प्रबंधनीय आकार है। उन्होंने अपने प्रयोग एक सिंगल ग्राफिक्स कार्ड पर चलाए जिसमें 40 गीगाबाइट मेमोरी थी, जो पिछले तरीकों के लिए आवश्यक दर्जनों कार्डों के क्लस्टर की तुलना में कई संगठनों के लिए किफायती सेटअप है। उन्होंने अपनी नई प्रशिक्षण तकनीक की तुलना मानक पद्धति से की, जो मेमोरी लोड को कई महंगे उपकरणों में विभाजित करने के लिए 'सीक्वेंस पैरेललिज्म' (sequence parallelism) नामक तकनीक का उपयोग करती है। परिणामों ने दिखाया कि नए तरीके से प्रशिक्षित मॉडल अक्सर मानक वाले मॉडल्स से बेहतर प्रदर्शन करते हैं, विशेष रूप से जब कार्य के लिए लंबे, निरर्थक टेक्स्ट के बजाय विशिष्ट, संक्षिप्त उत्तर उत्पन्न करने की आवश्यकता होती है। जटिल प्रश्नों और डेटा एक्सट्रैक्शन से जुड़े कई परीक्षणों में, मानक पद्धति के आउटपुट बहुत लंबे और यादृच्छिक, अर्थहीन नंबरों से भरे हुए थे, जबकि नया तरीका सही समय पर रुकना और सही एकल मान (value) प्रदान करना सीख गया।
इस सफलता का एक प्रमुख हिस्सा "हेवी-हिटर ऑरेकल" (heavy-hitter oracle) को बेहतर बनाना था, जो यह तय करने के लिए एक लोकप्रिय रणनीति है कि किस जानकारी को रखना है। यह रणनीति इस बात को ट्रैक करके काम करती है कि मॉडल समय के साथ किन सूचनाओं पर सबसे अधिक ध्यान देता है। शोधकर्ताओं ने पाया कि इस रणनीति का मूल संस्करण धीमा और अक्षम था। उन्होंने इसके अंतर्निहित कोड को फिर से लिखा ताकि यह बहुत तेज़ी से काम कर सके, जिससे सिस्टम पूरे प्रोसेस को धीमा किए बिना इन महत्व स्कोर (importance scores) की गणना कर सके। इस अनुकूलन का अर्थ था कि सिस्टम वास्तविक समय में यह निर्णय लेने में सक्षम था कि क्या भूलना है, बिना उस विशाल कंप्यूटेशनल पावर की आवश्यकता के जो आमतौर पर ऐसे कार्यों के साथ आती है। टीम ने इन तकनीकों को दूसरों के लिए उपलब्ध कराने के उद्देश्य से एक नया ओपन-सोर्स सॉफ्टवेयर लाइब्रेरी भी जारी किया है, जिसका लक्ष्य उन लोगों के लिए बाधा को कम करना है जो हार्डवेयर में बहुत अधिक पैसा खर्च किए बिना लॉन्ग-कॉन्टेक्स्ट AI सिस्टम बनाना चाहते हैं।
यह अध्ययन इस बात पर प्रकाश डालता है कि एक मॉडल को कैसे प्रशिक्षित किया जाता है, यह उसके द्वारा चलाए जाने वाले हार्डवेयर जितना ही महत्वपूर्ण है। जब शोधकर्ताओं ने मॉडल को ठीक उसी मेमोरी बाधाओं के साथ प्रशिक्षित किया जिनका सामना उसे उपयोग के दौरान करना पड़ेगा, तो उसने उन बाधाओं को प्रभावी ढंग से नेविगेट करना सीख लिया। JSON डेटा से संबंधित एक विशिष्ट परीक्षण में, मानक पद्धति पूरी तरह से विफल रही, जो सही डेटा पॉइंट्स खोजने में असमर्थ थी, जबकि नया तरीका लगभग आधे समय में उन्हें पहचानने में सफल रहा। यह सुझाव देता है कि लॉन्ग कॉन्टेक्स्ट को संभालने की क्षमता केवल अधिक मेमोरी होने का मामला नहीं है, बल्कि सिस्टम को उसके पास मौजूद मेमोरी का प्रबंधन करना सिखाने का मामला है। निष्कर्ष बताते हैं कि कई अनुप्रयोगों के लिए, सबसे प्रभावी मार्ग बड़े कंप्यूटर बनाना नहीं है, बल्कि सॉफ्टवेयर को उसके पास मौजूद संसाधनों के साथ अधिक कुशल होना सिखाना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।