GLAM: Efficient Continual Learning at Scale via Grouped LoRA Adapter Merging
GLAM एक कुशल निरंतर शिक्षण (continual learning) ढांचा है जो प्रत्येक कार्य के लिए महत्व स्केलर (importance scalars) के साथ हल्के LoRA एडेप्टर को प्रशिक्षित करता है, फिर उन्हें लंबी कार्य अनुक्रमों पर अत्याधुनिक सटीकता प्राप्त करने के लिए समूहबद्ध मॉड्यूल में छंटनी (prune), पुन: स्केल (rescale) और मर्ज करता है, जिससे प्रशिक्षण योग्य मापदंडों और प्रशिक्षण समय में महत्वपूर्ण कमी आती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, सुपर-स्मार्ट रोबोट को दुनिया में हर चीज़ को पहचानना सिखा रहे हैं, जैसे कि आपकी पालतू बिल्ली से लेकर एक दुर्लभ पक्षी तक, और फिर एक विशिष्ट प्रकार की कार तक। रोबोट एक विशाल, पहले से लोड किए गए मस्तिष्क के साथ शुरू करता है जो पहले से ही बहुत कुछ जानता है। लेकिन पेचीदा हिस्सा यह है कि हर बार जब आप उसे कुछ नया सिखाते हैं, तो वह थोड़ा "भुलक्कड़" हो जाता है, और अनजाने में कल सीखी गई यादों को मिटा देता है। यह कंप्यूटर विज्ञान की एक प्रसिद्ध समस्या है जिसे "कैटैस्ट्रोफिक फॉरगेटिंग" (विनाशकारी विस्मृति) कहा जाता है। आमतौर पर, इसे ठीक करने के लिए, आपको रोबोट के पूरे मस्तिष्क को हर बार शुरू से फिर से प्रशिक्षित करना पड़ता है, जिसमें बहुत समय लगता है और बिजली का भारी खर्च होता है। वैज्ञानिक इस बात का तरीका खोजने की कोशिश कर रहे हैं जिससे आप इन रोबोटों को नई चीजें सिखा सकें बिना पुरानी चीजों को भुलाए, इस उम्मीद में कि वे ऐसे मशीनें बना सकें जो निरंतर सीख सकें, बिल्कुल इंसानों की तरह, बिना हर दिन एक बड़े मेमोरी अपग्रेड की आवश्यकता के।
यहाँ GLAM आता है, जो इस रोबोट के मस्तिष्क के लिए एक चतुर, व्यवस्थित लाइब्रेरियन (पुस्तकालयाध्यक्ष) की तरह काम करता है। हर नई सीख को अलग, भारी-भरकम किताब में भरने के बजाय, GLAM रोबोट को प्रत्येक नए कार्य के लिए छोटे, हल्के नोट्स (जिन्हें "एडेप्टर" कहा जाता है) लिखना सिखाता है। लेकिन असली जादू यह है: हजारों नोट्स रखने के बजाय, GLAM समान नोट्स को एक साथ समूह में रखता है, बिखरे हुए, महत्वहीन कचरे को हटा देता है, और उन्हें एक एकल, साफ-सुथरे सारांश में मिला देता है। यह वैसा ही है जैसे 50 अलग-अलग यात्रा जर्नल्स का एक ढेर लेना, उन्हें पढ़ना, और उन्हें एक आदर्श ट्रैवल गाइड में समेट देना जो सभी बेहतरीन सुझावों को रखे बिना भी भारी न हो।
शोधकर्ताओं ने पाया कि यह दृष्टिकोण अविश्वसनीय रूप से कुशल है। जब उन्होंने इस पद्धति का परीक्षण 50 अलग-अलग कार्यों (जैसे कि छवियों के 50 अलग-अलग सेटों को पहचानना) के अनुक्रम पर किया, तो इसने न केवल अच्छी तरह से सीखा; बल्कि इसने बहुत तेजी से सीखा। वास्तव में, यह अन्य प्रतिस्पर्धी तरीकों की तुलना में लगभग तीन गुना तेजी से प्रशिक्षित हुआ और इसने अन्य तरीकों की तुलना में केवल लगभग 20% "प्रशिक्षण योग्य मस्तिष्क शक्ति" (पैरामीटर्स) का उपयोग किया। जबकि अन्य तरीके बढ़ते हुए कार्यों के साथ तालमेल बिठाने में संघर्ष करते रहे, GLAM सटीक रहा और उन सभी परीक्षणों में उच्चतम सटीकता प्राप्त की जो उन्होंने चलाए थे। इसने साबित कर दिया कि आप रोबोट को अतीत को भूले बिना या सुपरकंप्यूटर की गणितीय गणनाओं की आवश्यकता के बिना लंबे समय तक नई चीजें सिखा सकते हैं।
समस्या: रोबोट की छोटी याददाश्त
एक आधुनिक AI मॉडल को एक विशाल, पूर्व-प्रशिक्षित मस्तिष्क के रूप में सोचें जिसने पहले ही पूरा इंटरनेट पढ़ लिया है। यह अद्भुत है, लेकिन इसमें एक दोष है: यदि आप इसे कुछ नया सिखाने की कोशिश करते हैं, जैसे कि कुत्ते की एक विशिष्ट नस्ल को कैसे पहचानना है, तो यह अक्सर भ्रमित हो जाता है और उस बिल्ली को पहचानना भूल जाता है जिसे वह पहले जानता था। यह "भूलने" की समस्या है।
इसे रोकने के लिए, वैज्ञानिक आमतौर पर मस्तिष्क के मुख्य हिस्सों को फ्रीज (स्थिर) करने का प्रयास करते हैं और केवल एक छोटा, विशेष खंड ही नई चीजें सीखने देते हैं। इसे LoRA (लो-रैंक एडैप्टेशन) कहा जाता है। कल्पना कीजिए कि मस्तिष्क एक विशाल पुस्तकालय है, और LoRA एक पूरी किताब को फिर से लिखने के बजाय एक विशिष्ट शेल्फ पर एक छोटा, चिपचिपा नोट (sticky note) जोड़ने जैसा है। यह कुशल है, लेकिन यदि आपके पास 50 अलग-अलग कार्य हैं, तो आपके पास 50 अलग-अलग स्टिकी नोट्स होंगे। 50 नोट्स को प्रबंधित करना अव्यवस्थित है, और यदि आप उन सभी को एक साथ पढ़ने की कोशिश करते हैं, तो यह रोबोट की गति को धीमा कर देता है।
GLAM समाधान: ग्रुपिंग गेम
GLAM (ग्रुपेड LoRA एडेप्टर मर्जिंग) इन स्टिकी नोट्स को टीमों में व्यवस्थित करके खेल बदल देता है। यह कैसे काम करता है, यहाँ चरण-दर-चरण दिया गया है:
- नया पाठ: जब रोबोट एक नया कार्य सीखता है, तो GLAM उस काम के लिए एक छोटा, हल्का नोट (एडेप्टर) बनाता है। यह इस नोट को एक "महत्व स्कोर" भी देता है ताकि यह बताया जा सके कि यह कितना महत्वपूर्ण है।
- समूहीकरण (Grouping): हर नोट को अलग रखने के बजाय, GLAM इसे कुछ "समूहों" में से एक में बेतरतीब ढंग से असाइन करता है (जैसे कि एक नई किताब को पांच विशिष्ट शेल्फों में से एक पर रखना)।
- सफाई (Pruning): नोट को समूह में जोड़ने से पहले, GLAM एक त्वरित सफाई करता है। यह नोट को देखता है और कमजोर, महत्वहीन हिस्सों ("शोर") को फेंक देता है, केवल मजबूत, स्पष्ट जानकारी को रखता है। यह रोकता है कि नोट्स अव्यवस्थित न हों या एक-दूसरे में हस्तक्षेप न करें।
- विलय (Merge): नए, साफ किए गए नोट को फिर धीरे से समूह के मौजूदा सारांश में मिला दिया जाता है। समूह का सारांश नई जानकारी को शामिल करने के लिए अपडेट किया जाता है, लेकिन यह अभी भी केवल एक ही नोट रहता है।
- अंतिम परिणाम: अंत में, सभी समूह सारांशों को एक एकल, अत्यंत कुशल मॉड्यूल में मिला दिया जाता है। रोबोट को 50 नोट्स देखने की आवश्यकता नहीं है; उसे बस एक संक्षिप्त सारांश देखना है जिसमें वह सब कुछ समाहित है जो उसने सीखा है।
यह क्यों एक बड़ी बात है
शोधकर्ताओं ने तीन अलग-अलग इमेज डेटासेट्स पर इसका परीक्षण किया: CIFAR-100 (100 प्रकार की वस्तुएं), CUB-200 (200 प्रकार के पक्षी), और ImageNet-R (200 प्रकार की कलात्मक छवियां)। उन्होंने रोबोट को 50 कार्यों के अनुक्रमों में प्रशिक्षित किया, जो कि अधिकांश वैज्ञानिकों द्वारा उपयोग किए जाने वाले सामान्य 10-कार्य परीक्षणों से बहुत लंबा है।
परिणाम प्रभावशाली थे:
- गति: GLAM ने सबसे अच्छे प्रतिस्पर्धी तरीके (CL-LoRA) की तुलना में लगभग 3 गुना तेजी से प्रशिक्षण लिया।
- आकार: इसने सबसे अच्छे बेसलाइन द्वारा उपयोग किए गए प्रैमिटर्स का केवल 16-19% उपयोग किया।
- सटीकता: इसने सभी तीन डेटासेट्स पर उच्चतम स्कोर प्राप्त किया। उदाहरण के लिए, CUB-200 पक्षी डेटासेट पर, इसने 70.96% सटीकता प्राप्त की, जो अगले सबसे अच्छे तरीके से काफी आगे है।
- भूलना (Forgetting): इसने दूसरों की तुलना में कम भुला। जबकि कुछ तरीकों ने उसी डेटासेट पर जो सीखा था उसका लगभग 33% भूल दिया, GLAM ने केवल 20% भुलाया।
पेपर यह सुझाव देता है कि यह "समूहीकरण और विलय" की रणनीति ही वह कुंजी है जो AI को बिना बोझ महसूस किए निरंतर सीखने में सक्षम बनाती है। सक्रिय नोट्स की संख्या को कम रखकर और जाते-जाते उन्हें साफ करके, GLAM रोबोट को कुशलतापूर्वक कार्यों के एक लंबे अनुक्रम को सीखने की अनुमति देता है, बिना हर एक विवरण को अलग से याद रखने की आवश्यकता के। यह उन मशीनों की ओर एक कदम है जो वास्तव में समय के साथ सीख सकती हैं और बढ़ सकती हैं, बिल्कुल हमारी तरह।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।