Gradient-Free Continual Learning
यह शोध पत्र EvoCL को प्रस्तुत करता है, जो एक ग्रेडिएंट-मुक्त निरंतर शिक्षण (कंटीन्यूअस लर्निंग) विधि है जो पिछले डेटा को संग्रहीत किए बिना या ग्रेडिएंट गणनाओं की आवश्यकता के बिना प्रभावी रूप से कैटास्ट्रोफिक फॉरगेटिंग (विस्मृति) को रोकने के लिए विकासवादी एल्गोरिदम और एक हल्के एडैप्टर मॉड्यूल का उपयोग करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए एक ऐसे छात्र की जो अविश्वसनीय रूप से बुद्धिमान है लेकिन उसकी याददाश्त की एक बहुत ही अजीब समस्या है: जैसे ही वह कोई नया विषय सीखता है, वह तुरंत वह सब कुछ भूल जाता है जो उसने पुराने विषय के बारे में सीखा था। यदि वह इतिहास की परीक्षा के लिए पढ़ता है, तो वह गणित के समीकरण हल करना भूल सकता है। यदि वह गिटार बजाना सीखता है, तो वह अपनी मातृभाषा बोलना भूल सकता है। यह केवल मानव जीव विज्ञान की एक विचित्रता नहीं है; यह आज के एआई (AI) सिस्टमों के लिए एक बड़ी सिरदर्द भी है। मशीन लर्निंग की दुनिया में, इस घटना को "कैटैस्ट्रोफिक फॉरगेटिंग" (विनाशकारी विस्मृति) कहा जाता है।
आमतौर पर, जब हम एक एआई को कोई नया कार्य सिखाते हैं, तो हम उसे उसके पिछले पाठों से उदाहरण दिखाते हैं ताकि उसे याद दिला सकें कि वह पहले से क्या जानता है। लेकिन क्या होगा अगर हम ऐसा न कर सकें? कल्पना कीजिए कि यदि गोपनीयता कानूनों या सख्त मेमोरी सीमाओं के कारण एआई को उसके पिछले पाठों से कोई भी पुरानी फोटो, दस्तावेज़ या डेटा सहेजने से मना कर दिया जाए। उसे बिना किसी संदर्भ सामग्री के अपने पुराने कौशल को जीवित रखते हुए, नई चीजें सीखनी होंगी। यह "एग्जेम्पलर-फ्री" (उदाहरण-मुक्त) चुनौती है। अधिकांश वर्तमान एआई विधियाँ इसे जटिल गणित का उपयोग करके हल करने का प्रयास करती हैं कि उनका मस्तिष्क अतीत में कैसे बदला था, लेकिन इसके लिए एक विशिष्ट प्रकार के गणितीय संकेत (जिसे "ग्रेडिएंट" कहा जाता है) की आवश्यकता होती है जो तब मौजूद नहीं होता जब आपके पास पुराना डेटा नहीं होता।
यहाँ EvoCL नामक एक नया दृष्टिकोण आता है, जो नियमों की किताब को पूरी तरह से खारिज करके इस पहेली को सुलझाने की कोशिश करता है। ग्रेडिएंट का उपयोग करके भविष्य के लिए सटीक गणितीय पथ की गणना करने के बजाय, EvoCL प्रकृति से प्रेरित एक विधि का उपयोग करता है: विकास (इवोल्यूशन)। इसे "समाधान का अनुमान लगाने" के खेल की तरह समझें जहाँ एआई अपने स्वयं के थोड़े अलग संस्करणों की एक पूरी आबादी बनाता है, उन सभी का परीक्षण करता है, सबसे अच्छे को रखता है, और अगली पीढ़ी बनाने के लिए उन्हें आपस में मिला देता है। यह सीखने का एक ऐसा तरीका है जिसे पुराने डेटा को देखने या सामान्य गणितीय संकेतों का उपयोग करने की आवश्यकता नहीं है जो आमतौर पर इन स्थितियों में विफल हो जाते हैं।
समस्या: एआई की स्मृति लोप (The AI Amnesia)
न्यूरल नेटवर्क (आधुनिक एआई के पीछे की मस्तिष्क जैसी संरचनाओं) की दुनिया में, एक निरंतर डर बना रहता है: जब आप नेटवर्क को कुछ नया सिखाते हैं, तो यह अपने पुराने ज्ञान को मिटा देने की प्रवृत्ति रखता है। यह एक नोटबुक में नया अध्याय लिखने जैसा है, लेकिन स्याही इतनी गहरी है कि वह पिछले पन्नों को मिटा देती है। इसे रोकने के लिए, अधिकांश वैज्ञानिक "बैकप्रोपैगेशन" नामक तकनीक का उपयोग करते हैं, जो मूल रूप से नेटवर्क की सेटिंग्स को कैसे ट्यून करना है, यह गणना करने का एक परिष्कृत तरीका है ताकि वह पुराने और नए दोनों सूचनाओं को याद रख सके।
हालाँकि, यह विधि "एग्जेम्पलर-फ्री" परिदृश्यों में एक दीवार से टकरा जाती है। यह एक ऐसी स्थिति है जहाँ गोपनीयता संबंधी चिंताओं या मेमोरी सीमाओं के कारण एआई को पिछले कार्यों के किसी भी कच्चे डेटा (raw data) को संग्रहीत करने की अनुमति नहीं है। पुराने डेटा के बिना, एआई पिछले कार्यों के लिए आवश्यक गणितीय संकेतों (ग्रेडिएंट्स) की गणना नहीं कर सकता है। यह कार के इंजन को ठीक करने की कोशिश करने जैसा है बिना पुराने पुर्जों के ब्लूप्रिंट देखे। परिणाम यह है कि एआई अपने पुराने कौशल से दूर हो जाता है, और उन्हें तेजी से भूल जाता है।
समाधान: समीकरणों के बजाय विकास (Evolution Instead of Equations)
इस शोध पत्र के लेखक, जिनका नेतृत्व ग्रेगोर्ज़ रिपेस्क (Grzegorz Rypeść) कर रहे हैं, एक क्रांतिकारी बदलाव का प्रस्ताव देते हैं। एआई को उन ग्रेडिएंट्स की गणना करने के लिए मजबूर करने के बजाय जिन्हें वह ढूंढ नहीं सकता, वे एक इवोल्यूशन स्ट्रैटेजी (ES) का उपयोग करने का सुझाव देते हैं।
कल्पित कीजिए कि आप छिपे हुए खजाने तक पहुँचने के लिए एक घने कोहरे वाले जंगल के माध्यम से सबसे अच्छा रास्ता खोजने की कोशिश कर रहे हैं।
- पुराना तरीका (ग्रेडिएंट डिसेंट): आप यह गणना करने की कोशिश करते हैं कि खजाने की ओर जाने के लिए आपके पैरों के नीचे जमीन का सटीक ढलान क्या है। लेकिन कोहरे में (पुराने डेटा के बिना), आप जमीन को देख नहीं सकते, इसलिए आपकी गणना गलत हो जाती है, और आप रास्ता भटक जाते हैं।
- EvoCL का तरीका (इवोल्यूशनरी स्ट्रैटेजी): गणना करने के बजाय, आप खोजकर्ताओं की एक पूरी टीम (एआई मॉडल की एक आबादी) भेजते हैं। प्रत्येक खोजकर्ता थोड़ा अलग रास्ता लेता है। आप देखते हैं कि किसने सबसे अधिक खजाना पाया (सर्वश्रेष्ठ प्रदर्शन)। फिर, आप दो सर्वश्रेष्ठ खोजकर्ताओं को लेते हैं, उनके रास्तों को आपस में मिलाते हैं (क्रॉसओवर), और एक नई, बेहतर टीम बनाने के लिए थोड़ा सा रैंडम भ्रमण (म्यूटेशन) जोड़ते हैं। आप इस प्रक्रिया को तब तक दोहराते हैं जब तक कि आपको सही रास्ता नहीं मिल जाता।
इस विधि को यह जानने की आवश्यकता नहीं है कि "ढलान" क्या है; इसे बस यह जानने की आवश्यकता है कि कौन से समाधान दूसरों से बेहतर काम करते हैं।
EvoCL कैसे काम करता है: जादुिका अडैप्टर (The Magic Adapter)
एक पेचीदा हिस्सा है: एआई को यह कैसे पता चलेगा कि नया रास्ता पिछले कार्यों के लिए अच्छा है यदि उसके पास पुराना डेटा नहीं है?
EvoCL लेटेंट बफर (Latent Buffer) और एक अडैप्टर नेटवर्क (Adapter Network) से जुड़ी एक चतुर तकनीक का उपयोग करता है।
- मेमोरी बैंक: एक कार्य पूरा करने के बाद, एआई कच्ची छवियों या टेक्स्ट को सहेजता नहीं है। इसके बजाय, यह उस चीज़ का एक छोटा, संकुचित सारांश (जिसे "लेटेंट फीचर्स" कहा जाता है) सहेजता है जो उसने सीखा है। यह एक पेंटिंग के बजाय पेंटिंग के एक स्केच को सहेजने जैसा है। यह बहुत कम जगह लेता है और गोपनीयता की रक्षा करता है।
- अनुवादक (अडैप्टर): जैसे-जैसे एआई नए कार्य सीखता है, उसकी आंतरिक "भाषा" बदल जाती है। पुराने दिनों के स्केच नए संदर्भ में समझ में नहीं आ सकते। इसलिए, EvoCL एक छोटा, अस्थायी अनुवादक (अडैप्टर नेटवर्क) प्रशिक्षित करता है जो उन पुराने स्केचों को नई भाषा में बदलने का काम करता है।
- सिमुलेशन: एआई इन अनुवादित स्केचों को लेता है और नाटक करता है कि वे वास्तविक पुराना डेटा हैं। वह इन स्केचों के आधार पर एक "नकली" लॉस (त्रुटि का माप) की गणना करता है। यह एआई को यह परीक्षण करने की अनुमति देता है कि क्या सेटिंग्स का एक नया समूह वर्तमान कार्य और "सिम्युलेटेड" पिछले कार्यों दोनों के लिए मददगार है।
प्रयोगों ने क्या दिखाया
शोधकर्ताओं ने सरल हस्तलिखित अंकों (MNIST) से लेकर जटिल हवाई जहाज की छवियों (FGVCAircraft) और विभिन्न डोमेन (DomainNet) तक कई मानक डेटासेट पर EvoCL का परीक्षण किया। उन्होंने इसकी तुलना मौजूदा सर्वोत्तम विधियों से की जो बिना पुराना डेटा संग्रहीत किए इस समस्या को हल करने का प्रयास करती हैं।
परिणाम उत्साहजनक थे। EvoCL ने लगातार अपने प्रतिस्पर्धियों को पछाड़ दिया।
- MNIST (हस्तलिखित संख्याएं) डेटासेट पर, EvoCL ने एक समय में 3 कार्य सीखते समय 92.3% की अंतिम सटीकता प्राप्त की, जो अगले सबसे अच्छे तरीके से काफी आगे है।
- अधिक कठिन FashionMNIST (कपड़े की छवियां) पर, इसने 77.2% सटीकता प्राप्त की, और एक बार फिर शीर्ष पर रही।
- जटिल CIFAR100 (100 अलग-अलग वस्तु वर्ग) पर भी, EvoCL आगे रहने में सफल रहा, जिसने 24.8% सटीकता हासिल की, जो अन्य विधियों की तुलना में स्पष्ट सुधार है।
शोधकर्ताओं ने एक विशिष्ट परीक्षण भी चलाया यह देखने के लिए कि क्या विकासवादी विधि वास्तव में मानक गणितीय विधि (SGD) से बेहतर है जब ग्रेडिएंट्स गायब होते हैं। उन्होंने पाया कि मानक विधि बुरी तरह विफल रही, जिससे एआई लगभग सब कुछ भूल गया (कुछ मामलों में सटीकता गिरकर लगभग 14% हो गई), जबकि EvoCL ने मजबूत प्रदर्शन बनाए रखा। यह सुझाव देता है कि जब आप ग्रेडिएंट्स की गणना नहीं कर सकते, तो विकास (evolution) वास्तव में एक बेहतर रणनीति है।
ट्रेड-ऑफ: गति बनाम बुद्धिमत्ता
हालाँकि, एक कमी भी है। जबकि EvoCL पुराने डेटा के बिना चीजों को याद रखने में स्मार्ट है, यह धीमा है। क्योंकि इसे एक साथ एआई के कई संस्करणों का परीक्षण करना पड़ता है (आबादी), इसे प्रशिक्षित करने में बहुत अधिक समय लगता है।
- CIFAR100 डेटासेट पर, जहाँ अन्य विधियों को प्रशिक्षित करने में लगभग 3 से 20 मिनट लगे, वहीं EvoCL को लगभग 985 मिनट (16 घंटे से अधिक) लगे।
- लेखक नोट करते हैं कि यह एक ट्रेड-ऑफ है: डेटा संग्रहीत किए बिना सीखने की क्षमता प्राप्त करने के लिए आप समय का भुगतान करते हैं।
सीमाएं और भविष्य के कदम
यह शोध पत्र सावधानी से यह भी बताता है कि यह अभी हर समस्या के लिए जादुई समाधान नहीं है।
- पैमाना (Scale): यह विधि छोटे से मध्यम आकार के डेटासेट पर अच्छी तरह से काम करती है। लेखक स्वीकार करते हैं कि उन्होंने अभी तक ImageNet-1k जैसे विशाल डेटासेट पर इसका परीक्षण नहीं किया है क्योंकि "विकास" की प्रक्रिया इतने बड़े मॉडलों के लिए बहुत अधिक कंप्यूटिंग शक्ति की मांग करेगी।
- अनुमान (Approximation): यह विधि अनुवादित स्केच से गणना किए गए "नकली" लॉस पर निर्भर करती है। यदि अनुवादक (अडैप्टर) बहुत अच्छा नहीं है, तो एआई गलत चीजें सीख सकता है।
- मेमोरी: हालांकि यह कच्ची छवियों को संग्रहीत न करके स्थान बचाता है, फिर भी इसे उन संकुचित स्केच और अडैप्टर नेटवर्क को संग्रहीत करने की आवश्यकता होती है।
निष्कर्ष
यह शोध पत्र सुझाव देता है कि जब एआई सिस्टम को गोपनीयता या मेमोरी सीमाओं के कारण अपने पिछले डेटा को भूलने के लिए मजबूर किया जाता है, तो हमें उन्हें उसी गणित का उपयोग करने के लिए मजबूर नहीं करना चाहिए जिसका हम हमेशा करते आए हैं। इसके बजाय, हम उन्हें विकसित होने दे सकते हैं। एक आबादी-आधारित दृष्टिकोण और पुराने होमवर्क को देखे बिना भी पुराने कौशल को जीवित रखने के लिए एक चतुर अनुवादक का उपयोग करके, EvoCL दिखाता है कि एआई नए कौशल सीख सकता है बिना अपने पुराने कौशल को खोए। यह सीखने का एक धीमा, अधिक कम्प्यूटेशनल रूप से महंगा तरीका है, लेकिन यह एआई के लिए एक नया द्वार खोलता है जहाँ डेटा गोपनीयता सर्वोपरि है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।