← नवीनतम पेपर
🤖 machine learning

In Two Minds about Lifelong Learning: Exploring Hemispheric Redundancy and Specialisation in Neural Models

यह शोध पत्र 4MAS मैक्रोआर्किटेक्चर का प्रस्ताव करता है, जो निरंतर शिक्षण (continual learning) में कैटास्ट्रोफिक फॉरगेटिंग (catastrophic forgetting) को दूर करने के लिए विषम गोलार्द्धों (asymmetric hemispheres) और नींद जैसी सुदृढ़ीकरण अवधियों (sleep-like consolidation periods) के माध्यम से जैविक शिक्षण की नकल करता है, जो Split-MNIST, Split-Fashion-MNIST, और Split-CIFAR-100 डेटासेट पर प्रतिस्पर्धी सटीकता प्राप्त करता है।

मूल लेखक: Benjamin Smith, Levin Kuhlmann, Kaushik Roy, Gideon Kowadlo

प्रकाशित 2026-08-21
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Benjamin Smith, Levin Kuhlmann, Kaushik Roy, Gideon Kowadlo

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मानव मस्तिष्क सीखने में एक उस्ताद है। यह एक नया कौशल, जैसे कि गिटार का कोई कॉर्ड बजाना, सीख सकता है बिना यह भूले कि साइकिल कैसे चलाई जाती है। जीवन भर ज्ञान को संचित करने की इस क्षमता को 'कंटीन्यूअल लर्निंग' (सतत सीखना) कहा जाता है। इसके विपरीत, आर्टिफिशियल इंटेलिजेंस (कृत्रिम बुद्धिमत्ता) सिस्टम, जो न्यूरल नेटवर्क नामक गणितीय कनेक्शनों की परतों से बने होते हैं, इसी कार्य में गहराई से संघर्ष करते हैं। जब ये मशीनें सूचनाओं का एक नया सेट सीखती हैं, तो वे अक्सर पुराने डेटा को मिटा देती हैं, जिससे उनका पिछला ज्ञान खत्म हो जाता है। यह घटना, जिसे 'कैटैस्ट्रोफिक फॉरगेटिंग' (विनाशकारी विस्मृति) कहा जाता है, इसलिए होती है क्योंकि मशीन के आंतरिक सेटिंग्स को नए डेटा के अनुकूल बनाया जाता है, जिससे अनजाने में पुराने डेटा के लिए आवश्यक पैटर्न नष्ट हो जाते हैं। रोबोट या सॉफ्टवेयर को वास्तव में निरंतर और अनुकूलन योग्य बनने के लिए, उन्हें इस समस्या को हल करना होगा—अपने अतीत को खोए बिना निरंतर सीखना।

इसे कैसे ठीक किया जाए, यह समझने के लिए शोधकर्ता अक्सर जीव विज्ञान की ओर देखते हैं। स्तनधारी मस्तिष्क में, हिप्पोकैम्पस नामक एक संरचना नए अनुभवों के लिए एक अस्थायी भंडारण क्षेत्र के रूप में कार्य करती है, जबकि नियोकोर्टेक्स दीर्घकालिक ज्ञान को संग्रहीत करता है। हर रात, नींद के दौरान, मस्तिष्क हाल के अनुभवों को दोहराता है, उन्हें अस्थायी भंडारण क्षेत्र से दीर्घकालिक भंडारण में स्थानांतरित करता है। इसके अलावा, मस्तिष्क दो गोलार्द्धों (हेमिस्फेयर्स) में विभाजित होता है जो अक्सर अलग तरह से काम करते हैं: एक पक्ष लचीलेपन के साथ नई, नवीन जानकारी को संभालने की प्रवृत्ति रखता है, जबकि दूसरा पक्ष स्थिरता के साथ स्थापित दिनचर्या का प्रबंधन करता है। मोनाश यूनिवर्सिटी और CSIRO रोबोटिक्स के शोधकर्ताओं की एक टीम ने इन जैविक सिद्धांतों को अपनाया है और एक नया कंप्यूटर आर्किटेक्चर बनाया है ताकि वे देख सकें कि क्या वे आर्टिफिशियल इंटेलिजेंस को भूलने से रोक सकते हैं।

शोधकर्ताओं ने एक प्रणाली बनाई जिसे वे 4MAS कहते हैं, जिसका अर्थ है '4 मॉड्यूल अवेक/स्लीप' (4 मॉड्यूल जागना/सोना)। एक एकल, अखंड मस्तिष्क के बजाय, यह प्रणाली दो अलग-अलग हिस्सों, या गोलार्द्धों के साथ बनाई गई है, जो जैविक मस्तिष्क के बाएं और दाएं पक्षों की नकल करती है। प्रत्येक भाग में अपने स्वयं के मेमोरी सिस्टम होते हैं: एक शॉर्ट-टर्म बफर जो उसने जो देखा है उसके कुछ हालिया उदाहरणों को रखता है, और एक लॉन्ग-टर्म जनरेटर जो डेटा के समग्र आकार को सीखता है। यह प्रणाली एक चक्र में संचालित होती है जो जागने और सोने के बीच बदलता रहता है। जागने के चरण के दौरान, सिस्टम वास्तविक डेटा का उपयोग करके एक नया कार्य सीखता है, जबकि वह अपनी शॉर्ट-टर्म मेमोरी से उदाहरणों की भी समीक्षा करता है। नींद के चरण के दौरान, कोई नया डेटा पेश नहीं किया जाता है। इसके बजाय, दोनों गोलार्द्ध एक-दूसरे से बात करते हैं। वे जो कुछ भी सीखे हैं उसके सिंथेटिक (कृत्रिम) उदाहरण उत्पन्न करते हैं और इनका उपयोग एक-दूसरे को सूक्ष्म रूप से सुधारने (फाइन-ट्यून करने) के लिए करते हैं, जिससे पुराने ज्ञान को सुदृढ़ किया जाता है और नए को एकीकृत किया जाता है।

इस डिज़ाइन में एक प्रमुख नवाचार यह है कि दोनों गोलार्द्ध समान नहीं हैं। शोधकर्ताओं ने उन्हें अलग-अलग व्यक्तित्व देने के लिए प्रोग्राम किया है। एक गोलार्द्ध को स्थिर और रूढ़िवादी होने के लिए ट्यून किया गया है, जो पहले से ज्ञात जानकारी को संरक्षित करने पर ध्यान केंद्रित करता है। दूसरा गोलार्द्ध प्लास्टिक (परिवर्तनशील) और खोजपूर्ण होने के लिए ट्यून किया गया है, जो नए पैटर्न के अनुकूल होने के लिए उत्सुक है। श्रम का यह विभाजन सिस्टम को नई चीजों को सीखने और पुरानी चीजों को याद रखने की आवश्यकता के बीच संतुलन बनाने की अनुमति देता है। शोधकर्ताओं ने इस आर्किटेक्चर का परीक्षण कई मानक इमेज रिकग्निशन चुनौतियों पर किया जहाँ मशीन को छवियों के नए वर्गों को एक के बाद एक सीखना था, बिना कभी पुराने वर्गों को दोबारा देखे।

परिणाम चौंकाने वाले थे। हस्तलिखित अंकों (digits) के एक सरल डेटासेट पर, सिस्टम ने 98.3 प्रतिशत की सटीकता प्राप्त की, जो लगभग उस मॉडल के प्रदर्शन के बराबर थी जिसने एक साथ सारा डेटा देखा था। कपड़ों की छवियों के एक अधिक जटिल डेटासेट पर, इसने 84.9 प्रतिशत सटीकता प्राप्त की, जो उन अन्य तरीकों से काफी बेहतर है जो भूलने को रोकने की कोशिश करते हैं। 100 अलग-अलग श्रेणियों की वस्तुओं वाले बहुत कठिन डेटासेट पर भी, सिस्टम लगातार सीखने में सफल रहा, और 29.29 प्रतिशत सटीकता प्राप्त की, जो पिछले सर्वश्रेष्ठ तरीकों से बेहतर थी। अध्ययन ने दिखाया कि सिस्टम ने केवल नए डेटा को याद नहीं किया; इसने पुराने डेटा को बहुत कम नुकसान के साथ बनाए रखा, जिसे शोधकर्ता "रिप्रेजेंटेशनल ड्रिफ्ट" कहते हैं। भविष्य को सीखते हुए अतीत को थामे रखने की सिस्टम की क्षमता सीधे 'स्लीप फेज' (नींद के चरण) से जुड़ी थी। जब शोधकर्ताओं ने स्लीप साइकिल को हटा दिया, तो सिस्टम का प्रदर्शन गिर गया, और दोनों गोलार्द्ध प्रभावी ढंग से एक साथ काम करने में विफल रहे।

प्रयोगों ने यह भी खुलासा किया कि दोनों गोलार्द्धों के बीच विशिष्ट अंतर महत्वपूर्ण थे। जब दोनों पक्षों को समान बनाया गया, तो सिस्टम का प्रदर्शन खराब हो गया। यह केवल तभी सफल हुआ जब एक पक्ष को लचीला और दूसरे को स्थिर होने दिया गया। यह सुझाव देता है कि विशेष भागों का होना जो अलग-अलग काम करते हैं, एक एकल, समान भाग के सब कुछ करने की कोशिश करने से अधिक प्रभावी है। शोधकर्ताओं ने पाया कि सिस्टम सबसे अच्छा तब काम करता था जब "स्लीप" लर्निंग रेट को बहुत कम रखा जाता था, जिससे बड़े बदलावों के बजाय सूक्ष्म समायोजन संभव हो पाते थे। उन्होंने यह भी खोजा कि सिस्टम को हाल के उदाहरणों को संग्रहीत करने के लिए थोड़ी मेमोरी की आवश्यकता होती है, लेकिन एक बार जब यह मेमोरी एक निश्चित आकार तक पहुँच जाती है, तो इसे बड़ा करने से अधिक मदद नहीं मिलती।

यह कार्य यह दावा नहीं करता है कि इसने आर्टिफिशियल इंटेलिजेंस की समस्या को हमेशा के लिए हल कर दिया है, न ही यह सुझाव देता है कि मशीनें जल्द ही मनुष्यों की तरह सपने देखेंगी। उपयोग किए गए मॉडल अपेक्षाकृत सरल थे और विशिष्ट, नियंत्रित डेटासेट्स पर काम करते थे। हालाँकि, निष्कर्ष एक स्पष्ट मार्ग प्रदान करते हैं। मेमोरी कार्यों को दो विशिष्ट पक्षों के बीच विभाजित करने की जैविक रणनीति की नकल करके और ज्ञान को समेकित करने के लिए विश्राम की अवधि का उपयोग करके, इंजीनियर ऐसी मशीनें बना सकते हैं जो जीवित चीजों की तरह सीखती हैं। अध्ययन यह प्रदर्शित करता है कि 'स्टेबिलिटी-प्लास्टिसिटी डिलेमा' (स्थिरता-लचीलापन दुविधा), जिसने लंबे समय से आर्टिफिशियल इंटेलिजेंस को परेशान किया है, उसे एक एकल सिस्टम को सब कुछ करने के लिए मजबूर करके नहीं, बल्कि विशेषज्ञ एजेंटों की एक टीम बनाकर प्रबंधित किया जा सकता है जो कार्य और विश्राम के चक्रों के माध्यम से एक-दूसरे का समर्थन करते हैं।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →