Forgetting, plasticity, and co-observation: a third facet of continual learning
यह शोध पत्र यह तर्क देता है कि विनाशकारी विस्मृति (catastrophic forgetting) और प्लास्टिसिटी के नुकसान की सुप्रसिद्ध चुनौतियों के परे, प्रशिक्षण डेटा को एक साथ सह-अवलोकन (co-observe) करने में असमर्थता निरंतर शिक्षण (continual learning) के प्रदर्शन को सीमित करने वाला एक विशिष्ट और महत्वपूर्ण कारक है, जो यह सुझाव देता है कि मेमोरी रिप्ले जैसे तंत्र केवल विस्मृति को कम करने के बजाय इन सह-अवलोकन लाभों को पुन: स्थापित करके सफल होते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
डीप न्यूरल नेटवर्क आधुनिक आर्टिफिशियल इंटेलिजेंस के शक्तिशाली इंजन हैं, जो चेहरों को पहचानने, भाषाओं का अनुवाद करने और बीमारियों का निदान करने में सक्षम हैं। ये सिस्टम आमतौर पर एक ही विशाल सत्र (session) में प्रशिक्षित किए जाते हैं जहाँ वे अपने सभी डेटा को एक साथ देखते हैं, जिससे उन्हें विभिन्न सूचनाओं के टुकड़ों को जोड़ने वाले पैटर्न खोजने में मदद मिलती है। हालाँकि, वास्तविक दुनिया में, डेटा अक्सर समय के साथ एक निरंतर प्रवाह के रूप में आता है, जैसे कि एक ऐसी नदी जो कभी नहीं रुकती। इन प्रणालियों को उपयोगी बनाए रखने के लिए, उन्हें आने वाली नई जानकारी से सीखना होगा, बिना पुराने डेटा को दोबारा देख पाने की क्षमता के। इस प्रक्रिया को 'कंटीन्यूअल लर्निंग' (continual learning) कहा जाता है। वर्षों से, वैज्ञानिक यह मानते आए हैं कि इसे सफल बनाने में मुख्य बाधा 'कैटास्ट्रोफिक फॉरगेटिंग' (catastrophic forgetting) नामक समस्या है, जहाँ एक मॉडल कुछ नया सीखता है लेकिन अनजाने में वह जो पहले जानता था उसे मिटा देता है। प्रचलित दृष्टिकोण यह था कि यदि हम केवल मॉडल को भूलने से रोक सकें और उसे नई चीजें सीखने के लिए पर्याप्त लचीला बना सकें, तो यह ठीक उतना ही अच्छा प्रदर्शन करेगा जितना कि यदि इसने सारा डेटा एक साथ देखा होता।
KU लूवेन और यूनिवर्सिटी ऑफ ग्रोनिंगन के शोधकर्ताओं की एक टीम ने इस लंबे समय से चली आ रही धारणा को चुनौती दी है। उन्होंने पाया कि भले ही एक मॉडल कुछ भी न भूले और पूरी तरह से लचीला बना रहे, फिर भी वह उस स्तर की बुद्धिमत्ता तक पहुँचने के लिए संघर्ष करता है जो एक साथ सभी डेटा पर प्रशिक्षित मॉडल प्राप्त करता है। उनका कार्य, जिसे 5वें लाइफलॉन्ग लर्निंग एजेंट्स कॉन्फ्रेंस में प्रस्तुत किया गया था, एक तीसरे, छिपे हुए कारक की पहचान करता है जो इन प्रणालियों के सीखने की क्षमता को सीमित करता है: 'को-ऑब्जर्वेशन' (co-observation) का नुकसान। यह शब्द इस सरल तथ्य का वर्णन करता है कि जब डेटा को समय के साथ अलग-अलग टुकड़ों में सीखा जाता है, तो मॉडल सूचना के विभिन्न हिस्सों को एक साथ देखने के अवसर को खो देता है। शोधकर्ताओं ने पाया कि यह छूटा हुआ संबंध मॉडल को दुनिया की सबसे मजबूत समझ बनाने से रोकता है, और यह सीमा इस बात पर निर्भर नहीं करती कि भूलने की प्रक्रिया को कितनी अच्छी तरह प्रबंधित किया गया है।
यह समझने के लिए कि यह क्यों महत्वपूर्ण है, कल्पना कीजिए कि आप एक जटिल पहेली (puzzle) को जोड़ने की कोशिश कर रहे हैं। यदि आपको सभी टुकड़े एक साथ दिए जाते हैं, तो आप आसानी से देख सकते हैं कि एक खंड का किनारा दूसरे के केंद्र से कैसे जुड़ता है, जिससे आप बड़ी तस्वीर देख पाते हैं और टुकड़ों को कुशलतापूर्वक फिट कर पाते हैं। सामान्य आर्टिफिशियल इंटेलिजेंस को आमतौर पर इसी तरह प्रशिक्षित किया जाता है। इसके विपरीत, 'कंटीन्यूअल लर्निंग' एक ऐसी पहेली की तरह है जहाँ आपको एक-एक करके टुकड़े दिए जाते हैं, और पहले रखे गए टुकड़ों को दोबारा देखने का कोई मौका नहीं मिलता। आप वर्तमान टुकड़े को उपलब्ध स्थान में पूरी तरह से फिट कर सकते हैं, लेकिन आसपास के टुकड़ों को देखे बिना, आप एक महत्वपूर्ण संबंध को मिस कर सकते थे जो पूरी छवि को समझने में आपकी मदद करता। शोधकर्ताओं का तर्क है कि एक साथ "पूरी पहेली" को देखने में असमर्थता प्रदर्शन में एक मौलिक अंतर पैदा करती है जिसे केवल अतीत को याद रखकर ठीक नहीं किया जा सकता।
टीम ने यह साबित करने के लिए प्रयोगों की एक श्रृंखला तैयार की कि यह अंतर वास्तविक है और भूलने की समस्या से अलग है। उन्होंने एक ऐसी विधि का उपयोग किया जिससे वे दोनों मुद्दों को अलग कर सके। सबसे पहले, उन्होंने एक परिदृश्य बनाया जहाँ एक मॉडल ने चार अलग-अलग बैचों में डेटा से सीखा, जो सूचना के वास्तविक दुनिया के प्रवाह की नकल करता है। यह सुनिश्चित करने के लिए कि प्रदर्शन में गिरावट केवल पहले सीखे गए पाठों को भूलने के कारण नहीं है, उन्होंने 'एंसेम्बल' (ensemble) नामक एक विशेष तकनीक का उपयोग किया। इसमें हर सीखने के चरण के बाद मॉडल के मस्तिष्क की एक प्रति सुरक्षित करना और उन सभी प्रतियों को एक साथ जोड़ना शामिल था। यह संयुक्त मॉडल सब कुछ पूरी तरह से याद रखता था, जिससे भूलने की समस्या पूरी तरह समाप्त हो गई। इसके बाद उन्होंने इस "परफेक्ट मेमोरी" वाले मॉडल की तुलना एक मानक मॉडल से की जिसने सारा डेटा एक साथ देखा था।
परिणाम स्पष्ट और सुसंगत थे। भले ही मॉडल की याददाश्त एकदम सटीक थी, फिर भी अलग-अलग टुकड़ों में सीखने वाला मॉडल, एक साथ सब कुछ देखने वाले मॉडल की तुलना में खराब प्रदर्शन करता था। यह अंतर तब भी कायम रहा जब कंप्यूटर 'सुपरवाइज्ड' तरीके से छवियों को पहचानना सीख रहा था (जहाँ उसे सही उत्तर बताए गए थे), या 'सेल्फ-सुपरवाइज्ड' तरीके से (जहाँ उसे स्वयं पैटर्न खोजना था)। उन्होंने इसका परीक्षण CIFAR-100 और ImageNet-100 सहित मानक इमेज डेटासेट पर, विभिन्न प्रकार के न्यूरल नेटवर्क आर्किटेक्चर का उपयोग करके किया। हर मामले में, क्रमवार सीखने वाला मॉडल, पूर्ण प्रतिधारण (retention) के बावजूद, संयुक्त रूप से प्रशिक्षित मॉडल के समान सामान्यीकरण (generalization) तक पहुँचने में विफल रहा। इसने सिद्ध कर दिया कि मुद्दा याद रखने की विफलता नहीं थी, बल्कि विभिन्न समय अवधियों के बीच सूचनाओं को संश्लेषित (synthesize) करने की विफलता थी।
अध्ययन ने यह भी देखा कि निरंतर सीखने के वर्तमान समाधान इस समस्या को कैसे संभालते हैं। एक लोकप्रिय विधि 'एक्सपीरियंस रिप्ले' (experience replay) है, जहाँ मॉडल को नए उदाहरणों के साथ कुछ पुराने उदाहरण दिखाए जाते हैं ताकि उसे याद रखने में मदद मिल सके। शोधकर्ताओं ने पाया कि यह विधि काम करती है, लेकिन केवल इसलिए नहीं कि यह भूलने से रोकती है। बल्कि, यह इसलिए काम करती है क्योंकि यह कृत्रिम रूप से 'को-ऑब्जर्वेशन' की स्थिति को पुन: निर्मित करती है। पुराने और नए डेटा को एक साथ दिखाकर, मॉडल को उनके बीच के कनेक्शन देखने का एक मौका मिलता है, जो बेहतर प्रतिनिधित्व बनाने में मदद करता है। एक अन्य सामान्य तकनीक, जिसे 'नॉलेज डिस्टिलेशन' (knowledge distillation) कहा जाता है, जो नए मॉडल को पुराने मॉडल की नकल करने के लिए मजबूर करती है, भूलने को रोकने में प्रभावी पाई गई लेकिन प्रदर्शन के अंतर को भरने में विफल रही। यह सुझाव देता है कि केवल पुराने ज्ञान को संरक्षित करना पर्याप्त नहीं है; मॉडल को वास्तव में सीखने के लिए डेटा को एक साथ देखने के सक्रिय लाभ की आवश्यकता होती है।
ये निष्कर्ष बताते हैं कि आर्टिफिशियल इंटेलिजेंस के क्षेत्र को 'लाइफलॉन्ग लर्निंग' के प्रति अपने दृष्टिकोण पर पुनर्विचार करने की आवश्यकता है। वर्षों से, ध्यान लगभग विशेष रूप से पुराने ज्ञान को खोने से रोकने पर केंद्रित रहा है। जबकि यह महत्वपूर्ण बना हुआ है, शोधकर्ताओं का तर्क है कि हमें अलगाव में सीखने के संरचनात्मक नुकसान को भी संबोधित करना चाहिए। क्रमिक शिक्षण (sequential learning) के लिए प्रदर्शन की सीमा पहले की तुलना में कम है, इसलिए नहीं कि मॉडल भूल जाता है, बल्कि इसलिए क्योंकि उसमें समवर्ती अवलोकन (simultaneous observation) से मिलने वाला संदर्भ (context) नहीं होता। यह अंतर्दृष्टि इस क्षेत्र में प्रगति का मूल्यांकन करने के तरीके को बदल देती है। इसका तात्पर्य है कि भविष्य के एल्गोरिदम को केवल अतीत की रक्षा करने से अधिक कुछ करना होगा; उन्हें सक्रिय रूप से पुराने और नए सूचनाओं के बीच संबंध बनाने के तरीके खोजने होंगे, शायद डेटा को फिर से चलाने (replay) के बेहतर तरीके डिजाइन करके या कार्यों को क्रॉस-डिस्ट्रीब्यूशन थिंकिंग को प्रोत्साहित करने के लिए संरचित करके।
इसके प्रभाव इमेज रिकग्निशन से परे भी विस्तृत हैं। शोधकर्ता नोट करते हैं कि यह घटना बड़े भाषा मॉडलों (large language models) और अन्य जटिल प्रणालियों को प्रभावित करती है जो डेटा के विशाल प्रवाह से सीखते हैं। यदि कोई मॉडल किसी नई अवधारणा को उस संदर्भ के बिना सीखता है जो वह पहले से जानता है, तो वह दोनों के बीच के संबंध को पूरी तरह से कभी नहीं समझ पाएगा। यह अध्ययन यह दावा नहीं करता है कि यह निरंतर सीखने की एकमात्र समस्या है, न ही यह सुझाव देता है कि भूलना अब एक बड़ी समस्या नहीं है। कई व्यावहारिक अनुप्रयोगों में, भूलना अभी भी सबसे तात्कालिक और हानिकारक समस्या बनी हुई है। हालाँकि, 'को-ऑब्जर्वेशन' को एक विशिष्ट और मौलिक सीमा के रूप में पहचानकर, शोधकर्ताओं ने भविष्य की चुनौतियों का एक स्पष्ट मानचित्र प्रदान किया है। वे दिखाते हैं कि वास्तव में बुद्धिमान प्रणालियाँ बनाने के लिए जो जीवन भर सीखती हैं, हमें न केवल स्मृति की समस्या को हल करना होगा, बल्कि परिप्रेक्ष्य (perspective) की समस्या को भी हल करना होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।