Restoring Without Forgetting: Continual Learning Across Image Degradations
यह शोध पत्र 'रेस्टोरिंग विदाउट फॉरगेटिंग' (RwF) को प्रस्तुत करता है, जो एक निरंतर सीखने वाला (continual learning) ढांचा है जो हल्के एडेप्टर्स और अनसुपरवाइज्ड रूटिंग का उपयोग करता है ताकि इमेज रिस्टोरेशन मॉडल्स को ऐतिहासिक डेटा तक पहुँच के बिना, कैटास्ट्रोफिक फॉरगेटिंग के बिना, क्रमिक रूप से नए डिग्रेडेशन प्रकारों को सीखने में सक्षम बनाया जा सके, जो मानक फाइन-ट्यूनिंग दृष्टिकोणों से काफी बेहतर प्रदर्शन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसे कैमरा सेंसर की कल्पना करें जिसने अपना पूरा जीवन एक धूप वाले, साफ रेगिस्तान में बिताया है। इसने उस विशिष्ट प्रकाश के तहत दुनिया को देखना पूरी तरह से सीख लिया है। अब, उसी कैमरे को एक बरसाती शहर, फिर एक धुंधले पहाड़ और अंत में एक अंधेरी गुफा में ले जाने की कल्पना करें। वास्तविक दुनिया में, सेंसर इन बदलते परिवेशों का सामना एक के बाद एक करते हैं, जो अक्सर गोपनीयता नियमों या स्टोरेज सीमाओं के कारण पिछले स्थानों के पुराने डेटा तक पहुँच के बिना होता है। एक कंप्यूटर के लिए यह सीखना कि नए वातावरण से प्राप्त छवियों को कैसे ठीक किया जाए, आमतौर पर इसके लिए शून्य से पुन: प्रशिक्षण (retraining) की आवश्यकता होती है। यदि आप इसे पुराने परिवेशों की याददाश्त मिटाए बिना नए परिवेशों के लिए सिखाने का प्रयास करते हैं, तो यह अक्सर पहले वाले परिवेश को संभालने का अपना तरीका पूरी तरह से भूल जाता है। यह एक बुद्धिमान प्रणाली बनाने के लिए एक बड़ी बाधा है जो समय के साथ अनुकूलित हो सके। इमेज रेस्टोरेशन (छवि बहाली) का क्षेत्र, जिसका लक्ष्य धुंधली, शोर वाली या अंधेरी तस्वीरों को साफ करना है, काफी हद तक प्रत्येक विशिष्ट समस्या के लिए विशेष उपकरणों पर, या उन विशाल "ऑल-इन-वन" प्रणालियों पर निर्भर रहा है जिन्हें सीखने के लिए एक ही समय में हर प्रकार की समस्या तक पहुँच की आवश्यकता होती है। दोनों में से कोई भी दृष्टिकोण तब काम नहीं करता जब किसी प्रणाली को क्रमिक रूप से (sequentially) सीखना हो, यानी अपने पुराने कौशल को बरकरार रखते हुए एक के बाद एक नई चुनौतियों का सामना करना हो।
रोचेस्टर इंस्टीट्यूट ऑफ टेक्नोलॉजी के शोधकर्ताओं ने इस सटीक समस्या को हल करने के लिए "रिस्टोरिंग विदाउट फॉरगेटिंग" (भूलना बिना सुधारना) नामक एक नई विधि विकसित की है। हर नए प्रकार के इमेज डैमेज के लिए एक विशाल नया नेटवर्क प्रशिक्षित करने के बजाय, या सभी सीखने की प्रक्रिया को एक ही विशाल मॉडल में भरने के बजाय जो अंततः भ्रमित हो जाता है, उन्होंने एक ऐसी प्रणाली बनाई है जो अपने अतीत को खोए बिना अनुकूलित होना सीखती है। उनके दृष्टिकोण का मूल एक पूर्व-प्रशिक्षित "बैकबोन" नेटवर्क है जो पहले से ही साफ छवियों को देखने में बहुत अच्छा है। यह बैकबोन 'फ्रोजन' (frozen) है, जिसका अर्थ है कि इसकी आंतरिक सेटिंग्स लॉक हैं और कभी नहीं बदली जाती हैं। जब सिस्टम किसी नए प्रकार के क्षरण (degradation), जैसे कि बारिश या धुंध का सामना करता है, तो यह पूरे मस्तिष्क को पुन: प्रशिक्षित नहीं करता है। इसके बजाय, यह उस नई स्थिति को संभालने के लिए विशेष रूप से डिज़ाइन किया गया एक छोटा, हल्का "एड-ऑन" मॉड्यूल जोड़ देता है। यह एड-ऑन केवल नई समस्या के विशिष्ट पैटर्न को सीखता है, जिससे बैकबोन के मूल ज्ञान और पिछले एड-ऑन्स को पूरी तरह से अछूता छोड़ दिया जाता है। क्योंकि प्रत्येक नया कौशल अपने स्वयं के समर्पित और अलग स्थान में होता है, इसलिए सिस्टम कभी भी वह नहीं मिटाता जो उसने पहले सीखा था।
इसे वास्तविक दुनिया में काम करने के लिए, जहाँ कंप्यूटर को यह नहीं पता होता कि वह किस प्रकार के नुकसान को देख रहा है, शोधकर्ताओं ने एक स्मार्ट रूटिंग तंत्र जोड़ा है। जब एक नई, क्षतिग्रस्त छवि आती है, तो सिस्टम दृश्य संकेतों के आधार पर एक सरल सिग्नेचर बनाने के लिए उसे संक्षेप में स्कैन करता है। फिर यह सिग्नेचर की तुलना प्रत्येक ज्ञात क्षरण प्रकार के लिए संग्रहीत उदाहरणों के एक छोटे पुस्तकालय से करता है। यह किस उदाहरण से सबसे अधिक मेल खाता है, इसके आधार पर, सिस्टम स्वचालित रूप से छवि को ठीक करने के लिए सही एड-ऑन का चयन करता है। यह बिना किसी मानव के यह बताए कि समस्या क्या है, अपने आप होता है। शोधकर्ताओं ने इसका परीक्षण पांच अलग-अलग इमेज समस्याओं के क्रम पर किया: शोर (noise), मोशन ब्लर, बारिश, धुंध (haze), और कम रोशनी की स्थितियाँ। उन्होंने पाया कि केवल नए डेटा पर नेटवर्क को पुन: प्रशिक्षित करने की मानक विधि के कारण सिस्टम पिछले कौशल को इतनी बुरी तरह भूल गया कि पहले के कार्यों पर इसके प्रदर्शन में एक मानक गुणवत्ता पैमाने पर 15 अंक से अधिक की गिरावट आई। इसके विपरीत, उनकी नई विधि ने सभी पांच कार्यों में उच्च प्रदर्शन बनाए रखा, जिससे भूलने की समस्या पूरी तरह से समाप्त हो गई।
अध्ययन ने यह भी प्रदर्शित किया कि यह दृष्टिकोण प्रयोगशाला में बनाई गई कृत्रिम छवियों के बजाय वास्तविक दुनिया की छवियों पर भी काम करता है। टीम ने प्राकृतिक धुंधलेपन, बारिश और अन्य खामियों वाली हजारों छवियों वाले ग्यारह अलग-अलग वास्तविक दुनिया के डेटासेट पर अपने सिस्टम का परीक्षण किया। सिस्टम ने लगभग 90 प्रतिशत छवियों के लिए सही मरम्मत उपकरण की पहचान की, और अंतिम चित्र की गुणवत्ता लगभग उतनी ही अच्छी थी जितनी कि यदि किसी इंसान ने सिस्टम को बताया होता कि समस्या क्या है। यह बताता है कि यदि क्षति का प्रकार वैसा ही है जैसा कि उसने पहले देखा है, तो सिस्टम नई, अनदेखी सामग्री के लिए अपने सीखने की क्षमता का सामान्यीकरण (generalize) कर सकता है। शोधकर्ता तर्क देते हैं कि यह एक महत्वपूर्ण प्रगति है क्योंकि यह एक व्यावहारिक तरीका स्थापित करता है जिससे इमेज रेस्टोरेशन सिस्टम को पुराने डेटा के विशाल भंडार या शून्य से पुन: प्रशिक्षण की आवश्यकता के बिना समय के साथ बढ़ने और अनुकूलित होने की क्षमता मिलती है। नए कौशल सीखने को सिस्टम के मूल ज्ञान से अलग करके, उन्होंने एक ऐसा ढांचा तैयार किया है जो आर्टिफिशियल इंटेलिजेंस को क्रमिक रूप से क्षमताओं को संचित करने की अनुमति देता है, ठीक वैसे ही जैसे एक इंसान पुराने को भूले बिना नए कौशल सीखता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।