Foveation as self-supervision signal: Blur masks beat blank masks for learning robust visual representations
यह शोध पत्र यह प्रदर्शित करता है कि मानक ब्लैंक मास्क को जैविक रूप से प्रेरित ब्लर मास्क (जो रेटिनल फोवेशन का अनुकरण करते हैं) से बदलकर, सेल्फ-सुपरवाइज्ड विजन ट्रांसफार्मर प्री-ट्रेनिंग में, मॉडल को उच्च-आवृत्ति विवरणों पर निर्भर करने के बजाय निम्न स्थानिक आवृत्तियों से सीखने के लिए प्रोत्साहित करके अधिक सुदृढ़ और सामान्यीकरण योग्य दृश्य प्रतिनिधित्व प्राप्त किए जा सकते हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
मानव आँख एक समान कैमरा नहीं है। यदि आप दुनिया को देखते हैं, तो आपकी दृष्टि का केंद्र अविश्वसनीय रूप से तीक्ष्ण होता है, जो पत्ते की बनावट या किसी संकेत पर लिखे अक्षरों जैसे सूक्ष्म विवरणों को पहचानने में सक्षम है। लेकिन जैसे ही आप अपनी दृष्टि के किनारों की ओर बढ़ते हैं, वह तीक्ष्णता तेजी से एक धुंधलेपन में बदल जाती है। यह कोई दोष नहीं है; यह प्राइमेट्स (primates) के देखने के तरीके की एक विशेषता है। हर बार जब आपकी आँखें किसी नई जगह पर जाती हैं, तो पहले का धुंधला क्षेत्र स्पष्ट हो जाता है, जबकि वह क्षेत्र जिसे आपने अभी देखा था, धुंधला होने लगता है। वैज्ञानिक लंबे समय से यह सोचते आए हैं कि क्या तीक्ष्णता और धुंधलेपन का यह निरंतर चक्र सरल दृष्टि से परे किसी उद्देश्य की पूर्ति करता है। क्या यह जैविक लय वास्तव में मस्तिष्क को दुनिया को अधिक प्रभावी ढंग से समझना सिखा सकती है?
आर्टिफिशियल इंटेलिजेंस के क्षेत्र में, शोधकर्ता ऐसे कंप्यूटर सिस्टम बनाने की कोशिश कर रहे हैं जो इसी तरह से देखना सीख सकें। एक लोकप्रिय विधि में कंप्यूटर को एक ऐसी छवि दिखाई जाती है जिसमें बड़े हिस्से छिपे हुए होते हैं और उससे यह अनुमान लगाने को कहा जाता है कि क्या गायब है। यह सिस्टम को वस्तुओं के केवल पैटर्न को याद करने के बजाय, उनकी अंतर्निहित संरचना को सीखने के लिए मजबूर करता है। हालाँकि, इनमें से अधिकांश सिस्टम गायब हिस्सों को केवल एक सपाट, धूसर (gray) रंग में बदलकर छिपा देते हैं, जिससे वे प्रभावी रूप से चित्र से मिट जाते हैं। यह नया शोध बताता है कि जानकारी को मिटाना सीखने का सबसे अच्छा तरीका नहीं है। इसके बजाय, लेखक प्रस्ताव करते हैं कि मानव परिधीय दृष्टि (peripheral vision) के प्राकृतिक धुंधलेपन की नकल करना आर्टिफिशियल इंटेलिजेंस के लिए कहीं अधिक शक्तिशाली शिक्षक हो सकता है।
कोलंबिया यूनिवर्सिटी के शोधकर्ताओं ने एक 'विज़न ट्रांसफार्मर' नामक कृत्रिम मस्तिष्क का उपयोग करके इस विचार का परीक्षण करने का निर्णय लिया। उन्होंने छवि के हिस्सों को छिपाने की मानक विधि ली और उन खाली धूसर ब्लॉकों को दो अलग-अलग प्रकार के विज़ुअल करप्शन (visual corruption) से बदल दिया। पहले प्रकार में उन्होंने छिपे हुए हिस्सों को समान रूप से धुंधला कर दिया, जैसे कि धुंधली खिड़की के माध्यम से फोटो देखना। दूसरा प्रकार अधिक परिष्कृत था, जिसे मानव आँख की सटीक नकल करने के लिए डिज़ाइन किया गया था: इसने छवि के एक छोटे से हिस्से को पूरी तरह से तीक्ष्ण रखा और बाकी सब कुछ उससे दूर जाने पर धीरे-धीरे धुंधला कर दिया। फिर उन्होंने इन कंप्यूटर मॉडलों को इन दूषित संस्करणों से मूल, स्पष्ट छवियों को पुनर्गठित करने के लिए प्रशिक्षित किया।
परिणाम आश्चर्यजनक थे। जब शोधकर्ताओं ने परीक्षण किया कि उनके मॉडल नई, साफ छवियों में वस्तुओं को कितनी अच्छी तरह पहचानते हैं, तो धुंधलेपन और आँख जैसे मास्किंग पैटर्न के साथ प्रशिक्षित मॉडल, सपाट धूसर ब्लॉकों का उपयोग करने वाले मानक मॉडलों की तुलना में काफी बेहतर प्रदर्शन करते थे। यह लाभ तब भी बना रहा जब शोधकर्ताओं ने कार्य को कठिन बनाया, जैसे कि अधिक हिस्से छिपाकर, प्रशिक्षण के लिए कम समय देकर, या कम उदाहरण प्रदान करके। धुंधलेपन से सीखने वाले मॉडल सरल रूप से अधिक मजबूत (robust) थे। कठिन परिस्थितियों में वे आसानी से विफल नहीं हुए, जिससे पता चलता कि उन्होंने वस्तु के बारे में अधिक गहरी और लचीली समझ विकसित की थी।
यह समझने के लिए कि ऐसा क्यों हुआ, टीम ने बारीकी से देखा कि मॉडल वास्तव में अपने निर्णय लेने के लिए किस जानकारी का उपयोग कर रहे थे। उन्होंने पाया कि मानक मॉडल, जो सपाट धूसर ब्लॉकों के साथ प्रशिक्षित थे, उच्च-आवृत्ति (high-frequency) वाले विवरणों—जैसे तीखे किनारों और सूक्ष्म बनावटों—पर बहुत अधिक निर्भर करते थे, जिन्हें शोर या विरूपण द्वारा आसानी से भ्रमित किया जा सकता है। इसके विपरीत, धुंधलेपन के साथ प्रशिक्षित मॉडलों ने निम्न-आवृत्ति (lower-frequency) वाली जानकारी पर ध्यान केंद्रित किया, जो वस्तुओं के व्यापक आकार और समग्र संरचना से संबंधित है। ध्यान का यह बदलाव उनकी सफलता की कुंजी साबित हुआ। शोधकर्ताओं ने इस व्यवहार और प्रदर्शन के बीच एक सीधा संबंध पाया: मॉडल जितना अधिक सूक्ष्म, तीखे विवरणों पर निर्भर करता था, उसका प्रदर्शन उतना ही खराब होता गया। जिन मॉडलों ने धुंधलेपन और इस प्रकार व्यापक आकारों को अपनाया, वे बेहतर सामान्यीकरण (generalization) करने में सक्षम थे।
अध्ययन ने यह भी खोजा कि क्या कंप्यूटर केवल धुंधलेपन को उलटने (reverse) की कोशिश कर रहा था, जैसे कि कोई फोटो एडिटर फिल्टर को हटाता है। उन छवियों पर परीक्षण करके जो पूरी तरह से धुंधली थीं और जिनमें अनुमान लगाने के लिए कोई तीखा हिस्सा शेष नहीं था, शोधकर्ताओं ने दिखाया कि मॉडल बहुत अधिक जटिल कार्य कर रहे थे। उन्होंने छवि के भीतर संरचनात्मक संबंधों को पहचानना सीख लिया था, न कि केवल एक विशिष्ट विरूपण को ठीक करना। यह सुझाव देता है कि धुंधले संदर्भ से सूक्ष्म विवरणों का अनुमान लगाने की प्रक्रिया कृत्रिम मस्तिष्क को दुनिया का एक अधिक स्थिर और सटीक आंतरिक मानचित्र बनाने के लिए मजबूर करती है।
यह कार्य आर्टिफिशियल इंटेलिजेंस के लिए प्रेरणा के रूप में जीव विज्ञान की ओर देखने का एक ठोस कारण प्रदान करता है। सूचना के कृत्रिम विलोपन को मानव परिधीय दृष्टि के प्राकृतिक, क्रमिक विवरण हानि की प्रक्रिया से बदलकर, शोधकर्ताओं ने एक ऐसा लर्निंग सिग्नल बनाया जो कहीं अधिक प्रभावी है। निष्कर्ष बताते हैं कि जिस तरह से हमारी आँखें स्वाभाविक रूप से दुनिया को स्कैन करती हैं, निरंतर तीक्ष्णता और व्यापक दृश्य के बीच संतुलन बनाती हैं, वह मजबूती (robustness) का एक अंतर्निहित पाठ प्रदान करती है। जो मशीनें हम देखने के लिए बना रहे हैं, उनके लिए सबक स्पष्ट है: कभी-कभी, दुनिया को थोड़ा कम तीक्ष्णता से देखना ही उसे समझने का सबसे अच्छा तरीका होता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।