Efficient coding along the visual hierarchy
यह शोध पत्र यह प्रदर्शित करता है कि एक अनसुपरवाइज्ड (unsupervised) कुशल कोडिंग मॉडल, जो बिना किसी लेबल या बैकप्रोपैगेशन के स्थानीय सांख्यिकी के आधार पर दृश्य इनपुट को संकुचित करता है, सीमित डेटा से सफलतापूर्वक एक मानव-संरेखित दृश्य पदानुक्रम का निर्माण करता है जो मस्तिष्क की प्रतिक्रियाओं की भविष्यवाणी करता है और सुपरवाइज्ड फाइन-ट्यूनिंग के साथ जुड़ने पर सीखने की क्षमता को बढ़ाता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपका मस्तिष्क एक अत्यंत उन्नत कैमरे की तरह है जो न केवल तस्वीरें लेता है, बल्कि केवल देखकर दुनिया को समझने के लिए भी सीखता है। उस आर्टिफिशियल इंटेलिजेंस (AI) के विपरीत जिसे हम फिल्मों या वीडियो गेम में देखते हैं, जिसे अक्सर यह सीखने के लिए कि बिल्ली या कार कैसी दिखती है, लाखों तस्वीरों का "अध्ययन" करने की आवश्यकता होती है, आपका मस्तिष्क केवल कुछ उदाहरणों से चीजों को समझ सकता है। वैज्ञानिक लंबे समय से आश्चर्य कर रहे हैं: मस्तिष्क ऐसा कैसे करता है? एक प्रमुख विचार है जिसे "एफिशिएंट कोडिंग" (कुशल कोडिंग) कहा जाता है। इसे एक स्मार्ट कंप्रेशन एल्गोरिदम की तरह समझें। हर छवि के हर एक पिक्सेल को याद करने के बजाय, मस्तिष्क इस बात के "नियम" सीखता है कि प्राकृतिक छवियां कैसे बनी होती हैं—जैसे कि किनारे (edges), रंग और बनावट (textures) आमतौरट एक साथ कैसे फिट होते हैं। सबसे सामान्य पैटर्न पर ध्यान केंद्रित करके और यादृच्छिक शोर (random noise) को अनदेखा करके, मस्तिष्क विशेषताओं की एक मानसिक लाइब्रेरी बनाता है जो उसे चीजों को तेजी से पहचानने में मदद करती है। बड़ा सवाल यह है: क्या यह सरल, अनसुपरवाइज्ड (unsupervised) "देखकर सीखना" वास्तव में एक गहरी, जटिल समझ बना सकता है, जो सरल रेखाओं से लेकर जटिल वस्तुओं तक हो, और वह भी बिना किसी शिक्षक के यह बताए कि हर चीज क्या है?
जॉन्स हॉपकिन्स यूनिवर्सिटी के शोधकर्ताओं ने एक नए अध्ययन में इस विचार का परीक्षण करने का निर्णय लिया, जिसके लिए उन्होंने इस जैविक शैली के सीखने की नकल करने वाला एक कंप्यूटर मॉडल बनाया। उन्होंने एक डिजिटल मस्तिष्क बनाया जो परतों (layers) में सीखता है, बिल्कुल हमारे सिर में मौजूद विजुअल सिस्टम की तरह। मॉडल को लेबल की गई तस्वीरें (जैसे "यह एक कुत्ता है" या "यह एक पेड़ है") खिलाने के बजाय, उसे बस हजारों प्राकृतिक छवियां दिखाई गईं और उसे उनके भीतर सबसे महत्वपूर्ण पैटर्न खोजने के लिए कहा गया। इसने जानकारी को कंप्रेस करने के लिए 'प्रिंसिपल कंपोनेंट एनालिसिस' (PCA) नामक एक गणितीय ट्रिक का उपयोग किया, जिसमें केवल सबसे प्रमुख विविधताओं—जैसे कि सबसे बार-बार आने वाले रंग या आकार—को रखा गया और बाकी को हटा दिया गया।
परिणाम आश्चर्यजनक रूप से शक्तिशाली थे। बिना किसी लेबल या कार्य के भी, इस "एफिशिएंट कोडिंग" मॉडल ने ऐसी विशेषताएं सीखना शुरू कर दीं जो काफी हद तक वैसी ही थीं जैसी मानव मस्तिष्क देखता है। मॉडल की शुरुआती परतों ने किनारों और रंगों जैसी सरल चीजों को पहचानना सीखा। लेकिन जैसे-जैसे जानकारी नेटवर्क में गहराई तक गई, परतों ने बनावट, आकार और यहाँ तक कि पूरी वस्तुओं जैसी बहुत अधिक जटिल चीजों को पहचानना शुरू कर दिया। जब शोधकर्ताओं ने इन विशेषताओं का मानव स्वयंसेवकों के साथ परीक्षण किया, तो लोग आसानी से पहचान सके कि कंप्यूटर क्या "देख" रहा था, जिससे पता चलता कि मॉडल ने कुछ वैसा ही सीखा है जैसा हम दुनिया को देखते या महसूस करते हैं।
टीम ने एक "हाइब्रिड" दृष्टिकोण का भी परीक्षण किया, जहाँ उन्होंने मॉडल को पहले इन पैटर्न को सीखने दिया, और फिर उसे थोड़ा सा सुपरवाइज्ड ट्रेनिंग (जैसे कि उसे कुछ लेबल किए गए उदाहरण दिखाना) दी ताकि उसके कौशल को और बेहतर बनाया जा सके। उन्होंने पाया कि यह हाइब्रिड मॉडल अविश्वसनीय रूप से डेटा-कुशल (data-efficient) था। जबकि एक मानक AI मॉडल को अच्छी तरह सीखने के लिए लाखों छवियों की आवश्यकता होती है, यह हाइब्रिड मॉडल केवल 1,000 तस्वीरें देखने के बाद नई छवियों के प्रति मानव मस्तिष्क की प्रतिक्रिया की भविष्यवाणी कर सकता था। वास्तव में, जब उन्होंने हाइब्रिड मॉडल को प्रति श्रेणी केवल एक छवि दी (1,000 श्रेणियों के लिए कुल 1,000 छवियां), तब भी इसने समान मात्रा में डेटा पर प्रशिक्षित मानक मॉडलों से बेहतर प्रदर्शन किया।
शायद सबसे रोमांचक खोज यह थी कि इस पद्धति ने AI को एक बहुत तेज़ सीखने वाला बना दिया। जब शोधकर्ताओं ने बहुत कम डेटा के साथ मॉडल को नई श्रेणियां सिखाने की कोशिश की, तो वह संस्करण जिसने एफिशिएंट कोडिंग के साथ शुरुआत की थी, उसने शून्य से शुरू करने वाले मॉडल की तुलना में बहुत तेजी से और अधिक सटीकता से सीखा। ऐसा लग रहा था जैसे एफिशिएंट कोडिंग ने AI को एक "हेड स्टार्ट" (शुरुआती बढ़त) दे दी हो, जिससे उसने किसी विशिष्ट परीक्षा के लिए अध्ययन शुरू करने से पहले ही अपनी आंतरिक विशेषताओं की लाइब्रेरी को व्यवस्थित कर लिया था। अध्ययन बताता है कि एफिशिएंट कोडिंग केवल दृष्टि के शुरुआती, सरल हिस्सों के लिए नहीं है; यह एक मौलिक सिद्धांत हो सकता है जो हमारे पूरे विजुअल पदानुक्रम (visual hierarchy) को आकार देता है, जिससे जैविक मस्तिष्क इतने कम डेटा से इतना कुछ सीख पाता है। हालांकि शोधकर्ता नोट करते हैं कि इसका मतलब यह नहीं है कि सुपरवाइज्ड लर्निंग महत्वपूर्ण नहीं है, लेकिन उनका काम सुझाव देता है कि पैटर्न खोजने की मस्तिष्क की प्राकृतिक क्षमता को विशिष्ट कार्य प्रशिक्षण के साथ जोड़ना स्मार्ट, अधिक कुशल AI बनाने की कुंजी हो सकती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।