Mutual Lateral Prediction for Locally Trained Spiking Neural Networks
यह शोध पत्र MPC-SNN प्रस्तुत करता है, जो एक नवीन कनवल्शनल स्पाइकिंग न्यूरल नेटवर्क है जो एक सीखे हुए लेटरल वेट मैट्रिक्स के माध्यम से न्यूरॉन्स को अपने साथियों के फीडफॉरवर्ड इनपुट्स की भविष्यवाणी करने में सक्षम बनाकर, पूरी तरह से स्थानीय, बैकप्रोपैगेशन-मुक्त लर्निंग का उपयोग करके DVS128 जेस्चर बेंचमार्क पर अत्याधुनिक सटीकता प्राप्त करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
ऐसी मशीनों के निर्माण की खोज में जो मानव मस्तिष्क की दक्षता के साथ देख और सोच सकें, शोधकर्ताओं ने लंबे समय से 'स्पाइकिंग न्यूरल नेटवर्क' नामक एक विशेष प्रकार के कृत्रिम नेटवर्क की ओर देखा है। उन मानक कंप्यूटर प्रोग्रामों के विपरीत जो सूचना को एक स्थिर, निरंतर प्रवाह में संसाधित करते हैं, ये नेटवर्क मस्तिष्क की अपनी विद्युत भाषा की नकल करते हैं: संक्षिप्त, तीक्ष्ण गतिविधि के झटके जिन्हें 'स्पाइक्स' (spikes) कहा जाता है। यह दृष्टिकोण जीव विज्ञान की नकल करने के लिए डिज़ाइन किए गए नए प्रकार के हार्डवेयर के लिए विशेष रूप से उपयुक्त है, जो पारंपरिक कंप्यूटरों की तुलना में ऊर्जा के एक बहुत छोटे अंश का उपयोग करते हुए जटिल कार्य कर सकते हैं। हालाँकि, एक बड़ी बाधा बनी हुई थी। इन नेटवर्कों को पैटर्न पहचानने के लिए सिखाने का सबसे सटीक तरीका वर्तमान में एक ऐसी विधि पर निर्भर करता है जिसमें कंप्यूटर को नेटवर्क की प्रत्येक परत के माध्यम से त्रुटि संकेतों (error signals) को वापस भेजना पड़ता है, एक ऐसी प्रक्रिया जो ऊर्जा-कुशल हार्डवेयर पर चलाना असंभव है और जिसका जैविक मस्तिष्क में कोई समकक्ष नहीं है। वैज्ञानिक इन नेटवर्कों को केवल स्थानीय नियमों (local rules) का उपयोग करके प्रशिक्षित करने का तरीका खोज रहे थे, जहाँ नेटवर्क का प्रत्येक भाग बिना शीर्ष से किसी वैश्विक संकेत (global signal) की आवश्यकता के अपने निकटतम पड़ोसियों से सीखता है।
शोधकर्ताओं की एक टीम ने अब इस समस्या को हल करने के लिए एक नई प्रणाली पेश की है, जो नेटवर्क को यह भविष्यवाणी करना सिखाती है कि उसके पड़ोसी क्या अनुभव करने वाले हैं। इस नए आर्किटेक्चर में, जिसे MPC-SNN कहा जाता है, प्रत्येक न्यूरॉन न केवल प्राप्त संकेतों पर प्रतिक्रिया करता है, बल्कि वह अपने साथियों द्वारा प्राप्त किए जाने वाले संकेतों का अनुमान लगाने का भी प्रयास करता है। यदि भविष्यवाणी सही है, तो न्यूरॉन शांत रहता है। यदि भविष्यवाणी गलत है, तो न्यूरॉन 'आश्चर्य' का संकेत देने के लिए एक स्पाइक छोड़ता है। यह तंत्र इस बात की अनुमति देता है कि नेटवर्क पूरी तरह से स्थानीय अंतःक्रियाओं से सीखे, जहाँ एक विशिष्ट नियम का उपयोग किया जाता है जिसमें एक न्यूरॉन अपनी त्रुटि और एक पड़ोसी की हालिया गतिविधि के आधार पर अपने कनेक्शनों को अपडेट करता है। शोधकर्ताओं ने इस प्रणाली का परीक्षण हाथ के इशारों (gestures) के एक डेटासेट पर किया जो एक विशेष कैमरे द्वारा रिकॉर्ड किए गए थे जो केवल प्रकाश के परिवर्तनों को देखता है, जो इस प्रकार की तकनीक की ताकत के साथ पूरी तरह मेल खाता है।
अध्ययन के परिणाम दर्शाते हैं कि यह दृष्टिकोण उल्लेखनीय रूप रूप से अच्छा काम करता है। 288 जेस्चर नमूनों के परीक्षण सेट पर, नेटवर्क ने 95.83 प्रतिशत की सटीकता प्राप्त की, जो कि उन सर्वोत्तम मौजूदा तरीकों के बराबर है जो वैश्विक त्रुटि संकेतों का उपयोग नहीं करते हैं और उन प्रणालियों से काफी बेहतर प्रदर्शन करती है जिन्हें पहले से ही भौतिक न्यूरोमॉर्फिक चिप्स पर तैनात किया जा चुका है। शायद अधिक महत्वपूर्ण बात यह है कि जैसे-जैसे इसने सीखा, नेटवर्क बहुत अधिक कुशल हो गया। प्रशिक्षण प्रक्रिया के दौरान, इसके द्वारा उत्सर्जित स्पाइक्स की संख्या 60 प्रतिशत से अधिक कम हो गई, जिसका अर्थ है कि अंतिम प्रणाली निर्णय लेने के लिए बहुत कम ऊर्जा का उपयोग करती है। यह दक्षता किसी विशिष्ट 'स्पार्सिटी' (sparsity) नियम द्वारा मजबूर नहीं की गई थी; बल्कि यह स्वाभाविक रूप से उभरी क्योंकि नेटवर्क ने केवल तभी स्पाइक छोड़ना सीखा जब वह इनपुट से वास्तव में आश्चर्यचकित होता था।
इस अध्ययन की एक प्रमुख खोज यह थी कि न्यूरॉन्स को अपने पड़ोसियों के इनपुट की भविष्यवाणी करने में सक्षम बनाने वाला तंत्र केवल एक सैद्धांतिक विचार नहीं था, बल्कि प्रणाली का एक सक्रिय, बढ़ता हुआ हिस्सा था। जब शोधकर्ताओं ने प्रशिक्षण शुरू किया, तो इन भविष्यवाणियों के लिए जिम्मेदार कनेक्शन लगभग शून्य थे। जैसे-जैसे नेटवर्क ने सीखा, ये कनेक्शन महत्वपूर्ण रूप से बढ़े, जिसमें सबसे मजबूत परत ने अपनी भविष्य कहने की शक्ति को बीस गुना से अधिक बढ़ा दिया। यह विकास बिना किसी लेबल या बाहरी मार्गदर्शन के हुआ, जो यह सिद्ध करता है कि नेटवर्क वास्तव में अपने साथियों की गतिविधि का अनुमान लगाने के लिए सीख रहा था। अध्ययन ने यह भी पाया कि प्रणाली उस जानकारी के साथ अत्यधिक कुशल थी जो उसे दी गई थी। यहाँ तक कि जब शोधकर्ताओं ने प्रशिक्षण के लिए उपयोग किए गए लेबल वाले डेटा की मात्रा को मूल मात्रा के केवल एक-चौथाई तक कम कर दिया, तब भी नेटवर्क ने लगभग तीन-चौथाई सटीकता बनाए रखी, जो यह सुझाव देता है कि प्रारंभिक स्थानीय शिक्षण चरण ने पहले ही दृश्य दुनिया की एक मजबूत समझ बना ली थी।
यद्यपि प्रणाली ने सिमुलेशन में असाधारण प्रदर्शन किया, शोधकर्ताओं ने सावधानीपूर्वक यह नोट किया कि परिणाम वर्तमान में कंप्यूटर मॉडल तक ही सीमित हैं और अभी तक भौतिक न्यूरोमॉर्फिक चिप्स पर परीक्षण नहीं किए गए हैं। उन्होंने यह भी देखा कि प्रणाली उन इशारों की पहचान करने में संघर्ष करती है जो प्रशिक्षण डेटा से संरचनात्मक रूप से बहुत भिन्न हैं, जो यह दर्शाता है कि असामान्य इनपुट का पता लगाने की इसकी क्षमता अभी भी सीमित है। फिर भी, यह कार्य एक ठोस प्रमाण प्रदान करता है कि एक नेटवर्क केवल स्थानीय नियमों और प्रेडिक्टिव कोडिंग (predictive coding) का उपयोग करके जटिल कार्यों को सीख सकता है, जो जैविक प्रणालियों की तरह कम ऊर्जा और उच्च गति के साथ संचालित होने वाली बुद्धिमान मशीनें बनाने के लिए एक व्यवहार्य मार्ग प्रदान करता है। इस दृष्टिकोण की सफलता यह सुझाव देती है कि कुशल कृत्रिम बुद्धिमत्ता का भविष्य नेटवर्क के माध्यम से भारी मात्रा में डेटा वापस भेजने में नहीं, बल्कि प्रणाली के प्रत्येक हिस्से को अपने पड़ोसियों को सुनने और भविष्यवाणी करने के लिए सिखाने में निहित है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।