Learning complex temporal dependencies via local synaptic plasticity
यह शोध पत्र प्रदर्शित करता है कि टेम्पोरल प्रेडिक्टिव कोडिंग (tPC), जो स्थानीय सिनैप्टिक प्लास्टिसिटी का उपयोग करने वाला एक जैविक रूप से प्रशंसनीय ढांचा है, रिज़र्व्वर डायनेमिक्स, पदानुक्रमित संरचनाओं और एलिजिबिलिटी ट्रेसेस का लाभ उठाकर जटिल टेम्पोरल निर्भरताओं को प्रभावी ढंग से सीख सकता है और पारंपरिक बैकप्रोपैगेशन-आधारित विधियों की बराबरी कर सकता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
दुनिया में नेविगेट करने के लिए, हमारे मस्तिष्क को लगातार यह ट्रैक करना होता है कि घटनाएँ समय के साथ कैसे विकसित होती हैं। चाहे हम एक वाक्य में अगले शब्द की भविष्यवाणी कर रहे हों, टेनिस के स्विंग का समय निर्धारित कर रहे हों, या बस यह याद रख रहे हों कि हमने अपनी चाबियाँ कहाँ छोड़ी थीं, क्षणों के एक अनुक्रम से पैटर्न निकालना मानवीय विचार का एक मौलिक आधार है। दशकों तक, इस प्रक्रिया को समझने की कोशिश करने वाले वैज्ञानिक 'रिकरेंट न्यूरल नेटवर्क' नामक शक्तिशाली कंप्यूटर मॉडल पर निर्भर रहे हैं। ये डिजिटल सिस्टम अनुक्रमों (sequences) को सीखने में उत्कृष्ट हैं, लेकिन वे अक्सर एक ऐसे आधार पर बने होते हैं जो वास्तविक मस्तिष्क के काम करने के तरीके से मेल नहीं खाता। इन नेटवर्कों को सिखाने की मानक विधि में एक गणितीय युक्ति शामिल है जिसमें सिस्टम को समय में पीछे देखना पड़ता है, हर पिछले अवस्था (state) को संग्रहीत करना पड़ता है और त्रुटि संकेतों को विपरीत दिशा में भेजना पड़ता है। हालांकि यह कंप्यूटरों के लिए अच्छा काम करता है, लेकिन इसे जैविक रूप से असंभव माना जाता है क्योंकि न्यूरॉन्स केवल अपने तत्काल स्थान पर पहुँचने वाले संकेतों पर प्रतिक्रिया कर सकते हैं और दूर के अतीत की जानकारी तक नहीं पहुँच सकते। प्रभावी कृत्रिम बुद्धिमत्ता और संभावित जीव विज्ञान के बीच के इस अंतर ने एक बड़ा प्रश्न अनुत्तरित छोड़ दिया है: मस्तिष्क केवल स्थानीय, जैविक नियमों का उपयोग करके जटिल अस्थायी निर्भरताओं (temporal dependencies) को वास्तव में कैसे सीखता है?
ऑक्सफोर्ड विश्वविद्यालय के शोधकर्ताओं की एक टीम ने 'टेम्पोरल प्रेडिक्टिव कोडिंग' नामक एक ढांचे की खोज करके इस प्रश्न का उत्तर देने की दिशा में एक महत्वपूर्ण कदम उठाया है। यह दृष्टिकोण बताता है कि मस्तिष्क को सीखने के लिए पीछे देखने की आवश्यकता नहीं है; इसके बजाय, यह लगातार इस बात की भविष्यवाणी करता है कि आगे क्या होगा और उन भविष्यवाणियों तथा वास्तविकता के बीच के अंतर के आधार पर अपने आंतरिक मॉडल को अपडेट करता है। शोधकर्ताओं—जूलियन एनजी-की-कुओंग, मुफेंग तांग, थॉमस अकाम और राफल बोगैज़—ने इस बात की जांच की कि क्या यह स्थानीय शिक्षण विधि उन जटिल, समय-आधारित कार्यों को संभाल सकती है जो आमतौर पर अधिक शक्तिशाली, जैविक रूप से अवास्तविक एल्गोरिदम के लिए आरक्षित होते हैं। उन्होंने पाया कि इस प्रेडिक्टिव कोडिंग ढांचे को परिष्कृत करके, वे ऐसे नेटवर्क बना सकते हैं जो संदर्भ को याद रखना सीख सकते हैं, समय अंतराल से जुड़े जटिल पहेलियों को हल कर सकते हैं, और विकर्षणों (distractions) के प्रति मजबूत रह सकते हैं, और यह सब केवल उन सरल, स्थानीय नियमों का उपयोग करते हुए संभव है जिनका पालन वास्तविक न्यूरॉन्स करते हैं।
उनके शोध का मुख्य हिस्सा इस प्रेडिक्टिव कोडिंग प्रणाली का एक मानक, ट्रंकेटेड (truncated) 'बैकवर्ड-लर्निंग एल्गोरिदम' के विरुद्ध परीक्षण करना था। मानक बैकवर्ड विधि में, कंप्यूटर यह गणना करता है कि अनुक्रम के अंत में हुई गलती कितनी घटनाओं के कारण हुई जो ठीक एक कदम पहले हुई थीं। शोधकर्ताओं ने दिखाया कि उनकी प्रेडिक्टिव कोडिंग प्रणाली इस एक-कदम पीछे वाली विधि के गणितीय रूप से समान अपडेट उत्पन्न करती है, लेकिन सूचना के प्रसंस्करण के तरीके में एक महत्वपूर्ण अंतर के साथ। प्रेडिक्टिव कोडिंग मॉडल में, सिस्टम केवल जानकारी को आगे ही नहीं भेजता; बल्कि यह अपनी भविष्यवाणी की तुलना वास्तविक संवेदी इनपुट से करके हर क्षण अपने आंतरिक राज्य (internal state) को सक्रिय रूप से परिष्कृत करता है। यह वर्तमान अवलोकन से नेटवर्क की स्मृति में सूचना का एक सूक्ष्म लेकिन शक्तिशाली प्रवाह बनाता है, जिससे यह वास्तविक समय में अपना मार्ग सुधारने में सक्षम होता है। जब उन्होंने एक चलते हुए कण की स्थिति को ट्रैक करने के सरल कार्य पर इसका परीक्षण किया, तो प्रेडिक्टिव कोडिंग मॉडल ने कार्य को आसानी से सीखा, जबकि एक मानक नेटवर्क जो एक-कदम पीछे वाली विधि का उपयोग करता था, विफल रहा, क्योंकि वह उस अतिरिक्त, तत्काल फीडबैक के बिना समय के साथ वेग (velocity) की जानकारी को एकीकृत करने में असमर्थ था।
इस नींव पर निर्माण करते हुए, टीम ने यह पता लगाने के लिए कि क्या ये नेटवर्क अधिक जटिल अनुक्रमों को संभाल सकते हैं जहाँ वर्तमान क्षण कई चरणों पहले की घटनाओं पर निर्भर करता है—जो कि 'नॉन-मार्कोवियन' (non-Markovian) प्रकार की समस्या है। इन परिदृश्यों में, केवल तत्काल अतीत को जानना पर्याप्त नहीं है; सिस्टम को एक लंबे संदर्भ को मन में बनाए रखना होता है। शोधकर्ताओं ने प्रदर्शित किया कि उनके प्रेडिक्टिव कोडिंग नेटवर्क अपने आंतरिक गतिकी (internal dynamics) का उपयोग एक 'रिजर्वायर' (reservoir) की तरह करने के लिए कर सकते हैं, जो एक उच्च-आयामी अवस्था क्षेत्र (high-dimensional state space) है जहाँ पिछले इनपुट टिके रहते हैं और वर्तमान को प्रभावित करते हैं। मानक 'रिजर्वायर कंप्यूटरों' के विपरीत, जो अपने आंतरिक कनेक्शनों को स्थिर रखते हैं, यह सिस्टम स्थानीय शिक्षण के माध्यम से अपने स्वयं के आंतरिक पथों को आकार दे सकता है। न्यूरॉन्स के बीच के कनेक्शनों को स्थानीय त्रुटियों के आधार पर समायोजित करके, नेटवर्क ने अपने आंतरिक राज्य को पुनर्गठित किया ताकि विभिन्न पैटर्न को पहचानना आसान हो सके। इसने सिस्टम को शून्य और एक के वैकल्पिक अनुक्रमों को सीखने की अनुमति दी जिसमें कई चरणों के ब्लॉक को याद रखने की आवश्यकता थी, एक ऐसा कार्य जिसमें स्थिर रिजर्वायर संघर्ष करते थे क्योंकि पैटर्न अधिक जटिल होते जा रहे थे।
इन कठिन अस्थायी चुनौतियों से निपटने के लिए, शोधकर्ताओं ने एक पदानुक्रमित संरचना (hierarchical structure) पेश की, जिसमें प्रेडिक्टिव नेटवर्कों की कई परतों को एक के ऊपर एक रखा गया। इस व्यवस्था में, प्रत्येक परत नीचे वाली परत से जानकारी प्राप्त करती है, लेकिन थोड़े समय के विलंब (delay) के साथ, जिससे नेटवर्क के विभिन्न स्तर अलग-अलग टाइमस्केल पर कार्य कर सकें। यह वास्तुकला उन कार्यों को हल करने में उल्लेखनीय रूप से प्रभावी साबित हुई जिनमें व्यापक रूप से अलग क्षणों को जोड़ने की आवश्यकता होती है, जैसे कि एक 'पैरिटी चेक' जहाँ सिस्टम को एक लंबे अनुक्रम में विशिष्ट संकेतों की कुल संख्या गिनकर यह निर्धारित करना होता है कि गणना विषम (odd) है या सम (even)। जहाँ एक एकल-परत वाला नेटवर्क विफल हो गया जब अनुक्रम बहुत लंबा हो गया या समय का अंतराल बहुत अधिक बढ़ गया, वहीं बहु-स्तरीय प्रणाली सफल रही। इसके अलावा, इस पदानुक्रमित डिजाइन ने हस्तक्षेप के विरुद्ध एक ढाल प्रदान की। जब शोधकर्ताओं ने इनपुट स्ट्रीम में मजबूत, विचलित करने वाले संकेतों को पेश किया, तो एकल-परत वाले नेटवर्क ने मूल संकेत की स्मृति खो दी, लेकिन पदानुक्रमित नेटवर्क ने इसे बनाए रखा, प्रासंगिक जानकारी को चुनिंदा रूप से एकीकृत किया और शोर (noise) को फ़िल्टर कर दिया।
अंत में, टीम ने बहुत लंबे विलंब के दौरान सीखने की चुनौती का समाधान किया, जहाँ पुरस्कार या त्रुटि संकेत प्रारंभिक घटना के बहुत बाद में आता है। जीव विज्ञान में, इसे अक्सर 'एलिजिबिलिटी ट्रेस' (eligibility trace) नामक तंत्र द्वारा संभाला जाता है, जो एक सिनैप्स (synapse) पर एक अस्थायी टैग की तरह कार्य करता है, जो तब तक परिवर्तन के लिए पात्र बना रहता है जब तक कि एक वैश्विक संकेत सीखने की पुष्टि करने के लिए नहीं आ जाता। शोधकर्ताओं ने इस अवधारणा को अपने प्रेडिक्टिव कोडिंग ढांचे में शामिल किया, जिससे एक ऐसा सिस्टम बना जो पिछली गतिविधि की घटती हुई स्मृति को बनाए रख सकता है। इसने नेटवर्क को कई सेकंड पहले हुई घटना को एक बहुत बाद में आने वाले लर्निंग सिग्नल से जोड़ने में सक्षम बनाया। एक 'डिले रिस्पॉन्स टास्क' (delayed response task) के परीक्षणों में, जहाँ मॉडल को ट्रायल की शुरुआत में प्रस्तुत किए गए संकेत को याद रखना था और एक परिवर्तनशील विलंब के बाद उसे दोहराना था, 'एलिजिबिलिटी ट्रेस' वाले सिस्टम ने वहां सफलता प्राप्त की जहाँ मानक संस्करण विफल रहा था। यह दस टाइम-स्टेप्स तक के अंतराल को पाट सका, और विलंब के बाद भी मूल संकेत को सफलतापूर्वक दोहरा सका, जो यह दर्शाता है कि स्थानीय प्लास्टिसिटी नियम वास्तव में विस्तारित अवधियों तक सीखने का समर्थन कर सकते हैं।
निष्कर्ष बताते हैं कि मस्तिष्क को समय से सीखने के लिए 'बैकवर्ड एरर प्रोपेगेशन' की जटिल, गैर-स्थानीय मशीनरी की आवश्यकता नहीं हो सकती है। इसके बजाय, अपेक्षाकृत सरल नेटवर्क जो स्थानीय नियमों द्वारा संचालित होते हैं, यदि उन्हें प्रेडिक्टिव डायनेमिक्स, पदानुक्रमित परतों और एलिजिबिलिटी ट्रेसेस के साथ व्यवस्थित किया जाए, तो वे परिष्कृत अस्थायी शिक्षण का समर्थन कर सकते हैं। हालाँकि ये मॉडल अभी भी सिमुलेशन हैं और मानव मस्तिष्क का पूर्ण विवरण नहीं हैं, फिर भी वे कृत्रिम बुद्धिमत्ता में उपयोग किए जाने वाले मानक एल्गोरिदम के लिए एक सम्मोहक विकल्प पेश करते हैं। वे दिखाते हैं कि जैविक रूप से व्यवहार्य होने का अर्थ जटिल पैटर्न सीखने की क्षमता का त्याग करना नहीं है। प्रेडिक्टिव कोडिंग को इन अतिरिक्त तंत्रों के साथ जोड़कर, शोधकर्ताओं ने यह समझने का मार्ग प्रशस्त किया है कि जैविक प्रणालियाँ कठिन 'टेम्पोरल क्रेडिट असाइनमेंट' की समस्या को कैसे हल कर सकती हैं—अर्थात, बिना पीछे देखे, अतीत से सीखना।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।