Benchmarking local Hebbian learning rules for memory storage and prototype extraction
यह शोध पत्र पुनरावर्ती नेटवर्क (recurrent networks) में सात हेब्बियन लर्निंग नियमों का बेंचमार्क निर्धारित करता है, जिसमें यह पाया गया है कि जहाँ मूल योगात्मक नियम (additive rule) की क्षमता सबसे कम है और सहप्रसरण शिक्षण (covariance learning) सुदृढ़ता प्रदान करता है, वहीं बेयसियन-हेब्बियन नियम विभिन्न स्थितियों में बेहतर भंडारण क्षमता और प्रोटोटाइप निष्कर्षण प्रदर्शन प्रदर्शित करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
अपने मस्तिष्क की कल्पना एक विशाल, हलचल भरी लाइब्रेरी के रूप में करें जहाँ किताबें केवल अलमारियों पर रखी नहीं हैं, बल्कि हर जगह बिखरी हुई हैं, जो बस एक सुराग मिलने का इंतज़ार कर रही हैं। यदि आप किसी कहानी के कुछ शब्द फुसफुसाते हैं, तो लाइब्रेरी को तुरंत पूरी कहानी चिल्लाकर वापस बता देनी चाहिए। यही एसोसिएटिव मेमोरी (associative memory) का जादू है: एक अधूरे या बिखरे हुए संकेत से एक पूर्ण स्मृति को पुनः प्राप्त करने की क्षमता। यही वह कारण है जिससे आप एक विशिष्ट कुकी की गंध सूंघ सकते हैं और तुरंत अपनी दादी की रसोई को याद कर सकते हैं, या किसी गीत के कुछ सुर सुनकर पूरी धुन को याद कर सकते हैं। वैज्ञानिक लंबे समय से ऐसे कंप्यूटर मॉडल बनाने की कोशिश कर रहे हैं जो इस दिमागी तरकीब की नकल कर सकें, इस उम्मीद में कि वे समझ सकें कि हमारे मन कैसे काम करते हैं और स्मार्ट मशीनें बना सकें। बड़ा सवाल जो वे सुलझाने की कोशिश कर रहे हैं वह यह है कि: मस्तिष्क के लाइब्रेरियन को यह तय करने के लिए कौन सा "नियम" अपनाना चाहिए कि किन कनेक्शनों को मजबूत किया जाए? क्या लाइब्रेरियन को बस उन चीजों को जोड़ना चाहिए जो एक साथ होती हैं, या अव्यवस्था को व्यवस्थित करने का कोई अधिक परिष्कृत तरीका है ताकि लाइब्रेरी कभी अभिभूत न हो जाए?
इस शोध पत्र में, शोधकर्ताओं की एक टीम ने सात अलग-अलग "लाइब्रेरियन नियमों" को अंतिम परीक्षा के लिए रखा। उन्होंने डिजिटल मस्तिष्क बनाए—विशेष रूप से, सरल इकाइयों के नेटवर्क जो न्यूरॉन्स की तरह कार्य करते हैं—और उनसे पैटर्न याद करने के लिए कहा, जिनमें से कुछ एक "पूर्ण" मूल विचार के बिखरे हुए या विकृत संस्करण थे। इसे एक रोबोट को बिल्ली पहचानना सिखाने जैसा समझें। आप उसे बिल्लियों की हज़ार तस्वीरें दिखाते हैं, जिनमें से कुछ ने चश्मा पहना है, कुछ उल्टी हैं, कुछ धुंधली हैं। लक्ष्य यह है कि रोबोट एक नई, अजीब फोटो को देखकर कहे, "यह एक बिल्ली है!" बिना यह देखे कि उसने पहले कभी ठीक वही फोटो देखी हो। शोधकर्ताओं ने इन डिजिटल मस्तिष्कों को सात अलग-अलग सीखने की रणनीतियों का उपयोग करके सिम्युलेट किया, जो क्लासिक, सरल "जो देखो उसे जोड़ो" पद्धति से लेकर संभावना और तर्क पर आधारित अधिक जटिल, गणितीय रणनीतियों तक फैली हुई थीं।
परिणाम वैज्ञानिक समुदाय के लिए एक झटका थे। सबसे प्रसिद्ध नियम, जिसका नाम डोनाल्ड हेब (Hebb) के नाम पर रखा गया है, जिसे अक्सर "जो न्यूरॉन्स एक साथ सक्रिय होते हैं, वे एक साथ जुड़ जाते हैं" के रूप में संक्षेपित किया जाता है, सबसे खराब प्रदर्शन करने वाला साबित हुआ। यह एक ऐसे लाइब्रेरियन की तरह था जो बस हर नए नोट को दीवार पर मौजूद हर दूसरे नोट से चिपका देता है; अंततः, दीवार कागज़ से इतनी ढंक जाती है कि आप कुछ भी ढूंढ नहीं पाते। इसके विपरीत, वे नियम जिन्होंने थोड़ी संभावना और तर्क का उपयोग किया—विशेष रूप से, "बेयसियन-हेब्बियन" (Bayesian-Hebian) नियम—विजेता रहे। ये नियम एक सुपर-स्मार्ट लाइब्रेरियन की तरह काम करते थे जो न केवल चीजों को जोड़ते हैं बल्कि यह भी गणना करते हैं कि एक कनेक्शन कितना उपयोगी होने की संभावना है, जिससे शोर (noise) को फ़िल्टर किया जा सके। इन शीर्ष प्रदर्शन करने वाले नियमों में क्लासिक हेब नियम की तुलना में लगभग तीन गुना अधिक स्मृतियाँ संग्रहीत की जा सकती थीं और वे तस्वीरों में "शोर" या विकृतियों को अनदेखा करने में बहुत बेहतर थे।
शोधकर्ताओं ने यह भी परीक्षण किया कि ये नियम उस बिखरे हुए डेटा को कितनी अच्छी तरह संभाल सकते हैं जहाँ संकेत सह-संबंधित (correlated) होते हैं (जैसे एक ऐसी लाइब्रेरी जहाँ "कुत्तों" के बारे में हर किताब में गलती से "बिल्लियों" के बारे में भी एक पन्ना चिपका दिया गया हो)। यहाँ, एक अन्य नियम, जिसे PRCOV कहा जाता है, ने दिखाया कि वह इन भ्रमित करने वाले ओवरलैप्स को अनदेखा करने में माहिर है, यहाँ तक कि इसने कुछ विशिष्ट कार्यों में संभावना-आधारित नियमों को भी पीछे छोड़ दिया। हालाँकि, स्मृतियों को संग्रहीत करने और पुनः प्राप्त करने के समग्र कार्य के लिए, संभावना-आधारित नियम स्पष्ट विजेता थे। अध्ययन ने न केवल एक विजेता खोजा; इसने यह भी दिखाया कि नेटवर्क की संरचना मायने रखती है। एक "मॉड्यूलर" मस्तिष्क, जो छोटे, घनिष्ठ समूहों (जैसे शहर में पड़ोस) में संगठित होता है, एक विशाल, अविभेदित जाल की तुलना में थोड़ा बेहतर प्रदर्शन करता है।
अंततः, यह शोध पत्र सुझाव देता है कि यदि हम कृत्रिम मस्तिष्क बनाना चाहते हैं जो याद रखने में हमारे जितने अच्छे हों, तो हमें पुराने, सरल "एक साथ सक्रिय होने" वाले नियम का उपयोग करना बंद करना होगा और इन अधिक परिष्कृत, संभावना-आधारित नियमों का उपयोग करना शुरू करना होगा। यह एक याद दिलाता है कि मस्तिष्क का गुप्त मंत्र केवल कनेक्शन बनाना नहीं है; बल्कि यह जानना भी है कि कौन से कनेक्शन बनाने हैं और उन्हें कितना महत्व देना है। हालाँकि ये निष्कर्ष कंप्यूटर सिमुलेशन से आए हैं न कि मानव मस्तिष्क के सीधे स्कैन से, फिर भी वे एक मजबूत संकेत देते हैं कि मस्तिष्क पहले की तुलना में कहीं अधिक चतुर, गणित-प्रधान रणनीति का उपयोग कर रहा होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।