Higher-Order Kuramoto Oscillator Network for Dense Associative Memory

मानव मस्तिष्क जुड़ाव (association) का एक उस्ताद है। जब आप सूखी मिट्टी पर बारिश की गंध महसूस करते हैं, तो आप तुरंत अपने बचपन की एक गर्मियों की याद को याद कर लेते हैं; जब आप भीड़ में एक आंशिक चेहरा देखते हैं, तो आप एक मित्र को पहचान लेते हैं। किसी खंडित या दूषित संकेत से एक पूर्ण स्मृति को पुनः प्राप्त करने की इस क्षमता को 'एसोसिएटिव मेमोरी' (associative memory) के रूप में जाना जाता है। दशकों से, वैज्ञानिक ऐसे कृत्रिम सिस्टम बनाने की कोशिश कर रहे हैं जो इस प्रक्रिया की नकल कर सकें, अक्सर 'ऑसिलेटर्स' (oscillators) नामक सरल इकाइयों के गणितीय मॉडलों का उपयोग करके। ये इकाइयाँ, जिन्हें छोटे, लयबद्ध घड़ियों के रूप में सोचा जा सकता है, स्वाभाविक रूप से एक-दूसरे के साथ तालमेल बिठाना चाहती हैं। सिंक्रनाइज़ेशन (तालमेल) के अध्ययन के लिए उपयोग किए जाने वाले क्लासिक मॉडलों में, ये इकाइयाँ केवल जोड़ों में एक-दूसरे से बात करती हैं, जैसे दो लोग एक-दूसरे के कान में फुसफुसा रहे हों। हालांकि यह सरल सेटअप कुछ पैटर्न को संग्रहीत करने के लिए काम करता है, लेकिन यह एक साथ कई स्मृतियों को रखने के लिए संघर्ष करता है, और अक्सर भ्रमित हो जाता है या सिग्नल पूरी तरह से खो देता है। एक ऐसी मशीन बनाने के लिए जो स्मृतियों का विशाल पुस्तकालय रख सके और उन्हें विश्वसनीय रूप से पुनः प्राप्त कर सके, शोधकर्ताओं को यह खोजने की आवश्यकता थी कि इन इकाइयों को अधिक जटिल, समूह-आधारित तरीकों से कैसे परस्पर क्रिया (interact) कराया जाए।

कैम्ब्रिज विश्वविद्यालय के शोधकर्ताओं की एक टीम ने इन लयबद्ध इकाइयों को न केवल जोड़ों में, बल्कि चार के समूहों में परस्पर क्रिया कराने वाला एक नया प्रकार का नेटवर्क डिजाइन करके इस समस्या को हल करने की दिशा में एक महत्वपूर्ण कदम उठाया है। उन्होंने मानक, अच्छी तरह से समझे गए युग्म-आधारित (pairwise) इंटरैक्शन को एक वास्तविक चार-तरफा कनेक्शन के साथ जोड़ा, जो सघन स्मृति भंडारण (dense memory storage) के सिद्धांतों से प्रेरित था। उनके मॉडल में, एक इकाई की स्थिति अन्य तीन के संयुक्त चरण (phase) पर निर्भर करती है, जिससे व्यवहार का एक बहुत समृद्ध परिदृश्य बनता है। कंप्यूटर सिमुलेशन और गणितीय विश्लेषण के साथ इस प्रणाली का परीक्षण करके, उन्होंने पाया कि यह चार-तरफा इंटरैक्शन सूचना को संग्रहीत और पुनः प्राप्त करने के तरीके को मौलिक रूप से बदल देता है। एक स्मृति अवस्था में धीरे-धीरे और क्रमिक बदलाव के बजाय, नेटवर्क अचानक अपनी जगह पर आकर स्थिर हो सकता है, जिससे यह शोर और हस्तक्षेप के विरुद्ध अपनी स्मृतियों को बहुत मजबूती से थामे रख सकता है।

शोधकर्ताओं ने एक विशिष्ट परिदृश्य पर ध्यान केंद्रित किया जहाँ नेटवर्क एक एकल संग्रहीत पैटर्न को याद करने की कोशिश कर रहा है, ठीक वैसे ही जैसे कोई व्यक्ति किसी व्यस्त कमरे के बैकग्राउंड शोर को नजरअंदाज करते हुए एक विशिष्ट चेहरे को याद करने की कोशिश करता है। उन्होंने पाया कि नेटवर्क का व्यवहार सरल दो-तरफा कनेक्शनों और जटिल चार-तरफा कनेक्शनों के बीच के संतुलन पर बहुत अधिक निर्भर करता है। जब चार-तरफा कनेक्शन कमजोर होते हैं, तो नेटवर्क अनुमानित व्यवहार करता है, और स्थितियाँ सुधरने पर धीरे-धीरे स्मृति में लॉक हो जाता है। हालाँकि, जब चार-तरफा कनेक्शन पर्याप्त मजबूत हो जाते हैं—विशेष रूप से, जब वे अपने थर्मल मॉडल में दो-तरफा कनेक्शनों की तुलना में तीन गुना अधिक मजबूत होते हैं—तो व्यवहार नाटकीय रूप रूप से बदल जाता है। नेटवर्क एक "हिस्टेरेसिस" (hysteresis) प्रभाव विकसित करता है, जिसका अर्थ है कि यह एक ही समय में दो अलग-अलग अवस्थाओं में मौजूद हो सकता है: एक जहाँ इसने स्मृति खो दी है और एक जहाँ इसने इसे पूरी तरह से याद कर लिया है। विस्मृति की अवस्था से स्मृति की अवस्था में जाने के लिए, नेटवर्क को एक बाधा को पार करने के लिए एक मजबूत प्रारंभिक धक्का, या संकेत (cue) की आवश्यकता होती है। एक बार जब यह उस बाधा को पार कर लेता है, तो यह स्मृति अवस्था में लॉक हो जाता है, भले ही स्थितियाँ थोड़ी कम अनुकूल हो जाएं।

यह अचानक, 'सब-या-कुछ-नहीं' (all-or-nothing) वाला संक्रमण 'डेंस एसोसिएटिव मेमोरीज' की एक प्रमुख विशेषता है, जिन्हें पारंपरिक मॉडलों की तुलना में बहुत अधिक जानकारी संग्रहीत करने के लिए डिज़ाइन किया गया है। शोधकर्ताओं ने दिखाया कि इस चार-तरफा प्रभुत्व वाले शासन (regime) में, नेटवर्क द्वारा गलती से स्मृति खोने में लगने वाला समय इकाइयों की संख्या बढ़ने के साथ तेजी से (exponentially) बढ़ता है। व्यावहारिक शब्दों में, इसका अर्थ है कि इस विशिष्ट इंटरैक्शन वाला एक बड़ा नेटवर्क अविश्वसनीय रूप से स्थिर हो जाता है, और मानक नेटवर्क की तुलना में बहुत लंबे समय तक अपनी स्मृतियों को थामे रखता है। उन्होंने उन ऊर्जा बाधाओं (energy barriers) की गणना की जो इन स्मृतियों की रक्षा करती हैं और पाया कि इन बाधाओं की ऊंचाई चार-तरफा इंटरैक्शन की ताकत से निर्धारित होती है। यह सुझाव देता है कि इन इंटरैक्शन को ट्यून करके, इंजीनियर ऐसे हार्डवेयर डिजाइन कर सकते हैं जो स्वाभाविक रूप से भूलने का विरोध करता है, जो मजबूत आर्टिफिशियल इंटेलिजेंस सिस्टम बनाने के लिए एक महत्वपूर्ण आवश्यकता है।

टीम ने यह भी पता लगाया कि यह प्रणाली तब कैसा व्यवहार करती है जब इसे एक साथ कई पैटर्न संग्रहीत करने के लिए कहा जाता है, न कि केवल एक। वास्तविक दुनिया के परिदृश्य में, एक स्मृति प्रणाली को हजारों वस्तुओं के पुस्तकालय को संभालना होता है, न कि केवल एक छवि को। उन्होंने यह अनुमान लगाने के लिए कि कई पैटर्न एक साथ संग्रहीत होने पर कितना "क्रॉसटॉक" (crosstalk) या हस्तक्षेप होता है, एक सांख्यिकीय दृष्टिकोण का उपयोग किया। उनके सिमुलेशन ने खुलासा किया कि हालांकि सिस्टम एक महत्वपूर्ण भार को संभाल सकता है, लेकिन संग्रहीत पैटर्न की संख्या और नेटवर्क के आकार के बीच का संबंध जटिल है। कुछ मामलों में, विशेष रूप से जब चार-तरफा इंटरैक्शन हावी होते हैं, तो सिस्टम ने ऐसे रुझान दिखाए जहाँ संग्रहीत पैटर्न की संख्या नेटवर्क के आकार से अधिक तेजी से बढ़ती हुई प्रतीत हुई। हालाँकि, शोधकर्ताओं ने सावधानीपूर्वक नोट किया कि ये परिणाम सीमित-आकार के सिस्टम के सिमुलेशन और विशिष्ट परीक्षण स्थितियों पर आधारित हैं। उन्होंने स्पष्ट रूप से कहा कि ये फिट किए गए ढलान (fitted slopes) अनंत क्षमता कानून (asymptotic capacity laws) नहीं हैं, बल्कि सीमित-आकार के रुझान हैं जो अनंत रूप से बड़े सिस्टम के लिए आवश्यक रूप से लागू नहीं होते हैं।

इन विचारों का परीक्षण करने के लिए, शोधकर्ताओं ने दो अलग-अलग प्रकार के मॉडलों का उपयोग करके व्यापक कंप्यूटर सिमुलेशन चलाए। एक मॉडल में रैंडम शोर (random noise) शामिल था, जो भौतिक प्रणालियों में पाए जाने वाले थर्मल उतार-चढ़ाव की नकल करता है, जबकि दूसरा एक नियतात्मक (deterministic) मॉडल था जिसमें कोई शोर नहीं था, जो एक आदर्श, पूरी तरह से नियंत्रित वातावरण का प्रतिनिधित्व करता है। दोनों मॉडलों ने दिखाया कि चार-तरफा इंटरैक्शन एक भ्रमित अवस्था और एक स्पष्ट स्मृति अवस्था के बीच एक अधिक तीक्ष्ण, अधिक स्पष्ट संक्रमण बनाता है। शोर वाले मॉडल में, वह संक्रमण बिंदु जहाँ नेटवर्क अचानक द्वि-स्थिर (bistable) हो जाता है, तब आया जब चार-तरफा ताकत दो-तरफा ताकत की तीन गुनी थी। शोर-मुक्त मॉडल में, यह महत्वपूर्ण बिंदु छह के अनुपात पर स्थानांतरित हो गया। यह अंतर स्पष्ट करता है कि विकार (disorder) की विशिष्ट प्रकृति—चाहे वह रैंडम शोर से आता हो या इकाइयों की प्राकृतिक लय में भिन्नता से—सिस्टम के व्यवहार के सटीक विवरणों के लिए मायने रखती है, भले ही अचानक स्मृति प्राप्ति की सामान्य घटना समान रहती है।

अध्ययन ने इस विचार को भी संबोधित किया कि वास्तविक दुनिया में ऐसे सिस्टम को कैसे बनाया जाए। गणितीय मॉडल के लिए एक विशिष्ट प्रकार के कनेक्शन की आवश्यकता होती है जहाँ चार इकाइयाँ एक साथ परस्पर क्रिया करती हैं, एक ऐसी विशेषता जो मानक इलेक्ट्रॉनिक सर्किट या सरल ऑप्टिकल सेटअप में मौजूद नहीं है। शोधकर्ताओं ने बताया कि हालांकि कुछ भौतिक प्रणालियाँ, जैसे कि नॉनलीनियर ऑप्टिकल मिक्सर या सुपरकंडक्टिंग सर्किट, प्रभावी 'मेनी-बॉडी इंटरैक्शन' उत्पन्न कर सकती हैं, लेकिन वर्तमान में कोई भी मौजूदा उपकरण उनके द्वारा अध्ययन किए गए सटीक गणितीय रूप को साकार नहीं करता है। इस मॉडल को लागू करने के लिए ऐसे प्रोग्रामेबल वेट्स (weights) की आवश्यकता होगी जो सकारात्मक या नकारात्मक हो सकते हैं, जिससे नेटवर्क विशिष्ट स्मृति पैटर्न को सुदृढ़ या दबा सके। इन इंजीनियरिंग बाधाओं के बावजूद, सैद्धांतिक कार्य एक स्पष्ट ब्लूप्रिंट प्रदान करता है। यह उन सटीक अवयवों की पहचान करता है—विशेष रूप से दो-बॉडी और चार-बॉडी बलों के बीच का संतुलन—जो एक ऐसे स्मृति सिस्टम को बनाने के लिए आवश्यक हैं जो सघन (dense) और स्थिर दोनों हो।

अंततः, यह कार्य स्मृति के अमूर्त सिद्धांतों और सिंक्रनाइज़ेशन (तालमेल) के भौतिकी के बीच के अंतर को पाटता है। यह प्रदर्शित करता है कि सरल युग्म-आधारित इंटरैक्शन से आगे बढ़कर, एक ऐसा सिस्टम बनाना संभव है जो मानव स्मृति की मजबूती की नकल करता है। निष्कर्ष बताते हैं कि शक्तिशाली, सघन एसोसिएटिव मेमोरीज बनाने की कुंजी उच्च-क्रम के इंटरैक्शन (higher-order interactions) का लाभ उठाना है जो सिस्टम के ऊर्जा परिदृश्य में गहरे, स्थिर कुएं (wells) बनाते हैं। हालाँकि यह पेपर अनंत स्मृति क्षमता की समस्या को हल करने या कार्यशील डिवाइस बनाने का दावा नहीं करता है, लेकिन यह आवश्यक सैद्धांतिक आधार प्रदान करता है और उन विशिष्ट भौतिक स्थितियों की पहचान करता है जिनके तहत ऐसा सिस्टम कार्य करेगा। परिणाम उन शोधकर्ताओं के लिए एक स्पष्ट मार्ग प्रदान करते हैं जो इन गणितीय अंतर्दृष्टि को भौतिक हार्डवेयर में बदलने का लक्ष्य रखते हैं, जो संभावित रूप से कंप्यूटिंग उपकरणों की एक नई पीढ़ी की ओर ले जा सकता है जो मानव मस्तिष्क की तरह ही आसानी और विश्वसनीयता के साथ सूचना के विशाल मात्रा को संग्रहीत और पुनः प्राप्त कर सकते हैं।