← नवीनतम पेपर
🤖 machine learning

Beyond Fixed Points: Superpolynomial Capacity of Asymmetric Hopfield Networks

यह शोधपत्र यह प्रदर्शित करता है कि बाइनरी न्यूरॉन्स वाले शास्त्रीय सिंक्रोनस एसिमेट्रिक हॉपफील्ड नेटवर्क लंबे, शोर-रोधी टेम्पोरल अनुक्रमों को संग्रहीत करने के लिए सुपरपॉलिनोमियल क्षमता प्राप्त कर सकते हैं, जो इस पारंपरिक दृष्टिकोण को चुनौती देता है कि ऐसे नेटवर्क केवल स्थिर पैटर्न भंडारण तक सीमित हैं।

मूल लेखक: Aakash Kumar, Anatoly Khina, Frederik Mallmann-Trenn, Emanuele Natale

प्रकाशित 2026-05-26
📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Aakash Kumar, Anatoly Khina, Frederik Mallmann-Trenn, Emanuele Natale

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

एक न्यूरल नेटवर्क की कल्पना एक विशाल, आपस में जुड़े हुए डांस फ्लोर के रूप में करें जहाँ हजारों नर्तक (न्यूरॉन्स) तालमेल में घूम रहे हैं। इस नृत्य के क्लासिक संस्करण में, हर कोई एक सख्त नियम का पालन करता है: यदि आपके पड़ोसी बाईं ओर झुकते हैं, तो आप भी बाईं ओर झुकते हैं; यदि वे दाईं ओर झुकते हैं, तो आप भी दाईं ओर झुकते हैं। क्योंकि नियम पूरी तरह से संतुलित (सिमेट्रिक) हैं, डांस फ्लोर अंततः एक स्थिर मुद्रा में स्थिर हो जाता है। यह एक स्थिर तस्वीर, जैसे कि बिल्ली की फोटो, को याद रखने के लिए तो बहुत अच्छा है, लेकिन एक कहानी या घटनाओं के क्रम, जैसे कि एक नृत्य की दिनचर्या को याद रखने के लिए बहुत बुरा है।

जिस शोध पत्र के बारे में आप पूछ रहे हैं, वह एक साहसी प्रश्न पूछता है: क्या होगा अगर हम इस संतुलन को तोड़ दें? क्या होगा यदि नर्तक एकतरफा सड़क के अंदाज में (असिमेट्रिक कनेक्शन के माध्यम से) एक-दूसरे को प्रभावित करें? क्या यह नेटवर्क लूप में नृत्य करना सीख सकता है, जिससे केवल स्थिर मुद्राओं के बजाय अनुक्रमों (sequences) को याद रखा जा सके?

यहाँ उनकी खोज का विवरण दिया गया, सरल उपमाओं का उपयोग करते हुए।

समस्या: "अटक गया" डांस फ्लोर

पारंपरिक नेटवर्क में, सिस्टम की "ऊर्जा" हमेशा तब तक गिरती है जब तक कि वह किसी तल (bottom) तक नहीं पहुँच जाती। एक बार जब यह तल तक पहुँच जाती है, तो यह रुक जाती है। यह एक पहाड़ी से लुढ़कते हुए गेंद की तरह है जब तक कि वह एक घाटी में न बैठ जाए। यह एक नया पैटर्न शुरू करने के लिए वापस ऊपर नहीं लुढ़क सकती। इसका मतलब है कि ये नेटवर्क एक चेहरा पहचानने में तो उत्कृष्ट हैं लेकिन एक धुन या चरणों के क्रम को याद रखने में खराब हैं।

समाधान: "रोटेटिंग ब्लॉक" मशीन

लेखकों ने एक बहुत ही विशिष्ट, सरल आर्किटेक्चर का उपयोग करके एक नए प्रकार का नेटवर्क बनाया जिसे वे "ब्लॉक-साइक्लिक" डिज़ाइन कहते हैं।

कल्पना करें कि नर्तक व्यक्तिगत नहीं हैं, बल्कि टीमों (ब्लॉक्स) में विभाजित हैं।

  1. टीमें: प्रत्येक टीम के भीतर, हर कोई एक इकाई के रूप में हाथ थामता है और साथ चलता है। उन सभी की एक ही राय होती है (सभी बाईं ओर झुकते हैं या सभी दाईं ओर झुकते हैं)।
  2. रिले (Relay): टीम A, टीम B को एक संकेत भेजती है। टीम B, टीम C को भेजती है। टीम C, टीम A को वापस भेजती है।
  3. लूप: यह टीमों के एक घेरे में सूचना का "बैटन" (डंडा) पास करने वाला एक विशाल रिंग बनाता है।

क्योंकि कनेक्शन एकतरफा (असिमेट्रिक) हैं, बैटन कभी रुकता नहीं है। टीमें एक घेरे में अपनी अवस्थाओं (states) को घुमाती हैं। यह एक लिमिट साइकिल (limit cycle) बनाता है: अवस्थाओं का एक दोहराव वाला लूप। स्थिर मुद्रा में बैठने के बजाय, नेटवर्क निरंतर, लयबद्ध लूप में नृत्य करता है।

बड़ी सफलता: सुपर-पावरफुल मेमोरी

सबसे रोमांचक हिस्सा शोध पत्र का क्षमता (capacity) है।

आमतौर पर, जब वैज्ञानिक इन नेटवर्क्स को लंबे अनुक्रमों को याद रखने के लिए बनाने की कोशिश करते हैं, तो उन्हें हर एक कनेक्शन को एक मास्टर घड़ीसाज़ की तरह अविश्वसनीय रूप से सटीक रूप से ट्यून करना पड़ता है। यदि आप थोड़ा सा भी शोर (एक नर्तक का लड़खड़ाना) जोड़ते हैं, तो पूरा रूटीन बिगड़ जाता है।

लेखकों ने एक ऐसा नेटवर्क बनाने का तरीका खोजा जो:

  • भारी संख्या में अनुक्रमों को याद रखता है: उन्होंने सिद्ध किया कि nn न्यूरॉन्स वाला एक नेटवर्क विभिन्न लूपों की एक घातांकीय रूप से विशाल (exponentially huge) संख्या को स्टोर कर सकता है। इसे समझने के लिए: यदि आपके पास 100 न्यूरॉन्स हैं, तो यह नेटवर्क जितने अद्वितीय अनुक्रम रख सकता है, वह ब्रह्मांड में परमाणुओं की संख्या से भी कहीं अधिक है। यह केवल "बहुत अधिक" नहीं है; यह "सुपर-पॉलीनोमियल" (एक गणितीय शब्द जिसका अर्थ है कि यह अविश्वसनीय गति से बढ़ता है) है।
  • लंबे अनुक्रमों को याद रखता है: इनमें से प्रत्येक लूप अविश्वसनीय रूप से लंबा हो सकता है, जो दोहराने से पहले हजारों अद्वितीय अवस्थाओं के माध्यम से चक्रित होता है।
  • अत्यधिक मजबूत (Unbreakably Robust) है: यह जादू का मंत्र है। भले ही आप हर टीम के लगभग आधे नर्तकों की राय को बेतरतीब ढंग से बदल दें (चरम शोर या त्रुटियों का अनुकरण करते हुए), नेटवर्क घबराता नहीं है। क्योंकि टीमें बहुमत द्वारा निर्णय लेती हैं, "सही" राय जीत जाती है, और नृत्य की दिनचर्या वापस अपनी जगह पर आ जाती है। यह एक ऐसे गायक दल (choir) की तरह है जहाँ भले ही आधे गायक गलत सुर लगाने लगें, बाकी गायक इतने ऊँचे और समन्वित होते हैं कि गाना पूरी तरह से जारी रहता है।

उन्होंने यह कैसे किया (गुप्त सूत्र)

उन्होंने जटिल, आधुनिक AI ट्रिक्स या निरंतर संख्याओं का उपयोग नहीं किया। वे पुराने स्कूल के, सरल नियमों पर टिके रहे:

  • बाइनरी न्यूरॉन्स: केवल "ऑन" या "ऑफ" (जैसे एक लाइट स्विच)।
  • सिंक्रोनस अपडेट्स: हर कोई ठीक एक ही समय पर अपडेट होता है।
  • सरल टोपोलॉजी: उन्होंने बस टीमों को एक विशिष्ट रिंग पैटर्न में व्यवस्थित किया।

उन्होंने इस सरल संरचना को नंबर थ्योरी (विशेष रूप से यह देखने के लिए कि संख्याएँ सामान्य गुणनखंड कैसे साझा करती हैं) के कुछ चतुर गणित के साथ जोड़ा ताकि यह सिद्ध किया जा सके कि यह सरल सेटअप स्वाभाविक रूप से बड़ी संख्या में अद्वितीय, लंबे लूप उत्पन्न करता है।

"वास्तविक दुनिया" का परीक्षण

लेखकों ने केवल कागज पर गणित नहीं किया। उन्होंने सिमुलेशन चलाए जहाँ उन्होंने:

  1. सिस्टम को हिलाया: उन्होंने शोर का अनुकरण करने के लिए न्यूरॉन्स की अवस्थाओं को बेतरतीब ढंग से बदला।
  2. "साबोटर्स" जोड़े: उन्होंने बेतरतीब, भ्रमित करने वाले कनेक्शन (और यहाँ तक कि कुछ ऐसे भी जो गलत उत्तर देने की कोशिश करते हैं) जोड़े।
  3. परिणाम: नेटवर्क लगभग हर बार अपने मूल अनुक्रम को पुनः प्राप्त कर लेता है, भले ही इन भारी व्यवधानों के साथ।

निचोड़

यह शोध पत्र दिखाता है कि आपको भारी मात्रा में अनुरल डेटा को स्टोर करने के लिए जटिल, सूक्ष्म रूप से ट्यून किए गए AI मॉडल की आवश्यकता नहीं है। आप एक बहुत ही सरल, मोटे आर्किटेक्चरल मोटिफ का उपयोग करके "सुपर-पॉलीनोमियल" मेमोरी क्षमता प्राप्त कर सकते हैं—विशाल संख्या में लंबे, जटिल अनुक्रमों को याद रखना—एक रिंग में बैटन पास करती न्यूरॉन्स के समूहों के माध्यम से।

यह सुझाव देता है कि जैविक मस्तिष्क (और भविष्य के AI) को अनुक्रमों को याद रखने के लिए जटिल, सटीक वायरिंग की आवश्यकता नहीं हो सकती है; उनके पास बस कुछ सरल, मजबूत लूप हो सकते हैं जो बहुत अधिक अराजकता को सहन कर सकें।

शोध पत्र क्या दावा नहीं करता है:

  • यह दावा नहीं करता है कि वर्तमान में आपके स्मार्टफोन या किसी विशिष्ट चिकित्सा उपकरण में इसका उपयोग किया जा रहा है।
  • यह दावा नहीं करता है कि यह जीव विज्ञान में सभी स्मृति समस्याओं को हल करता है।
  • यह दावा नहीं करता है कि एसिंक्रोनस (एक-एक करके) अपडेट उसी तरह काम करते हैं; उन्होंने विशेष रूप से "एक साथ" (सिंक्रोनस) नियम का परीक्षण किया है।

संक्षेप में: उन्होंने एक साधारण, शोर-मुक्त तरीका खोजा जिससे एक न्यूरल नेटवर्क को अनंत, अद्वितीय लूप में नृत्य कराकर, यह सिद्ध किया कि सरल संरचनाएं विशाल, जटिल स्मृतियों को धारण कर सकती हैं।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →