तकनीकी सारांश: गैर-संरक्षण प्रणालियों (Non-Conservative Systems) के लिए इक्विलिब्रियम प्रोपेगेशन

1. समस्या विवरण

मानक न्यूरल नेटवर्क अनुकूलन (optimization) बैकप्रोपैगेशन पर निर्भर करता है, जिसके लिए एक अलग बैकवर्ड पास, गैर-स्थानीय त्रुटि संकेत संचरण (nonlocal error signal transmission), और स्पष्ट ग्रेडिएंट स्टोरेज की आवश्यकता होती है। ये बाधाएं जैविक रूप से सुसंगत (biologically plausible) और भौतिक कार्यान्वयन (जैसे न्यूरोमॉर्फिक या एनालॉग हार्डवेयर) के साथ तालमेल बिठाने में कठिन हैं, जो आमतौर पर स्थानीय अंतःक्रियाओं और निरंतर विश्राम (continuous relaxation) के माध्यम से कार्य करते हैं।

इक्विलिब्रियम प्रोपेगेशन (EP) एक आशाजनक विकल्प प्रदान करता है, जो सीखने को एक गतिशील प्रणाली के दो स्थिर अवस्थाओं के बीच कंट्रास्ट के रूप में स्वरूपित करता है: एक "फ्री" (free) चरण और एक "नज्ड" (nudged) चरण। हालाँकि, EP का मूल स्वरूप संरक्षण प्रणालियों (conservative systems) तक सीमित है, जहाँ गतिकी (dynamics) एक ऊर्जा फलन (energy function) से व्युत्पन्न होती है, जो सममित अंतःक्रियाओं (जैसे $J_{ij} = J_{ji}$) को लागू करती है। यह सीमा EP को मॉडलों के एक व्यापक वर्ग के अनुप्रयोग को बाधित करती है जो गैर-संरक्षण बलों (non-conservative forces) और गैर-पारस्परिक अंतःक्रियाओं (non-reciprocal interactions) द्वारा अभिलक्षित हैं, जिनमें शामिल हैं:

• आधुनिक फीडफॉरवर्ड आर्किटेक्चर (AI में प्रमुख)।
• जैविक सर्किट।
• ऊष्मप्रवैगिकी संतुलन से दूर स्थित भौतिक प्रणालियाँ (जैसे नॉनलीन ऑप्टिकल सिस्टम, एक्टिव मैटर, एक्सिटोन-पोलरिटोन कंडेनसेट्स)।

गैर-संरक्षण प्रणालियों तक EP का विस्तार करने के पिछले प्रयास, जैसे कि वेक्टर फील्ड (VF) एल्गोरिदम, लागत फलन (cost function) के सटीक ग्रेडिएंट की गणना करने में विफल रहते हैं। वे केवल संरक्षण सीमा (conservative limit) में ही एक अनबायस्ड ग्रेडिएंट प्रदान करते; जैसे-जैसे जैकोबियन का एंटीसिमेट्रिक भाग बढ़ता है, ग्रेडिएंट अनुमान त्रुटि बढ़ती जाती है, जिससे अनुकूलन विफलता (जैसे, ग्रेडिएंट कम करने के बजाय लागत को अधिकतम करना) हो सकती है।

2. कार्यप्रणाली

लेखक गैर-संरक्षण प्रणालियों के विस्तार के लिए दो गणितीय रूप से समान ढांचे प्रस्तावित करते हैं: एसिमेट्रिक EP (AsymEP) और डायडिक EP (Dyadic EP)। दोनों विधियाँ निष्कर्ष (inference) के लिए स्थिर अवस्थाओं का उपयोग करने के मूल EP सिद्धांत को बनाए रखती हैं, लेकिन सटीक ग्रेडिएंट प्राप्त करने के लिए गतिकी को संशोधित करती हैं।

2.1 एसिमेट्रिक EP (AsymEP)

AsymEP मूल निष्कर्ष गतिकी को सुरक्षित रखता है लेकिन "नज्ड" चरण के दौरान एक स्थानीय सुधारात्मक पद (local corrective term) पेश करता है।

• तंत्र: नजड चरण में, प्रणाली एक संवर्धित बल क्षेत्र (augmented force field) के तहत विकसित होती है। इस क्षेत्र में मूल बल $F$, मानक नजिंग टर्म $-\beta \frac{\partial C}{\partial x}$, और एक नया सुधार पद शामिल है जो फ्री इक्विलिब्रियम पर जैकोबियन के एंटीसिमेट्रिक भाग ($A_J$) के समानुपाती है:
  $$\frac{dx}{dt} = F(x, \theta) - \beta \frac{\partial C}{\partial x} - 2A_J(x_0, \theta)(x - x_0)$$
• ग्रेडिएंट रिकवरी: यह सुधार प्रभावी रूप से लर्निंग रूल में जैकोबियन को ट्रांसपोज़ करता है, जिससे यह सुनिश्चित होता है कि नजड और फ्री स्थिर अवस्थाओं के बीच का अंतर वास्तविक ग्रेडिएंट के लिए आवश्यक पोस्ट-सिनैप्टिक टर्म प्रदान करता है।
• स्थानीयता (Locality): सुधार पद स्थानिक रूप से स्थानीय है क्योंकि $A_J$ बिना जुड़े न्यूरॉन्स के लिए शून्य हो जाता है, और अवस्था का अंतर $(x - x_0)$ सिनैप्स पर उपलब्ध होता है।

2.2 डायडिक EP (Dyadic EP)

डायडिक EP एक वेरिएशनल दृष्टिकोण है जो गैर-संरक्षण गतिकी को स्टेट स्पेस को दोगुना करके एक संरक्षण प्रणाली पर मैप करता है।

• तंत्र: मूल $n$-वेरिएबल प्रणाली को $2n$-वेरिएबल प्रणाली $(z, z')$ में मैप किया जाता है, जो एक ऊर्जा फलन $H(z, z', \theta)$ और एक लागत फलन $D(z, z')$ द्वारा परिभाषित है। ऊर्जा फलन को इस तरह बनाया गया है कि मूल गतिकी विकर्ण (diagonal) पर ($z=z'$) प्राप्त की जा सके, जबकि ऑफ-डायगोनल दिशा गैर-पारस्परिक बलों को एनकोड करती है।
  $$H(z, z', \theta) = -(z - z')^\top F\left(\frac{z + z'}{2}, \theta\right)$$
• लर्निंग: प्रणाली संवर्धित ऊर्जा $H_T = H + \beta D$ के सैडल पॉइंट (saddle point) की ओर विकसित होती है। $z_\beta - z'_\beta$ त्रुटि संकेत के रूप में कार्य करता है।
• AsymEP से संबंध: AsymEP को डायडिक EP के पहले-क्रम के प्रोजेक्शन के रूप में देखा जा सकता है। डायडिक EP पॉजिटिव और नेगेटिव नजिंग चरणों के समानांतर निष्पादन की अनुमति देता है लेकिन इसके लिए भौतिक डिग्री ऑफ फ्रीडम को दोगुना करने की आवश्यकता होती है।

3. मुख्य योगदान

1. सटीक ग्रेडिएंट गणना: यह पेपर किसी भी गैर-संरक्षण गतिशील प्रणाली के लिए लागत फलन के सटीक ग्रेडिएंट की गणना करने के लिए पहला ढांचा प्रदान करता है, जो वेक्टर फील्ड एल्गोरिदम की सीमाओं को पार करता है।
2. दो सामान्यीकरण: यह AsymEP (स्थानीय सुधार के साथ गतिकी का सीधा संशोधन) और डायडिक EP (स्टेट स्पेस का डायडिक विस्तार) को पेश करता है, और सूक्ष्म नजिंग की सीमा में उनकी समानता को सिद्ध करता है।
3. फीडफॉरवर्ड क्षमता: ये विधियाँ शुद्ध फीडफॉरवर्ड नेटवर्क को प्रशिक्षित करने में सक्षम बनाती हैं, जो एक ऐसी स्थिति है जहाँ पिछले EP-आधारित तरीके (जैसे VF) विफल हो जाते हैं क्योंकि वे स्पष्ट बैकवर्ड कनेक्शन के बिना त्रुटि संकेतों को पीछे प्रसारित नहीं कर सकते।
4. सैद्धांतिक एकीकरण: यह कार्य प्रदर्शित करता है कि EP के पीछे का वेरिएशनल सिद्धांत सार्वभौमिक है और इसे स्टेट स्पेस को विस्तारित करके या गतिकी को संशोधित करके गैर-पारस्परिक बलों के लिए लागू किया जा सकता है, जो ऊर्जा-आधारित मॉडलों और सामान्य गतिशील प्रणालियों के बीच के अंतर को पाटता है।

4. प्रायोगिक परिणाम

लेखक अपने ढांचे को निरंतर हॉपफील्ड नेटवर्क और कन्वोल्यूशनल आर्किटेक्चर का उपयोग करके MNIST, Fashion-MNIST और CIFAR-10 पर मान्य करते हैं।

• सिमेट्रिक इनिशियलाइजेशन: सिमेट्रिक इनिशियलाइजेशन के साथ MNIST पर, AsymEP, मानक EP और वेक्टर फील्ड (VF) दोनों की तुलना में उच्च सटीकता प्राप्त करता है और तेजी से सीखता है।
• स्ट्रक्चरल एसिमेट्री: जब नेटवर्क को उच्च स्तर की स्ट्रक्चरल एसिमेट्री के लिए बाधित किया जाता है (जहाँ EP लागू नहीं है और VF खराब हो जाता है):
  • VF प्रदर्शन: जैसे-जैसे एसिमेट्री बढ़ती है, VF का प्रदर्शन गिर जाता है, जो उच्च एसिमट्री पर चांस लेवल (जैसे, MNIST पर ~10% सटीकता) तक पहुँच जाता है।
  • AsymEP प्रदर्शन: AsymEP सभी एसिमेट्री स्तरों पर मजबूत प्रदर्शन बनाए रखता है, जिसमें पूरी तरह से एंटीसिमेट्रिक कनेक्शन मैट्रिसेस भी शामिल हैं।
• फीडफॉरवर्ड आर्किटेक्चर:
  • एक शुद्ध फीडफॉरवर्ड सेटिंग में, VF प्रभावी रूप से केवल अंतिम परत को प्रशिक्षित करता है (एक एक्सट्रीम लर्निंग मशीन के रूप में कार्य करता है), जिसके परिणामस्वरूप खराब प्रदर्शन (~64% पर MNIST) होता है।
  • AsymEP सभी परतों को सफलतापूर्वक प्रशिक्षित करता है, MNIST पर ~92.7% सटीकता प्राप्त करता है।
• डीप नेटवर्क (CIFAR-10): CIFAR-10 पर प्रशिक्षित एक गहरे कन्वोल्यूशनल नेटवर्क पर, AsymEP और डायडिक EP दोनों मानक बैकप्रोपैगेशन (BP) के प्रदर्शन का बारीकी से अनुसरण करते हैं, क्रमशः ~89.7% और ~90.7% सटीकता प्राप्त करते हैं, जबकि BP ~90.7% प्राप्त करता है। इसके विपरीत, VF चांस लेवल तक गिर जाता है।
• स्थिरता: प्रयोग बताते हैं कि AsymEP के साथ प्रशिक्षित गैर-संरक्षण गतिकी दोलनों (oscillations) को दबा सकती है और मजबूत एसिमेट्री और बाधित इनपुट प्रोजेक्शन के तहत भी स्थिर रह सकती है।

5. महत्व और दावे

लेखक दावा करते हैं कि यह कार्य न्यूरोमॉर्फिक हार्डवेयर, डिसिपेटिव फिजिकल सिस्टम्स और उन न्यूरल आर्किटेक्चर में सीखने के नए रास्ते खोलता है जहाँ एसिमेट्री स्वाभाविक (intrinsic) है न कि आकस्मिक।

• भौतिक कार्यान्वयन योग्यता: वजन की समरूपता (weight symmetry) और स्पष्ट बैकवर्ड पास की आवश्यकता को हटाकर, प्रस्तावित एल्गोरिदम उन भौतिक सबस्ट्रेट्स (जैसे मेमरिस्टर, ऑप्टिकल सिस्टम, एक्टिव मैटर) के अधिक अनुकूल हैं जो स्वाभाविक रूप से गैर-संरक्षण गतिकी प्रदर्शित करते हैं।
• जैविक सुसंगतता: ये विधियाँ स्थानीय अंतःक्रियाओं और निरंतर विश्राम पर निर्भर करती हैं, जो बैकप्रोपैगेशन की तुलना में अधिक जैविक रूप से सुसंगत क्रेडिट असाइनमेंट तंत्र प्रदान करती हैं।
• सार्वभौमिकता: डायडिक EP का फॉर्मूलेशन यह सुझाव देता है कि इक्विलिब्रियम प्रोपेगेशन के वेरिएशनल सिद्धांत सार्वभौमिक हैं, जो किसी भी नेटवर्क पर लागू होते हैं जो एक स्थिर अवस्था में कार्य करता है, चाहे उसके अंतर्निहित बल संरक्षणवादी हों या गैर-संरक्षणवादी।

लेखक निष्कर्ष निकालते हैं कि हालांकि AsymEP एक स्थानीय सुधारात्मक बल पेश करता है जिसके लिए विशिष्ट भौतिक तंत्रों की आवश्यकता हो सकती है, और डायडिक EP को स्टेट स्पेस को दोगुना करने की आवश्यकता होती है, दोनों ही सटीक ग्रेडिएंट के साथ गैर-संरक्षण प्रणालियों को प्रशिक्षित करने के लिए एक कठोर सैद्धांतिक और व्यावहारिक मार्ग प्रदान करते हैं।