🧬 biology

Neural Langevin Machine: a local asymmetric learning rule can be creative

यह शोध पत्र न्यूरल लैंगिवियन मशीन (Neural Langevin Machine) का परिचय देता है, जो एक जैविक रूप से प्रशंसनीय जनरेटिव मॉडल है जो छवियों को संग्रहीत करने, शोर दूर करने (denoise) और रचनात्मक रूप से उत्पन्न करने के लिए स्थानीय असममित शिक्षण नियमों (local asymmetric learning rules) और न्यूरल लैंगिवियन डायनेमिक्स का उपयोग करता है, जबकि यह स्मृति (memorization) से सामान्यीकरण (generalization) की ओर एक संक्रमण प्रदर्शित करता है।

मूल लेखक: Zhendong Yu, Weizhong Huang, Haiping Huang

प्रकाशित 2026-06-04

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Zhendong Yu, Weizhong Huang, Haiping Huang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ⚕️ यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें

मुख्य विचार: एक मस्तिष्क जैसा कला जनरेटर

कल्पना कीजिए कि आप एक ऐसी मशीन बनाना चाहते हैं जो चित्र बना सके, लेकिन किसी सख्त नियम पुस्तिका का पालन करके नहीं, बल्कि उन्हें "सपनों" में बुनकर, ठीक वैसे ही जैसे मानव मस्तिष्क करता है। वर्तमान के अधिकांश AI कला जनरेटर उन अत्यधिक प्रशिक्षित कलाकारों की तरह हैं जिन्हें अपनी गलतियों को सुधारने के लिए पर्यवेक्षकों (supervisors) की एक विशाल टीम की आवश्यकता होती है। वे शक्तिशाली तो हैं, लेकिन वे वास्तव में एक जैविक मस्तिष्क की तरह दिखते या काम करते नहीं हैं।

इस शोध पत्र के लेखक एक नई मशीन प्रस्तावित करते हैं जिसे न्यूरल लैंगिविन मशीन (Neural Langevin Machine - NLM) कहा जाता है। इस मशीन को एक "अराजक स्वप्नद्रष्टा" (chaotic dreamer) के रूप में सोचें जो कला बनाने के लिए उन नियमों का उपयोग करती है जो वास्तविक मस्तिष्क में न्यूरॉन्स के जुड़ने और सक्रिय होने के तरीके के बहुत करीब हैं।

यह कैसे काम करता है: तीन विशेष सामग्रियां

यह शोध पत्र दावा करता है कि यह मशीन विशेष है क्योंकि यह तीन विशिष्ट मापदंडों की जांच करती है जिन्हें अन्य AI मॉडल अक्सर छोड़ देते हैं:

1. "एकतरफा रास्ता" कनेक्शन (Asymmetry/असममिति)

समस्या: अधिकांश AI में, यदि न्यूरॉन A, न्यूरॉन B से बात करता है, तो न्यूरॉन B भी बिल्कुल उसी ताकत के साथ वापस बात करता है। यह एक आदर्श गूँज (echo) की तरह है।
मस्तिष्क की वास्तविकता: एक वास्तविक मस्तिष्क में, कनेक्शन अव्यवस्थित और एकतरफा होते हैं। न्यूरॉन A, न्यूरॉन B पर चिल्ला सकता है, लेकिन न्यूरॉन B केवल फुसफुसाकर जवाब दे सकता है।
समाधान: NLM असममित कनेक्शनों (asymmetric connections) का उपयोग करता है। यह "चिल्लाने" और "फुसफुसाने" को अलग-अलग होने की अनुमति देता है। यह सूचना के अधिक यथार्थवादी और अराजक प्रवाह को बनाता है, जैसा कि एक वास्तविक मस्तिष्क विचारों को प्रोसेस करता है।

2. "स्थानीय फुसफुसाहट" सीखने का नियम (Local Whisper Learning Rule)

समस्या: वर्तमान AI को अक्सर एक "वैश्विक पर्यवेक्षक" (global supervisor) की आवश्यकता होती है जो पूरी तस्वीर को देखता है, कुल त्रुटि (error) की गणना करता है, और हर एक न्यूरॉन को खुद को सुधारने के लिए संकेत वापस भेजता है। यह एक शिक्षक की तरह है जो कक्षा में घूम-घूम कर हर छात्र को बताता है कि उसे क्या बदलना है।
मस्तिष्क की वास्तविकता: वास्तविक न्यूरॉन्स को पूरी तस्वीर का पता नहीं होता। वे केवल यह जानते हैं कि उनके ठीक बगल में क्या हो रहा है।
समाधान: NLM एक स्थानीय शिक्षण नियम (local learning rule) का उपयोग करता है। प्रत्येक न्यूरॉन केवल अपने निकटतम पड़ोसियों को सुनता है। यह एक सरल भविष्यवाणी के आधार पर अपने कनेक्शनों को समायोजित करता है: "क्या मेरा पड़ोसी मेरी अपेक्षा से तेज़ या धीमा सक्रिय हुआ?" यदि भविष्यवाणी गलत थी, तो कनेक्शन बदल जाता है। यह एक समूह में गाना सीखने (improvising) जैसा है; वे ताल बनाए रखने के लिए केवल अपने बगल वाले व्यक्ति को सुनते हैं, बजाय इसके कि वे किसी कंडक्टर का इंतजार करें।

3. "नृत्य करते हुए" स्थिर बिंदु (Dancing Fixed Points - Langevin Dynamics)

अवधारणा: एक ऊबड़-खाबड़ परिदृश्य पर लुढ़कती हुई गेंद की कल्पना करें। आमतौर पर, गेंद एक घाटी में लुढ़ककर रुक जाती है। AI में, ये घाटियाँ "स्थिर बिंदु" (fixed points) हैं जहाँ सिस्टम थम जाता है।
मोड़: एक मानक मस्तिष्क जैसे नेटवर्क में, ये घाटियाँ अस्थिर होती हैं। गेंद उनसे बाहर लुढ़कना चाहती है। लेखकों ने शोर (noise) का उपयोग करने का एक तरीका खोजा है (जैसे रेडियो पर आने वाली स्टेटिक आवाज़) ताकि गेंद इन अस्थिर स्थानों के आसपास नृत्य करती रहे।
परिणाम: एक विशिष्ट छवि पर अटकने के बजाय, मशीन संभावनाओं के परिदृश्य के माध्यम से "बहती" है। यह एक "1" को खींचने से लेकर "6" बनाने तक के बीच सुचारू रूप से संक्रमण कर सकती है, बिना रुके, उनके बीच के स्थान को एक्सप्लोर करते हुए।

उन्होंने क्या खोजा?

शोधकर्ताओं ने इस मशीन का परीक्षण हस्तलिखित अंकों (जैसे 0-9) पर किया। यहाँ उन्होंने जो पाया वह है:

"संतुलन से बाहर" का अनुकूल बिंदु (The "Out-of-Equilibrium" Sweet Spot):
आमतौर पर, वैज्ञानिक एक ऐसी स्थिति बनाने की कोशिश करते हैं जहाँ सिस्टम पूरी तरह से शांत होकर स्थिर हो जाए (equilibrium)। लेखकों ने पाया कि उनकी मशीन तब सबसे अच्छा काम करती है जब वह शांत नहीं होती है। यह "नियंत्रित अराजकता" (controlled chaos) की स्थिति में सबसे अच्छा काम करती है। यह एक जैज़ बैंड की तरह है: यदि वे बहुत पूर्णता से बजाते हैं, तो यह उबाऊ है; यदि वे बहुत अधिक यादृच्छिक (random) बजाते हैं, तो यह शोर है। सबसे अच्छा संगीत बीच में होता है, जहाँ वे लय बनाए रखते हुए सुधार (improvise) कर रहे होते हैं।
याद रखने से लेकर सृजन करने तक (From Memorizing to Creating):
उन्होंने परीक्षण किया कि जब वे मशीन को सीखने के लिए अलग-अलग मात्रा में डेटा देते हैं तो क्या होता है:
- बहुत कम डेटा: मशीन केवल याद रखती है (memorizes)। यह एक तोते की तरह व्यवहार करती है, जो देखी गई सटीक कुछ तस्वीरों को दोहराती है।
- बिल्कुल सही मात्रा: मशीन रचनात्मक (creative) बन जाती है। यह संख्या की अवधारणा को समझ लेती है और संख्या के नए, अद्वितीय संस्करण बना सकती है जो वास्तविक दिखते हैं लेकिन प्रशिक्षण सेट में नहीं थे।
- बहुत अधिक डेटा: आश्चर्यजनक रूप से, यदि आप इसे बहुत अधिक डेटा देते हैं, तो इसके "सपनों" की गुणवत्ता वास्तव में थोड़ी गिर जाती है, और यह फिर से एक ढर्रे में फंस जाती है।
डिनोइजिंग (अस्पष्ट छवियों को साफ करना):
मशीन एक स्मृति (memory) के रूप में कार्य कर सकती है। यदि आप इसे एक "3" की तस्वीर दिखाते हैं जो स्टैटिक (शोर) से ढकी हुई है, तो मशीन अपने "आंतरिक गतिकी" (internal dynamics) को चलाकर स्वाभाविक रूप से साफ "3" के रूप में स्थिर हो सकती है। यह गीले फर्श पर मिट्टी के पदचिह्न जैसा है जो धीरे-धीरे सूखता है और नीचे की स्पष्ट आकृति को प्रकट करता है।

यह क्यों मायने रखता है?

यह शोध पत्र सुझाव देता है कि इन "अस्थिर" बिंदुओं और स्थानीय, एकतरफा नियमों का उपयोग करके, हम केवल एक बेहतर इमेज जनरेटर नहीं बना रहे हैं। हम एक ऐसी मशीन बना रहे हैं जो इस बात की नकल करती है कि मस्तिष्क वास्तव में कल्पना (imagination) को कैसे संभालता है।

जैसे आपका मस्तिष्क समुद्र तट की याद से सूर्यास्त की कल्पना करने की ओर भटक सकता है, वैसे ही यह मशीन एक उत्पन्न छवि से दूसरी छवि की ओर भटक सकती है। यह स्मृति (जो आपने देखा उसे याद करना) और सामान्यीकरण (कुछ नया सोचना) के बीच के अंतर को पाटता है, और वह भी ऐसे नियमों का उपयोग करके जो जैविक ऊतकों (biological tissue) में संभवतः मौजूद हो सकते हैं।

संक्षेप में, उन्होंने एक डिजिटल मस्तिष्क बनाया है जो अपने पड़ोसियों को सुनकर सीखता है, स्थिर रहने के बजाय अराजकता में नृत्य करता है, और एक धुंधले स्केच को अस्तित्व में लाने के लिए "सपनों" के माध्यम से एक स्पष्ट चित्र में बदल सकता है।

तकनीकी सारांश: न्यूरल लैंग्विन मशीन (Neural Langevin Machine)

समस्या विवरण
वर्तमान कृत्रिम तंत्रिका नेटवर्क-आधारित जनरेटिव मॉडल, जैसे कि वेरिएशनल ऑटोएन्कोडर्स (VAEs), जेनेरेटिव एडवरसैरियल नेटवर्क (GANs), और डिफ्यूजन मॉडल, जैविक सुसंगतता (biological plausibility) और प्रशिक्षण जटिलता के संबंध में महत्वपूर्ण चुनौतियों का सामना करते हैं। विशेष रूप से, उनमें अक्सर निम्नलिखित का अभाव होता है:

असममित पुनरावृत्ति (Asymmetric Recurrence): जैविक तंत्रिका नेटवर्क में असममित सिनैप्टिक कपलिंग होती है, जबकि कई लोकप्रिय मॉडल सममित संरचनाओं पर निर्भर करते हैं या वैश्विक त्रुटि संकेतों (global error signals) की आवश्यकता रखते हैं।
स्थानीय शिक्षण (Local Learning): जैविक सर्किट स्थानीय संकेतों के माध्यम से सीखते हैं, जबकि अधिकांश जनरेटिव मॉडल वैश्विक त्रुट बैकप्रोपैगेशन (error backpropagation) पर निर्भर करते हैं।
तंत्रिका गतिकी का उपयोग (Utilization of Neural Dynamics): जबकि तंत्रिका प्रतिक्रिया परिवर्तनशीलता (neural response variability) और स्थिर बिंदु (fixed points) या अराजक अट्रैक्टर्स (chaotic attractors) उदाहरणों को संग्रहीत और उत्पन्न कर सकते हैं, जनरेटिव सैंपलिंग में तंत्रिका प्रतिक्रिया परिवर्तनशीलता की क्षमता का अभी भी कम अन्वेषण किया गया है।
ऊष्मागतिक प्रतिवर्तीता (Thermodynamic Reversibility): लैंग्विन गतिकी (Langevin dynamics) का उपयोग करने के पिछले प्रयास अक्सर ऊष्मागतिक प्रतिवर्तीता को लागू करते हैं, जो जैविक बाधाओं का उल्लंघन करता है और मस्तिष्क की धारणा और कल्पना प्रक्रियाओं को प्रभावी ढंग से मॉडल करने में विफल रहता है।

कार्यप्रणाली (Methodology)
लेखक न्यूरल लैंग्विन मशीन (NLM) का प्रस्ताव करते हैं, जो एक ऐसा जनरेटिव मॉडल है जो यादृच्छिक असममित कपलिंग वाले आवर्ती तंत्रिका नेटवर्क (RNNs) के स्थिर बिंदुओं (fixed points) का लाभ उठाता है।

गतिकी (Dynamics): मॉडल को एक स्टोकेस्टिक डिफरेंशियल इक्वेशन (लैंग्विन गतिकी) द्वारा परिभाषित किया गया है:
$\frac{dx}{dt} = -\nabla_x E(x) + \sqrt{2T}\epsilon(t)$
जहाँ $x$ सिनैप्टिक करंट वेक्टर है, $T$ एक तापमान पैरामीटर है, और $\epsilon(t)$ गाऊसी व्हाइट नॉइज़ (Gaussian white noise) है।
ऊर्जा फलन (Energy Function): ऊर्जा फलन $E(x)$ को अराजक RNNs में निहित अनिश्चित (unstable) स्थिर बिंदुओं को स्थिर करने के लिए बनाया गया है। इसमें एक ऑन्सेगर फीडबैक टर्म (Onsager feedback term) शामिल है जो ऊर्जा के ग्रेडिएंट से प्राप्त होता है, जो अराजक उतार-चढ़ाव को स्थिर करता है। ऊर्जा फलन का रूप इस प्रकार है:
$E(x) = \frac{1}{2} \sum_{i} \left( -x_i + b_i + \sum_{j} J_{ij}\phi(x_j) \right)^2$
जहाँ $\phi(x) = \tanh(x)$ फायरिंग रेट फंक्शन है, $b_i$ बायस (bias) है, और $J_{ij}$ असममित तंत्रिका कपलिंग है।
शिक्षण नियम (Learning Rule): मॉडल कपलिंग पैरामीटर्स $\{J_{kl}\}$ को डेटा वितरण और मॉडल वितरण के बीच कुलबैक-लीब्लर (KL) डाइवर्जेंस को कम करने के लिए अनुकूलित करता है। यह न्यूनीकरण एक न्यूनतम एंट्रॉपी सिद्धांत (minimum entropy principle) का अनुसरण करता है, जो एक स्थानीय, असममित शिक्षण नियम की ओर ले जाता है:
$\frac{\partial L}{\partial J_{kl}} = \beta \left[ \langle (x_k - h_k)\phi(x_l) \rangle_{\text{model}} - \langle (x_k - h_k)\phi(x_l) \rangle_{\text{data}} \right]$
यहाँ, $h_k$ एकीकृत सिनैप्टिक करंट है। पद $(x_k - h_k)$ एक पोस्ट-सिनैप्टिक योगदान है जिसे प्रेडिक्शन एरर (भविदन त्रुटि) के रूप में व्याख्यायित किया गया है (जो पोस्ट-सिनैप्टिक गतिविधि की गति को कम करता है)। यह नियम स्थानीय है, जिसके लिए केवल तंत्रिका संकेतों की आवश्यकता होती है, और न्यूरॉन इंडेक्स के संबंध में असममित है।
प्रशिक्षण प्रोटोकॉल (Training Protocols): लेखक आउट-ऑफ-इक्विलिब्रियम (OOE) शासन (regimes) का पता लगाने के लिए कई प्रशिक्षण रणनीतियों को लागू करते हैं:
- PCD-k (Persistent Contrastive Divergence): पैरामीटर अपडेट के बीच $k$ चरणों तक अपडेट किए गए पर्सिस्टेंट चेन्स का उपयोग करता है।
- Rdm-k: प्रत्येक ग्रेडिएंट अनुमान चरण पर रैंडम कॉन्फ़िगरेशन से लैंग्विन चेन्स को पुन: आरंभ (re-initialize) करता है।
- AE-NLM: डेटा को एक लेटेंट स्पेस में संकुचित करने के लिए एक ऑटोएन्कोडर को प्रशिक्षित करता है, जहाँ NLM को प्रशिक्षित किया जाता है, जिससे कम्प्यूटेशनल जटिलता काफी कम हो जाती है।

प्रमुख योगदान

जैविक रूप से सुसंगत जनरेटिव मॉडल: NLM तीन मानदंडों को पूरा करता है: स्थानीय शिक्षण, तंत्रिका-गतिकी-आधारित सैंपलिंग, और असममित पुनरावृत्ति। यह एक लर्निंग रूल को व्युत्पन्न करता है जिसे स्पीड-एडजस्टेड प्रेडिक्टिव लर्निंग के रूप में व्याख्यायित किया जा सकता है।
अनिश्चित स्थिर बिंदुओं का स्थिरीकरण: यह कार्य प्रदर्शित करता है कि ऊर्जा फलन में ऑन्सेगर फीडबैक टर्म अराजक RNNs के अस्थिर स्थिर बिंदुओं को स्थिर करता है, जिससे उन्हें मेमोरी और जनरेशन के लिए उपयोगी बनाया जा सके।
स्थानीय असममित शिक्षण नियम: व्युत्पन्न लर्निंग नियम जनरेटिव मॉडलिंग को मौलिक भौतिक सिद्धांतों (न्यूनतम एंट्रॉपी) से जोड़ता है और "बिना संभाव्यता के बेयसियन मस्तिष्क" (Bayesian brain without probability) और यान लेकन के एनर्जी-बेस्ड AI पथ के साथ संरेखित होता है।
आउट-ऑफ-इक्विलिब्रियम (OOE) शासन: यह शोध एक OOE शासन की पहचान करता है जहाँ सर्वोत्तम जनरेटिव प्रदर्शन प्राप्त किया जाता है, बिना सिस्टम के ऊष्मागतिक संतुलन तक पहुँचने की प्रतीक्षा किए, जो स्टोकैस्टिक शोर द्वारा संचालित निरंतर मस्तिष्क गतिकी की नकल करता है।

परिणाम

जनरेटिव प्रदर्शन: MNIST (हस्तलिखित अंक) और फैशन MNIST पर लागू होने पर, NLM सफलतापूर्वक नमूने (samples) उत्पन्न करता है। विज़ुअलाइज़ेशन दिखाते हैं कि स्टोकैस्टिक शोर द्वारा संचालित, विभिन्न अंक वर्गों (जैसे, '6' से '1') के बीच निरंतर अवस्था संक्रमण (continuous state transitions) होते हैं।
मेमोराइजेशन-टू-जनरलाइजेशन ट्रांजिशन: जैसे-जैसे प्रशिक्षण डेटा का आकार बढ़ता है, मॉडल शुद्ध मेमोराइजेशन (ओवरफिटिंग) से सामान्यीकरण (generalization) की ओर बढ़ता है। इस संक्रमण को एक एडवरसैरियल एक्यूरेसी इंडिकेटर (AAI) का उपयोग करके मापा जाता है।
- डेटा-दोषपूर्ण शासन में, मॉडल प्रशिक्षण नमूनों को याद रखता है (memorizes)।
- एक विशिष्ट डेटा थ्रेशोल्ड के बाद, मॉडल वास्तविक डेटा के सांख्यिकीय रूप से अविभेदनीय नमूने उत्पन्न करता है।
- अत्यधिक डेटा आकार अंततः गुणवत्ता को कम कर सकता है, जो एक संतृप्ति बिंदु (saturation point) का सुझाव देता है।
आइजनवैल्यू स्पेक्ट्रम (Eigenvalue Spectrum): सीखने के दौरान, कपलिंग मैट्रिक्स $J$ का स्पेक्ट्रम आइसोट्रोपिक से एक "एंकर" आकार में विकसित होता है, जिसमें धनात्मक वास्तविक अक्ष के आसपास वितरित आइजनवैल्यू सामान्यीकरण में प्रमुख भूमिका निभाते हैं।
डिनोइजिंग और एसोसिएटिव मेमोरी: NLM एक एसोसिएटिव मेमोरी नेटवर्क के रूप में कार्य करता है। दूषित छवियों (25% पिक्सेल शोर) को प्रस्तुत करने पर, गतिकी स्वच्छ अंक प्रतिनिधित्व की ओर अभिसरित (converge) होती है, जो असममित कपलिंग के साथ एक नए प्रकार की एसोसिएटिव मेमोरी को प्रदर्शित करती है।
लेटेंट स्पेस एन्हांसमेंट: फैशन MNIST (10 श्रेणियाँ) पर AE-NLM प्रोटोकॉल का उपयोग करने से जनरेशन की गुणवत्ता में सुधार होता है और कम-आयामी लेटेंट स्पेस में सैंपलिंग की अनुमति मिलती है।

महत्व और दावे
लेखक दावा करते हैं कि NLM एक आशाजनक न्यूरो-इंस्पायर्ड जनरेटिव मॉडल प्रदान करता है जो "कल्पना की रचनात्मक गतिविधि के स्थान" (creative activity space of imagination) के गतिशील अन्वेषण की अनुमति देता है। अस्थिर स्थिर बिंदुओं और स्थानीय असममित शिक्षण का उपयोग करके, यह मॉडल जैविक तंत्रिका तंत्र और इंजीनियरिंग उद्देश्यों के बीच के अंतर को पाटता है। यह कार्य सुझाव देता है कि मस्तिष्क धारणा, स्मृति और कल्पना के लिए समान तंत्रों का उपयोग कर सकता है, जहाँ फेज स्पेस का निरंतर अन्वेषण स्मृति से सामान्यीकरण की ओर संक्रमण की सुविधा प्रदान करता है। यह पेपर इस बात को समझने की दिशा में एक कदम के रूप में प्रस्तुत करता है कि मस्तिष्क में व्यक्तिपरक धारणा और कल्पना कैसे काम करती है, और साथ ही वर्तमान प्रमुख जनरेटिव मॉडलों के मुकाबले एक कम्प्यूटेशनल रूप से कुशल विकल्प भी प्रदान करता है।

मुख्य विचार: एक मस्तिष्क जैसा कला जनरेटर

यह कैसे काम करता है: तीन विशेष सामग्रियां

उन्होंने क्या खोजा?

यह क्यों मायने रखता है?

इसी तरह के और पेपर