🤖 machine learning

Endogenous Regime Switching Driven by Scalar-Irreducible Learning Dynamics

यह शोध पत्र प्रस्तावित करता है कि स्वायत्त बुद्धिमत्ता (autonomous intelligence) स्केलर-अपरिहार्य शिक्षण गतिकी (scalar-irreducible learning dynamics) के माध्यम से अंतर्जात शासन स्विचिंग (endogenous regime switching) द्वारा उभर सकती है, जो तेज़ चरों और धीमी संरचनात्मक अनुकूलन के बीच फीडबैक के माध्यम से आंतरिक रूप से उत्पन्न संक्रमणों को सक्षम करती है, जो स्केलर-अपरिहार्य ग्रेडिएंट-आधारित प्रणालियों के विशिष्ट बाह्य रूप से आरोपित संक्रमणों के विपरीत है।

मूल लेखक: Sheng Ran

प्रकाशित 2026-05-07

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Sheng Ran

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य विचार: कंप्यूटर को खुद से "जागना" सिखाना

कल्पना कीजिए कि आप एक रोबोट को सीखना सिखाने की कोशिश कर रहे हैं। वर्तमान में, अधिकांश रोबोट एक सख्त क्लासरूम के छात्रों की तरह हैं जहाँ शिक्षक (प्रोग्रामर) शेड्यूल तय करता है। शिक्षक कहता है, "अब हम 10 मिनट गणित पढ़ेंगे, फिर इतिहास पर स्विच करेंगे, फिर ब्रेक लेंगे, फिर एक कठिन समस्या को हल करने की कोशिश करेंगे।" रोबोट यह तय नहीं करता कि कब बदलना है; शिक्षक इसे होने के लिए मजबूर करता है।

यह पेपर तर्क देता है कि एक रोबोट को वास्तव में स्वायत्त (autonomous) (जैसे कि एक इंसान या जानवर) बनने के लिए, उसे यह तय करने में सक्षम होना चाहिए कि उसे अपनी सीखने की शैली कब बदलनी है। उसे यह महसूस करने की आवश्यकता है, "मैं एक लूप में फंस गया हूँ," या "यह तरीका अब काम नहीं कर रहा है," और फिर बिना किसी के बताए, कुछ नया करने के लिए आंतरिक रूप से गियर बदलने की आवश्यकता है।

लेखक, शेन्ग रैन (Sheng Ran), इन प्रणालियों को बनाने का एक नया तरीका प्रस्तावित करते हैं, जो उनके सीखने के मौलिक "भौतिकी" (physics) को बदलकर किया जाता है।

सीखने के दो प्रकार: ढलान बनाम भूलभुलैया

यह पेपर सभी शिक्षण प्रणालियों को उनके "लर्निंग स्पेस" में चलने के आधार पर दो श्रेणियों में विभाजित करता है।

1. स्केलर-रिड्यूसिबल डायनेमिक्स (पहाड़ी पर गेंद)

उपमा: कल्पना कीजिए कि एक चिकनी, ढालू पहाड़ी से नीचे लुढ़कती हुई एक गेंद। गेंद का एक ही लक्ष्य है: नीचे पहुँचना। वह सीधे नीचे की ओर लुढ़कती है, सबसे तीव्र पथ का अनुसरण करती है। वह थोड़ा डगमगा सकती है, लेकिन वह हमेशा एक एकल गंतव्य की ओर "नीचे की ओर" बढ़ती है।
वास्तविकता: आज लगभग सभी आधुनिक AI इसी तरह काम करते हैं (जैसे वे सिस्टम जो आपके फोन या चैटबॉट्स को चलाते हैं)। वे एक एकल "स्कोर" या "लॉस फंक्शन" (जैसे स्कूल में ग्रेड) द्वारा संचालित होते हैं। सिस्टम लगातार इस स्कोर को कम करने की कोशिश करता है।
समस्या: एक बार जब गेंद पहाड़ी के नीचे पहुँच जाती है (उस विशिष्ट सेटअप के लिए सबसे अच्छा संभव स्कोर), तो वह रुक जाती है। वह फंस जाती है। यदि पहाड़ी का निचला हिस्सा एक बुरा स्थान है (एक "लोकल मिनिमम"), तो गेंद बाहर नहीं निकल सकती क्योंकि वह पहाड़ी के ऊपर नहीं लुढ़क सकती। इसे बाहर निकालने के लिए, एक बाहरी हाथ (प्रोग्रामर) को इसे उठाना पड़ता है और कहीं और फेंकना पड़ता है। सिस्टम यह अपने आप नहीं कर सकता।

2. स्केलर-इररिड्यूसिबल डायनेमिक्स (घाटी में साइकिल चालक)

उपमा: कल्पना कीजिए कि एक साइकिल चालक एक घाटी में सवारी कर रहा है जिसमें एक नदी बह रही है। साइकिल चालक केवल नीचे जाने की कोशिश नहीं कर रहा है; उसे नदी की धारा भी धकेल रही है। कभी-कभी नदी उसे गोल-गोल घुमाती है। कभी-कभी यह उसे बगल में धकेल देती है। वह एक भंवर में फंस सकता है, लेकिन धारा उसे भंवर से बाहर भी धकेल सकती है और घाटी के एक नए हिस्से में ले जा सकती है, भले ही वह नया हिस्सा पहाड़ी पर थोड़ा "ऊंचा" हो।
वास्तविकता: यह वह नया सिस्टम है जिसे लेखक प्रस्तावित करते हैं। यह सीखने की प्रक्रिया में एक "घूर्णी" (rotational) बल जोड़ता है। केवल एक एकल स्कोर का पीछा करने के बजाय, सिस्टम के पास एक दूसरा बल है जो इसे घूमने या अन्वेषण करने के लिए प्रेरित करता है।
लाभ: इस घूमने वाली गति के कारण, सिस्टम पहाड़ी के नीचे नहीं फंसता है। यह स्वाभाविक रूप से एक बुरी स्थिति से बाहर निकल सकता है और अपने आप एक नया रास्ता खोज सकता है।

यह नया सिस्टम कैसे काम करता है: "तनाव" सेंसर

लेखक ने इसे सिद्ध करने के लिए एक सरल मॉडल बनाया है। यहाँ बताया गया है कि मशीन मोड बदलने का निर्णय कैसे लेती है:

तेज भाग (दौड़ने वाला): सिस्टम का एक तेज़ चलने वाला हिस्सा है जो वास्तविक काम करता है (जैसे दौड़ की रेस में भाग लेना)।
धीमा भाग (कोच): एक धीमा हिस्सा है जो दौड़ने वाले पर नज़र रखता है।
"बदतरता" का मीटर (Badness Meter): कोच को रेस के स्कोर की परवाह नहीं होती है। इसके बजाय, वह "पैथोलॉजिकल" व्यवहार पर नज़र रखता है।
- क्या दौड़ने वाला जम गया है? (बहुत शांत)
- क्या दौड़ने वाला गोल-गोल घूम रहा है? (बहुत दोहराव वाला)
- क्या दौड़ने वाला हमेशा बिल्कुल एक ही चीज़ करता रहता है? (बहुत उबाऊ)
- यदि उत्तर "हाँ" है, तो "बदतरता" का मीटर बढ़ जाता है।
तनाव ट्रिगर: जब "बदतरता" बहुत अधिक हो जाती है, तो यह "तनाव" पैदा करती है।
स्विच (बदलाव): यह तनाव कोच को जगा देता है। कोच फिर उस स्केलर-इररिड्यूसिबल बल (नदी की धारा) का उपयोग करता है ताकि सिस्टम की आंतरिक सेटिंग्स को पूरी तरह से एक नई दिशा में धकेला जा सके।
परिणाम: सिस्टम उस "बुरे" लूप से बाहर निकल जाता है और एक नए तरीके से दौड़ना शुरू कर देता है। इसे किसी इंसान द्वारा "रुको!" कहने की आवश्यकता नहीं होती। इसने तनाव महसूस किया और खुद को ठीक कर लिया।

प्रयोगों ने क्या दिखाया

लेखक ने तीन परिदृश्यों की तुलना की:

परिदृश्य A (पुराना तरीका): सिस्टम पहाड़ी से नीचे लुढ़कता है। यह एक मोड में फंस जाता है। यह नई चीजें सीखना बंद कर देता है। यह "तनावपूर्ण" रहता है क्योंकि यह फंसा हुआ है।
परिदृश्य B (नया तरीका): सिस्टम तनाव महसूस करता है, घूमता है, और एक नए मोड में कूद जाता है। यह स्वचालित रूप से विभिन्न अवस्थाओं (जैसे आराम करना और दौड़ना) के बीच स्विच करता रहता है। यह स्वस्थ और लचीला रहता है।
परिदृश्य C (नकली तरीका): सिस्टम मोड बदलता है, लेकिन केवल इसलिए क्योंकि एक इंसान ने उसे एक टाइमर पर स्विच करने के लिए मजबूर किया। यह स्विचिंग जैसा दिखता है, लेकिन यह "स्वायत्त" नहीं है क्योंकि सिस्टम ने इसे करने का निर्णय नहीं लिया था।

निष्कर्ष

पेपर का दावा है कि वास्तविक स्वायत्त बुद्धिमत्ता—ऐसी मशीनें जो खुद से अन्वेषण, पुनर्गठन और अनुकूलन कर सकें—बनाने के लिए, हमें सीखने को पहाड़ी से नीचे लुढ़कती गेंद की तरह मानना बंद करना होगा। हमें ऐसे सिस्टम बनाने की आवश्यकता है जिनमें उनके डीएनए में थोड़ा सा "घूर्णन" या "स्पिन" हो।

यह "स्पिन" सिस्टम को यह महसूस करने की अनुमति देता है कि वह फंस गया है, तनाव महसूस करता है, और स्वाभाविक रूप से खुद को उस जाल से बाहर धकेल कर कुछ नया करने के लिए प्रेरित करता है। यह सीखने को एकतरफा यात्रा से एक निरंतर, स्व-नियमन वाली यात्रा में बदल देता है।

तकनीकी सारांश: स्केलर-इरिड्यूसिबल (Scalar-Irreducible) लर्निंग डायनेमिक्स द्वारा संचालित एंडोजेनस रिजीम स्विचिंग

समस्या विवरण
यह शोध पत्र वर्तमान मशीन लर्निंग (ML) फ्रेमवर्क की एक मौलिक सीमा को संबोधित करता है: 'एंडोजेनस रिजीम स्विचिंग' (आंतरिक शासन परिवर्तन) प्राप्त करने में अक्षमता। जबकि ML सिस्टम प्रशिक्षण के दौरान स्वाभाविक रूप से विभिन्न गतिशील अवस्थाओं (जैसे, शांत, दोलनशील, या पुनर्गठन चरण) से गुजरते हैं, इन अवस्थाओं के बीच संक्रमण आमतौर पर लर्निंग-रेट शेड्यूल्स, एनीलिंग (annealing), नॉइज़ इंजेक्शन, या करिकुलम लर्निंग जैसे बाहरी तंत्रों द्वारा प्रेरित होता है। स्वायत्त शिक्षण प्रणालियों (autonomous learning systems) के लिए, बाहरी शेड्यूल्स पर निर्भरता अपर्याप्त है; सिस्टम को तब स्वयं के संक्रमण को विनियमित करना चाहिए जब उसका वर्तमान संचालन मोड अपर्याप्त हो जाए। केंद्रीय समस्या यह है कि मौजूदा आर्किटेक्चर में बाहरी हस्तक्षेप या स्टोकेस्टिक एस्केप (stochastic escape) के बिना निरंतर, आंतरिक रूप से संचालित रिजीम ट्रांज़िशन उत्पन्न करने के लिए तंत्र का अभाव है।

कार्यप्रणाली और सैद्धांतिक ढांचा
लेखक लर्निंग डायनेमिक्स का एक संरचनात्मक वर्गीकरण प्रस्तावित करते हैं कि क्या नियंत्रित वेक्टर फील्ड को एक स्केलर पोटेंशियल के ग्रेडिएंट में बदला जा सकता है।

स्केलर-रिड्यूसिबल डायनेमिक्स (Scalar-Reducible Dynamics):
- इसे उन प्रणालियों के रूप में परिभाषित किया गया है जहाँ एक निरंतर अवकलनीय (continuously differentiable) स्केलर फलन $V$ (एक लियापुनोव फंक्शन) मौजूद है, जहाँ $\dot{V} \leq 0$ सभी प्रक्षेप पथों (trajectories) के अनुदिश होता है।
- इस श्रेणी में अधिकांश आधुनिक ML प्रतिमान शामिल हैं (सुपरवाइज्ड लर्निंग, रिइन्फोर्समेंट लर्निंग, वेरिएशनल इन्फरेंस, और यहाँ तक कि ओजा के लर्निंग जैसे कुछ इम्प्लिसिट नियम भी)। भले ही रोटेशनल घटक (जैसे GANs में) मौजूद हों, यदि वे एक वैश्विक स्केलर ऑब्जेक्टिव के ग्रेडिएंट के लंबवत (orthogonal) हैं, तो सिस्टम स्केलर-रिड्यूसिबल रहता है।
- सीमा: लेख का तर्क है कि स्केलर-रिड्यूसिबल डायनेमिक्स निरंतर, गैर-डीजेनरेट एंडोजेनस रिजीम स्विचिंग को बनाए नहीं रख सकते। क्योंकि स्केलर पोटेंशियल नीचे की ओर सीमित (bounded below) है और मोनोटोनिक रूप से घटता है, सिस्टम अंततः एक इनवेरिएंट सेट में अभिसरित (converge) हो जाता है जहाँ विसरण (dissipation) रुक जाता है। कोई भी संक्रमण जो संभावित ऊर्जा (potential energy) का उपभोग करता है, वह केवल एक सीमित संख्या में ही हो सकता है जब तक कि संक्रमण स्पर्शोन्मुख रूप से लुप्त न हो जाएं।
स्केलर-इरिड्यूसिबल डायनेमिक्स (Scalar-Irreducible Dynamics):
- इन्हें उन प्रणालियों के रूप में परिभाषित किया गया है जहाँ कोई वैश्विक स्केलर ऑर्डरिंग सिद्धांत मौजूद नहीं है। वेक्टर फील्ड को केवल एक ग्रेडिएंट फ्लो (या एक ग्रेडिएंट फ्लो के रोटेशनल घटक के साथ) के रूप में व्यक्त नहीं किया जा सकता है।
- ये डायनेमिक्स चक्रीय पुनरावृत्ति (cyclic recurrence), निरंतर गैर-अभिसरण व्यवहार और आंतरिक पथ निर्भरता (path dependence) की अनुमति देते हैं।
- परिकल्पना: स्थिर नियमों के तहत अपने आंतरिक रिजीम्स को बार-बार पुनर्गठित करने के लिए स्केलर-इरिड्यूसिबल डायनेमिक्स एक आवश्यक शर्त हैं।

न्यूनतम डायनेमिकल मॉडल
इस दृष्टिकोण की व्यवहार्यता को प्रदर्शित करने के लिए, लेखक एक न्यूनतम डायनेमिकल मॉडल का निर्माण करते हैं जिसमें अलग-अलग टाइमस्केल पर संचालित होने वाली दो युग्मित परतें (coupled layers) हैं:

फास्ट डायनेमिकल लेयर: इसे फिट्ज़हु-नागमो (FitzHugh–Nagumo) प्रकार के एक्साइटेबल सिस्टम ( $\dot{x} = F(x; \theta)$ ) के रूप में मॉडल किया गया है, जिसके पैरामीटर्स $\theta$ हैं। यह लेयर स्पष्ट अवस्थाओं (फिक्स्ड पॉइंट्स, एक्साइटेबल रिस्पॉन्स, लिमिट साइकल) को प्रदर्शित करती है जो बाइफरकेशन सीमाओं द्वारा अलग की गई हैं।
स्लो स्ट्रक्चरल लेयर: $\theta$ $θ$ के अनुकूलन (adaptation) को नियंत्रित करती है। मानक ग्रेडिएंट डिसेंट के विपरीत, यह लेयर स्केलर-इरिड्यूसिबल प्लास्टिसिटी का उपयोग करती है।
- यह सिस्टम अपने स्वयं के "स्वास्थ्य" का मूल्यांकन डायनेमिकल संकेतकों (फ्रीजिंग, साइक्लिक ट्रैपिंग, मोनोटोनी) का उपयोग करके करता है और एक "बैडनेस" (badness) फंक्शनल $B(t)$ की गणना करता है।
- एक स्मूथ किया गया स्ट्रेस वेरिएबल $S$ , $B(t)$ के आधार पर संचित होता है।
- प्लास्टिसिटी स्ट्रेस-गेटेड है: $\dot{\theta} = H(S - S_c) [-\eta \nabla U(\theta) + R(\theta)]$ ।
- महत्वपूर्ण रूप से, $R(\theta)$ एक रोटेशनल घटक (curl) है जहाँ $\nabla \times R(\theta) \neq 0$ है। यह सुनिश्चित करता है कि स्ट्रक्चरल इवोल्यूशन किसी भी स्केलर लॉस का ग्रेडिएंट फ्लो नहीं है।

प्रमुख परिणाम
लेखक तीन परिदृश्यों की तुलना करते हुए संख्यात्मक सिमुलेशन प्रस्तुत करते हैं:

स्केलर-रिड्यूसिबल बेसलाइन: सिस्टम एक क्षणिक रिजीम ट्रांज़िशन से गुजरता है लेकिन जल्दी ही एक स्थिर स्ट्रक्चरल स्टेट में अभिसरित हो जाता है। एक बार जम (frozen) जाने के बाद, सिस्टम एक एकल डायनेमिकल रिजीम में फंसा रहता है। यहाँ "बैडनेस" मीट्रिक उच्च स्तर पर संतृप्त (saturate) हो जाता है।
स्केलर-इरिड्यूसिबल सिस्टम: यह निरंतर, एंडोजेनस रिजीम स्विचिंग प्रदर्शित करता है। फास्ट डायनेमिक्स बार-बार शांत और दोलनशील अवस्थाओं के बीच बदलते रहते हैं। स्लो स्ट्रक्चरल वेरिएबल्स, रोटेशनल घटक द्वारा संचालित, फीडबैक-रेगुलेटेड तरीके से विकसित होते हैं। यह सिस्टम को स्थानीय डायनेमिकल ट्रैप्स से बचने और लंबे समय के क्षितिज (time horizons) पर कम "बैडनेस" स्तर बनाए रखने की अनुमति देता है।
एक्सटर्नली स्वैप्ट कंट्रोल: एक परिदृश्य जहाँ पैरामीटर्स को एक बाहरी शेड्यूल द्वारा संचालित किया जाता है। हालांकि यह स्विचिंग उत्पन्न करता है, लेकिन पैटर्न नियमित और बाह्य रूप से थोपा हुआ होता है, जो स्केलर-इरिड्यूसिबल मॉडल के अनियमित, फीडबैक-संचालित स्विचिंग से भिन्न है।

प्रमुख योगदान

संरचनात्मक वर्गीकरण: यह शोध पत्र लर्निंग डायनेमिक्स के लिए स्केलर-रिड्यूसिबल और स्केलर-इरिड्यूसिबल के बीच एक कठोर अंतर पेश करता है, यह पहचानते हुए कि पूर्व वर्तमान ML में प्रमुख प्रतिमान है और उत्तर स्वायत्तता के लिए आवश्यक तत्व है।
सैद्धांतिक सीमा: यह एक औपचारिक तर्क प्रदान करता है कि वैश्विक मोनोटोनिक स्केलर ऑर्डरिंग निरंतर, बार-बार होने वाले एंडोजेनस रिजीम पुनर्गठन को रोकती है।
तंत्र प्रस्ताव: यह प्रदर्शित करता है कि स्ट्रक्चरल अडैप्टेशन लेयर में एक रोटेशनल (गैर-ग्रेडिएंट) घटक पेश करने से एक क्लोज्ड फीडबैक लूप सक्षम होता है जहाँ आंतरिक डायनेमिकल "स्ट्रेस" स्ट्रक्चरल परिवर्तनों को संचालित करता है जो बाइफरकेशन सीमाओं को पार करते हैं, जिससे स्व-विनियमित रिजीम स्विचिंग होती है।

महत्व और दावे
लेखक दावा करते हैं कि यह कार्य रिजीम एक्सप्लोरेशन के लिए एक नया डायनेमिकल प्रतिमान प्रदान करता है। इसका महत्व किसी विशिष्ट कार्य के तत्काल व्यावहारिक अनुप्रयोग में नहीं है, बल्कि स्वायत्त शिक्षण प्रणालियों की ओर एक सैद्धांतिक मार्ग प्रदान करने में है। बाहरी रूप से निर्धारित उद्देश्यों या शेड्यूल्स पर निर्भर रहने के बजाय अपने अनुकूलन व्यवहार को आंतरिक रूप से व्यवस्थित करके, स्केलर-इरिड्यूसिबल डायनेमिक्स स्वायत्त बुद्धिमत्ता के उदय के लिए एक पूर्व शर्त हो सकती है। यह विचार कि कब एक रिजीम में बने रहना है और कब पुनर्गठन करना है, इसे आंतरिक रूप से विनियमित करने की क्षमता को एक मौलिक थ्रेशोल्ड बनाती है।