🤖 machine learning

Adynamical systems view of training generativemodels and the memorization phenomenon

यह शोध पत्र एक डायनेमिकल सिस्टम्स परिप्रेक्ष्य का उपयोग करता है, जो जनरेटिव मॉडल्स में मेमोराइजेशन (memorization) की घटना के लिए एक सिस्टम-थ्योरेटिक स्पष्टीकरण प्रदान करने हेतु स्टोकेस्टिक ग्रेडिएंट डिसेंट में टू-टाइम-स्केल डायनेमिक्स और मॉडल कोलैप्स पर हालिया परिणामों का लाभ उठाता है, जहाँ प्रशिक्षण के दौरान आउटपुट लंबे समय तक स्थिर रहते हैं।

मूल लेखक: Siva Athreya, Chiranjib Bhattacharya, Vivek S. Borkar

प्रकाशित 2026-05-20

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Siva Athreya, Chiranjib Bhattacharya, Vivek S. Borkar

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ ऊपर दिए गए टेक्स्ट का हिंदी अनुवाद है:

बड़ी तस्वीर: AI एक ही विचार पर क्यों "अटक" जाता है

कल्पना कीजिए कि आप एक रोबोट को पेंटिंग करना सिखा रहे हैं। आप चाहते हैं कि वह लैंडस्केप (प्राकृतिक दृश्य) की सामान्य शैली सीख ले ताकि वह नए सुंदर दृश्य बना सके। हालाँकि, आप एक अजीब सी गड़बड़ी देखते हैं: कुछ समय बाद, रोबोट नया आर्ट बनाना बंद कर देता है और घंटों तक एक ही पेड़, या एक ही बादल को बार-बार बनाने लगता है। उसने एक सामान्य अवधारणा सीखने के बजाय एक विशिष्ट आउटपुट को "रट" (memorize) लिया है।

यह पेपर समझाता है कि यह क्यों होता है। लेखक तर्क देते हैं कि यह केवल कोड में कोई बग नहीं है; यह इस बात का स्वाभाविक परिणाम है कि रोबोट कैसे सीखता है, विशेष रूप से इसलिए क्योंकि वह सीखने के दौरान कितनी तेज़ी से कदम उठाता है।

वे प्रशिक्षण प्रक्रिया को एक स्थिर गणितीय समस्या के रूप में नहीं, बल्कि एक डायनेमिक सिस्टम (गतिशील प्रणाली) के रूप में देखते हैं—जैसे एक ऊबड़-खाबड़ पहाड़ी से नीचे लुढ़कती हुई गेंद।

मुख्य अवधारणा: सीखने की दो गति (Two Speeds of Learning)

लेखक सुझाव देते हैं कि रोबोट के मस्तिष्क (मॉडल) के दो अलग-अलग हिस्से हैं जो बहुत अलग गति से सीखते हैं। इसे एक भारी बैकपैक लेकर चलने वाले हाइकर (हाइकर) की तरह समझें:

तेज़ हाइकर (The "Fast" Variables): मस्तिष्क का यह हिस्सा तेज़ी से सीखता है। यह हाइकर के पैरों की तरह है, जो लगातार इलाके (terrain) के अनुसार खुद को ढाल रहे हैं।
धीमा हाइकर (The "Slow" Variables): यह हिस्सा बहुत धीरे सीखता है। यह हाइकर के बैकपैक की तरह है, जिसका वजन कभी-कभार ही बदलता है।

वास्तविक दुनिया में, "लॉस फंक्शन" (यह मापने का तरीका कि रोबोट की पेंटिंग कितनी खराब है) तेज़ वेरिएबल्स पर बहुत अधिक निर्भर करता है और धीमे वेरिएबल्स पर बहुत कम। इस कारण से, तेज़ वेरिएबल्स एक अच्छी जगह खोजने के लिए तेजी से इधर-उधर घूमते हैं, जबकि धीमे वेरिएबल्स मुश्किल से हिल पाते हैं।

"कोलैप्स" (Collapse) की घटना: एक गड्ढे में फंस जाना

सबसे पहले, लेखक एक सरल समस्या समझाते हैं जिसे "कोलैप्स" कहा जाता है।

कल्पना कीजिए कि रोबोट एक घाटी के सबसे निचले बिंदु (सबसे अच्छा समाधान) को खोजने की कोशिश कर रहा है।

आदर्श परिदृश्य (Ideal Scenario): यदि रोबोट बहुत छोटे, घटते हुए कदम उठाता है (एक सतर्क खोजकर्ता की तरह), तो वह अंततः घाटी के बिल्कुल निचले हिस्से में स्थिर हो जाएगा और वहीं रहेगा।
"कोलैप्स" परिदृश्य: यदि रोबोट लगातार, स्थिर कदम उठाता है (एक निश्चित गति से चलने वाले व्यक्ति की तरह), तो वह निचले बिंदु को पार कर सकता है, वापस ऊपर उछल सकता है, और एक छोटे से स्थानीय गड्ढे में फंस सकता है।

पेपर की भाषा में, यदि रोबोट बिना किसी "शोर" (noise) के डेटा जेनरेट करने की कोशिश कर रहा है जो उसे झटके देकर बाहर निकाल सके, तो वह अंततः एक एकल, निश्चित आउटपुट में कोलैप्स हो जाएगा। वह एक जनरेटर (generator) के बजाय एक विशिष्ट छवि का रिकॉर्डर बन जाएगा। गणितीय रूप से, यह एक गेंद की तरह है जो एक गड्ढे में लुढ़क जाती है और हमेशा के लिए वहीं रुक जाती है।

"मेमोराइजेशन" (Memorization) की घटना: आलसी ऑसिलेटर (The Lazy Oscillator)

अब, यहाँ एक मोड़ है। लेखक समझाते हैं कि मेमोराइजेशन "कोलैप्स" और "ड्रिफ्ट" (drift) का मिश्रण है।

चूँकि रोबोट के पास वे दो अलग-अलग गति (तेज़ और धीमे वेरिएबल्स) हैं और वह लगातार कदम उठा रहा है, इसलिए कुछ दिलचस्प होता है:

तेज़ हिस्सा कोलैप्स होता है: तेज़ वेरिएबल्स जल्दी से एक स्थानीय गड्ढे (एक विशिष्ट इमेज स्टाइल) में स्थिर हो जाते हैं। रोबोट बार-बार वही इमेज आउटपुट करने लगता है। यह "मेमोराइजेशन" जैसा दिखता है।
धीमा हिस्सा ड्रिफ्ट करता है: हालाँकि, धीमे वेरिएबल्स अभी भी चल रहे हैं, बस बहुत धीरे। वे धीरे-धीरे समस्या के "लैंडस्केप" को धकेल रहे हैं।
द जंप (The Jump): अंततः, धीमा ड्रिफ्ट तेज़ वेरिएबल्स को उनके वर्तमान गड्ढे से बाहर धकेल देता है। रोबोट अचानक एक दूसरे गड्ढे (एक अलग इमेज) की ओर कूद जाता है और वहाँ लंबे समय तक स्थिर हो जाता है।

उपमा (Analogy): एक रिलैक्सेशन ऑसिलेटर (जैसे जुगनू का चमकना या दिल की धड़कन) की कल्पना करें।

रोबोट एक जगह "सोकर" (sleep) लंबा समय बिताता है (एक इमेज को रटता है)।
फिर, धीरे-धीरे दबाव बढ़ता है जब तक कि वह एक नई जगह पर "कूद" (jump) नहीं जाता।
वह वहाँ रुकता है, फिर से सो जाता है, और यही प्रक्रिया दोहराता है।

यही मेमोराइजेशन है: रोबोट एक इमेज पर हमेशा के लिए नहीं अटकता; वह एक लंबे समय के लिए एक इमेज पर अटक जाता है, फिर दूसरी पर स्विच करता है, और फिर दूसरी पर। यह फंसने और फिर धीरे-धीरे दूर जाने का एक रुक-रुक कर होने वाला (intermittent) चक्र है।

स्टेप साइज (Step Size) क्यों मायने रखता है?

पेपर इस बात पर ज़ोर देता है कि यह विशेष रूप से इसलिए होता है क्योंकि लर्निंग एल्गोरिदम एक कन्स्टेंट स्टेप साइज (एक निश्चित गति) का उपयोग करता है।

छोटे कदम (Small Steps): यदि रोबोट बहुत छोटे कदम उठाता है, तो वह अच्छे से स्थिर हो जाता है और बिना किसी लूप में फंसे सामान्य आकार सीख लेता है।
लगातार कदम (Constant Steps): यदि रोबोट एक ही आकार के कदम लेता रहता है, तो यह एक "खींचातानी" (tug-of-war) पैदा करता है। तेज़ वेरिएबल्स स्थिर होना चाहते हैं, लेकिन निरंतर मोमेंटम उन्हें धक्का देता रहता है।
बड़े कदम/शोर (Big Steps/Noise): लेखक नोट करते हैं कि यदि आप कदमों को बहुत बड़ा कर देते हैं, तो आप इतना "शोर" (shaking) पैदा कर देते हैं कि रोबलेट मेमोराइजेशन लूप में बिल्कुल नहीं फंस पाता। वह बहुत अधिक उछलता-कूदता रहता है ताकि फंस सके। यह समझाता है कि क्यों बड़े स्टेप्स का उपयोग करने वाले कुछ ट्रेनिंग तरीके मेमोराइजेशन से बच जाते हैं।

लेखकों के तर्क का सारांश

उच्च आयाम (High Dimensions) दो गति पैदा करते हैं: क्योंकि AI मॉडल्स में बहुत सारे पैरामीटर्स होते हैं, कुछ तेज़ और कुछ धीमे सीखते हैं।
लगातार कदम (Constant Steps) लूप बनाते हैं: एक फिक्स्ड लर्निंग रेट सिस्टम को पूरी तरह से स्थिर होने से रोकता है।
कोलैप्स आधार है: बिना शोर के, सिस्टम एक आउटपुट पर बस जम (freeze) जाएगा।
मेमोराइजेशन "ड्रिफ्टिंग कोलैप्स" है: क्योंकि धीमे वेरिएबल्स चलते रहते हैं, सिस्टम एक आउटपुट पर कुछ समय के लिए अटक जाता है, फिर धीरे-धीरे दूसरे की ओर बढ़ता है, जिससे दोहराव का एक चक्र बनता है।

यह पेपर इसे तुरंत ठीक करने के लिए कोई नया टूल पेश नहीं करता है, लेकिन यह हमें एक गणितीय मानचित्र (mathematical map) प्रदान करता है कि यह क्यों होता है। यह हमें बताता है कि मेमोराइजेशन कोई रैंडम त्रुटि नहीं है; यह दो अलग-अलग गति से चलने वाले एक फिक्स्ड पेस (fixed pace) वाले सिस्टम का एक अनुमानित व्यवहार है।

तकनीकी सारांश: जनरेटिव मॉडल्स के प्रशिक्षण और मेमोराइजेशन (Memorization) घटना का एक डायनामिकल सिस्टम्स दृष्टिकोण

समस्या विवरण
यह शोध पत्र जनरेटिव मॉडल्स, विशेष रूप से डिफ्यूजन मॉडल्स में "मेमोराइजेशन" (memorization) की घटना को संबोधित करता है। अनुभवजन्य रूप से (Empirically), प्रशिक्षण प्रक्रिया के दौरान, ये मॉडल कभी-कभी ऐसे चरणों में प्रवेश करते हैं जहाँ वे विविध आउटपुट उत्पन्न करने के बजाय, एक महत्वपूर्ण अवधि के लिए समान या अत्यधिक मिलते-जुलते नमूनों (samples) को बार-बार पुन: उत्पन्न करते हैं। जबकि मौजूदा साहित्य अक्सर इसका विश्लेषण स्टेटिक स्टैटिस्टिकल मैकेनिक्स या लॉस लैंडस्केप थर्मोडायनामिक्स के माध्यम से करता है, यह कार्य एक डायनामिकल सिस्टम्स दृष्टिकोण प्रस्तावित करता है। लेखक तर्क देते हैं कि मेमोराइजेशन केवल लॉस लैंडस्केप का एक स्थिर गुण नहीं है, बल्कि प्रशिक्षण एल्गोरिदम के टेम्पोरल इवोल्यूशन (temporal evolution) का एक उभरता हुआ व्यवहार (emergent behavior) है, जो विशेष रूप से स्टोकेस्टिक ग्रेडिएंट डिसेंट (SGD) में निरंतर स्टेप साइज़ (constant step sizes) के उपयोग और मार्कोव नॉइज़ (Markov noise) द्वारा संचालित होता है।

कार्यप्रणाली और ढांचा (Methodology and Framework)
लेखक तीन मुख्य घटकों पर आधारित एक सैद्धांतिक ढांचा तैयार करते हैं:

ऑस्टिन के प्रमेय (Austin's Theorem) के माध्यम से टू-टाइम-स्केल डायनेमिक्स:
ऑस्टिन [2016] का हवाला देते हुए, लेखक यह प्रतिपादित करते हैं कि उच्च-आयामी पैरामीटर स्पेस में, लिप्सचिट्ज़ बाधाओं (Lipschitz constraints) के साथ, लॉस फंक्शन पैरामीटर्स के एक उपसमुच्चय (subset) पर मजबूत निर्भरता और शेष पर कमजोर निर्भरता प्रदर्शित करता है। यह एक शैलीकृत मॉडल (stylized model) को प्रेरित करता है जहाँ ऑब्जेक्टिव फंक्शन $F(z)$ (जहाँ $z=(x,y)$ ) इस रूप में होता है: $F(z) = f(x, \epsilon y)$ , जहाँ $0 < \epsilon \ll 1$ । यह संरचना स्वाभाविक रूप से SGD अपडेट्स में दो अलग-अलग टाइम स्केल उत्पन्न करती है: $x$ के लिए एक फास्ट स्केल और $y$ के लिए एक स्लो स्केल।
मार्कोव नॉइज़ के साथ SGD:
प्रशिक्षण एल्गोरिदम को मार्कोव नॉइज़ के साथ एक स्टोकेस्टिक एप्रोक्सिमेशन स्कीम के रूप में मॉडल किया गया है। नॉइज़ $\{Z_n\}$ स्वयं जनरेटिव मॉडल (जैसे, डिफ्यूजन प्रक्रिया) से उत्पन्न होती है, जिसे पैरामीटर्स द्वारा ट्यून किया जा रहा है। इस नॉइज़ की ट्रांज़िशन प्रोबेबिलिटीज वर्तमान पैरामीटर्स द्वारा नियंत्रित होती हैं। लेखक सिस्टम का विश्लेषण करने के लिए मार्कोव नॉइज़ के साथ स्टोकेस्टिक एप्रोक्सिमेशन के सिद्धांत (Benveniste et al. [1990]; Borkar [2025c]) का उपयोग करते हैं, और यह नोट करते हैं कि नॉइज़ पैरामीटर्स के "एल्गोरिथमिक" टाइम स्केल की तुलना में बहुत तेज़ "नेचुरल" टाइम स्केल पर विकसित होती है।
एक एब्जॉर्बिंग मार्कोव चेन के रूप में कोलैप्स (Collapse):
यह पेपर 'कोलैप्स' को Borkar [2025a] के परिणामों का उपयोग करके औपचारिक रूप से परिभाषित करता है। एक जनरेटिव मॉडल सेटिंग में, मॉडल द्वारा उत्पन्न प्रोबेबिलिटी मेजर्स का अनुक्रम एक टाइम-होमोजेनियस मार्कोव चेन बनाता है। कुछ शर्तों के तहत (विशेष रूप से जब मिक्सिंग पैरामीटर $a=0$ हो), यह चेन लगभग निश्चित रूप से (almost surely) एक रैंडम पॉइंट पर केंद्रित डिरैक मेजर (Dirac measure) की ओर अभिसरित (converge) होती है। एकल आउटपुट की ओर यह एसिम्प्टोटिक अभिसरण ही 'कोलैप्स' घटना की गणितीय परिभाषा है।

प्रमुख योगदान और परिणाम

स्टेप साइज़ का विभेदीकरण:
पेपर घटते हुए स्टेप साइज़ वाले SGD (जो अभिसरण की ओर ले जाता है) और निरंतर स्टेप साइज़ वाले SGD (जो इस कार्य का केंद्र है) के बीच अंतर करता है। घटते स्टेप साइज़ वाले रिजीम में, सिस्टम ग्लोबल मिनिमम की ओर अभिसरित होता है, जिससे शुद्ध कोलैप्स होता है (थ्योरम 7)। हालांकि, लेखक तर्क देते हैं कि व्यावहारिक मेमोराइजेशन की घटना निरंतर स्टेप साइज़ वाले SGD के विशिष्ट है।
निरंतर स्टेप साइज़ SGD का एसिम्प्टोटिक व्यवहार:
Azizian et al. [2024] और Hwang [1981] के हालिया परिणामों का लाभ उठाते हुए, लेखक निरंतर स्टेप साइज़ SGD के लिमिटिंग डिस्ट्रीब्यूशन का विश्लेषण करते हैं। वे स्थापित करते हैं कि:
- इटरेट (iterates) एक "लार्ज डेविएशन रेट फंक्शन" (एक एनर्जी फंक्शनल) के मिनिमा पर केंद्रित होते हैं, जो आवश्यक रूप से लॉस फंक्शन के ग्लोबल मिनिमम के अनुरूप नहीं होता है।
- स्टेशनरी डिस्ट्रीब्यूशन "फ्लैटर" मिनिमा (रेट फंक्शन के हेसियन के लोअर डिटर्मिनेंट वाले) को प्राथमिकता देता है, जो सरल मिनिमा के लिए SGD की अनुभवजन्य प्राथमिकता की व्याख्या करता है।
- सिस्टम एक डिफ्यूजन प्रक्रिया की तरह व्यवहार करता है जहाँ स्टेप साइज़ एक 'तापमान पैरामीटर' के रूप में कार्य करता है।
मेमोराइजेशन का तंत्र (थ्योरम 11):
केंद्रीय परिणाम एक इंटरमिटेंट कोलैप्स (intermittent collapse) के रूप में मेमोराइजेशन की व्याख्या है।
- सिस्टम दो टाइम स्केल पर काम करता है: फास्ट वेरिएबल $x$ , फास्ट डायनेमिक्स के एक लोकल मिनिमम $\lambda(y)$ को ट्रैक करता है, जबकि स्लो वेरिएबल $y$ ड्रिफ्ट (drift) करता है।
- चूंकि स्टेप साइज़ निरंतर है, सिस्टम एक एकल बिंदु पर अभिसरित नहीं होता है। इसके बजाय, स्लो वेरिएबल $y$ ड्रिफ्ट करता है, जिससे फास्ट वेरिएबल $x$ एक चलते हुए मिनिमम को ट्रैक करता है।
- जब स्लो वेरिएबल $y$ उस क्षेत्र में रहता है जहाँ फास्ट डायनेमिक्स में एक स्थिर अट्रैक्टर (stable attractor) होता है, तो सिस्टम "मेमोराइजेशन" (बार-बार आउटपुट) प्रदर्शित करता है।
- हालांकि, क्योंकि $y$ ड्रिफ्ट करना जारी रखता है (नॉइज़ और स्लो टाइम स्केल की मदद से), सिस्टम इस क्षेत्र से बाहर निकल जाता है, जिससे एक अलग अट्रैक्टर में संक्रमण (transition) होता है।
- इसके परिणामस्वरूप एक "रिलैक्सेशन ऑसिलेशन" (relaxation oscillation) व्यवहार प्राप्त होता है: दोहराव (मेमोराइजेशन) के लंबे दौर, जिनके बाद नए स्टेट्स में अपेक्षाकृत तीव्र संक्रमण होते हैं। यह मेमोराइजेशन को मानक Freidlin-Wentzell थ्योरी में देखे जाने वाले शोर-चालित जंप्स से अलग करता; यहाँ, संक्रमण स्लो वेरिएबल के नियत (deterministic) ड्रिफ्ट द्वारा संचालित होते हैं।
नॉइज़ और स्टेप साइज़ की भूमिका:
लेखक समझाते हैं कि बड़े स्टेप साइज़ इटरेशन में नॉइज़ के स्तर को बढ़ाते हैं, जो मेमोराइजेशन के लिए आवश्यक स्थिर ट्रैकिंग को बाधित कर सकता है, जिससे इस घटना को हतोत्साहित किया जाता है। यह Wu et al. [2025] के अनुभवजन्य अवलोकनों के अनुरूप है कि बड़े स्टेप साइज़ मेमोराइजेशन को कम करते हैं।

महत्व और दावे
यह पेपर मेमोराइजेशन के लिए एक "सिस्टम थ्योरिटिक स्पष्टीकरण" प्रदान करने का दावा करता है, जो ध्यान को स्टेटिक लॉस लैंडस्केप विश्लेषण से हटाकर सीखने के एल्गोरिदम के टेम्पोरल डायनेमिक्स पर केंद्रित करता है।

एकीकृत परिप्रेक्ष्य: यह "कोलैप्स" और "मेमोराइजेशन" की घटनाओं को एकीकृत करता है, यह तर्क देते हुए कि मेमोराइजेशन अनिवार्य रूप से एक कोलैप्स घटना है जो स्कोर लर्निंग स्कीम और पैरामीटर्स के स्लो ड्रिफ्ट द्वारा मॉड्युलेट की जाती है, जिससे यह स्थायी होने के बजाय इंटरमिटेंट (रुक-रुक कर होने वाली) बन जाती है।
उभरते हुए टाइम स्केल्स: यह रेखांकित करता है कि हाई-डायमेंशनल जनरेटिव मॉडल्स के प्रशिक्षण में दो टाइम स्केल, समस्या की संरचना (ऑस्टिन के प्रमेय के माध्यम से) और निरंतर स्टेप साइज़ के उभरते हुए गुण हैं, न कि कृत्रिम रूप से थोपे गए।
सीमित दायरा: लेखक स्वीकार करते हैं कि उनके मॉडल में कुछ आदर्शिकरण (idealizations) शामिल हैं, जैसे कि यह मानना कि जनरेटेड मेजर्स एक कंडीशनल बैरीसेंटर (conditional barycenter) बनाते हैं और एक शैलीकृत टू-स्केल लॉस फंक्शन का उपयोग करना। वे नोट करते हैं कि वास्तविकता में, एप्रोक्सिमेशन एरर निरंतर बाहरी नॉइज़ के रूप में कार्य करते हैं, जिसका अर्थ है कि मेमोराइजेशन अक्सर शुद्ध डिरैक डेल्टा संकेंद्रण के बजाय एक "कोलैप्स का भ्रष्टाचार" (corruption of collapse) है। फलस्वरूप, मेमोराइजेशन पिछले आउटपुट्स के नॉइज़ी संस्करणों की ओर एक पूर्वाग्रह (bias) के रूप में प्रकट होता है, न कि सटीक डुप्लीकेशन के रूप में।

यह कार्य कोई नया प्रयोगात्मक एल्गोरिदम या विशिष्ट इंजीनियरिंग समाधान प्रस्तावित नहीं करता है, बल्कि यह समझने के लिए एक सैद्धांतिक लेंस प्रदान करता है कि मेमोराइजेशन निरंतर स्टेप साइज़ वाले SGD में क्यों होता है और यह उच्च आयामों में स्टोकेस्टिक एप्रोक्सिमेशन के व्यापक डायनेमिक्स से कैसे संबंधित है।