Energy Generative Modeling: A Lyapunov-based Energy Matching Perspective

तकनीकी सारांश: ऊर्जा जनरेटिव मॉडलिंग: एक लियापुनोव-आधारित ऊर्जा मिलान परिप्रेक्ष्य

समस्या विवरण
जनरेटिव मॉडलिंग आमतौर पर एक सरल शोर वितरण (noise distribution) को लक्षित डेटा वितरण तक पहुँचाने के लिए समय-निर्भर वेक्टर फील्ड्स (जैसे, डिफ्यूजन मॉडल, फ्लो मैचिंग) पर निर्भर करती है। एक हालिया प्रतिमान, एनर्जी मैचिंग (Energy Matching), समय की स्थिति (time conditioning) को समाप्त करते हुए एक एकल स्थिर स्केलर ऊर्जा फलन $U_\theta: \mathbb{R}^d \to \mathbb{R}$ को सीखता है। नमूने (samples) इस स्थिर परिदृश्य पर चलते डायनेमिक्स चलाकर उत्पन्न किए जाते हैं, जो स्टोकेस्टिक डिफरेंशियल इक्वेशन (SDE) $dx_t = -\nabla U(x_t)dt + \sqrt{2}dW_t$ द्वारा नियंत्रित होते हैं। हालाँकि, प्रशिक्षण चरण (ऊर्जा $U_\theta$ सीखना) और नमूनाकरण चरण (नमूने उत्पन्न करना) के बीच का सैद्धांतिक संबंध अभी भी खंडित है। इसके अलावा, यह स्पष्ट नहीं है कि वितरण जनरेशन के लिए स्टोकेस्टिक लैंग्विन डायनेमिक्स (Langevin dynamics) क्यों आवश्यक है, क्योंकि उसी ऊर्जा परिदृश्य पर नियत (deterministic) ग्रेडिएंट फ्लो अक्सर "मोड कोलैप्स" (स्थानीय मिनिमा पर संकेंद्रण) की ओर ले जाते हैं, न कि लक्षित वितरण को बनाए रखने की ओर।

कार्यप्रणाली: नियंत्रण-सिद्धांत संबंधी पुनर्गठन (Control-Theoretic Reformulation)
लेखक प्रशिक्षण और नमूनाकरण को एक एकल ढांचे के भीतर एकीकृत करते हैं: वैसरस्टीन स्पेस (Wasserstein space) $\mathcal{P}_2(\mathbb{R}^d)$ पर घनत्व परिवहन (density transport), जिसे एक नॉनलीनर कंट्रोल समस्या के रूप में तैयार किया गया है।

• अवस्था और नियंत्रण (State and Control): अवस्था चर (state variable) संभाव्यता घनत्व $\rho_t \in \mathcal{P}_2(\mathbb{R}^d)$ है। डायनेमिक्स निरंतरता समीकरण (continuity equation) $\partial_t \rho = -\nabla \cdot (\rho u)$ द्वारा शासित होते हैं, जहाँ वेग क्षेत्र (velocity field) $u$ नियंत्रण इनपुट के रूप में कार्य करता है।
• लियापुनोव डिज़ाइन: कुलबैक-लीब्लर (KL) डाइवर्जेंस, $V(\rho) = \text{KL}(\rho \| \rho^*)$, को लियापुनोव फलन उम्मीदवार के रूप में चुना गया है, जहाँ $\rho^*$ लक्षित वितरण है।
• इष्टतम नियंत्रण (Optimal Control): $\dot{V} \leq 0$ सुनिश्चित करने के लिए, लेखक इष्टतम नियंत्रण नियम $u^* = -\nabla U^* - \nabla \log \rho$ प्राप्त करते हैं। इसे निरंतरता समीकरण में प्रतिस्थापित करने से फोकर-प्लैंक समीकरण (Fokker-Planck equation) प्राप्त होता है, जिसका कण-स्तर का कार्यान्वयन लैंग्विन SDE है।
• प्रशिक्षण बनाम नमूनाकरण:
  • प्रशिक्षण: न्यूरल नेटवर्क $U_\theta$ को लक्षित वितरण को अनुमानित करने के लिए सीखता है। लक्षित $\rho^*$ को डेटा के एम्पिरिकल (empirical) संस्करण के रूप में परिभाषित किया गया है (कर्नेल डेंसिटी एस्टीमेशन के माध्यम से) ताकि एक स्कोर और परिमित KL डाइवर्जेंस का अस्तित्व सुनिश्चित हो सके।
  • नमूनाकरण: प्रशिक्षित ऊर्जा $U^*_\theta$ का उपयोग शोर प्रायर (noise prior) $\rho_0$ से लक्षित $\rho^*_\theta$ तक लैंग्विन डायनेमिक्स को संचालित करने के लिए किया जाता है।

प्रमुख योगदान और विश्लेषणात्मक परिणाम

1. एकीकृत ढांचा: यह शोध पत्र स्थापित करता है कि प्रशिक्षण, नमूनाकरण और स्मूथिंग $\mathcal{P}_2(\mathbb{R}^d)$ पर एक विशिष्ट नियंत्रण नियम के साथ एक ही घनत्व परिवहन डायनेमिक्स के तीन उदाहरण हैं।
2. नियत (Deterministic) नमूनाकरण की असंभवता:
   • लेखक सिद्ध करते हैं कि नियत ग्रेडिएंट फ्लो $\dot{x}_t = -\nabla U^*_\theta(x_t)$ के लिए, कोई भी लियापुनोव फलनत्मक मौजूद नहीं है जो एक साथ गैर-ऋणात्मकता, लक्ष्य पर शून्य, और प्रक्षेप पथों (trajectories) के साथ गैर-बढ़ती स्थिति को संतुष्ट कर सके।
   • यह घटना को औपचारिक रूप से समझाता है: मोड कोलैप्स; बिना एंट्रॉपी ग्रेडिएंट टर्म (जो ब्राउनियन शोर द्वारा साकार होता है) के, नियत प्रवाह लक्षित गिब्स वितरण (Gibbs distribution) को स्थिर समाधान के रूप में बनाए नहीं रख सकता; यह अनिवार्य रूप से क्रिटिकल पॉइंट्स पर द्रव्यमान (mass) को केंद्रित कर देता है।
3. परिमित चरण रुकने का मानदंड (Finite Step Stopping Criteria):
   • लैंग्विन नमूनाकरण: लॉग-सोबोलेव असमानता (Log-Sobolev inequality) के तहत, KL डाइवर्जेंस तेजी से (exponentially) अभिसरित होता है। पेपर एक पर्याप्त नमूनाकरण समय $\tau^*_{\text{Lang}}$ व्युत्पन्न करता है ताकि लक्षित सटीकता $\epsilon$ प्राप्त की जा सके। इस समय के बाद भी सैंपलर चलाना बाउंड को खराब नहीं करता है।
   • नियत नमूनाकरण: चूंकि कोई वैश्विक लियापुनोव प्रमाण मौजूद नहीं है, इसलिए लेखक लैपलेसियन टर्म और ड्रिफ्ट-प्रेरित विसर्जन (drift-induced dissipation) के अनुपात ($R_t$) पर आधारित एक परिमित चरण रुकने का नियम प्रस्तावित करते हैं। इष्टतम रुकने का समय $\tau^*_{\text{det}}$ वह क्षण है जब $R_t = 1$ होता है, जो ड्रिफ्ट-प्रधान विसर्जन (अभिसरण) से लैपलेसियन-प्रधान संकेंद्रण (मोड कोलैप्स) के संक्रमण को चिह्नित करता है।
4. संयोजन जनरेशन (Compositional Generation):
   • ढांचा प्रदर्शित करता है कि प्रशिक्षित स्केलर ऊर्जाओं का योगात्मक संयोजन ($U_{\text{comp}} = \alpha_+ U_+ + \alpha_- U_-$) एक स्पष्ट गिब्स इनवेरिएंट मेजर (Gibbs invariant measure) को बनाए रखता है।
   • यह संयोजन "एक्सपर्ट" मॉडल्स (जैसे, संयोजन, विसंयोजन, निषेध) को बिना पुनः प्रशिक्षण या संरचनात्मक हानि के मिलाने की अनुमति देता है।
5. डायग्नोस्टिक OOD स्कोरिंग:
   • पेपर आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) डिटेक्शन के लिए क्लोज्ड-लूप डायनेमिक्स से प्राप्त तीन स्कोर का मूल्यांकन करता है: ऊर्जा मान ($U_\theta$), ग्रेडिएंट नॉर्म ($\|\nabla U_\theta\|$), और प्रक्षेप पथ विस्थापन (trajectory displacement)।
   • CIFAR-10 पर प्रयोगों से पता चलता है कि ग्रेडिएंट नॉर्म ($S_2$) प्राकृतिक OOD डेटासेट (SVHN, DTD) पर ऊर्जा मान और अन्य बेसलाइन (जैसे, PixelCNN++, GLOW) की तुलना में काफी बेहतर प्रदर्शन करता है, जो औसतन 0.763 का AUROC प्राप्त करता है।

परिणाम और सत्यापन

• सिंथेटिक प्रयोग: आठ-गौसियन लक्ष्य पर, नियत प्रवाह चरण $k=50$ पर निकट-इष्टतम वितरण तक पहुँचता है और फिर क्रिटिकल पॉइंट्स पर डिरैक मास (Dirac masses) में ढह जाता है। अनुमानित रुकने का समय ($k^*=49$) अनुभवजन्य इष्टतम के अनुरूप है। इसके विपरीत, लैंग्विन सैंपलर $k \approx 100$ तक गिब्स वितरण में अभिसरित होता है और इसे बनाए रखता है, जो दोनों रुकने के नियमों के बीच सैद्धांतिक अंतर को सत्यापित करता है।
• संयोजन प्रयोग: दो अलग-अलग गौसियन मिश्रणों पर स्वतंत्र ऊर्जा मॉडल को प्रशिक्षित करने और उन्हें बिना पुनः प्रशिक्षण के जोड़, घटाव और निषेध के माध्यम से संयोजित करने के बाद, सफलतापूर्वक तार्किक संचालन (जैसे, संयोजन ने समझौता स्थानों का एक वलय बनाया; निषेध ने सफलतापूर्वक एक मोड सेट से नमूनों को दूर रखा) के अनुरूप नमूने उत्पन्न किए।
• OOD डिटेक्शन: ग्रेडिएंट नॉर्म स्कोर ने मौजूदा जनरेटिव मॉडल बेसलाइन की तुलना में प्राकृतिक डेटा को अलग करने में श्रेष्ठ प्रदर्शन किया।

महत्व और दावे
यह शोध पत्र दावा करता है कि यह स्थिर स्केलर ऊर्जा जनरेटिव मॉडलिंग को नॉनलीनर कंट्रोल थ्योरी के पूर्ण टूलकिट के साथ जोड़ता है।

• यह जनरेटिव मॉडलिंग को एक समानांतर विषय के बजाय, नॉनलीनर कंट्रोल के एक अध्याय के रूप में पुनर्गठित करता है, जहाँ प्रशिक्षण और नमूनाकरण को लियापुनोव स्थिरता सिद्धांतों के तहत एकीकृत किया गया है।
• यह पहला कठोर प्रमाण प्रदान करता है कि लैंग्विन डायनेमिक्स की स्टोकेस्टिक प्रकृति केवल एक ह्यूरिस्टिक नहीं है, बल्कि एक वितरण लियापुनोव प्रमाण (distributional Lyapunov certificate) के अस्तित्व के लिए एक आवश्यक शर्त है; शोर को हटाने से स्थिरता गारंटी नष्ट हो जाती है।
• यह जनरेटिव मॉडल्स में उन्नत नियंत्रण अवधारणाओं को लागू करने का मार्ग खोलता है, विशेष रूप से सुरक्षा-बाधित जनरेशन (जैसे, यह सुनिश्चित करना कि उत्पन्न नमूने असुरक्षित क्षेत्रों से बचें) के लिए कंट्रोल बैरियर फंक्शन्स (CBF) और त्वरित नमूनाकरण के लिए कॉन्ट्रैक्शन मेट्रिक्स।
• लेखक इस कार्य को एक आधारभूत परत के रूप में प्रस्तुत करते हैं जो स्थिर ऊर्जा प्रतिमान को एक स्वायत्त नियंत्रण प्रणाली के रूप में मानकर भविष्य के विस्तार (जैसे, सुरक्षा गारंटी और त्वरित नमूनाकरण) को सक्षम बनाता है।