🔬 physics

Stochastic and Non-local Closure Modeling for Nonlinear Dynamical Systems via Latent Score-based Generative Models

यह शोध पत्र एक लेटेंट स्कोर-आधारित जनरेटिव एआई फ्रेमवर्क प्रस्तावित करता है जो नॉनलीनर डायनेमिकल सिस्टम्स के लिए स्टोकेस्टिक, नॉन-लोकल क्लोजर लॉज़ को कुशलतापूर्वक सीखने के लिए कंडीशनल डिफ्यूजन मॉडल्स के साथ कन्वोल्यूशनल ऑटोएनकोडर्स को संयुक्त रूप से प्रशिक्षित करता है, जिससे मानक फिजिकल-स्पेस डिफ्यूजन मॉडल्स के तुलनीय प्रेडिक्टिव सटीकता बनाए रखते हुए महत्वपूर्ण कम्प्यूटेशनल त्वरण प्राप्त होता है।

मूल लेखक: Xinghao Dong, Huchen Yang, Jin-Long Wu

प्रकाशित 2026-06-30

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xinghao Dong, Huchen Yang, Jin-Long Wu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ इस शोध पत्र (paper) का सरल भाषा और रचनात्मक उपमाओं (analogies) के साथ विवरण दिया गया है।

बड़ी समस्या: "बहुत अधिक विवरण" का जाल

कल्पive करें कि आप एक पूरे शहर के लिए मौसम की भविष्यवाणी करने की कोशिश कर रहे हैं। इसे पूरी तरह से करने के लिए, आपको हवा के हर एक अणु, पानी की हर एक बूंद और हवा के हर एक झोंके को ट्रैक करना होगा। भौतिकी (physics) और इंजीनियरिंग की दुनिया में, इसे "सभी पैमानों को हल करना" (resolving all scales) कहा जाता है।

समस्या यह है कि कंप्यूटर के लिए यह असंभव है। यह समुद्र के ज्वार की भविष्यवाणी करने के लिए समुद्र तट पर रेत के हर एक कण को गिनने की कोशिश करने जैसा है; सुपरकंप्यूटर को केवल गणना पूरी करने में ही लाखों साल लग जाएंगे।

इसे हल करने के लिए, वैज्ञानिक "क्लोजर मॉडल" (closure models) का उपयोग करते हैं। क्लोजर मॉडल को एक शॉर्टकट के रूप में सोचें। रेत के हर एक कण को ट्रैक करने के बजाय, आप बस बड़ी लहरों को ट्रैक करते हैं और एक सामान्य नियम (rule of thumb) का उपयोग करके यह अनुमान लगाते हैं कि छोटी लहरें क्या कर रही हैं।

पुराना तरीका बनाम नई समस्या

लंबे समय तक, ये शॉर्टकट डिटरमिनिस्टिक (deterministic - जो हमेशा एक ही सटीक उत्तर देते थे) और लोकल (local - जो केवल अपने आस-पास की चीज़ों को देखते थे) थे।

खामी: वास्तविक दुनिया की प्रणालियाँ (जैसे अशांत पानी या हवा) बहुत अव्यवस्थित होती हैं। वे यादृच्छिकता (randomness) और लंबी दूरी के कनेक्शनों से भरी होती हैं (यहाँ एक लहर यहाँ होने वाली हलचल से मीलों दूर एक लहर को प्रभावित कर सकती है)। पुराने शॉर्टकट बहुत कठोर थे। वे सिस्टम की "अराजकता" (chaos) या "लंबी दूरी की गपशप" (long-range gossip) को नहीं पकड़ सके।

हाल ही में, वैज्ञानिकों ने इसे ठीक करने के लिए AI का उपयोग करना शुरू किया। विशेष रूप रूप से, उन्होंने डिफ्यूजन मॉडल (Diffusion Model) नामक AI का उपयोग किया।

उपमा: एक धुंधली फोटो की कल्पना करें जो धीरे-धीरे स्पष्ट होती जाती है। एक डिफ्यूजन मॉडल इसके विपरीत काम करता है: यह शुद्ध शोर (static/noise) से शुरू होता है और धीरे-धीरे इसे "डी-नॉइज़" (denoise) करता है जब तक कि यह गायब भौतिकी (missing physics) की एक वास्तविक तस्वीर प्रकट न कर दे। यह बेहतरीन है क्योंकि यह यादृच्छिकता और लंबी दूरी के प्रभावों को पूरी तरह से पकड़ लेता है।

लेकिन एक पेंच है: यह AI अविश्वसनीय रूप से धीमा है। इसे शोर से तस्वीर बनाने के लिए हजारों छोटे कदम उठाने पड़ते हैं। यदि आप इस AI का उपयोग स्टेप-बाय-स्टेप मौसम सिमुलेशन को ठीक करने के लिए करते हैं, तो आपका कंप्यूटर फ्रीज हो जाएगा। यह फिल्म के हर एक फ्रेम के लिए हाथ से मास्टरपीस पेंट करने की कोशिश करने जैसा है; फिल्म कभी पूरी ही नहीं होगी।

समाधान: "लेटेंट स्पेस" (Latent Space) शॉर्टकट

इस पेपर के लेखकों ने AI को तेज़ और सटीक बनाने के लिए एक चतुर दो-चरणीय समाधान प्रस्तावित किया।

1. संपीड़न (द ऑटोएनकोडर - The Autoencoder)

सबसे पहले, उन्होंने एक "कंप्रेसर" बनाया (एक ऑटोएनकोडर)।

उपमा: कल्पना करें कि आपके पास एक विशाल, हाई-डेफिनिशन 4K मूवी फ़ाइल है। यह बहुत बड़ी है और इसे भेजना कठिन है। आप इसे एक छोटे, लो-रेज़ोल्यूशन थंबनेल में कंप्रेस कर देते हैं।
पेपर में: वे जटिल, हाई-रेज़ोल्यूशन भौतिकी डेटा को एक छोटे, कम-आयामी "लेटेंट स्पेस" (एक संक्षिप्त सारांश) में सिकोड़ देते हैं। AI को उस विशाल 4K फ़ाइल पर काम करने की आवश्यकता नहीं है; वह केवल उस छोटे थंबनेल पर काम करता है।

2. जनरेटर (द डिफ्यूजन मॉडल - The Generator)

इसके बाद, उन्होंने डिफ्यूजन मॉडल को केवल इन छोटे थंबनेल्स पर काम करने के लिए प्रशिक्षित किया।

उपमा: पूरी 4K मूवी को फ्रेम-दर-फ्रेम पेंट करने के बजाय, AI केवल छोटे थंबनेल को पेंट करता है। एक बार जब थंबनेल परफेक्ट हो जाता है, तो वे इसे वापस बड़े 4K मूवी में "अनकंप्रेस" (uncompress) कर देते हैं।
परिणाम: क्योंकि AI एक छोटे थंबनेल पर काम कर रहा है, यह पूरी मूवी पर काम करने की तुलना में 10 गुना तेज़ है, फिर भी यह उच्च गुणवत्ता वाला परिणाम देता है।

असली सफलता: "जॉइंट ट्रेनिंग" (Joint Training)

यहीं पर यह पेपर अपनी सबसे बड़ी सफलता हासिल करता है।

आमतौर पर, वैज्ञानिक इसे दो अलग-अलग चरणों में करते हैं:

चरण A: कंप्रेसर को सबसे अच्छा थंबनेल बनाने के लिए प्रशिक्षित करना।
चरण B: उस कंप्रेसर के आधार पर थंबनेल बनाने के लिए AI को प्रशिक्षित करना।

समस्या: स्पेस बचाने के लिए सबसे अच्छा थंबनेल हमेशा नई इमेज जेनरेट करने के लिए सबसे अच्छा थंबनेल नहीं होता है। यह एक ऐसी फोटो लेने जैसा है जो बिलबोर्ड पर छपने के लिए तो शानदार दिखती है, लेकिन जब आप इसे पहेली (puzzle) के टुकड़े के रूप में उपयोग करने की कोशिश करते हैं, तो उसके किनारे AI की ज़रूरतों के साथ फिट नहीं बैठते। AI नियमों को सीखने में संघर्ष करता है क्योंकि "थंबनेल" बहुत अजीब आकार का होता है।

नवाचार: लेखकों ने कंप्रेसर और AI को एक साथ (Joint Training) प्रशिक्षित किया।

उपमा: फोटोग्राफर और पेंटर के अलग-अलग कमरों में काम करने के बजाय, वे एक ही मेज पर बैठते हैं। फोटोग्राफर ऐसे फोटो लेने के लिए सीखता है जो विशेष रूप से पेंटर के काम करने के लिए आसान हों, जबकि पेंटर उन विशिष्ट फोटो को पेंट करना सीखता है।
परिणाम: "थंबनेल" (लेटेंट स्पेस) अब संपीड़न (compression) और जेनरेशन (generation) दोनों के लिए पूरी तरह से ट्यून किया गया है। AI नियमों को बहुत तेज़ी से सीखता है और कम गलतियाँ करता है।

परिणाम: बिना त्याग के गति

टीम ने परीक्षण के लिए घूमते हुए तरल पदार्थ (turbulence) के सिमुलेशन का उपयोग किया।

सटीकता: नए तरीके ने मूल बड़े आकार वाले AI के समान ही सटीक परिणाम दिए। इसने यादृच्छिकता और बड़े-चित्र के पैटर्न को पूरी तरह से पकड़ा।
गति: "कंप्रेस्ड" स्पेस में काम करने के कारण, उन्हें 10 गुना गति (speedup) मिली।
अनिश्चितता (Uncertainty): महत्वपूर्ण बात यह है कि मॉडल ने केवल एक उत्तर नहीं दिया; इसने संभावित उत्तरों की एक श्रृंखला (ensemble) दी। यह वैज्ञानिकों को यह कहने की अनुमति देता है कि, "90% संभावना है कि तूफान इस दिशा में जाएगा," जो सुरक्षा और योजना के लिए अत्यंत महत्वपूर्ण है।

सारांश

यह पेपर जटिल, अराजक प्रणालियों (जैसे टर्बुलेंस) को मॉडल करने का एक नया तरीका पेश करता है:

डेटा को एक छोटे सारांश में कंप्रेस करना।
उस सारांश के भीतर गायब भौतिकी को उत्पन्न करने के लिए डिफ्यूजन AI का उपयोग करना।
कंप्रेसर और AI को एक साथ प्रशिक्षित करना ताकि वे पूर्ण सामंजस्य में काम कर सकें।

यह वैज्ञानिकों को जटिल, अराजक वास्तविक दुनिया की घटनाओं को समझने के लिए आवश्यक सटीकता खोए बिना, 10 गुना तेज़ सिमुलेशन चलाने की अनुमति देता है।

तकनीकी सारांश: लेटेंट स्कोर-आधारित जनरेटिव मॉडल के माध्यम से स्टोकेस्टिक और नॉन-लोकल क्लोजर मॉडलिंग

समस्या विवरण
कंप्यूटेशनल मैकेनिक्स अक्सर जटिल नॉनलीन डायनेमिकल सिस्टम्स (जैसे कि टर्बुलेंट फ्लो) से निपटता है, जहाँ सभी प्रासंगिक स्केल्स को स्पष्ट रूप से हल करना कम्प्यूटेशनल रूप से अत्यधिक खर्चीला होता है। क्लासिकल क्लोजर मॉडलिंग दृष्टिकोण (जैसे RANS, LES) सबग्रिड-स्केल घटनाओं का अनुमान लगाने के लिए नियत (deterministic) और लोकल धारणाओं पर निर्भर करते हैं। हालाँकि, ये धारणाएँ अक्सर उन सिस्टम्स के लिए बहुत सीमित होती हैं जिनमें स्पष्ट स्केल सेपरेशन की कमी होती है, जिससे वे अनिश्चितताओं, रिजीम ट्रांज़िशन और नॉन-लोकल स्पेशियल कोरिलेशन को पकड़ने में विफल रहते हैं। जबकि हालिया जनरेटिव AI प्रगति, विशेष रूप से डिफ्यूजन मॉडल्स, क्लोजर टर्म्स को रैंडम ऑब्जेक्ट्स के रूप में मानकर स्टोकेस्टिक और नॉन-लोकल क्लोजर मॉडलिंग के लिए एक आशाजनक ढांचा प्रदान करती है, लेकिन उनकी व्यावहारिक अनुप्रयोग क्षमता अत्यधिक कम्प्यूटेशनल इन्फरेंस लागतों द्वारा सीमित है। मानक डिफ्यूजन मॉडल्स को प्रत्येक टाइम स्टेप पर सैकड़ों से हजारों नेटवर्क इवैल्यूएशन की आवश्यकता होती है, जो उन्हें संख्यात्मक सिमुलेशन (numerical simulations) में एकीकरण के लिए अव्यावहारिक बनाता है जहाँ क्लोजर टर्म्स को हर स्टेप पर इवैल्यूएट किया जाना चाहिए।

कार्यप्रणाली (Methodology)
लेखक कम्प्यूटेशनल दक्षता और जनरेटिव सटीकता के बीच के संतुलन को संबोधित करने के लिए एक लेटेंट कंडिशनल डिफ्यूजन मॉडल (L-CDM) फ्रेमवर्क प्रस्तावित करते हैं। यह कार्यप्रणाली तीन मुख्य घटकों से बनी है:

लेटेंट स्पेस फॉर्मूलेशन: यह फ्रेमवर्क उच्च-आयामी भौतिक क्षेत्रों (सिस्टम स्टेट $V$ और क्लोजर टर्म $U$ ) को निम्न-आयामी लेटेंट रिप्रेजेंटेशन ( $z_V$ और $z_U$ ) में संकुचित करने के लिए कन्वोल्यूशनल ऑटोएनकोडर्स का उपयोग करता है। यह डाइमेंशनलिटी रिडक्शन रिवर्स सैंपलिंग प्रक्रिया की कम्प्यूटेशनल लागत को कम करने के लिए महत्वपूर्ण है।
नॉन-लोकल मॉडलिंग: जटिल सिस्टम्स में निहित लॉन्ग-रेंज स्पेशियल डिपेंडेंसीज को कैप्चर करने के लिए, लेटेंट स्पेस के भीतर स्कोर फंक्शन $s_\theta$ को एक फूरियर न्यूरल ऑपरेटर (FNO) का उपयोग करके बनाया गया है। FNO फूरियर डोमेन में लर्नड कन्वोल्यूशन करता है, जो ग्लोबल रिसेप्टिव फील्ड सुनिश्चित करता है। इसके अतिरिक्त, ऑटोएनकोडर आर्किटेक्चर गहरे पदानुक्रमित (hierarchical) लेयर्स और स्पष्ट सेल्फ-अटेंशन मॉड्यूल्स को शामिल करता है ताकि नॉन-लोकल इंटरैक्शन को और अधिक मॉडल किया जा सके।
जॉइंट ट्रेनिंग स्ट्रैटेजी: एक प्रमुख पद्धतिगत नवाचार पारंपरिक दो-चरण वाली ट्रेनिंग पाइपलाइन (ऑटोएनकोडर्स और डिफ्यूजन मॉडल्स को अलग-अलग प्रशिक्षित करना) से एंड-टू-एंड जॉइंट ऑप्टिमाइजेशन योजना की ओर बदलाव है।
- पारंपरिक दृष्टिकोण: ऑटोएनकोडर्स को केवल रिकंस्ट्रक्शन एरर को कम करने के लिए प्रशिक्षित किया जाता है, जिसके परिणामस्वरूप अक्सर एक ऐसा लेटेंट स्पेस बनता है जिसे डिफ्यूजन मॉडल्स के लिए प्रभावी ढंग से सैंपल करना कठिन होता है।
- प्रस्तावित दृष्टिकोण: ऑटोएनकोडर और लेटेंट डिफ्यूजन मॉडल को एक कंपोजिट लॉस फंक्शन का उपयोग करके एक साथ प्रशिक्षित किया जाता है: $L_{joint} = L_{AE} + \lambda_{score} L_{score} + \lambda_{KL} L_{KL}$ $L_{j o in t} = L_{A E} + λ_{scor e} L_{scor e} + λ_{K L} L_{K L}$ ।
  - $L_{AE}$ भौतिक क्षेत्रों के निष्ठावान पुनर्निर्माण (faithful reconstruction) को सुनिश्चित करता है।
  - $L_{score}$ डिफ्यूजन मॉडल को कंडिशनल डिस्ट्रीब्यूशन $p(z_U | z_V)$ से मेल खाने के लिए प्रशिक्षित करता है।
  - $L_{KL}$ (कुलबैक-लीब्लर डाइवर्जेंस) एक रेगुलराइज़र के रूप में कार्य करता है ताकि लेटेंट स्पेस कोलैप्स को रोका जा सके, यह सुनिश्चित करते हुए कि लेटेंट डिस्ट्रीब्यूशन पर्याप्त रूप से स्टोकेस्टिक और नॉन-डेजेनरेट बना रहे।

सैंपलिंग प्रक्रिया रिवर्स डिफ्यूजन प्रक्रिया को तेज करने के लिए एक एडेप्टिव टाइम-स्टेपिंग स्कीम (यूलर-मैरूम-युलर इंटीग्रेशन) का उपयोग करती है।

प्रमुख योगदान

लेटेंट डिफ्यूजन फ्रेमवर्क: यह पेपर एक स्टोकेस्टिक क्लोजर मॉडलिंग फ्रेमवर्क पेश करता है जो उच्च-आयामी क्षेत्रों को एक लेटेंट मैनिफोल्ड में मैप करता है, और वहां कंडिशनल लैंगविन सैंपलिंग करता है ताकि फिजिकल-स्पेस डिफ्यूजन मॉडल्स की तुलना में ऑर्डर्स-ऑफ-मैग्निट्यूड तेज़ इन्फरेंस प्राप्त किया जा सके।
जॉइंट ऑप्टिमाइजेशन: लेखक प्रदर्शित करते हैं कि मानक दो-चरण वाली ट्रेनिंग पाइपलाइन क्लोजर-टर्म जनरेशन की सटीकता से समझौता करती है। वे एक जॉइंट ट्रेनिंग योजना का प्रस्ताव करते हैं जो रिकंस्ट्रक्शन और स्कोर-मैचिंग उद्देश्यों को सामंजस्यपूर्ण बनाती है, जिससे लेटेंट-स्पेस सैंपलिंग की दक्षता बनाए रखते हुए जनरेटिव सटीकता में उल्लेखनीय सुधार होता है।
नॉन-लोकल स्टोकेस्टिक मॉडलिंग: लेटेंट डिफ्यूजन आर्किटेक्चर के भीतर FNOs और अटेंशन मैकेनिज्म को एकीकृत करके, यह फ्रेमवर्क उन नॉन-लोकल स्पेशियल डिपेंडेंसीज और स्टोकेस्टिक व्यवहारों को प्रभावी ढंग से कैप्चर करता है जिन्हें डिटर्मिनिस्टिक लोकल मॉडल्स मिस कर देते हैं।

संख्यात्मक परिणाम (Numerical Results)
इस फ्रेमवर्क का मूल्यांकन दो-आयामी कोलमोगोरोव फ्लो (Kolmogorov flow) पर किया गया जो स्टोकेस्टिक नेवियर-स्टोक्स समीकरणों द्वारा नियंत्रित है, जहाँ लक्ष्य अज्ञात स्टोकेस्टिक नॉनलीन कन्वेक्शन टर्म को मॉडल करना था।

सटीकता बनाम दक्षता (Accuracy vs. Efficiency):
- फिजिकल-स्पेस बेसलाइन (P-CDM): इसने उच्च सटीकता प्राप्त की लेकिन 1,000 सैंपल जेनरेट करने के लिए ~2.64 सेकंड की आवश्यकता हुई।
- टू-फेज लेटेंट मॉडल: इसने 5.5× की स्पीडअप (~0.48 सेकंड) प्राप्त की लेकिन फिजिकल-स्पेस बेसलाइन की तुलना में महत्वपूर्ण सटीकता गिरावट (उच्च MSE और रिलेटिव फ्रोबिनियस नॉर्म एरर) का सामना किया।
- जॉइंटली ट्रेंड लेटेंट मॉडल (Joint L-CDM): इसने फिजिकल-स्पेस बेसलाइन के तुलनीय प्रेडिक्टिव सटीकता बनाए रखते हुए ~~5.4× की स्पीडअप (~~0.49 सेकंड) प्राप्त की। जॉइंट ट्रेनिंग ने टू-फेज दृष्टिकोण में देखे गए डिस्ट्रीब्यूशनल डाइवर्जेंस को ठीक किया।
एन्सेम्बल सिमुलेशन: 20-सेकंड के सिमुलेशन के लिए न्यूमेरिकल सॉल्वर्स में एकीकृत होने पर, जॉइंट L-CDM ने P-CDM की तुलना में ~10× कम्प्यूटेशनल एक्सेलेरेशन (~1,236s बनाम 8,652s) के साथ एन्सेम्बल जनरेशन को सक्षम किया, जबकि एन्सेम्बल सिमुलेशन के लिए रिलेटिव एरर को 10% से नीचे बनाए रखा।
अनिश्चितता परिमाणीकरण (Uncertainty Quantification): मॉडल ने न केवल औसत रेज्ड डायनेमिक्स को बल्कि क्लोजर टर्म के स्थानिक संरचना और परिमाण (मानक विचलन) को भी सफलतापूर्वक पुनरुत्पादित किया, जिसने डिटर्मिनिस्टिक अप्रोच और टू-फेज लेटेंट मॉडल की तुलना में फिजिकल वेरिएंस को कैप्चर करने में बेहतर प्रदर्शन किया।
स्पेक्ट्रल विश्लेषण: एनर्जी स्पेक्ट्रम विश्लेषण ने दिखाया कि जॉइंट L-CDM $10^2$ के वेवनंबर तक ग्राउंड ट्रुथ के करीब रहा, जिससे 2D टर्बुलेंस की विशेषता वाले फॉरवर्ड एनस्ट्रोफी कैस्केड को सुरक्षित रखा गया।

महत्व और दावे
पेपर का दावा है कि यह कार्य जनरेटिव AI की रिप्रजेंटेशनल एक्सप्रेसिवनेस और व्यावहारिक वैज्ञानिक कंप्यूटिंग के लिए आवश्यक कम्प्यूटेशनल व्यवहार्यता के बीच के अंतर को पाटता है। लेटेंट रिप्रेजेंटेशन और जनरेटिव मॉडल को जॉइंटली ऑप्टिमाइज़ करके, लेखक प्रदर्शित करते हैं कि प्रेडिक्टिव सटीकता से समझौता किए बिना स्टोकेस्टिक क्लोजर मॉडलिंग में ऑर्डर्स-ऑफ-मैग्निट्यूड कम्प्यूटेशनल एक्सेलेरेशन प्राप्त करना संभव है। यह जटिल डायनेमिकल सिस्टम्स के लिए बड़े पैमाने पर एन्सेम्बल-आधारित अनिश्चितता परिमाणीकरण को व्यावहारिक बनाता है, जो पहले अत्यधिक खर्चीला था। लेखक नोट करते हैं कि हालांकि यह फ्रेमवर्क आर्किटेटेक्चरल रूप से 3D सिस्टम्स के लिए विस्तार योग्य है, प्राथमिक चुनौती उच्च-फिडेलिटी 3D डेटा की कम्प्यूटेशनल लागत बनी हुई है, जो लेटेंट-स्पेस दृष्टिकोण की आवश्यकता को और अधिक रेखांकित करती है। वे यह भी स्वीकार करते हैं कि आउट-ऑफ-डिस्ट्रीब्यूशन डेटा (जैसे चरम घटनाएं) के प्रति संवेदनशीलता भविष्य के अनुसंधान का एक क्षेत्र है।