Gradient-free online learning of subgrid-scale dynamics with neural emulators

कल्पना कीजिए कि आप एक विशाल कंप्यूटर सिमुलेशन का उपयोग करके मौसम या समुद्री धाराओं की भविष्यवाणी करने की कोशिश कर रहे हैं। ये सिमुलेशन पृथ्वी के विशाल डिजिटल मानचित्रों की तरह हैं, लेकिन इनमें एक समस्या है: ये बहुत मोटे (coarse) हैं, जिससे वे बारिश की एक बूंद या एक छोटे भंवर जैसे सूक्ष्म, घूमते हुए विवरणों को नहीं देख पाते। इसे ठीक करने के लिए, वैज्ञानिक "शॉर्टकट" का उपयोग करते हैं जिन्हें पैरामीट्राइज़ेशन (parameterizations) कहा जाता है। इसे एक शेफ के सॉस बनाने के गुप्त नुस्खे की तरह समझें; शेफ जानता है कि सॉस का स्वाद एक निश्चित तरीके का होना चाहिए, इसलिए वह हर एक सामग्री को शुरू से पकाने के बजाय उसमें एक चुटकी यह और एक चुटकी वह मिला देता है। जलवायु मॉडलों में, ये शॉर्टकट उन सूक्ष्म, तेजी से चलने वाले भौतिक विज्ञान (physics) का प्रतिनिधित्व करते जिन्हें कंप्यूटर सीधे नहीं देख पाता।

लंबे समय तक, वैज्ञानिकों ने कंप्यूटर को बेहतर शॉर्टकट बनाने के लिए "उत्तर कुंजी" (कि सूक्ष्म भौतिकी कैसी दिखनी चाहिए) दिखाकर उन्हें सिखाने की कोशिश की। इसे "ऑफलाइन" लर्निंग कहा जाता है। यह एक ड्राइवर को केवल सड़क की तस्वीरें दिखाकर सिखाने जैसा है; जब वह वास्तव में ड्राइविंग सीट पर बैठता है, तो दुर्घटनाग्रस्त हो जाता है क्योंकि उसने यह नहीं सीखा कि चलते समय कार कैसा "महसूस" करती है। बेहतर तरीका "ऑनलाइन" लर्निंग है, जहाँ कंप्यूटर गाड़ी चलाते समय सीखता है, वास्तविक समय में अपने शॉर्टकट को समायोजित करता है कि सिमुलेशन कैसे व्यवहार कर रहा है। हालाँकि, इसमें एक पेंच है: मौसम के लिए उपयोग किया जाने वाला वास्तविक कंप्यूटर कोड पुराने, कठोर धातु से बने एक 'ब्लैक बॉक्स' की तरह बना हुआ है। आप आसानी से इसके अंदर झाँककर यह नहीं देख सकते कि एक छोटा सा बदलाव पूरे सिस्टम को कैसे प्रभावित करता है, जो ऑनलाइन लर्निंग को मानक उपकरणों के साथ असंभव बना देता है।

यह शोध पत्र एक चतुर समाधान पेश करता है: एक "घोस्ट ड्राइवर" या एक न्यूरल एमुलेटर (neural emulator)। लेखकों ने एक अलग, सुचारू और लचीला AI बनाया जो पुराने, कठोर कंप्यूटर कोड के व्यवहार की नकल करता है। यह "घोस्ट ड्राइवर" समझना और इसके अंदर झाँकना आसान है। वे इस घोस्ट का उपयोग शॉर्टकट रेसिपी (पैरामीट्राइज़ेशन) को वास्तविक समय में गाड़ी चलाना सिखाने के लिए करते हैं। एक बार जब रेसिपी को घोस्ट का उपयोग करके सीख लिया जाता है, तो वे इसे वापस असली, कठोर कार में डाल देते हैं। परिणाम एक ऐसा शॉर्टकट है जो लगभग उतना ही अच्छा काम करता है जितना कि उसे वास्तविक कार पर प्रशिक्षित किया गया होता, लेकिन बिना उस कार को तोड़ने की आवश्यकता के।

---

समस्या: ब्लैक बॉक्स और खोई हुई कड़ी

जलवायु वैज्ञानिक हमारे बदलते ग्रह की भविष्यवाणी करने के लिए बेहतर मॉडल बनाने की कोशिश कर रहे हैं। ये मॉडल अनिवार्य रूप से विशाल गणितीय समीकरण हैं जो हवा और पानी के संचलन का अनुकरण करते हैं। लेकिन कंप्यूटर हवा के हर अणु की गणना नहीं कर सकते; उन्हें उन्हें बड़े समूहों में बांटना पड़ता है। इसका मतलब है कि वे उन सूक्ष्म, अराजक भंवरों को मिस कर देते हैं जो समूहों के बीच होते हैं। इन अंतरालों को भरने के लिए, वे सबग्रिड-स्केल (SGS) मॉडल का उपयोग करते हैं—जो मूल रूप से इस बात का अनुमान है कि सूक्ष्म भंवर क्या कर रहे हैं।

पारंपरिक रूप से, वैज्ञानिक इन अनुमानों को एक "ऑफलाइन" दृष्टिकोण का उपयोग करके प्रशिक्षित करते थे। वे एक अत्यंत विस्तृत सिमुलेशन (सत्य/truth) चलाते थे, उसे बड़े टुकड़ों में काटते थे, और फिर एक मशीन लर्निंग मॉडल को उन टुकड़ों के आधार पर गायब भंवरों का अनुमान लगाने के लिए प्रशिक्षित करते थे। यह फुटबॉल के लक्ष्यों की एक 'हाइलाइट रील' देखकर सीखने जैसा है, लेकिन कभी भी मैदान पर दौड़ना नहीं सीखा। हालांकि यह सांख्यिकी के लिए ठीक काम करता है, लेकिन यह अक्सर अस्थिर सिमुलेशन की ओर ले जाता है जो लंबे समय तक चलने पर क्रैश हो जाते हैं या अजीब, अवास्तविक मौसम पैदा करते हैं।

"ऑनलाइन" दृष्टिकोण स्वर्ण मानक (gold standard) है। यहाँ, मशीन लर्निंग मॉडल सिमुलेशन चलते समय सीखता है। वह देखता है कि उसके अपने अनुमान भविष्य के मौसम को कैसे प्रभावित करते हैं और सिमुलेशन को स्थिर रखने के लिए खुद को समायोजित करता है। समस्या क्या है? वास्तविक जलवायु मॉडल के लिए उपयोग किया जाने वाला कंप्यूटर कोड अक्सर पुरानी भाषाओं (जैसे फोर्ट्रान) में लिखा जाता है और इतना जटिल है कि वह एक "नॉन-डिफरेंशिएबल" ब्लैक बॉक्स है। सरल शब्दों में, आप आसानी से यह गणना नहीं कर सकते कि मॉडल की सेटिंग्स में एक छोटा सा बदलाव पूरे सिस्टम को कैसे प्रभावित करेगा। इन लहरों (gradients) को ट्रैक करने की इस क्षमता के बिना, मानक ऑनलाइन लर्निंग असंभव है।

समाधान: "घोस्ट ड्राइवर"

लेखकों, जिनका नेतृत्व ह्यूगो फ्रेज़ेट (Hugo Frezat) ने किया, ने एक रचनात्मक समाधान प्रस्तावित किया: न्यूरल एमुलेशन (neural emulation)। पुराने, कठोर कोड को लचीला बनाने के बजाय, उन्होंने एक नया, लचीला AI "एमुलेटर" बनाया जो पुराने कोड के व्यवहार की नकल करना सीखता है।

असली जलवायु सॉल्वर को एक भारी, पुराने जमाने के स्टीम इंजन की तरह समझें। यह बहुत अच्छा काम करता है, लेकिन आप यह समझने के लिए इसके अंदर के गियर को आसानी से नहीं देख सकते कि इसे कैसे ट्यून किया जाए। लेखकों ने एक "घोस्ट इंजन" बनाया—एक न्यूरल नेटवर्क जो स्टीम इंजन की तरह ही व्यवहार करता है लेकिन चिकने, लचीले प्लास्टिक से बना है। क्योंकि यह घोस्ट इंजन आधुनिक AI टूल्स के साथ बनाया गया है, आप इसके गियर्स को देख सकते हैं और यह गणना कर सकते हैं कि इसे कैसे ट्यून किया जाए।

उन्होंने इसे सफल बनाने के लिए एक दो-चरणीय प्रशिक्षण प्रक्रिया का उपयोग किया:

1. चरण 1: घोस्ट को प्रशिक्षित करना। सबसे पहले, उन्होंने घोस्ट इंजन को असली स्टीम इंजन की नकल करने के लिए सिखाया। उन्होंने इसे असली इंजन से डेटा दिया और घोस्ट को तब तक समायोजित किया जब तक कि वह इंजन की गतिविधियों को पूरी तरह से दोहरा नहीं सका।
2. चरण 2: शॉर्टकट को प्रशिक्षित करना। इसके बाद, उन्होंने शॉर्टकट (SGS मॉडल) को प्रशिक्षित करने के लिए घोस्ट का उपयोग किया। चूंकि घोस्ट लचीला है, वे ऑनलाइन लर्निंग तकनीकों का उपयोग करके शॉर्टकट को घोस्ट इंजन के साथ बातचीत करते समय कैसे व्यवहार करना है, यह सिखा सके।

महत्वपूर्ण रूप से, उन्होंने महसूस किया कि यदि वे घोस्ट और शॉर्टकट दोनों को एक साथ प्रशिक्षित करने की कोशिश करते, तो शॉर्टकट केवल घोस्ट की गलतियों की भरपाई करना सीख जाता। इसे रोकने के लिए, उन्होंने उन्हें अलग-अलग प्रशिक्षित किया। उन्होंने एक विशेष ट्रिक भी पेश की: केवल यह बताने के बजाय कि "मौसम को सही दिखाओ," उन्होंने इसे बताया कि "सूक्ष्म भंवरों को सही दिखाओ।" इसने शॉर्टकट को घोst इंजन की उन गलतियों को गलती से ठीक करने से रोका जिन्हें उसे ठीक नहीं करना चाहिए था।

परिणाम: एक स्थिर सवारी

टीम ने दो अलग-अलग प्रणालियों पर इस पद्धति का परीक्षण किया। पहले, उन्होंने लोरेंज-96 (Lorenz-96) नामक एक सरल, अराजक प्रणाली का उपयोग किया, जो वायुमंडल का एक खिलौना मॉडल है जिसमें तेज़ और धीमी गति वाले हिस्से होते हैं। उन्होंने पाया कि उनकी पद्धति ने एक ऐसा शॉर्टकट बनाया जो "परफेक्ट" ऑनलाइन प्रशिक्षण के लगभग उतना ही अच्छा था, लेकिन बिना मूल कोड को संशोधित किए।

फिर, वे एक अधिक जटिल परीक्षण की ओर बढ़े: एक क्वासी-जियोस्ट्रोफिक सिस्टम (quasi-geostrophic system), जो महासागर और वायुमंडल की घूमती हवाओं और धाराओं का अनुकरण करता है। यह एक अत्यंत कठिन समस्या है क्योंकि सूक्ष्म भंवर या तो चीजों को शांत कर सकते हैं या उन्हें अराजकता में विस्फोट कर सकते हैं।

इन सिमुलेशन में, उन्होंने अपनी नई पद्धति की तुलना पुराने तरीकों से की:

• "ऑफलाइन" मॉडल: इस मॉडल ने एक स्थिर डेटासेट से सीखा। यह जल्दी विफल हो गया, जिससे ऊर्जा अनियled रूप से बढ़ती गई और सिमुलेशन क्रैश हो गया।
• "स्टेट लॉस" मॉडल: इस मॉडल ने समग्र मौसम स्थिति (overall weather state) को देखकर सीखने की कोशिश की। यह अस्थिर था और अजीब उतार-चढ़ाव पैदा कर रहा था।
• "सबग्रिड लॉस" मॉडल (विजेता): इस मॉडल ने, जिसे लेखकों की दो-चरण पद्धति के साथ प्रशिक्षित किया गया था और जो सूक्ष्म भंवरों पर ध्यान केंद्रित करता था, प्रशिक्षण अवधि से 250 गुना अधिक समय तक स्थिर रहा। इसने "परफेक्ट" ऑनलाइन मॉडल के ऊर्जा पैटर्न और स्थिरता को सफलतापूर्वक पुनरुत्पादित किया, भले ही इसने मूल, कठोर कोड के आंतरिक गियर्स को कभी नहीं देखा था।

इसका क्या अर्थ है

यह शोध पत्र सुझाव देता है कि हमें आधुनिक AI का उपयोग करने के लिए दशकों पुराने विशाल जलवायु कोड को फिर से लिखने की आवश्यकता नहीं है। इसके बजाय, हम प्रशिक्षण का भारी काम करने के लिए कोड का एक "घोस्ट" संस्करण बना सकते हैं। यह बहुत अधिक स्थिर और सटीक जलवायु मॉडल को प्रशिक्षित करने का मार्ग खोलता है जो बिना क्रैश हुए वर्षों तक चल सकते हैं।

हालाँकि, लेखक सावधानी बरतते हुए कहते हैं कि यह अभी कोई जादुई छड़ी नहीं है। "घोस्ट" इंजन पूर्ण नहीं है; इसमें छोटी त्रुटियाँ हैं। उनके परीक्षणों में, इन छोटी त्रुटियों के कारण कभी-कभी बड़े पैमाने के मौसम के पैटर्न में मामूली अशुद्धियाँ आईं, हालांकि सूक्ष्म विवरण एकदम सटीक थे। वे सुझाव देते हैं कि भविष्य के कार्य में घोस्ट इंजन को और भी बेहतर बनाने की आवश्यकता है, शायद उन्हें केवल घूमती हुई वोर्टिसिटी (vorticity) के बजाय हवा की गति जैसे विशिष्ट बड़े पैमाने के लक्षणों पर ध्यान केंद्रित करना सिखाकर।

अंततः, यह शोध एक आशाजनक मार्ग प्रदान करता है: अतीत के कठोर, सिद्ध भौतिक विज्ञान और भविष्य के लचीले, शक्तिशाली लर्निंग के बीच के अंतर को पाटने का एक तरीका, और वह भी बिना इंजन को खोले।