Multi-stage neural operator learning with application for convolutions
यह शोध पत्र दो मल्टी-स्टेज न्यूरल ऑपरेटर लर्निंग फ्रेमवर्क, डीप कोलैकेशन न्यूरल ऑपरेटर (DCNO) और डीप गैलेरकिन न्यूरल ऑपरेटर (DGNO) को प्रस्तुत करता है, जो कॉन्वोल्यूशन इंटीग्रल्स और संबंधित मल्टी-इनपुट समस्याओं को हल करने में मशीन-प्रिसिजन सटीकता और उत्कृष्ट दक्षता प्राप्त करने के लिए क्रमशः सुपरवाइज्ड और अनसुपरवाइज्ड ट्रेनिंग के माध्यम से ऑपरेटर एप्रोक्सिमेशन्स को पुनरावृत्ति से परिष्कृत करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक विज्ञान और इंजीनियरिंग के विशाल परिदृश्य में, कई समस्याएँ इस बात को समझने तक सिमट जाती हैं कि एक चीज़ दूसरे को एक दूरी के पार कैसे प्रभावित करती है। कल्पना कीजिए कि लोगों की एक भीड़ है जहाँ प्रत्येक व्यक्ति दूसरे सभी लोगों पर एक सूक्ष्म खिंचाव या धक्का डालता है, जिससे अंतःक्रियाओं का एक जटिल जाल बन जाता है। भौतिकी में, यह तारों के बीच गुरुत्वाकर्षण खिंचाव, कणों के बीच विद्युत आवेश, या किसी माध्यम के माध्यम से संकेत के लहर की तरह हो सकता है। वैज्ञानिक इसे "कन्वोल्यूशन" (convolution) कहते हैं, जो एक गणितीय प्रक्रिया है जो इन दूरस्थ प्रभावों को जोड़कर अंतिम परिणाम का अनुमान लगाती है, जैसे कि गुरुत्वाकर्षण क्षेत्र का आकार या विद्युत क्षमता की शक्ति। दशकों तक, इन अंतःक्रियाओं की गणना करना एक भारी कम्प्यूटेशनल बोझ रहा है। पारंपरिक तरीके विशिष्ट बिंदुओं के लिए समस्या को हल कर सकते हैं, लेकिन जब नए परिदृश्यों या अंतरिक्ष में बिखरे हुए बिंदुओं के लिए उत्तर देने के लिए कहा जाता है, तो वे संघर्ष करते हैं। वे एक ऐसे मानचित्रकार की तरह हैं जो केवल एक निश्चित ग्रिड पर सड़कें बना सकता है; यदि आप उनसे रेखाओं के बीच के किसी स्थान के बारे में पूछते हैं, तो उन्हें अनुमान लगाना पड़ता है, जिससे अक्सर सटीकता खो जाती है।
शोधकर्ताओं ने हाल ही में इसे हल करने के लिए आर्टिफिशियल इंटेलिजेंस की ओर रुख किया है, जिसमें कंप्यूटर प्रोग्रामों को इन अंतःक्रियाओं के नियमों को सीधे सीखने के लिए प्रशिक्षित किया गया है। हालाँकि, मानक AI दृष्टिकोण अक्सर सटीकता की एक दीवार से टकरा जाते हैं, जो अच्छे परिणाम तो देते हैं लेकिन सबसे कठिन वैज्ञानिक कार्यों के लिए पर्याप्त सटीक नहीं होते। वे एक ऐसे छात्र की तरह हैं जो एक अवधारणा को जल्दी सीख लेता है लेकिन छोटी, निरंतर गलतियाँ करता है जो जुड़कर बड़ी हो जाती हैं। चीन के संस्थानों के वैज्ञानिकों की एक टीम ने अब इन मशीनों को सिखाने का एक नया तरीका विकसित किया है, जिससे वे उस स्तर की सटीकता तक पहुँच सकते हैं जो पहले पहुँच से बाहर थी। उनका कार्य दो अलग-अलग शिक्षण रणनीतियों को पेश करता है जो एक कुशल शिल्पकार द्वारा मूर्ति को तराशने की तरह काम करती हैं: वे एक खुरदरे आकार से शुरू करते हैं और फिर चरण दर चरण, बारीकी से, खामियों को दूर करते हैं जब तक कि परिणाम लगभग पूर्ण न हो जाए।
ज़िपिंग माओ और सहयोगियों के नेतृत्व में शोधकर्ताओं ने न्यूरल नेटवर्क को इन लंबी दूरी की अंतःक्रियाओं को संभालने के लिए सिखाने की विशिष्ट चुनौती पर ध्यान केंद्रित किया। उन्होंने महसूस किया कि पूरी समाधान को एक बार में सीखने की कोशिश करना ही मुख्य बाधा थी। इसके बजाय, उन्होंने एक बहु-चरणीय दृष्टिकोण प्रस्तावित किया जहाँ कंप्यूटर पहले मुख्य पैटर्न सीखता है, और फिर, बाद के दौरों में, वह केवल उन गलतियों या "अवशेषों" (residuals) को सीखता है जो पिछले प्रयास के पीछे रह गए थे। इसे एक ऐसे चित्रकार के रूप में सोचें जो पहले परिदृश्य की व्यापक रूपरेखा खींचता है, फिर विवरणों को चित्रित करता है, और अंत में उन सूक्ष्म हाइलाइट्स और छायाओं को जोड़ता है जो चित्र में जान डाल देती हैं। इन प्रगतिशील चरणों में कार्य को विभाजित करके, कंप्यूटर भौतिकी से जुड़ी अंतःक्रियाओं की अधिक समृद्ध और सटीक समझ विकसित करता है।
उन्होंने विभिन्न प्रकार की समस्याओं के अनुकूल होने के लिए इस पद्धति के दो संस्करण विकसित किए। पहला, जिसे वे 'डीप कोलोकेशन न्यूरल ऑपरेटर' (Deep Colocation Neural Operator) कहते हैं, एक पर्यवेक्षित (supervised) दृष्टिकोण है। यह एक पाठ्यपुस्तक और उत्तर कुंजी वाले छात्र की तरह काम करता है। कंप्यूटर को इनपुट और उनके सही आउटपुट के जोड़े दिए जाते हैं, जिन्हें पारंपरिक, धीमे सॉल्वर द्वारा उत्पन्न किया गया होता है। यह उत्तर की भविष्यवाणी करना सीखता है, अपने काम की जाँच सही उत्तर के विरुद्ध करता है, और फिर अपनी विशिष्ट गलतियों को ठीक करने के लिए एक नया, विशेष नेटवर्क प्रशिक्षित करता है। यह चक्र दोहराया जाता है, जहाँ प्रत्येक नया नेटवर्क पिछले वाले की गलतियों पर ध्यान केंद्रित करता है, जब तक कि कुल त्रुटि नगण्य न हो जाए। दूसरा तरीका, जिसे 'डीप गैलर्किन न्यूरल ऑपरेटर' (Deep Galerkin Neural Operator) कहा जाता है, उन स्थितियों के लिए डिज़ाइन किया गया है जहाँ अंतर्निहित भौतिकी को विशिष्ट समीकरणों द्वारा वर्णित किया जा सकता है, लेकिन प्रशिक्षण के लिए सही उत्तर प्राप्त करना बहुत महंगा है। यह संस्करण अनसुपरवाइज्ड (unsupervised) है; इसे उत्तर कुंजी की आवश्यकता नहीं होती है। इसके बजाय, यह इस बात की जाँच करके सीखता है कि क्या इसके पूर्वानुमान भौतिकी के उन मूलभूत नियमों को संतुष्ट करते हैं जो उन समीकरणों में निहित हैं। यह लगातार अपने आंतरिक तर्क को समायोजित करता है ताकि यह सुनिश्चित हो सके कि नियमों का पालन किया गया है, और अपने समाधान को तब तक परिष्कृत करता है जब तक कि यह भौतिक वास्तविकता के साथ पूरी तरह से मेल न खा जाए, भले ही इसने कभी भी एक भी पूर्व-गणना किए गए उदाहरण को न देखा हो।
इन विचारों का परीक्षण करने के लिए, टीम ने गुरुत्वाकर्षण और विद्युत क्षमताओं की गणना सहित विभिन्न वास्तविक परिदृश्यों पर इन्हें लागू किया। द्वि-आयामी गुरुत्वाकर्षण क्षेत्र से जुड़े एक प्रयोग में, उन्होंने पाया कि उनकी बहु-चरणीय पद्धति त्रुटियों को इतने कम स्तर तक कम कर सकती है कि वे कंप्यूटर की अपनी सटीकता की सीमा से अलग पहचानना लगभग असंभव है। सिंगल-प्रिसिजन अंकगणित में, जो कई उच्च-गति गणनाओं के लिए मानक है, त्रुटि एक प्रतिशत के बहुत छोटे अंश तक गिर गई, जो प्रभावी रूप से मशीन की सीमा तक पहुँच गई। यह मानक तरीकों की तुलना में एक नाटकीय सुधार था, जो अक्सर बहुत उच्च त्रुटि दरों पर रुक जाते हैं। शोधकर्ताओं ने इस प्रणाली का परीक्षण उन समस्याओं पर भी किया जहाँ अंतःक्रिया के नियम जटिल थे और उन्हें वर्णित करने के लिए कोई सरल समीकरण नहीं था, जिससे सिद्ध हुआ कि सुपरवाइज्ड संस्करण इन कठिन मामलों को भी उतनी ही उच्च सटीकता के साथ संभाल सकता है।
इस दृष्टिकोण के लाभ केवल इसकी सटीकता तक ही सीमित नहीं हैं। प्रशिक्षण पूरा होने के बाद, नया सिस्टम अंतरिक्ष के किसी भी बिंदु के लिए लगभग तुरंत परिणाम की भविष्यवाणी कर सकता है, बिना पूरे ग्रिड को पुनर्गणना किए। एक पारंपरिक, अत्यधिक अनुकूलित सॉल्वर के साथ प्रत्यक्ष तुलना में, नया तरीका बड़ी संख्या में विभिन्न परिदृश्यों के लिए परिणामों का मूल्यांकन करते समय हजारों गुना तेज़ था। हालाँकि प्रारंभिक प्रशिक्षण में कुछ समय लगा, लेकिन इसका लाभ इसके अनुप्रयोग की गति में था। उन वैज्ञानिकों के लिए जिन्हें हजारों सिमुलेशन चलाने या यह देखने की आवश्यकता है कि पैरामीटर बदलने पर एक प्रणाली कैसे बदलती है, यह गति परिवर्तनकारी है। यह एक ऐसी प्रक्रिया को जो घंटों या दिनों का समय ले सकती है, सेकंडों में बदल देता है, जिससे उन जटिल प्रणालियों की खोज का द्वार खुल जाता है जिनका अध्ययन विस्तार से करना पहले बहुत महंगा था।
शोधकर्ताओं ने यह भी प्रदर्शित किया कि उनके तरीके उन अधिक जटिल स्थितियों को भी संभाल सकते हैं जहाँ एक साथ कई कारक बदलते हैं। एक परीक्षण में, उन्होंने सिस्टम को यह समझने के लिए प्रशिक्षित किया कि जब सामग्री का घनत्व और अंतःक्रिया कर्नेल (interaction kernel) की प्रकृति दोनों एक साथ बदलते हैं, तो परिणाम कैसे बदलता है। सिस्टम ने इन बदलते होते हालातों के बीच सामान्यीकरण (generalize) करना सफलतापूर्वक सीखा, जिससे इसकी उच्च सटीकता बनी रही। यह सुझाव देता है कि यह दृष्टिकोण मजबूत और लचीला है और इसे क्वांटम कणों के व्यवहार के मॉडलिंग से लेकर तरल पदार्थों के प्रवाह के अनुकरण तक, वैज्ञानिक समस्याओं की एक विस्तृत श्रृंखला पर लागू किया जा सकता है।
यह कार्य वैज्ञानिक कंप्यूटिंग के क्षेत्र में एक महत्वपूर्ण प्रगति का प्रतिनिधित्व करता है, जो यह दिखाता है कि आर्टिफिशियल इंटेलिजेंस को पारंपरिक गणितीय विधियों के स्तर की कठोरता के साथ प्रदर्शन करने के लिए प्रेरित किया जा सकता है। "वन-शॉट" लर्निंग शैली से दूर हटकर, जो इस क्षेत्र में हावी रही है, और निरंतर परिशोधन की प्रक्रिया को अपनाकर, शोधकर्ताओं ने दिखाया है कि मशीनें जटिल भौतिक समस्याओं को लगभग पूर्ण सटीकता के साथ हल करना सीख सकती हैं। निष्कर्ष बताते हैं कि वैज्ञानिक सिमुलेशन का भविष्य केवल तेज़ हार्डवेयर में नहीं है, बल्कि कंप्यूटर को सीखने के स्मार्ट तरीकों में है, जिससे वे ज्ञान को परत दर परत बनाने में सक्षम हो सकें जब तक कि चित्र पूर्ण न हो जाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।