Single- to multi-fidelity history-dependent learning with uncertainty quantification and disentanglement: application to data-driven constitutive modeling

कल्पना कीजिए कि आप एक रोबोट को यह सिखाने की कोशिश कर रहे हैं कि धातु का एक टुकड़ा खींचने पर कैसे मुड़ेगा, खिंचेगा या टूट जाएगा। यह केवल एक साधारण "ज़ोर से खींचो, टूट जाएगा" वाला नियम नहीं है; धातु को याद रहता है कि आपने पहले उसे कितनी बार खींचा है। उसका इतिहास यह तय करता है कि वह अगली बार कैसे प्रतिक्रिया देगी। यह कॉन्सिट्यूटिव मॉडलिंग (constitutive modeling) की दुनिया है, जो एक फैंसी शब्द है यह समझने के लिए कि सामग्रियां कैसे व्यवहार करती हैं। एक रोबोट को ये नियम सिखाने के लिए, आपको डेटा की आवश्यकता होती है। लेकिन यहाँ एक पेंच है: एकदम सटीक डेटा प्राप्त करना एक तूफान में हमिंगबर्ड (hummingbird) की तस्वीर लेने जैसा है—इसमें बहुत अधिक समय, पैसा और कंप्यूटिंग शक्ति लगती है। दूसरी ओर, त्वरित डेटा प्राप्त करना आसान है, जैसे दूर से ली गई एक धुंधली फोटो, लेकिन यह गलतियों और शोर (noise) से भरी होती है। वैज्ञानिक लंबे समय से एक खींचतान में फंसे हुए हैं: क्या आप सटीक डेटा के लिए बहुत सारा पैसा खर्च करें, या पैसा बचाएं और अव्यवस्थित, अपूर्ण डेटा के साथ काम करें?

आप जिस शोध पत्र को पढ़ने जा रहे हैं, वह इसी दुविधा का समाधान करता है। यह दोनों प्रकार के—सटीक और अव्यवस्थित—डेटा का उपयोग करके मशीनों को सिखाने का एक चतुर नया तरीका पेश करता है, जबकि मशीन को यह भी सिखाता है कि कब उसे अनुमान लगाना है। लेखक मल्टी-फिडेलिटी लर्निंग (multi-fidelity learning) नामक एक विधि का उपयोग करते हैं, जो विशेषज्ञों की एक टीम को काम पर रखने जैसा है जहाँ आपके पास कुछ बहुत महंगी, अत्यंत सटीक सलाहकार (consultants) हैं और बहुत सारे सस्ते, तेज़ लेकिन थोड़े कम सटीक सहायक (assistants) हैं। लक्ष्य उनकी राय को मिलाकर सबसे अच्छा उत्तर प्राप्त करना है, बिना बजट बिगाड़े। इसके अलावा, यह शोध पत्र अनिश्चितता (uncertainty) से निपटता है, जो दो प्रकार के "न जानने" के बीच अंतर करता है: एलियटोरिक अनिश्चितता (aleatoric uncertainty), जो डेटा की स्वाभाविक यादृच्छिकता या "शोर" है (जैसे फोटो में रेत का कण), और एपिस्टेमिक अनिश्चितता (epistemic uncertainty), जो मॉडल की अपनी अज्ञानता है क्योंकि उसने अभी तक पर्याप्त उदाहरण नहीं देखे हैं। लेखक एक ऐसा सिस्टम चाहते हैं जो न केवल एक उत्तर दे, बल्कि यह भी बताए कि उसे उस उत्तर पर कितना भरोसा है और त्रुटि का कितना हिस्सा डेटा की अपनी कमी से आता है बनाम मॉडल के ज्ञान की कमी से।

शोध पत्र का बड़ा विचार: भविष्यवक्ताओं की एक स्मार्ट टीम

लेखक, जियाक्सियांग यी, बर्नार्डो पी. फरेरा, और मिगुएल ए. बेसा, एक नया, लचीला ढांचा प्रस्तावित करते हैं जो इन विभिन्न प्रकार के डेटा के किसी भी संयोजन से सीख सकता है। उन्होंने मशीन लर्निंग मॉडलों का एक "स्विस आर्मी नाइफ" बनाया है जो विभिन्न परिदृश्यों के अनुकूल हो सकता है। उनके आविष्कार के केंद्र में वेरिएंस एस्टीमेशन बेयसियन रिकरेंट न्यूरल नेटवर्क (VeBRNNs) है।

एक मानक न्यूरल नेटवर्क को एक ऐसे छात्र के रूप में सोचें जो उत्तर रट लेता है। यदि आप उससे ऐसा प्रश्न पूछते हैं जो उसने पहले नहीं देखा है, तो वह आत्मविश्वास से गलत उत्तर दे सकता है। एक बेयसियन (Bayesian) नेटवर्क, हालांकि, एक सतर्क छात्र की तरह है जो कहता है, "मुझे लगता है कि उत्तर X है, लेकिन मैं केवल 80% निश्चित हूँ, और यहाँ अन्य संभावनाओं की एक सीमा भी है।" "रिकरेंट" (Recurrent) भाग का अर्थ है कि इस छात्र की एक याददाश्त है; यह याद रखता है कि पहले क्या हुआ था, जो उन सामग्रियों के लिए महत्वपूर्ण है जो अपने अतीत के आधार पर बदलती हैं। "वेरिएंस एस्टीमेशन" (Variance estimation) वाला हिस्सा विशेष मसाला है: यह छात्र अव्यवस्थित डेटा को देखकर भी कह सकता है, "हे, यह डेटा शोर भरा है क्योंकि यह प्रयोग की वजह से है, न कि इसलिए कि मैं गणित में कमजोर हूँ।" अनिश्चितता को "शोर" और "अज्ञानता" के बीच अलग करने की यह क्षमता एक बड़ी सफलता है।

चार परिदृश्य: टीम का परीक्षण

अपने तरीके को सिद्ध करने के लिए, लेखकों ने सिम्युलेटेड सामग्रियों का उपयोग करके चार अलग-अलग "प्रशिक्षण शिविर" बनाए। उन्होंने केवल एक प्रकार के डेटा का उपयोग नहीं किया; उन्होंने यह देखने के लिए डेटा को मिलाया-जुलाया कि उनका सिस्टम विभिन्न चुनौतियों को कैसे संभालता है:

1. शोर भरा एकल कलाकार (The Noisy Soloist): उन्होंने केवल एक प्रकार के डेटा से शुरुआत की जो तेज़ था लेकिन शोर से भरा था (जैसे एक धुंधली फोटो)। उन्होंने यहाँ अपने VeBRNN को प्रशिक्षित किया और पाया कि यह सामग्री के व्यवहार की सटीक भविष्यवाणी कर सकता है और साथ ही यह भी समझ सकता है कि डेटा में कितना "शोर" था। इसने सिग्नल को स्टेटिक (static) से अलग करना सीख लिया।
2. परफेक्ट पेयर (The Perfect Pair): इसके बाद, उन्होंने एक क्लासिक सेटअप आज़माया: सस्ते, कम सटीक डेटा और महंगे, अत्यंत सटीक डेटा का मिश्रण (इस मामले में किसी में भी शोर नहीं था)। यहाँ, उन्होंने दिखाया कि सस्ते डेटा का उपयोग समस्या के सामान्य आकार को सीखने के लिए और महंगे डेटा का उपयोग विवरणों को सटीक बनाने के लिए करके, वे केवल महंगे डेटा का उपयोग करने की तुलना में बेहतर परिणाम प्राप्त कर सकते हैं, खासकर जब उनके पास महंगे डेटा की बहुत कम मात्रा उपलब्ध थी।
3. दोहरी मुसीबत (The Double Trouble): यह सबसे कठिन परीक्षण था। सस्ता और महंगा दोनों डेटा शोर भरा था। यह एक ऐसा गाना सीखने जैसा है जब शिक्षक और पाठ्यपुस्तक दोनों में गलतियाँ हों। आश्चर्यजनक रूप से, उनका मल्टी-फिडेलिटी मॉडल अभी भी अच्छा प्रदर्शन करता रहा, विशेष रूप से प्रशिक्षण डेटा की सीमा से बाहर (extrapolation) भविष्यवाणी करने में, जो कि केवल महंगे डेटा को देखने वाले मॉडल से बेहतर था।
4. हाइब्रिड हीरो (The Hybrid Hero): अंत में, उन्होंने सस्ते, शोर भरे डेटा को महंगे, सटीक डेटा के साथ मिलाया। यह एक बहुत ही सामान्य वास्तविक दुनिया का परिदृश्य है। उनके सिस्टम ने एक मोटा विचार प्राप्त करने के लिए शोर वाले डेटा का उपयोग किया और गलतियों को सुधारने के लिए सटीक डेटा का। उन्होंने पाया कि भले ही सस्ता डेटा थोड़ा अव्यवस्थित था, फिर भी इसका उपयोग करने से मॉडल को महंगे डेटा की प्रतीक्षा करने की तुलना में तेज़ी से और अधिक सटीक रूप से सीखने में मदद मिली।

उन्होंने क्या पाया: मिश्रण का जादू

परिणाम काफी उत्साहजनक थे। लेखकों ने पाया कि उनका तरीका अविश्वसनीय रूप से बहुमुखी है। यह एक सरल, नियत (deterministic) मॉडल (केवल औसत की भविष्यवाणी करना) के रूप में शुरू हो सकता है और एक जटिल बेयसियन मॉडल तक बढ़ सकता है जो हर प्रकार की अनिश्चितता को मापता है।

उनकी सबसे दिलचस्प खोजों में से एक यह थी कि आपको कितने सस्ते डेटा की आवश्यकता है। यदि आपके पास सीमित बजट है, तो आपको केवल थोड़ा सा महंगा डेटा या केवल थोड़ा सा सस्ता डेटा नहीं खरीदना चाहिए। लेखक सुझाव देते हैं कि एक "स्वीट स्पॉट" (sweet spot) मौजूद है जहाँ आप अपने बजट का लगभग 30% से 70% सस्ते डेटा पर खर्च करते हैं। यदि आप सस्ते डेटा पर बहुत कम खर्च करते हैं, तो मॉडल सामान्य पैटर्न को अच्छी तरह से नहीं सीख पाता। यदि आप महंगे डेटा पर बहुत कम खर्च करते हैं, तो मॉडल विवरणों को सही नहीं कर पाता। लेकिन यदि आप उस संतुलन को पा लेते हैं, तो मल्टी-फिडेलिटी दृष्टिकोण लगातार केवल एक प्रकार के डेटा का उपयोग करने की तुलना में बेहतर प्रदर्शन करता है।

उन्होंने यह भी दिखाया कि उनका तरीका एक्सट्रपलेशन (extrapolation)—उन स्थितियों की भविष्यवाणी करने में विशेष रूप से अच्छा है जो मॉडल ने पहले नहीं देखी हैं। जब मॉडल को अपने प्रशिक्षण क्षेत्र से बाहर जाने के लिए कहा जाता है, तो एक मानक मॉडल आत्मविश्वास से गलत उत्तर दे सकता है। हालाँकि, VeBRNN यह महसूस करता है कि वह पर्याप्त नहीं जानता और अपने "कॉन्फिडेंस इंटरवल" को विस्तृत कर देता है, जो मूल रूप से कहता है, "मैं इस बारे में निश्चित नहीं हूँ।" इंजीनियरिंग में यह एक महत्वपूर्ण सुरक्षा विशेषता है, जहाँ अत्यधिक आत्मविश्वास आपदाओं का कारण बन सकता है।

निष्कर्ष

यह शोध पत्र यह दावा नहीं करता है कि इसने पदार्थ विज्ञान (material science) की हर समस्या को हल कर दिया है। इसके बजाय, यह एक शक्तिशाली, अनुकूलन योग्य टूलकिट प्रदान करता है। यह साबित करता है कि आपको गति और सटीकता के बीच चुनाव करने की आवश्यकता नहीं है; आप डेटा की विभिन्न गुणवत्ता स्तरों को बुद्धिमानी से मिलाकर दोनों प्राप्त कर सकते हैं। मशीनों को अपनी अनिश्चितता को समझने और डेटा के शोर को अपने ज्ञान की कमी से अलग करने के लिए सिखाकर, लेखकों ने अधिक विश्वसनीय, डेटा-संचालित डिजाइनों के द्वार खोल दिए हैं। चाहे वह एक नए हवाई जहाज के पंख का डिज़ाइन बनाना हो या एक सुरक्षित पुल, यह पद्धति बताती है कि हम कम सटीक डेटा का उपयोग करके, अधिक तेज़ी से बेहतर मॉडल बना सकते हैं, जबकि उस चीज़ के प्रति संदेह बनाए रख सकते हैं जिसे हम अभी तक पूरी तरह से नहीं जानते।