Probing out-of-distribution generalization in machine learning for materials
यह अध्ययन प्रकट करता है कि मैटेरियल्स साइंस मशीन लर्निंग में सामान्य ह्यूरिस्टिक मूल्यांकन अक्सर सामान्यीकरण और न्यूरल स्केलिंग के लाभों को बढ़ा-चढ़ाकर बताते हैं क्योंकि वे मुख्य रूप से प्रशिक्षण डोमेन के भीतर इंटरपोलेशन का परीक्षण करते हैं बजाय वास्तविक आउट-ऑफ-डिस्ट्रीब्यूशन एक्सट्रपलेशन के, जहाँ डेटा या मॉडल के आकार को बढ़ाने से घटते या प्रतिकूल प्रतिफल प्राप्त होते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
नए पदार्थों की खोज की खोज में, वैज्ञानिकों ने इस प्रक्रिया को तेज करने के लिए कृत्रिम बुद्धिमत्ता (AI) की ओर तेजी से रुख किया है। कल्पना कीजिए कि एक विशाल पुस्तकालय है जिसमें विभिन्न पदार्थों के लाखों नुस्खे (रेसिपी) मौजूद हैं, जिनमें से प्रत्येक के अद्वितीय गुण हैं जैसे कि मजबूती, चालकता, या उन्हें बनाने में कितनी ऊर्जा लगती है। पारंपरिक रूप से, एक नए पदार्थ को खोजने का अर्थ प्रयोगशाला में एक के बाद एक नुस्खों का परीक्षण करना था, जो एक धीमी और महंगी प्रक्रिया थी। मशीन लर्निंग एक शॉर्टकट प्रदान करती है: मौजूदा पुस्तकालय का अध्ययन करके, एक कंप्यूटर रसायन विज्ञान के नियमों को सीख सकता है और उन पदार्थों के गुणों की भविष्यवाणी कर सकता है जिन्हें उसने पहले कभी नहीं देखा है। इसका अंतिम लक्ष्य ऐसे मॉडल बनाना है जो वास्तव में सामान्य (जनरल) हों, जिसका अर्थ है कि वे पूरी तरह से नए प्रकार के पदार्थों के बारे में सटीक भविष्यवाणी कर सकें, न कि केवल उन्हीं के बारे में जो पहले से अध्ययन किए गए पदार्थों के समान दिखते हैं। अज्ञात को संभालने की यह क्षमता वैश्विक चुनौतियों को हल करने के लिए महत्वपूर्ण है, जैसे कि बेहतर बैटरी बनाना या अधिक कुशल सौर पैनल डिजाइन करना। हालाँकि, एक सवाल बना हुआ है कि ये डिजिटल उपकरण वास्तव में अपरिचित स्थितियों का सामना करने पर कितने प्रभावी होते हैं।
शोधकर्ताओं की एक टीम ने पदार्थ विज्ञान के क्षेत्र में इन मशीन लर्निंग मॉडलों की सीमाओं का परीक्षण करने का निर्णय लिया। वे यह जानना चाहते थे कि क्या मॉडल वास्तव में प्रकृति के गहरे नियमों को सीख रहे हैं या वे केवल उन पैटर्न को याद कर रहे हैं जो संयोग से नई खोजों की तरह दिखते हैं। ऐसा करने के लिए, उन्होंने 700 से अधिक विभिन्न चुनौतियों वाला एक विशाल प्रयोग डिजाइन किया। प्रत्येक चुनौती में, उन्होंने एक ज्ञात पदार्थों के बड़े संग्रह पर एक कंप्यूटर मॉडल को प्रशिक्षित किया और फिर उससे पदार्थों के एक विशिष्ट समूह के गुणों की भविष्यवाणी करने को कहा जो उसके प्रशिक्षण डेटा से पूरी तरह से अनुपस्थित थे। इन समूहों को विशिष्ट नियमों द्वारा परिभाषित किया गया था, जैसे कि "एक निश्चित तत्व वाले सभी पदार्थ" या "एक विशिष्ट क्रिस्टल आकार वाले सभी पदार्थ।" शोधकर्ताओं ने साधारण, स्थापित एल्गोरिदम से लेकर जटिल, आधुनिक न्यूरल नेटवर्क तक, जो मानव मस्तिष्क की नकल करते हैं, विभिन्न प्रकार के मॉडलों का परीक्षण किया।
परिणाम आश्चर्यजनक थे। इन 700 चुनौतियों में से अधिकांश में, मॉडलों ने असाधारण रूप से अच्छा प्रदर्शन किया, यहाँ तक कि जब परीक्षण सामग्री में वे तत्व या संरचनाएं शामिल थीं जिनका उन्होंने प्रशिक्षण के दौरान सामना नहीं किया था। सरल मॉडल, जो बुनियादी निर्णय लेने वाले नियमों का उपयोग करते हैं, अक्सर सबसे परिष्कृत डीप लर्निंग सिस्टम के समान ही प्रदर्शन करते हैं। सफलता का यह उच्च स्तर बताता है कि मॉडल नई केमिस्ट्री के अनुकूल होने में उतना संघर्ष नहीं कर रहे थे जितना कि पहले सोचा गया था। हालाँकि, शोधकर्ताओं ने यह समझने के लिए गहराई से जांच की कि ऐसा क्यों हो रहा था। उन्होंने पाया कि इन परीक्षणों में "नया" की परिभाषा अक्सर भ्रामक थी। जबकि परीक्षण सामग्री अपने रासायनिक अवयवों के मामले में तकनीकी रूप से भिन्न थी, वे अक्सर उसी गणितीय स्थान (मैथमेटिकल स्पेस) के सामान्य पड़ोस में स्थित थीं जिसका उपयोग मॉडल पदार्थों को समझने के लिए करते हैं। दूसरे शब्दों में, मॉडल वास्तव में अज्ञात की ओर नहीं बढ़ रहे थे; वे केवल जो वे पहले से जानते थे, उनके बीच के अंतराल को भर रहे थे।
इसे सिद्ध करने के लिए, टीम ने उस गणितीय परिदृश्य (मैथमैटिकल लैंडस्केप) का मानचित्रण किया जहाँ ये पदार्थ निवास करते हैं। उन्होंने पाया कि जिन कार्यों के लिए मॉडल सफल रहे, वहां परीक्षण सामग्री वास्तव में प्रशिक्षण डेटा से घिरी हुई थी, जिससे मॉडल ज्ञात उदाहरणों के आधार पर सुरक्षित अनुमान लगा सके। लेकिन जब उन्होंने उन कुछ कार्यों को देखा जहाँ मॉडल विफल रहे, तो उन्होंने पाया कि परीक्षण सामग्री वास्तव में अलग-थलग थी, जो देखे गए किसी भी डेटा से बहुत दूर थी। इस अंतर ने इस बात का खुलासा किया कि क्षेत्र में सफलता को मापने का तरीका कितना त्रुटिपूर्ण है। कई परीक्षण, जिन्हें मॉडल की अज्ञात को संभालने की क्षमता के प्रमाण के रूप में सराहा गया था, वास्तव में इंटरपोलेशन (इंटरपोलेट), या ज्ञात बिंदुओं के बीच के मध्य मार्ग का अनुमान लगाने की क्षमता के परीक्षण थे। मॉडल अज्ञात के सुदूर क्षेत्रों तक एक्सट्रपलेशन (एक्सट्रपलेट) करने की जादुई क्षमता का प्रदर्शन नहीं कर रहे थे; वे केवल उस क्षेत्र में बिंदुओं को जोड़ रहे थे जिसे वे पहले से समझते थे।
इस अध्ययन ने आर्टिफिशियल इंटेलिजेंस के एक लोकप्रिय विचार को भी चुनौती दी जिसे 'स्केलिंग' (scaling) कहा जाता है। प्रचलित धारणा यह है कि यदि आप केवल प्रशिक्षण डेटासेट को बड़ा करते हैं या मॉडल को लंबे समय तक प्रशिक्षित करते हैं, तो सामान्यीकरण (जनरलाइजेशन) की इसकी क्षमता हमेशा सुधरेगी। शोधकर्ताओं ने मॉडल को अधिक डेटा देकर इसका परीक्षण किया। आसान कार्यों के लिए, जहाँ नई सामग्रियां पुरानी सामग्रियों के करीब थीं, अधिक डेटा के साथ प्रदर्शन बेहतर हुआ। लेकिन वास्तव में कठिन कार्यों के लिए, जहाँ सामग्रियां प्रशिक्षण क्षेत्र से बहुत बाहर थीं, अधिक डेटा या प्रशिक्षण समय जोड़ने से कोई मदद नहीं मिली। कुछ मामलों में, इसने मॉडलों को और खराब कर दिया, जिससे वे ज्ञात डेटा के प्रति अत्यधिक अनुकूलित (ओवरफिट) हो गए और अज्ञात के बारे में सही अनुमान लगाने की अपनी क्षमता खो दी। यह सुझाव देता है कि वास्तव में नवीन पदार्थों को हल करने के लिए स्केलिंग को बढ़ाने का वादा बढ़ा-चढ़ाकर बताया गया है।
शोधकर्ताओं ने निष्कर्ष निकाला कि इस क्षेत्र को यह परिभाषित करने और सामान्यीकरण का परीक्षण करने के तरीके के बारे में अधिक सावधान रहने की आवश्यकता है। वर्तमान विधियाँ, जो प्रशिक्षण डेटा को परीक्षण डेटा से अलग करने के लिए सरल नियमों पर निर्भर करती हैं, अक्सर सफलता का भ्रम पैदा करती हैं। वे दिखाते हैं कि मॉडल उन चीजों में अच्छे हैं जिनमें वे अच्छे हैं, लेकिन वे यह साबित नहीं करते हैं कि ये मॉडल वास्तव में कठिन, अनदेखी चुनौतियों को संभाल सकते हैं जो भविष्य की वैज्ञानिक प्रगति को प्रेरित करेंगी। अध्ययन यह नहीं कहता कि मशीन लर्निंग विफल हो रही है; बल्कि, यह सुझाव देता है कि हमने गलत प्रश्न पूछे हैं। यह पहचानकर कि हमारे कई "कठिन" परीक्षण वास्तव में मॉडलों के लिए काफी आसान थे, वैज्ञानिक अब वास्तव में कठिन चुनौतियों को डिजाइन करने पर ध्यान केंद्रित कर सकते हैं। यह बदलाव उन्हें उन वास्तविक अंतरालों की पहचान करने में मदद करेगा जिन्हें हम समझ नहीं पा रहे हैं और उन मॉडलों के विकास का मार्गदर्शन करेगा जो वास्तव में पदार्थ विज्ञान के अनछुए क्षेत्रों में नेविगेट कर सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।