The Illusion of Chemical Continuity Limits Machine Learning Generalization

कल्पना कीजिए कि आप एक रोबोट को मौसम की भविष्यवाणी करना सिखाने की कोशिश कर रहे हैं। आप सोच सकते हैं कि यदि आप रोबोट को दस लाख वर्षों का मौसम डेटा देंगे, तो वह अंततः यह बताने का सटीक सूत्र सीख जाएगा कि कल आकाश वास्तव में क्या करेगा। यह "मटेरियल्स इंफॉर्मेटिक्स" (पदार्थ सूचना विज्ञान) के सपने जैसा है, जो एक ऐसा क्षेत्र है जहाँ वैज्ञानिक नए पदार्थों के व्यवहार की भविष्यवाणी करने के लिए भारी मात्रा में डेटा और शक्तिशाली कंप्यूटर मस्तिष्क (मशीन लर्निंग) का उपयोग करते हैं। मुख्य विचार, या "स्केलिंग हाइपोथेसिस" (स्केलिंग परिकल्पना), यह है कि रसायनों का ब्रह्मांड एक चिकनी, निरंतर पहाड़ी की तरह है। यदि आप एक स्थान पर पहाड़ी के आकार को जानते हैं, तो आप पर्याप्त डेटा बिंदुओं को देखकर हर जगह उसके आकार का अनुमान लगा सकते हैं। यह कुछ चीजों के लिए बहुत खूबसूरती से काम करता है, जैसे कि यह अनुमान लगाना कि एक अणु बनाने में कितनी ऊर्जा लगती है। लेकिन एक विशिष्ट गुण के लिए जिसे "बैंडगैप" कहा जाता है—जो कि वह जादुई स्विच है जो यह तय करता है कि कोई पदार्थ चालक (कंडक्टर), कुचालक (इन्सुलेटर), या अर्धचालक (सेमीकंडक्टर - जैसे आपके फोन में मौजूद सिलिकॉन) है—रोबोट एक दीवार से टकरा जाते हैं। उन्हें कितना भी डेटा दिया जाए, उनकी भविष्यवाणियां अक्सर काफी गलत होती हैं, कभी-कभी लक्ष्य से 0.4 से 0.5 इलेक्ट्रॉन वोल्ट (eV) तक चूक जाती हैं। चूंकि दृश्य प्रकाश लगभग 1 eV की सीमा में फैला हुआ है, इसलिए यह त्रुटि बहुत बड़ी है; यह रेडियो ट्यून करने की कोशिश करने और गाने के बजाय केवल शोर (स्टैटिक) पर लैंड करने जैसा है।

यह शोध पत्र इस बात की जांच करता है कि रोबोट इस विशिष्ट कार्य में क्यों विफल हो रहे हैं। लेखक, जो टोरंटो विश्वविद्यालय और अन्य संस्थानों के शोधकर्ताओं की एक टीम है, तर्क देते हैं कि समस्या यह नहीं है कि रोबोट पर्याप्त स्मार्ट नहीं हैं या उन्होंने पर्याप्त डेटा नहीं देखा है। इसके बजाय, वे सुझाव देते हैं कि वह "चिकनी पहाड़ी" जिसे चढ़ने की कोशिश रोबोट कर रहे हैं, बैंडगैप के लिए वास्तव में अस्तित्व में ही नहीं है। उन्होंने पाया कि बैंडगैप के गुणों के लिए रासायनिक स्थान वास्तव में एक बिखरे हुए मोज़ेक (टूटे हुए टुकड़ों वाले चित्र) के अलग-अलग द्वीपों की तरह है। जब शोधकर्ताओं ने विभिन्न प्रकार की क्रिस्टल संरचनाओं (जैसे रॉसॉल्ट बनाम जिंकब्लेन्ड) पर अपने मॉडल को प्रशिक्षित करने की कोशिश की, तो अधिक डेटा जोड़ने से मदद नहीं मिली; बल्कि इसने भविष्यवाणियों को और खराब कर दिया। उन्होंने पाया कि परमाणुओं और इलेक्ट्रॉनों की मौलिक प्रकृति गुणों में तीखे, अचानक उछाल पैदा करती है जिसे सरल गणित द्वारा सुधारा नहीं जा सकता। पेपर सुझाव देता है कि इसे ठीक करने के लिए, हम केवल समस्या पर अधिक डेटा नहीं फेंक सकते; हमें रोबलों को उन वास्तविक क्वांटम भौतिकी नियमों (हैमिल्टोनियन) को सिखाना होगा जो इन उछालों को नियंत्रित करते हैं, न कि केवल पैटर्न के आधार पर अनुमान लगाने के लिए कहना होगा।

एक चिकनी पहाड़ी का भ्रम

लंबे समय तक, वैज्ञानिकों का मानना था कि रसायन विज्ञान की दुनिया एक विशाल, निरंतर परिदृश्य थी। एक चिकनी, लुढ़कती हुई पहाड़ी की कल्पना करें जहाँ यदि आप एक बिंदु पर ऊंचाई जानते हैं, तो आप आसानी से कुछ कदम दूर की ऊंचाई का अनुमान लगा सकते हैं। यह विचार, जिसे "स्केलिंग हाइपोथेसिस" कहा जाता है, आधुनिक पदार्थ खोज का आधार है। विश्वास यह था कि यदि हम पर्याप्त डेटा बिंदु एकत्र कर लेते—लाखों क्रिस्टल संरचनाएं और उनके गुण—तो हमारे आर्टिफिशियल इंटेलिजेंस (AI) मॉडल इस पहाड़ी पर पूरी तरह से चलना सीख सकते थे। वे किसी भी नए, पहले कभी न देखे गए पदार्थ के व्यवहार की भविष्यवाणी उसके पड़ोसियों को देखकर कर सकते थे।

यह रणनीति कुछ गुणों के लिए एक बड़ी सफलता रही है। उदाहरण के लिए, "फॉर्मेशन एनर्जी" (एक पदार्थ को शून्य से बनाने में लगने वाली ऊर्जा) की भविष्यवाणी करना एक चिकनी, अच्छी तरह से पक्की राह पर चलने जैसा है। AI मॉडल इसे अत्यधिक सटीकता के साथ कर सकते हैं, जो सबसे जटिल भौतिकी सिमुलेशन के परिणामों से मेल खाता है। लेकिन जब बैंडगैप की भविष्यवाणी करने की बात आती है, तो AI एक ईंट की दीवार से टकरा जाता है। बैंडगैप एक महत्वपूर्ण गुण है जो यह निर्धारित करता है कि कोई पदार्थ प्रकाश और बिजली के साथ कैसे प्रतिक्रिया करता है। यह एक ऐसे पदार्थ और एक ऐसे पदार्थ के बीच का अंतर है जो बिजली को रोकता है (कुचालक), एक जो इसे स्वतंत्र रूप से प्रवाहित करता है (धातु), और एक जो चालू और बंद किया जा सकता है (अर्धचालक)।

बैंडगैप की भविष्यवाणी करने के लिए एक दशक के प्रयास और मॉडलों को विशाल डेटासेट खिलाने के बावजूद, त्रुटि लगातार उच्च बनी रहती है, जो लगभग 0.4 से 0.5 eV के आसपास रहती है। इसे समझने के लिए, हमारी आँखों से दिखने वाले रंगों की पूरी सीमा केवल लगभग 1 eV चौड़ी है। 0.5 eV की त्रुटि का मतलब है कि AI भविष्यवाणी कर सकता है कि एक पदार्थ पारदर्शी है जबकि वह वास्तव में अपारदर्शी है, या वह लाल चमकता है जबकि उसे नीला होना चाहिए। पेपर जो प्रश्न पूछता है वह सरल है: AI इस एक विशिष्ट कार्य में इतना बुरा क्यों विफल होता है जबकि वह बाकी सब कुछ में इतना अच्छा है?

एक बिखरा हुआ मोज़ेक

इस पेपर के लेखकों ने यह मानना बंद कर दिया कि पहाड़ी चिकनी थी और सूक्ष्मदर्शी से जमीन को देखना शुरू किया। उन्होंने बाइनरी सेमीकंडक्टर्स (दो तत्वों से बने पदार्थ) के एक व्यापक डेटासेट और अत्याधुनिक AI मॉडल का उपयोग करके परिदृश्य का मानचित्र तैयार किया। उन्होंने जो पाया वह चौंकाने वाला था: बैंडगैप के लिए परिदृश्य बिल्कुल भी चिकनी पहाड़ी नहीं है। यह अलग-अलग द्वीपों का एक संग्रह है।

कल्पना कीजिए कि आप एक रोबोट को "चट्टान" और "पंख" (feather) के बीच अंतर पहचानना सिखाने की कोशिश कर रहे हैं। यदि आप उसे दस लाख चट्टानें और दस लाख पंख दिखाते हैं, तो वह पैटर्न सीख जाता है। लेकिन क्या होगा यदि आप अचानक उसे एक "चट्टान-पंख" हाइब्रिड दिखा दें? यदि रोबोट ने केवल शुद्ध चट्टानें और शुद्ध पंख देखे हैं, तो वह भ्रमित हो सकता है। लेखकों ने पाया कि विभिन्न क्रिस्टल संरचनाएं (परमाणुओं की व्यवस्था) इन अलग-अलग द्वीपों की तरह हैं। उन्होंने पाया कि एक प्रकार की संरचना (जैसे जिंकब्लेन्ड) पर प्रशिक्षित मॉडल, दूसरे प्रकार (जैसे रॉसॉल्ट) के गुणों की भविष्यवाणी करने के लिए पूछे जाने पर बुरी तरह विफल हो गए, भले ही रासायनिक सामग्रियां समान हों।

वास्तव में, विभिन्न संरचनाओं से अधिक डेटा जोड़ने से मदद नहीं मिली; इसने चीजों को और खराब कर दिया। इसे "नेगेटिव लर्निंग" (नकारात्मक सीखना) कहा जाता है। यह एक छात्र को बीजगणित, ज्यामिति और कलन (calculus) को एक ही पाठ में बिना नियम समझाए मिलाने के माध्यम से गणित के सवाल हल करना सिखाने जैसा है। छात्र भ्रमित हो जाता है और गलतियाँ करने लगता है। पेपर दिखाता है कि जब वे विभिन्न क्रिस्टल संरचनाओं से डेटा मिलाते हैं, तो AI उन्हें औसत निकालने की कोशिश करता है, जिससे एक ऐसी भविष्यवाणी बनती है जो सभी के लिए गलत है। "लेटेंट स्पेस" (AI के मस्तिष्क में बना आंतरिक मानचित्र) दिखाता है कि ये संरचनाएं पूरी तरह से अलग, गैर-अतिव्यापी क्षेत्रों में स्थित हैं। उन्हें जोड़ने वाला कोई चिकना पथ नहीं है।

क्वांटम क्लिफ (क्वांटम ढलान)

परिदृश्य इतना टूटा हुआ क्यों है? पेपर इस समस्या को इलेक्ट्रॉनों की मौलिक प्रकृति से जोड़ता है। क्वांटम दुनिया में, इलेक्ट्रॉन विशिष्ट, असतत "कक्षाओं" (orbitals) में रहते हैं (जैसे सीढ़ी के डंडों की तरह)। आप दो डंडों के बीच में कहीं खड़ा नहीं हो सकते। जब आप किसी पदार्थ के घटकों को थोड़ा सा बदलते हैं, तो इन इलेक्ट्रॉनों के ऊर्जा स्तर धीरे-धीरे नहीं बदलते; वे कूदते (jump) हैं।

लेखकों ने एक सिमुलेशन चलाया जहाँ उन्होंने धीरे-धीरे एक तत्व को दूसरे में बदला (एक प्रक्रिया जिसे "अल्केमिकल इंटरपोलेशन" कहा जाता है)। उन्होंने पदार्थ की कुल ऊर्जा बनाम बैंडगैप के संबंध में क्या हुआ, इसका अवलोकन किया। कुल ऊर्जा एक चिकनी ढलान की तरह व्यवहार करती है, जैसे-जैसे परमाणु बदलते हैं, यह धीरे-धीरे बदलती है। लेकिन बैंडगैप? यह एक ढलान (cliff) की तरह व्यवहार करता है। जैसे ही इलेक्ट्रॉन संख्या थोड़ी सी भी बदली, बैंडगैप अचानक गिर गया या पूरी तरह से अलग मान पर कूद गया। ऐसा इसलिए होता है क्योंकि इलेक्ट्रॉनों को नई, विशिष्ट ऊर्जा स्तरों में खुद को पुनर्गठित करना पड़ता है, और यह पुनर्गठन डेटा में एक तीखा "कस्प" (cusp) या ब्रेक बनाता है।

इन तीखे उछालों के कारण, आवर्त सारणी (सभी तत्वों का चार्ट) बैंडगैप के लिए एक चिकना ग्रेडिएंट नहीं है। यह अलग-अलग डोमेन का एक संग्रह है। पेपर दिखाता है कि हैलाइड्स या चाल्कोजेनाइड्स जैसे तत्वों के एक ही समूह के भीतर भी, रुझान अव्यवस्थित और अप्रत्याशित हैं। उदाहरण के लिए, जबकि सोडियम (Na) यौगिकों के लिए बैंडगैप अपने साथी तत्व को बदलने के साथ सुचारू रूप से कम हो सकता है, मैग्नीशियम (Mg) यौगिक पूरी तरह से अलग कुछ कर सकते हैं, जो पैटर्न को तोड़ देता है। AI, जो अनुमान लगाने के लिए चिकने पैटर्न खोजने पर निर्भर करता है, के पास पकड़ने के लिए कुछ भी नहीं है।

निरंतरता का भ्रम

पेपर का मुख्य तर्क यह है कि "बिग डेटा" दृष्टिकोण अपनी सीमा तक पहुँच गया है। प्रचलित विश्वास यह था कि यदि हम पर्याप्त डेटा एकत्र कर लेते, तो AI अंततः भौतिकी को समझ लेगा। लेकिन लेखक तर्क देते हैं कि आप क्वांटम विच्छिन्नता (discontinuity) की समस्या को सांख्यिकिक निरंतरता (statistical continuity) की समस्या से हल नहीं कर सकते। AI उन बिंदुओं के माध्यम से एक चिकनी रेखा खींचने की कोशिश कर रहा है जो वास्तव में अलग-अलग, असंबद्ध द्वीपों पर हैं। चाहे आप कितने भी बिंदु जोड़ दें, यदि द्वीप आपस में नहीं मिलते हैं, तो रेखा हमेशा गलत होगी।

पेपर स्पष्ट रूप से इस विचार को खारिज करता है कि समस्या केवल डेटा की कमी या मॉडल की जटिलता की कमी है। उन्होंने सबसे उन्नत मॉडलों (जैसे coGN और CGCNN) का उपयोग करके और विशाल डेटासेट पर प्रशिक्षण देकर इसका परीक्षण किया। परिणाम वही थे: त्रुटि का स्तर (error floor) स्थिर रहा। उन्होंने इस विचार को भी खारिज कर दिया कि समस्या केवल क्रिस्टल संरचनाओं की जटिलता थी, क्योंकि जब उन्होंने कार्य को केवल "गामा पॉइंट" (ऊर्जा मानचित्र का एक विशिष्ट स्थान) देखने के लिए सरल बनाया, तब भी त्रुटियां बनी रहीं।

लेखक सुझाव देते हैं कि समाधान अधिक डेटा एकत्र करना नहीं है, बल्कि प्रश्न को बदलना है। AI से सीधे बैंडगैप (जो एक ऊबड़-खाबड़, विच्छिन्न गुण है) की भविष्यवाणी करने के लिए कहने के बजाय, हमें इसे उस अंतर्निहित भौतिकी को सीखने के लिए कहना चाहिए जो बैंडगैप बनाता है। वे प्रस्तावित करते हैं कि हमें AI को सीधे "हैमिल्टोनियन" (क्वांटम प्रणाली का गणितीय विवरण) सीखने के लिए सिखाना चाहिए। यदि AI इलेक्ट्रॉनों के परस्पर क्रिया के चिकने, निरंतर नियमों को सीख सकता है, तो वह उन नियमों से बैंडगैप की गणना कर सकता है। यह हर दिन के मौसम के पूर्वानुमान को याद करने बनाम उन ऊष्मागतिकी के नियमों को सीखने के बीच का अंतर है जो वास्तव में मौसम का कारण बनते हैं।

निष्कर्ष: एक नया मार्ग

यह पेपर पदार्थ विज्ञान के क्षेत्र के लिए एक वास्तविकता की जाँच (reality check) के रूप में कार्य करता है। यह सुझाव देता है कि किसी भी पदार्थ के किसी भी गुण की भविष्यवाणी करने के लिए एक सार्वभौमिक, डेटा-संचालित मॉडल का सपना बैंडगैप जैसे इलेक्ट्रॉनिक गुणों के मामले में त्रुटिपूर्ण है। "रासायनिक निरंतरता का भ्रम" केवल एक भ्रम है। क्वांटम दुनिया असतत (discrete) है, और इसे एक चिकने, निरंतर परिदृश्य के रूप में मानने के हमारे वर्तमान तरीके मौलिक रूप से बेमेल हैं।

लेखक यह दावा नहीं करते कि उन्होंने अभी तक इस समस्या को हल कर लिया है। इसके बजाय, उन्होंने सीमा स्थिति (boundary condition) की पहचान की है: परमाणु निर्देशांकों पर सरल रिग्रेशन, आइजनवैल्यू घटनाओं की अंतर्निहित विच्छिन्नता को हल नहीं कर सकता है। वे सुझाव देते हैं कि क्षेत्र का भविष्य मशीन लर्निंग में क्वांटम यांत्रिकी को अधिक गहराई से एकीकृत करने में निहित है, शायद AI को अंतिम गुण के बजाय निरंतर हैमिल्टोनियन मैट्रिक्स तत्वों की भविष्यवाणी करने के लिए कहना। जब तक हम ऐसा नहीं करते, AI क्वांटम दुनिया के तीखे, ऊबड़-खाबड़ किनारों के साथ संघर्ष करता रहेगा, चाहे हम उस पर कितना भी डेटा क्यों न फेंक दें। पेपर एक स्पष्ट संदेश के साथ समाप्त होता है: हमें ढलानों को चिकना करने की कोशिश करना बंद करना होगा और उन्हें चढ़ना सीखना शुरू करना होगा।