Contrastive Regularization of Machine Learning Potentials
यह शोध पत्र कॉन्ट्रास्टिव रेगुलराइज्ड एमएसई (CRMSE) को प्रस्तुत करता है, जो एक पोस्ट-ट्रेनिंग विधि है जो मानक रिग्रेशन लॉस में कुलबैक-लीब्लर डाइवर्जेंस से व्युत्पन्न एक कॉन्ट्रास्टिव टर्म को जोड़कर मशीन लर्निंग इंटरएटोमिक पोटेंशियल के वितरण संबंधी विचलन (डिस्ट्रिब्यूशनल ड्रिफ्ट) को ठीक करता है, जिससे अतिरिक्त अब-इनिटियो डेटा की आवश्यकता के बिना सटीक थर्मोडायनामिक सैंपलिंग सक्षम होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट शेफ को एक आदर्श स्टेक (steak) बनाना सिखाने की कोशिश कर रहे हैं। आप रोबोट को पूरी तरह से पके हुए स्टेक की 1,000 तस्वीरें दिखाते हैं और उससे प्रत्येक की "ऊर्जा" (या गुणवत्ता) सीखने के लिए कहते हैं।
समस्या: रोबोट एक अच्छा आलोचक है, लेकिन एक बुरा शेफ है
रोबोट एक फोटो को देखकर यह बताने में माहिर हो जाता है कि "वह स्टेक 9/10 है" और उसकी सटीकता अविश्वसनीय है। यदि आप उसे उसी एल्बम से एक नई फोटो दिखाते हैं, तो वह हर बार सही स्कोर बताता है। वैज्ञानिक इसे "रिग्रेशन एक्यूरेसी" (regression accuracy) कहते हैं।
हालाँकि, वास्तविक लक्ष्य केवल फोटो को ग्रेड देना नहीं है; आप रोबोट का उपयोग खाना पकाने के अनुकरण (simulate) करने के लिए करना चाहते हैं। आप चाहते हैं कि रोबोट हजारों नए स्टेक परिदृश्य (scenarios) की कल्पना करे और आपको बताए कि एक सामान्य, आदर्श स्टेक कैसा दिखता है।
यहीं पर रोबोट विफल हो जाता है। क्योंकि इसे केवल आपके द्वारा दी गई 1,000 तस्वीरों पर प्रशिक्षित किया गया था, इसे उन तस्वीरों के बीच के "खाली स्थान" के बारे में कोई जानकारी नहीं है। जब आप इसे नए परिदृश्य सोचने के लिए कहते हैं, तो यह मतिभ्रम (hallucinate) करने लगता है। यह शायद एक ऐसा स्टेक कल्पना कर लेता है जो बहुत अधिक "परफेक्ट" है—इतना परफेक्ट कि वह एक "स्पूरियस लो-एनर्जी ट्रैप" (spurious low-energy trap) में गिर जाता है। यह ऐसे स्टेक पकाने लगता है जो या तो पूरी तरह जम गए हैं या बुरी तरह जल गए हैं, क्योंकि इसके गणितीय मस्तिष्क में, वे अजीब स्थितियाँ वास्तविक स्टेक की तुलना में अधिक "सस्ती" (कम ऊर्जा वाली) लगती हैं।
भले ही वह आपके द्वारा दी गई तस्वीरों को ग्रेड देने में जीनियस है, लेकिन इसके कुकिंग सिमुलेशन आपदाजनक हैं। यह ऐसे परिणाम देता है जो वास्तविक जीवन जैसा बिल्कुल नहीं दिखता।
समाधान: "कॉन्ट्रास्टिव" सुधार (The "Contrastive" Correction)
इस पेपर के लेखकों, डिमिट्रियोस त्सिव्रैलिस (Dimitrios Tzivrailis) और उनकी टीम ने महसूस किया कि रोबोट को न केवल फोटो को ग्रेड देना सीखना चाहिए, बल्कि खुद द्वारा बनाए गए अजीब और असंभव परिदृश्यों से बचना भी सीखना चाहिए।
उन्होंने एक नया प्रशिक्षण चरण पेश किया जिसे CRMSE (Contrastive Regularized Mean Squared Error) कहा जाता है। इसे एक "रियलिटी चेक" लूप के रूप में समझें:
- रोबोट को पकाने दें: उन्होंने रोबोट को एक सिमुलेशन चलाने दिया और देखा कि वह कौन से अजीब, असंभव स्टेक बनाता है ("घोस्ट" परिदृश्य)।
- कॉन्ट्रास्टिव सबक: उन्होंने रोबोट को बताया: "तुमने इन अजीब, असंभव स्टेक को उच्च स्कोर (कम ऊर्जा) दिया। यह गलत है! हमें इनकी 'ऊर्जा' बढ़ानी होगी (इन्हें बुरा दिखाना होगा) ताकि तुम इन्हें पकाना बंद कर दो।"
- दीवार: इन खराब परिदृश्यों की ऊर्जा बढ़ाकर, रोबोट वास्तविक, भौतिक परिदृश्यों के चारों ओर एक "सुरक्षात्मक दीवार" बनाता है। वह सीख जाता है कि अजीब चीजें वर्जित हैं।
महत्वपूर्ण बात यह है कि उन्हें रोबोट को फिर से सिखाने के लिए अधिक फोटो लेने या किसी मानव शेफ को बुलाने की आवश्यकता नहीं पड़ी। रोबोट ने अनिवार्य रूप से अपनी गलतियों को खुद ग्रेड किया और उन्हें ठीक किया।
परिणाम
उन्होंने दो अणुओं (molecules) पर इसका परीक्षण किया: एथेनॉल (एक साधारण अल्कोहल) और एस्पिरिन (एक दर्द निवारक दवा)।
- सुधार से पहले: रोबro के सिमुलेशन वास्तविकता से भटक गए। अणुओं के परमाणु असंभव लंबाई तक खिंच गए, और ऊर्जा स्तर उन मानों तक गिर गए जो प्रकृति में मौजूद ही नहीं हैं।
- सुधार के बाद: सिमुलेशन बिल्कुल वहीं रहे जहाँ उन्हें होना चाहिए था। परमाणु यथार्थवादी दूरियों पर रहे, और ऊर्जा स्तर संदर्भ डेटा (reference data) के साथ लगभग पूरी तरह मेल खाते थे।
इससे भी अधिक प्रभावशाली बात यह है कि उन्होंने बहुत कम डेटा (950 के बजाय केवल 200 प्रशिक्षण उदाहरणों) के साथ इसका परीक्षण किया। मानक रोबोट इतने कम डेटा के साथ बुरी तरह विफल रहा, लेकिन "कॉन्ट्रास्टिव करेक्शन" वाले रोबोट ने फिर भी एक सटीक सिमुलेशन बनाने में सफलता प्राप्त की।
बड़ी सीख
यह पेपर तर्क देता है कि AI की दुनिया में, केवल इसलिए कि कोई मॉडल विशिष्ट बिंदुओं की भविष्यवाणी करने में अच्छा है (जैसे फोटो को ग्रेड देना), इसका मतलब यह नहीं है कि वह नए, यथार्थवादी डेटा को उत्पन्न करने (जैसे खाना पकाना) में भी अच्छा है।
एक विश्वसनीय सिम्युलेटर बनाने के लिए, आपको केवल अधिक डेटा की आवश्यकता नहीं है; आपको मॉडल को उन "ब्रह्मांड के नियमों" का सम्मान करने के लिए प्रशिक्षित करने की आवश्यकता है जिनका उसे अनुकरण करना है। आपको उसे उन जालों से बचने के लिए प्रशिक्षित करना होगा जो वह खुद के लिए बिछाता है। लेखक इसे "डिस्ट्रीब्यूशन-लेवल ट्रेनिंग" कहते हैं—AI को केवल बिंदुओं को फिट करना नहीं, बल्कि पूरे चित्र के आकार को समझना सिखाना।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।