Bayesian Symbolic Regression with Entropic Reinforcement Learning
यह शोध पत्र ERRLESS प्रस्तुत करता है, जो एक स्केलेबल बेयसियन सिम्बोलिक रिग्रेशन विधि है जो बीजगणितीय व्यंजकों के पोस्टीरियर वितरण से नमूने लेने के लिए एंट्रॉपी-रेगुलराइज्ड सुदृढीकरण सीखने (एन्ट्रॉपी-रेगुलराइज्ड रिइन्फोर्समेंट लर्निंग) का उपयोग करता है, जिससे प्रभावी अनिश्चितता परिमाणीकरण सक्षम होता है और फेनमैन जैसे बेंचमार्क पर प्रतिस्पर्धी, व्याख्या योग्य परिणाम प्राप्त होते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जासूस हैं जो एक रहस्य सुलझाने की कोशिश कर रहे हैं, लेकिन किसी लापता व्यक्ति को खोजने के बजाय, आप उस छिपे हुए गणितीय नियम को खोजने की कोशिश कर रहे हैं जो यह बताता है कि दुनिया कैसे काम करती है। यह सिंबोलिक रिग्रेशन (Symbolic Regression) का काम है। जबकि मानक गणितीय उपकरण एक ऐसे दर्जी की तरह हैं जो केवल पहले से मौजूद सूट के बटनों को ही ठीक कर सकता है (एक निश्चित सूत्र में नंबरों को बदलना), सिंबोलिक रिग्रेशन एक मास्टर दर्जी की तरह है जो डेटा के साथ पूरी तरह फिट होने के लिए अलग-अलग कपड़ों (गणितीय संक्रियाओं जैसे जोड़, साइन या वर्गमूल) को आपस में सिलकर, बिल्कुल नए सूट का आविष्कार कर सकता है।
हालाँकि, वास्तविक दुनिया का डेटा अव्यवस्थित होता है। यह शोर से भरा होता है, जैसे रेडियो सिग्नल में स्टेटिक (static) होता है, और यह दुर्लभ भी होता है, जैसे केवल तीन सुरों से किसी गाने की धुन का अनुमान लगाना। यदि आप केवल एक "सर्वश्रेष्ठ" सूत्र पाते हैं, तो आप इस शोर से धोखा खा सकते हैं। यहीं पर बेयसियन सोच (Bayesian thinking) काम आती है। एक एकल उत्तर पर दांव लगाने के बजाय, एक बेयसियन जासूस संभावित सिद्धांतों की एक पूरी लाइब्रेरी रखता है, और प्रत्येक को सुरागों के साथ कितनी अच्छी तरह फिट बैठता है, इसके आधार पर एक प्रायिकता (probability) प्रदान करता है। यह उन्हें यह कहने की अनुमति देता है कि, "मुझे पूरा विश्वास है कि यह सूत्र है, लेकिन इसकी एक छोटी सी संभावना यह भी है कि यह दूसरा वाला हो," जो कि डेटा दुर्लभ होने पर अत्यंत महत्वपूर्ण है। सबसे बड़ी चुनौती हमेशा यह रही है: बिना भटके, संभावित गणितीय सूत्रों की अनंत लाइब्रेरी में से सही प्रायिकताओं का मिश्रण खोजने के लिए आप कुशलतापूर्वक कैसे खोज करें?
यहाँ ERRLESS आता है, एक नया दृष्टिकोण जिसे उस्सामा बुसिफ और सहयोगियों द्वारा पेश किया गया है, जो इस खोज को एक वीडियो गेम की तरह मानता है। कल्पना कीजिए कि एक रोबोट एक जटिल लेगो (Lego) संरचना बनाने के लिए सीख रहा है, लेकिन केवल एक आदर्श टावर बनाने के बजाय, वह कई अलग-अलग टावर बनाना सीखता है, यह समझते हुए कि सुरागों को देखते हुए कौन से टावर वास्तव में "सच्ची" संरचना होने की सबसे अधिक संभावना रखते हैं। शोधकर्ता इस विधि को ERRLESS (एंट्रॉपी-रेगुलराइज्ड रीइन्फोर्समेंट लर्निंग फॉर एक्सप्रेशन स्ट्रक्चर सैंपलिंग) कहते हैं।
यह वास्तविक दुनिया के डेटा में कैसे काम करता है: टीम ने एक न्यूरल नेटवर्क (AI का एक प्रकार) को एक निर्माता के रूप में कार्य करने के लिए प्रशिक्षित किया। यह निर्माता केवल अनुमान नहीं लगाता; यह गणितीय अभिव्यक्तियों को चरण-दर-चरण बनाता है, जैसे शब्द-दर-शब्द एक वाक्य बनाना। लेकिन एक शर्त है: निर्माता को भौतिकी के सख्त नियमों का पालन करना होगा। जिस तरह आप अर्थपूर्ण परिणाम प्राप्त करने के लिए "मीटर" को "सेकंड" में नहीं जोड़ सकते, उसी तरह AI को किसी भी ऐसे गणितीय संयोजन को खारिज करने के लिए प्रोग्राम किया गया है जो भौतिक इकाइयों के नियमों को तोड़ता हो। यह एक "बॉटम-अप" दृष्टिकोण का उपयोग करके किया जाता है, जहाँ AI पहले छोटे, वैध टुकड़े बनाता है और फिर उन्हें आपस में जोड़ता है, जिससे यह सुनिश्चित होता है कि आगे बढ़ने से पहले हर कदम तर्कसंगत हो।
AI रीइन्फोर्समेंट लर्निंग (Reinforcement Learning) की प्रक्रिया के माध्यम से सीखता है, जो एक कुत्ते को ट्रीट (treat) देकर प्रशिक्षित करने जैसा है। हर बार जब AI एक ऐसा सूत्र बनाता है जो डेटा के साथ अच्छी तरह फिट बैठता है, तो उसे एक "ट्रीट" (पुरस्कार) मिलता है। लेकिन यहाँ एक चतुर मोड़ है: शोधकर्ता केवल यह नहीं चाहते थे कि AI एक एकल सर्वश्रेष्ठ सूत्र खोजे। वे चाहते थे कि AI संभावनाओं की पूरी "लाइब्रेरी" का पता लगाए। इसे करने के लिए, उन्होंने मैक्सिमम-एंट्रॉपी रीइन्फोर्समेंट लर्निंग (Maximum-Entropy Reinforcement Learning) नामक तकनीक का उपयोग किया। इसे ऐसे समझें जैसे कि आप AI को कह रहे हों, "केवल एक सबसे अच्छा रास्ता न खोजें; जितने संभव हो उतने अलग-अलग रास्तों का पता लगाएं, लेकिन सुनिश्चित करें कि आप सबसे आशाजनक रास्तों पर अधिक बार जाएँ।" यह सुनिश्चित करता है कि AI एक ही विचार पर न अटक जाए, बल्कि संभावित सूत्रों के पूरे "मानचित्र" को सीख ले।
इसके परिणाम काफी उत्साहजनक हैं। जब फेनमैन सिंबोलिक रिग्रेशन डेटाबेस पर परीक्षण किया गया—जो महान भौतिक विज्ञानी रिचर्ड फेनमैन के 100 भौतिकी सूत्रों का एक प्रसिद्ध संग्रह है—तो ERRLESS ने मौजूदा सर्वोत्तम विधियों के मुकाबले प्रतिस्पर्धी प्रदर्शन किया। यह संक्षिप्त, आसानी से पढ़े जाने वाले सूत्र खोजने में सक्षम रहा जो अन्य एल्गोरिदम द्वारा खोजे गए जटिल सूत्रों जितने ही सटीक थे। इससे भी महत्वपूर्ण बात यह है कि क्योंकि यह अनिश्चितता (बेयसियन परिप्रेक्ष्य) को पकड़ता है, इसने शोर वाले डेटा को बेहतर ढंग से संभाला। उन परीक्षणों में जहाँ डेटा कम और शोर से भरा था, ERRLESS ने एक "पोस्टीरियर प्रेडिक्टिव मीन" (सभी सबसे अच्छे अनुमानों का एक प्रकार का औसत) बनाया जो एक प्रमुख प्रतिद्वंद्वी जिसे PySIPS कहा जाता है, की तुलना में अधिक सटीक था। जहाँ PySIPS कभी-कभी जंगली और अवास्तविक अनुमानों से भ्रमित हो जाता था जो उसके औसत को बिगाड़ देते थे, वहीं ERRLESS ने अपने अनुमानों को जमीन से जुड़ा रखा, जिससे अधिक विश्वसनीय भविष्यवाणी संभव हुई।
यह पेपर यह भी रेखांकित करता है कि ERRLESS अविश्वसनीय रूप से तेज़ है। अन्य विधियों के विपरीत जिन्हें बार-बार सूत्र के नंबरों को ठीक करने के लिए रुकना पड़ता है (एक धीमी, गणनात्मक रूप से महंगी प्रक्रिया), ERRLESS सूत्र की संरचना और उसके अंदर के नंबरों, दोनों का अनुमान एक साथ लगाना सीख जाता है। यह इसे अपने कई प्रतिद्वंद्वियों की तुलना में एक क्रम (order of magnitude) अधिक तेज़ बनाता है।
हालाँकि, लेखक यह दावा करने में सावधान हैं कि यह हर समस्या के लिए एक जादुई समाधान नहीं है। वे नोट करते हैं कि जबकि ERRLESS संभावित उत्तरों के वितरण को मॉडल करने के लिए उत्कृष्ट है, यह अभी भी अत्यंत जटिल लक्षित अभिव्यक्तियों के साथ संघर्ष कर सकता है। वे यह भी बताते हैं कि उनकी विधि गणितीय ऑपरेटरों के एक विशिष्ट सेट पर निर्भर करती है और भविष्य के कार्यों में AI को अपने स्वयं के ऑपरेटर आविष्कार करने या इन विचारों को विभेदक समीकरणों (differential equations) पर लागू करने के लिए सिखाना शामिल हो सकता है।
संक्षेप में, यह पेपर सुझाव देता है कि भौतिकी के नियमों को एक स्मार्ट, खोजी AI प्रशिक्षण पद्धति के साथ जोड़कर, हम एक ऐसी प्रणाली बना सकते हैं जो न केवल एक सूत्र खोजती है, बल्कि संभावित सूत्रों के परिदृश्य को भी समझती है। यह उन मशीनों की ओर एक कदम है जो केवल नंबरों की गणना नहीं करतीं, बल्कि उन नियमों की अनिश्चितता और सुंदरता को भी समझती हैं जो हमारे ब्रह्मांड को नियंत्रित करते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।