Automating data splitting and hyper-parameters tuning in an Echo State Network-based model for Dynamic Aperture prediction

कल्पना कीजिए कि आप एक विशाल, घुमावदार, अदृश्य भूलभुलैया के भीतर मधुमक्खियों के झुंड के भविष्य के पथ की भविष्यवाणी करने की कोशिश कर रहे हैं। कण भौतिकी (particle physics) की दुनिया में, ये "मधुमक्खियाँ" एक विशाल रिंग के चारों ओर चक्कर लगा रहे प्रोटॉन के बीम हैं। यह "भूलभुलैया" शक्तिशाली चुंबकों से बनी है जो उन्हें निर्देशित करते हैं। लेकिन समस्या यह है कि चुंबक दोषरहित नहीं होते। उनमें सूक्ष्म कंपन और खामियां होती हैं, ठीक वैसे ही जैसे वास्तविक दुनिया की भूलभुलैया की कोई दीवार थोड़ी टेढ़ी हो सकती है। इन कंपनों के कारण, मधुमक्खियाँ केवल आदर्श वृत्तों में नहीं उड़तीं; वे डगमगाती हैं, नृत्य करती हैं, और कभी-कभी, यदि वे किनारे के बहुत करीब पहुँच जाती हैं, तो वे दीवारों से टकराकर गायब हो जाती हैं।

वैज्ञानिक उस सुरक्षित क्षेत्र को "डायनेमिक एपर्चर" (Dynamic Aperture) कहते हैं जहाँ मधुमक्खियाँ बिना टकराए अनंत काल तक उड़ सकती हैं। यह एक सुरक्षित खेल के मैदान के आकार की तरह है। इस खेल के मैदान के सटीक आकार का पता लगाने के लिए आमतौर पर लाखों कंप्यूटर सिमुलेशन चलाने की आवश्यकता होती है, जिसमें मधुमक्खियों द्वारा लिए जा सकने वाले हर संभावित पथ की जाँच की जाती है। यह इतना भारी गणनात्मक कार्य है कि यह समुद्र के तट पर रेत के हर कण को एक-एक करके उठाने जैसा है। काम को तेज करने के लिए, शोधकर्ताओं ने एक विशेष प्रकार के AI का उपयोग करना शुरू किया है जिसे "इको स्टेट नेटवर्क" (Echo State Network) कहा जाता है। इस AI को एक बहुत बुद्धिमान छात्र के रूप में समझें जो मधुमक्खियों के उड़ने का एक छोटा वीडियो देखता है और फिर अनुमान लगाता है कि वे लंबे समय बाद कहाँ होंगी। लेकिन इस छात्र के सटीक होने के लिए, आपको उसे सही मात्रा में प्रशिक्षण डेटा दिखाना होगा—बहुत कम नहीं, अन्यथा वह भ्रमित हो जाएगा; और बहुत अधिक भी नहीं, अन्यथा वह समय बर्बाद करेगा।

यह शोध पत्र उस AI छात्र को अधिक कुशलता से सीखने के तरीके के बारे में है। शोधकर्ता यह पता लगाना चाहते थे कि डेटा को विभाजित करने का सही तरीका क्या है: छात्र को कितना अध्ययन करना चाहिए (प्रशिक्षण/training), अभ्यास के लिए कितना मिलना चाहिए (सत्यापन/validation), और परीक्षण के लिए कितना होना चाहिए (परीक्षण/testing)? उन्होंने पाया कि यह देखकर कि "सुरक्षित खेल का मैदान" समय के साथ कितनी तेजी से सिकुड़ रहा है, वे स्वचालित रूप से यह तय कर सकते हैं कि सिमुलेशन को कब रोकना है और AI को कार्यभार सौंपना है। उन्होंने एक स्मार्ट सिस्टम भी बनाया जो AI के लिए सर्वोत्तम सेटिंग्स को स्वचालित रूप से चुन लेता है, ताकि वैज्ञानिकों को अनुमान लगाने और बार-बार प्रयास करने की आवश्यकता न पड़े। इसका परिणाम यह है कि यह विधि कण बीमों को सिम्युलेट करने में लगने वाले समय को 20 के कारक से कम कर देती है, जिससे अगली पीढ़ी के पार्टिकल एक्सेलरेटर को डिजाइन करना बहुत तेज़ हो जाता है।

बुद्धिमान छात्र और सिकुड़ते खेल के मैदान की कहानी

लार्ज हैड्रोन कोलाइडर (LHC) जैसे पार्टिकल एक्सेलरेटर की दुनिया में, वैज्ञानिकों को "डायनेमिक एपर्चर" (DA) जानने की आवश्यकता होती है। आप DA को कणों के बीम के लिए सुरक्षा क्षेत्र के आकार के रूप में देख सकते हैं। यदि कण इस क्षेत्र के भीतर रहते हैं, तो वे घंटों तक खुशी-खुशी चक्कर लगाते रहते हैं। यदि वे इससे बाहर निकल जाते हैं, तो वे दीवारों से टकरा जाते हैं और खो जाते हैं। इस क्षेत्र के सटीक आकार को खोजने के लिए, भौतिक विज्ञानी आमतौर पर रिंग के आसपास लाखों चक्करों के लिए कणों को ट्रैक करने वाले विशाल कंप्यूटर सिमुलेशन चलाते हैं। यह अविश्वसनीय रूप से धीमा और कंप्यूटर शक्ति के मामले में महंगा है।

इसे हल करने के लिए, इस शोध पत्र के लेखकों ने इको स्टेट नेटवर्क (ESN) नामक एक मशीन लर्निंग तकनीक का उपयोग किया। ESN को एक ऐसे छात्र के रूप में कल्पना करें जो कणों के हिलने का एक छोटा क्लिप देखता है और फिर उनके पथ की दूर भविष्य के लिए भविष्यवाणी करने की कोशिश करता है। एक पिछले अध्ययन में, लेखकों ने दिखाया था कि यह "छात्र" भविष्य के सुरक्षा क्षेत्र के आकार की काफी अच्छी भविष्यवाणी कर सकता है, विशेष रूपकर जब इसे एक गणितीय सूत्र (जिसे स्केलिंग लॉ कहा जाता है) के साथ जोड़ा जाता है जो यह बताता है कि यह क्षेत्र समय के साथ कैसे सिकुड़ता है।

हालाँकि, एक समस्या थी: शोधकर्ताओं को अपने डेटा को मैन्युअल रूप से विभाजित करने का निर्णय लेना पड़ता था। उन्हें छात्र को कुछ डेटा देना पड़ता था जिससे वह सीख सके (प्रशिक्षण), कुछ अभ्यास के लिए (सत्यापन), और कुछ उनके अंतिम कौशल के परीक्षण के लिए (परीक्षण)। यदि वे छात्र को सीखने के लिए बहुत कम डेटा देते, तो छात्र परीक्षण में विफल हो जाता। यदि वे उन्हें बहुत अधिक देते, तो वे कीमती सिमुलेशन समय बर्बाद करते।

बड़ी खोज: "सिकुड़ने" का सुराग
लेखकों ने एक सरल प्रश्न पूछा: क्या हम इस निर्णय को स्वचालित कर सकते हैं? उन्होंने देखा कि सुरक्षा क्षेत्र का आकार एक स्थिर गति से नहीं सिकुड़ता है। शुरुआत में, यह तेजी से गिरता है, जैसे एक गेंद ढलान वाली पहाड़ी से नीचे गिर रही हो। लेकिन कुछ समय बाद, गिरावट धीमी हो जाती है, और क्षेत्र बहुत धीरे-धीरे सिकुड़ता है, जैसे एक गेंद समतल जमीन पर लुढ़क रही हो।

शोधकर्ताओं ने पाया कि इस गिरावट की "गति" (स्केलिंग लॉ का डेरिवेटिव) ही मुख्य कुंजी है। उन्होंने पाया कि यदि वे सिमुलेशन को रोक देते हैं और ठीक उसी समय AI को कार्यभार सौंप देते हैं जब गिरावट धीमी होने लगती है, तो AI की भविष्यवाणियां अविश्वसनीय रूप से सटीक होती हैं। इस "गति" को देखकर, वे कंप्यूटर को स्वचालित रूप से बता सकते थे: "ठीक है, आपने पर्याप्त चक्कर सिम्युलेट कर लिए हैं। अब, इको स्टेट नेटवर्क को काम पूरा करने दें।"

परिणाम: गति और सटीकता
जब उन्होंने हाई-ल्यूमिनोसिटी LHC (HL-LHC) के डेटा और हेनॉन मैप (Hénon map) नामक एक गणितीय मॉडल पर इस विचार का परीक्षण किया, तो उन्हें कुछ शानदार परिणाम मिले:

• जादुई संख्या: उन्होंने निर्धारित किया कि AI को ठीक से सीखने के लिए कुल डेटा का लगभग 30% से 35% देखने की आवश्यकता होती है। इससे कम होने पर भविष्यवाणियां गड़बड़ा जाती हैं।
• 20 गुना तेजी: इस स्वचालित विभाजन पद्धति का उपयोग करके, वे धीमे कंप्यूटर सिमुलेशन को जल्दी रोक सकते थे और बाकी हिस्से की भविष्यवाणी करने के लिए AI का उपयोग कर सकते थे। इसने HL-LHC सिमुलेशन के लिए पूरी प्रक्रिया को 20 गुना तेज़ बना दिया।
• नगण्य त्रुटियां: यहाँ तक कि भविष्य की बहुत लंबी अवधि (डेटा के सिम्युलेशन समय से 1,000 गुना अधिक लंबा) की भविष्यवाणी करते समय भी, उनकी भविष्यवाणियों में त्रुटि केवल लगभग 1% थी। यह चंद्रमा की दूरी का अनुमान लगाने और केवल कुछ मीटर की गलती होने जैसा है।

छात्र को अपनी सेटिंग्स खुद चुनने के लिए सिखाना
शोध पत्र ने एक और सिरदर्द को भी हल किया: AI के लिए सही "सेटिंग्स" (हाइपर-पैरामीटर्स) चुनना। आमतौर पर, वैज्ञानिकों को इन सेटिंग्स का अनुमान लगाना पड़ता है, उन्हें आज़माना पड़ता है, और उम्मीद करनी पड़ती है कि परिणाम अच्छा हो। लेखकों ने बायेसियन ऑप्टिमाइज़ेशन (विशेष रूप से ट्री-स्ट्रक्चर्ड पारज़न एस्टिमेटर नामक विधि) नामक एक स्मार्ट टूल का उपयोग किया ताकि कंप्यूटर स्वचालित रूप से सर्वोत्तम सेटिंग्स खोज सके।

उन्होंने इस अनुकूलन प्रक्रिया को 50 बार चलाया ताकि यह देखा जा सके कि यह कितनी सुसंगत है। परिणाम बहुत स्थिर थे:

• औसत त्रुटि 1% से नीचे रही।
• यहाँ तक कि "सबसे खराब-मामले" वाले परिदृश्य (सबसे कठिन सिमुलेशन) भी शायद ही कभी 2% की त्रुटि से ऊपर गए।
• इससे यह सिद्ध हुआ कि AI केवल एक बार भाग्यशाली नहीं होता है; यह लगातार सही सेटिंग्स पाता है ताकि सटीक भविष्यवाणियां की जा सकें।

यह क्यों महत्वपूर्ण है
यह कार्य केवल गणित को सुंदर बनाने के लिए नहीं है; यह भविष्य के पार्टिकल एक्सेलरेटर को डिजाइन करने में आने वाली एक वास्तविक बाधा को हल करता है। डेटा विभाजन और AI ट्यूनिंग को स्वचालित करके, वैज्ञानिक अब यह भविष्यवाणी कर सकते हैं कि उनके मशीनें लंबे समय तक कैसे प्रदर्शन करेंगी, बिना कंप्यूटर सिमुलेशन के पूरा होने के लिए दिनों या हफ्तों का इंतजार किए। यह पार्टिकल भौतिकविदों को एक ऐसे क्रिस्टल बॉल देने जैसा है जो उनके पुराने टेलीस्कोप की तुलना में 20 गुना तेज़ी से काम करता है, जिससे उन्हें ब्रह्मांड की खोज के लिए सुरक्षित और अधिक शक्तिशाली मशीनें डिजाइन करने में मदद मिलती है।