Using Data-Derived Priors to Guide CNN Architecture Design for NIR Chemometrics
यह शोध पत्र प्रदर्शित करता है कि एंट्रॉपी (entropy), इंट्रिंसिक रैंक (intrinsic rank) और वेवलेट संरचना (wavelet structure) जैसे स्पेक्ट्रल डिस्क्रिप्टर्स, नियर-इन्फ्रारेड केमियोमेट्रिक्स के लिए व्याख्या योग्य 1D-CNN आर्किटेक्चर के डिज़ाइन और हाइपरपैरामीटर अनुकूलन को निर्देशित करने के लिए प्रभावी डेटा-व्युत्पन्न प्रायर्स (data-derived priors) के रूप में कार्य कर सकते हैं, जो व्यापक बायेसियन सर्च (Bayesian search) के तुलनीय प्रदर्शन प्राप्त करते हुए लक्षित-विशिष्ट ट्यूनिंग की आवश्यकता को कम करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रहस्य सुलझाने की कोशिश कर रहे हैं एक जासूस के रूप में, लेकिन उंगलियों के निशान खोजने के बजाय, आप प्रकाश में छिपे सुरागों की तलाश कर रहे हैं। रसायन विज्ञान की दुनिया में, वैज्ञानिक एक विशेष प्रकार की टॉर्च का उपयोग करते हैं जिसे नियर-इन्फ्रारेड (NIR) स्पेक्ट्रोस्कोपी कहा जाता है। जब यह प्रकाश किसी नमूने से टकराता है—जैसे कि फल का एक टुकड़ा, गेहूं का एक दाना, या दवा की एक बोतल—तो यह एक अनूठे पैटर्न के साथ वापस लौटता है, जैसे कि तरंगों से बनी एक उंगलियों के निशान की छाप। ये पैटर्न हमें बताते हैं कि वह वस्तु किस चीज से बनी है, जैसे कि एक सेब में कितनी चीनी है या आटे की एक बोरी में कितना प्रोटीन है।
वर्षों तक, समस्या तस्वीर लेने की नहीं थी; बल्कि उस पैटर्न को समझने की थी। वैज्ञानिक पहले उत्तर का अनुमान लगाने के लिए सरल गणितीय ट्रिक्स पर निर्भर रहते थे। लेकिन हाल ही में, उन्होंने "डीप लर्निंग" का उपयोग करना शुरू किया, जो एक सुपर-स्मार्ट कंप्यूटर मस्तिष्क को अपने आप प्रकाश के इन पैटर्न को पढ़ना सिखाने जैसा है। यह मस्तिष्क एक संरचना का उपयोग करके बनाया गया है जिसे 'कन्वोल्यूशनल न्यूरल नेटवर्क' (CNN) कहा जाता है। एक CNN को एक छोटी डिटेक्टिव टीम की तरह समझें, जिसमें से प्रत्येक सदस्य प्रकाश के पैटर्न के एक छोटे से हिस्से की जांच करता है ताकि सुराग खोज सके। समस्या यह थी कि वास्तव में कोई नहीं जानता था कि हर अलग तरह के रहस्य के लिए इन डिटेक्टिव टीमों का आकार कितना होना चाहिए, या हमें कितने लोगों को काम पर रखना चाहिए। आमतौर पर, वैज्ञानिक केवल अनुमान लगाते थे, और चेहरे की पहचान (facial recognition) जैसे अन्य क्षेत्रों के नियमों को उधार लेते थे, भले ही एक चेहरा प्रकाश के स्पेक्ट्रम से बहुत अलग दिखता हो।
यह शोध एक सरल लेकिन शानदार प्रश्न पूछता है: क्या हम अपनी डिटेक्टिव टीम बनाने से पहले प्रकाश के पैटर्न को देख सकते हैं और इसका उपयोग यह बताने के लिए कर सकते हैं कि हमारी टीम को ठीक से कैसे डिजाइन किया जाए? लेखक, डारियो पासोस ने इस विचार का परीक्षण करने के लिए प्रकाश के पैटर्न को सुरागों के एक सेट की तरह माना, जो सबसे अच्छे कंप्यूटर मस्तिष्क को बनाने के लिए एक "चीट शीट" (cheat sheet) दे सकते हैं।
इस अध्ययन में 25 अलग-अलग वास्तविक दुनिया के रहस्यों को देखा गया, जिनमें जौ में नमी की जांच करने से लेकर जैतून के तेल की गुणवत्ता मापने तक शामिल थे। प्रत्येक रहस्य के लिए, लेखक ने पहले कुछ "डिस्क्रिप्टर्स" (descriptors) की गणना की—सरल संख्याएं जो प्रकाश के पैटर्न के आकार और जटिलता का वर्णन करती हैं। कुछ संख्याओं ने यह मापा कि प्रकाश कितना "शोर भरा" (noisy) या अराजक था (एन्ट्रॉपी), जबकि अन्य ने यह मापा कि प्रकाश की तरंगें खुद को कितनी बार दोहराती हैं (ऑटोकोरिलेशन) या प्रकाश में विवरणों की कितनी अलग-अलग "परतें" (layers) थीं (इंट्रिंसिक रैंक)।
एक बार जब ये संख्याएं गणना की गईं, तो लेखक ने एक बड़ा प्रयोग चलाया। उन्होंने प्रत्येक 25 रहस्यों के लिए सबसे अच्छा CNN डिजाइन खोजने के लिए एक स्मार्ट कंप्यूटर खोज (जिसे हाइपरपैरामीटर ऑप्टिमाइजेशन कहा जाता है) का उपयोग किया। यह हजारों अलग-अलग टीम के आकार और डिटेक्टिव के दायरे को देखने जैसा था ताकि यह देखा जा सके कि कौन सा पहेली को सबसे अच्छी तरह से सुलझाता है। फिर, लेखक ने एक पैटर्न की तलाश की: क्या प्रकाश की "अराजकता" (noisiness) हमेशा एक विशिष्ट टीम के आकार की ओर ले जाती थी? क्या तरंगों की "पुनरावृत्ति" (repetition) हमेशा डिटेक्टिव की एक निश्चित संख्या का सुझाव देती थी?
परिणाम आश्चर्यजनक रूप से स्पष्ट थे। अध्ययन में पाया गया कि CNN को डिजाइन करने के लिए सबसे महत्वपूर्ण सुराग "रिसेप्टिव फील्ड" (receptive field) था—जो केवल एक फैंसी तरीका है यह कहने का कि प्रत्येक डिटेक्टिव एक बार में प्रकाश के पैटर्न के कितने चौड़े हिस्से को देखता है। शोध से पता चलता है कि यदि प्रकाश का पैटर्न बहुत चिकना और दोहराव वाला (कम एन्ट्रॉपी) है, तो डिटेक्टिव को बड़ी तस्वीर पकड़ने के लिए एक व्यापक हिस्से को देखना चाहिए। हालांकि, यदि प्रकाश का पैटर्न अराजक है और इसमें सूक्ष्म, अद्वितीय विवरण भरे हुए हैं (उच्च एन्ट्रॉपी), तो उन्हें बारीक अक्षरों को मिस करने से बचने के लिए बहुत संकीकर हिस्से पर ध्यान केंद्रित करना चाहिए।
लेखक ने यह भी पाया कि डेटासेट का आकार मायने रखता है। जब सीखने के लिए कई नमूने उपलब्ध होते हैं (एक बड़ा ट्रेनिंग सेट), तो कंप्यूटर मस्तिष्क बेहतर सीखता है यदि वह छोटे, अधिक सावधानीपूर्ण कदम उठाता है (एक कम लर्निंग रेट)। लेकिन यदि केवल कुछ ही नमूने हैं, तो उसे जल्दी सीखने के लिए बड़े, साहसी कदम उठाने की आवश्यकता होती है।
इन विचारों को सिद्ध करने के लिए, लेखक ने "वार्म-स्टार्ट" (warm-start) नियम बनाए। कल्पना कीजिए कि ये नियम एक नई नौकरी के लिए पहले से भरे हुए आवेदन पत्र की तरह हैं। अपने CNN को बनाने के लिए शून्य से शुरू करने और अनुमान लगाने के बजाय, आप बस अपने प्रकाश पैटर्न से संख्याएं दर्ज करते हैं, और नियम आपको ठीक से बताते हैं कि अपनी डिटेक्टिव टीम को कैसे स्थापित किया जाए। अध्ययन में इन नियमों का परीक्षण नए डेटा पर किया गया और पाया गया कि वे लगभग उतने ही अच्छे थे जितना कि वह सुपर-कंप्यूटर खोज जिसे चलने में घंटों लगते हैं। वास्तव में, सरल मॉडलों के लिए, नियम इतने अच्छी तरह से काम करते थे कि वे अक्सर उन "मानक" अनुमानों को भी मात दे देते थे जिन्हें वैज्ञानिक आमतौर पर उपयोग करते हैं।
हालांकि, पेपर इस बात के प्रति सावधान है कि यह दावा न करे कि यह सब कुछ हल करने वाला कोई जादुई हथियार है। लेखक नोट करता है कि जबकि ये नियम शुरुआत करने के लिए बेहतरीन हैं, वे अंतिम जांच की आवश्यकता को पूरा नहीं करते हैं। कभी-कभी, प्रकाश के पैटर्न इतने पेचीदा होते हैं कि सबसे अच्छे नियमों को भी थोड़े अतिरिक्त ट्यूनिंग की आवश्यकता होती है। इसके अलावा, अध्ययन में पाया गया कि अधिक जटिल, बहु-स्तरीय डिटेक्टिव टीमों के लिए, नियम थोड़े अस्पष्ट थे, जिससे पता चलता है कि हालांकि "देखने की चौड़ाई" एक प्रमुख नियम है, अन्य हिस्सों को केवल प्रकाश पैटर्न से अनुमान लगाना कठिन है।
अंत में, यह पेपर सुझाव देता है कि अब हमें रसायन विज्ञान के लिए अपने AI को बनाने के लिए अनुमान लगाने की आवश्यकता नहीं है। केवल प्रकाश डेटा के "व्यक्तित्व" को मापकर—कि वह कितना चिकना है, कितना शोर भरा है, या कितना लंबा है—हम अपने कंप्यूटर मस्तिष्क को एक अच्छी शुरुआत दे सकते हैं। यह एक मानचित्र होने जैसा है जो आपको घर से निकलने से पहले ही बताता है कि आपको किस तरह के जूते पहनने चाहिए, जो उस इलाके पर आधारित है जिस पर आप चलने वाले हैं। यह दृष्टिकोण समय बचाता है, कंप्यूटिंग शक्ति बचाता है, और वैज्ञानिकों को एक समय में एक प्रकाश पैटर्न के माध्यम से हमारे आसपास की दुनिया को समझने के लिए बेहतर मॉडल बनाने में मदद करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।