A multi-objective evolutionary approach to neural architecture search for clinical tabular classification: balancing predictive performance and model compactness
यह शोध पत्र MOGA-NAS को प्रस्तुत करता है, जो एक बहु-उद्देश्यीय विकासवादी एल्गोरिदम (multi-objective evolutionary algorithm) है जो नैदानिक सारणीबद्ध वर्गीकरण (clinical tabular classification) के लिए पूर्वानुमानित प्रदर्शन और मॉडल की संक्षिप्तता को प्रभावी ढंग से संतुलित करता है, जिससे F1-स्कोर को अधिकतम करना और पैरामीटर गणनाओं को कम करना एक साथ संभव होता है, जिसके परिणामस्वरूप पांच सार्वजनिक बेंचमार्क में बेहतर या तुलनीय सटीकता के साथ काफी छोटे मॉडल प्राप्त होते हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक आदर्श रोबोट शेफ बनाने की कोशिश कर रहे हैं जो हृदय रोग का निदान कर सके या ट्यूमर का पता लगा सके। आप चाहते हैं कि यह शेफ अविश्वसनीय रूप से स्मार्ट (उच्च सटीकता) हो लेकिन इतना छोटा भी हो कि जेब में समा सके (कम जटिलता)। आमतौर पर, जब लोग इन AI शेफ को बनाने की कोशिश करते हैं, तो वे बस इसमें और अधिक सामग्री और उपकरण जोड़ते जाते हैं, यह सोचते हुए कि "बड़ा होना ही बेहतर है।" लेकिन यह शोध पत्र तर्क देता है कि यह एक बुरा विचार है। यह सुझाव देता है कि एक मॉडल को बहुत बड़ा बनाना एक बैकपैक में इतनी सारी किताबें ठूसने जैसा है कि वह ले जाने के लिए बहुत भारी हो जाए, भले ही वे किताबें दिलचस्प हों। परिणाम? एक अनाड़ी रोबोट जो अपने ही पैरों में फंसकर लड़खड़ा जाता है और वास्तविक दुनिया के उपकरणों पर काम करने में विफल हो जाता है।
लेखकों, इवान, मेनहाई और सफा ने एक अलग दृष्टिकोण आजमाने का निर्णय लिया। केवल अनुमान लगाने या मॉडल को बड़ा बनाने के बजाय, उन्होंने एक डिजिटल "विकासवादी खेल" (evolutionary game) बनाया जिसे MOGA-NAS कहा जाता है। इसे एक कंप्यूटर मस्तिष्क के लिए "सर्वाइवल-ऑफ-द-फिटेस्ट" (योग्यतम की उत्तरजीविता) प्रतियोगिता के रूप में समझें।
खेल के नियम: दो लक्ष्य एक साथ
अधिकांश खेलों में, आप केवल उच्चतम स्कोर प्राप्त करने की कोशिश करते हैं। इस खेल में, खिलाड़ियों को एक साथ दो लक्ष्यों को संतुलित करना होता है:
- स्मार्ट बनें: मेडिकल टेस्ट पर उच्चतम संभव स्कोर प्राप्त करें (जिसे F1-स्कोर द्वारा मापा जाता है)।
- छोटे बनें: कम से कम "हिस्सों" (पैरामीटर्स) का उपयोग करें।
पेपर का तर्क है कि केवल एक लक्ष्य (जैसे केवल स्मार्ट होना) के लिए अनुकूलन करने से फूले हुए, अक्षम मॉडल बनते हैं। इसके बजाय, उन्होंने NSGA-II नामक एक विशेष रेफरी सिस्टम का उपयोग किया। यह रेफरी केवल एक विजेता नहीं चुनता; यह एक पूरा "पारेटो फ्रंट" (Pareto front) खोजता है। एक मेनू की कल्पना करें जहाँ आप एक ऐसा मॉडल चुन सकते हैं जो बहुत स्मार्ट है लेकिन थोड़ा भारी है, या एक जो थोड़ा कम स्मार्ट है लेकिन आपकी जेब में फिट हो जाता है। इसका लक्ष्य डॉक्टरों को विकल्पों का एक मेनू देना है ताकि वे अपनी विशिष्ट हार्डवेयर के अनुसार चुनाव कर सकें।
गुप्त हथियार
इस विकास को सफल बनाने के लिए, टीम ने तीन शानदार तरकीबें ईजाद कीं:
- "न्यूरॉन-टू-सबनेटवर्क" म्यूटेशन: कल्पना करें कि आपके रोबोट का एक एकल लेगो ब्रिक अचानक अपने स्वयं के गियरों के साथ एक छोटे, आत्मनिर्भर मशीन में बदलने का निर्णय लेता है। यह रोबोट को पूरे ढांचे को बड़ा करने के बजाय केवल वहीं जटिलता जोड़ने की अनुमति देता है जहाँ इसकी आवश्यकता है।
- "इम्पॉर्टेंस गाइड" (महत्व मार्गदर्शक): सिस्टम द्वारा रोबोट के किस हिस्से को बदलने के लिए यादृच्छिक (random) चयन करने के बजाय, यह जांचता है कि कौन से हिस्से वास्तव में मुख्य काम कर रहे हैं। यह एक कोच की तरह है जो खिलाड़ी को कहता है, "अपने जूतों को मत बदलो; अपने दौड़ने के तरीके को बदलो," क्योंकि जूतों की समस्या नहीं है।
- "8-बिट कोड": उन्होंने रोबोट के डिज़ाइन को लिखने का एक बहुत ही संक्षिप्त तरीका इस्तेमाल किया (जैसे एक लंबे निबंध के बजाय एक छोटे कोड का उपयोग करना)। पेपर का सुझाव है कि यह एक "रेगुलराइज़र" (regularizer) के रूप में कार्य करता है, जो एक फैंसी तरीका है यह कहने का कि यह रोबोट को सरल रहने के लिए मजबूर करता है और इसे सबक सीखने के बजाय टेस्ट के उत्तर रटने से रोकता है।
परिणाम: छोटा लेकिन शक्तिशाली
टीम ने हृदय रोग के रिकॉर्ड से लेकर स्तन कैंसर के डेटा तक, पांच अलग-अलग मेडिकल डेटासेट्स पर इस पद्धति का परीक्षण किया। उन्होंने यह सुनिश्चित करने के लिए प्रयोग को 15 बार चलाया (तीन अलग-अलग रैंडम शुरुआती बिंदुओं और पांच अलग-अलग डेटा स्प्लिट्स का उपयोग करके) कि परिणाम केवल किस्मत की वजह से नहीं थे।
उन्होंने पाया:
- प्रदर्शन: पांच में से चार डेटासेट्स पर, उनके विकसित किए गए रोबोटों ने उच्चतम औसत स्कोर प्राप्त किया। पांचवें डेटासेट (विस्कॉन्सिन ब्रेस्ट कैंसर) पर, वे सबसे पारंपरिक पद्धति (एक सपोर्ट वेक्टर मशीन) के साथ बराबरी पर रहे। पेपर में कहा गया है कि इस विशिष्ट डेटासेट पर, अंतर इतना कम था कि वह सांख्यिकीय रूप से अविभेद्य था।
- आकार: यह बड़ी जीत है। उनके द्वारा बनाए गए मॉडल बहुत छोटे थे—जिनमें केवल लगभग 100 से 480 पैरामीटर्स शामिल थे। अन्य तरीकों की तुलना करें जो अक्सर हजारों पैरामीटर्स का उपयोग करते हैं। पेपर नोट करता है कि यह "एक से दो ऑर्डर ऑफ मैग्नीट्यूड" छोटा है।
- विश्वसनीयता: जब उन्होंने गणित की जांच की (पेयर्ड विलकॉक्सन साइन्ड-रैंक टेस्ट नामक एक सांख्यिकीय परीक्षण का उपयोग करके), तो उन्होंने पाया कि 65 में से 61 तुलनाओं में, उनकी पद्धति अन्य लोगों की तुलना में सांख्यिकीय रूप से बेहतर थी।
वे स्पष्ट रूप से क्या खारिज करते हैं
यह पेपर बहुत सावधानी से कहता है कि यह पद्धति क्या नहीं है।
- यह सब कुछ हल करने वाला कोई जादुई समाधान (magic bullet) नहीं है। लेखक स्पष्ट रूप से कहते हैं कि वे कच्चे पावर के मामले में एक "नया स्टेट-ऑफ-द-आर्ट" होने का दावा नहीं कर रहे हैं। कुछ डेटासेट्स पर, सुधार एक "सांख्यिकीय टाई" था, न कि कोई बड़ी जीत।
- यह मुफ्त नहीं है। पेपर का तर्क है कि हालांकि अंतिम रोबोट छोटा और तेज़ है, लेकिन इसे बनाने की प्रक्रिया (सर्च) में समय लगता है। एक मानक कंप्यूटर पर इसमें "प्रति फोल्ड मिनटों के क्रम में" समय लगता है, जो एक साधारण मॉडल को प्रशिक्षित करने में लगने वाले "एक सेकंड से भी कम" समय की तुलना में बहुत धीमा है। यदि आप जल्दी में हैं और विकास पूरा होने का इंतज़ार नहीं कर सकते, तो एक साधारण, पहले से ट्यून किया गया मॉडल अभी भी बेहतर विकल्प हो सकता है।
- यह बड़े डेटासेट्स के लिए सिद्ध नहीं है। पेपर स्पष्ट रूप से अपने दावों को "छोटे-से-मध्यम" डेटासेट्स तक सीमित करता है (सबसे बड़ा जिसमें लगभग 1,151 उदाहरण थे)। वे स्वीकार करते हैं कि उन्हें अभी यह नहीं पता कि क्या यह लाखों रिकॉर्ड वाले विशाल डेटा पर काम करता है।
निष्कर्ष
पेपर का सुझाव है कि इस मल्टी-ऑब्जेक्टिव इवोल्यूशनरी सर्च का उपयोग करना एक "अनुकूल और पुनरुत्पादनीय समझौता" (favourable and reproducible trade-off) है। यह एक तरीका प्रदान करता है जिससे एक विशाल, बोझिल मॉडल बनाए बिना शीर्ष श्रेणी के मेडिकल प्रेडिक्शन प्राप्त किए जा सकें। यह एक स्विस आर्मी नाइफ खोजने जैसा है जो एक पूर्ण आकार के शेफ नाइफ जितना ही तेज है लेकिन आपकी जेब में फिट हो जाता है।
हालाँकि, लेखक इसकी लागत के बारे में ईमानदार हैं: आपको उस सटीक, संक्षिप्त डिज़ाइन को खोजने के लिए शुरुआत में एक "सर्च बजट" (समय और कंप्यूटिंग पावर) खर्च करना होगा। यदि आपके पास विकास चलाने का समय है, तो आपको एक छोटा, कुशल मॉडल मिलता है। यदि आपको तुरंत उत्तर चाहिए, तो पुराने तरीके अभी भी आपके लिए सबसे अच्छे हो सकते हैं। अध्ययन का सुझाव है कि यह दृष्टिकोण विशेष रूप से उन क्लिनिकल सेटिंग्स के लिए मूल्यवान है जहाँ उपकरण छोटे या बिजली/पावर की सीमित क्षमता वाले हो सकते हैं, लेकिन यह इन विशिष्ट परीक्षणों पर आधारित एक सुझाव है, न कि सभी मेडिकल AI के लिए एक सार्वभौमिक नियम।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।