Functional equivalence without structural convergence: A Monte Carlo study of evolutionary and evolution-strategy search in small neural network architectures
यह मोंटे कार्लो अध्ययन प्रदर्शित करता है कि विभिन्न एल्गोरिदम का उपयोग करने वाले स्वतंत्र अनुकूलन मार्ग वास्तुशिल्प रूप से विविध समाधानों के माध्यम से समान उच्च-कार्यकारी तंत्रिका नेटवर्क प्राप्त कर सकते हैं, जो यह संकेत देता है कि कार्यात्मक समानता के लिए संरचनात्मक अभिसरण आवश्यक नहीं है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
जीवित दुनिया में, जीव विज्ञान अक्सर कई अलग-अलग रास्तों के माध्यम से एक ही परिणाम प्राप्त करता है। एक हृदय रक्त पंप कर सकता है, एक न्यूरॉन सक्रिय हो सकता है, और एक सर्किट सूचना को संसाधित कर सकता है, भले ही अंतर्निहित भाग बहुत अलग तरह से व्यवस्थित हों। विभिन्न संरचनाओं द्वारा एक ही कार्य करने की इस क्षमता को 'डिजेनेरेसी' (degeneracy) कहा जाता है। यह जटिल प्रणालियों की एक मौलिक विशेषता है, जो यह सुझाव देती है कि प्रकृति समस्याओं को हल करने के लिए किसी एकल, कठोर ब्लूप्रिंट पर निर्भर नहीं रहती है। इसके बजाय, यह समाधानों के एक विशाल परिदृश्य जैसा प्रतीत होता है, जहाँ विभिन्न व्यवस्थाएँ एक ही सफल परिणाम की ओर ले जा सकती हैं। यह उन वैज्ञानिकों के लिए एक गहरा प्रश्न खड़ा करता है जो यह अध्ययन करते हैं कि प्रणालियाँ कैसे विकसित होती हैं: यदि आप अलग-अलग उपकरणों के साथ शुरुआत करते हैं और उन्हें एक ही समस्या को हल करने के लिए विकसित होने देते हैं, तो क्या वे अंततः एक ही डिज़ाइन पर पहुँच जाएँगी, या वे भिन्न बनी रहेंगी?
एक हालिया अध्ययन में स्वतंत्र शोधकर्ता लियोन सैंडलर ने एक छोटे तंत्रिका नेटवर्क (neural network) के कंप्यूटर मॉडल का उपयोग करके इस प्रश्न की खोज की है। लक्ष्य यह देखना था कि क्या अनुकूलन (optimization) के विभिन्न तरीके, एक ऐसा नेटवर्क बनाने के लिए जब कहा जाए जो जटिलता और एकीकरण के एक विशिष्ट माप को अधिकतम करता हो, एक ही साझा आर्किटेक्चर पर अभिसरित (converge) होंगे। शोधकर्ता ने नेटवर्क को नोड्स के बीच कनेक्शन का एक जाल माना, जहाँ प्रत्येक कनेक्शन की ताकत को बदला जा सकता था। उन्होंने नेटवर्क कितना "अच्छा" है, इसे मापने के तीन अलग-अलग तरीके परिभाषित किए: एक जिसने यह देखा कि हिस्से समग्र रूप से एक साथ कितनी अच्छी तरह काम करते हैं, दूसरा जिसने नेटवर्क को दो भागों में विभाजित करने के लिए आवश्यक न्यूनतम सूचना को मापा, और तीसरा जिसने यह जांचा कि क्या नेटवर्क सहकारी अंतःक्रियाओं के बजाय अतिरेक (redundant) पर निर्भर था। ये माप इस बात के स्कोरकार्ड के रूप में कार्य करते हैं कि नेटवर्क की गतिविधि कितनी समृद्ध और एकीकृत है।
सर्वश्रेष्ठ नेटवर्क खोजने के लिए, सैंडलर ने चार अलग-अलग खोज रणनीतियों का संचालन किया। एक विधि ने डिजिटल डीएनए का उपयोग किया, जहाँ नेटवर्क के भार (weights) को अक्षरों के एक अनुक्रम के रूप में कूटबद्ध किया गया था जिसे पीढ़ियों के दौरान उत्परिवर्तित (mutate) और चयनित किया जा सकता था। दूसरे ने एक मानक निरंतर जेनेटिक एल्गोरिदम का उपयोग किया, जो अक्षरों के बजाय संख्याओं के साथ समान रूप से कार्य करता है। तीसरे ने एक इवोल्यूशन रणनीति (evolution strategy) का उपयोग किया, जो अपनी खोज चरणों के आकार को समायोजित करके समाधानों को सूक्ष्म रूप से परिष्कृत करने की अपनी क्षमता के लिए जानी जाती है। चौथी विधि एक सरल रैंडम सर्च थी, जो यह देखने के लिए एक आधार रेखा (baseline) के रूप में कार्य करती थी कि क्या स्मार्ट विधियाँ वास्तव में कुछ उपयोगी कर रही हैं। सभी विधियों को उच्चतम-स्कोर वाले नेटवर्क खोजने के लिए समान कंप्यूटर समय दिया गया था।
परिणामों ने दिखाया कि स्मार्ट खोज विधियाँ रैंडम चांस की तुलना में उच्च-स्कोर वाले नेटवर्क खोजने में वास्तव में बहुत बेहतर थीं। इवोल्यूशन रणनीति सबसे सफल रही, उसके बाद जेनेटिक एल्गोरिदम आए, जबकि रैंडम सर्च एक सामान्य, गैर-अनुकूलित नेटवर्क से बेहतर कुछ भी खोजने में संघर्ष करती रही। हालाँकि, सबसे आश्चर्यजनक निष्कर्ष यह था कि विजेता नेटवर्क की संरचना के साथ क्या हुआ। इसके बावजूद कि सभी विधियों ने समान रूप से उच्च स्कोर वाले नेटवर्क खोजे, नेटवर्क एक-दूसरे से बहुत भिन्न दिखे। जब शोधकर्ता ने नेटवर्क के "कंकाल" (skeleton) की तुलना की—उनके कनेक्शनों के पैटर्न, उनके छोटे समूहों के संतुलन और एक अचानक झटके के प्रति उनकी प्रतिक्रिया को देखते हुए—तो वे एक ही आकार पर अभिसरित नहीं हुए। वास्तव में, विभिन्न विधियों द्वारा खोजे गए नेटवर्क अक्सर उतने ही भिन्न थे जितने कि दो पूरी तरह से रैंडम नेटवर्क होते।
संरचनात्मक अभिसरण (structural convergence) की यह कमी तब भी बनी रही जब शोधकर्ता ने खेल के नियम बदल दिए। उन्होंने स्थिर अवस्थाओं और अधिक जटिल, दोहराते हुए पैटर्न सहित विभिन्न प्रकार की गतिविधियों के तहत नेटवर्क का परीक्षण किया। लगभग हर मामले में, एकीकरण के मापों पर उच्च स्कोर करने वाले नेटवर्क संरचनात्मक रूप से विविध बने रहे। एकमात्र समय जब समानता का एक संकेत दिखाई दिया, वह एक नॉनलीनियर सिस्टम में व्यवधान के प्रति एक विशिष्ट प्रकार की प्रतिक्रिया को देखने पर था, और तब भी, समानता मामूली और असंगत थी। अध्ययन सुझाव देता है कि इन विशिष्ट जटिलता मापों के लिए, कोई एक "परफेक्ट" आकार नहीं है। इसके बजाय, विभिन्न प्रकार की आर्किटेक्चर मौजूद हैं जो समान रूप से अच्छी तरह से कार्य कर सकती हैं।
अध्ययन ने यह भी परीक्षण किया कि ये अनुकूलित नेटवर्क कितने नाजुक थे। जब शोधकर्ता ने एक उच्च-स्कोरिंग नेटवर्क में कनेक्शनों के एक छोटे प्रतिशत को हटा दिया, तो इसका प्रदर्शन तेजी से गिर गया, जिससे पता चला कि ये समाधान भंगुर (brittle) थे और अपने सटीक विन्यास पर बहुत अधिक निर्भर थे। जब उन्होंने क्षतिग्रस्त नेटवर्क को फिर से ठीक करने के लिए खोज एल्गोरिदम को फिर से चलाने का प्रयास किया, तो नेटवर्क ने अपने कार्य को कुछ हद तक पुनः प्राप्त कर लिया, लेकिन वे अपने मूल आकार में वापस नहीं लौटे। उन्होंने नए, अलग संरचनाएं पाईं जो क्षतिग्रस्त वाले के समान ही अच्छी तरह से काम करती थीं, जो इस विचार को पुष्ट करती हैं कि एक कार्यात्मक प्रणाली बनाने के कई अलग-अलग तरीके हैं।
अंततः, यह शोध कार्यात्मक समानता (functional equivalence) के बिना संरचनात्मक अभिसरण का एक स्पष्ट उदाहरण प्रदान करता है। यह प्रदर्शित करता है कि इन सिम्युलेटेड नेटवर्क की दुनिया में, उच्च स्तर के प्रदर्शन तक पहुँचने के लिए एक विशिष्ट, अद्वितीय डिज़ाइन की आवश्यकता नहीं है। विभिन्न विकासवादी पथ एक ही कार्यात्मक शिखर तक पहुँच सकते हैं, जबकि यात्रियों को पूरी तरह से अलग स्थानों पर छोड़ सकते हैं। यह इस विचार का समर्थन करता है कि जैविक प्रणालियाँ, जो अक्सर अलग-अलग आंतरिक वायरिंग के बावजूद समान व्यवहार दिखाती हैं, एक एकल, अपरिहार्य रूप की ओर बढ़ने के बजाय विविध, समान रूप से मान्य समाधानों से भरे परिदृश्य में नेविगेट कर रही हो सकती हैं। ये निष्कर्ष इन कंप्यूटर सिमुलेशन और विशिष्ट गणितीय मापों तक सीमित हैं, लेकिन वे एक सम्मोहक झलक प्रदान करते हैं कि जटिलता कई अलग-अलग स्रोतों से कैसे उत्पन्न हो सकती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।