Contextual encoding of states and indices for episodic memories make goal-directed action selection flexible, transparent, and efficient
यह शोध पत्र मस्तिष्क के अवस्थाओं के प्रासंगिक एन्कोडिंग और एपिसोडिक मेमोरी के लिए इंडेक्स सेल्स से प्रेरित एक हल्का, पारदर्शी और कुशल एल्गोरिदम प्रस्तावित करता है, जो अधिक जटिल सुदृढीकरण शिक्षण (रिनफोर्समेंट लर्निंग) विधियों के प्रतिस्पर्धी प्रदर्शन को प्राप्त करते हुए एज डिवाइसेस पर लचीले लक्ष्य-निर्देशित क्रिया चयन को सक्षम बनाता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
जब हम किसी नई समस्या का सामना करते हैं, तो हमारा मस्तिष्क केवल सबसे अच्छे समाधान को खोजने के लिए गणनाएँ नहीं करता है। इसके बजाय, यह हमारे अतीत में वापस जाता है, और अपने अगले कदम के मार्गदर्शन के लिए समान स्थितियों की विशिष्ट स्मृतियों को खोज निकालता है। प्रासंगिक अनुभवों को याद करने और उनके आधार पर अपने विकल्पों को समझाने की यह क्षमता मानव बुद्धि की एक पहचान है। दशकों से, वैज्ञानिक ऐसे कृत्रिम सिस्टम बनाने की कोशिश कर रहे हैं जो इस लचीलेपन की नकल कर सकें, लेकिन अधिकांश सफल तरीके जटिल गणितीय रूपों में बड़ी मात्रा में डेटा संग्रहीत करने पर निर्भर करते हैं, जिन्हें समझना कठिन होता है और जिनके लिए अत्यधिक कंप्यूटिंग शक्ति की आवश्यकता होती है। ये सिस्टम अक्सर संघर्ष करते हैं जब खेल के नियम बदल जाते हैं या जब कोई नया लक्ष्य सामने आता है, जिससे उन्हें फिर से शुरुआत से सीखना पड़ता है। शोधकर्ताओं के लिए चुनौती एक ऐसा सिस्टम बनाने की रही है जो तेजी से सीख सके, नए प्रतिबंधों के प्रति तुरंत अनुकूल हो सके, और साधारण शब्दों में अपने निर्णयों की व्याख्या कर सके, और वह भी छोटे, ऊर्जा-कुशल उपकरणों पर चलते हुए।
ग्राज़ यूनिवर्सिटी ऑफ टेक्नोलॉजी के शोधकर्ताओं ने 'एपिसोडिक कॉग्निटिव मैप' (Episodic Cognitive Map) नामक एक नया दृष्टिकोण विकसित किया है, जिसे ECM कहा जाता है, जो एक अलग रास्ता अपनाता है। सारा ज्ञान को अमूर्त संख्याओं में संकुचित करने के बजाय, यह सिस्टम एक मानव मस्तिष्क की तरह काम करता है जो अपने अनुभवों की एक विस्तृत डायरी रखता है। यह एल्गोरिदम रैंडम वॉक (random walks) लेकर एक वातावरण का अन्वेषण करता है, और अपने द्वारा उठाए गए प्रत्येक कदम को एक विशिष्ट स्मृति के रूप में रिकॉर्ड करता है। यह सिस्टम जिस तरह से अपनी स्मृतियों को संग्रहीत और उपयोग करता है, वह इसे अद्वितीय बनाता है। यह केवल यह याद नहीं रखता कि वह कहाँ गया; बल्कि यह प्रत्येक स्थान को उस विशिष्ट यात्रा से जोड़ देता है जिसका वह हिस्सा थी। यदि सिस्टम को बिंदु A से बिंदु B तक जाना है, तो यह हर संभावित पथ की दूरी या मूल्य की गणना नहीं करता है। इसके बजाय, यह अपनी पिछली यात्राओं के पुस्तकालय को देखता है और पूछता है: "मेरी पिछली यात्राओं में से कौन सी यात्रा में मैं अभी जहाँ हूँ और जहाँ मुझे जाना है, दोनों शामिल थे?" उस प्रश्न का उत्तर सीधे सर्वोत्तम अगले कदम की ओर संकेत करता है।
शोधकर्ताओं ने इस विचार का परीक्षण सिम्युलेटेड वातावरण में किया जो जटिल निर्णय लेने वाले कार्यों की नकल करते हैं, जिसमें सैकड़ों स्थानों वाले मानचित्र और ऐसी स्थितियाँ शामिल हैं जहाँ कार्यों के परिणाम अनिश्चित होते हैं। इन परीक्षणों में, ECM एल्गोरिदम उल्लेखनीय रूप से कुशल साबित हुआ। इसने सैकड़ों स्थानों वाले मानचित्रों और अनिश्चित परिणामों वाली स्थितियों सहित जटिल निर्णय लेने वाले कार्यों के साथ नेविगेट करना सीखा। महत्वपूर्ण बात यह है कि इसने अपनी स्मृति कोशिकाओं और निर्णय लेने वाले न्यूरॉन्स के बीच केवल सरल, बाइनरी कनेक्शनों का उपयोग करके यह उपलब्धि हासिल की। इसका अर्थ है कि इस सिस्टम को भारी गणितीय गणना करने या उच्च-परिशुद्धता वाली संख्याओं को संग्रहीत करने की आवश्यकता नहीं है। यह एक नया वातावरण सीख सकता है, नेविगेशन की समस्या को हल कर सकता है, और अपने चुनाव को उन विशिष्ट पिछले अनुभवों की ओर इशारा करके समझा सकता है जिन्होंने उसका समर्थन किया था, और वह भी बिना कुछ दोबारा सीखे जब लक्ष्य बदल जाता है।
इस सिस्टम की शक्ति तुरंत अनुकूल होने की इसकी क्षमता में निहित है। कई कृत्रिम बुद्धिमत्ता मॉडलों में, लक्ष्य बदलने या नया सुरक्षा नियम जोड़ने के लिए पूरे सिस्टम को फिर से प्रशिक्षित करने की आवश्यकता होती है, जो घंटों या दिनों तक चलने वाली प्रक्रिया है। हालाँकि, ECM एल्गोरिदम बहुत कम समय में अपने व्यवहार को समायोजित कर सकता है। यदि कोई रास्ता अवरुद्ध हो जाता है या कोई नया सुरक्षा प्रतिबंध लागू किया जाता है, तो सिस्टम बस अपने स्मृतियों के पुस्तकालय को फ़िल्टर करता है ताकि उन स्मृतियों को अनदेखा किया जा सके जिनमें अवरुद्ध पथ या असुरक्षित क्षेत्र शामिल हैं। इसके बाद यह शेष वैध स्मृतियों के आधार पर एक नया मार्ग चुनता है। यह लचीलापन इसे जटिल परिदृश्यों को संभालने की अनुमति देता है, जैसे कि एक शहर में नेविगेट करना जहाँ कुछ सड़कें बंद हैं या उच्च जोखिम वाले क्षेत्रों से बचना, और वह भी बिना नक्शा दोबारा सीखने के लिए रुके।
यह समझने के लिए कि यह कैसे काम करता है, कल्पना करें कि सिस्टम दूरियों के बजाय, कनेक्शनों का एक मानसिक मानचित्र बना रहा है। जब सिस्टम एक नए क्षेत्र का अन्वेषण करता है, तो वह अपनी प्रत्येक यात्रा का एक रिकॉर्ड बनाता है। इस क्षेत्र के प्रत्येक स्थान को उस विशिष्ट यात्रा के साथ टैग किया जाता है जिसमें वह दिखाई दिया था। जब सिस्टम को किसी लक्ष्य की ओर बढ़ना होता है, तो वह उस लक्ष्य से जुड़ी स्मृतियों को सक्रिय करता है। ये स्मृतियाँ फिर उन स्थानों को प्रकाशित करती हैं जो अतीत में लक्ष्य के साथ बार-बार आए थे। सिस्टम बस उस क्रिया को चुनता है जो उस स्थान की ओर ले जाती है जिसका लक्ष्य के साथ सबसे मजबूत संबंध है। यह प्रक्रिया इतनी सीधी है कि यह जटिल गणनाओं की आवश्यकता को समाप्त कर देती है। सिस्टम को हर संभावित भविष्य की स्थिति के मूल्य को जानने की आवश्यकता नहीं है; उसे केवल यह जानने की आवश्यकता है कि कौन से पिछले अनुभव वर्तमान को वांछित भविष्य से जोड़ते हैं।
शोधकर्ताओं ने यह भी पता लगाया कि यह सिस्टम समय के साथ खुद को कैसे बेहतर बना सकता है। उन्होंने पाया कि कभी-कभी पुरानी, कम उपयोगी स्मृतियों को सफल नियोजन प्रयासों से प्राप्त नई स्मृतियों से बदलकर, सिस्टम अपने आंतरिक मानचित्र को अपनी स्मृति का आकार बढ़ाए बिना परिष्कृत कर सकता है। 'रिकर्सिव सेल्फ-इम्प्रूवमेंट' (recursive self-improvement) के रूप में जानी जाने वाली यह प्रक्रिया, एल्गोरिदम को अधिक अनुभव प्राप्त करने के साथ छोटे पथ खोजने में अधिक कुशल बनाती है। यहाँ तक कि जब वातावरण अप्रत्याशित था, जहाँ कार्यों के कभी-कभी अनपेक्षित परिणाम निकलते थे, तब भी सिस्टम ने विश्वसनीय मार्ग खोजने की अपनी क्षमता बनाए रखी। इसने अपनी स्मृतियों को इस आधार पर तौलकर यह किया कि वे सफलता की ओर कितनी बार ले गईं, जिससे प्रभावी रूप से एक ऐसी रणनीति सीखी जो जोखिम और इनाम के बीच संतुलन बनाती है।
इस कार्य की सबसे महत्वपूर्ण खोजों में से एक यह है कि सिस्टम पूर्ण पारदर्शिता के साथ अपने निर्णयों की व्याख्या कर सकता है। क्योंकि प्रत्येक चुनाव पिछले अनुभवों के एक विशिष्ट सेट पर आधारित है, सिस्टम दिखा सकता है कि किन स्मृतियों ने एक विशेष क्रिया की ओर ले जाने में मदद की। यदि कोई मानव पूछता है कि सिस्टम ने एक निश्चित पथ क्यों चुना, तो यह उन विशिष्ट यात्राओं की ओर इशारा कर सकता है जिन्होंने उसके इतिहास में उस पथ को आशाजनक बनाया था। यह आधुनिक कृत्रिम बुद्धिमत्ता प्रणालियों के बिल्कुल विपरीत है, जो अक्सर "ब्लैक बॉक्स" के रूप में कार्य करती हैं जहाँ निर्णय के पीछे का तर्क जटिल गणित की परतों के भीतर छिपा होता है। ECM एल्गोरिदम एक ऐसा तरीका प्रदान करता है जिससे न केवल प्रभावी बल्कि समझने योग्य और भरोसेमंद मशीनें बनाई जा सकें।
इस शोध के निहितार्थ नेविगेशन से कहीं आगे तक फैले हुए हैं। ECM एल्गोरिदम के पीछे के सिद्धांत कृत्रिम बुद्धिमत्ता बनाने का एक नया तरीका सुझाते हैं जो हल्का, ऊर्जा-कुशल और सेंसर या रोबोट जैसे छोटे उपकरणों पर संचालित होने में सक्षम है। चूंकि यह सिस्टम जटिल फ्लोटिंग-पॉइंट गणनाओं के बजाय सरल, बाइनरी कनेक्शनों पर निर्भर करता है, इसलिए इसे ऐसे हार्डवेयर पर लागू किया जा सकता है जो बहुत कम बिजली का उपयोग करता है। यह इसे 'एज कंप्यूटिंग' (edge computing) के लिए एक आदर्श उम्मीदवार बनाता है, जहाँ उपकरणों को एक शक्तिशाली केंद्रीय कंप्यूटर से जुड़े बिना तेज़, बुद्धिमान निर्णय लेने की आवश्यकता होती है। नए संदर्भों के अनुकूल होने और अपने तर्क को समझाने की क्षमता इसे उन अनुप्रयोगों के लिए विशेष रूप से मूल्यवान बनाती है जहाँ सुरक्षा और विश्वसनीयता सर्वोपरि है।
शोधकर्ता स्वीकार करते हैं कि उनका वर्तमान कार्य उन वातावरणों पर केंद्रित है जहाँ अवस्थाएं (states) स्पष्ट रूप से परिभाषित और लेबल की गई हैं। वे इस दृष्टिकोण को अधिक जटिल स्थितियों तक विस्तारित करने की योजना बना रहे हैं जहाँ सिस्टम को अपने परिवेश को समझने के लिए कच्चे संवेदी डेटा (raw sensory data), जैसे छवियों या ध्वनियों की व्याख्या करनी पड़ती है। वे यह भी पता लगाने का लक्ष्य रखते हैं कि सिस्टम उन स्थितियों को कैसे संभालता है जहाँ वर्तमान दृश्य पर्याप्त जानकारी प्रदान नहीं करता है कि वह वास्तव में कहाँ है। इन भविष्य की चुनौतियों के बावजूद, वर्तमान परिणाम दर्शाते हैं कि एक सरल, स्मृति-आधारित दृष्टिकोण बहुत अधिक परिष्कृत तरीकों के साथ प्रतिस्पर्धा करने वाले प्रदर्शन स्तर प्राप्त कर सकता है। मानव मस्तिष्क द्वारा एपिसोडिक स्मृतियों के उपयोग से प्रेरणा लेकर, शोधकर्ताओं ने दिखाया है कि कभी-कभी सबसे शक्तिशाली समाधान वे होते हैं जो अतीत और वर्तमान के बीच सबसे सरल, सबसे प्रत्यक्ष कनेक्शनों पर निर्भर करते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।