Variational meta-learning inference for low dimensional neural system identification
यह शोध पत्र लो-डेटा न्यूरल सिस्टम आइडेंटिफिकेशन कार्यों में कैलिब्रेटेड अनसर्टेन्टी क्वांटिफिकेशन और रोबस्ट परफॉरमेंस प्राप्त करने के लिए एमोर्टाइज्ड वेरिएशनल इन्फरेंस और लैप्लेस एप्रोक्सिमेशन का उपयोग करते हुए मैनिफोल्ड मेटा-लर्निंग फ्रेमवर्क का एक पूर्णतः प्रोबेबिलिस्टिक विस्तार प्रस्तावित करता है।
मूल पेपर CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/) के तहत सार्वजनिक डोमेन को समर्पित है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को अलग-अलग प्रकार के संगीत को पहचानना सिखाने की कोशिश कर रहे हैं। यदि आप रोबोट को एक मिलियन गाने अध्ययन करने के लिए देते हैं, तो वह कुछ भी पूरी तरह से सीख सकता है। लेकिन क्या होगा यदि आप उसे एक गाने के केवल तीन सेकंड देते हैं और उससे पूरी धुन का अनुमान लगाने के लिए कहते हैं? एक मानक "स्मार्ट" रोबोट घबरा सकता है, गलत अनुमान लगा सकता है, या यह दिखावा कर सकता है कि उसे उत्तर पता है जबकि वास्तव में उसे कोई अंदाजा नहीं होता। यह "लो-डेटा" (कम डेटा) लर्निंग की समस्या है: हम आर्टिफिशियल इंटेलिजेंस को विश्वसनीय कैसे बनाएं जब हमारे पास उसे खिलाने के लिए पर्याप्त जानकारी न हो?
इसे हल करने के लिए, वैज्ञानिक मेटा-लर्निंग नामक एक ट्रिक का उपयोग करते हैं। इसे इस तरह न समझें कि आप रोबोट को एक विशिष्ट गाना सिखा रहे हैं, बल्कि इसे यह सिखाना है कि सामान्य रूप से गाने कैसे सीखे जाते हैं। यह ऐसा है जैसे आप रोबोट को एक संगीत कान दे रहे हैं जो लय और धुन को समझता है, ताकि जब वह एक छोटा सा अंश सुने, तो वह पहले से जो जानता है उसके आधार पर खाली जगहों को तुरंत भर सके। एक अन्य प्रमुख विचार है अनिश्चितता (uncertainty)। एक वास्तव में स्मार्ट सिस्टम को केवल अनुमान नहीं लगाना चाहिए; उसे यह पता होना चाहिए कि वह अनुमान लगा रहा है। उसे कहना चाहिए, "मुझे काफी यकीन है कि यह एक जैज़ धुन है," या "मुझे बिल्कुल अंदाजा नहीं है, लेकिन मैं अनुमान लगा रहा हूँ कि यह शायद ओपेरा नहीं है।" आप जिस पेपर को पढ़ने जा रहे हैं वह एक ऐसा रोबलेट बनाने की चुनौती से निपटता है जो बहुत कम डेटा से तेजी से जटिल प्रणालियों को सीख सके, और साथ ही इस बात के प्रति ईमानदार भी रहे कि वह कितना आश्वस्त है।
पेपर का बड़ा विचार: एक संभाव्य क्रिस्टल बॉल (A Probabilistic Crystal Ball)
शोधकर्ता, मॅटेओ रुफ़ोलो, डारियो पिगा और मार्को फोर्गियोन, इन "मेटा-लर्निंग" रोबोट्स को और भी स्मार्ट बनाने के तरीके पर काम कर रहे हैं। उन्होंने एक मौजूदा विधि ली जो पहले से ही कम मात्रा में डेटा से सीखने में काफी अच्छी थी और उसे एक "अंतर्ज्ञान" (gut feeling) दिया।
कंप्यूटर विज्ञान की दुनिया में, जिस विधि में उन्होंने सुधार किया है उसे मैनिफ़ोल्ड मेटा-लर्निंग (Manifold Meta-Learning) कहा जाता है। एक विशाल, अव्यवस्थित लाइब्रेरी की कल्पना करें जिसमें मशीन के व्यवहार के सभी संभावित तरीके मौजूद हैं। इस लाइब्रेरी की अधिकांश किताबें निरर्थक हैं। "मैनिफ़ोल्ड" इस लाइब्रेरी के माध्यम से एक गुप्त, छिपे हुए मार्ग की तरह है जिसमें केवल वे वास्तविक तरीके शामिल हैं जिनसे मशीनें वास्तव में काम करती हैं। पुराना तरीका इस मार्ग को खोज सकता था और किसी विशिष्ट मशीन का प्रतिनिधित्व करने के लिए उस पर एक बिंदु चुन सकता था। यह एक GPS की तरह था जो आपको एक सटीक निर्देशांक (coordinate) देता था: "मशीन यहाँ है।"
लेकिन समस्या यह है: यदि आपके पास केवल कुछ ही सुराग (डेटा पॉइंट्स) हैं, तो वह एकल निर्देशांक गलत हो सकता है। पुराने GPS ने यह नहीं बताया कि उसका सिग्नल कितना अस्थिर था। नया पेपर एक वेरिएशनल मेटा-लर्निंग (Variational Meta-Learning) दृष्टिकोण प्रस्तावित करता है। केवल एक निर्देशांक देने के बजाय, यह नया तरीका आपको संभावनाओं का एक "बादल" (cloud) देता है। यह कहता है, "मशीन संभवतः इसके आसपास है, लेकिन यह थोड़ा वहाँ भी हो सकती है, और हम 99% सुनिश्चित हैं कि यह बहुत दूर नहीं है।"
उन्होंने यह कैसे किया: "अंतर्ज्ञान" अपग्रेड
लेखकों ने एक ऐसा सिस्टम बनाया जो एक जेनरेटिव प्रायर (generative prior) सीखता है। इसे रोबोट की आंतरिक लाइब्रेरी "क्या समझ में आता है" के रूप में समझें। एक नई मशीन को देखने से पहले ही, उसने पहले से ही सीखा हुआ है कि ये मशीनें आमतौर पर कैसे व्यवहार करती हैं।
जब रोबोट बहुत कम डेटा के साथ एक नई प्रणाली का सामना करता है, तो वह केवल एक उत्तर का अनुमान नहीं लगाता है। इसके बजाय, वह वेरिएशनल इन्फरेंस (Variational Inference) नामक तकनीक का उपयोग करता है। यह ऐसा है जैसे रोबोट एक सेकंड के भीतर हजारों मानसिक सिमुलेशन चला रहा हो। वह पूछता है, "यदि मशीन थोड़ी अलग होती, तो क्या डेटा अभी भी तर्कसंगत होता?" फिर वह एक एकल बिंदु के बजाय, संभावनाओं का एक मानचित्र—संभावनाओं का एक बादल—बनाता है।
इसे व्यावहारिक बनाने के लिए, उन्होंने दो चतुर ट्रिक्स को जोड़ा:
- एनकोडर (The Encoder): एक तेज़ न्यूरल नेटवर्क जो डेटा के छोटे से हिस्से को देखता है और उत्तर कहाँ हो सकता है, उसका एक रफ स्केच बनाता है।
- परिष्करण (The Refinement): एक सावधानीपूर्वक गणितीय प्रक्रिया (जिसे मैक्सिमम ए पोस्टेरिओरी अनुमान और उसके बाद लैपलेस एप्रोक्सिमेशन कहा जाता है) जो उस रफ स्केच को लेती है और उसे एक सटीक, गणितीय रूप से ठोस "बादल" में बदल देती है।
उन्होंने क्या पाया: सुरक्षा जाल के साथ स्मार्ट अनुमान
टीम ने यह देखने के लिए कि क्या उनका नया "संभाव्य" रोबोट वास्तविक दुनिया को संभाल सकता है, दो बहुत अलग चुनौतियों पर अपने नए रोबोट का परीक्षण किया।
1. साइन वेव टेस्ट (आसान मोड)
सबसे पहले, उन्होंने एक सरल गणितीय पहेली का उपयोग किया: जब आप केवल कुछ बिंदुओं को देखते हैं, तो एक लहरदार रेखा (साइन वेव) के आकार का अनुमान लगाना।
- परिणाम: नया रोबोट पुराने, नियतात्मक (deterministic) रोबोट की तरह ही लहर के आकार का अनुमान लगाने में सक्षम था। लेकिन, इसके पास एक सुपरपावर थी जो पुराने वाले के पास नहीं थी: आत्मविश्वास (confidence)। जब उन्होंने रोबोट को केवल एक या दो डेटा पॉइंट्स दिए, तो पुराने रोबोट ने बस एक रेखा खींची और उम्मीद की। नए रोबोट ने एक रेखा तो खींची, लेकिन उसके साथ एक विस्तृत, धुंधला "सुरक्षा क्षेत्र" भी बनाया। जैसे-जैसे उन्होंने इसे अधिक डेटा दिया, सुरक्षा क्षेत्र छोटा होता गया, जिससे पता चला कि रोबोट अधिक आत्मविश्वासी हो रहा था। पेपर दिखाता है कि बहुत कम बिंदुओं के साथ भी, रोबोट का "सुरक्षा क्षेत्र" लहर के वास्तविक आकार को सही ढंग से पकड़ लेता है।
2. बौक-वेन बेंचमार्क (कठिन मोड)
इसके बाद, वे एक बहुत कठिन समस्या की ओर बढ़े: एक जटिल यांत्रिक प्रणाली की पहचान करना जो एक ऐसे स्प्रिंग की तरह व्यवहार करती है जिसमें "याददाश्त" होती है (यह याद रखता है कि इसे पहले कितनी जोर से धक्का दिया गया था)। यह इंजीनियरों के लिए एक क्लासिक टेस्ट है।
- परिणाम: फिर से, नए संभाव्य तरीके ने पुराने तरीके की सटीकता का मुकाबला किया। लेकिन असली जीत अनिश्चितता (uncertainty) में थी। जब रोबोट का परीक्षण डेटा के छोटे अनुक्रमों (केवल 100 बिंदुओं के रूप में) के साथ किया गया, तो इसने ऐसे पूर्वानुमान दिए जो गणितीय रूप से गणना किए गए "कॉन्फिडेंस इंटरवल" के साथ आए।
- प्रमाण: लेखकों ने यह जांचा कि क्या उनके कॉन्फिडेंस इंटरवल ईमानदार थे। उन्होंने पाया कि जब रोबोट कहता है, "मैं 99.7% आश्वस्त हूँ कि उत्तर इस सीमा के भीतर है," तो वास्तविक उत्तर वास्तव में 99.7% समय उस सीमा के भीतर आता है। इसे कैलिब्रेटेड (calibrated) होना कहा जाता है। पुराना तरीका यह नहीं कर सका; वह केवल बिना यह जाने कि वह कितना गलत हो सकता है, एक एकल संख्या दे देता था।
निष्कर्ष
यह पेपर यह दावा नहीं करता है कि इसने सभी आर्टिफिशियल इंटेलिजेंस को हल कर दिया है। यह यह नहीं कहता कि रोबोट पूर्ण है। इसके बजाय, यह सुझाव देता है कि "मैनिफ़ोल्ड" लर्निंग फ्रेमवर्क में संभाव्यता (probability) की एक परत जोड़कर, हम सर्वश्रेष्ठ का मिश्रण प्राप्त कर सकते हैं: एक अत्यधिक विशिष्ट AI की गति और सटीकता, साथ ही एक ऐसे सिस्टम की ईमानदारी जो जानता है कि वह कब अनुमान लगा रहा है।
लेखकों ने पाया कि ऐसी स्थितियों में जहाँ डेटा दुर्लभ है—जैसे कि केवल कुछ सेंसर रीडिंग के साथ किसी मशीन का निदान करने की कोशिश करना—यह नया तरीका एक गणितीय रूप से ठोस तरीका प्रदान करता है यह कहने का कि, "यहाँ मेरा सबसे अच्छा अनुमान है, और यहाँ वह सटीक मात्रा है जिस पर आप भरोसा कर सकते हैं।" उन्होंने सिमुलेशन और संख्यात्मक प्रयोगों के माध्यम से यह प्रदर्शित किया कि जैसे-जैसे अधिक डेटा आता है, रोबोट की अनिश्चितता स्वाभाविक रूप से कम होती जाती है, ठीक वैसे ही जैसे एक मानव विशेषज्ञ अधिक साक्ष्य देखने के बाद आत्मविश्वासी हो जाता है।
संक्षेप में, उन्होंने रोबोट को न केवल सीखना, बल्कि यह जानना भी सिखाया कि वह क्या नहीं जानता।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।