Does Your World Model Know Actions Have Consequences?
यह शोध पत्र तर्क देता है कि एम्बोडेड वर्ल्ड मॉडल्स (embodied world models) के लिए वर्तमान मूल्यांकन मेट्रिक्स अपर्याप्त हैं क्योंकि वे वैकल्पिक क्रियाओं के परिणामों की सत्यता के बजाय आउटपुट की गुणवत्ता को प्राथमिकता देते हैं, और यह प्रस्तावित करता है कि इन मॉडल्स द्वारा वैकल्पिक क्रियाओं के परिणामों की भविष्यवाणी करने की क्षमता का ऑडिट करने के लिए संवेदनशीलता विश्लेषण (sensitivity analysis) का उपयोग किया जाए, जो हार्डवेयर पर उनके सुरक्षित परिनियोजन के लिए महत्वपूर्ण है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखक ने नहीं लिखा है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
रोबोट भविष्य के बारे में सोचना सीख रहे हैं। लंबे समय तक, मशीनें सरल रिफ्लेक्सिस (प्रतिवर्त क्रियाओं) पर काम करती थीं: एक ब्लॉक देखा, एक ब्लॉक पकड़ा। लेकिन एक जटिल, परिवर्तनशील दुनिया में आगे बढ़ने के लिए, एक रोबोट को कुछ गहरे स्तर की आवश्यकता होती है। उसे दुनिया कैसे काम करती है, इसका एक मानसिक मानचित्र चाहिए। उसे यह कल्पना करने का तरीका चाहिए कि यदि वह यहाँ या वहाँ एक कप को धकेलता है तो क्या होगा। रोबोटिक्स के क्षेत्र में, इस मानसिक मानचित्र को "वर्ल्ड मॉडल" (विश्व मॉडल) कहा जाता है। यह एक ऐसी प्रणाली है जो देखने और करने से सीखती है, और यह अनुमान लगाती है कि एक विशिष्ट गतिविधि के जवाब में वातावरण कैसे बदलेगा। इन मॉडलों का वादा यह है कि वे रोबोट को अपने विकल्पों के बारे में तर्क करने की अनुमति देते हैं बिना हर एक विकल्प को शारीरिक रूप से आजमाए, जिससे समय बचता है और नुकसान से बचाव होता है। हालाँकि, एक महत्वपूर्ण प्रश्न बना हुआ है: क्या ये डिजिटल मस्तिष्क वास्तव में कारण और प्रभाव को समझते हैं? यदि एक रोबोट एक अलग क्रिया की कल्पना करता है, तो क्या उसके परिणाम का पूर्वानुमान वास्तविकता से मेल खाता है, या वह केवल अनुमान लगा रहा है?
नॉर्थवेस्टर्न यूनिवर्सिटी के शोधकर्ताओं की एक टीम ने इन "क्या होगा अगर" परिदृश्यों को ये वर्ल्ड मॉडल कैसे संभालते हैं, इस पर बारीकी से नज़र डालकर इसका उत्तर देने का प्रयास किया। उन्होंने एक विशिष्ट प्रकार के रोबोट लर्निंग सिस्टम पर ध्यान केंद्रित किया जो कैमरा छवियों और मोटर कमांड से सीधे भविष्य की भविष्यवाणी करता है, बिना यह जाने कि प्रत्येक वस्तु को छूने के भौतिक विज्ञान (फिजिक्स) का सटीक विवरण क्या है। शोधकर्ताओं ने पाया कि इन रोबोटों का परीक्षण करने के तरीके वर्तमान में भ्रामक हैं। आमतौर पर, इंजीनियर यह देखते हैं कि क्या एक रोबोट सफलतापूर्वक एक कार्य पूरा कर सकता है, जैसे ब्लॉकों को स्टैक करना, या क्या दुनिया की उनकी आंतरिक तस्वीर स्पष्ट दिखती है। नॉर्थवेस्टर्न की टीम ने पाया कि एक रोबोट इन परीक्षणों में बहुत अच्छा हो सकता है और फिर भी अपने कार्यों के परिणामों को समझने में विफल हो सकता है। एक मॉडल एक सफल कार्य का वीडियो पूरी तरह से पुनर्गठित कर सकता है, लेकिन यह अनुमान लगाने में पूरी तरह असमर्थ हो सकता है कि यदि रोबलेट थोड़ा अलग तरीके से चलता तो क्या होता। यह एक खतरनाक दोष है, क्योंकि एक वर्ल्ड मॉडल की असली शक्ति वैकल्पिक भविष्यों का अनुकरण करने की उसकी क्षमता में निहित है।
इसे ठीक करने के लिए, शोधकर्ताओं ने इन प्रणालियों का परीक्षण करने का एक नया तरीका विकसित किया, जो केवल सफलता के बजाय संवेदनशीलता (सेंसिटिविटी) पर केंद्रित है। उन्होंने रोबोट के लर्निंग सिस्टम को एक ऐसी मशीन की तरह माना जो इनपुट पर प्रतिक्रिया देती है। केवल यह पूछने के बजाय कि, "क्या रोबोट ने काम पूरा कर लिया?", उन्होंने पूछा, "यदि हम रोबोट की क्रिया को थोड़े से हिस्से से बदलते हैं, तो क्या मॉडल परिणाम में सही बदलाव की भविष्यवाणी करता है?" उन्होंने एक मानक रोबोट लर्निंग सेटअप लेकर और विभिन्न प्रकार के डेटा का उपयोग करके "मस्तिष्क" के तीन अलग-अलग संस्करणों को प्रशिक्षित करके इसका परीक्षण किया। एक संस्करण ने एक रोबोट से सीखा जो एक सख्त, समान ग्रिड पैटर्न में चलता था। दूसरा केवल एक कार्य के पूर्ण, विशेषज्ञ प्रदर्शनों (डेमोंस्ट्रेशन) से सीखा। तीसरा उन्हीं विशेषज्ञ प्रदर्शनों से सीखा, लेकिन प्रशिक्षण के दौरान गतिविधियों में यादृच्छिक (रैंडम), छोटे उतार-चढ़ाव (जिटर्स) जोड़े गए थे।
परिणामों ने एक स्पष्ट ट्रेड-ऑफ (समझौता) का खुलासा किया। पूर्ण, जिटर-मुक्त विशेषज्ञ डेटा पर प्रशिक्षित मॉडल, जब वह योजना का पालन करता था, तो रोबोट के सटीक पथ की भविष्यवाणी करने में बहुत सटीक था। हालाँकि, जब शोधकर्ताओं ने थोड़ा अलग कार्य के परिणाम की भविष्यवाणी करने के परीक्षण किए, तो यह विफल रहा। यह भंगुर (ब्रिटल) था; इसने विशिष्ट पथ को याद कर लिया था लेकिन गति के अंतर्निहित नियमों को नहीं समझा था। इसके विपरीत, रैंडम जिटर्स के साथ प्रशिक्षित मॉडल, मानक कार्य के सटीक पथ की भविष्यवाणी करने में थोड़ा कम पूर्ण था, लेकिन यह भविष्यवाणी करने में कहीं अधिक बेहतर था कि एक बदली हुई क्रिया का क्या परिणाम होगा। इसने बल और गति के बीच के संबंध को सीखा था, न कि केवल विशिष्ट परिणाम को। शोधकर्ताओं ने पाया कि इस "नॉइजी" मॉडल ने बदली हुई क्रिया के परिणामों की भविष्यवाणी करने में काफी उच्च सटीकता दिखाई, जो कारण और प्रभाव की समझ में स्पष्ट सुधार दर्शाता है।
यह निष्कर्ष बताता है कि सुरक्षित, अधिक विश्वसनीय रोबोटों का मार्ग केवल निर्देशों का पालन करने में पूर्ण होने के बारे में नहीं है, बल्कि उन्हें अनिश्चितता को संभालने के लिए सिखाने के बारे में है। अध्ययन इस बात पर प्रकाश डालता है कि नियंत्रित वातावरण में, जैसे कि एक गोदाम जहाँ एक रोबोट केवल बक्से उठाता है, उच्च परिशुद्धता (प्रिसिजन) लक्ष्य है। लेकिन अनियंत्रित, अप्रत्याशित स्थानों में, जैसे कि अंतरिक्ष या पानी के नीचे, यह समझना अधिक महत्वपूर्ण है कि एक क्रिया दुनिया को कैसे बदलती है, बजाय इसके कि वह पूरी तरह से सटीक हो। शोधकर्ताओं ने दिखाया कि प्रशिक्षण के दौरान छोटी विविधताओं को पेश करके, हम ऐसे सिस्टम बना सकते हैं जो अपने निर्णयों का ऑडिट करने में बेहतर हों। उन्होंने प्रस्तावित किया कि भविष्य के रोबोटों का मूल्यांकन केवल इस आधार पर नहीं किया जाना चाहिए कि वे सफल होते हैं या नहीं, बल्कि इस आधार पर किया जाना चाहिए कि वे अपनी गलतियों के परिणामों की कितनी अच्छी तरह कल्पना कर सकते हैं। दृष्टिकोण में यह बदलाव इस क्षेत्र को केवल काम करने वाले रोबोट बनाने से दूर, ऐसे रोबोट बनाने की ओर ले जाता है जो समझते हैं कि वे क्यों काम करते हैं, और यदि वे नहीं करेंगे तो क्या होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।