Mamba-based Selective State Space Modeling Improves the Accuracy-Complexity Tradeoff of SmolVLA Vision-Language-Action Experts
यह शोध पत्र प्रदर्शित करता है कि Mamba-आधारित चयनात्मक स्टेट-स्पेस मॉडलिंग को SmolVLA एक्शन एक्सपर्ट में एकीकृत करने से विजन-लैंग्वेज-एक्शन मॉडल्स के लिए सटीकता-जटिलता ट्रेडऑफ में महत्वपूर्ण सुधार होता है, जो प्रति-एक्शन रीप्लानिंग के तहत पैरामीटर जटिलता को 24% कम करते हुए लंबी अवधि के निष्पादन के दौरान ट्रांसफॉर्मर बेसलाइन की तुलना में बेहतर सफलता दर प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
रोबोट अब केवल देखकर ही नहीं, बल्कि निर्देशों को पढ़कर और फिर एक काम करने के लिए अपने हाथों को हिलाकर दुनिया को समझने की सीख रहे हैं। यह क्षेत्र, जिसे विजन-लैंग्वेज-एक्शन (vision-language-action) के रूप में जाना जाता है, शक्तिशाली कंप्यूटर मस्तिष्क पर निर्भर करता है जो एक दृश्य की तस्वीर और कार्य का वर्णन करने वाला एक वाक्य लेता है, और फिर यह तय करता है कि उसे कार्य पूरा करने के लिए रोबabolic हाथ को ठीक से कैसे चलाना है। इंजीनियरों के लिए चुनौती गति और बुद्धिमत्ता के बीच संतुलन बनाने की है। यदि एक रोबोट हर छोटी हरकत से पहले बहुत अधिक सोचता है, तो वह इतना धीमा हो जाता है कि बेकार हो जाता है। लेकिन यदि वह समय बचाने के लिए एक साथ कई गतिविधियों की एक लंबी श्रृंखला की योजना बनाता है, तो इसमें गलती होने का जोखिम रहता है क्योंकि उन पूर्व-नियोजित चरणों को निष्पादित करते समय दुनिया बदल सकती है। लक्ष्य यह है कि रोबोट को तेज़ और सटीक दोनों बनाया जाए, एक ऐसा संतुलन जिसे बनाना कठिन रहा है।
शोधकर्ताओं की एक टीम ने इस संतुलन को सटीकता की बलि दिए बिना गति के पक्ष में झुकाने का एक नया तरीका खोजा है। उन्होंने एक नए प्रकार के कंप्यूटर आर्किटेक्चर का परीक्षण किया, जिसे मूल रूप से भाषा को प्रोसेस करने के लिए डिज़ाइन किया गया था, एक रोबोट के मस्तिष्क के भीतर। इस नए डिज़ाइन के साथ मानक सोचने वाले इंजन को बदलकर, उन्होंने पाया कि रोबोट बहुत लंबी गतिविधियों की श्रृंखला की योजना बना सकता था और फिर भी सफल हो सकता था। अपने परीक्षणों में, जब रोबोट को अपने परिवेश की दोबारा जांच करने से पहले पचास गतिविधियों के पूरे क्रम को निष्पादित करने की अनुमति दी गई, तो नया डिज़ाइन पुराने डिज़ाइन की तुलना में लगभग आठ प्रतिशत अधिक बार कार्य में सफल रहा। यह सुधार महत्वपूर्ण है क्योंकि इसका अर्थ है कि रोबोट वास्तविक दुनिया में बहुत तेज़ी से काम कर सकते हैं, सोचने के लिए कम विराम लेते हुए, जबकि काम को सही ढंग से पूरा भी करते हैं।
शोधकर्ताओं ने स्मॉलवीएलए (SmolVLA) नामक एक लोकप्रिय रोबोट ब्रेन से शुरुआत की, जो पहले से ही कुशल और सटीक होने के लिए जाना जाता है। यह प्रणाली एक कैमरा फीड और एक टेक्स्ट निर्देश को देखकर, भविष्य की गतिविधियों के एक "चंक" (chunk) की भविष्यवाणी करती है। केवल एक समय में एक गतिविधि तय करने के बजाय, यह गतिविधियों की एक पूरी श्रृंखला की भविष्यवाणी करती है, जैसे कि हाथ को आगे क्या करना चाहिए इसकी एक छोटी फिल्म। रोबोट फिर उस श्रृंखला के पहले कुछ मूव्स को पूरा करता है, रुकता है, दुनिया को फिर से देखता है, और एक नई श्रृंखला की योजना बनाता है। रुकने से पहले वह कितनी गतिविधियाँ करता है, इसे निष्पादन क्षितिज (execution horizon) कहा जाता है। यदि वह हर एक गतिविधि के बाद रुकता है, तो वह बहुत सटीक है लेकिन बहुत धीमा है। यदि वह बिना रुके पूरी श्रृंखला को चलाता है, तो वह तेज़ है लेकिन यदि वातावरण बदल जाता है तो त्रुटियों के प्रति संवेदनशील है।
इसे हल करने के लिए, टीम ने इन गतिविधि अनुक्रमों के समय को संभालने वाले रोबोट के मस्तिष्क के हिस्से को बदल दिया। मूल प्रणाली ने 'सेल्फ-अटेंशन' (self-attention) नामक एक मानक पद्धति का उपयोग किया, जो एक स्पॉटलाइट की तरह है जो प्रत्येक गतिविधि योजना के हर हिस्से को एक-दूसरे को देखने और समन्वय बनाए रखने की अनुमति देती है। शोधकर्ताओं ने इसे बदलकर एक अलग पद्धति का उपयोग किया जिसे 'मांबा' (Mamba) कहा जाता है, जो जानकारी को इस तरह से प्रोसेस करता है जो अपडेट्स के एक निरंतर प्रवाह की तरह है न कि एक स्पॉटलाइट की तरह। यह नया तरीका कंप्यूटर के संसाधनों पर बहुत हल्का है, जिसमें सीखने के लिए लगभग चौबीस प्रतिशत कम सेटिंग्स की आवश्यकता होती है, फिर भी यह समय के प्रवाह को अलग तरह से संभालता है।
टीम ने दोनों संस्करणों के रोबोट ब्रेन को एक सिम्युलेटेड वातावरण में परखा, जो चालीस अलग-अलग कार्यों से भरा था, जिसमें ब्लॉक को स्टैक करना से लेकर वस्तुओं को विशिष्ट लक्ष्यों तक ले जाना शामिल था। उन्होंने रोबोट को इन कार्यों के माध्यम से तीन अलग-अलग स्थितियों के तहत चलाया: हर एक गतिविधि के बाद रुकना, पच्चीस गतिविधियों के बाद रुकना, और पूरे पचास गतिविधियों के बाद रुकना। जब रोबोटों ने हर एक गतिविधि के बाद रुकने के लिए कहा गया, तो दोनों संस्करणों ने लगभग समान प्रदर्शन किया, जिसमें नया डिज़ाइन पुराने के सफलता दर से मेल खाता था। हालाँकि, जैसे ही रोबकारों को बिना रुके लंबी श्रृंखला चलाने के लिए कहा गया, अंतर स्पष्ट हो गया। नया मांबा डिज़ाइन वाला रोबोट बहुत बेहतर तरीके से टिका रहा। जब रोबोट को बिना रुके पचास मूव्स चलाने के लिए कहा गया, तो नया डिज़ाइन साठ दशमलव आठ प्रतिशत परीक्षणों में सफल रहा, जबकि पुराना डिज़ाइन केवल तिरपन दशमलव नौ प्रतिशत में सफल रहा।
यह अंतर विशिष्ट प्रकार के कार्यों पर और भी बढ़ गया। जब रोबोट को सटीक स्थानों पर वस्तुओं को ले जाने के लिए कहा गया, तो नए डिज़ाइन ने सबसे लंबे क्षितिज पर सफलता दर में लगभग अठारह प्रतिशत का सुधार किया। स्थानिक व्यवस्थाओं (spatial arrangements) से जुड़े कार्यों पर भी इसने दस प्रतिशत का सुधार किया। शोधकर्ताओं ने पाया कि नया डिज़ाइन अनुक्रम के बाद के मूव्स को शुरुआती मूव्स के साथ समन्वयित रखने में विशेष रूप से अच्छा था, भले ही रोबोट एक ऐसी योजना पर काम कर रहा हो जो ताज़ा विजुअल जानकारी के साथ अपडेट नहीं की जा रही थी। यह सुझाव देता है कि नए आर्किटेक्चर में समय के साथ गतिविधियों के अनुक्रम को कैसे विकसित होना चाहिए, इसकी भविष्यवाणी करने का एक स्वाभाविक लाभ है।
अध्ययन इस बात की पुष्टि करता है कि रोबोट अपनी गतिविधियों की योजना कैसे बनाता है, यह इस बात जितना ही मायने रखता है कि वह कितनी बार अपने परिवेश की जाँच करता है। गतिविधियों के अनुक्रम को समन्वित करने वाले आंतरिक इंजन को बदलकर, शोधकर्ताओं ने दिखाया कि रोबोटों को बिना अनाड़ी बने तेज़ और अधिक कुशल बनाया जा सकता है। नया डिज़ाइन न केवल लंबी श्रृंखलाओं के लिए सफलता दर में सुधार करता है, बल्कि सिस्टम चलाने के लिए आवश्यक कुल कंप्यूटर सेटिंग्स को भी कम करता है। इसका अर्थ है कि भविष्य में, रोबोटों को वास्तविक दुनिया के परिवेश में तैनात किया जा सकता है जहाँ उन्हें तेज़ी से और निरंतर कार्य करने की आवश्यकता होती है, लंबी योजनाओं पर भरोसा करते हुए जो लंबे समय तक सटीक रहती हैं। यह कार्य प्रदर्शित करता है कि सही आर्किटेक्चरल विकल्प गति और सटीकता के बीच एक बेहतर ट्रेड-ऑफ को अनलॉक कर सकता है, जो तेज़, विश्वसनीय रोबोटिक सहायकों के सपने को वास्तविकता के एक कदम और करीब लाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।