🤖 AI

RoboSSM: Scalable In-context Imitation Learning via State-Space Models

यह शोध पत्र RoboSSM को प्रस्तुत करता है, जो एक स्केलेबल इन-कॉन्टेक्स्ट इमिटेशन लर्निंग फ्रेमवर्क है जो LIBERO बेंचमार्क के भीतर लॉन्ग-होराइजन और अनदेखे कार्यों पर लीनियर-टाइम इन्फरेंस और बेहतर सामान्यीकरण प्राप्त करने के लिए ट्रांसफॉर्मर्स को Longhorn स्टेट-स्पेस मॉडल से बदल देता है।

मूल लेखक: Youngju Yoo, Jiaheng Hu, Yifeng Zhu, Bo Liu, Qiang Liu, Roberto Martín-Martín, Peter Stone

प्रकाशित 2026-06-19

📖 4 मिनट में पढ़ें☕ कॉफ़ी ब्रेक में पढ़ें

CC BY 4.0

मूल लेखक: Youngju Yoo, Jiaheng Hu, Yifeng Zhu, Bo Liu, Qiang Liu, Roberto Martín-Martín, Peter Stone

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को एक नया काम करना सिखा रहे हैं, जैसे कि "ऑरेंज जूस उठाओ और उसे टोकरी में रख दो।"

पुराना तरीका (द "ट्रांसफॉर्मर" रोबोट):
पहले, रोबोट इस काम को "ट्रांसफॉर्मर" नामक एक प्रणाली का उपयोग करके सीखते थे। इसे एक ऐसे छात्र की तरह समझें जिसे हर नए सवाल के लिए अपनी पूरी पाठ्यपुस्तक फिर से पढ़नी पड़ती है। यदि आप रोबोट को कार्य करने वाले व्यक्ति का एक छोटा वीडियो देते हैं, तो यह ठीक काम करता है। लेकिन यदि आप इसे बहुत लंबा वीडियो (एक "लॉन्ग प्रॉम्प्ट") दिखाते हैं, तो यह घबरा जाता है। वे वीडियो के अंत तक पहुँचते-पहुँचते शुरुआत का हिस्सा भूलने लगते हैं, और उनका प्रदर्शन गिर जाता है। वे बहुत धीमे भी हो जाते हैं क्योंकि उन्हें हर बार शुरुआत से सब कुछ फिर से पढ़ना पड़ता है।

नया तरीका (RoboSSM):
यह शोध पत्र RoboSSM पेश करता है, जो रोबोट को सिखाने का एक नया तरीका है जिसमें एक अलग "ब्रेन आर्किटेक्चर" (मस्तिष्क संरचना) का उपयोग किया गया है जिसे स्टेट-स्पेस मॉडल (SSM) कहते हैं।

RoboSSM कैसे काम करता है, इसके लिए सरल उपमाओं का उपयोग यहाँ दिया गया है:

1. "इनफिनिट स्क्रॉल" बनाम "लाइब्रेरी"

ट्रांसफॉर्मर्स (लाइब्रेरी): कल्पना कीजिए कि एक लाइब्रेरियन है जिसे दो चीज़ों के बीच संबंध खोजने के लिए शेल्फ पर मौजूद हर एक किताब तक जाना पड़ता है। यदि आप अधिक किताबें (अधिक प्रदर्शन/डेमोंस्ट्रेशन) जोड़ते हैं, तो लाइब्रेरियन को उत्तर खोजने में बहुत अधिक समय लगता है। यदि शेल्फ बहुत लंबी हो जाती है, तो वे खो जाते हैं।
RoboSSM (इनफिनिट स्क्रॉल): RoboSSM एक स्मार्ट स्क्रॉल की तरह है जो आपके पढ़ने के साथ-साथ खुद को अपडेट करता रहता है। इसे हर बार पूरा इतिहास फिर से पढ़ने की आवश्यकता नहीं होती। यह अपनी "मेमोरी" में एक चलता हुआ सारांश (running summary) रखता है जो तुरंत अपडेट होता है। इसका मतलब है कि यह उस वीडियो को भी संभाल सकता है जिसमें इसके प्रशिक्षण के मुकाबले 16 गुना अधिक उदाहरण हों, बिना धीमे हुए या भ्रमित हुए।

2. "बीटा" एडजस्टमेंट (वॉल्यूम नॉब)

शोध पत्र में $\beta$ -स्केलिंग नामक एक विशेष तकनीक का उल्लेख है।

कल्पना कीजिए कि आप एक गायक दल (choir) को सुन रहे हैं। कभी-कभी आप चाहते हैं कि पूरे समूह को समान रूप से सुना जाए। कभी-कभी, आप मुख्य गायक (वह नया प्रदर्शन जो आपने अभी रोबोट को दिखाया है) पर ध्यान केंद्रित करना चाहते हैं।
RoboSSM के पास एक "वॉल्यूम नॉब" ( $\beta$ पैरामीटर) है जिसे यह कम या ज्यादा कर सकता है। जब रोबोट एक नया कार्य देखता है, तो वह नए उदाहरणों पर वॉल्यूम बढ़ा देता है ताकि वह उन पर बारीकी से ध्यान दे सके, जिससे यह पुराने नियमों को भूले बिना तेजी से सीखने में मदद मिलती है।

3. परिणाम: उन्होंने क्या पाया?

शोधकर्ताओं ने इसका परीक्षण LIBERO नामक एक प्रसिद्ध रोबोट टेस्ट पर किया, जिसमें कटोरे उठाना, दराज खोलना और वस्तुओं को एक के ऊपर एक रखना जैसे कार्य शामिल हैं।

"लॉन्ग वीडियो" टेस्ट: उन्होंने रोबोट को एक छोटे वीडियो (2 उदाहरण) पर प्रशिक्षित किया और फिर उसे एक बहुत लंबे वीडियो (32 उदाहरण) के साथ टेस्ट किया।
- पुराना रोबोट (ICRT): बुरी तरह विफल रहा। यह अतिरिक्त लंबाई को नहीं संभाल सका।
- RoboSSM: जैसे-जैसे इसने अधिक उदाहरण देखे, यह और बेहतर होता गया। इसने उन वस्तुओं को सफलतापूर्वक उठाया जिन्हें इसने पहले कभी नहीं देखा था, और यह सब केवल उदाहरणों की एक लंबी सूची को देखकर संभव हुआ।
"स्लो मोशन" टेस्ट: उन्होंने प्रदर्शन वीडियो की गति को धीमा कर दिया (टाइम डायलेशन) ताकि यह सिम्युलेट किया जा सके कि रोबोट धीरे चल रहा है या हिचकिचा रहा है।
- पुराना रोबोट: भ्रमित हो गया और विफल रहा।
- RoboSSM: शांत और सफल रहा, जिससे यह साबित हुआ कि यह वास्तविक दुनिया के समय के बदलावों (timing variations) को संभाल सकता है।
"स्पीड" टेस्ट:
- पुराना रोबोट: जैसे-जैसे वीडियो लंबा होता गया, यह धीमा और धीमा होता गया।
- RoboSSM: चाहे वीडियो कितना भी लंबा क्यों न हो, यह तेज़ और कुशल बना रहा।

बड़ी तस्वीर (The Big Picture)

शोध पत्र का दावा है कि RoboSSM पहला ऐसा सिस्टम है जो यह सिद्ध करता है कि आप रोबोट के दिमाग को फिर से प्रशिक्षित किए बिना, केवल उन्हें उदाहरणों की एक लंबी सूची दिखाकर, उन्हें ऑन-द-फ्लाई (तुरंत) नए कार्य सिखा सकते हैं। यह पिछले "ट्रांसफॉर्मर" तरीकों की तुलना में तेज़ है, निर्देशों की लंबी सूची को बेहतर ढंग से संभालता है, और गति या समय के बदलावों के प्रति अधिक मजबूत है।

संक्षेप में: यदि पुराना रोबोट एक ऐसा छात्र था जो 5 पन्ने पढ़ने के बाद थक जाता था, तो RoboSSM एक ऐसा छात्र है जो 80 पन्ने पढ़ सकता है, पहले पन्ने को भी पूरी तरह याद रख सकता है, और फिर भी जल्दी से सवाल का जवाब दे सकता है।

तकनीकी सारांश: RoboSSM – स्टेट-स्पेस मॉडल के माध्यम से स्केलेबल इन-कॉन्टेक्स्ट इमिटेशन लर्निंग

1. समस्या विवरण (Problem Statement)

इन-कॉन्टेक्स्ट इमिटेशन लर्निंग (ICIL) रोबोट्स को बिना किसी पैरामीटर अपडेट के, कुछ ही प्रदर्शनों (demonstrations) का उपयोग करके नए कार्यों के अनुकूल बनने में सक्षम बनाती है। जबकि हालिया ICIL विधियों ने ट्रांसफॉर्मर-आधारित आर्किटेक्चर को इमिटेशन लर्निंग को एक सीक्वेंस मॉडलिंग समस्या के रूप में अपनाने में सफलता प्राप्त की है, वे महत्वपूर्ण स्केलेबिलिटी सीमाओं का सामना करती हैं। ट्रांसफॉर्मर सीक्वेंस की लंबाई के सापेक्ष द्विघाती समय जटिलता ( $O(L^2)$ ) प्रदर्शित करते हैं और प्रशिक्षण के दौरान देखी गई प्रॉम्प्ट लंबाई से परे एक्सट्रपलेशन (extrapolate) करने में संघर्ष करते हैं। फलस्वरूप, मौजूदा ICIL विधियाँ लंबे टेस्ट-टाइम प्रॉम्प्ट्स (जैसे, अधिक प्रदर्शन या लॉन्ग-होरिज़न कार्य) को संभालने पर प्रदर्शन में भारी गिरावट दिखाती हैं, जो व्यापक संदर्भ की आवश्यकता वाले जटिल, वास्तविक दुनिया के परिदृश्यों में उनकी प्रयोज्यता को सीमित करती है।

2. कार्यप्रणाली: RoboSSM (Methodology: RoboSSM)

लेखक RoboSSM प्रस्तावित करते हैं, जो एक स्केलेबल ICIL फ्रेमवर्क है, जो ट्रांसफॉर्मर्स को स्टेट-स्पेस मॉडल्स (SSMs) से बदल देता है, विशेष रूप से बैकबोन आर्किटेक्चर के रूप में Longhorn का उपयोग करता है।

आर्किटेक्चर और एनकोडिंग (Architecture and Encoding)

इनपुट प्रोसेसिंग: RoboSSM मल्टीमॉडल ऑब्जर्वेशन (विजुअल डेटा के लिए CNNs और प्रोप्रियोसेप्टिव डेटा के लिए MLPs के माध्यम से) को एम्बेडिंग्स में एनकोड करता है। विशेष रूप से, इनपुट प्रतिनिधित्व में एक्शन टोकन और टास्क लैंग्वेज इंस्ट्रक्शन्स को शामिल नहीं किया गया है ताकि मॉडल को केवल इन-कॉन्टेक्स्ट प्रदर्शनों से कार्य के इरादे (intent) को समझने के लिए मजबूर किया जा सके।
Longhorn बैकबोन: ऑब्जर्वेशन एम्बेडिंग्स के अनुक्रम को Longhorn द्वारा प्रोसेस किया जाता है, जो एक लीनियर रिकरेंस के माध्यम से अपडेट होने वाले मेमोरी स्टेट मैट्रिक्स $s_t$ को बनाए रखता है। ट्रांसफॉर्मर्स के सेल्फ-अटेंशन मैकेनिज्म के विपरीत, Longhorn ऑनलाइन कॉन्वेक्स प्रोग्रामिंग से व्युत्पन्न एक रिकरेंट अपडेट नियम का उपयोग करता है:
$s_t = \text{argmin}_{s} \left( \|s - s_{t-1}\|_F^2 + \|s k_t - x_t\|_{\text{diag}(\beta_t)}^2 \right)$
यह फॉर्मूलेशन पूर्व स्थिति की जानकारी को बनाए रखने और नए इनपुट्स को शामिल करने के बीच संतुलन बनाता है।
$\beta$ -स्केलिंग: ICIL सेटिंग में प्रदर्शन (demonstration) प्रॉम्प्ट्स पर ध्यान केंद्रित करने के लिए विशेष रूप से प्रोत्साहित करने हेतु, लेखक एक टेस्ट-टाइम स्केलिंग मैकेनिज्म पेश करते हैं जहाँ वेटिंग वेक्टर $\beta_t$ को एक फैक्टर $\gamma \in (0, 1]$ द्वारा स्केल किया जाता है। यह स्टेट रिटेंशन और नए सूचना एकीकरण के बीच के ट्रेड-ऑफ को नियंत्रित करता है।

प्रशिक्षण और अनुमान (Training and Inference)

प्रशिक्षण (Training): मॉडल को एक मल्टी-टास्क डेटासेट पर प्रशिक्षित किया जाता है जहाँ इनपुट में एक प्रॉम्प्ट (एक सेट $N_{train}$ प्रदर्शन ट्रेजेक्टरीज) और एक क्वेरी ट्रेजेक्टरी होती है। मॉडल प्रॉम्प्ट पर आधारित क्वेरी ट्रेजेक्टरी के लिए एक्शन की भविष्यवाणी करता है।
अनुमान (Inference):ex/Inference: टेस्ट टाइम पर, पॉलिसी अनदेखे कार्यों के लिए $N_{test}$ प्रदर्शनों के प्रॉम्प्ट का उपयोग करके अनुकूलित होती है। मॉडल प्रारंभिक ऑब्जर्वेशन और प्रॉम्प्ट द्वारा प्रदान किए गए संदर्भ के आधार पर क्रियाओं (actions) की पुनरावृत्ति से भविष्यवाणी करता है, बिना किसी पैरामीटर अपडेट के।

3. मुख्य योगदान (Key Contributions)

स्केलेबल ICIL फ्रेमवर्क: RoboSSM का परिचय, जो इन-कॉन्टेक्स्ट इमिटेशन लर्निंग के लिए SSMs का लाभ उठाने वाला पहला दृष्टिकोण है, जो लीनियर-टाइम इन्फरेंस ( $O(L)$ ) और मजबूत एक्सट्रपलेशन क्षमताएं सक्षम करता है।
लॉन्ग-कॉन्टेक्स्ट एक्सट्रपलेशन: यह प्रदर्शित करना कि RoboSSM प्रशिक्षण के दौरान देखी गई तुलना में 16 गुना अधिक लंबे टेस्ट-टाइम प्रॉम्प्ट्स को प्रभावी ढंग से प्रोसेस कर सकता है, एक ऐसी क्षमता जहाँ ट्रांसफॉर्मर-आधारित विधियाँ विफल हो जाती हैं।
कुशल अनुमान (Efficient Inference): प्रॉम्प्ट की लंबाई बढ़ने के साथ ट्रांसफॉर्मर बेसलाइन्स की तुलना में काफी कम इन्फरेंस रनटाइम प्राप्त करना, क्योंकि SSMs की जटिलता लीनियर है जबकि ट्रांसफॉर्मर्स की द्विघाती (quadratic) है।
लॉन्ग-होरिज़न कार्यों में सामान्यीकरण: यह दिखाना कि मॉडल शॉर्ट-होरिज़न ट्रेनिंग डिस्ट्रीब्यूशन से लॉन्ग-होरिज़न, मल्टी-स्टेज कार्यों और टाइम-डाइलेटेड (समय-विस्तारित) परिदृश्यों में सामान्यीकरण कर सकता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

प्रयोग LIBERO बेंचमार्क पर किए गए, जिसमें विविध मैनिपुलेशन कार्य (Object, Goal, Spatial, Long, और 90 सूट्स) शामिल हैं।

प्रॉम्प्ट लेंथ जनरलाइजेशन:
- जब केवल 2 प्रदर्शनों ( $N_{train}=2$ ) के साथ प्रशिक्षित किया गया, तो RoboSSM ने टेस्ट प्रदर्शनों की संख्या ( $N_{test}$ ) को 32 तक बढ़ाने पर भी सफलता दर को बनाए रखा या उसमें सुधार किया।
- इसके विपरीत, ट्रांसफॉर्मर-आधारित बेसलाइन (ICRT) ने प्रदर्शन में भारी गिरावट देखी और $N_{test} > N_{train}$ होने पर 0% सफलता के साथ विफल हो गया।
लॉन्ग-होरिज़न और टाइम-डाइलेशन:
- RoboSSM ने लॉन्ग-होरिज़न कार्यों (जैसे, "दोनों Object A और Object B को Object C में रखें") और टाइम-डाइलेटेड प्रदर्शनों (16x टेम्पोरल स्ट्रेचिंग तक) वाले कार्यों को सफलतापूर्वक हल किया, जबकि ICRT पूरी तरह विफल रहा।
इन-डिस्ट्रीबशन परफॉरमेंस:
- जब $N_{train} = N_{test}$ था, तब भी RoboSSM ने अधिकांश परिदृश्यों में, विशेष रूप से LIBERO-90 स्टडी और लिविंग रूम सीन्स में, ICRT से लगातार बेहतर प्रदर्शन किया।
मल्टी-टास्क लर्निंग (MTL) के साथ तुलना:
- RoboSSM और ICRT ने मानक MTL बेसलाइन्स (जो भाषा निर्देशों की आवश्यकता रखते हैं और जिनमें इन-कॉन्टेक्स्ट प्रॉम्प्टिंग नहीं होती) से काफी बेहतर प्रदर्शन किया, जो ICIL प्रतिमान की प्रभावकारिता की पुष्टि करता है।
लेटेंट स्पेस विश्लेषण:
- लेटेंट रिप्रेजेंटेशन के विज़ुअलाइज़ेशन ने दिखाया कि RoboSSM ऐसे ट्रेजेक्टरीज जेनरेट करता है जो प्रॉम्प्ट प्रदर्शन क्लस्टर्स के करीब रहते हैं, जो स्थिर एक्सट्रपलेशन का संकेत देता है। इसके विपरीत, कॉन्टेक्स्ट लेंथ बढ़ने के साथ ICRT ट्रेजेक्टरीज प्रॉम्प्ट मैनिफोल्ड से काफी बाहर भटक गईं।
रनटाइम:
- RoboSSM ने प्रॉम्प्ट लेंथ के साथ लगभग लीनियर स्केलिंग प्रदर्शित की, जबकि ICRT का रनटाइम द्विघाती रूप से बढ़ा, जिससे लंबे कॉन्टेक्स्ट के लिए RoboSSM के पक्ष में प्रदर्शन का अंतर बढ़ता गया।

5. महत्व और दावे (Significance and Claims)

पेपर का दावा है कि RoboSSM, स्टेट-स्पेस मॉडल्स को एक कुशल और स्केलेबल बैकबोन के रूप में स्थापित करके इन-कॉन्टेक्स्ट इमिटेशन लर्निंग के लिए एक प्रतिमान परिवर्तन (paradigm shift) का प्रतिनिधित्व करता है। प्राथमिक महत्व ट्रांसफॉर्मर की कम्प्यूटेशनल और एक्सट्रपलेशन बाधाओं को दूर करने में निहित है, जिससे रोबोट्स को सक्षम बनाया जा सके:

बिना री-ट्रेनिंग के टेस्ट टाइम पर काफी लंबे कॉन्टेक्स्ट विंडोज़ को संभालने में।
अनसीन, लॉन्ग-होरिज़न, और टेम्पोरली वेरिएबल कार्यों के लिए फ्यू-शॉट प्रॉम्प्ट्स का उपयोग करके अनुकूलित होने में।
केवल नए प्रदर्शन प्रॉम्प्ट्स को ग्रहण करके लाइफलर्निंग के लिए निरंतर अनुकूलन का समर्थन करने में, बिना किसी टास्क-विशिष्ट पैरामीटर अपडेट के।

लेखक निष्कर्ष निकालते हैं कि हालांकि RoboSSM, लॉन्ग-कॉन्टेक्स्ट ICIL के लिए SSMs की क्षमता को प्रदर्शित करता है, भविष्य के कार्यों के लिए नवीन कार्यों में सामान्यीकरण को और बढ़ाने के लिए व्यापक और विविध प्रशिक्षण कॉर्पोरा की आवश्यकता हो सकती है। वे यह भी नोट करते हैं कि हालांकि वास्तविक-रोबोट सत्यापन इस कार्य का मुख्य योगदान नहीं है, लेकिन यह नए कार्यों में सामान्यीकरण के प्रदर्शन के लिए एक संभावित मार्ग बना हुआ है।