Jetson-PI: Towards Onboard Real-Time Robot Control via Foresight-Aligned Asynchronous Inference
Jetson-PI एक नवीन फ्रेमवर्क है जो जेटसन ओरिन (Jetson Orin) जैसे कम शक्ति वाले ऑनबोर्ड उपकरणों पर विजन-लैंग्वेज-एक्शन (Vision-Language-Action) मॉडल्स को तैनात करने के लिए है, जो धारणा-निष्पादन मिसअलाइनमेंट (perception-execution misalignment) को हल करने के लिए एक फॉरसाइट-अलाइन्ड फ्यूचर करेक्शन मॉड्यूल (foresight-aligned future correction module) को कॉन्फिडेंस-आधारित शेड्यूलिंग (confidence-based scheduling) और रिएक्शन टाइम एवं लेटेंसी को न्यूनतम करने के लिए सिस्टम-लेवल ऑप्टिमाइज़ेशन के साथ जोड़कर रीयल-टाइम कंट्रोल प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को शर्ट मोड़ने या कटोरा उठाने के लिए सिखाने की कोशिश कर रहे हैं। आप उसे एक दिमाग देते हैं (एक सुपर-स्मार्ट AI मॉडल) जो एक तस्वीर देखता है और एक कमांड जैसे "काले कटोरे को उठाओ" को समझता है और फिर रोबोट के हाथ को बताता है कि क्या करना है। इसे विजन-लैंग्वेज-एक्शन (VLA) मॉडल कहा जाता है।
समस्या क्या है? ये दिमाग बहुत विशाल और भारी होते हैं। यदि आप इन्हें रोबोट के अपने ऑनबोर्ड कंप्यूटर (जैसे कि जेटसन ओरिन, जो शक्तिशाली तो है लेकिन डेस्कटॉप की तुलना में बहुत छोटा है) पर चलाने की कोशिश करते हैं, तो रोबोट "सोचने मोड" में फंस जाता है। अगला कदम तय करने में इसे इतना समय लगता है कि जब तक रोबोट वास्तव में हिलता है, तब तक दुनिया बदल चुकी होती है। यह ऐसा है जैसे आप एक ऐसी गेंद को पकड़ने की कोशिश कर रहे हों जिसे पकड़ते समय आप ऐसे चश्मे पहने हुए हैं जो आपको यह दिखाते हैं कि गेंद एक सेकंड पहले कहाँ थी, न कि जहाँ वह अभी है। रोबोट चूक जाता है।
बड़ा विचार: "फॉरसाइट" (पूर्वाभास) और "एसिंक" (अतुल्यकालिक)
इस पेपर के लेखकों ने, जेटसन-PI (Jetson-PI), एक चतुर तरीका निकाला जिससे वे इन रोबोटों को एक विशाल, बिजली की खपत करने वाले सुपरकंप्यूटर की आवश्यकता के बिना तेज़ और स्मार्ट तरीके से सोचने के काबिल बना सकें। वे अपने इस तरीके को Jetson-PI कहते हैं।
यहाँ बताया गया है कि उन्होंने दो मुख्य सिरदर्दों को कैसे ठीक किया:
1. "टाइम ट्रैवल" का समाधान (मिसअलाइनमेंट को हल करना)
समस्या: पुराने तरीके में, रोबोट एक तस्वीर देखता है, लंबे समय तक सोचता है (मान लीजिए 1.4 सेकंड), और फिर हिलता है। लेकिन उन 1.4 सेकंड में, रोबोट किसी चीज़ से टकरा भी सकता है, या वस्तु खिसक भी सकती है। रोबोट "पुरानी खबर" पर काम कर रहा होता है।
समाधान: केवल प्रतीक्षा करने के बजाय, Jetson-PI एक "फॉरसाइट-अलाइन्ड" (पूर्वाभास-संरेखित) ट्रिक का उपयोग करता है। कल्पना कीजिए कि रोबोट के पास एक छोटा, सुपर-फास्ट क्रिस्टल बॉल (एक हल्का "फ्यूचर करेक्शन मॉड्यूल") है।
- रोबोट एक चाल के लिए प्रतिबद्ध होता है (जैसे "कटोरे की ओर बढ़ना")।
- क्रिस्टल बॉल तुरंत भविष्यवाणी करती है कि वह चाल पूरी होने के बाद दुनिया कैसी दिखेगी।
- रोबमा फिर इस "भविष्य के दृश्य" का उपयोग अगली चाल की योजना बनाने के लिए करता है।
यह एक शतरंज खिलाड़ी की तरह है जो न केवल वर्तमान बोर्ड को देखता है, बल्कि तुरंत यह भी देखता है कि उसके प्रतिद्वंद्वी की अगली चाल के बाद बोर्ड कैसा होगा, जिससे वह अपनी अगली चाल को पूरी तरह से प्लान कर सके। यह रोबोट को पुरानी जानकारी पर काम करने से रोकता है।
2. "स्मार्ट स्किप" का समाधान (धीमी प्रतिक्रिया को हल करना)
समस्या: क्रिस्टल बॉल के साथ भी, रोबोट को कभी-कभी वास्तविक दुनिया की जांच करने की आवश्यकता होती है। लेकिन दुनिया की जांच करना धीमा है क्योंकि "बड़ा दिमाग" (VLM) भारी होता है। यदि आप हर बार दुनिया की जांच करते हैं, तो रोबोट बहुत धीरे चलता है।
समाधान: लेखकों ने एक "कॉन्फिडेंस-बेस्ड शेड्यूलर" (विश्वास-आधारित शेड्यूलर) पेश किया।
- क्रिस्टल बॉल (फ्यूचर मॉड्यूल) में एक "कॉन्फिडेंस मीटर" भी होता है। यह कहता है, "मुझे 90% यकीन है कि मैं जानता हूँ कि आगे क्या होने वाला है!"
- यदि विश्वास अधिक है, तो रोबोट भारी दिमाग वाली जांच को स्किप (छोड़) देता है और बस क्रिस्टल बॉल का उपयोग करके आगे बढ़ता रहता है। यह एक परिचित सड़क पर गाड़ी चलाने जैसा है जहाँ आपको हर सेकंड GPS चेक करने की आवश्यकता नहीं होती।
- यदि विश्वास कम हो जाता है (शायद रोबोट किसी कठिन वस्तु को उठा रहा है), तो शेड्यूलर कहता है, "ठीक है, रुकिए! सुरक्षित रहने के लिए आइए बड़े दिमाग के साथ वास्तविक दुनिया की जांच करें।"
इसका मतलब है कि रोबोट केवल तभी भारी काम करता है जब उसे वास्तव में इसकी आवश्यकता होती है, जिससे वह बहुत फुर्तीला हो जाता है।
3. "सिस्टम अपग्रेड" (इंजन की गति बढ़ाना)
लेखकों ने यह भी महसूस किया कि रोबोट पर चल रहा सॉफ्टवेयर अक्षम था। उन्होंने रोबोट के कंप्यूटर को एक व्यस्त रसोईघर की तरह माना:
- ओवन को दोबारा बनाना नहीं: खाना पकाने के निर्देशों (कंप्यूटेशन ग्राफ) को हर बार फिर से बनाने के बजाय, उन्होंने इसे एक बार बनाया और बार-बार उपयोग किया।
- फ्रिज तक पैदल जाना नहीं: उन्होंने सभी सामग्रियों (डेटा) को काउंटर पर ही रखा ताकि शेफ को फ्रिज (CPU मेमोरी) तक बार-बार जाने की ज़रूरत न पड़े।
- चरणों को अनरोल करना: उन्होंने कई छोटे चरणों को एक बड़े, सुचारू संचलन में मिला दिया।
परिणाम: क्या यह काम करता है?
लेखकों ने सिमुलेशन और वास्तविक रोबोटों में इसका परीक्षण किया।
- गति: जेटसन ओरिन पर, उनके तरीके ने रोबोट की कंट्रोल फ्रीक्वेंसी को मानक PyTorch की तुलना में 8.66 गुना तेज़ और
vla.cppनामक टूल की तुलना में 5.41 गुना तेज़ बना दिया। - सफलता: LIBERO (जो रोबोट कार्यों के लिए एक बेंचमार्क है) के एक परीक्षण में, उनका रोबोट VLASH नामक पिछले शीर्ष तरीके की तुलना में 14.8% अधिक बार सफल हुआ।
- बैटरी: उन्होंने दिखाया कि एक शक्तिशाली डेस्कटॉप कार्ड (RTX 4090) का उपयोग करने से रोबोट की बैटरी जेटसन ओरिन का उपयोग करने की तुलना में 6.0 गुना तेज़ी से खत्म होगी। Jetson-PI रोबोट को अपनी बैटरी पर लंबे समय तक चलने देता है।
वे स्पष्ट रूप से क्या कहते हैं कि काम नहीं करता
लेखकों ने कुछ विचारों का परीक्षण किया और उन्हें खारिज कर दिया:
- पैरेलल प्रोसेसिंग (समानांतर प्रसंस्करण): उन्होंने समय बचाने के लिए "बड़े दिमाग" और "एक्शन एक्सपर्ट" को एक ही समय में चलाने की कोशिश की। उन्होंने पाया कि छोटे ऑनबोर्ड कंप्यूटरों पर यह विफल हो जाता है क्योंकि वे दोनों सीमित डेटा बैंडविड्थ के लिए लड़ते हैं, जिससे सब कुछ धीमा हो जाता है। यह केवल बड़े डेस्कटॉप कंप्यूटरों पर काम करता है।
- केवल रोबोट की स्थिति की भविष्यवाणी करना: पिछले तरीकों ने यह अनुमान लगाने की कोशिश की कि भविष्य में रोबोट का हाथ कहाँ होगा। लेखकों ने पाया कि यह पर्याप्त नहीं है क्योंकि यह इस बात पर ध्यान नहीं देता कि पर्यावरण (मेज, वस्तुएं) कैसे बदलता है। आपको केवल रोबोट की नहीं, बल्कि पर्यावरण की भविष्यवाणी करने की आवश्यकता है।
वे कितने आश्वस्त हैं?
पेपर में उनके द्वारा मापे गए नंबरों के प्रति बहुत आत्मविश्वास है। उन्होंने LIBERO बेंचमार्क पर व्यापक सिमुलेशन चलाए और लैब सेटिंग में वास्तविक रोबोट (जैसे X2-W) पर परीक्षण किया। उन्होंने विलंब के सटीक मिलीसेकंड और सटीक सफलता दर को मापा। वे स्पष्ट रूप से कहते हैं कि हालांकि उनकी विधि मोबाइल रोबोटों के लिए एक बड़ा सुधार है, फिर भी यह बड़े क्लस्टर के कच्चे पावर से पूरी तरह मेल नहीं खा सकती है यदि भविष्य में मॉडल और भी बड़े हो जाते हैं। लेकिन एक रोबोट के लिए जिसे अपनी बैटरी पर चलना है? वे इसे एक व्यावहारिक, काम करने वाला समाधान बताते हैं।
संक्षेप में, Jetson-PI एक रोबोट को "आगे सोचना" और "सुरक्षित होने पर भारी काम को छोड़ना" सिखाता है, जिससे वह बिना किसी सुपरकंप्यूटर को पीठ पर लादे, तेज़ और स्मार्ट तरीके से चल सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।