Vision-Language Models on the Edge for Real-Time Robotic Perception
यह शोध पत्र यूनिट्री जी1 (Unitree G1) रोबोट का उपयोग करके 6G-सक्षम एज (ORAN/MEC) इंफ्रास्ट्रक्चर पर विजन-लैंग्वेज मॉडल्स की तैनाती की जांच करता है, जो यह प्रदर्शित करता है कि एज-आधारित निष्पादन क्लाउड के निकट सटीकता बनाए रखते हुए विलंबता (latency) को महत्वपूर्ण रूप से कम करता है, जबकि कॉम्पैक्ट मॉडल सटीकता की कीमत पर और भी तेज़ प्रतिक्रियाशीलता प्रदान करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, रोबोटिक सहायक है (जैसे कि एक मानव के आकार का रोबोट), जिसे दुनिया को देखने और आपसे बात करने की आवश्यकता है। ऐसा करने के लिए, यह एक "मस्तिष्क" का उपयोग करता है जिसे विज़न-लैंग्वेज मॉडल (VLM) कहा जाता है। यह मस्तिष्क एक तस्वीर को देख सकता है, समझ सकता है कि क्या हो रहा है, और उस पर सवालों के जवाब दे सकता है।
समस्या यह है कि ये मस्तिष्क बहुत विशाल और भारी होते हैं। आमतौर पर, इन्हें चलाने के लिए, रोबोट को अपना सारा वीडियो और ऑडियो डेटा इंटरनेट के माध्यम से एक विशाल, दूर स्थित डेटा सेंटर (जिसे "क्लाउड" कहा जाता है) को भेजना पड़ता है ताकि वहां से उत्तर प्राप्त किया जा सके, और फिर उत्तर वापस आने का इंतज़ार करना पड़ता है। यह वैसा ही है जैसे आप शेफ को खाना पकाने के लिए पत्र भेजकर पिज्जा ऑर्डर करें, उनके खाना पकाने का इंतज़ार करें, और फिर उसे वापस पाने के लिए पत्र का इंतज़ार करें। यह धीमा है, महंगा है, और अगर डाक खो गई, तो आप भूखे रह जाएंगे।
यह शोध एक नए विचार का परीक्षण करता है: क्या होगा अगर हम मस्तिष्क को रोबट के बिल्कुल पास रख दें?
सेटअप: रोबोट और "एज" (Edge)
शोधकर्ताओं ने एक वास्तविक रोबोट का उपयोग किया जिसका नाम Unitree G1 (एक छोटा, फुर्तीला मानव के आकार का रोबोट) है। डेटा को दूर स्थित क्लाउड में भेजने के बजाय, उन्होंने रोबोट को एक स्थानीय "एज" (Edge) सर्वर से जोड़ा।
क्लाउड को एक विशाल, केंद्रीकृत पुस्तकालय के रूप में सोचें जो दूसरे शहर में है। किताब पढ़ने के लिए आपको वहां तक गाड़ी चलाकर जाना पड़ता है।
एज (विशेष रूप से ORAN/MEC) को रोबोट के सामने वाले दरवाजे के ठीक बाहर स्थित एक छोटे, स्मार्ट कियोस्क के रूप में सोचें। इसके पास वही किताबें मौजूद हैं जिनकी उसे आवश्यकता है, इसलिए आपको दूर तक यात्रा करने की आवश्यकता नहीं है।
उन्होंने एक सिस्टम बनाया जिसमें WebRTC (एक ऐसी तकनीक जो कंप्यूटर को वीडियो कॉल की तरह तुरंत एक-दूसरे से बात करने देती है) का उपयोग करके रोबोट से इस स्थानीय कियोस्क तक वीडियो और आवाज़ स्ट्रीम की गई।
प्रयोग: दो प्रकार के मस्तिष्क
उन्होंने यह देखने के लिए इस स्थानीय कियोस्क पर दो अलग-अलग "मस्तिष्कों" का परीक्षण किया कि वे दूर स्थित क्लाउड की तुलना में कैसा प्रदर्शन करते हैं:
- "सुपर-ब्रेन" (LLaMA-3.2-11B): यह एक विशाल, अत्यधिक बुद्धिमान मॉडल है। यह एक पीएचडी प्रोफेसर की तरह है जो सब कुछ जानता है लेकिन गहराई से सोचने के लिए थोड़ा समय लेता है।
- "कॉम्पैक्ट ब्रेन" (Qwen2-VL-2B): यह एक छोटा, हल्का मॉडल है। यह एक तेज़-तर्रार इंटर्न की तरह है जो तेज़ी से जवाब दे सकता है लेकिन कुछ गहरे विवरणों को मिस कर सकता है।
उन्हें क्या पता चला
1. एज पर सुपर-ब्रेन एक विजेता है
जब उन्होंने विशाल "सुपर-ब्रेन" को दूर स्थित क्लाउड के बजाय स्थानीय एज कियोस्क पर रखा:
- गति: यह 5% तेज़ था। यह बहुत बड़ी छलांग नहीं लगती, लेकिन रोबोट की दुनिया में, एक सेकंड के बहुत छोटे हिस्से को भी बचाना बातचीत को बहुत स्वाभाविक और सुरक्षित बनाता है।
- बुद्धिमत्ता: यह क्लाउड संस्करण जितना ही स्मार्ट था। इसने अपनी सटीकता नहीं खोई।
- गोपनीयता: क्योंकि वीडियो स्थानीय नेटवर्क से बाहर नहीं गया, इसलिए रोबोट के परिवेश की गोपनीयता बनी रही। किसी दूर स्थित डेटा सेंटर ने वीडियो नहीं देखा।
2. कॉम्पैक्ट ब्रेन एक स्पीड डेमन (गति का उस्ताद) है
जब उन्होंने छोटे "कॉम्पैक्ट ब्रेन" का उपयोग किया:
- गति: यह क्लाउड संस्करण की तुलना में दोगुने से भी अधिक तेज़ था। यह एक सेकंड से भी कम समय में जवाब दे सकता था, जो त्वरित बातचीत के लिए बेहतरीन है।
- बुद्धिमत्ता: यह कम सटीक था। इसने कुछ गहरे तर्क वाले कार्यों को मिस कर दिया। यह उस इंटर्न की तरह है जो तेज़ी से जवाब तो देता है लेकिन जटिल गणित में गलती कर सकता है।
3. समय कहाँ जाता है
उन्होंने यह विस्तार से बताया कि समय कहाँ खर्च हुआ। उन्होंने पाया कि तस्वीर को पढ़ना तुरंत हो गया। धीमी प्रक्रिया टेक्स्ट उत्तर जेनरेट करना थी। "सोचने" और "टाइपिंग" वाले भाग में 85% से अधिक समय लगा। यह हमें बताता है कि रोबोट को तेज़ बनाने के लिए, हमें केवल "देखने" वाले भाग को ही नहीं, बल्कि "टाइपिंग" वाले भाग को भी स्मार्ट बनाने की आवश्यकता है।
बड़ी तस्वीर (The Big Picture)
शोध निष्कर्ष निकालता है कि हमें "स्मार्ट" और "तेज़" के बीच चुनाव करने की आवश्यकता नहीं है।
- यदि आपको अधिकतम बुद्धिमत्ता चाहिए (जैसे जटिल नेविगेशन या सामाजिक संकेतों के लिए), तो आप एज पर बड़ा मॉडल चला सकते हैं और क्लाउड जितनी ही बुद्धिमत्ता प्राप्त कर सकते हैं, बस थोड़ा तेज़ और अधिक निजी तरीके से।
- यदि आपको तत्काल प्रतिक्रिया चाहिए (जैसे किसी बाधा से बचने के लिए), तो छोटा मॉडल एक बेहतरीन विकल्प है, भले ही वह थोड़ा कम स्मार्ट हो।
संक्षेप में, अपने "मस्तिष्क" को दूर स्थित क्लाउड से हटाकर एक स्थानीय कियोस्क (एज) पर ले जाकर, हम रोबोट को सुरक्षित, अधिक निजी और ऐसा बना सकते हैं जो हमारे साथ वास्तविक समय में बात करता हुआ महसूस हो, न कि समुद्र पार से जवाब आने का इंतज़ार करता हुआ।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।