Efficient Block-Layer Parallel Inference for Vision-Language-Action on Hybrid Architectures
यह शोध पत्र एक हाइब्रिड CPU-GPU इन्फरेंस फ्रेमवर्क प्रस्तुत करता है जो विजन-लैंग्वेज-एक्शन (VLA) मॉडल्स को ब्लॉक-लेयर पर विभाजित करता है ताकि एक एसिंक्रोनस पाइपलाइन के माध्यम से गणना को CPU पर ऑफलोड किया जा सके, जिससे इन्फरेंस लेटेंसी और GPU मेमोरी उपयोग में महत्वपूर्ण कमी आती है ताकि संसाधन-सीमित स्वायत्त ड्राइविंग प्लेटफॉर्म पर सफल परिनियोजन सक्षम हो सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
स्वायत्त ड्राइविंग (ऑटोनॉमस ड्राइविंग) लंबे समय से एक मॉड्यूलर दृष्टिकोण पर निर्भर रही है, जहाँ अलग-अलग कंप्यूटर प्रोग्राम विशिष्ट कार्यों को संभालते हैं जैसे सड़क को देखना, अन्य कारों के जाने के स्थान का अनुमान लगाना और यह तय करना कि स्टीयरिंग कैसे घुमाना है। ये सिस्टम एक साथ काम करते हैं, लेकिन ये अक्सर कठोर होते हैं और जटिल, बदलती स्थितियों के अनुकूल होने में संघर्ष करते हैं। हाल ही में, विजन-लैंग्वेज-एक्शन मॉडल नामक एक नए प्रकार का आर्टिफिशियल इंटेलिजेंस उभरा है जो एक आशाजनक विकल्प के रूप में सामने आया है। ये मॉडल एक मानव चालक की तरह कार्य करते हैं जो किसी दृश्य को देख सकता है, एक मौखिक निर्देश या एक जटिल यातायात परिदृश्य को समझ सकता है, और तुरंत एक भौतिक क्रिया का निर्णय ले सकता है, और यह सब एक ही, एकीकृत मस्तिष्क के भीतर होता है। हालांकि ये मॉडल सहज और सुरक्षित ड्राइविंग बनाने में बड़ी क्षमता दिखाते हैं, लेकिन इनके साथ एक बड़ी बाधा भी है: वे कंप्यूटर संसाधनों पर बहुत भारी होते हैं। उन्हें भारी मात्रा में प्रोसेसिंग पावर और मेमोरी की आवश्यकता होती है, जो अक्सर वर्तमान स्वायत्त कारों में पाए जाने वाले विशेष ग्राफिक्स चिप्स को अभिभूत कर देती है। यह एक ऐसी बाधा उत्पन्न करता है जहाँ कार का कंप्यूटर मॉडल की जरूरतों के साथ तालमेल नहीं बिठा पाता, जिससे गति या सुरक्षा से समझौता किए बिना इन उन्नत प्रणालियों को वास्तविक वाहनों पर स्थापित करना कठिन हो जाता है।
सिटी यूनिवर्सिटी ऑफ हांगकांग और मोहम्मद बिन जायद यूनिवर्सिटी ऑफ आर्टिफिशियल इंटेलिजेंस के शोधकर्ताओं ने इन शक्तिशाली मॉडलों को चलाने का एक नया तरीका विकसित किया है जो मॉडल को बदले बिना इस संसाधन समस्या को हल करता है। पूरे आर्टिफिशियल इंटेलिजेंस मस्तिष्क को ग्राफिक्स चिप पर चलाने के बजाय, उन्होंने काम को ग्राफिक्स चिप और कार के मुख्य सेंट्रल प्रोसेसर के बीच विभाजित कर दिया। उन्होंने पाया कि जबकि ग्राफिक्स चिप सड़क को "देखने" के प्रारंभिक कार्य के लिए उत्कृष्ट है, सेंट्रल प्रोसेसर, जो आमतौर पर इन भारी दृश्य कार्यों के दौरान खाली बैठा रहता है, तर्क करने (रीजनिंग) के बाद के चरणों को संभालने में पूरी तरह सक्षम है। मॉडल को परतों में विभाजित करके और पहली परतों को ग्राफिक्स चिप को तथा अंतिम परतों को सेंट्रल प्रोसेसर को सौंपकर, उन्होंने एक संतुलित प्रणाली बनाई। इसके अलावा, क्योंकि एक कार लगातार चलती रहती है और छवियों की एक नई स्ट्रीम प्राप्त करती है, शोधकर्ताओं ने एक ऐसा पाइपलाइन डिजाइन किया जहाँ सेंट्रल प्रोसेसर वर्तमान क्षण के तर्क पर काम करता है जबकि ग्राफिक्स चिप पहले से ही अगले क्षण को प्रोसेस करना शुरू कर देता है। कार्यों के इस ओवरलैपिंग (अतिव्यापन) से दोनों प्रोसेसरों को व्यस्त रखने में मदद मिलती है, जिससे निर्णय लेने की प्रक्रिया काफी तेज हो जाती है।
जब टीम ने दो अग्रणी स्वायत्त ड्राइविंग मॉडलों पर इस दृष्टिकोण का परीक्षण किया, तो परिणाम पर्याप्त थे। ओरियन (Orion) नामक एक मॉडल के लिए, ड्राइविंग निर्णय लेने में लगने वाला समय 521 मिलीसेकंड से घटकर 408 मिलीसेकंड हो गया, जो लगभग 22 प्रतिशत की कमी है। माइंडड्राइव (MindDrive) नामक एक अन्य मॉडल के लिए, समय 443 मिलीसेकंड से गिरकर 306 मिलीसेकंड हो गया, जो 30 प्रतिशत से अधिक की गिरावट है। गति से भी अधिक महत्वपूर्ण शायद कार की मेमोरी पर पड़ने वाला दबाव था। मूल ओरियन मॉडल को ग्राफिक्स चिप पर 45 गीगाबाइट मेमोरी की आवश्यकता थी, एक ऐसी मांग जो इतनी अधिक थी कि यह परीक्षण वाहन पर अन्य आवश्यक कार प्रणालियों के साथ नहीं चल सकता था। नए हाइब्रिड दृष्टिकोण ने इस आवश्यकता को घटाकर 29 गीगाबाइट कर दिया, जिससे यह मॉडल सफलतापूर्वक उसी हार्डवेयर पर चल सका जहाँ मूल संस्करण पूरी तरह विफल रहा था। इन परीक्षणों के दौरान, ड्राइविंग निर्णयों की गुणवत्ता अपरिवर्तित रही; कार खराब तरीके से नहीं चली या इससे दुर्घटनाएं नहीं हुईं, जिससे सिद्ध हुआ कि गति में लाभ सुरक्षा की कीमत पर नहीं आया।
शोधकर्ताओं ने यह भी पाया कि केवल काम को विभाजित करना पर्याप्त नहीं था; उस विभाजन का समय बहुत मायने रखता था। यदि उन्होंने सेंट्रल प्रोसेसर को बहुत अधिक काम सौंपा, तो वह नया बॉटलनेक (बाधा) बन गया, जिससे सब कुछ धीमा हो गया। यदि उन्होंने बहुत कम काम सौंपा, तो ग्राफिक्स चिप ओवरलोडेड रहा। उन्होंने एक विशिष्ट संतुलन बिंदु पाया जहाँ कार्यभार समान रूप से वितरित था, जिससे सिस्टम को अपनी सबसे तेज़ गति प्राप्त करने में मदद मिली। उन्होंने यह भी पुष्टि की कि ओवरलैपिंग पाइपलाइन आवश्यक थी। इसके बिना, सिस्टम को अगला कार्य शुरू करने से पहले एक कार्य को पूरी तरह से समाप्त होने का इंतजार करना पड़ता, जिससे दो प्रोसेसरों का उपयोग करने के लाभ निष्प्रभावी हो जाते। वीडियो के विभिन्न फ्रेमों पर प्रोसेसरों को एक साथ काम करने देकर, सिस्टम ने निर्णयों का एक निरंतर, उच्च-गति प्रवाह प्राप्त किया।
यह कार्य प्रदर्शित करता है कि वर्तमान स्वायत्त हार्डवेयर की सीमाएं एक अंत नहीं हैं, बल्कि कार्यों को कैसे वितरित किया जाए, इस पर पुनर्विचार करने का संकेत हैं। अध्ययन बताता है कि कार के कंप्यूटर को एक एकल शक्तिशाली इकाई के बजाय विशेषज्ञों की एक टीम के रूप में मानकर, उन्नत, बड़े पैमाने के आर्टिफिशियल इंटेलिजेंस मॉडल को मौजूदा वाहनों पर तैनात करना संभव है। शोधकर्ताओं ने इसे एक वास्तविक वाहन पर मानक ड्राइविंग सॉफ्टवेयर के साथ चलाकर मान्य किया, जिससे पता चला कि हाइब्रिड दृष्टिकोण न केवल एक सैद्धांतिक सुधार है बल्कि एक व्यावहारिक समाधान भी है जो कार चलाने के लिए आवश्यक जटिल सॉफ्टवेयर के साथ सह-अस्तित्व में रह सकता है। निष्कर्ष बताते हैं कि कुशल सिस्टम डिजाइन, न कि केवल अधिक शक्तिशाली हार्डवेयर की प्रतीक्षा करना, इन परिष्कृत ड्राइविंग मॉडलों को वास्तविक दुनिया में लाने की कुंजी है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।