Deltoris: Enabling Real-time VLA Inference in Embodied AI via Bit-level Sparsity and Speculative Inference

कल्पना कीजिए कि एक रोबोट कैच खेलने का खेल सीखने की कोशिश कर रहा है। इसे करने के लिए, उसे एक ऐसे मस्तिष्क की आवश्यकता है जो गेंद को देख सके, नियमों को समझ सके और यह तय कर सके कि अपने हाथ को बिल्कुल कैसे हिलाना है। रोबोटिक्स की दुनिया में, यह "मस्तिष्क" अक्सर विजन-लैंग्वेज-एक्शन (VLA) मॉडल नामक एक विशेष प्रकार का कंप्यूटर प्रोग्राम होता है। इसे एक सुपर-स्मार्ट अनुवादक के रूप में समझें जो जो रोबोट देखता और सुनता है, उसे शारीरिक गतिविधियों में बदल देता है। लंबे समय तक, ये रोबोट थोड़े धीमे और अनाड़ी थे क्योंकि उन्हें चलाने के लिए आवश्यक गणित अविश्वसनीय रूप से भारी था, जैसे कि ईंटों से भरा बैकपैक लेकर मैराथन दौड़ने की कोशिश करना।

हाल ही में, वैज्ञानिकों ने रोबोट को चलने सिखाने का एक नया तरीका खोजा जिसे "डिफ्यूजन" (diffusion) कहा जाता है। कल्पना कीजिए कि एक रोबोट पहले एक धुंधले कमरे में लड़खड़ाते हुए घूमकर सीख रहा है और फिर धीरे-धीरे उस धुंध को चरण-दर-चरण साफ करता है जब तक कि वह सही रास्ता न ढूंढ ले। यह विधि रोबोट को पहले की तुलना में बहुत अधिक सुचारू रूप से चलाने में मदद करती है और उन्हें नई स्थितियों को बेहतर ढंग से संभालने में सक्षम बनाती है। हालाँकि, इसमें एक पेंच है: यह "धुंध-साफ करने" की प्रक्रिया इतनी गणनात्मक रूप से भारी है कि यह वास्तविक समय (real-time) के उपयोग के लिए बहुत धीमी है। एक रोबोट को संतुलित और सुरक्षित रहने के लिए हर सेकंड 50 से 200 बार निर्णय लेने की आवश्यकता होती है, लेकिन ये नए मॉडल बहुत अधिक समय ले रहे थे, जैसे कि चीता बनने की दौड़ में एक घोंघा। यही वह समस्या थी जिसे हल करने के लिए शोधकर्ताओं की एक टीम ने हाथ लगाया: हम इन सुपर-स्मार्ट, सुचारू रूप से चलने वाले रोबोटों को वास्तविक दुनिया के साथ तालमेल बिठाने के लिए पर्याप्त तेज़ कैसे बना सकते हैं?

यहाँ आता है डेल्टोरिस (Deltoris), एक चतुर नया सिस्टम जिसे रोबोट के इन दिमागों को बिना मूर्ख बनाए तेज़ करने के लिए डिज़ाइन किया गया है। शोधकर्ताओं ने महसूस किया कि रोबot ऐसी दुनिया में नहीं रहते जहाँ सब कुछ तुरंत बदल जाता है। यदि कोई रोबोट कप की ओर हाथ बढ़ा रहा है, तो एक मिलीसेकंड से दूसरे मिलीसेकंड के बीच कप का दृश्य लगभग एक जैसा ही होता है। यह एक ऐसी फिल्म देखने जैसा है जहाँ 98% फ्रेम समान होते; आपको हर बार पूरी तस्वीर फिर से बनाने की आवश्यकता नहीं है, आपको बस उस छोटे से हिस्से को बनाना है जो बदला है।

डेल्टोरिस इस अवलोकन का लाभ उठाने के लिए टेम्पोरल-अवेयर बिट-लेवल स्पर्सिटी (temporal-aware bit-level sparsity) नामक एक तकनीक का उपयोग करता है। हर एक गतिविधि के लिए पूरी गणितीय समस्या की पुनर्गणना करने के बजाय, सिस्टम केवल वर्तमान क्षण और पिछले क्षण के बीच के अंतर की गणना करता है। यह एक टेक्स्ट मैसेज भेजने जैसा है जो केवल यह कहता है "मैंने अपना हाथ 2 इंच ऊपर उठाया" बजाय इसके कि हर बार आपकी पूरी जीवनी फिर से लिखी जाए। यह काम के एक विशाल अनावश्यक हिस्से को छोड़ देता है, जिससे गणनाओं में 90% से अधिक की कमी आती है।

हालाँकि, इसमें एक अड़चन थी। केवल "अंतर" भेजकर, सिस्टम को पिछले क्षण की "पुरानी" जानकारी की तुलना "नई" जानकारी से करने के लिए लगातार मेमोरी से प्राप्त करनी पड़ती थी, जिससे डेटा पाइपलाइन में ट्रैफिक जाम पैदा हो गया। इसे ठीक करने के लिए, टीम ने स्पेक्टेटिव इन्फरेंस (speculative inference) नामक दूसरा तरीका जोड़ा। कल्पना कीजिए कि एक कोच के पास एक छोटा, तेज़ सहायक है जो खेल की अगली कुछ चालों की भविष्यवाणी करता है, और फिर एक बड़ा, धीमा, सुपर-स्मार्ट कोच उन भविष्यवाणियों की एक समूह में एक साथ जांच करता है। यह सिस्टम को भारी डेटा को केवल एक बार लोड करने और कई चरणों को सत्यापित करने के लिए इसका उपयोग करने की अनुमति देता है, जिससे ट्रैफिक जाम की समस्या सुलझ जाती है।

इस जादू को संभव बनाने के लिए, शोधकर्ताओं ने केवल सॉफ्टवेयर नहीं लिखा; उन्होंने विशेष रूप से इन "अंतर" गणनाओं को संभालने के लिए एक कस्टम हार्डवेयर चिप (एक एक्सेलेरेटर) भी बनाया। उन्होंने छोटे प्रोसेसरों की एक विशेष असेंबली लाइन बनाई जो एक साथ मिलकर काम करती है, यह सुनिश्चित करते हुए कि डेटा की प्रतीक्षा करते समय कोई भी खाली न बैठे।

उनके प्रयोगों के परिणाम प्रभावशाली हैं। जब उन्होंने डेल्टोरिस का परीक्षण मानक मोबाइल कंप्यूटर चिप्स (जैसे कि उच्च श्रेणी के फोन में होते हैं) और अन्य विशेष रोबोट चिप्स के मुकाबले किया, तो यह एक बड़ी जीत थी। डेल्टोरिस मोबाइल जीपीयू (GPUs) की तुलना में 34.2 गुना तेज़ और पिछले विशेष एक्सेलेरेटर्स की तुलना में 6.1 गुना तेज़ था। शायद इससे भी महत्वपूर्ण बात यह है कि इसने 822 गुना कम ऊर्जा का उपयोग किया, जो बैटरी से चलने वाले रोबोटों के लिए एक बहुत बड़ी बात है। टीम ने यह भी जांचा कि क्या इन शॉर्टकटों से रोबोट भ्रमित हो सकता है; सटीकता लगभग वैसी ही रही, प्रदर्शन में केवल एक मामूली गिरावट देखी गई।

संक्षेप में, डेल्टोरिस यह दिखाता है कि क्या गणना करनी है (केवल बदलाव) और कैसे गणना करनी है (भविpredictions को एक साथ समूह में करना) के बारे में स्मार्ट होकर, हम अंततः एम्बोडीड एआई (embodied AI) को वह गति और दक्षता दे सकते हैं जिसकी उसे वास्तविक समय में दुनिया में कार्य करने के लिए आवश्यकता है। यह उन रोबोटों की ओर एक महत्वपूर्ण कदम है जो न केवल सोच सकते हैं बल्कि हमारी तरह तेज़ी से कार्य भी कर सकते हैं।