Lost in Reconstruction: Aligning Action Representations with Language in Vision-Language-Action Models

कल्पना कीजिए कि आप एक रोबोट को खाना बनाना सिखा रहे हैं। आपको लग सकता है कि उसे यह बताना सबसे महत्वपूर्ण है कि अंतिम व्यंजन कैसा दिखना चाहिए: "सूप गर्म होना चाहिए और कटोरे में होना चाहिए।" लेकिन क्या होगा यदि रोबोट केवल अंतिम तस्वीर की परवाह करता है? वह सूप को हवा में उछालकर, चारों ओर छींटें मारकर, या बर्तन गिराकर कटोरे में डालने की कोशिश कर सकता है। ठीक से खाना पकाने के लिए, रोबोट को न केवल मंजिल (destination) की, बल्कि गति के उस 'नृत्य' (dance) की भी समझ होनी चाहिए—जैसे धीरे से चलाना, सावधानी से डालना, या किसी हैंडल को पकड़ने का विशिष्ट तरीका। यह विज़न-लैंग्वेज-एक्शन (VLA) मॉडल की दुनिया है। ये सुपर-स्मार्ट AI मस्तिष्क हैं जो यह जोड़ते हैं कि रोबोट क्या देखता है (विज़न), उसे क्या करने के लिए कहा जाता है (भाषा), और वह अपने शरीर को कैसे हिलाता है (एक्शन)। लंबे समय तक, वैज्ञानिक रोबोट को "क्या" और "कहाँ" समझने में माहिर रहे हैं, लेकिन उन्हें रोबोट को "कैसे" सिखाने में संघर्ष करना पड़ा है। वे रोबोट की जटिल, निरंतर गतिविधियों को निर्देशों की एक सरल सूची में बदलने की कोशिश कर रहे थे, लेकिन ऐसा करते समय, वे अनजाने में रेसिपी का सबसे महत्वपूर्ण हिस्सा: गति की शैली और सूक्ष्मता (nuance) को हटा रहे थे।

यह शोध पत्र, जिसका शीर्षक "लॉस्ट इन रिकंस्ट्रक्शन" (Lost in Reconstruction) है, इस समस्या पर प्रहार करता है कि हम इन रोबोटिक मस्तिष्कों को हिलना-डुलना कैसे सिखाते हैं। शोधकर्ताओं ने पाया कि जब हम एक रोबोट की सहज, बहती हुई गतिविधियों को डिजिटल "टोकन" (जैसे एक गाने को संगीत के नोट्स की सूची में बदलना) की एक सूची में बदलते हैं, तो मानक विधि उन सुरागों को फेंक देती है जो रोबोट को बताते हैं कि कौन सा 'क्रिया पद' (verb) किया जा रहा है। उन्होंने पाया कि "पलटना" (flip), "धकेलना" (push), या "मोड़ना" (fold) जैसे शब्दों में छिपी जानकारी रोबोट के हिलने-डुलने के तरीके में होती है, न कि केवल इस बात में कि वह कहाँ समाप्त होता है। इस तरह की गतिविधियों को डिजिटल कोड में अनुवादित करने के तरीके को ठीक करके, उन्होंने एक नई प्रणाली बनाई जिसे SALT (सेमेंटिकली अलाइन्ड एक्शन टोकनाइज़र - Semantically ALigned action Tokenizer) कहा जाता है। अपने परीक्षणों में, SALT का उपयोग करने वाले रोबोट निर्देश मानने में बहुत बेहतर थे, जो पुराने तरीकों के 43% से कम की तुलना में लगभग 72% बार सफल रहे। यह पेपर सुझाव देता है कि रोबोटों को वास्तव में मानव भाषा समझने के लिए, हमें यह सुनिश्चित करना होगा कि उनकी "गति शब्दावली" (movement vocabulary) क्रिया के अर्थ को जीवित रखे, न कि केवल इस बात पर ध्यान केंद्रित करे कि वे पथ को कितनी सटीकता से फिर से बना सकते हैं।

समस्या: जब "क्या" में "कैसे" खो जाता है

एक रोबोट की गति को एक निरंतर, बहती हुई नदी के रूप में सोचें। एक विज़न-लैंग्वेज-एक्शन मॉडल का उपयोग करके रोबोट को सिखाने के लिए, वैज्ञानिकों को अक्सर इस बहती नदी को सीढ़ियों के एक क्रम (stepping stones) में बदलना पड़ता है। वे गति को छोटे-छोटे टुकड़ों में काट देते हैं और प्रत्येक टुकड़े को एक डिजिटल लेबल, या "टोकन" सौंप देते हैं। यह एक स्मूथ जैज़ मेलोडी को नंबरों की सूची में बदलने जैसा है ताकि कंप्यूटर इसे पढ़ सके।

समस्या यह है कि इसे करने का मानक तरीका पुनर्निर्माण (reconstruction) के प्रति जुनूनी है। यह पूछता है: "क्या हम इन नंबरों को वापस उसी नदी में बदल सकते हैं?" यदि नंबर मूल गति के पर्याप्त करीब हैं, तो सिस्टम कहता है, "अच्छा काम किया!" लेकिन शोधकर्ताओं ने महसूस किया कि "पर्याप्त करीब होना" और "सार्थक होना" एक ही बात नहीं है।

कल्पना कीजिए कि आप एक नृत्य का वर्णन कर रहे हैं। आप कह सकते हैं, "नर्तक बिंदु A से बिंदु B तक चला।" यह लक्ष्य है। लेकिन क्रिया (verb)—चाहे वे "फिसले", "पैर पटककर चले", या "घूमे"—गति के विवरण में छिपी होती है। पेपर का तर्क है कि वर्तमान रोबोट सिस्टम ऐसे अनुवादक की तरह हैं जिन्हें केवल मंजिल की परवाह है। वे एक "पलटने" (flip) और "धकेलने" (push) को एक ही प्रकार के स्टेपिंग स्टोन्स में बदल सकते हैं यदि दोनों एक ही स्थान पर समाप्त होते हैं, भले ही गतिविधियाँ पूरी तरह से अलग हों। सिस्टम "क्रिया-आधारित समझ" (verb-grounding) की जानकारी खो देता है—वे सुराग जो रोबोट को बताते हैं कि क्रिया "कैसे" करनी है।

खोज: क्रियाएं गति में जीवित रहती हैं

इसे सिद्ध करने के लिए, शोधकर्ताओं ने वास्तविक रोबोटों के एक विशाल डेटासेट का विश्लेषण किया जिन्हें मनुष्यों द्वारा नियंत्रित किया जा रहा था, जहाँ प्रत्येक गति को "चम्मच को तौलिए पर रखें" या "पैनकेक को पलटें" जैसे बोले गए निर्देश के साथ जोड़ा गया था। उन्होंने निर्देशों को क्रियाओं (verbs) में विभाजित किया और रोबोट की गतिविधियों का विश्लेषण किया।

उन्होंने दो अलग-अलग स्रोतों की पहचान की:

1. लक्ष्य (The Goal): शुरुआत और अंत के बीच दृश्य परिवर्तन (जैसे, चम्मच अब तौलिए पर है)।
2. गति की गतिशीलता (The Motion Dynamics): वह वास्तविक पथ जो रोबोट ने वहां पहुँचने के लिए लिया (जैसे, ग्रिपर की गति, वक्र/curve, और समय)।

पेपर दिखाता है कि ये दो स्रोत एक-दूसरे के पूरक हैं। "मोड़ने" (fold) जैसी कुछ क्रियाओं के लिए, अंतिम आकार सबसे महत्वपूर्ण सुराग है। लेकिन "पलटने" (flip) या "घुमाने" (turn) जैसी अन्य क्रियाओं के लिए, रोबकट जिस तरह से हिलता है, वही एकमात्र चीज़ है जो आपको क्रिया बताती है। आप केवल शुरुआत और अंत के बिंदुओं को देखकर "पलटने" और "धकेलने" के बीच अंतर नहीं कर सकते; आपको गति को देखना होगा। शोधकर्ताओं ने इसे मापा और पाया कि गति की गतिशीलता (motion dynamics) अद्वितीय जानकारी प्रदान करती है जिसे केवल विजुअल गोल (visual goal) नहीं पकड़ सकता। वास्तव में, कुछ क्रियाओं के लिए, गति ने लगभग 0.05 स्थापना (0.059 bits) की अद्वितीय जानकारी प्रदान की—जो निर्देश को समझने में एक बड़ा अंतर पैदा करने के लिए पर्याप्त है।

गलती: संपीड़न (Compression) अर्थ को मिटा देता है

शोधकर्ताओं ने फिर यह परीक्षण किया कि विभिन्न विधियाँ गति को डिजिटल टोकन में बदलने के दौरान इस "क्रिया" (verb) की जानकारी को कितनी अच्छी तरह सुरक्षित रखती हैं। उन्होंने तीन सामान्य तरीकों को देखा:

• Bin: गति को निश्चित आकार के बक्सों (buckets) में विभाजित करना।
• FAST: गति को फ्रीक्वेंसी पैटर्न में संकुचित करना।
• VQ-VAE: यथासंभव सटीक रूप से गति को फिर से बनाने की कोशिश करके "सीढ़ियों" (stepping stones) का एक सेट सीखना।

उन्होंने पाया कि जैसे-जैसे ये सिस्टम डेटा को छोटा करने के लिए (कम टोकन) डेटा को संकुचित करते हैं, वे व्यवस्थित रूप से क्रिया की जानकारी को मिटा देते हैं। यह एक स्पंज को निचोड़ने जैसा है: जैसे-जैसे आप पानी (डेटा) बाहर निकालते हैं, आप आकार (अर्थ) को भी बाहर निकाल देते हैं। "केवल पुनर्निर्माण" (reconstruction-only) वाली विधियाँ, जो केवल पथ को सटीक रूप से फिर से बनाने की परवाह करती थीं, भाषाई सुरागों को रखने में विफल रहीं। जैसे-जैसे संपीड़न मजबूत होता गया, मूल गति और टोकन किए गए संस्करण के बीच का अंतर बढ़ता गया। पेपर का तर्क है कि यह एक बाधा (bottleneck) है: यदि रोबole की गति के लिए आंतरिक भाषा, गति की मानवीय भाषा से मेल नहीं खाती है, तो रोबोट निर्देशों का पालन करने में संघर्ष करेगा।

समाधान: SALT

इसे ठीक करने के लिए, लेखकों ने SALT (सेमेंटिकली अलाइन्ड एक्शन टोकनाइज़र) पेश किया। केवल रोबोट को गति को फिर से बनाना सिखाने के बजाय, उन्होंने एक नया नियम जोड़ा: "आपको मूल निर्देश का भी अनुमान लगाना होगा।"

यह कैसे काम करता है, इसके लिए एक सरल उपमा है: कल्पना कीजिए कि आप एक छात्र को चित्र बनाना सिखा रहे हैं।

• पुरानी विधि: आप छात्र से कहते हैं, "इस चित्र को ऐसे बनाओ कि यह मूल चित्र जैसा दिखे।" वे रेखाओं को सही करने पर ध्यान केंद्रित करते हैं।
• SALT विधि: आप छात्र से कहते हैं, "इस चित्र को ऐसे बनाओ कि यह मूल जैसा दिखे, और यदि मैं तुम्हारा चित्र किसी मित्र को दिखाऊं, तो वे अनुमान लगा सकें कि चित्र क्या है।"

तकनीकी शब्दों में, SALT गति के डिजिटल "स्टेपिंग स्टोन्स" को लेता है और उन्हें एक फ्रीज़्ड, प्री-ट्रेंड लैंग्वेज मॉडल में फीड करता है। मॉडल को केवल उन स्टेपिंग स्टोन्स के आधार पर मूल निर्देश (जैसे "कप को पलटें") का अनुमान लगाना होता है। यदि स्टेपिंग स्टोन्स में निर्देश का अनुमान लगाने के लिए पर्याप्त जानकारी नहीं है, तो सिस्टम को दंड (penalty) दिया जाता है। यह रोबोट को अपने गति टोकन को इस तरह व्यवस्थित करने के लिए मजबूर करता है कि वह गति को सटीक रूप से फिर से बनाने के साथ-साथ "क्रिया" की जानकारी को भी सुरक्षित रखे।

परिणाम: बेहतर रोबोट, स्पष्ट अर्थ

शोधकर्ताओं ने इस नई प्रणाली का परीक्षण 'सिम्प्लर एनवी' (SimplerEnv) नामक एक सिमुलेशन में किया, जहाँ एक रोबोट को चार अलग-अलग कार्य करने थे, जैसे चम्मच को तौलिए पर रखना या ब्लॉक को एक के ऊपर एक रखना। उन्होंने तीन संस्करणों वाले रोबोट की तुलना की:

1. एक जो मानक FAST टोकनाइज़र का उपयोग करता है।
2. एक जो मानक VQ-VAE टोकनाइज़र (केवल पुनर्निर्माण) का उपयोग करता है।
3. एक जो नए SALT टोकनाइज़र का उपयोग करता है।

परिणाम स्पष्ट थे। SALT वाले रोबोट ने 71.9% प्रयासों में सफलता प्राप्त की। मानक VQ-VAE वाला रोबोट केवल 42.7% बार सफल हुआ, और FAST रोबोट केवल 31.2% तक ही पहुँच पाया।

लेकिन यह केवल अधिक गेम जीतने के बारे में नहीं था। शोधकर्ताओं ने रोबोट के "मस्तिष्क" के अंदर झाँका कि वह अपनी गति शब्दावली को कैसे व्यवस्थित करता है। उन्होंने पाया कि SALT ने क्रिया-विशिष्ट कोड (verb-specialized codes) विकसित किए। उदाहरण के लिए, विशिष्ट डिजिटल टोकन "पलटने" (flipping) या "घुमाने" (turning) की क्रिया के लिए अत्यधिक समर्पित हो गए। इसके विपरीत, पुराने तरीकों ने इन गतिविधियों को जेनेरिक, मिश्रित टोकन में बिखेर दिया था। SALT ने यहाँ तक सीखा कि एक ही बात को कहने के विभिन्न तरीकों (जैसे "लीवर को घुमाएं" और "लीवर को सामने की ओर लंबवत घुमाएं") को एक ही गति कोड के तहत कैसे रखा जाए, जिससे पता चलता है कि उसने सतह के शब्दों के बजाय अर्थ को समझा।

इसका क्या अर्थ है

पेपर सुझाव देता है कि रोबोटों के लिए मानव भाषा को वास्तव में समझने और उसका पालन करने के लिए, हम केवल यह ध्यान नहीं दे सकते कि उनकी गतिविधियाँ सही दिखें। हमें यह सुनिश्चित करना होगा कि उनकी गति का आंतरिक प्रतिनिधित्व उन भाषाई अंतरों को सुरक्षित रखे जो मनुष्य करते हैं। रोबोट के एक्शन टोकन को उनके द्वारा वर्णित भाषा के साथ संरेखित (align) करके, हम ऐसे रोबोट बना सकते हैं जो न केवल अधिक सटीक हैं बल्कि अधिक सहज (intuitive) भी हैं। लेखक नोट करते हैं कि हालांकि ये परिणाम आशाजनक हैं, लेकिन इनका परीक्षण एक विशिष्ट डेटासेट के साथ सिमुलेशन में किया गया है, और भविष्य के कार्यों को यह देखना होगा कि क्या ये लाभ वास्तविक, अनिश्चित दुनिया में भी बने रहते हैं। हालाँकि, यह मूल विचार कि क्रिया के "कैसे" को संरक्षित करना "क्या" के समान ही महत्वपूर्ण है, हमें यह समझने की दिशा में एक नया रास्ता प्रदान करता है कि रोबोट वास्तव में हमें कैसे समझ सकते हैं।