← नवीनतम पेपर
🤖 AI

VLM4VLA: Revisiting Vision-Language-Models in Vision-Language-Action Models

यह शोधपत्र VLM4VLA को प्रस्तुत करता है, जो एक न्यूनतम अनुकूलन पाइपलाइन है और यह प्रदर्शित करता है कि हालांकि विजन-लैंग्वेज मॉडल (VLM) का प्रारंभिक अवस्था (initialization) डाउनस्ट्रीम विजन-लैंग्वेज-एक्शन (VLA) नीतियों को लाभान्वित करता है, फिर भी सामान्य VLM सक्षमता और विशिष्ट एम्बोडीड (embodied) कौशल में सुधार, नियंत्रण प्रदर्शन के खराब भविष्यवक्ता हैं, जो यह प्रकट करता है कि एक्शन प्लानिंग के साथ विजुअल मॉड्यूल का डोमेन गैप ही प्राथमिक बाधा है।

मूल लेखक: Jianke Zhang, Xiaoyu Chen, Qiuyue Wang, Mingsheng Li, Yanjiang Guo, Yucheng Hu, Jiajun Zhang, Shuai Bai, Junyang Lin, Jianyu Chen

प्रकाशित 2026-06-02
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Jianke Zhang, Xiaoyu Chen, Qiuyue Wang, Mingsheng Li, Yanjiang Guo, Yucheng Hu, Jiajun Zhang, Shuai Bai, Junyang Lin, Jianyu Chen

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को घर के काम करना सिखाने की कोशिश कर रहे हैं, जैसे कि दराज खोलना या ब्लॉक्स को एक के ऊपर एक रखना। इसके लिए आपको रोबोट के लिए एक "दिमाग" की आवश्यकता होगी। हाल ही में, वैज्ञानिक इन कामों के लिए विजन-लैंग्वेज मॉडल्स (VLMs) का उपयोग कर रहे हैं। ये सुपर-स्मार्ट AI सिस्टम हैं जो पहले से ही तस्वीरों को देखने और टेक्स्ट (जैसे किताब पढ़ना या फोटो का वर्णन करना) को समझने में माहिर हैं।

बड़ा सवाल जो यह पेपर पूछता है: "यदि हम एक स्मार्ट AI लें जो बातचीत करने और तस्वीरें देखने में माहिर है, तो क्या वह स्वतः ही एक रोबोट के हाथ को नियंत्रित करने में भी माहिर हो जाएगा?"

शोधकर्ताओं ने एक सरल, निष्पक्ष परीक्षण मशीन बनाई जिसे VLM4VLA कहा जाता है। इसे खोजने के लिए कि क्या समस्या AI के दिमाग में है या रोबोट के शरीर में। इसे एक यूनिवर्सल एडेप्टर प्लग की तरह समझें। यह किसी भी स्मार्ट AI दिमाग को सीधे एक रोबोटिक शरीर में न्यूनतम अतिरिक्त हिस्सों के साथ जोड़ देता है, ताकि वे देख सकें कि समस्या खुद 'दिमाग' की है या 'रोबोट के शरीर' की।

यहाँ उनके निष्कर्ष दिए गए हैं, जिन्हें रोजमर्रा के उदाहरणों के माध्यम से समझाया गया है:

1. "स्मार्ट छात्र" बनाम "कुशल श्रमिक"

आप सोच सकते हैं कि सबसे बुद्धिमान छात्र (सामान्य ज्ञान पर उच्चतम अंक प्राप्त करने वाला AI) सबसे अच्छा कार्यकर्ता (रोबोट) बनेगा।

  • निष्कर्ष: जरूरी नहीं।
  • उदाहरण: कल्पना कीजिए कि आपके पास दो लोग हैं। व्यक्ति A एक प्रखर प्रोफेसर है जो पूरी विश्वकोश सुना सकता है और सुंदर निबंध लिख सकता है। व्यक्ति B थोड़ा कम प्रसिद्ध है लेकिन उसमें कार ठीक करने का हुनर है। यदि आप उनसे कार ठीक करने के लिए कहते हैं, तो प्रोफेसर संघर्ष कर सकता है, जबकि मैकेनिक सफल होता है।
  • पेपर का परिणाम: शोधकर्ताओं ने पाया कि AI की "सामान्य बुद्धिमत्ता" (मानक पढ़ने और चित्र संबंधी क्विज़ पर उसका प्रदर्शन) यह बताने के लिए एक खराब संकेतक है कि वह रोबोट को कितनी अच्छी तरह नियंत्रित करेगा। कभी-कभी, एक मॉडल जो सामान्य परीक्षणों पर कम स्कोर करता है, वह वास्तव में एक "स्मार्ट" मॉडल की तुलना में रोबोटिक भुजाओं को चलाने में बेहतर काम करता है।

2. "विशेष प्रशिक्षण" का जाल

शोधकर्ता सोचने लगे: "क्या होगा अगर हम इन स्मार्ट AI को विशेष रूप से रोबोटिक कार्यों के लिए अतिरिक्त प्रशिक्षण दें, जैसे कि चीजों की ओर इशारा करना या गहराई का अनुमान लगाना?"

  • निष्कर्ष: इससे ज्यादा मदद नहीं मिली।
  • उदाहरण: कल्पना कीजिए कि आपने एक विश्व प्रसिद्ध शेफ को काम पर रखा है। उन्हें बेहतर मैकेनिक बनाने के लिए, आप उन्हें तेल बदलने का एक क्रैश कोर्स देते हैं। आप उम्मीद कर सकते हैं कि अब वे एक बेहतरीन मैकेनिक बन जाएंगे। लेकिन जब वे वास्तव में इंजन ठीक करने की कोशिश करते हैं, तो वे अभी भी संघर्ष करते हैं।
  • पेपर का परिणाम: AI को विशिष्ट "रोबोट जैसे" कार्यों (जैसे रोबोट की गतिविधियों के बारे में सवालों के जवाब देना) पर फाइन-ट्यून करना बेहतर प्रदर्शन की गारंटी नहीं देता था। वास्तव में, कभी-कभी इसने प्रदर्शन को थोड़ा खराब भी कर दिया।

3. "आंखें" बनाम "मुंह"

शोधकर्ताओं ने AI को अलग-अलग हिस्सों में बांटा ताकि यह देख सकें कि समस्या कहाँ थी: देखने वाले हिस्से में (विज़न एनकोडर) या बोलने वाले हिस्से में (लैंग्वेज एनकोडर)।

  • निष्कर्ष: "आंखें" ही मुख्य बाधा (bottleneck) हैं।
  • उदाहरण: एक ऐसे रोबोट की कल्पना करें जिसका मुंह बहुत स्मार्ट है और जो पूरी तरह से बोल सकता है, लेकिन उसकी आंखें धुंधले चश्मे पहने हुए हैं जो पेंटिंग देखने के लिए बनाए गए थे, न कि एक अस्त-व्यस्त वर्कशॉप को देखने के लिए। चाहे मुंह कितना भी अच्छा बोले, रोबट सही टूल नहीं पकड़ पाता क्योंकि वह उसे स्पष्ट रूप से देख नहीं पाता।
  • पेपर का परिणाम: AI का भाषा वाला हिस्सा ठीक था। समस्या विज़न (दृष्टि) वाले हिस्से में थी। AI की "आंखें" इंटरनेट की तस्वीरों (बिल्लियों, लैंडस्केप, मीम्स) पर प्रशिक्षित थीं, लेकिन रोबोटिक कार्यों के लिए 3D स्पेस में गहराई, दूरी और सटीक वस्तु स्थानों को देखने की आवश्यकता होती है। AI की आंखें इस काम के लिए कैलिब्रेटेड नहीं थीं।

4. "वास्तविक दुनिया" बनाम "सिमुलेशन" का अंतर

अंत में, उन्होंने पूछा: "क्या समस्या यह है कि AI को वास्तविक फोटो पर प्रशिक्षित किया गया था लेकिन रोबोट का परीक्षण एक वीडियो गेम (सिमुलेशन) में किया जा रहा है, या यह कुछ और गहरा है?"

  • निष्कर्ष: यह केवल दृश्य (visual) अंतर नहीं है, बल्कि एक गहरा "सिमेंटिक" (अर्थ संबंधी) अंतर है।
  • उदाहरण: भले ही आप AI को एक असली रिंच (wrench) की फोटो दिखा दें (न कि कोई कार्टून), फिर भी उसे पता नहीं चलेगा कि इसे कैसे पकड़ना है। AI समझता है कि "यह एक रिंच है" (भाषा/पहचान), लेकिन वह यह नहीं समझता कि "इसे यहाँ से पकड़ना है" (क्रिया/नियंत्रण)।
  • पेपर का परिणाम: भले ही उन्होंने AI को वास्तविक दुनिया के रोबोट डेटा पर प्रशिक्षित किया, फिर भी अच्छे परिणाम प्राप्त करने के लिए उन्हें विज़न वाले हिस्से को शुरू से फिर से प्रशिक्षित (re-train) करना पड़ा। केवल पूर्व-प्रशिक्षित "आंखों" का उपयोग करना पर्याप्त नहीं था। AI को गति के लिए एक विशिष्ट "विजुअल लैंग्वेज" सीखने की आवश्यकता थी जो उसने अपने सामान्य प्रशिक्षण के दौरान नहीं सीखी थी।

मुख्य निष्कर्ष

पेपर यह निष्कर्ष निकालता है कि हालांकि एक पूर्व-प्रशिक्षित "स्मार्ट दिमाग" का उपयोग करना आवश्यक है (आप आसानी से शून्य से रोबोट नहीं बना सकते), आप केवल एक सामान्य-उद्देश्य वाले AI को रोबोट में लगाकर यह उम्मीद नहीं कर सकते कि वह पूरी तरह से काम करेगा।

इन AI मॉडल्स की "आंखें" दुनिया को समझने (जैसे मानचित्र देखते समय एक पर्यटक) के लिए प्रशिक्षित हैं, लेकिन रोबोट को दुनिया में कार्य करने (जैसे हथौड़े का उपयोग करते समय एक बढ़ई) की आवश्यकता होती है। एक महान रोबोट बनाने के लिए, आपको AI की दृष्टि को विशेष रूप से केवल अवलोकन के बजाय क्रिया के लेंस से देखने के लिए फिर से प्रशिक्षित करना होगा।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →