💻 computer science

NS-VLA: Towards Neuro-Symbolic Vision-Language-Action Models

यह शोध पत्र NS-VLA को प्रस्तुत करता है, जो एक नवीन न्यूरो-सिंबोलिक विजन-लैंग्वेज-एक्शन फ्रेमवर्क है जो मौजूदा विधियों की तुलना में बेहतर डेटा दक्षता, ज़ीरो-शॉट सामान्यीकरण (zero-shot generalizability), और रोबोटिक मैनिपुलेशन में विस्तारित अन्वेषण प्राप्त करने के लिए सिंबोलिक एनकोडिंग, सॉल्विंग और ऑनलाइन सुदृढीकरण लर्निंग (reinforcement learning) को एकीकृत करता है।

मूल लेखक: Ziyue Zhu, Shangyang Wu, Shuai Zhao, Zhiqiu Zhao, Shengjie Li, Yi Wang, Fang Li, Haoran Luo

प्रकाशित 2026-03-11

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Ziyue Zhu, Shangyang Wu, Shuai Zhao, Zhiqiu Zhao, Shengjie Li, Yi Wang, Fang Li, Haoran Luo

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को सैंडविच बनाना सिखा रहे हैं।

पुराना तरीका (वर्तमान VLA मॉडल):
अधिकांश वर्तमान रोबोटिक दिमाग एक ऐसे छात्र की तरह हैं जिसने सैंडविच बनाने वाले लोगों के हजारों वीडियो रट लिए हैं। यदि आप उनसे "सैंडविच बनाओ" कहते हैं, तो वे उन वीडियो की नकल करने की कोशिश करते हैं जो उन्होंने देखे थे।

समस्या: यदि रसोई में रोशनी बदल दी जाए, या ब्रेड का रंग अलग हो जाए, तो रोबोट भ्रमित हो जाता है। वह पहले देखे गए सटीक पिक्सेल (pixels) की नकल करने की कोशिश करता है। वह वास्तव में यह नहीं समझता कि वह चाकू क्यों उठा रहा है या "एक स्लाइस" क्या है। यह बिना अर्थ समझे शब्दों को दोहराने वाले एक तोते की तरह है। साथ ही, उन्हें सीखने के लिए लाखों वीडियो देखने पड़ते हैं, जो बहुत धीमा और महंगा है।

नया तरीका (NS-VLA):
यह पेपर NS-VLA (न्यूरो-सिम्बोलिक विजन-लैंग्वेज-एक्शन) पेश करता है। इसे एक वीडियो लाइब्रेरी के बजाय एक शेफ की रेसिपी बुक और एक स्मार्ट असिस्टेंट देने के रूप में सोचें।

यह कैसे काम करता है, इसे तीन सरल भागों में विभाजित किया गया है:

1. "रेसिपी" (सिम्बोलिक एनकोडर)

हर छोटी मांसपेशी की हरकत का अनुमान लगाने के बजाय, रोबोट पहले आपकी आवाज़ के कमांड ("मग को प्लेट पर रखें") को एक सरल, संरचित रेसिपी में बदल देता है।

उपमा: कल्पना कीजिए कि रोबोट "एक हाथ से कप हिलते हुए" नहीं देखता। बल्कि वह चरणों की एक सूची देखता है: [मग उठाएं] $\rightarrow$ [प्लेट की ओर ले जाएं] $\rightarrow$ [मग रखें]।
यह क्यों मदद करता है: यह एक बड़े, डरावने कार्य को छोटे, प्रबंधनीय "प्रिमिटिव्स" (मूल क्रियाओं) में तोड़ देता है। भले ही रोबोट ने पहले कभी वह विशिष्ट मग न देखा हो, लेकिन वह "उठाने" और "रखने" की अवधारणा को समझता है। वह कार्य के चित्र को नहीं, बल्कि उसके तर्क (logic) को समझता है।

2. "स्पॉटलाइट" (सिम्बोलिक सॉल्वर और विजुअल स्पारसिफिकेशन)

रोबोट आमतौर पर बहुत अधिक दृश्य जानकारी (पूरी रसोई, बैकग्राउंड, काउंटर पर जमी धूल) से अभिभूत हो जाते हैं।

उपमा: कल्पना कीजिए कि रोबोट एक अंधेरे कमरे में टॉर्च लेकर खड़ा है। जब रेसिपी कहती है "लाल मग उठाएं," तो रोबोट का "स्पॉटलाइट" (सॉल्वर) तुरंत नीली प्लेट, टोस्टर और खिड़की को अनदेखा कर देता है। वह केवल लाल मग पर ध्यान केंद्रित करता है।
यह क्यों मदद करता है: यह रोबोट को बहुत तेज़ और कम भ्रमित बनाता है। यह "शोर" को फ़िल्टर करता है और केवल रेसिपी के वर्तमान चरण के लिए प्रासंगिक वस्तु पर ध्यान केंद्रित करता है।

3. "अभ्यास सत्र" (ऑनलाइन रीइन्फोर्समेंट लर्निंग)

अधिकांश रोबोट केवल वीडियो देखकर सीखते हैं (ऑफलाइन)। यदि वे वास्तविक दुनिया में कोई गलती करते हैं, तो वे उसे ठीक नहीं कर सकते। NS-VLA अलग है; यह वास्तविक समय में करके और खुद को सुधारकर सीखता है।

उपमा: कल्पना कीजिए कि एक रोबोट साइकिल चलाना सीख रहा है। केवल किसी को साइकिल चलाते हुए देखने के बजाय, वह साइकिल पर चढ़ता है, डगमगाता है, गिरता है, और तुरंत सीखता है, "ठीक है, अगली बार बाईं ओर झुकना है।"
जादू: रोबोट एक चाल आज़माता है। यदि वह सफल होता है, तो उसे एक "हाई फाइव" (पुरस्कार) मिलता है। यदि वह विफल होता है, तो वह तुरंत अपनी रणनीति को समायोजित करता है। क्योंकि उसके पास "रेसिपी" (चरण 1) और "स्पॉटलाइट" (चरण 2) है, इसलिए वह अराजकता में खो नहीं जाता; उसे पता होता है कि किस चरण को दोबारा प्रयास करना है।

यह एक बड़ी बात क्यों है?

पेपर दिखाता है कि NS-VLA तीन तरीकों से वर्तमान रोबोटों की तुलना में एक सुपरहीरो है:

डेटा दक्षता (द "वन-शॉट" सुपरपावर):
- पुराना रोबोट: कप उठाने का तरीका सीखने के लिए उसे 1,000 वीडियो देखने की आवश्यकता होती है।
- NS-VLA: वह एक वीडियो देख सकता है, "रेसिपी" को समझ सकता है, और फिर एक अलग कप के साथ, एक अलग कमरे में इसे करने का तरीका निकाल सकता है। वह एक इंसान की तरह सीखता है, न कि एक तोते की तरह।
सामान्यीकरण (द "गिरगिट" प्रभाव):
- पुराना रोबोट: यदि बैकग्राउंड या लाइटिंग बदल दी जाए, तो वह टूट जाता है।
- NS-VLA: क्योंकि यह तर्क (उठाना $\rightarrow$ रखना) को समझता है और वस्तु को खोजने के लिए "स्पॉटलाइट" का उपयोग करता है, यह तब भी पूरी तरह से काम करता है जब रसोई बिल्कुल अलग दिखती है। यह शोर से विचलित नहीं होता।
अन्वेषण (द "जिज्ञासु बच्चा"):
- पुराना रोबोट: यह केवल वही करता है जो उसने वीडियो में देखा था। यदि रास्ता अवरुद्ध है, तो वह रुक जाता है।
- NS-VLA: क्योंकि यह वास्तविक समय में अभ्यास करता है, यह समस्या को हल करने के विभिन्न तरीके आज़मा सकता है। यदि सीधा रास्ता अवरुद्ध है, तो यह वस्तु तक पहुँचने का एक नया तरीका खोज सकता है, जिससे उसका "एक्सप्लोरेशन स्पेस" बढ़ जाता है।

निष्कर्ष

NS-VLA को एक वीडियो रिकॉर्डर (जो केवल वही कॉपी करता है जो वह देखता है) से एक सोचने वाले शेफ (जो रेसिपी समझता है, सामग्री पर ध्यान केंद्रित करता है, और स्वाद लेकर और सुधार करके सीखता है) में अपग्रेड करने जैसा है। यह रोबोटों को स्मार्ट, तेज़ और वास्तविक, अप्रत्याशित दुनिया में बहुत अधिक विश्वसनीय बनाता है।

यहाँ शोध पत्र "NS-VLA: Towards Neuro-Symbolic Vision-Language-Action Models" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

विज़न-लैंग्वेज-एक्शन (VLA) मॉडल का लक्ष्य एम्बोडीड एजेंटों (embodied agents) को प्राकृतिक भाषा निर्देशों और विज़ुअल ऑब्जर्वेशन के आधार पर कार्य निष्पादित करने में सक्षम बनाना है। हालिया प्रगति के बावजूद, वर्तमान VLA दृष्टिकोण तीन महत्वपूर्ण सीमाओं का सामना करते हैं:

संरचनात्मक जागरूकता का अभाव (Lack of Structural Awareness): एंड-टू-एंड विधियाँ अक्सर पुन: प्रयोज्य प्रिमिटिव्स (reusable primitives) और आंतरिक कार्य संरचनाओं को पकड़ने में विफल रहती हैं, जिससे लॉन्ग-होरिज़ॉन कार्यों में सामान्यीकरण (generalization) खराब हो जाता है।
डेटा अक्षमता (Data Inefficiency): वर्तमान मॉडल भारी डेटासेट और जटिल आर्किटेक्चर पर अत्यधिक निर्भर हैं, जो उन्हें सीमित प्रदर्शनों (जैसे, वन-शॉट लर्निंग) वाले परिदृश्यों के लिए अव्यावहारिक बनाते हैं।
सीमित अन्वेषण (Limited Exploration): अधिकांश विधियाँ विशेषज्ञ प्रक्षेप पथों (expert trajectories) की नकल करने के लिए सुपरवाइज्ड फाइन-ट्यूनिंग (SFT) पर निर्भर करती हैं, जो वातावरण का अन्वेषण करने और स्थिर प्रदर्शनों से परे समाधान खोजने की एजेंट की क्षमता को प्रतिबंधित करती हैं।

2. कार्यप्रणाली: NS-VLA फ्रेमवर्क (Methodology: The NS-VLA Framework)

लेखक NS-VLA प्रस्तावित करते हैं, जो एक अभिनव फ्रेमवर्क है जो न्यूरो-सिंबोलिक रीजनिंग को ऑनलाइन रीइन्फोर्समेंट लर्निंग (RL) के साथ एकीकृत करता है। इस आर्किटेक्चर में तीन कसकर जुड़े हुए घटक शामिल हैं:

A. न्यूरो-सिंबोलिक एनकोडिंग और एम्बेडिंग (Neuro-Symbolic Encoding and Embedding)

सिंबोलिक एनकोडर (Symbolic Encoder): एक प्री-ट्रेंड विज़न-लैंग्वेज मॉडल (VLM) विज़ुअल ऑब्जर्वेशन और भाषा निर्देशों को टोकन फीचर्स में एनकोड करता है।
प्रिमिटिव प्लान जनरेशन (Primitive Plan Generation): सीधे एक्शन आउटपुट करने के बजाय, VLM एक संरचित अनुक्रम के रूप में डिस्क्रीट प्रिमिटिव्स (जैसे, pick, place_on, close) को एक उच्च-स्तरीय योजना $p = (u^{(1)}, \dots, u^{(M)})$ के रूप में उत्पन्न करता है।
सिंबोलिक क्लासिफायर (Symbolic Classifier): एक हल्का मल्टी-लेयर पर्सेप्ट्रॉन (MLP) VLM फीचर्स से वर्तमान सक्रिय प्रिमिटिव की भविष्यवाणी करता है। महत्वपूर्ण रूप से, यह प्लान पॉइंटर ( $m_t$ ) पर एक मोनोटोनिक बाधा (monotone constraint) लागू करता है, यह सुनिश्चित करता है कि एजेंट बिना पीछे मुड़े (backtracking) योजना के माध्यम से क्रमिक रूप से आगे बढ़े, जो टेम्पोरल कंसिस्टेंसी को स्थिर करता है।

B. सिंबोलिक सॉल्वर (Action Generation)

विज़ुअल टोकन स्पारसिफिकेशन (Visual Token Sparsification): दक्षता में सुधार के लिए, सॉल्वर एक क्वेरी-ड्रिवन अटेंशन मैकेनिज्म का उपयोग करता है। यह घने विज़ुअल टोकन को फ़िल्टर करता है, केवल वर्तमान प्रिमिटिव के लिए प्रासंगिक शीर्ष- $K$ पैच को रखता है (उदाहरण के लिए, जब प्रिमिटिव pick हो तो "mug" पर ध्यान केंद्रित करना)। यह कम्प्यूटेशनल रेडंडेंसी को कम करता है।
चंक्ड एक्शन जनरेशन (Chunked Action Generation): एक कॉज़ल ट्रांसफार्मर स्पार्स विज़ुअल कॉन्टेक्स्ट और वर्तमान प्रिमिटिव एम्बेडिंग को लंबाई $H$ के निरंतर एक्शन के एक अनुक्रम (एक "एक्शन चंक") में मैप करता है। यह ओपन-लूप जनरेशन निर्णय लेने के चरणों की आवृत्ति को कम करता है।

C. ऑनलाइन रीइन्फोर्समेंट लर्निंग ऑप्टिमाइज़ेशन (Online Reinforcement Learning Optimization)

POMDP फॉर्मूलेशन: सिस्टम को एक पार्शली ऑब्जर्वेबल मार्कोव डिसीजन प्रोसेस (POMDP) के रूप में मॉडल किया गया है। प्री-ट्रेंड VLM एनकोडर और प्लान जनरेटर फ्रीज़ (frozen) हैं, जबकि हल्का क्लासिफायर और एक्शन जनरेटर ऑनलाइन अपडेट किए जाते हैं।
रिवॉर्ड शेपिंग (Reward Shaping): रिवॉर्ड फंक्शन निम्नलिखित को जोड़ता है:
- स्पार्स टास्क रिवॉर्ड (Sparse Task Reward): बाइनरी सफलता/विफलता सिग्नल।
- सेगमेंट माइलस्टोन रिवॉर्ड (Segment Milestone Reward): प्रिमिटिव के बीच संक्रमण को पुरस्कृत करता है।
- प्रोग्रेस शेपिंग (Progress Shaping): प्रिमिटिव सेगमेंट के भीतर लक्ष्य की ओर एजेंट को निर्देशित करने के लिए सफल सेगमेंट्स के लेटेंट प्रोटोटाइप से प्राप्त पोटेंशियल-बेस्ड शेपिंग का उपयोग करता है।
ऑप्टिमाइज़ेशन स्ट्रैटेजी: लेखक व्यवहार-क्लोनिंग रेफरेंस पॉलिसी के विरुद्ध KL-डाइवर्जेंस पेनल्टी के साथ ग्रुप रिलेटिव पॉलिसी ऑप्टिमाइज़ेशन (GRPO) का उपयोग करते हैं। यह पॉलिसी कोलैप्स को रोकता है और स्पार्स-रिवॉर्ड एक्सप्लोरेशन के दौरान स्थिरता सुनिश्चित करता है।

3. मुख्य योगदान (Key Contributions)

न्यूरो-सिंबोलिक आर्किटेक्चर: एक ऐसा फ्रेमवर्क पेश करता है जो उच्च-स्तरीय सिंबोलिक प्लानिंग (प्रिमिटिव सीक्वेंसिंग) को निम्न-स्तरीय निरंतर नियंत्रण (continuous control) से अलग करता है, जिससे बेहतर संरचनात्मक तर्क और व्याख्यात्मकता (interpretability) सक्षम होती है।
डेटा दक्षता (Data Efficiency): यह प्रदर्शित करता है कि सिंबोलिक प्रायर्स और संरचित तर्क का लाभ उठाकर, मॉडल न्यूनतम डेटा (जैसे, वन-शॉट ट्रेनिंग) के साथ उच्च प्रदर्शन प्राप्त करता है, जो लो-डेटा रिजीम में एंड-टू-एंड बेसलाइन्स से काफी बेहतर प्रदर्शन करता है।
सक्रिय अन्वेषण (Active Exploration): SFT-आधारित विधियों के विपरीत, NS-VLA वातावरण का सक्रिय रूप से अन्वेषण करने के लिए ऑनलाइन RL का उपयोग करता है, जिससे एक्शन स्पेस का विस्तार होता है और व्यवधानों (perturbations) के प्रति मजबूती बढ़ती है।
कुशल अनुमान (Efficient Inference): विज़ुअल टोकन स्पारसिफिकेशन और चंक्ड एक्शन जनरेशन का संयोजन डेंस टोकन प्रोसेसिंग की तुलना में कम्प्यूटेशनल ओवरहेड और लेटेंसी को काफी कम कर देता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने तीन प्रमुख बेंचमार्क पर NS-VLA का मूल्यांकन किया: LIBERO, LIBERO-Plus, और CALVIN।

वन-शॉट लर्निंग (LIBERO): NS-VLA ने प्रति कार्य केवल एक प्रदर्शन के साथ 69.1% औसत सफलता दर प्राप्त की। यह OpenVLA (35.7%) और $\pi_0$ (37.4%) जैसे मजबूत बेसलाइन्स से काफी बेहतर रहा, जो श्रेष्ठ डेटा दक्षता प्रदर्शित करता है।
व्यवधानों के प्रति मजबूती (LIBERO-Plus): गंभीर पर्यावरणीय व्यवधानों (प्रकाश, बनावट, लेआउट परिवर्तन) वाले बेंचमार्क पर परीक्षण करते समय, NS-VLA ने 79.4% सफलता दर बनाए रखी, जो फुल-डेमोंस्ट्रेशन ट्रेनिंग की तुलना में सबसे कम प्रदर्शन गिरावट दिखाता है। इसने सभी बेसलाइन्स को पछाड़ दिया, जिसमें विशेष एडैप्टर और बड़े फाउंडेशन मॉडल भी शामिल थे।
ज़ीरो-शॉट जनरलाइजेशन (CALVIN): CALVIN लॉन्ग-होरिज़ॉन बेंचमार्क पर, NS-VLA ने 91.2% 5-टास्क सफलता दर हासिल की, जो स्टेट-ऑफ-द-आर्ट से 11.2% अधिक है और लंबी औसत अनुक्रम लंबाई प्राप्त की है।
एक्सप्लोरेशन विश्लेषण: विज़ुअलाइज़ेशन ने पुष्टि की कि NS-VLA डिफ्यूजन-आधारित या फ्लो-मैचिंग विधियों की तुलना में काफी व्यापक एक्शन स्पेस का अन्वेषण करता है, और सफलतापूर्वक उन इष्टतम प्रक्षेप पथों की पहचान करता है जिन्हें एंड-टू-एंड विधियाँ मिस कर देती हैं।

5. महत्व और प्रभाव (Significance and Impact)

पैराडाइम शिफ्ट: NS-VLA शुद्ध एंड-टू-एंड VLA ट्रेनिंग के चलन को चुनौती देता है और यह प्रदर्शित करता है कि मजबूत रोबोटिक हेरफेर के लिए संरचित, न्यूरो-सिंबोलिक रीजनिंग आवश्यक है।
स्केलेबिलिटी: यह फ्रेमवर्क न्यूनतम डेटा के साथ नए कौशल सीखने और बिना विशाल बैकबोन को पुनः प्रशिक्षित किए अनदेखे वातावरणों के अनुकूल होने वाले सामान्य-उद्देश्य वाले रोबोट बनाने का मार्ग प्रदान करता है।
दक्षता: सिंबोलिक सॉल्वर और टोकन स्पारसिफिकेशन को एकीकृत करके, यह दृष्टिकोण उच्च-प्रदर्शन वाले VLA मॉडल्स को वास्तविक समय में तैनाती के लिए अधिक कम्प्यूटेशनल रूप से व्यवहार्य बनाता है।
भविष्य की दिशाएं: पेपर स्वचालित प्रिमिटिव डिस्कवरी, द्विदिश न्यूरो-सिंबोलिक फीडबैक, और विविध वास्तविक भौतिक वातावरण तक स्केलिंग के लिए एक रोडमैप रेखांकित करता है।

निष्कर्षतः, NS-VLA न्यूरल परसेप्शन और सिंबोलिक रीजनिंग के बीच के अंतर को प्रभावी ढंग से पाटकर डेटा-कुशल, मजबूत और खोजपूर्ण रोबोटिक लर्निंग के लिए एक नया मानक स्थापित करता है।