← नवीनतम पेपर
💻 computer science

When Vision Overrides Language: Evaluating and Mitigating Counterfactual Failures in VLAs

यह शोध पत्र LIBERO-CF प्रस्तुत करता है, जो विज़न-लैंग्वेज-एक्शन मॉडल्स के लिए पहला काउंटरफैक्चुअल बेंचमार्क है, और काउंटरफैक्चुअल एक्शन गाइडेंस (CAG) का प्रस्ताव करता है, जो एक ट्रेनिंग-फ्री ड्यूल-ब्रांच इन्फरेंस विधि है जो विज़ुअल शॉर्टकट्स के विरुद्ध लैंग्वेज कंडीशनिंग को स्पष्ट रूप से रेगुलराइज़ करके लैंग्वेज-फॉलोइंग विफलताओं को महत्वपूर्ण रूप से कम करती है।

मूल लेखक: Yu Fang, Yuchun Feng, Dong Jing, Jiaqi Liu, Yue Yang, Zhenyu Wei, Daniel Szafir, Mingyu Ding

प्रकाशित 2026-07-16
📖 8 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Yu Fang, Yuchun Feng, Dong Jing, Jiaqi Liu, Yue Yang, Zhenyu Wei, Daniel Szafir, Mingyu Ding

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को अपना मददगार रूममेट बनने के लिए सिखा रहे हैं। आप चाहते हैं कि वह आपकी आवाज़ समझे, दुनिया को देख सके और फिर आपके कहने पर वास्तव में काम कर सके। यह "विज़न-लैंग्वेज-एक्शन" (VLA) मॉडल का सपना है। इन मॉडल्स को एक सुपर-स्मार्ट दिमाग के रूप में सोचें जो आपके टेक्स्ट मैसेज पढ़ सकता है, आपकी बिखरी हुई रसोई की फोटो देख सकता है, और यह तय कर सकता है कि सफाई करने के लिए अपने रोबोटिक हाथों को कैसे हिलाना है। लंबे समय से, वैज्ञानिक इन तीन कौशलों—देखने, पढ़ने और हिलने-डुलने—को एक साथ जोड़ने की कोशिश कर रहे हैं ताकि रोबट केवल एक विशिष्ट काम करने वाली मशीन न होकर सामान्य-उद्देश्य वाले सहायक बन सकें।

लेकिन यहाँ एक पेंच है: सिर्फ इसलिए कि एक रोबोट देख और पढ़ सकता है, इसका मतलब यह नहीं है कि वह सुनता भी है। कभी-कभी, एक रोबोट किसी विशेष दृश्य का इतना आदी हो जाता है कि वह आपके शब्दों को पूरी तरह से अनदेखा कर देता है। यदि आप उसे "लाल कप उठाओ" कहते हैं, लेकिन वह रोज़ाना आपको नीला कप उठाते हुए देखने का आदी है, तो वह फिर से नीला वाला ही उठा लेगा, इस विश्वास के साथ कि आपका मतलब यही था। ऐसा इसलिए होता है क्योंकि रोबोट ने एक "शॉर्टकट" सीख लिया है: वह जो देखता है उस पर बहुत अधिक निर्भर करता है और जो आप कहते हैं उस पर बहुत कम। यह पेपर बताता है कि ऐसा क्यों होता है, यह साबित करता है कि यह एक बड़ी समस्या है, और एक चतुर नया तरीका पेश करता है जिससे रोबोट वास्तव में आपकी बात फिर से सुनने लगे।

समस्या: जब रोबोट आपके शब्दों के प्रति "अंधे" हो जाते हैं

इस पेपर के लेखकों ने पाया कि आज के कई सबसे उन्नत रोबोट दिमागों में एक ऐसी समस्या होती है जिसे वे "काउंटरफैक्चुअल फेलियर्स" (counterfactual failures) कहते हैं। यह एक फैंसी तरीका है यह कहने का कि रोबोट उन निर्देशों का पालन करने में विफल रहता है जो उसकी आदतों के विरुद्ध जाते हैं।

कल्पना कीजिए कि आप एक ऐसी रसोई में जाते हैं जहाँ आप हमेशा एक रोबोट को सरसों की बोतल उठाते हुए देखते हैं। एक दिन, आप अंदर आते हैं और कहते हैं, "कृपया टेप उठाओ।" भले ही आपने स्पष्ट रूप से "टेप" कहा हो, रोबोट, सरसों की बोतल को वहीं देखते हुए, सरसों ही उठा लेता है। ऐसा लगता है जैसे रोबोट के पास एक मानसिक ऑटोपायलट है जो कहता है, "ओह, मैं एक किचन का दृश्य देख रहा हूँ, तो मुझे सरसों उठानी चाहिए," और आपके वास्तविक वॉयस कमांड को पूरी तरह से अनदेखा कर देता है।

शोधकर्ताओं ने पाया कि यह केवल एक दुर्लभ गड़बड़ी नहीं है; यह एक बड़ी खामी है। उन्होंने दिखाया कि जब रोबोट को ऐसे निर्देश दिए जाते हैं जो विजुअली संभव हैं लेकिन जो उन्होंने अभ्यास किया है उससे अलग हैं, तो वे अक्सर अपने "अच्छी तरह से सीखे गए" व्यवहारों पर वापस लौट आते हैं। वे एक ऐसे छात्र की तरह व्यवहार करते हैं जिसने एक विशिष्ट परीक्षा के उत्तर रट लिए हैं लेकिन जैसे ही शिक्षक थोड़ा सा सवाल बदल देता है, वह फेल हो जाता है। रोबोट जिद्दी नहीं हो रहा है; बस यह कि उसका ट्रेनिंग डेटा पक्षपाती था। उसने "सरसों" वाले कार्य को हज़ार बार देखा और "टेप" वाले कार्य को शून्य बार, इसलिए वह मान लेता है कि सरसों ही हमेशा सही उत्तर है।

नया टेस्ट: LIBERO-CF

यह साबित करने के लिए कि यह समस्या वास्तविक और व्यापक है, टीम ने LIBERO-CF नामक एक नया परीक्षण मैदान बनाया। इसे रोबोट्स के लिए एक "ट्रिक क्वेश्चन" परीक्षा की तरह समझें।

इस टेस्ट में, उन्होंने परिचित वस्तुओं के साथ एक दृश्य तैयार किया लेकिन रोबोट्स को ऐसे निर्देश दिए जो उनके प्रशिक्षण से बिल्कुल अलग थे। उदाहरण के लिए, वे एक सीन सेट कर सकते हैं जिसमें एक टेप डिस्पेंसर और एक सरसों की बोतल है। रोबोट को सरसों उठाने के लिए प्रशिक्षित किया गया था। लेकिन टेस्ट में, शोधकर्ताओं ने उससे टेप या यहाँ तक कि एक ऐसी वस्तु उठाने के लिए कहा जो पहले कभी वहाँ नहीं थी।

परिणाम आँखें खोल देने वाले थे। जब उन्होंने OpenVLA, π0\pi_0, और π0.5\pi_{0.5} जैसे शीर्ष-स्तरीय रोबोट्स का परीक्षण किया, तो रोबोट नए निर्देशों का पालन करने में बुरी तरह विफल रहे।

  • π0.5\pi_{0.5} मॉडल पर, जब एक नई वस्तु उठाने के लिए कहा गया, तो इसने निर्देशों का सही ढंग से पालन केवल 30.8% बार किया।
  • इससे भी बदतर, इसने निर्देश को अनदेखा किया और "पुराने" ट्रेनिंग ऑब्जेक्ट (पक्षपाती विकल्प) को लगभग 65.6% बार उठाया।
  • कुछ मामलों में, जैसे OpenVLA के साथ, नए निर्देशों का पालन करने की सफलता दर बेहद निराशाजनक 0.4% थी, जबकि यह पुराने, प्रशिक्षित कार्य में 78.6% बार सफल रहा।

इससे यह साबित हुआ कि रोबोट वास्तव में "सुन" नहीं रहे थे। वे केवल विजुअल संकेतों पर प्रतिक्रिया दे रहे थे। यहाँ तक कि जब शोधकर्ताओं ने दृश्य से "ट्रेनिंग ऑब्जेक्ट" (सरसों) को हटा दिया, तो नए निर्देशों पर रोबल्स का प्रदर्शन सुधर गया, जिससे पुष्टि हुई कि परिचित वस्तु की उपस्थिति एक विजुअल चुंबक की तरह काम कर रही थी, जो रोबोट का ध्यान आपके शब्दों से हटा रही थी।

समाधान: CAG (द "सेकंड ओपिनियन" ट्रिक)

तो, एक ऐसे रोबोट को कैसे ठीक करें जो आपकी बात अनसुनी कर देता है? लेखकों ने Counterfactual Action Guidance (CAG) नामक एक विधि प्रस्तावित की है।

कल्पना कीजिए कि आप तय करने की कोशिश कर रहे हैं कि आपको क्या खाना चाहिए। आपके पास दो दोस्त सलाह दे रहे हैं।

  1. दोस्त A (VLA): इस दोस्त ने आपका टेक्स्ट मैसेज ("मुझे पिज्जा चाहिए") पढ़ा है और मेनू देखा है। वे पिज्जा का सुझाव देते हैं।
  2. दोस्त B (VA): इस दोस्त ने केवल मेनू देखा है, आपके टेक्स्ट मैसेज को अनदेखा कर दिया है। वे देखते हैं कि पिज्जा सबसे लोकप्रिय आइटम है और पिज्जा का सुझाव देते हैं।

यदि दोनों दोस्त पिज्जा का सुझाव देते हैं, तो आप आश्वस्त होते हैं। लेकिन क्या होगा यदि आपने कहा "मुझे सलाद चाहिए," और दोस्त A पिज्जा का सुझाव देता है क्योंकि वह भ्रमित है, जबकि दोस्त B पिज्जा का सुझाव देता है क्योंकि वह डिफॉल्ट है? आपको अपने विशिष्ट अनुरोध ("सलाद") को अधिक महत्व देने के लिए एक तरीके की आवश्यकता है।

CAG रोबोट के दिमाग को एक साथ दो मोड में चलाकर काम करता है:

  • मोड 1: रोबोट आपके निर्देश का पालन करने की कोशिश करता है (विज़न + लैंग्वेज)।
  • मोड 2: रोबोट आपके निर्देश को अनदेखा करता है और केवल दृश्य को देखता है (केवल विज़न)।

जादू तब होता है जब सिस्टम इन दोनों की तुलना करता है। यदि रोबोट सरसों उठाना चाहता है (केवल विज़न) लेकिन आपने टेप मांगा है (विज़न + लैंग्वेज), तो CAG उन दोनों इच्छाओं के बीच के अंतर की गणना करता है। फिर यह "टेप" वाले हिस्से को बढ़ा देता है, प्रभावी रूप से रोबोट को यह बताते हुए कि, "हे, तुम सरसों की ओर झुक रहे थे, लेकिन तुम्हारे इंसान ने टेप मांगा है। चलो निर्णय को टेप की ओर धकेलते हैं।"

इसके लिए रोबोट को फिर से प्रशिक्षित करने या उसके दिमाग को बदलने की आवश्यकता नहीं है। यह एक "प्लग-एंड-प्ले" ट्रिक है जो रोबोट के सोचने के दौरान ही होती है।

क्या यह काम करता है?

टीम ने कंप्यूटर सिमुलेशन और वास्तविक दुनिया में, एक असली रोबोट आर्म का उपयोग करके इसका परीक्षण किया। परिणाम प्रभावशाली थे।

  • सिमुलेशन में: जब उन्होंने π0.5\pi_{0.5} मॉडल पर CAG लागू किया, तो नए निर्देशों का पालन करने की रोबोट की क्षमता (एक विशेष "विज़न-एक्शन" हेल्पर का उपयोग करते हुए) 30.8% से बढ़कर 46.3% हो गई। कार्य पूरा करने की सफलता दर भी 13.2% से बढ़कर 21.7% हो गई।
  • वास्तविक दुनिया में: उन्होंने कोक, स्प्राइट और फंटा कैन, या टेप और सरसों जैसे वास्तविक दृश्यों को सेट किया। बिना CAG के, रोबोट अक्सर गलत वस्तु उठा लेता था। CAG के साथ, विभिन्न दृश्यों में सही वस्तु पकड़ने (ग्राउंडिंग) की रोबोट की क्षमता औसतन 100% तक पहुँच गई। कार्य को वास्तव में पूरा करने की सफलता दर औसतन 17.2% सुधरी।

शोधकर्ताओं ने पाया कि यह ट्रिक तब सबसे अच्छा काम करती है जब वे "नो-इंस्ट्रक्शन" व्यू को दर्शाने के लिए एक अलग "विज़न-एक्शन" मॉडल का उपयोग करते हैं, बजाय इसके कि मुख्य रोबोट मॉडल का ही पुन: उपयोग किया जाए। यह अलगाव "सेकंड ओपिनियन" को अधिक स्पष्ट और प्रभावी बनाता है।

निष्कर्ष

यह पेपर दिखाता है कि आज के सबसे स्मार्ट रोबोट भी अपनी आदतों से आसानी से ठगे जा सकते हैं। वे अक्सर जो वे देखते हैं उसे जो वे सुनते हैं, उससे अधिक प्राथमिकता देते हैं। लेखकों ने न केवल समस्या को उजागर किया; उन्होंने इसे मापने के लिए एक नया टेस्ट (LIBERO-CF) बनाया और रोबोट को बेहतर ढंग से सुनने के लिए एक सरल, प्रभावी समाधान (CAG) भी दिया।

मुख्य निष्कर्ष यह है कि रोबोट को एक "काउंटरफैक्चुअल" दूसरा विचार देकर—यह पूछकर कि वह आपके शब्दों के बिना क्या करेगा, और फिर इसकी तुलना करने के बाद कि वह आपके शब्दों के साथ क्या करता है—हम उसे आपके निर्देशों पर ध्यान देने के लिए मजबूर कर सकते हैं। यह रोबोट के सोचने के तरीके में एक छोटा सा बदलाव है, लेकिन यह इस बात में बहुत बड़ा अंतर पैदा करता है कि वह वास्तव में क्या करता है। जैसा कि लेखक सुझाव देते हैं, यह दृष्टिकोण भविष्य के रोबोट्स को अधिक विश्वसनीय और सुरक्षित बनाने में मदद कर सकता है, यह सुनिश्चित करते हुए कि वे केवल अंदाज़ा न लगाएं, बल्कि वास्तव में आपका नेतृत्व करें।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →