The Yes-Man Syndrome: Benchmarking Abstention in Embodied Robotic Agents
यह शोधपत्र RoboAbstention प्रस्तुत करता है, जो एम्बोडेड रोबोटिक्स में भौतिक रूप से अव्यवहार्य या संदिग्ध निर्देशों को निष्पादित करने से सही ढंग से बचने की विजन-लैंग्वेज मॉडल्स की क्षमता का मूल्यांकन करने के लिए एक नया बेंचमार्क और वर्गीकरण है, जो यह प्रकट करता है कि वर्तमान अत्याधुनिक मॉडल रक्षात्मक प्रॉम्प्टिंग और इन-कॉन्टेक्स्ट लर्निंग से सुधार के बावजूद इस "यस-मैन" प्रवृत्ति के साथ काफी संघर्ष करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप अपने घर के कामों में मदद करने के लिए एक बहुत ही बुद्धिमान, लेकिन अत्यधिक उत्साही, रोबोट सहायक को काम पर रख रहे हैं। आप उसे एक कमांड देते हैं जैसे, "लाल कप उठाओ।"
एक आदर्श दुनिया में, रोबोट मेज की ओर देखता है, एक लाल कप देखता है, और उसे उठा लेता है। लेकिन क्या होता है अगर वहां कोई लाल कप नहीं है? या क्या होगा अगर वहां पाँच लाल कप हैं और आपने यह नहीं बताया कि कौन सा? या क्या होगा अगर आप उससे कहें कि "कॉफी को सूंघो," लेकिन रोबोट के पास नाक नहीं है?
एक "अच्छे" रोबोट को रुकना चाहिए और कहना चाहिए, "मैं यह नहीं कर सकता; मुझे कोई लाल कप नहीं दिख रहा है," या "आप किस लाल कप की बात कर रहे हैं?" "मुझे नहीं पता" या "मैं यह नहीं कर सकता" कहने की इस क्षमता को एब्स्टेंशन (Abstention) कहा जाता है।
यह शोध पत्र, जिसका शीर्षक "द ये-मैन सिंड्रोम" (The Yes-Man Syndrome) है, यह तर्क देता है कि आज के सबसे उन्नत रोबोट दिमाग (जिन्हें विजन-लैंग्वेज मॉडल कहा जाता है) "ये-मैन सिंड्रोम" के गंभीर शिकार हैं। वे इतने खुशमिजाज और आत्मविश्वासी हैं कि वे अक्सर उन निर्देशों को समझने का नाटक करते हैं जिन्हें वे वास्तव में हल नहीं कर सकते, जिससे भ्रम या चीजें टूट सकती हैं।
यहाँ शोधकर्ताओं द्वारा किए गए कार्यों और उनकी खोजों का सरल उपमाओं का उपयोग करके विवरण दिया गया है:
1. समस्या: "ये-मैन" रोबोट
वर्तमान रोबोट उस छात्र की तरह हैं जो गलत उत्तर देने से इतना डरता है कि वह तब भी उत्तर का अनुमान लगा लेता है जब उसे पता ही नहीं होता कि प्रश्न किस बारे में है।
- परिदृश्य: आप रोबोट को कहते हैं "लकड़ी के ब्लॉक को हिलाओ।"
- वास्तविकता: मेज पर तीन लकड़ी के ब्लॉक रखे हैं।
- "ये-मैन" प्रतिक्रिया: रोबोट बिना पूछे एक ब्लॉक को रैंडमली चुनकर हिला देता है, इस उम्मीद में कि शायद वही सही था। वह यह नहीं पूछता, "कौन सा?"
- शोध पत्र का दावा: यह खतरनाक है। वास्तविक दुनिया में, अनुमान लगाना चीजों को गिराने, वस्तुओं को तोड़ने या कार्यों के कभी पूरा न होने का कारण बन सकता है।
2. समाधान: रोबोटों के लिए एक नया "टेस्ट"
शोधकर्ताओं ने महसूस किया कि जबकि हमारे पास रोबोट के टेक्स्ट प्रश्नों का उत्तर देने की क्षमता को परखने के टेस्ट हैं, हमारे पास यह जांचने का कोई अच्छा तरीका नहीं था कि वे कब रुकें और मदद मांगें।
इसे ठीक करने के लिए, उन्होंने ROBOABSTENTION नामक एक नया परीक्षण मैदान बनाया।
- यह कैसे काम करता है: कल्पना कीजिए कि एक फोटोग्राफर वास्तविक रोबोट कार्यक्षेत्रों (रसोई, लैब, लिविंग रूम) की 1,250 तस्वीरें लेता है।
- ट्रिक: इसके बाद उन्होंने इन तस्वीरों के लिए हजारों निर्देश लिखे जो जानबूझकर असंभव बनाए गए थे।
- उदाहरण: "अदृश्य हाथी को उठाओ" (गायब संदर्भ/Missing Referent)।
- उदाहरण: "भारी पत्थर उठाओ" जब रोबोट की उंगलियां बहुत छोटी हों (कौशल की कमी/Missing Capability)।
- उदाहरण: "लाइट बंद करो" जब लाइट पहले से ही बंद हो (गलत धारणा/False Premise)।
- लक्ष्य: उन्होंने इन असंभव निर्देशों को रोबोटों को दिया ताकि यह देखा जा सके: क्या रोबोट फिर भी इसे करने की कोशिश करेगा, या वह कहेगा, "मैं यह नहीं कर सकता"?
3. परिणाम: रोबोट टेस्ट में फेल हो गए
शोधकर्ताओं ने सबसे स्मार्ट उपलब्ध रोबोट दिमागों (जैसे Gemini, GPT-4, और Claude) का परीक्षण किया। परिणाम आश्चर्यजनक और थोड़े चिंताजनक थे:
- "ये-मैन" हर जगह है: लगभग सभी रोबंतुओं ने उन असंभव निर्देशों का पालन करने की कोशिश की।
- सर्वश्रेष्ठ प्रदर्शन करने वाला: सबसे स्मार्ट मॉडल, Gemini 2.5 Flash, केवल 39% बार ही कह पाया कि "मैं यह नहीं कर सकता।" इसका मतलब है कि उसने 61% बार अनुमान लगाने की कोशिश की, तब भी जब वह असंभव था।
- विशेषज्ञ: रोबोट के लिए विशेष रूप से बनाया गया एक रोबोट दिमाग (Gemini Robotics ER 1.6) और भी बुरा प्रदर्शन कर गया, वह केवल 16.5% बार ही रुक पाया। वह सबसे अधिक उत्साही "ये-मैन" था।
- "सोचने" का जाल: शोधकर्ताओं ने सोचा, "शायद अगर हम रोबोट को जवाब देने से पहले 'कड़ी मेहनत से सोचने' के लिए कहें, तो वह अधिक स्मार्ट हो जाएगा।" वे गलत थे। जब उन्होंने रोबोट को अधिक "तर्क" (reasoning) का उपयोग करने के लिए मजबूर किया, तो वे वास्तव में और भी खराब हो गए। वे असंभव कार्य को करने के लिए रचनात्मक, फर्जी कारण गढ़ने में अधिक समय बिताने लगे।
4. वे ऐसा क्यों करते हैं?
शोध पत्र में पाया गया कि जब रोबट रुकने (abstain करने) में विफल होते हैं, तो वे आमतौर पर तीन में से एक काम करते हैं:
- जादुई ट्रिक: वे व्यवहार करते हैं जैसे कि गायब वस्तु वहां मौजूद है। (जैसे, "मुझे लाल कप दिख रहा है" जब वहां कोई कप नहीं है)।
- रैंडम अनुमान: यदि कई विकल्प हैं, तो वे बस एक को चुन लेते हैं और उम्मीद करते हैं कि वह सही होगा।
- जुगाड़ (Workaround): यदि वे कुछ सूंघ नहीं सकते, तो वे कहते हैं, "मैं इसे उठाऊंगा और अपने सेंसर से रगड़कर गंध का अनुमान लगाऊंगा," भले ही वे वास्तव में सूंघ नहीं सकते।
5. क्या हम इसे ठीक कर सकते हैं? ("ट्रेनिंग व्हील्स")
शोधकर्ताओं ने दो तरीकों का उपयोग करके रोबोटों को बेहतर तरीके से सिखाने की कोशिश की:
- डिफेंसिव प्रॉम्प्टिंग (Defensive Prompting): रोबोट को उसके निर्देशों में स्पष्ट रूप से बताना: "यदि आप सुनिश्चित नहीं हैं, तो रुकें और पूछें।"
- इन-कॉन्टेक्स्ट लर्निंग (In-Context Learning): रोबोट को अच्छे व्यवहार के उदाहरण दिखाना (जैसे, "यहाँ एक समय है जब मैंने कहा 'मुझे नहीं पता' क्योंकि वस्तु गायब थी")।
परिणाम: ये तरकीबें बहुत बेहतर काम करती थीं!
- सही निर्देशों के साथ, रोबोट की "मैं यह नहीं कर सकता" कहने की क्षमता 16% से उछलकर 93% हो गई।
- हालांकि: इन सुधारों के बावजूद, समस्या पूरी तरह से हल नहीं हुई थी। रोबोट अभी भी कभी-कभी वहां अनुमान लगाने की कोशिश करते थे जहाँ उन्हें नहीं करना चाहिए था।
मुख्य निष्कर्ष
यह शोध पत्र इस बारे में नहीं है कि एक रोबोट को अभी तक सब कुछ परफेक्ट करने के लिए कैसे बनाया जाए। यह यह समझने के बारे में है कि यह जानना कि कब कार्य नहीं करना है, कार्य करने के तरीके को जानने जितना ही महत्वपूर्ण है।
अभी, हमारे सबसे उन्नत रोबोट दिमाग उन अति-उत्साही इंटर्न की तरह हैं जो यह स्वीकार करने से डरते हैं कि वे असाइनमेंट नहीं समझ पाए हैं। वे स्पष्टीकरण मांगने के बजाय अनुमान लगाकर विफल होना पसंद करते हैं। लेखकों ने एक नया "रिपोर्ट कार्ड" (ROBOABSTENTION) बनाया है ताकि हम इस विशिष्ट कौशल को माप सकें और उम्मीद कर सकें कि हम ऐसे रोबोट बना सकें जो कुछ भी तोड़ने से पहले विनम्रता से कह सकें, "मुझे और जानकारी चाहिए।"
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।