What Questions Should Robots Be Able to Answer? A Dataset of User Questions for Explainable Robotics
यह शोध पत्र घरेलू रोबोटों के लिए 1,893 उपयोगकर्ता प्रश्नों के एक डेटासेट को प्रस्तुत करता है, जिसे 12 श्रेणियों में 100 प्रतिभागियों से एकत्र किया गया है, ताकि यह स्पष्ट किया जा सके कि व्याख्यात्मक रोबोटिक्स (explainable robotics) के विकास को निर्देशित करने के लिए, जबकि उपयोगकर्ता अक्सर कार्य निष्पादन के बारे में पूछते हैं, वे इस बात को प्राथमिकता देते हैं कि रोबोट कठिन परिदृश्यों को कैसे संभालते हैं, और प्रश्न पैटर्न नौसिखिए और अनुभवी उपयोगकर्ताओं के बीच काफी भिन्न होते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने अभी-अभी घर के कामों में मदद करने के लिए एक बिल्कुल नया, सुपर-स्मार्ट रोबोट खरीदा है। आप उसे लिविंग रूम में वैक्यूम करते, बर्तन धोते और आपके कपड़े तह करते हुए देखते हैं। लेकिन जैसे ही आप देखते हैं, आपका दिमाग सवालों से भर जाता है।
- "आपने किचन क्यों छोड़ दिया?"
- "क्या आप खिड़कियां भी साफ कर सकते हैं?"
- "अगर आपसे प्लेट गिर गई तो क्या होगा?"
- "आपको कैसे पता कि खाना पक गया है?"
यह शोध पत्र अनिवार्य रूप से उन सवालों की एक विशाल इन्वेंट्री (सूची) है। शोधकर्ता यह जानना चाहते थे कि: जब इंसान एक रोबोट को काम करते हुए देखते हैं, तो वे वास्तव में किन बातों के बारे में जिज्ञासु होते हैं? उन्होंने केवल अनुमान नहीं लगाया; उन्होंने 100 वास्तविक लोगों को रोबोट द्वारा घरेलू कार्य करने के वीडियो देखने और कहानियाँ पढ़ने के लिए कहा और उनसे वे हर सवाल लिखा जो वे पूछना चाहते थे।
यहाँ उनके निष्कर्षों का विवरण दिया गया है, जिसमें कुछ सरल उपमाओं (analogies) का उपयोग किया गया है:
1. "प्रश्न पुस्तकालय" (डेटासेट)
शोधकर्ताओं ने 1,893 प्रश्न एकत्र किए और उन्हें 12 मुख्य अनुभागों और 70 छोटी अलमारियों वाले एक विशाल पुस्तकालय में व्यवस्थित किया।
- सबसे लोकप्रिय शेल्फ (कार्य निष्पादन का विवरण - Execution Details): लगभग 21% प्रश्न एक रसीद चेक करने जैसे थे। लोग बारीक तथ्यों को जानना चाहते थे: आपने क्या किया? आपने किन वस्तुओं को छुआ? आपने इसे कैसे किया?
- उपमा: यह एक माता-पिता द्वारा बच्चे से पूछने जैसा है, "क्या तुमने सच में कूड़ा बाहर निकाला, और क्या तुमने बैग को अच्छी तरह बांधा?"
- "क्या आप यह कर सकते हैं?" शेल्फ (क्षमताएं - Capabilities): दूसरा सबसे आम समूह (12.6%) लोगों द्वारा रोबोट के कौशल के बारे में पूछना था। क्या आप बर्तन धो सकते हैं? क्या आप इसे और तेज़ी से कर सकते हैं?
- "क्या आपने इसे सही ढंग से किया?" शेल्फ (आत्म-मूल्यांकन - Self-Assessment): लोग यह जानना चाहते थे कि क्या रोबोट को लगता है कि उसने अच्छा काम किया। क्या वह कठिन था? क्या आपसे कोई गलती हुई?
2. बड़ा सरप्राइज: लोग वास्तव में किस बात की परवाह करते हैं
यहाँ एक मोड़ है। AI अनुसंधान की दुनिया में, वैज्ञानिक अक्सर सोचते हैं कि लोग "क्यों" वाले सवालों (जैसे, "आपने लाल कप ही क्यों चुना?") के प्रति सबसे अधिक उत्सुक होते हैं। वे मानते हैं कि हम रोबोट के तर्क (logic) को समझना चाहते हैं।
इस शोध ने इसके विपरीत पाया।
हालांकि "क्यों" वाले सवाल आम थे, लेकिन उपयोगकर्ताओं द्वारा उन्हें कम महत्वपूर्ण बताया गया।
इसके बजाय, जिन सवालों को लोगों ने सबसे महत्वपूर्ण (अनिवार्य) माना, वे सुरक्षा और संभावित समस्याओं के बारे में थे।
- उपमा: यदि आप एक बेबीसिटर (बच्चों की देखभाल करने वाला) रखते हैं, तो आपको इस बात की उतनी परवाह नहीं होती कि उन्होंने खेलने के लिए कौन सा खिलना चुना। आपको इस बात की बहुत परवाह होती है: "अगर बच्चा गिर गया तो आप क्या करेंगे?" या "आप यह कैसे सुनिश्चित करेंगे कि वह कुछ खतरनाक न खा ले?"
- उपयोगकर्ता जानना चाहते थे: अगर आपसे कुछ गिर गया तो क्या होगा? आप यह कैसे सुनिश्चित करते हैं कि आप बर्तन न तोड़ दें?
3. "नौसिखिया" बनाम "विशेषज्ञ"
शोधकर्ताओं ने देखा कि पूछने वाले के आधार पर सवाल बदल जाते हैं, ठीक वैसे ही जैसे एक नया ड्राइवर रेस कार ड्राइवर से अलग सवाल पूछता है।
- नौसिखिए (रोबोट के मामले में नए लोग): वे सरल, तथ्यात्मक सवाल पूछते थे। आपने क्या किया? बिल्ली कहाँ है? वे स्थिति के तत्काल तथ्यों पर केंद्रित थे।
- विशेषज्ञ (जो रोबोट के बारे में जानते हैं): वे गहरे, अधिक जटिल सवाल पूछते थे। आप एक कठिन स्थिति को कैसे संभालेंगे? आपने उस कार्य को प्राथमिकता देने का निर्णय कैसे लिया? उनकी रुचि "क्या" में कम और "कैसे" और "क्या होगा अगर" में अधिक थी।
4. रोबोट बनाने वालों के लिए यह क्यों मायने रखता है
यह शोध पत्र तर्क देता है कि रोबोट को वास्तव में सहायक और भरोसेमंद होने के लिए एक विशिष्ट "मेमोरी" और "एक्सप्लेनेशन किट" (व्याख्या किट) के साथ बनाया जाना चाहिए।
- "ब्लैक बॉक्स" की समस्या: यदि आपका रोबोट एक फैंसी AI (जैसे कि लार्ज लैंग्वेज मॉडल) का उपयोग करके आपसे बात करता है, लेकिन उस AI के पास रोबोट के वास्तविक लॉग्स (जैसे कि फ्लाइट रिकॉर्डर) तक पहुंच नहीं है, तो वह AI केवल मनगढ़ंत बातें बना सकता है (hallucinate)।
- समाधान: रोबोट डिजाइनरों को यह जानना आवश्यक है कि क्या रिकॉर्ड करना है। यदि उपयोगकर्ता सुरक्षा और "क्या होगा अगर" वाली स्थितियों की सबसे अधिक परवाह करते हैं, तो रोबोट को संभावित त्रुटियों और निर्णय लेने की प्रक्रियाओं के बारे में डेटा रिकॉर्ड करने की आवश्यकता है, न कि केवल कार्यों की एक साधारण सूची की।
सारांश
इस शोध पत्र को एक रोबोट के मस्तिष्क को बनाने के लिए "यूजर मैनुअल" के रूप में समझें। यह इंजीनियरों को बताता है: "केवल एक ऐसा रोबोट न बनाएं जो यह समझा सके कि उसने कुर्सी क्यों हटाई। बल्कि एक ऐसा रोबोट बनाएं जो आत्मविश्वास से बता सके कि वह टूटे हुए प्लेट के साथ कैसे व्यवहार करेगा, क्योंकि वास्तव में यही चीज़ लोगों को सुरक्षित महसूस कराती है और मशीन पर भरोसा दिलाती है।"
शोधकर्ताओं ने यह भी नोट किया कि उनके अध्ययन में वास्तविक जीवन की बातचीत के बजाय वीडियो और टेक्स्ट कहानियों (जैसे कि मूवी स्क्रिप्ट) का उपयोग किया गया था। हालांकि यह वास्तविक जीवन का पूर्ण सिमुलेशन नहीं है, लेकिन इसने उन्हें बहुत सारे विभिन्न परिदृश्यों का तेजी से परीक्षण करने की अनुमति दी, जिससे उन्हें एक स्पष्ट मानचित्र मिला कि रोबोटों के हमारे घरों में आने से पहले लोग वास्तव में क्या जानना चाहते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।