Evaluating XAI Support From A Hierarchical Reinforcement Learning Policy in Human-Agent Collaboration
यह शोध पत्र ओवरकुक्ड-एआई (Overcooked-AI) बेंचमार्क का उपयोग करते हुए मानव-एजेंट सहयोग में आंतरिक रूप से व्याख्या योग्य पदानुक्रमित सुदृढीकरण सीखने (hierarchical reinforcement learning) का पहला व्यवस्थित मूल्यांकन प्रस्तुत करता है, जो यह प्रकट करता है कि हालांकि स्पष्टीकरणों ने तेजी से सुधार की ओर रुझान दिखाया, लेकिन ऑडियो-वितरित स्पष्टीकरणों ने अनपेक्षित साझेदारी अपेक्षाएं उत्पन्न करके मानव-एजेंट कार्य गठबंधन को महत्वपूर्ण रूप से कमजोर कर दिया।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट साथी के साथ एक हाई-स्पीड वीडियो गेम खेल रहे हैं। आप दोनों को समय समाप्त होने से पहले प्याज काटने, सूप पकाने और उसे परोसने की आवश्यकता है। वास्तविक दुनिया में, जब दो इंसान मिलकर खेलते हैं, तो वे आपस में बात करते हैं: "मैं टमाटर लेता हूँ, तुम बर्तन पकड़ो!" या "सावधान, मैं आ रहा हूँ!" यह बातचीत उन्हें क्या हो रहा है, इसकी एक साझा समझ बनाने में मदद करती है। लेकिन रोबोट अक्सर शांत, रहस्यमय मशीनों की तरह होते हैं; वे तेजी से चलते हैं और काम करते हैं, लेकिन वे आपको यह नहीं बताते कि वे ऐसा क्यों कर रहे हैं। इससे एक अंतर पैदा होता है। यदि एक रोबोट को केवल एक उपकरण नहीं, बल्कि एक सच्चा साथी बनना है, तो उसे अपने विचारों को समझाना होगा। यहीं "एक्सप्लेनेबल एआई" (XAI) काम आता है। यह रोबोटों को यह सिखाने का विज्ञान है कि वे कहें, "मैं यह इसलिए कर रहा हूँ क्योंकि..." ताकि इंसान उन पर बेहतर भरोसा कर सकें और उनके साथ मिलकर काम कर सकें। लेकिन यहाँ पेचीदा हिस्सा यह है: यदि रोबोट बहुत अधिक बोलता है, तो वह आपको विचलित कर सकता है। यदि वह गलत तरीके से बोलता है, तो वह आपको परेशान कर सकता है। बड़ा सवाल यह है: हम रोबोट को खुद को समझाते हुए कैसे बना सकते हैं बिना खेल के बीच में आए?
यह शोध पत्र ठीक इसी समस्या को सुलझाने के लिए 'ओवरकुक्ड-एआई' (Overcooked-AI) नामक एक गेम का उपयोग करके एक डिजिटल किचन प्रयोग स्थापित करता है। शोधकर्ताओं ने "हाइरार्किकल रीइन्फोर्समेंट लर्निंग" (Hierarchical Reinforcement Learning) नामक एक विशेष प्रकार के रोबोट मस्तिष्क का उपयोग किया। इसे ऐसे समझें जैसे एक रोबोट जो केवल हर छोटे कदम (जैसे "बाएं चलो, दाएं चलो") के बारे में नहीं सोचता, बल्कि बड़े हिस्सों में सोचता है, जैसे "एक प्याज लाओ" या "सूप को कटोरे में डालो।" क्योंकि यह बड़े हिस्सों में सोचता है, इसलिए यह स्वाभाविक रूप से आपको बता सकता है कि वह आगे क्या करने की योजना बना रहा है। टीम यह देखना चाहती थी कि क्या रोबोट को अपने मानव खिलाड़ी से बात करने देने से वे मिलकर बेहतर काम कर पाते हैं। उन्होंने बात करने के दो तरीके आजमाए: रोबोट स्क्रीन पर संदेश टाइप (Text) कर सकता था या बोलकर (Audio) बता सकता था।
परिणाम आश्चर्य और सीखों का मिश्रण थे। सबसे पहले, रोबोट की व्याख्याओं ने टीम को तुरंत अधिक अंक नहीं दिलाए। वास्तव में, वे मानव खिलाड़ी जिन्होंने कोई व्याख्या नहीं प्राप्त की थी, उन्होंने औसतन थोड़े अधिक अंक प्राप्त किए, हालांकि अंतर बहुत बड़ा नहीं था। यह सुझाव देता है कि जो लोग पहले से ही गेम में कुशल हैं, उनके लिए निरंतर अपडेट केवल एक व्याकुलता हो सकता है। हालाँकि, एक सकारात्मक पहलू भी था: जिन खिलाड़ियों को व्याख्याएँ मिलीं, वे रोबोट के साथ काम करना जल्दी सीख गए। वे समय के साथ अपने स्कोर में अधिक तेजी से सुधार कर पाए, जैसे कि रोबोट की बातों ने उन्हें रोबोट की शैली को जल्दी समझने में मदद की हो।
लेकिन सबसे दिलचस्प खोज तब हुई जब रोबोट के बोलने के तरीके की बात आई। जब रोबोट बोलकर (Audio) बात कर रहा था, तो कुछ अजीब हुआ। भले ही खिलाड़ी तेजी से सीख रहे थे, लेकिन वे रोबमाट के साथ बहुत कमजोर जुड़ाव महसूस कर रहे थे। वे ऐसा महसूस नहीं कर रहे थे कि वे एक ही टीम में हैं। ऐसा लग रहा था जैसे रोबोट की आवाज़ उनसे एक वास्तविक बातचीत और भविष्य के वादे की उम्मीद कर रही थी। लेकिन चूंकि रोबोट केवल वर्तमान क्षण के प्रति प्रतिक्रिया दे रहा था (जैसे कि एक रिफ्लेक्स), इसलिए वह तुरंत अपना मन बदल देता था। जब रोबोट ने कहा, "मैं बर्तन की ओर जा रहा हूँ," लेकिन फिर तुरंत काउंटर की ओर दौड़ पड़ा, तो इंसान को विश्वासघात महसूस हुआ। आवाज ने रोबोट को एक ऐसे साथी के रूप में पेश किया जिसे अपना वादा निभाना चाहिए, लेकिन रोबोट का मस्तिष्क इतना प्रतिक्रियाशील था कि वह उस वादे को निभाने में सक्षम नहीं था।
इसके विपरीत, जब रोबोट ने केवल स्क्रीन पर संदेश टाइप किए, तो खिलाड़ियों को ऐसा विश्वासघात महसूस नहीं हुआ। वे चाहें तो टेक्स्ट को अनदेखा कर सकते थे, इसलिए रोबोट एक "नकली" साथी जैसा नहीं लगा। अध्ययन यह सुझाव देता है कि हालांकि बोलकर बात करना ध्यान खींचता है और लोगों को तेजी से सीखने में मदद करता है, यह ऐसी उम्मीदें भी जगा देता है जिन्हें एक साधारण, प्रतिक्रियाशील रोबोट पूरा नहीं कर पाता। शोधकर्ता निष्कर्ष निकालते हैं कि यदि हम चाहते हैं कि रोबोट हमसे बात करें, तो हमें यह सुनिश्चित करना होगा कि वे वास्तव में उन वादों को निभाने में अच्छे हों जो उनकी आवाज़ दर्शाती है, अन्यथा साझेदारी टूटी हुई महसूस हो सकती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।