Interactive Task Alignment as a POMDP
यह शोध पत्र अस्पष्ट अंतःक्रियाओं से गुप्त उपयोगकर्ता इरादे का अनुमान लगाने के रूप में कार्य संरेखण (task alignment) को औपचारिक रूप देने के लिए एक POMDP ढांचे का प्रस्ताव करता है, जो यह प्रकट करता है कि वर्तमान भाषा मॉडल अनिश्चितता को सुलझाने में मनुष्यों की तुलना में काफी खराब प्रदर्शन करते हैं और अक्सर समय से पूर्व कार्य करते हैं, जो उपयोगकर्ता के लक्ष्यों के साथ विश्वसनीय रूप से संरेखित होने की उनकी क्षमता में एक महत्वपूर्ण अंतर को उजागर करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट बटलर (नौकर) बनाने की कोशिश कर रहे हैं। उन विज्ञान प्रयोगशालाओं में जहाँ इन रोबोटों को प्रशिक्षित किया जाता है, वैज्ञानिक आमतौर पर उन्हें बहुत विशिष्ट, सटीक निर्देश देते हैं: "रसोई में जाओ, लाल मग ढूँढो, और उसे गर्म पानी से भर दो।" फिर रोबोट को इस आधार पर ग्रेड दिया जाता है कि वह उस मग को खोजने और पानी भरने में कितना सक्षम रहा। यह एक वीडियो गेम की तरह है जहाँ लक्ष्य स्क्रीन पर स्पष्ट रूप से लिखा होता है। लेकिन वास्तविक दुनिया में, इंसान अव्यवस्थित होते हैं। हम शायद ही कभी शुरुआत में ठीक-ठीक जानते हैं कि हमें क्या चाहिए। हम कह सकते हैं, "मुझे प्यास लगी है, लेकिन मुझे नहीं पता कि मैं क्या पीना चाहता हूँ," या "मुझे अपने बच्चे को व्यस्त रखने के लिए किसी चीज़ की ज़रूरत है, लेकिन मैंने अभी तक यह नहीं सोचा कि वह किस तरह का खिलौना होगा।" हम खोजकर्ता हैं, केवल कमांडर नहीं। बड़ा सवाल वैज्ञानिकों के लिए यह है: क्या एक रोबोट यह समझ सकता है कि हमारा वास्तव में क्या मतलब है, इससे पहले कि वह काम करना शुरू करे? यह शोध पत्र उस पेचीदा अंतर में गोता लगाता है जो हमारे कहे जाने और हमारी वास्तविक आवश्यकता के बीच होता है, और रोबोट के काम को केवल एक कार्य-करने वाले के रूप में नहीं, बल्कि एक जासूस के रूप में देखता है जो एक रहस्य सुलझाने की कोशिश कर रहा है।
इस अध्ययन के पीछे के शोधकर्ताओं ने रोबोट का परीक्षण आदर्श निर्देशों पर करना बंद करने और उन्हें वास्तविक जीवन की उलझन भरी स्थितियों पर परखने का निर्णय लिया। उन्होंने खेल खेलने का एक नया तरीका बनाया, इसे "पार्शियली ऑब्जर्वेबल मार्कोव डिसीजन प्रोसेस" (जो बस एक फैंसी गणितीय तरीका है यह कहने का: "रोबोट केवल वे सुराग देख सकता है जो हम उसे देते हैं, पूरा चित्र नहीं, और उसे हमसे बात करते हुए छिपे हुए लक्ष्य का अनुमान लगाना होगा") में बदल दिया। उन्होंने एक सिमुलेशन सेट किया जहाँ एक कंप्यूटर प्रोग्राम एक मानव उपयोगकर्ता की भूमिका निभाता है जिसके पास एक अस्पष्ट विचार है और जो रोबोट द्वारा प्रश्न पूछने पर धीरे-धीरे अधिक विवरण प्रकट करता है। उन्होंने इसका परीक्षण तीन अलग-अलग मैदानों पर किया: ऑनलाइन चीजें खरीदना (शॉपिंग), कंप्यूटर कोड लिखना, और पेशेवर कार्य करना।
उन्होंने जो पाया वह एक चेतावनी की तरह है। भले ही आज के सबसे स्मार्ट AI मॉडल स्पष्ट निर्देशों का पालन करने में अद्भुत हैं, लेकिन वे यह समझने में बहुत खराब हैं कि जब हम अस्पष्ट होते हैं तो हमें वास्तव में क्या चाहिए। जब उपयोगकर्ता का अनुरोध धुंधला था, तो AI मॉडलों ने सही कार्य का अनुमान केवल 22% से 32% बार ही लगाया। इसका मतलब है कि वे लगभग चार में से तीन बार गलत साबित हुए! शोध पत्र सुझाव देता है कि ये मॉडल खुश करने के लिए बहुत उत्सुक हैं। "रुको, तुम्हें वास्तव में क्या चाहिए?" पूछने के बजाय, वे अक्सर एक या दो वाक्यों के बाद ही सीधे कार्रवाई में कूद जाते हैं, गलत विचार पर टिक जाते हैं और आत्मविश्वास के साथ गलत काम करने लगते हैं।
यह देखने के लिए कि यह वास्तव में कितना बुरा था, शोधकर्ताओं ने वास्तविक मनुष्यों को रोबोट की भूमिका निभाने के लिए शामिल किया। जब मनुष्यों ने उन्हीं अस्पष्ट अनुरोधों को समझने की कोशिश की, तो वे 48% बार सही हुए—जो किसी भी कंप्यूटर मॉडल की तुलना में काफी बेहतर था। अध्ययन बताता है कि अंतर यह नहीं है कि मनुष्य पहेलियाँ सुलझाने में अधिक बुद्धिमान हैं; बल्कि यह है कि मनुष्य बातचीत करने में बेहतर होते हैं। जब शोधकर्ताओं ने AI मॉडलों को वही बातचीत के ट्रांसक्रिप्ट दिए जो मनुष्यों ने की थी, तो AI मॉडल अचानक सही कार्य का अनुमान लगाने में बहुत बेहतर हो गए। यह साबित करता है कि समस्या यह नहीं है कि AI उत्तर को समझ नहीं सकता; समस्या यह है कि AI वहाँ पहुँचने के लिए सही प्रश्न पूछना नहीं जानता।
टीम ने 'सुपरवाइज्ड फाइन-ट्यूनिंग' और 'रीइन्फोर्समेंट लर्निंग' जैसी विधियों का उपयोग करके AI को अतिरिक्त प्रशिक्षण देकर इसे ठीक करने की कोशिश भी की। इससे थोड़ा सुधार हुआ; AI सही ढंग से अनुमान लगाने में बेहतर हुआ और इतना भी आत्मविश्वासी होकर गलत होने से बचा। हालाँकि, इस अतिरिक्त प्रशिक्षण के बावजूद, AI मनुष्यों की बराबरी नहीं कर सका। शोध पत्र निष्कर्ष निकालता है कि जबकि AI कार्य करने में महान हो रहा है, इसमें अभी भी एक महत्वपूर्ण "सामाजिक कौशल" की कमी है: रुकने, यह महसूस करने की क्षमता कि वह भ्रमित है, और सब कुछ बिगाड़ने से पहले मदद माँगने की क्षमता। जब तक रोबोट बेहतर जासूस बनना और कम उत्साही बीवर बनना नहीं सीख लेते, तब तक वे हमारे अव्यवस्थित, वास्तविक जीवन में वास्तव में विश्वसनीय सहायक बनने के लिए संघर्ष करते रहेंगे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।