Artificial Empathy: Towards a Framework for Unsupervised Agency Detection and Policy Reconstruction
यह शोध पत्र एक ऐसे ढांचे का प्रस्ताव करता है जो अन्य एजेंटों के अनसुपरवाइज्ड डिटेक्शन (unsupervised detection) और केवल पर्यावरणीय अवलोकनों से उनकी नीतियों के पुनर्निर्माण को सक्षम करने के लिए एक स्वतंत्र कार्य पर प्रशिक्षित सुदृढीकरण लर्निंग (reinforcement learning) एजेंट को एक प्रायर (prior) के रूप में उपयोग करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस अनुसंधान के शांत कोनों में, एक मौलिक प्रश्न बना हुआ है: एक मशीन यह कैसे समझ सकती है कि दुनिया में कोई और चीज़ उद्देश्य के साथ कार्य कर रही है? एक कंप्यूटर के लिए मनुष्यों या अन्य मशीनों के साथ सहयोग करने के लिए, उसे सबसे पहले यह अंतर करना होगा कि कोई पत्थर गुरुत्वाकर्षण के कारण गिर रहा है या कोई व्यक्ति उस पत्थर को लेने के इरादे से हाथ बढ़ा रहा है। एजेंसी डिटेक्शन (agency detection) के रूप में जानी जाने वाली यह क्षमता, सामाजिक संपर्क की आधारशिला है। इसके बिना, एक आर्टिफिशियल इंटेलिजेंस केवल घटनाओं के एक अराजक प्रवाह को देखता है, जो यादृच्छिक शोर (random noise) और एक लक्ष्य-निर्देशित योजना के बीच अंतर करने में असमर्थ होता है। चुनौती तब और भी बड़ी हो जाती है जब मशीन को यह समझना होता है कि वह दूसरा एजेंट क्या करना चाहता है, जिसे पॉलिसी रिकंस्ट्रक्शन (policy reconstruction) कहा जाता है। यदि एक मशीन इन छिपे हुए इरादों को पहचानने और उन्हें स्पष्ट रूप से सिखाए बिना मॉडल करने में सक्षम हो जाए, तो यह वास्तव में एक सहयोगात्मक भागीदार बनने की दिशा में एक बड़ा कदम होगा, जो अपने लक्ष्यों को अपने आस-पास के जीवों के लक्ष्यों के साथ संरेखित करने में सक्षम हो।
कैम्ब्रिज में 'ह्यूमन इंडक्टिव बायस प्रोजेक्ट' के शोधकर्ताओं की एक टीम ने "आर्टिफिशियल एम्पैथी" (कृत्रिम सहानुभूति) नामक एक प्रणाली का प्रस्ताव देकर इस पहेली को सुलझाने की दिशा में एक महत्वपूर्ण कदम उठाया है। एक जटिल 'थ्योरी ऑफ माइंड' को शून्य से बनाने के बजाय, वे सुझाव देते हैं कि एक आर्टिफिशियल इंटेलिजेंस दूसरों को समझने के लिए अपने स्वयं के आंतरिक तंत्रों को एक मार्गदर्शक के रूप में उपयोग कर सकता है। मुख्य विचार यह है कि एक AI, जो स्वयं एक एजेंट है जो निर्णय लेता है और दुनिया पर कार्य करता है, पहले से ही यह समझ रखता है कि एजेंसी कैसी दिखती है। अपने स्वयं के सीखे हुए व्यवहार के पैटर्न के आधार पर भविष्य की भविष्यवाणी करने के लिए एक सिस्टम को प्रशिक्षित करके, शोधकर्ताओं ने एक ऐसा ढांचा तैयार किया जो वातावरण का निरीक्षण कर सकता है, अन्य एजेंटों को पहचान सकता है, और यह पता लगा सकता है कि वे एजेंट क्या हासिल करने की कोशिश कर रहे हैं, और वह भी बिना किसी मानवीय लेबल या निर्देश के।
शोधकर्ताओं ने इस अवधारणा का परीक्षण एक नियंत्रित डिजिटल वातावरण में किया, जो एक सरल ग्रिड वर्ल्ड है जहाँ एक एजेंट पुरस्कार एकत्र करने के लिए इधर-उधर घूमता है। उन्होंने एक मानक AI एजेंट को एक विशिष्ट कार्य को हल करने के लिए प्रशिक्षित किया, जैसे कि अंक अर्जित करने के लिए ग्रिड के नीचे-बाएँ कोने तक पहुँचना। यह प्रशिक्षित एजेंट "विशेषज्ञ" या "अन्य" के रूप में कार्य करता था जिसे नए सिस्टम को समझने की आवश्यकता थी। कार्य को कठिन और यथार्थवादी बनाने के लिए, शोधकर्ताओं ने एक भ्रमित करने वाला तत्व पेश किया: एक दूसरा, नकली एजेंट जो हवा में उड़ते पत्ते की तरह यादृच्छिक रूप से चलता था। लक्ष्य यह था कि नया सिस्टम यादृच्छिक गति को अनदेखा करे और सही ढंग से वास्तविक एजेंट की पहचान करे, और फिर लक्ष्य तक पहुँचने के लिए उसकी विशिष्ट रणनीति को अपनाना सीखे। सिस्टम को यह नहीं बताया गया था कि असली एजेंट कौन सा है; उसे इसे स्वयं समझना था।
इसे प्राप्त करने के लिए, नए सिस्टम को एक अलग AI का "मस्तिष्क" लोड करके शुरुआत में बढ़त दी गई थी, जिसे पूरी तरह से असंबंधित कार्य, जैसे कि भोजन एकत्र करना, पर प्रशिक्षित किया गया था। यह प्री-लोडेड ज्ञान एक 'प्रायर' (prior) के रूप में कार्य करता था, जो इस बारे में अपेक्षाओं का एक सेट था कि एजेंट सामान्यतः कैसे व्यवहार करते हैं और उनके कार्य दुनिया को कैसे बदलते हैं। सिस्टम ने फिर ग्रिड वर्ल्ड में घटनाओं के प्रवाह का अवलोकन किया। इसने अपने आंतरिक मॉडल का उपयोग करके एक सरल प्रश्न पूछा: यदि मैं यह मान लूँ कि यहाँ एक एजेंट कार्य कर रहा है, तो क्या मैं भविष्यवाणी कर सकता हूँ कि आगे क्या होगा? जब सिस्टम ने यादृच्छिक रूप से चलने वाले (random walker) को देखा, तो उसकी भविष्यवाणियाँ विफल रहीं क्योंकि यादृच्छिक गतिविधियाँ किसी तार्किक लक्ष्य-खोज पैटर्न का पालन नहीं करती थीं। हालाँकि, जब उसने विशेषज्ञ एजेंट का अवलोकन किया, तो उसकी भविष्यवाणियाँ सटीक रहीं क्योंकि विशेषज्ञ की गतिविधियाँ एक लक्ष्य तक पहुँचने की कोशिश कर रहे एजेंट के तर्क के अनुरूप थीं। अपनी भविष्यवाणियों और वास्तविकता के बीच की त्रुटि को कम करके, सिस्टम ने प्रभावी रूप से शोर को फ़िल्टर कर दिया और वास्तविक एजेंट पर ध्यान केंद्रित किया।
प्रयोग के परिणाम उत्साहजनक थे। वातावरण का थोड़े समय तक अवलोकन करने के बाद, सिस्टम ने यादृच्छिक धोखेबाज (decoy) को अनदेखा करना सीख लिया और विशेषज्ञ एजेंट की रणनीति को सफलतापूर्वक अपना लिया। परीक्षणों की एक श्रृंखला में, सिस्टम का प्रदर्शन यादृच्छिक अनुमान की तुलना में तेजी से बढ़ा और अंततः मूल विशेषज्ञ के कौशल स्तर के बराबर पहुँच गया। इसने प्रदर्शित किया कि सिस्टम वास्तव में अनसुपरवाइज्ड एजेंसी डिटेक्शन (unsupervised agency detection) कर सकता है, यानी अराजकता के बीच उद्देश्यपूर्ण कर्ता की पहचान कर सकता है और उसकी नीति का पुनर्निर्माण कर सकता है। शोधकर्ताओं ने नोट किया कि यह सफलता इस बात पर टिकी थी कि सिस्टम दुनिया को देखने के लिए अपने स्वयं के आंतरिक डायनेमिक्स को एक लेंस के रूप में उपयोग कर रहा था, जो प्रभावी रूप से कह रहा था, "मैं जानता हूँ कि लक्ष्य रखने का अनुभव कैसा होता है, इसलिए मैं दूसरों में इसे पहचान सकता हूँ।"
इन उत्साहजनक निष्कर्षों के बावजूद, शोधकर्ता इसे एक पूर्ण समाधान के बजाय एक प्रारंभिक 'प्रूफ ऑफ कॉन्सेप्ट' के रूप में फ्रेम करने में सावधानी बरतते हैं। प्रयोग एक छोटे, पूरी तरह से दृश्यमान ग्रिड वर्ल्ड में किए गए थे जिसमें केवल एक वास्तविक एजेंट और एक नकली एजेंट था। सिस्टम इस तथ्य पर बहुत अधिक निर्भर था कि प्रायर एजेंट और लक्ष्य एजेंट संरचनात्मक रूप से समान थे, और यह अभी तक ज्ञात नहीं है कि यह दृष्टिकोण तब कितनी अच्छी तरह काम करेगा जब एजेंट बहुत भिन्न हों या वातावरण जटिल और आंशिक रूप से छिपा हुआ हो। अध्ययन सुझाव देता है कि स्व-संदर्भित प्रायर (self-referential priors) एजेंसी के पता लगाने में सहायता कर सकते हैं, लेकिन यह अभी तक वास्तविक दुनिया में मानव मूल्यों के साथ आर्टिफिशियल इंटेलिजेंस को संरेखित करने की व्यापक समस्या को हल करने का दावा नहीं करता है। यह कार्य एक द्वार खोलता है, जो दिखाता है कि एक AI दूसरों के बारे में परवाह करना सीख सकता है यदि वह पहले स्वयं को समझ ले, लेकिन एक पूरी तरह से सहयोगात्मक भविष्य की यात्रा अभी लंबी और अनपरीक्षित है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।