Anti-Goal Reasoning: Rethinking the Theory of Goal Reasoning in Non-Axiomatic Logic
यह शोध पत्र एक विशिष्ट "एंटी-गोल" (anti-goal) ढांचे और एक "प्रिवेंट" (prevent) मानसिक क्रिया को पेश करके नॉन-एक्सिओमैटिक लॉजिक के भीतर बचाव (avoidance) के प्रतिनिधित्व में निहित अस्पष्टता को संबोधित करता है, जिससे उन विरोधाभासों को हल किया जा सके जहाँ किसी घटना से बचने को उसके निषेध (negation) को प्राप्त करने के साथ मिला दिया जाता है, और प्रणालियों को लक्ष्य प्राप्ति, निष्क्रिय बचाव, सक्रिय रोकथाम और निष्क्रियता के बीच स्पष्ट रूप से अंतर करने में सक्षम बनाया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक ऐसा रोबोट बना रहे हैं जिसे एक ऐसी दुनिया में जीवित रहने का तरीका खोजना है जिसे वह पूरी तरह से नहीं समझता। यह ब्रह्मांड का सटीक मानचित्र रखने वाला कोई सुपरकंप्यूटर नहीं है; यह एक जिज्ञासु बच्चे की तरह है जो सीमित ऊर्जा और आधे नियमों के साथ एक नए खेल के मैदान की खोज कर रहा है। यह नॉन-एक्सिओमैटिक लॉजिक (Non-Axiomatic Logic - NAL) की दुनिया है। इस क्षेत्र में, वैज्ञानिक कंप्यूटरों को "अनुकूलनशील" (adaptive) होना सिखाने की कोशिश करते हैं—जिसका अर्थ है कि वे सीख सकें, अपना मन बदल सकें और निर्णय ले सकें, भले ही उनके पास सभी तथ्य न हों या सोचने के लिए पर्याप्त समय न हो।
यहाँ मुख्य विचार गोल रीजनिंग (Goal Reasoning) है। एक लक्ष्य (goal) को एक "इच्छा" के रूप में सोचें। यदि एक रोबोट कुकी चाहता है, तो वह उसे पाने का तरीका ढूँढता है। यदि वह देखता है कि "रसोई तक जाना" आमतौर पर "कुकी पाने" की ओर ले जाता है, तो वह जाने का निर्णय लेता है। लेकिन क्या होता है जब रोबोट किसी चीज़ से बचना चाहता है? क्या होगा यदि वह झटके (shock) से बचना चाहता है? लंबे समय तक, कंप्यूटर वैज्ञानिकों के पास इस "बचने" (avoidance) को संभालने का एक पेचीदा तरीका था जिसने अनजाने में एक तार्किक जाल बना दिया। उन्होंने "झटके से बचने" को ठीक उसी तरह माना जैसे "सुरक्षित रहने की इच्छा" हो। यह एक रोबोट को यह बताने जैसा है कि, "आग को मत छुओ," लेकिन रोबोट इसे सुनता है, "जाओ और ऐसी जगह ढूँढो जहाँ आग न हो," और फिर वह यह निर्णय लेता है कि आग-मुक्त क्षेत्र खोजने का सबसे अच्छा तरीका एक बटन दबाना है क्योंकि, सामान्य तौर पर, बटन दबाने से "कोई चोट नहीं पहुँचना" (not getting burned) होता है। भ्रमित करने वाला है, है ना? यह शोध पत्र इस भ्रम की गहराई में जाता है ताकि हम रोबोट के मस्तिष्क को ठीक कर सकें ताकि वह खतरे से भागने और सुरक्षा की ओर दौड़ने के बीच का अंतर समझ सके।
महान "ऐसा न करें" का मिश्रण (The Great "Don't Do It" Mix-Up)
बोवन जू (Bowen Xu) द्वारा लिखित यह शोध पत्र इस बात की ओर इशारा करते हुए शुरू होता है कि हम कंप्यूटर को सावधान रहने के निर्देश देने में कितनी मूर्खतापूर्ण गलती करते हैं। वर्तमान प्रणाली (जिसे NARS कहा जाता है) में, यदि आप चाहते हैं कि रोबोट किसी घटना से बचे—मान लीजिए "चोट" (Hurt)—तो आप एक कमांड लिखते हैं जो "Not Hurt!" (या ¬Hurt!) जैसा दिखता है।
समस्या यह है कि कंप्यूटर इस दोहरे नकारात्मक (double negative) से भ्रमित हो जाता है। वह सोचता है, "ठीक है, उपयोगकर्ता 'Not Hurt' चाहता है। यह एक लक्ष्य जैसा लगता है! मुझे 'Not Hurt' को घटित करने के तरीके खोजने चाहिए।" इसलिए, रोबलेट 'Not Hurt' की घटना बनाने के तरीके खोजने लगता है।
यहीं पर विरोधाभास अजीब हो जाता है। एक बटन की कल्पना करें।
- तथ्य 1: यदि लाइट जल रही है, तो बटन दबाने से आमतौर पर चोट (Hurt) लगती है।
- तथ्य 2: यदि आप बस बिना लाइट के बटन दबाते हैं, तो आमतौर पर कोई चोट नहीं (No Hurt) होती है।
- लक्ष्य: रोबोट को चोट से बचने (Avoid Hurt) के लिए कहा गया है।
क्योंकि रोबोट "चोट से बचने" को "No Hurt होने की इच्छा" के रूपв रूप में मानता है, वह तथ्य 2 को देखता है और सोचता है, "हे! बटन दबाने से आमतौर पर 'No Hurt' होता है! मुझे बटन दबाना चाहिए!"
लेकिन रुकिए! यदि लाइट जल रही है, तो तथ्य 1 कहता है कि बटन दबाने से चोट (Hurt) लगेगी। रोबोट अब एक लूप में फँस जाता है: वह चोट से बचना चाहता है, इसलिए वह "No Hurt" को बनाने की कोशिश करता है, लेकिन उस विशिष्ट स्थिति में जहाँ खतरा है, उसका अपना तर्क ही उसे बटन दबाने के लिए कहता है, जिससे वही चोट पहुँचती है जिससे वह बचने की कोशिश कर रहा था। यह एक ऐसे व्यक्ति की तरह है जो खुद को सूखा रखने के लिए बटन दबाने की कोशिश करता है क्योंकि उसे लगता है कि बटन दबाने से वह सूखा रहता है, भले ही वह वर्तमान में एक ऐसे स्प्रिंकलर के नीचे खड़ा हो जो बटन दबाने पर चालू हो जाता है।
समाधान: "एंटी-गोल्स" (Anti-Goals) और "प्रिवेंट" (Prevent) बटन
लेखक का तर्क है कि गलती "X से बचने" को "Not X चाहने" के समान मानने से आती है। इसे ठीक करने के लिए, शोध पत्र एक नई अवधारणा प्रस्तावित करता है जिसे एंटी-गोल (Anti-Goal) कहा जाता है।
इसे इस प्रकार समझें:
- एक गोल (Goal) एक चुंबक की तरह है जो आपको उस चीज़ की ओर खींचता है जिसे आप चाहते हैं (जैसे कुकी)।
- एक एंटी-गोल (Anti-Goal) एक चुंबक की तरह है जो आपको उस चीज़ से दूर धकेलता है जिसे आप नापसंद करते हैं (जैसे मकड़ी)।
पुराने सिस्टम में, रोबोट के पास केवल खींचने वाले चुंबक थे। यदि आप उसे मकड़ी से बचने के लिए कहते, तो वह बस "नो स्पाइडर" की ओर खिंचने की कोशिश करता, जिससे चीजें उलझ जाती थीं। नया सिस्टम रोबोट को एक "धक्का देने वाला" (push) बटन देता है। जब रोबोट एक मकड़ी देखता है (एंटी-गोल), तो वह "नो स्पाइडर" खोजने की कोशिश नहीं करता; वह सक्रिय रूप से खुद को मकड़ी से दूर धकेलता है।
शोध पत्र एक विशेष मानसिक ऑपरेशन भी पेश करता है जिसे ⇑prevent (इसे "रुको-यह-होना-चाहिए!" स्विच के रूप में सोचें) कहा जाता है। यह रोबोट को यह समझने में मदद करता है कि कभी-कभी, किसी चीज़ से बचने के लिए, आपको कुछ विशिष्ट करना पड़ता है।
उदाहरण के लिए, यदि रोबोट सीखता है कि "लाइट जलने पर बटन दबाना" आग लगने से रोकता है, तो वह ⇑prevent स्विच का उपयोग कर सकता है। वह महसूस करता है: "मैं आग से बचना चाहता हूँ। बटन दबाना आग को रोकता है। इसलिए, मुझे बटन दबाना चाहिए!" यह केवल एक ऐसी दुनिया को खोजने से अलग है जहाँ आग मौजूद नहीं है। यह एक सक्रिय रणनीति है।
नए मस्तिष्क का परीक्षण
यह सिद्ध करने के लिए कि यह काम करता है, लेखक ने एक छोटे, सरल रोबोट के साथ सिमुलेशन चलाए। उन्होंने चार अलग-अलग परिदृश्यों का परीक्षण किया यह देखने के लिए कि क्या रोबोट यह समझ सकता है कि कब कार्य करना है और कब स्थिर रहना है:
- करने के लिए (Do to Realize): रोबोट भोजन चाहता है। वह सीखता है कि बटन दबाने से भोजन आता है। परिणाम? वह बटन दबाता है। (सफलता!)
- बचने के लिए न करने के लिए (Not Do to Avoid): रोबोट दर्द से बचना चाहता है। वह सीखता है कि बटन दबाने से दर्द होता है। परिणाम? वह बटन नहीं दबाता है। (सफलता!)
- बचने के लिए करने के लिए (Do to Avoid): रोबोट दर्द से बचना चाहता है। वह सीखता है कि बटन न दबाने से दर्द होता है, लेकिन दबाने से दर्द रुक जाता है। परिणाम? वह समझ जाता है कि उसे दर्द को रोकने (prevent) के लिए बटन दबाने की आवश्यकता है। (सफलता!)
- प्राप्त करने के लिए न करने के लिए (Not Do to Realize): रोबोट भोजन चाहता है। वह सीखता है कि बटन दबाने से भोजन आना बंद हो जाता है। परिणाम? वह बटन नहीं दबाता है, क्योंकि ऐसा करने से उसके भोजन पाने का अवसर खत्म हो जाएगा। (सफलता!)
सिमुलेशनों ने दिखाया कि "एंटी-गोल" और "प्रिवेंट" नियमों के साथ, रोबोट ने विरोधाभासी गलतियाँ करना बंद कर दिया। इसने सीखा कि कब बटन दबाना मददगार है और कब पीछे हटना फायदेमंद है, भले ही तर्क जटिल हो।
यह क्यों महत्वपूर्ण है
यह शोध पत्र यह दावा नहीं करता कि इसने एक आदर्श रोबोट बना लिया है या कृत्रिम बुद्धिमत्ता (AI) की समस्याओं को हल कर दिया है। यह इंजन में एक विशिष्ट, भ्रमित करने वाले गियर को ठीक करने वाले मैकेनिक की तरह है। लेखक का सुझाव है कि "कुछ चाहने" और "किसी चीज़ से बचने" को स्पष्ट रूप से अलग करके, हम स्मार्ट अनुकूलन योग्य सिस्टम बना सकते हैं जो अपने ही तर्क में नहीं उलझते।
शोध पत्र यह भी नोट करता है कि हम कैसे सीखते हैं: मनुष्य इनाम के लिए चीजें करने और सजा से बचने के लिए चीजें रोकने को सीखना आसान पाते हैं, लेकिन सजा से बचने के लिए चीजें करने या इनाम पाने के लिए चीजें रोकने को सीखना कठिन पाते हैं। कंप्यूटर का नया तर्क इस कठिनाई को दर्शाता है, जो बताता है कि "सक्रिय रोकथाम" (Active Prevention) वाला हिस्सा (अध्ययन के मामले 3 और 4) स्वाभाविक रूप से कठिन है क्योंकि इसके लिए अधिक जटिल सोच की आवश्यकता होती है।
संक्षेप में, यह शोध पत्र रोबोटों को "ना" कहने के लिए एक बेहतर शब्दावली देता है। केवल "मैं 'Not X' चाहता हूँ" कहने के बजाय, अब वे कह सकते हैं "मैं सक्रिय रूप से X से बच रहा हूँ," और यह छोटा सा बदलाव उन्हें केवल इसलिए बटन दबाने से रोकता है क्योंकि बटन दबाने से आमतौर पर सुरक्षा मिलती है, भले ही वह बटन वर्तमान में खतरनाक हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।