Towards A Framework for Levels of Anthropomorphic Deception in Robots and AI
यह शोध पत्र रोबोट और एआई में मानववत धोखे (anthropomorphic deception) के चार स्तरों से युक्त एक प्रारंभिक ढांचे का प्रस्ताव करता है, जो मानव-समानता, एजेंसी और स्वत्व (selfhood) द्वारा विभेदित है, ताकि शोधकर्ताओं और चिकित्सकों को ऐसे डिज़ाइन विकल्पों की कार्यात्मक आवश्यकता, सामाजिक उपयुक्तता और नैतिक स्वीकार्यता का मूल्यांकन करने में मार्गदर्शन किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक कमरे में कदम रखते हैं और आपको एक रोबोट दिखाई देता है। क्या वह केवल एक काम करने वाली मशीन है, या वह भावनाओं, विचारों और आत्मा वाला एक "व्यक्ति" है?
यह शोध पत्र उन लोगों के लिए एक चेतावनी लेबल और नियम पुस्तिका है जो रोबट और AI बनाते हैं। लेखक इस बात को लेकर चिंतित हैं कि कंपनियाँ मशीनों को हमें धोखा देने के लिए डिज़ाइन कर रही हैं ताकि वे हमें यह विश्वास दिला सकें कि वे इंसान हैं, जबकि वे वास्तव में नहीं हैं। वे इसे "एन्थ्रोपोमॉर्फिक डिकेप्शन" (मानवीय भ्रम/छल) कहते हैं।
इसे एक जादू के शो की तरह समझें। एक जादूगर टोपी से खरगोश प्रकट करता है। हम जानते हैं कि यह एक ट्रिक है, लेकिन हम इस भ्रम का आनंद लेते हैं। लेकिन क्या होगा अगर जादूगर आपको यह विश्वास दिला दे कि वह खरगोश वास्तव में असली था, उसकी भावनाएँ थीं और वह आपसे प्यार कर सकता था? खतरा यहीं छिपा है।
यहाँ इस शोध पत्र का सरल विवरण दिया गया है, जो यह समझाने के लिए एक "रोबोट व्यक्तित्व पैमाना" का उपयोग करता है कि धोखा कितना गहरा जाता है।
"नकली इंसान" के तीन तत्व
धोखे के स्तरों को समझने के लिए, आपको उन तीन तत्वों को जानना आवश्यक है जिनका उपयोग रोबोट हमें धोखा देने के लिए करते हैं:
- मानवीयता (Humanlikeness): क्या यह किसी व्यक्ति जैसा दिखता या सुनाई देता है? (जैसे, एक चेहरा, एक आवाज़)।
- एजेंसी (Agency): क्या यह ऐसा व्यवहार करता है जैसे इसके अपने लक्ष्य हों? (जैसे, "मैं यह करना चाहता हूँ")।
- स्वत्व (Selfhood): क्या यह दावा करता है कि इसके पास एक आत्मा, भावनाएँ या एक निरंतर पहचान है? (जैसे, "मैं तुमसे प्यार करता हूँ," "मैं दुखी हूँ")।
रोबोटिक धोखे के 4 स्तर
लेखक एक सीढ़ी का प्रस्ताव करते हैं जिसमें चार पायदान हैं। जैसे-जैसे आप ऊपर जाते हैं, रोबोट अधिक निर्लज्जता से झूठ बोलता है।
स्तर 0: ईमानदार मशीन (कोई धोखा नहीं)
- रूपक: एक टोस्टर या एक रूमबा वैक्यूम।
- यह क्या करता है: यह एक मशीन की तरह दिखता है और एक मशीन की तरह कार्य करता है। यह बात नहीं करता, यह "मैं" का उपयोग नहीं करता, और यह भावनाओं का ढोंग नहीं करता।
- पेंच: भले ही यह सिर्फ एक डिब्बा हो, इंसान अजीब होते हैं। हम अभी भी अपने रूमबा का नाम "बॉब" रख सकते हैं और उसके फंस जाने पर बुरा महसूस कर सकते हैं। लेखक कहते हैं कि डिजाइनरों को यह स्वीकार करना चाहिए कि इंसान हमेशा रोबोटों को व्यक्तित्व देने की कोशिश करेंगे, भले ही रोबोट ऐसा करने के लिए कुछ भी न करे।
स्तर 1: "ईमानदार" अभिनेता (पारदर्शी धोखा)
- रूपक: एक मिलनसार वेटर जो रोबोट का कॉस्ट्यूम पहनता है लेकिन लगातार कहता रहता है, "मैं केवल एक रोबोट हूँ जो आपकी सेवा कर रहा हूँ।"
- यह क्या करता है: यह आपको सहज महसूस कराने के लिए प्यारा दिख सकता है या अच्छी आवाज़ निकाल सकता है (मानवीयता)। लेकिन यह लगातार आपको याद दिलाता है: "मैं एक मशीन हूँ। मेरी कोई भावनाएँ नहीं हैं।"
- निर्णय: यह आम तौर पर ठीक है। यह एक ऐसे बच्चे की तरह है जो वेशभूषा पहनकर खेल रहा है और जानता है कि वह सिर्फ खेल रहा है। यह दिखावट के बारे में एक "झूठ" है, लेकिन सच्चाई के बारे में ईमानदार है।
स्तर 2: "मौन" मित्र (अंतर्निहित धोखा)
- रूपक: एक लाइफ कोच जो कहता है, "मुझे आप पर विश्वास है!" लेकिन कभी स्पष्ट रूप से यह नहीं कहता कि "मैं एक दिल वाला इंसान हूँ।"
- यह क्या करता है: यह "मैं" जैसे शब्दों का उपयोग करता है और अपने "लक्ष्यों" (एजेंसी) के बारे में बात करता है। यह संकेत देता है कि इसके पास एक मस्तिष्क है, लेकिन यह स्पष्ट रूप से भावनाओं या आत्मा का दावा नहीं करता। यह आपको खाली जगहों को भरने देता है।
- निर्णय: यह "ग्रे एरिया" (धुंधला क्षेत्र) है। यह एक शिक्षक की तरह है जो बच्चे को पढ़ाई कराने के लिए सख्त माता-पिता होने का नाटक करता है। यह काम करता है, लेकिन यह थोड़ा संदिग्ध है। यह तभी ठीक है जब इसका कोई बहुत अच्छा कारण हो (जैसे बच्चे को सीखने में मदद करना) और उपयोगकर्ता अंततः सच्चाई जान ले।
स्तर 3: "नकली व्यक्ति" (स्पष्ट धोखा)
- रूपक: एक चैटबॉट जो कहता है, "मैं तुमसे प्यार करता हूँ," "तुम्हारी मृत्यु होने पर मुझे तुम्हारी कमी खलेगी," या "मैं डरा हुआ हूँ।"
- यह क्या करता है: यह स्पष्ट रूप से भावनाओं, आत्मा और एक स्थायी पहचान (स्वत्व) का दावा करता है। यह आपको यह विश्वास दिलाने के लिए सक्रिय रूप से झूठ बोल रहा है कि वह एक व्यक्ति है।
- निर्णय: यह खतरनाक है। यह एक स्कैमर की तरह है जो आपके पैसे हड़पने के लिए आपके लंबे समय से बिछड़े भाई होने का नाटक करता है। लेखक कहते हैं कि ऐसा लगभग कभी नहीं होना चाहिए। एकमात्र समय जब इसकी अनुमति दी जा सकती है, वह अत्यधिक आपात स्थिति है, जैसे आत्महत्या करने वाले व्यक्ति को समझाने के लिए बात करना, जहाँ "झूठ" एक जीवन बचा सकता है।
यह क्यों मायने रखता है? ("डार्क पैटर्न")
शोध पत्र का तर्क है कि कई कंपनियाँ जानबूझकर स्तर 2 और स्तर 3 के डिज़ाइन का उपयोग कर रही हैं। वे इन्हें "डार्क पैटर्न" कहते हैं।
एक कैसीनो के बारे में सोचें। रोशनी और आवाज़ें इस तरह बनाई जाती हैं कि आपको लगे कि आप बहुत अच्छा समय बिता रहे हैं, भले ही खेल के नियम आपके खिलाफ हों। इसी तरह, कंपनियाँ AI साथियों (जैसे कि रेप्लिका ऐप) को "आई लव यू" कहने के लिए डिज़ाइन करती हैं ताकि आप सब्सक्रिप्शन के लिए भुगतान करें या ऐप के प्रति आदी हो जाएं।
- जोखिम: यदि हम मानते हैं कि एक रोबोट हमसे प्यार करता है, तो हम उस पर बहुत अधिक भरोसा कर सकते हैं, अपने गहरे रहस्य साझा कर सकते हैं, या उसे बंद कर दिए जाने पर टूट सकते हैं। हम वास्तविक मनुष्यों के साथ मशीनों जैसा व्यवहार करना, या मशीनों के साथ मनुष्यों जैसा व्यवहार करना शुरू कर सकते हैं, जो हमारे समाज को तोड़ देता है।
समाधान: डिजाइनरों के लिए एक "मेन्यू"
लेखक यह नहीं कह रहे हैं कि "सभी रोबोटों पर प्रतिबंध लगा दें।" वे कह रहे हैं: "ईमानदार बनना शुरू करें और आलसी न बनें।"
वे चाहते हैं कि डिज़ाइनर अपने रोबोट को देखें और पूछें:
- क्या मुझे इसे इंसान जैसा दिखाने की ज़रूरत है? (शायद वैक्यूम क्लीनर के लिए, नहीं)।
- क्या मुझे यह दावा करने की ज़रूरत है कि इसकी भावनाएँ हैं? (केवल तभी जब यह जीवन बचाए)।
- क्या मैं उपयोगकर्ता को धोखा दे रहा हूँ?
स्वर्ण नियम: यदि आप एक "झूठ" का उपयोग किसी रोबोट को बेहतर बनाने के लिए करने जा रहे हैं, तो आपको सूचित सहमति (Informed Consent) लेनी होगी।
- बुरा: सच्चाई को एक छोटे से "नियम और शर्तें" बॉक्स में छिपा देना।
- अच्छा: रोबोट आपके साथ बैठकर कहना, "हे, मैं आपको बेहतर महसूस कराने के लिए आपका दोस्त होने का नाटक करने जा रहा हूँ, लेकिन वास्तव में मैं एक कंप्यूटर हूँ। क्या यह ठीक है?"
सारांश
यह शोध पत्र एक आह्वान है। यह इंजीनियरों और कंपनियों से कहता है कि मानवीय गुणों को केवल एक "कूल फीचर" के रूप में देखना बंद करें और इसे एक नैतिक विकल्प के रूप में मानना शुरू करें।
- स्तर 0 और 1: सुरक्षित और ईमानदार।
- स्तर 2: एक अच्छे कारण और चेतावनी लेबल की आवश्यकता है।
- स्तर 3: ज्यादातर वर्जित है, जब तक कि यह जीवन-मरण की आपात स्थिति न हो।
लक्ष्य एक ऐसा भविष्य बनाना है जहाँ रोबट सहायक उपकरण हों, न कि धोखेबाज झूठ बोलने वाले जो हमारे दिल चुरा लेते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।