Responses to Unfavorable Outcomes Produced by Human and Artificial Agents: A Dual-Pathway Model of Upward Counterfactual Thinking and Intentionality Attribution
यह शोधपत्र यह प्रदर्शित करता है कि कृत्रिम एजेंटों द्वारा उत्पन्न प्रतिकूल परिणामों को मानव एजेंटों की तुलना में अधिक आसानी से स्वीकार कर लिया जाता है क्योंकि लोग एआई के प्रति कम 'अपवर्ड काउंटरफैक्चुअल थिंकिंग' (ऊर्ध्ववर्ती प्रतितथ्यात्मक सोच) और इरादा निर्धारण (इंटेंशनलिटी एट्रिब्यूशन) में संलग्न होते हैं, और यह असमानता तब अधिक स्पष्ट हो जाती है जब परिणाम में व्यक्तिगत हित बहुत अधिक शामिल होते हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपको अभी-अभी किसी परीक्षा में कम अंक मिले हैं, या शायद आपका पसंदीदा पिज्जा डिलीवरी ठंडा और देर से आया है। आपका दिमाग तुरंत एक छोटा सा जासूसी काम शुरू कर देता है। आप खुद से दो बड़े सवाल पूछते हैं: "क्या यह अलग हो सकता था अगर किसी ने बस थोड़ा और प्रयास किया होता?" और "जिस व्यक्ति ने गलती की, क्या उसने मुझे परेशान करने के लिए ऐसा जानबूझकर किया?" मनोवैज्ञानिक पहले सवाल को "अपवर्ड काउंटरफैक्चुअल थिंकिंग" (upward counterfactual thinking) कहते हैं—यह आपके दिमाग में एक "क्या होता अगर" वाली फिल्म देखने जैसा है जहाँ चीजें बेहतर होती हैं। दूसरा सवाल "इंटेंशनलिटी एट्रिब्यूशन" (intentionality attribution) के बारे में है, जो मूल रूप से यह अनुमान लगाना है कि क्या दूसरे व्यक्ति का कोई छिपा हुआ, बुरा इरादा था।
अब, कल्पना कीजिए कि आपको एक मानव बॉस बनाम एक रोबोट कंप्यूटर द्वारा किए गए बुरे परिणाम से निपटना है। लंबे समय तक, वैज्ञानिकों ने सोचा: क्या हम रोबोट से उसी तरह गुस्सा होते हैं जैसे हम लोगों से होते हैं? कुछ लोग सोचते हैं कि हम रोबrots से नफरत करते हैं जब वे विफल होते हैं (जिसे "एल्गोरिदम एवर्जन" कहा जाता है), जबकि अन्य सोचते हैं कि हम उन पर अधिक भरोसा कर सकते हैं क्योंकि वे निष्पक्ष लगते हैं। लेकिन जब बुरा काम पहले ही हो चुका हो तो क्या होता है? क्या हम परिणाम को अधिक आसानी से स्वीकार कर लेते हैं यदि किसी रोबट ने इसे किया हो, या यह हमें और अधिक क्रोधित कर देता है? यह शोध उस सटीक क्षण की गहराई में जाता है कि हमारा मस्तिष्क मांस-रक्त के मनुष्यों बनाम डिजिटल एजेंटों की गलतियों को कैसे संभालता है।
रोबोट बनाम बॉस: दोष किसका है?
शोधकर्ताओं झाओ, ली और वेन द्वारा किए गए इस अध्ययन ने एक सरल लेकिन पेचीदा सवाल का जवाब देने का प्रयास किया: जब कुछ गलत होता है, तो क्या हम इसे अधिक आसानी से स्वीकार करते हैं यदि यह एक रोबोट ने किया हो, या यदि यह एक इंसान ने किया हो? यह पता लगाने के लिए, उन्होंने वास्तविक लगने वाले काल्पनिक परिदृश्यों (scenarios) का उपयोग करके दो प्रयोग चलाए।
पहले प्रयोग में, उन्होंने 472 लोगों से कल्पना करने को कहा कि वे खाद्य वितरण राइडर (food delivery riders) हैं। अचानक, एक नया ऑर्डर आ गया जो उन्हें देर करवा देगा और बिल्कुल गलत दिशा में था। वे मना नहीं कर सकते थे। मोड़ यह था? आधे राइडर्स को बताया गया कि एक मानव प्रबंधक ने यह खराब ऑर्डर दिया है, और दूसरे आधे को बताया गया कि एक कंप्यूटर एल्गोरिदम ने यह ऑर्डर दिया है।
परिणाम स्पष्ट थे: लोग कंप्यूटर से आने वाले खराब ऑर्डर को स्वीकार करने के लिए बहुत अधिक इच्छुक थे। जब एक मानव प्रबंधक ने वह खराब ऑर्डर दिया, तो राइडर्स अधिक क्रोधित थे और उसे इतनी आसानी से नज़रअंदाज़ करने के प्रति कम इच्छुक थे। क्यों? क्योंकि उनके दिमाग ने दो विशिष्ट तरीकों से अत्यधिक काम करना शुरू कर दिया था:
- "क्या होता अगर" वाली फिल्म: जब किसी इंसान ने गलती की, तो राइडर्स ने कल्पना करना शुरू कर दिया, "ओह, मैनेजर दूसरा रास्ता चुन सकता था!" या "वे पहले मेरे अन्य ऑर्डर्स की जांच कर सकते थे!" यह अपवर्ड काउंटरफैक्चुअल थिंकिंग है। यह एक खुले हुए दरवाजे को देखने जैसा है और सोचने जैसा है, "अगर केवल उन्होंने इसे बंद कर दिया होता, तो मैं भीगा हुआ नहीं होता!" आप जितना बेहतर विकल्प की कल्पना कर सकते हैं, वर्तमान स्थिति को स्वीकार करना उतना ही कठिन होता जाता है।
- "बुरे इरादे" वाला जासूस: जब एक इंसान ने वह खराब ऑर्डर दिया, तो राइडर्स सोचने लगे, "क्या उन्होंने यह जानबूझकर किया? क्या उन्होंने मुझे अनदेखा किया?" यह इंटेंशनलिटी एट्रिब्यूशन है। हम मानते हैं कि मनुष्यों की भावनाएं और विकल्प होते हैं, इसलिए यदि वे गलती करते हैं, तो हम सोचते हैं कि क्या उन्होंने यह जानबूझकर बुरा बनने के लिए किया। कंप्यूटर, दूसरी ओर, केवल नियमों का पालन करने वाले माने जाते हैं। यह सोचना कठिन है कि एक रोबोट जानबूझकर "बुरा" हो रहा है; यह बस एक तकनीकी खराबी या गणना है।
अध्ययन ने पाया कि क्योंकि मनुष्य इन दो मानसिक प्रक्रियाओं ( "क्या होता अगर" वाली फिल्म और "बुरे इरादे" के संदेह) को सक्रिय करते हैं, इसलिए हम उनके बुरे निर्णयों को कम स्वीकार करते हैं। रोबोट, जिन्हें बिना भावनाओं वाले नियम का पालन करने वाली मशीनों के रूप में देखा जाता है, इन विचारों को उतनी मजबूती से ट्रिगर नहीं करते हैं, इसलिए हम उनके बुरे निर्णयों को अधिक आसानी से स्वीकार कर लेते हैं।
"व्यक्तिगत दांव" का मोड़
लेकिन क्या ऐसा हमेशा होता है? शोधकर्ताओं ने सोचा कि क्या इससे फर्क पड़ता है कि बुरा परिणाम व्यक्तिगत रूप से आपको कितना नुकसान पहुँचाता है। यहीं दूसरा प्रयोग आता है। उन्होंने 360 लोगों से कल्पना करने को कहा कि उन्हें काम पर एक विशेष प्रशिक्षण कार्यक्रम में जगह नहीं मिली।
इस बार, उन्होंने नियम बदल दिए। कुछ लोगों के लिए, यह प्रशिक्षण कम दांव (low stakes) वाला था—यह सिर्फ एक मजेदार क्लास थी जिससे उनके करियर में कोई बदलाव नहीं आना था। दूसरों के लिए, यह उच्च दाaways (high stakes) वाला था—यह प्रशिक्षण मिलना एक प्रमोशन, वेतन वृद्धि, या शानदार प्रोजेक्ट्स पर काम करने के अवसर का मतलब था। इसमें असफल होना उनके भविष्य के लिए एक बड़ा झटका होता।
कहानी यहाँ दिलचस्प हो जाती है। जब दांव कम थे (सिर्फ एक मजेदार क्लास), तो इससे कोई फर्क नहीं पड़ता था कि मानव या रोबोट ने "ना" कहा। लोगों ने उत्तर को लगभग एक ही तरह से स्वीकार किया। उन्हें अपनी "क्या होता अगर" वाली फिल्मों या जासूसी करने की इतनी परवाह नहीं थी।
हालाँकि, जब दांव उच्च थे (करियर को प्रभावित करने वाले), तो मानव और रोबोट के बीच का अंतर बढ़ गया।
- उच्च दांव + मानव: लोग पूरी तरह सक्रिय हो गए। उन्होंने सोचा, "मेरा बॉस अपवाद बना सकता था!" और "क्या मेरे बॉस ने जानबूझकर मेरे करियर को नुकसान पहुँचाया?" गुस्सा और प्रतिरोध बहुत अधिक था।
- उच्च दांव + रोबोट: लोग अभी भी इसे बुरा मान रहे थे, लेकिन वे इसे स्वीकार करने के लिए बहुत अधिक इच्छुक थे। उन्होंने सोचा, "खैर, कंप्यूटर ने बस नियमों का पालन किया," और उन्होंने वैकल्पिक रास्तों की कल्पना करने या दुर्भावनापूर्ण इरादे का अनुमान लगाने में ज्यादा ऊर्जा खर्च नहीं की।
इसका क्या अर्थ है
तो, निष्कर्ष क्या है? यह शोध पत्र सुझाव देता है कि जब चीजें गलत होती हैं, तो हमारा मस्तिष्क रोबोट और मनुष्यों के साथ अलग तरह से व्यवहार करता है, लेकिन केवल तभी जब यह वास्तव में हमारे लिए मायने रखता है।
यदि कोई रोबोट आपके जीवन में गड़बड़ी करता है, तो आप बुरा महसूस कर सकते हैं, लेकिन आप इसे "बुरे व्यवहार" के लिए दोषी ठहराने या यह सोचने के लिए जुनूनी होने की कम संभावना रखते है कि यह चीजों को अलग तरीके से कैसे कर सकता था। आप इसे एक सिस्टम एरर के रूप में देखते हैं। लेकिन यदि कोई इंसान वही गलती करता है, विशेष रूप से जब आपकी नौकरी या भविष्य दांव पर हो, तो आपका दिमाग सक्रिय हो जाता है। आप उन सभी तरीकों की कल्पना करने लगते हैं जिनसे वे आपकी मदद कर सकते थे, और आप सोचने लगते हैं कि क्या उन्होंने यह जानबूझकर किया।
शोधकर्ताओं ने पाया कि यह "व्यक्तिगत दांव" (personal stake) एक वॉल्यूम नॉब की तरह काम करता है। जब दांव कम होते हैं, तो हमारे गुस्से और संदेह का वॉल्यूम कम होता है, और मानव तथा रोबोट के बीच का अंतर शांत रहता है। लेकिन जब दांव ऊंचे होते हैं, तो वॉल्यूम बढ़ जाता है, और हम अंतर को स्पष्ट रूप से सुनते हैं: हम मनुष्यों को मशीनों की तुलना में बहुत अधिक इरादे और लचीलेपन के मानक पर रखते हैं।
संक्षेप में, हम रोबोटों के प्रति अधिक उदार इसलिए नहीं हैं क्योंकि वे बेहतर हैं, बल्कि इसलिए हैं क्योंकि हमारा मस्तिष्क उनके पास विकल्प या मकसद होने की कल्पना करने में कठिनाई महसूस करता है। जब परिणाम वास्तव में दुखद होता है, तो हम सत्ता में बैठे मनुष्यों से अधिक की मांग करते हैं, और रोबोट के नियमों को थोड़ा अधिक आसानी से स्वीकार कर लेते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।