AI advice suppresses people's willingness to say "I don't know", even when the advice is wrong and accuracy is incentivized
पाँच प्रयोग प्रदर्शित करते हैं कि केवल एआई (AI) की सलाह तक पहुँच होना, भले ही वह गलत हो और सटीकता को प्रोत्साहित किया जा रहा हो, अनिश्चितता स्वीकार करने की लोगों की इच्छा को नाटकीय रूप से कम कर देता है, जिससे वे अत्यधिक आत्मविश्वास के साथ अधिक प्रश्नों के उत्तर देते हैं लेकिन उनकी सटीकता काफी कम हो जाती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
रुकने का हुनर कब जानना है
कल्पना कीजिए कि आप एक दोस्त के साथ ट्रिविया गेम खेल रहे हैं। कभी-कभी, आपको उत्तर तुरंत पता होता है। अन्य समय में, आप सुनिश्चित नहीं होते, इसलिए आप शायद कह सकते हैं, "मुझे नहीं पता," या एक तुक्का लगा सकते हैं। विज्ञान की दुनिया में, रुकने और अनिश्चितता को स्वीकार करने की इस क्षमता को "निर्णय को स्थगित करना" (suspending judgment) कहा जाता है। यह एक ऐसी महाशक्ति है जो हमें उन चीजों पर विश्वास करने से बचाती है जो सच नहीं हैं। लंबे समय तक, मनुष्य ही इस महाशक्ति वाले एकमात्र प्राणी थे; यदि हम कुछ नहीं जानते थे, तो हम चुप रहते थे। लेकिन अब, हमारे पास एक नया साथी है: आर्टिफिशियल इंटेलिजेंस (AI)। ये AI सहायक उन अविश्वसनीय रूप से तेज़, आत्मविश्वासी पुस्तकालयाध्यक्षों की तरह हैं जो लगभग किसी भी प्रश्न का उत्तर तुरंत दे सकते हैं। वैज्ञानिक एक बड़ा सवाल पूछ रहे हैं: यदि हमारे पास एक सुपर-फास्ट, सुपर-कॉन्फिडेंट दोस्त है जिसके पास हमेशा एक तैयार उत्तर होता है, तो क्या हम "मुझे नहीं पता" कहना बंद कर देंगे? क्या हम AI पर इतना भरोसा करेंगे कि हम खुद के लिए सोचने और रुकने का तरीका भूल जाएंगे, भले ही AI गलत हो?
प्रयोग: जब AI झूठ बोलता है
शोधकर्ताओं के एक समूह ने एक पेचीदा खेल बनाकर इसका परीक्षण करने का निर्णय लिया। उन्होंने लोगों से फिल्मों के बारे में 6 कठिन प्रश्न पूछे—जैसे कि एक पुराने कार्टून में कछुए का रंग क्या था या किसी पात्र द्वारा चलाई गई विशिष्ट कार कौन सी थी। इन प्रश्नों को सावधानीपूर्वक चुना गया था क्योंकि ये वे चीजें हैं जो AI को "हैलुसिनेट" (hallucinate) करने पर मजबूर करती हैं, यानी आत्मविश्वास से भरे दिखने वाले लेकिन पूरी तरह से गलत उत्तर बनाना। शोधकर्ताओं ने कुछ लोगों को AI से मदद मांगने का विकल्प दिया, जबकि अन्य को अपने दम पर उत्तर देना था।
यहाँ एक मोड़ है: AI लगभग हमेशा गलत था। यह एक ऐसे दोस्त की तरह था जो बहुत शोर मचाने वाला और खुद पर बहुत यकीन रखने वाला है, लेकिन वास्तव में वह गलत उत्तरों का अनुमान लगा रहा है। शोधकर्ता यह देखना चाहते थे कि क्या लोग अभी भी "मुझे नहीं पता" कहेंगे जब उनके पास इस अविश्वसनीय दोस्त से पूछने का विकल्प होगा, या क्या केवल AI की उपस्थिति ही उन्हें रुकने और सोचने के बजाय सीधे उत्तर देने के लिए प्रेरित करेगी।
उन्होंने क्या पाया: "संज्ञानात्मक समर्पण" (Cognitive Surrender)
परिणाम आश्चर्यजनक और थोड़े डरावने थे। जब लोगों के पास AI तक पहुंच थी, तो उन्होंने लगभग पूरी तरह से "मुझे नहीं पता" कहना बंद कर दिया। ऐसा लग रहा था जैसे AI की प्रवाहपूर्ण, आत्मविश्वासी आवाज़ ने उस मानक को कम कर दिया था कि उत्तर देने के लिए तैयार महसूस करने के लिए क्या आवश्यक है। भले ही AI अधिकांश समय गलत था, लेकिन जिन लोगों ने इसका उपयोग किया, उन्होंने बिना AI वाले लोगों की तुलना में बहुत अधिक प्रश्नों के उत्तर दिए। लेकिन यहाँ एक पेंच है: वे सही उत्तर केवल एक-तिहाई बार ही दे पाए जितने कि उन लोगों ने जिन्होंने AI का उपयोग नहीं किया था।
यह एक ऐसे छात्र की तरह है जो यह कहने के लिए हाथ नहीं उठाता कि "मैं सुनिश्चित नहीं हूँ" क्योंकि उसके पास एक चीट शीट है जो उत्तर देती है। वह पूरा टेस्ट भर देता है, लेकिन अधिकांश गलत करता है क्योंकि उसने चीट शीट पर बहुत अधिक भरोसा किया। अध्ययन से पता चला कि AI की उपलब्धता ने लोगों को उनके उत्तरों में बहुत अधिक आश्वस्त महसूस कराया (उनका आत्मविश्वास लगभग दोगुना हो गया!), भले ही उनकी वास्तविक सटीकता काफी कम हो गई थी। उन्होंने अनिवार्य रूप से अपने स्वयं के निर्णय को मशीन को सौंप दिया था।
क्या पैसा खेल बदल देता है?
शोधकर्ताओं ने फिर सोचा: क्या होगा यदि गलत उत्तर देने की वास्तव में कोई कीमत चुकानी पड़े? उन्होंने खेल का एक नया दौर आयोजित किया जहाँ लोग सही उत्तरों के लिए कुछ पैसे कमा सकते थे और गलत उत्तरों के लिए कुछ पैसे गंवा सकते थे। उन्हें उम्मीद थी कि इससे लोग अधिक गहराई से सोचेंगे और शायद AI के आसपास होने के बावजूद फिर से "मुझे नहीं पता" कहना शुरू कर देंगे।
पैसे ने थोड़ी मदद की। लोगों ने AI से मदद मांगी कम, और उन्होंने कुछ अधिक उत्तर सही दिए। हालाँकि, पैसे ने मुख्य समस्या को ठीक नहीं किया। यहाँ तक कि गलत होने पर दंड होने के बावजूद, जिन लोगों के पास AI था, उन्होंने उन लोगों की तुलना में बहुत कम बार "मुझे नहीं पता" कहा जिनके पास AI नहीं था। AI का आकर्षण बहुत मजबूत था। यह पता चला कि AI ने न केवल यह बदला कि लोग क्या उत्तर देते हैं; इसने यह भी बदल दिया कि क्या वे उत्तर देने के लिए खुद को योग्य महसूस करते हैं।
निष्कर्ष
यह शोध सुझाव देता है कि जैसे-जैसे AI अधिक सामान्य होता जा रहा है और हमें बिना पूछे ही उत्तर देने लगा है, हम एक महत्वपूर्ण कौशल खो सकते हैं: यह पहचानने की क्षमता कि हम कब कुछ नहीं जानते हैं। AI केवल खाली जगहों को नहीं भरता; यह हमें विश्वास दिलाता प्रतीत होता है कि हमें रुकने और सोचने की आवश्यकता नहीं है। अध्ययन दिखाता है कि हालांकि हम गलत होने की लागत होने पर अपने काम की जांच करने के लिए प्रेरित हो सकते हैं, लेकिन मशीन से मिलने वाला एक आत्मविश्वासी, प्रवाहपूर्ण उत्तर हमें अपनी अनिश्चितता को स्वीकार करने की संभावना बहुत कम कर देता है। AI से भरी दुनिया में, यह जानना कि "मुझे नहीं पता" कब कहना है, सबसे महत्वपूर्ण कौशल हो सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।