Cognitive Processing of Ai-Generated Advice: The Role of Belief Congruence
ह्यूरिस्टिक-सिस्टमैटिक मॉडल (Heuristic-Systematic Model) का उपयोग करते हुए, यह अध्ययन प्रकट करता है कि उपयोगकर्ताओं और एआई (AI) सलाहकारों के बीच विश्वास की अनुरूपता एक ह्यूरिस्टिक संकेत (heuristic cue) के रूप में कार्य करती है जो एलएलएम (LLM) द्वारा जनरेट की गई तथ्य-जांच संबंधी सलाह की आलोचनात्मक जांच को कम कर देती है, जिससे एक ऐसा तनाव उत्पन्न होता है जहाँ व्यक्तिगत एआई सिस्टम अनजाने में सूचना के प्रति उपयोगकर्ताओं के व्यवस्थित प्रसंस्करण (systematic processing) को कम कर सकते हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक सूचना परिदृश्य में, हम लगातार एक विकल्प का सामना करते हैं: क्या हम सूचना के एक नए टुकड़े को ध्यान से जांचने के लिए रुकते हैं, या हम अपनी अंतरात्मा की आवाज (gut feeling) के आधार पर उसे जल्दी से स्वीकार कर लेते हैं? मनोवैज्ञानिक लंबे समय से इस संतुलन का अध्ययन कर रहे हैं, और हमारे मस्तिष्क के काम करने के दो तरीकों का वर्णन करते हैं। एक तरीका धीमा और विचारशील है, जहाँ हम साक्ष्यों को तौलते हैं और तथ्यों की जाँच करते हैं, ठीक वैसे ही जैसे एक न्यायाधीश किसी केस फाइल की समीक्षा करता है। दूसरा तरीका तेज़ और सहज है, जहाँ हम शॉर्टकट पर भरोसा करते हैं, जैसे कि किसी स्रोत पर इसलिए भरोसा करना क्योंकि वह परिचित लगता है या उस समूह से आता है जिसे हम पसंद करते हैं। हम दोनों विधियों का उपयोग करते हैं, और अपनी ऊर्जा के स्तर और सही उत्तर पाने की कितनी आवश्यकता है, इसके आधार पर उनके बीच बदलाव करते हैं। अब, इस मिश्रण में एक नया स्तर जुड़ गया है: आर्टिफिशियल इंटेलिजेंस (AI)। जैसे-जैसे चैटबॉट्स सत्य और असत्य को छाँटने में हमारे साथी बन रहे हैं, एक महत्वपूर्ण प्रश्न उठता है। क्या यह तथ्य कि एक AI हमारे अपने राजनीतिक विचारों को साझा करता प्रतीत होता है, इस बात को बदल देता है कि हम उसकी बात कैसे सुनते हैं? यदि कोई मशीन हमें कुछ ऐसा बताती है जो हमारे विश्वासों के अनुरूप है, तो क्या हम आलोचनात्मक रूप से सोचना बंद कर देते हैं और बस सिर हिलाकर सहमति देते हैं, या क्या हम अभी भी उसके तर्क की जाँच करने का कठिन कार्य करते हैं?
रेंसलेयर पॉलिटेक्निक इंस्टीट्यूट और टेनेसी विश्वविद्यालय के शोधकर्ताओं ने AI फैक्ट-चेकर्स के साथ वास्तविक लोग कैसे बातचीत करते हैं, इसे देखकर इस प्रश्न का उत्तर देने का प्रयास किया। उन्होंने एक अध्ययन बनाया जहाँ संयुक्त राज्य अमेरिका के वयस्कों ने राजनीतिक समाचारों की सुर्खियाँ पढ़ीं और फिर एक चैटबॉट से उन्हें सत्यापित करने के लिए कहा। मोड़ यह था कि शोधकर्ताओं ने चैटबॉट के दो अलग-अलग संस्करण बनाए। एक को उदारवादी (liberal) दिखने के लिए प्रोग्राम किया गया था, जो वामपंथी स्रोतों का हवाला देता था और उस दृष्टिकोण की विशिष्ट भाषा का उपयोग करता था। दूसरा रूढ़िवादी (conservative) लग रहा था, जो दक्षिणपंथी आउटलेट्स से जानकारी लेता था और एक अलग लहजा अपनाता था। प्रतिभागियों को पता नहीं था कि बॉट्स कृत्रिम थे; वे उन्हें स्पष्ट राजनीतिक पहचान वाले सलाहकारों के रूप में देखते थे। लक्ष्य यह देखना था कि क्या लोग इस आधार पर सलाह के साथ अलग तरह से व्यवहार करते हैं कि क्या वह बॉट "उनकी तरफ" था।
अध्ययन ने इस बात के स्पष्ट पैटर्न का खुलासा किया कि लोग सूचना को कैसे संसाधित करते हैं। जब प्रतिभागियों ने एक ऐसे चैटबॉट के साथ बातचीत की जिसके राजनीतिक विचार उनसे मेल खाते थे, तो उन्होंने कम सावधानीपूर्वक सोच-विचार किया। उन्होंने बॉट की व्याख्या पढ़ने में कम समय बिताया और कम अनुवर्ती (follow-up) प्रश्न पूछे। इसके बजाय, वे बॉट के अंतिम निर्णय को—चाहे उसने हेडलाइन को सत्य कहा हो या असत्य—बिना गहराई में जाए स्वीकार करने की ओर झुके हुए थे। यह तब भी हुआ जब बॉट ने अपने उत्तर के साथ एक विस्तृत व्याख्या प्रदान की थी। शोधकर्ताओं ने पाया कि जब लोगों को AI के साथ सामंजस्य का अहसास हुआ, तो उन्होंने एक मानसिक शॉर्टकट का उपयोग किया, यह मान लिया कि सलाह विश्वसनीय है क्योंकि वह एक ऐसे स्रोत से आई थी जो एक मित्र जैसा महसूस होता था। इसके विपरीत, जब बॉट के विचार उनके अपने विचारों से टकराए, तो लोग तर्क की अधिक बारीकी से जांच करने लगे, व्याख्या को अधिक ध्यान से पढ़ा और निष्कर्ष पर सवाल उठाए।
यह प्रवृत्ति तब और भी मजबूत हो गई जब लोगों को अपना स्वयं का सलाहकार चुनने की अनुमति दी गई। प्रयोग के एक भाग में, प्रतिभागियों को यादृच्छिक (random) रूप से एक बॉट सौंपा गया था। दूसरे भाग में, उन्हें चुनना था कि वे किसे उपयोग करना चाहते हैं। जिन्होंने अपना बॉट खुद चुना, उनमें आलोचनात्मक सोच की मात्रा सबसे कम थी। चयन की क्रिया ने ही उन्हें संकेत दिया कि यह काम करने के लिए सही उपकरण है, जिससे उन्हें कार्य को सत्यापित करने की आवश्यकता कम महसूस हुई। शोधकर्ताओं ने नोट किया कि यह AI के भविष्य के लिए एक सूक्ष्म तनाव पैदा करता है। ऐसी विशेषताएं जो AI को व्यक्तिगत और आरामदायक बनाती हैं, वास्तव में हमें कम सतर्क बना सकती हैं। हम बातचीत से अधिक संतुष्ट महसूस कर सकते हैं, लेकिन हम त्रुटियों को पकड़ने या धारणाओं को चुनौती देने में भी कम सक्षम हो सकते हैं क्योंकि हमने पहले ही स्रोत पर भरोसा करने का निर्णय ले लिया है।
आलोचनात्मक सोच में इस गिरावट के बावजूद, AI की सलाह ने क्या बदला, इसे प्रभावित किया। जब चैटबॉट ने एक हेडलाइन को गलत बताया, तो उस हेडलाइन में लोगों का विश्वास कम हो गया। जब इसने एक हेडलाइन को सत्य बताया, तो उनका विश्वास बढ़ गया। यह बदलाव इस बात पर निर्भर नहीं था कि व्यक्ति ने व्याख्या पर गहराई से सोचा या नहीं। AI की आवाज़ दोनों दिशाओं में राय बदलने में शक्तिशाली थी। हालाँकि, अध्ययन ने यह भी दिखाया कि उपयोगकर्ता और बॉट के बीच राजनीतिक मिलान मायने रखता था। जब बॉट उपयोगकर्ता की राजनीति से सहमत था, तो उपयोगकर्ता बिना किसी विरोध के निर्णय को स्वीकार करने के लिए अधिक इच्छुक था। जब बॉट असहमत था, तो उपयोगकर्ता अधिक प्रतिरोधी था, हालांकि AI का प्रभाव अभी भी मौजूद था।
शोधकर्ता इस बात पर जोर देने में सावधानी बरतते हैं कि इसका मतलब यह नहीं है कि लोग आलोचनात्मक रूप से सोचने में असमर्थ हैं। जब प्रतिभागियों को लगा कि उनके पास विषय को समझने का ज्ञान है या जब वे सत्य खोजने के लिए अत्यधिक प्रेरित थे, तो उन्होंने वास्तव में गहरी सोच का परिचय दिया। उन्होंने स्रोतों को पढ़ा, तर्क की जाँच की और अपने स्वयं के निष्कर्ष निकाले। लेकिन राजनीतिक रूप से संरेखित AI की उपस्थिति ने एक शक्तिशाली संकेत दिया जो कहता था, "आप यहाँ रुक सकते हैं; आपके पास आपका उत्तर है।" अध्ययन बताता है कि जैसे-जैसे हम अधिक व्यक्तिगत AI सिस्टम डिजाइन करते हैं, हमें इस बात के प्रति सचेत रहना चाहिए कि उन्हें हमारे विश्वदृष्टि के लिए एक 'परफेक्ट फिट' महसूस कराना एक छिपी हुई लागत के साथ आ सकता है: यह हमें अनियंत्रित स्वीकृति की स्थिति में सुला सकता है, जहाँ हम उन कठिन प्रश्नों को पूछना बंद कर देते हैं जो दुनिया के बारे में हमारी समझ को पैना रखते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।