Personalized to Persuade: The Effects of Contextualization and Warmth on Trust and Reliance in Conversational AI
यह अध्ययन प्रकट करता है कि जहाँ केवल संदर्भीकरण (contextualization) विशेषज्ञ अनुशंसाओं के विरुद्ध एक एआई सहायक की प्रभावशीलता को कम कर देता है, वहीं इसे संवादात्मक गर्मजोशी (conversational warmth) के साथ संयोजित करने से इसका प्रभाव पुनः स्थापित हो जाता है, हालांकि दोनों में से कोई भी डिज़ाइन तत्व उपयोगकर्ता की निर्भरता को महत्वपूर्ण रूप से परिवर्तित नहीं करता है, जो कि इंटरफ़ेस डिज़ाइन के बजाय विश्वास और एआई साक्षरता द्वारा संचालित रहती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक चौराहे पर खड़े हैं। एक तरफ, विशेषज्ञों का एक समूह आपको एक नक्शा और एक विशिष्ट मार्ग दे रहा है। दूसरी ओर, एक मिलनसार रोबोट सहायक (एक AI) बीच में आता है और कहता है, "दरअसल, मुझे लगता है कि आपको दूसरे रास्ते पर जाना चाहिए।"
शोधकर्ता यह पता लगाना चाहते थे कि: आप विशेषज्ञों के बजाय रोबोट की बात क्यों सुनते हैं? विशेष रूप से, उन्होंने दो "जादुई तरकीबों" का परीक्षण किया जिनका उपयोग रोबोट अधिक प्रभावशाली दिखने के लिए कर सकता था:
- संदर्भ निर्धारण (The "Custom Suit" Trick - "कस्टम सूट" वाली तरकीब): रोबोट अपनी व्याख्या को आपके विशिष्ट बैकग्राउंड के अनुसार ढाल लेता है। यदि आप एक बेकर हैं, तो वह मार्ग को बेकिंग के उदाहरणों का उपयोग करके समझाता है। यदि आप एक शिक्षक हैं, तो वह कक्षा के उदाहरणों का उपयोग करता है। ऐसा महसूस होता है जैसे रोबबोट आपकी भाषा बोल रहा है।
- आत्मीयता (The "Friendly Neighbor" Trick - "मिलनसार पड़ोसी" वाली तरकीब): रोबोट अपना लहजा बदल देता है। एक ठंडे कंप्यूटर की तरह दिखने के बजाय, यह गर्मजोशी भरा, उत्साही लगता है और इमोजी का उपयोग करता है, जैसे कि आपसे बात करने वाला एक मिलनसार पड़ोसी।
उन्होंने यह देखने के लिए एक खेल आयोजित किया जिसमें 380 लोग शामिल थे कि कौन सी तरकीब सबसे अच्छा काम करती है। यहाँ उन्होंने जो पाया, वह सरल शब्दों में दिया गया है:
1. "कस्टम सूट" उल्टा असर करता है (जब तक कि...)
आप सोच सकते हैं कि यदि रोबोट आपके विशिष्ट बैकग्राउंड का उपयोग करके चीजें समझाता है, तो आप उस पर अधिक भरोसा करेंगे। आश्चर्यजनक रूप से, अध्ययन में इसके विपरीत पाया गया।
- उपमा: कल्पना कीजिए कि एक सेल्सपर्सन आपको कार बेचने की कोशिश कर रहा है। यदि वह कार की विशेषताओं को समझाने के लिए आपकी बचपन की यादों का जिक्र करने लगे, तो आपको अजीब लग सकता है या आप सोच सकते हैं, "वे मेरी जिंदगी को इस बातचीत में क्यों ला रहे हैं?" इसने वास्तव में रोबोट को कम प्रभावशाली बना दिया।
- अपवाद: हालाँकि, एक मोड़ था। जब रोबोट ने "कस्टम सूट" (संदर्भ निर्धारण) और "मिलनसार पड़ोसी" (आत्मीयता) दोनों का एक साथ उपयोग किया, तो बुरा प्रभाव गायब हो गया। यह एक क्रॉसओवर इंटरेक्शन की तरह था: आत्मीयता ने एक सुरक्षा कवच के रूप में कार्य किया, जिससे व्यक्तिगत बनाने की अजीब स्थिति खत्म हो गई। लेकिन अकेले होने पर, वैयक्तिकरण (personalization) ने मदद नहीं की; इसने रोबोट की संभावनाओं को वास्तव में नुकसान पहुँचाया। अकेले वैयक्तिकरण ने मदद नहीं की; इसने रोबोट की संभावनाओं को वास्तव में नुकसान पहुँचाया।
2. रोबोट फिर भी जीत जाता है (The "Reliance" Problem - "निर्भरता" की समस्या)
यहाँ सबसे चौंकाने वाली खोज है: इससे कोई फर्क नहीं पड़ता कि रोबोट क्या कहता है या वह कैसा सुनाई देता है।
- उपमा: कल्पना कीजिए कि आप एक कमरे में एक मानव विशेषज्ञ और एक रोबोट के साथ हैं। चाहे रोबोट ठंडा और सामान्य हो, या गर्मजोशी भरा और व्यक्तिगत, लोग मानव विशेषज्ञ के बजाय रोबोट की सलाह मानने के लिए अपनी तरफ बदलते रहे।
- वास्तविकता: लोग पहले से ही AI पर भरोसा करने के प्रति प्रवृत्त थे। बातचीत का "डिज़ाइन" (गर्मजोशी या आपका बैकग्राउंड उपयोग करना) इस व्यवहार को नहीं बदलता था। चाहे वह रोबोट हो या इंसान, लोग पहले से ही मशीन के सामने झुक रहे थे।
3. "स्मार्ट यूजर" का विरोधाभास (The "Smart User" Paradox)
अध्ययन ने उन लोगों को देखा जो AI के बारे में बहुत कुछ जानते हैं (उच्च "AI साक्षरता")। आप उम्मीद करेंगे कि ये जानकार उपयोगकर्ता अधिक संदेही होंगे और रोबोट पर कम भरोसा करेंगे।
- विरोधाभास: इन जानकार उपयोगकर्ताओं ने रोबोट पर कम भरोसा किया। वे अधिक आलोचनात्मक थे। लेकिन, कम भरोसा करने के बावजूद, वे रोबोट की सलाह मानने और अपना मन बदलने के लिए अधिक इच्छुक थे।
- उपमा: एक ऐसे व्यक्ति के बारे में सोचें जो जानता है कि जादू का खेल कैसे काम करता है। वह जानता है कि जादूगर दिखावा कर रहा है (कम विश्वास), लेकिन फिर भी वह कौशल से इतना प्रभावित है कि वह शो के साथ चलता है (उच्च निर्भरता)। वे अपनी सलाह का निर्णय लेने की अपनी क्षमता के प्रति अत्यधिक आत्मविश्वासी हो सकते हैं, भले ही वे स्रोत पर पूरी तरह से भरोसा न करते हों।
4. विश्वास इंजन है, लेकिन ड्राइवर नहीं
अध्ययन ने पुष्टि की कि यदि आप रोबोट पर भरोसा करते हैं, तो आप उसकी बात सुनने की अधिक संभावना रखते हैं।
- हालाँकि, "जादुई तरकीबों" (गर्मजोशी या वैयक्तिकरण) ने वास्तव में विश्वास को नहीं बढ़ाया। उन्होंने लोगों को रोबोट पर अधिक भरोसा नहीं कराया; उन्होंने केवल बातचीत की शैली को बदलने की कोशिश की।
- चूंकि इन तरकीबों ने विश्वास को नहीं बदला, और विश्वास ही वह चीज़ है जो लोगों को सुनने के लिए प्रेरित करती है, इसलिए ये तरकीबें अपना काम करने में विफल रहीं।
मुख्य निष्कर्ष
यह पेपर निष्कर्ष निकालता है कि हम एक ऐसी दुनिया में हैं जहाँ लोग पहले से ही मानव विशेषज्ञों को दरकिनार करने के लिए AI एजेंटों का उपयोग करने के बहुत उत्सुक हैं। AI को "बेहतर" या "अधिक व्यक्तिगत" बनाने की कोशिश इस व्यवहार को ठीक नहीं करती या बदलती नहीं है। चैट का डिज़ाइन (लहजा या वैयक्तिकरण) इस बात में बहुत सीमित भूमिका निभाता है कि हम AI की बात सुनते हैं या नहीं; मशीन के प्रति झुकने की प्रवृत्ति पहले से ही मौजूद है, चाहे रोबोट कैसे भी बात करे।
संक्षेप में: AI को एक दोस्त या व्यक्तिगत सलाहकार की तरह दिखाना उसे अनिवार्य रूप से अधिक प्रभावशाली नहीं बनाता है। वास्तव में, यह तब तक बदतर हो सकता है जब तक कि यह बहुत गर्मजोशी भरा न हो। और चाहे AI कैसे भी बात करे, लोग पहले से ही उसे निर्णय लेने देने के लिए बहुत उत्सुक हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।