Comparing How a Chatbot References User Utterances from Previous Chatting Sessions: An Investigation of Users' Privacy Concerns and Perceptions
यह अध्ययन इस बात की जांच करता है कि विभिन्न चैटबॉट संदर्भ रणनीतियाँ (कोई नहीं, शब्दशः, या पैराफ्रेज़) उपयोगकर्ता जुड़ाव और गोपनीयता संबंधी चिंताओं को कैसे प्रभावित करती हैं, जिसमें यह पाया गया है कि जबकि शब्दशः और पैराफ्रेज़ विधियाँ कथित बुद्धिमत्ता और जुड़ाव को बढ़ाती हैं, शब्दशः संदर्भ विशेष रूप से उच्च गोपनीयता चिंताओं को जन्म देता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक डिजिटल दोस्त, एक चैटबॉट के साथ बातचीत कर रहे हैं। हर हफ्ते, आप उसे अपनी दैनिक आदतों के बारे में बताते हैं—विशेष रूप से, आप कितनी बार डेंटल फ्लॉस (दांतों की सफाई) का उपयोग करते हैं। अब, कल्पना कीजिए कि इस डिजिटल दोस्त की एक याददाश्त है। मुख्य सवाल जो शोधकर्ताओं ने पूछा था वह यह है: इस दोस्त को पिछले हफ्ते आपकी कही हुई बातों को कैसे सामने लाना चाहिए?
क्या इसे एक स्क्रिप्ट पढ़ रहे रोबोट की तरह होना चाहिए, किसी इंसान द्वारा सार बताने जैसा, या इसे बस यह दिखावा करना चाहिए कि उसे कुछ भी याद नहीं है?
नेशनल यूनिवर्सिटी ऑफ सिंगापुर के शोधकर्ताओं ने यह पता लगाने के लिए तीन सप्ताह का एक प्रयोग किया। उन्होंने चैटबॉट के साथ एक "मेमोरी मशीन" के रूप में व्यवहार किया जिसमें तीन अलग-अलग सेटिंग्स थीं:
- "साइलेंट" मोड (कोई नहीं): चैटबॉट नए प्रश्न पूछता है लेकिन पिछली बार आपने क्या कहा था, इसका उल्लेख कभी नहीं करता। यह उस व्यक्ति से बात करने जैसा है जिसे हर बार मिलने पर भूलने की बीमारी (अमनेसिया) हो जाती है।
- "फोटोकॉपी" मोड (शब्दशः): चैटबॉट आपके शब्दों को हूबहू दोहराता है। यदि आपने कहा था, "फ्लॉस करने पर मेरे दांतों में दर्द होता है," तो वह जवाब देता है, "पिछले हफ्ते आपने कहा था, 'फ्लोस करने पर मेरे दांतों में दर्द होता है'।" यह एक तोते की तरह है जो आपके सटीक शब्दों को दोहराता है।
- "मानवीय" मोड (पैराफ्रेस/भावार्थ): चैटबॉट विचार को याद रखता है लेकिन उसे अपने शब्दों में फिर से कहता है। यदि आपने कहा था, "मेरे दांतों में दर्द हो रहा है," तो वह जवाब देता है, "पिछले हफ्ते आपने बताया था कि आपके दांतों में दर्द हो रहा था।" यह एक दोस्त की तरह है जो कहता है, "ओह हाँ, तुमने उस दर्द वाले दांत के बारे में बताया था।"
अच्छी खबर: स्मार्ट और आकर्षक
जब शोधकर्ताओं ने प्रतिभागियों से पूछा कि वे कैसा महसूस करते हैं, तो "साइलेंट" मोड स्पष्ट रूप से हार गया। लोगों को लगा कि चैटबॉट उबाऊ था और ऐसा लगा जैसे वह सुन ही नहीं रहा है।
हालाँकि, "फोटोकॉपी" और "मानवीय" दोनों मोड ने चैटबॉट को बहुत स्मार्ट और आकर्षक बना दिया। ऐसा लग रहा था जैसे चैटबॉट अचानक जाग गया हो और ध्यान देने लगा हो। लोग अधिक जुड़ाव महसूस कर रहे थे क्योंकि बॉट को उनकी कहानी याद थी।
बुरी खबर: "डरावना" कारक
यहीं पर चीजें पेचीदा हो जाती हैं। जबकि फोटोकॉपी मोड ने बॉट को स्मार्ट बनाया, इसने कुछ लोगों को थोड़ा असहज भी किया।
जब बॉट आपके शब्दों को बिल्कुल वैसे ही दोहराता था, तो कुछ प्रतिभागियों को लगा जैसे उन्हें किसी निगरानी कैमरे द्वारा रिकॉर्ड किया जा रहा हो। एक व्यक्ति ने इसे "अजीब/घबराहट पैदा करने वाला" बताया। ऐसा लगा जैसे बॉट बहुत अधिक सटीकता से एक दर्पण दिखा रहा हो, जिससे लोगों को एहसास हुआ, "रुको, यह वास्तव में मेरी कही हर बात को सहेज रहा है।"
"मानवीय" मोड (पैराफ्रेसिंग) कई लोगों के लिए एक आदर्श संतुलन था। यह स्वाभाविक लगा, जैसे एक वास्तविक बातचीत हो, बिना उस "बिग ब्रदर देख रहा है" वाली भावना को ट्रिगर किए जो सटीक उद्धरणों से आती है।
"प्राइवेसी पैराडॉक्स" (गोपनीयता का विरोधाभास)
यह अध्ययन एक क्लासिक खींचतान को उजागर करता है जिसे पर्सनलाइजेशन-प्राइवेसी पैराडॉक्स कहा जाता है।
- एक तरफ: आप चाहते हैं कि बॉट आपको याद रखे ताकि यह एक वास्तविक, बुद्धिमान मित्र की तरह महसूस करे।
- दूसरी ओर: आप नहीं चाहते कि वह आपको बहुत ज्यादा अच्छी तरह याद रखे, क्योंकि इससे आपकी निजी जगह में दखल जैसा महसूस होता है।
शोधकर्ताओं ने पाया कि हालांकि लोग चाहते थे कि बॉट उन्हें याद रखे, लेकिन इसके करने का तरीका मायने रखता था। यदि यह बहुत शाब्दिक (verbatim) था, तो यह दखल देने वाला लगा। यदि यह बहुत अस्पष्ट (कोई नहीं) था, तो यह बेकार लगा।
साक्षात्कारों ने क्या खुलासा किया?
शोधकर्ताओं ने 15 लोगों के साथ बैठकर पूछा, "आपको ऐसा क्यों लगा?"
- "उपकरण" बनाम "दोस्त": कुछ लोगों ने चैटबॉट को एक उपकरण के रूप में देखा, जैसे कि कैलकुलेटर। वे फोटोकॉपी मोड पसंद करते थे क्योंकि वे चाहते थे कि उनके सटीक शब्द सटीकता के लिए सुरक्षित रहें, जैसे कि कोई अनुबंध। अन्य लोगों ने बॉट को एक दोस्त के रूप में देखा, और वे मानवीय मोड पसंद करते थे क्योंकि यह अधिक गर्मजोशी भरा और कम रोबोटिक लगा।
- "दोषारोपण": कुछ लोगों के लिए, अपने सटीक शब्दों को वापस सुनना (विशेष रूप से पर्याप्त फ्लॉस न करने के बारे में) एक दोषारोपण या एक "डरावनी" याद दिलाना जैसा लगा।
- "अर्थ खो जाने" का डर: "साइलेंट" मोड का उपयोग करने वाले लोगों को लगा कि बॉट उन्हें समझने के लिए बहुत मंदबुद्धि है, इसलिए वे अपने उत्तर सरल रखते थे। "मानवीय" मोड का उपयोग करने वाले लोगों को लगा कि बॉट सुन रहा है, लेकिन उन्हें डर था कि बॉट उनके अर्थ को बदल सकता है।
निष्कर्ष
यदि आप एक ऐसा चैटबॉट डिजाइन कर रहे हैं जो समय के साथ लोगों से बात करता है, तो आपको एक पतली रस्सी पर चलना होगा।
- भूत न बनें: पिछली बातचीत को अनदेखा करने से बॉट मूर्ख और अरुचिकर लगता है।
- तोता न बनें: शब्दों को बिल्कुल वैसे ही दोहराना डरावना और दखल देने वाला लग सकता है।
- एक अच्छे श्रोता बनें: उपयोगकर्ता ने जो कहा उसका सारांश देना (पैराफ्रेसिंग) आमतौर पर सबसे अच्छा संतुलन बनाता है। यह स्मार्ट और मैत्रीपूर्ण लगता है, बिना लोगों को यह महसूस कराए कि उन पर जासूसी की जा रही है।
अध्ययन का निष्कर्ष है कि सबसे अच्छा दृष्टिकोण इस बात पर निर्भर करता है कि उपयोगकर्ता क्या चाहता है: यदि वे बॉट को सटीकता के लिए एक उपकरण के रूप में देखते हैं, तो सटीक उद्धरण ठीक हो सकते हैं। लेकिन यदि वे इसे एक संवादात्मक साथी के रूप में देखते हैं, तो यादों को फिर से कहना (rephrasing) ही सही तरीका है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।