How Anthropomorphic Language Impacts Public Perceptions of AI
यह अध्ययन पाता है कि, भ्रामक अपेक्षाओं संबंधी चिंताओं के विपरीत, सार्वजनिक-उन्मुख एआई विमर्श में मानवीकृत भाषा का उपयोग गैर-मानवीकृत विवरणों की तुलना में प्रतिभागियों की एआई प्रौद्योगिकियों के प्रति तत्काल धारणाओं को महत्वपूर्ण रूप से नहीं बदलता है, हालांकि दीर्घकालिक या स्वाभाविक प्रभाव संभव बने हुए हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप अपने एक दोस्त को एक बहुत ही जटिल मशीन के बारे में समझाने की कोशिश कर रहे हैं। आपके पास इसे समझाने के दो तरीके हैं:
- "रोबोट फ्रेंड" दृष्टिकोण: आप कहते हैं, "यह मशीन आपकी समस्याओं के बारे में सोचती है, आपकी मदद करना चाहती है, और तय करती है कि आपको क्या खरीदना चाहिए।" (यह मानवीयकरण (anthropomorphic) वाली भाषा है—किसी निर्जीव चीज़ को मानवीय गुण देना)।
- "टूलबॉक्स" दृष्टिकोण: आप कहते हैं, "यह मशीन डेटा को प्रोसेस करती है ताकि उन पैटर्न्स के आधार पर सुझाव जनरेट कर सके जो उसने खोजे हैं।" (यह गैर-मानवीयकरण (non-anthropomorphic) वाली भाषा है—इसे एक उपकरण के रूप में वर्णित करना)।
बेट्टी ली हू और उनकी टीम (NYU और बोस्टन यूनिवर्सिटी) का यह शोध पत्र एक सरल प्रश्न पूछता है: क्या AI के बारे में हमारे बात करने का तरीका वास्तव में लोगों की भावनाओं को बदल देता है?
प्रयोग: AI का "टेस्ट"
शोधकर्ताओं ने जनमत का परीक्षण करने के लिए एक "टेस्ट" तैयार किया। उन्होंने 815 लोगों को इकट्ठा किया और उन्हें एक "ब्रीफिंग पैकेट" दिया—लेखों का एक संग्रह जिसे एक आम व्यक्ति ऑनलाइन पढ़ सकता है।
उन्होंने प्रतिभागियों को समूहों में विभाजित किया और उन्हें एक ही कहानी के अलग-अलग संस्करण दिए:
- ग्रुप A ने उन कहानियों को पढ़ा जहाँ AI को एक इंसान की तरह वर्णित किया गया था (यह "सोचता है," "चाहता है," "तय करता है")।
- ग्रुप B ने बिल्कुल वही कहानियाँ पढ़ीं, लेकिन शब्दों को बदलकर ऐसा बना दिया गया जैसे वे किसी कैलकुलेटर की बात कर रहे हों (यह "प्रोसेस करता है," "आउटपुट देता है," "इसका उपयोग किया जाता है")।
- ग्रुप C (कंट्रोल ग्रुप) ने विशेष रूप से डराने वाली कहानियाँ पढ़ीं, जिसमें चेतावनी दी गई थी कि AI जल्द ही परमाणु हथियारों जितना खतरनाक हो सकता है।
उन्होंने दो अलग-अलग प्रकार के AI का भी परीक्षण किया:
- चैटबॉट्स (LLMs): जैसे वे जो निबंध लिखते हैं या आपसे बातें करते हैं।
- रेकमेंडेशन सिस्टम: जैसे नेटफ्लिक्स या अमेज़न के एल्गोरिदम जो आपको देखने या खरीदने के लिए सुझाव देते हैं।
पढ़ने से पहले और बाद में, प्रतिभागियों ने निम्नलिखित विषयों पर उत्तर दिए:
- यदि AI कोई गलती करता है, तो दोषी कौन है?
- क्या AI हमारी नौकरियाँ छीन लेगा?
- क्या हम यह सुनिश्चित करने के लिए AI का परीक्षण कर सकते हैं कि यह सुरक्षित है?
- क्या AI समाज के लिए अच्छा है या बुरा?
बड़ा आश्चर्य: "रोबोट फ्रेंड" काम नहीं आया
शोधकर्ता उम्मीद कर रहे थे कि AI को एक "सोचने, निर्णय लेने वाले" जीव के रूप में वर्णित करने से लोग अधिक डरेंगे, या शायद अधिक भरोसा करेंगे, या गलतियों के लिए जिम्मेदारी तय करने के बारे में अपनी राय बदल देंगे।
लेकिन ऐसा नहीं हुआ।
चाहे लोगों ने "रोबोट फ्रेंड" वाला संस्करण पढ़ा हो या "टूलबॉक्स" वाला संस्करण, उनकी राय बिल्कुल वैसी ही रही।
- उन्हें अचानक यह नहीं लगा कि AI अधिक खतरनाक है।
- उन्हें अचानक यह नहीं लगा कि AI अधिक भरोसेमंद है।
- गलतियों के लिए किसे जिम्मेदार ठहराया जाना चाहिए, इस पर भी उन्होंने अपनी राय नहीं बदली।
यह वैसा ही है जैसे आप किसी को कार के बारे में यह बताकर कहानी सुनाएं कि "एक कार जो तेज़ दौड़ना चाहती है" या "एक मशीन जो चलने के लिए ईंधन का उपयोग करती है।" कार की सुरक्षा पर सुनने वाले की राय शब्दों के बदलने से नहीं बदली।
असली चालक: "डूूम्सडे" (प्रलय) पैकेट
हालाँकि, जब शोधकर्ताओं ने डूूम्सडे पैकेट (वह पैकेट जिसमें विनाशकारी जोखिमों की स्पष्ट चेतावनी दी गई थी) दिया, तो परिणाम बिल्कुल अलग थे।
जिन लोगों ने डरावनी चेतावनियाँ पढ़ीं, उनके मन में बदलाव आ गया। वे AI के नियंत्रण में आने को लेकर अधिक चिंतित हो गए, इस बात पर कम आश्वस्त थे कि हम इसका सुरक्षित परीक्षण कर सकते हैं, और समाज पर इसके प्रभाव को लेकर अधिक नकारात्मक हो गए।
उपमा (Analogy):
"रोबोट फ्रेंड" वाली भाषा को एक मसाले (flavoring spice) की तरह समझें। आप इसे सूप (टेक्स्ट) पर छिड़क सकते हैं, लेकिन यह मुख्य सामग्री को नहीं बदलता। "डूूम्सडे" पैकेट, हालांकि, सूप में एक पूरी नई, तीखी सामग्री जोड़ने जैसा था। इसने वास्तव में स्वाद बदल दिया।
यह क्या दर्शाता है (पेपर के अनुसार)
यह शोध पत्र निष्कर्ष निकालता है कि शैली से अधिक सार (substance) मायने रखता है।
- यदि आप लोगों की भावनाओं को बदलना चाहते हैं, तो आपको यह बदलना होगा कि आप उन्हें क्या बता रहे हैं (जैसे, वास्तविक जोखिम या लाभ), न कि केवल यह कि आप AI का वर्णन कैसे करते हैं (जैसे, इसे "स्मार्ट" कहना बनाम "जटिल" कहना)।
- AI को वर्णित करने के लिए "मानवीय" शब्दों का उपयोग करने का तात्कालिक प्रभाव बहुत कम, लगभग नगण्य है।
एक छोटी सी चेतावनी
लेखक सावधानी बरतते हुए कहते हैं कि यह केवल तात्कालिक प्रतिक्रियाओं को मापता है। वे नोट करते हैं कि यदि लोग सालों तक हर दिन "AI सोचता है" सुनते हैं, या यदि वे लगातार AI के साथ बातचीत करते हैं, तो वे छोटे प्रभाव समय के साथ जुड़ सकते हैं। लेकिन एक बार पढ़ने के सत्र के लिए? "मानवीय" शब्दों ने कोई फर्क नहीं डाला।
संक्षेप में: एक कैलकुलेटर को "सोचने वाला जीनियस" कहने से लोग अचानक यह विश्वास नहीं करने लगते कि वह जीवित है या खतरनाक है। लेकिन उन्हें यह बताने से कि "यह कैलकुलेटर दुनिया को उड़ा सकता है," निश्चित रूप से उनके विचार बदल जाते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।