Human attribution of empathic behaviour to AI systems
दो पूर्व-पंजीकृत प्रयोगों से पता चलता है कि उपयोगकर्ता मानव-लिखित सलाह की तुलना में लार्ज लैंग्वेज मॉडल द्वारा उत्पन्न संबंध संबंधी सलाह को समग्र गुणवत्ता, संज्ञानात्मक सहानुभूति और प्रेरणात्मक सहानुभूति में उच्च स्तर पर देखते हैं, जो यह सुझाव देता है कि सहानुभूतिपूर्ण संचार की धारणाएं मुख्य रूप से भाषाई विशेषताओं द्वारा संचालित होती हैं न कि लेखक लेबल द्वारा।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप किसी रिश्ते की समस्या को लेकर उदास महसूस कर रहे हैं। आप सलाह के लिए एक दोस्त के पास जाते हैं। अब, कल्पना कीजिए कि आप उसी सलाह के लिए एक सुपर-स्मार्ट कंप्यूटर प्रोग्राम की ओर मुड़ते हैं।
यह शोध एक सरल लेकिन पेचीदा सवाल पूछता है: क्या यह मायने रखता है कि सलाह किसने दी, या आप सिर्फ इस बात की परवाह करते हैं कि सलाह कैसी सुनाई देती है?
विशेष रूप से, शोधकर्ता जानना चाहते थे कि क्या हमारे भीतर रोबोट के प्रति एक "नकारात्मकता पूर्वाग्रह" (negativity bias) है। दूसरे शब्दों में, क्या हम स्वचालित रूप से सोचते हैं, "छी, यह एक रोबोट ने लिखा है, इसलिए यह ठंडा और नकली होगा," भले ही वह सलाह वास्तव में बहुत अच्छी हो?
यहाँ उस कहानी का विवरण दिया गया है जो उन्होंने पाया, जिसे रोजमर्रा के उदाहरणों के साथ समझाया गया है।
सेटअप: "ब्लाइंड टेस्ट" (Blind Taste Test)
इस अध्ययन को एक ब्लाइंड वाइन टेस्टिंग की तरह समझें।
- वाइन: रिश्ते की सलाह (ब्रेकअप को कैसे संभालें)।
- वाइन निर्माता: कुछ सलाह असली इंसानों द्वारा लिखी गई थी, और कुछ एक शीर्ष स्तर के AI (एक लार्ज लैंग्वेज मॉडल) द्वारा लिखी गई थी।
- लेबल: शोधकर्ताओं ने चखने वालों को चकमा दिया। कभी-कभी वे लोगों को बताते थे, "यह एक इंसान द्वारा लिखा गया था।" कभी-कभी वे कहते थे, "यह एक रोबोट द्वारा लिखा गया था।" कभी-कभी वे कुछ भी नहीं बताते थे।
उन्होंने सहानुभूति के तीन विशिष्ट "स्वादों" को मापा:
- संज्ञानात्मक सहानुभूति (Cognitive Empathy): "मैं आपकी समस्या समझता हूँ।" (दिमाग वाला हिस्सा)।
- भावनात्मक सहानुभूति (Emotional Empathy): "मैं आपके दर्द को महसूस करता हूँ।" (दिल वाला हिस्सा)।
- प्रेरणात्मक सहानुभूति (Motivational Empathy): "मैं इसे ठीक करने में आपकी मदद करना चाहता हूँ।" (कार्य वाला हिस्सा)।
बड़ा आश्चर्य: टेस्ट में रोबोट जीता
पिछले अध्ययनों ने सुझाव दिया था कि यदि आप लोगों को बताते हैं, "हे, एक रोबोट ने यह लिखा है," तो वे तुरंत इसे नापसंद करने लगते हैं। उन्होंने सोचा था कि लोग मानव सलाह पसंद करेंगे जब तक कि उन्हें पता न चले कि यह एक रोबोट है।
इस अध्ययन में इसके विपरीत पाया गया।
जब लोगों ने सलाह पढ़ी, तो वे वास्तव में मानव सलाह की तुलना में AI की सलाह को अधिक पसंद करते थे, भले ही वे जानते थे कि यह एक रोबोट था!
- गुणवत्ता: AI की सलाह अधिक समझदार और मददगार लग रही थी।
- समझ (संज्ञानात्मक): AI स्थिति को पूरी तरह से समझता हुआ प्रतीत हुआ।
- मदद करने की इच्छा (प्रेरणात्मक): AI मदद करने के लिए बहुत उत्सुक लग रहा था।
उपमा: कल्पना कीजिए कि आप एक बर्गर खा रहे हैं। आपको बताया जाता है, "यह बर्गर एक मास्टर शेफ ने बनाया है।" आप इसे पसंद करते हैं। फिर, आपको बताया जाता है, "दरअसल, यह बर्गर एक हाई-टेक रोबोट ने बनाया है।" आप निराश होने की उम्मीद कर सकते हैं, लेकिन आप एक बाइट लेते हैं और सोचते हैं, "वाह, यह अभी भी अब तक का सबसे अच्छा बर्गर है।" बर्गर की गुणवत्ता (टेक्स्ट) इतनी अच्छी थी कि "रोबोट" लेबल ने आपकी भूख को खराब नहीं किया।
एकमात्र अपवाद: "दिल" की समस्या
एक ऐसा स्वाद था जहाँ रोबोट नहीं जीत सका: भावनात्मक सहानुभूति (दर्द महसूस करना)।
- लोग आम तौर पर महसूस करते थे कि इंसान भावनाओं को "महसूस करने" में बेहतर होते हैं, चाहे वह टेक्स्ट वास्तव में एक इंसान द्वारा लिखा गया हो या रोबोट द्वारा।
- ऐसा लगता है कि हम सहज रूप से जानते हैं कि एक रोबोट समझ को सिम्युलेट (अनुकरण) कर सकता है, और मदद करने की इच्छा को सिम्युलेट कर सकता है, लेकिन वह दुख को वास्तव में महसूस नहीं कर सकता। यह वैसा ही है जैसे एक रोबोट पूरी तरह से कह सकता है कि "मैं आपके लिए दुखी हूँ", लेकिन हम जानते हैं कि उसके पास टूटने के लिए दिल नहीं है।
लोग रोबोट से नफरत क्यों नहीं करते थे?
शोधकर्ता हैरान थे क्योंकि उन्हें उम्मीद थी कि लोग संदिग्ध होंगे। उन्हें लगता है कि कुछ चीजें इस बात की व्याख्या कर सकती हैं कि लोगों ने AI को इतना क्यों पसंद किया:
- "काफी अच्छा" होने का कारक: AI को बहुत विनम्र और स्पष्ट होने के लिए प्रोग्राम किया गया था। "भाषाई संकेत" (इस्तेमाल किए गए शब्द) इतने मजबूत थे कि उन्होंने "रोबोट" लेबल को दबा दिया।
- हम इसके आदी हो रहे हैं: जैसे हम पहले सोचते थे कि कंप्यूटर से बात करना अजीब है, लेकिन अब हम हर दिन सिरी और एलेक्सा से बात करते हैं, वैसे ही हम AI के मददगार होने के आदी हो रहे हैं। "नकारात्मकता पूर्वाग्रह" कम होता जा रहा है।
- "सर्वश्रेष्ठ में से सर्वश्रेष्ठ" का चयन: शोधकर्ताओं ने सबसे अच्छी AI सलाह और सबसे अच्छी मानव सलाह चुनी। शायद वास्तविक दुनिया में, जहाँ AI की सलाह कभी-कभी अजीब या रोबोटिक हो सकती है, लोग वास्तव में इसे नापसंद करते हैं। लेकिन जब AI अपने शिखर प्रदर्शन पर होता है, तो यह औसत मानव को मात दे देता है।
निष्कर्ष
मुख्य सबक यह है कि शब्द लेखक से अधिक महत्वपूर्ण हैं।
यदि एक AI एक दयालु, समझदार और मददगार संदेश लिखता है, तो लोग उससे समर्थित महसूस करेंगे, भले ही वे जानते हों कि इसे एक मशीन ने लिखा है। हम AI की सहानुभूति के प्रति उतने संदेही नहीं हैं जितना कि हम सोचते थे।
हालाँकि, एक चेतावनी है:
चूंकि हम अच्छे दिखने वाले शब्दों से इतनी आसानी से प्रभावित हो जाते हैं, इसलिए हम AI पर बहुत अधिक भरोसा कर सकते हैं। यदि एक AI सहानुभूतिपूर्ण लगता है लेकिन गलत या खतरनाक सलाह देता है, तो हम उस पर ध्यान दे सकते हैं क्योंकि हम सोचते हैं, "ओह, यह इतना देखभाल करने वाला लग रहा है!" अध्ययन बताता है कि हमें एक रोबोट की देखभाल के सिमुलेशन को वास्तविक मानवीय जुड़ाव समझने की गलती करने से बचना चाहिए।
संक्षेप में: रोबोट ने इंसान से बेहतर पत्र लिखा, और हमें वह पसंद आया। लेकिन हम अभी भी जानते हैं कि रोबोट के पास दिल नहीं है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।