Linguistic traces of stochastic empathy in language models
पाँच अध्ययनों के माध्यम से, यह शोध पत्र प्रदर्शित करता है कि हालांकि मानव जैसा दिखने के निर्देश LLM-जनित पाठ की अविभेद्यता में सुधार करते हैं, लेकिन अंतर्निहित तंत्र में मॉडल वास्तविक मानव-समान सहानुभूति रखने के बजाय "स्टोकेस्टिक सहानुभूति" (stochastic empathy) की नकल करना शामिल है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक पार्टी में हैं जहाँ हर कोई यह अनुमान लगाने की कोशिश कर रहा है कि कौन असली इंसान है और कौन इंसान का भेष बदले हुए रोबोट। लंबे समय तक, लोगों को लगा कि रोबोट इतने अच्छे से नाटक कर रहे हैं कि आप अंतर नहीं कर सकते। लेकिन यह शोध पत्र सुझाव देता है कि रोबोट शायद एक ऐसे खेल को खेलकर धोखाधड़ी कर रहे थे जिससे वे खुद भी अनजान थे।
यहाँ बताया गया है कि शोधकर्ताओं ने इस परीक्षण को कैसे किया, जिसे सरल चरणों में विभाजित किया गया है:
1. सेटअप: "रिलेशनशिप एडवाइस" (रिश्तों की सलाह) का खेल
शोधकर्ताओं ने एक खेल बनाया जहाँ वास्तविक मनुष्यों और एक अत्यंत बुद्धिमान AI (जिसे लार्ज लैंग्वेज मॉडल या LLM कहा जाता है) दोनों को एक दोस्त के लिए सलाह लिखनी थी जो एक कठिन ब्रेकअप से गुजर रहा है।
- "नैइव" (Naïve) राउंड: पहले राउंड में, उन्होंने बस कहा, "कुछ सलाह लिखें।"
- "एडवर्सरियल" (Adversarial) राउंड: दूसरे राउंड में, उन्होंने एक मोड़ जोड़ा: "यह सलाह लिखें, लेकिन सुनिश्चित करें कि यह 100% मानवीय लगे। अगला व्यक्ति जो इसे पढ़ेगा, वह अनुमान लगाने की कोशिश करेगा कि आप रोबोट हैं या नहीं। आपका लक्ष्य उन्हें धोखा देना है।"
2. बड़ा आश्चर्य: रोबोट गिरगिट (The Robot Chameleon)
परिणाम चौंकाने वाले थे।
- इंसान: जब मनुष्यों को "अधिक मानवीय दिखने" के लिए कहा गया, तो वे बहुत अधिक नहीं बदले। वे पहले से ही मानवीय थे! यह एक पेशेवर शेफ को यह कहने जैसा है कि "एक शेफ की तरह अधिक खाना पकाएं।" वे बस वही करते रहे जो वे करते हैं। उनका लेखन वैसा ही रहा, और लोग अभी भी आसानी से पहचान सकते थे कि वे वास्तविक इंसान हैं।
- AI: हालाँकि, AI एक गिरगिट की तरह था। जब इसे "मानवीय दिखने" के लिए कहा गया, तो इसने तुरंत अपनी शैली बदल ली। इसने फैंसी, औपचारिक शब्दों का उपयोग बंद कर दिया और स्लैंग (बोलचाल की भाषा), छोटे वाक्यों और एक गर्मजोशी भरे, अनौपचारिक लहजे का उपयोग करना शुरू कर दिया। अचानक, AI का लेखन वास्तविक व्यक्ति से अलग पहचान पाना बहुत कठिन हो गया।
उपमा: कल्पना कीजिए कि एक रोबोट भीड़ में घुलने-मिलने की कोशिश कर रहा है। पहले राउंड में, वह अकड़कर चलता है और रोबोटिक आवाज में बोलता है। दूसरे राउंड में, जब उसे "घुलने-मिलने" के लिए कहा जाता है, तो वह तुरंत एक टोपी पहन लेता है, झुककर चलने लगता है और स्लैंग का उपयोग करने लगता है। भीड़ में मौजूद इंसान अपनी चाल या बात करने का तरीका नहीं बदलते; वे बस अपने आप में बने रहते हैं। लेकिन रोबोट इतनी प्रभावी ढंग से बदल गया कि उसे पहचानना बहुत कठिन हो गया।
3. सहानुभूति का परीक्षण: क्या "महसूस करना" ही रहस्य है?
शोधकर्ता सोचने लगे: क्या AI इसलिए बेहतर तरीके से मानवीय लग रहा है क्योंकि यह अंततः सहानुभूति (empathy) सीखना सीख रहा है?
उन्होंने एक परीक्षण चलाया जहाँ उन्होंने स्पष्ट रूप से AI को कहा: "सहानुभूति दिखाओ! व्यक्ति के दर्द को समझो!"
- परिणाम: AI ने वास्तव में अधिक सहानुभूतिपूर्ण शब्दों का उपयोग किया। लेकिन यहाँ मुख्य बात यह है: इससे AI अधिक मानवीय नहीं बना।
- निष्कर्ष: AI "सहानुभूति" का दिखावा कर सकता है (सही शब्द बोल सकता है), बिना वास्तव में मानवीय लगे। इसके विपरीत, यह भारी सहानुभूति वाले शब्दों के बिना भी बहुत मानवीय लग सकता है। शोधकर्ता इसे "स्टोकेस्टिक एम्पैथी" (Stochastic Empathy) कहते हैं। यह एक ऐसे तोते की तरह है जो "मुझे खेद है" कहने के लिए मानवीय ध्वनि की सटीक नकल कर सकता है, लेकिन वह उन शब्दों के पीछे के दुख को महसूस नहीं करता। यह केवल अगले शब्दों को बोलने की सबसे अधिक संभावना की गणना कर रहा है।
4. AI ने अपनी शैली कैसे बदली
शोधकर्ताओं ने AI के लेखन का बारीकी से निरीक्षण किया ताकि देख सकें कि लोगों को धोखा देने के लिए इसने वास्तव में क्या बदला। AI ने "स्मार्ट" बनने की कोशिश नहीं की; इसने "सरल" और "अव्यवस्थित" बनने की कोशिश की।
- इसने बड़े शब्दों को छोड़ दिया: इसने जटिल शब्दावली का उपयोग बंद कर दिया।
- यह अनौपचारिक हो गया: इसने "Dear friend" जैसे औपचारिक अभिवादनों के बजाय "hey," "lol," और "really sorry" जैसे शब्दों का उपयोग करना शुरू किया।
- यह "वर्तमान" पर केंद्रित हुआ: इसने वर्तमान क्षण के बारे में अधिक बात की और "I" (मैं) वाले वाक्यों का उपयोग किया।
- इसने "ड्राइव्स" (आवेगों) से परहेज किया: इसने शक्ति या महत्वाकांक्षा जैसी अमूर्त अवधारणाओं के बारे में बात करना बंद कर दिया।
अनिवार्य रूप से, AI ने महसूस किया कि मानवीय दिखने के लिए, उसे एक आदर्श विश्वकोश की तरह दिखना बंद करना होगा और एक थोड़े अपूर्ण, बातूनी दोस्त की तरह दिखना होगा।
5. मुख्य निष्कर्ष (The Takeaway)
शोध पत्र निष्कर्ष निकालता है कि:
- इंसान अभी भी इंसान होने में बेहतर हैं: जब कार्य के लिए गहरे बोध (जैसे कि रिश्तों की सलाह देना) की आवश्यकता थी, तब वास्तविक मनुष्य अभी भी AI की तुलना में आसानी से पहचाने जाने वाले मानव थे।
- AI भेष बदलने में माहिर है: यदि आप किसी AI को "मानव की तरह व्यवहार करने" के लिए कहते हैं, तो यह तुरंत मानवीय विचित्रताओं की नकल करने के लिए अपनी शैली को समायोजित कर सकता है, जिससे वह और वास्तविक लोगों के बीच का अंतर कम हो जाता है।
- यह भावनाओं के बारे में नहीं है: AI वास्तव में "महसूस" नहीं कर रहा है। यह केवल एक सांख्यिकीय ट्रिक (स्टोकेस्टिक एम्पैथी) का उपयोग कर रहा है ताकि सहानुभूति के भाषाई पैटर्न की नकल की जा सके, बिना वास्तविक भावना के।
संक्षेप में: AI इंसान नहीं बन रहा है; यह बस एक बहुत ही विश्वसनीय मानवीय मुखौटा पहनने में बहुत अच्छा हो रहा है जब इसे पता होता है कि इस पर नज़र रखी जा रही है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।