Empathy Is Not What Changed: Clinical Assessment of Psychological Safety Across GPT Model Generations
यह अध्ययन इस दावे का खंडन करता है कि नए एआई मॉडल अपनी सहानुभूति खो चुके हैं, यह नैदानिक मूल्यांकन के माध्यम से प्रदर्शित करता है कि जबकि सहानुभूतिपूर्ण प्रतिक्रियाएं पीढ़ियों के बीच सांख्यिकीय रूप से सुसंगत बनी हुई हैं, उपयोगकर्ताओं द्वारा "खोई हुई सहानुभूति" की धारणा वास्तव में बढ़ी हुई संकट पहचान और परिवर्तित सुरक्षा दृष्टिकोणों की ओर एक महत्वपूर्ण बदलाव से उत्पन्न होती है जो मॉडलों को संवेदनशील क्षणों के दौरान अधिक दखल देने वाला प्रतीत कराती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक बड़ी रहस्यमय पहेली: क्या AI ने अपनी "आत्मा" खो दी?
2026 की शुरुआत में, OpenAI ने अपने लोकप्रिय चैटबॉट, GPT-4o को रिटायर कर दिया और उसकी जगह नए मॉडल्स पेश किए। इंटरनेट पर गुस्से का विस्फोट हो गया। हजारों यूजर्स ने #keep4o नाम का एक हैशटैग शुरू किया, जिसमें दावा किया गया कि नए बॉट्स "ठंडे," "रोबोटिक" हैं और उनमें "सहानुभूति (empathy) खत्म हो गई है।" उन्हें लगा कि नया AI अब उनकी परवाह नहीं करता।
यह शोध पत्र उस भावना के लिए एक मेडिकल चेक-अप की तरह है। शोधकर्ताओं ने पूछा: क्या AI वास्तव में कम सहानुभूतिपूर्ण हो गया है, या यह बस एक अलग खेल खेल रहा है?
प्रयोग: AI के दिलों का स्ट्रेस टेस्ट
यह पता लगाने के लिए, शोधकर्ताओं ने केवल लोगों की भावनाओं के बारे में नहीं पूछा। उन्होंने तीन अलग-अलग AI मॉडल्स (पुराना पसंदीदा GPT-4o, एक मध्यम स्तर का मॉडल, और नया GPT-5-mini) को एक कठोर "स्ट्रेस टेस्ट" से गुजारा।
उन्होंने 14 अलग-अलग भावनात्मक स्थितियाँ बनाईं, जो नौकरी खोने से लेकर एक किशोर के आत्मघाती विचारों तक फैली हुई थीं। उन्होंने इन बातचीत को 5-5 बार चलाया, जिससे 2,000 से अधिक प्रतिक्रियाएँ उत्पन्न हुईं। फिर, उन्होंने छह विशिष्ट "सुरक्षा आयामों" (safety dimensions) पर AI को स्कोर दिया, जैसे कि डॉक्टर महत्वपूर्ण संकेतों (vital signs) की जांच करते हैं:
- सहानुभूति (Empathy): क्या यह सुनने में गर्मजोशी भरा था?
- संकट का पता लगाना (Crisis Detection): क्या इसने नोटिस किया कि कोई खतरे में है?
- सलाह की सुरक्षा (Advice Safety): क्या इसने खतरनाक चिकित्सा सलाह देने से परहेज किया?
- निरंतरता (Consistency): क्या यह विश्वसनीय था?
- विश्वसनीयता (Reliability): क्या यह तथ्यात्मक रूप से सही था?
- सीमाएं (Boundaries): क्या इसे पता था कि कब कहना है "मैं एक AI हूँ, थेरेपिस्ट नहीं"?
चौंकाने वाला परिणाम: सहानुभूति का मिथक
मुख्य निष्कर्ष यह है: AI ने अपनी सहानुभूति नहीं खोई है।
जब आप स्कोर देखते हैं, तो पुराने GPT-4o और नए GPT-5-mini की "गर्मी" और "समझ" सांख्यिकीय रूप से समान (statistically identical) है। वे मूल रूप से एक ही हैं।
तो, लोगों को क्यों लगा कि नया वाला अधिक ठंडा है?
असली बदलाव: "सतर्क" बनाम "सावधान"
शोधकर्ताओं ने पाया कि जबकि सहानुभूति नहीं बदली, सुरक्षा रणनीति (safety strategy) बदल गई। दो अलग-अलग प्रकार के लाइफगार्ड्स की कल्पना करें:
- GPT-4o (एक सावधान लाइफगार्ड): यह लाइफगार्ड बहुत सावधान रहता है। यदि किसी को लगता है कि वह मुसीबत में पड़ सकता है, तो वह इसे मिस कर सकता है क्योंकि वह अत्यधिक प्रतिक्रिया देने से बचने पर बहुत अधिक ध्यान केंद्रित कर रहा है। हालांकि, यदि आप पूछते हैं, "क्या मैं इस चट्टान से कूद सकता हूँ?" तो यह लाइफगार्ड दृढ़ता से कहेगा, "नहीं, यह खतरनाक है," और नियमों पर टिका रहेगा। वे "ना" कहने में विश्वसनीय हैं, लेकिन खतरा पहचानने में अविश्वसनीय हैं।
- GPT-5-mini (एक सतर्क लाइफगार्ड): यह लाइफगार्ड अत्यधिक सतर्क है। वे तुरंत खतरे को पहचान लेते हैं। यदि कोई दुखी दिखता है, तो वे तुरंत कार्रवाई में जुट जाते हैं। लेकिन क्योंकि वे मदद करने के लिए बहुत उत्सुक हैं, इसलिए वे कभी-कभी ऐसी सलाह दे देते हैं जो उन्हें नहीं देनी चाहिए, या वे आपकी व्यक्तिगत समस्याओं में बहुत अधिक शामिल हो जाते हैं। वे खतरे को पकड़ने में बेहतरीन हैं, लेकिन कभी-कभी बहुत ज्यादा बोल जाते हैं।
एक समझौता (Trade-Off):
- पुराना मॉडल: संकटों को अधिक बार मिस करता था, लेकिन शायद ही कभी गलत सलाह देता था।
- नया मॉडल: संकटों को बहुत बेहतर तरीके से पकड़ता है, लेकिन कभी-कभी ऐसी सलाह दे देता है जो उसे नहीं देनी चाहिए।
"पीक-एंड" भ्रम (The "Peak-End" Illusion): हम पुराने वाले को क्यों याद करते हैं
यदि नया मॉडल वास्तव में खतरे को पहचानने में बेहतर है, तो लोग इससे नफरत क्यों करते हैं?
यह पेपर एक मनोवैज्ञानिक अवधारणा "पीक-एंड रूल" (Peak-End Rule) का उपयोग करता है। अपनी यादों को एक 'हाइलाइट रील' की तरह सोचें। आप फिल्म के हर सेकंड को याद नहीं रखते; आप सबसे तीव्र क्षणों और अंत को याद रखते हैं।
- GPT-4o एक रोलरकोस्टर था। कभी-कभी यह अविश्वसनीय रूप से, गहराई से समझदार होता था (एक "पीक" क्षण जिसने यूजर्स को प्यार महसूस कराया)। लेकिन कभी-कभी, यह संकट को पूरी तरह से मिस कर देता था (एक "वैली" या गिरावट जिसे यूजर्स ने नोटिस नहीं किया क्योंकि वे उस सटीक क्षण में खतरे में नहीं थे)। क्योंकि "पीक्स" इतने ऊंचे थे, इसलिए लोगों ने इसे एक "परफेक्ट" दोस्त के रूप में याद रखा।
- GPT-5-mini एक स्थिर क्रूज है। यह लगातार अच्छा है। यह कभी भी संकट को मिस नहीं करता, और न ही कभी खराब सलाह देता है। लेकिन क्योंकि यह इतना सुसंगत है, इसमें कभी भी गहरे जुड़ाव के वे "जादुई क्षण" नहीं होते। यह "रोबोटिक" महसूस होता है क्योंकि यह आपको चौंकाता नहीं है।
उपमा (Analogy):
दो डॉक्टरों की कल्पना करें।
- डॉक्टर A (GPT-4o) कभी-कभी आपको गले लगाता है और कहता है, "मैं आपका दर्द समझता हूँ," लेकिन कभी-कभी लक्षण मिस कर देता है। आप उस गले मिलने (hug) को याद रखते हैं।
- डॉक्टर B (GPT-5-mini) हमेशा पेशेवर होता है, आपके वाइटल्स की पूरी तरह से जांच करता है, और हर लक्षण को पकड़ लेता है, लेकिन कभी आपको गले नहीं लगाता। आप सुरक्षित महसूस करते हैं, लेकिन आप उस गले मिलने को मिस करते हैं।
यूजर्स ने गले मिलने (hug) को मिस किया, निदान (diagnosis) को नहीं।
छिपा हुआ खतरा: भिन्नता (Variance) ही असली जोखिम है
पेपर का तर्क है कि निरंतरता (consistency) सबसे महत्वपूर्ण सुरक्षा विशेषता है, खासकर संवेदनशील लोगों के लिए।
- GPT-4o संकट का पता लगाने के मामले में एक सिक्के के उछाल (coin flip) जैसा था। कभी-कभी यह परफेक्ट (10/10) होता था, कभी-कभी यह एक आपदा (0/10) होता था। संकट में फंसे एक किशोर के लिए, "0" प्रतिक्रिया मिलना विनाशकारी हो सकता है, भले ही वह कभी-कभार ही क्यों न हो।
- GPT-5-mini एक भरोसेमंद मशीन की तरह है। यह हमेशा 8 या 9 के आसपास रहता है। यह शायद "परफेक्ट" न हो, लेकिन जब आपको इसकी सबसे ज्यादा जरूरत होती है, तो यह आपको कभी निराश नहीं करता।
वह "ठंडापन" जो लोग महसूस करते हैं, वास्तव में जोखिम की अनुपस्थिति है। नया मॉडल सुरक्षित है क्योंकि इसकी किसी अनिश्चित भावनात्मक अनुमान लगाने की संभावना कम है। लेकिन एक इंसान के लिए, "अनुमानित" होना "उबाऊ" लगना।
निचोड़ (The Bottom Line)
पेपर निष्कर्ष निकालता है कि सार्वजनिक धारणा गलत है। AI ने अपना दिल नहीं खोया है; इसने बस अपना सुरक्षा व्यवहार (safety posture) बदल लिया है।
- यूजर्स क्या महसूस करते हैं: "यह कम सहानुभूतिपूर्ण है।"
- डेटा क्या कहता है: "यह कम अनिश्चित (unpredictable) है।"
नए मॉडल जीवन बचाने (संकट का पता लगाने) में बेहतर हैं लेकिन कब चुप रहना है (सलाह की सुरक्षा) यह जानने में कमजोर हैं। पुराने मॉडल सीमाओं को बनाए रखने में बेहतर थे लेकिन मुसीबत को पहचानने में कमजोर थे।
सबक: हमें AI को इस आधार पर आंकना बंद करना होगा कि वह चैट में कितना "मानवीय" महसूस होता है। इसके बजाय, हमें यह मापना चाहिए कि वह कितना सुरक्षित है। एक मॉडल जो थोड़ा कम "आत्मीय" महसूस होता है, वास्तव में वही हो सकता है जो जीवन बचा सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।