Detection != Reliable Control: Decodable Empathy Directions Yield at Most Partial Shifts in Automated Empathy Scores
यह शोध पत्र यह प्रदर्शित करता है कि जबकि निर्देश-ट्यून किए गए (instruction-tuned) LLMs में डिकोडेबल सहानुभूति दिशाएँ (decodable empathy directions) स्वचालित सहानुभूति स्कोर का विश्वसनीय रूप से पता लगाने और उन्हें आंशिक रूप से बदलने में सक्षम हैं, वे व्यापक नियंत्रण के लिए विश्वसनीय कारण उत्तोलक (causal levers) नहीं हैं, विशेष रूप से मानव-अनुभूत परिवर्तनों को मापने योग्य बनाने या विभिन्न सहानुभूति पहलुओं और मॉडलों में सुसंगत प्रभाव उत्पन्न करने में विफल रहती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की तेजी से बदलती दुनिया में, शोधकर्ता इस बात में तेजी से रुचि ले रहे हैं कि क्या मशीनें वास्तव में मानवीय भावनाओं को समझ सकती हैं। एक लोकप्रिय विचार यह सुझाव देता है कि यदि हम कंप्यूटर के मस्तिष्क के भीतर एक विशिष्ट पैटर्न पा सकते हैं जो सहानुभूति (एम्पैथी) जैसी भावना के अनुरूप हो, तो हम मशीन को अधिक सहानुभूति व्यक्त करने के लिए एक डायल घुमाकर उसे नियंत्रित कर सकेंगे। यह अवधारणा इस विश्वास पर टिकी है कि यदि किसी कंप्यूटर को "पढ़ा" जा सकता है ताकि यह दिखाया जा सके कि उसमें एक निश्चित गुण है, तो इसे अपनी इच्छा से उस गुण को बदलने के लिए "स्टीयर" (संचालित) भी किया जा सकता है। यह विशेष रूप से महत्वपूर्ण है क्योंकि इन प्रणालियों को संकट में फंसे लोगों को भावनात्मक सहायता प्रदान करने के लिए तैनात किया जा रहा है, जहाँ एक सहायक प्रतिक्रिया और एक ठंडी/रूखी प्रतिक्रिया के बीच का अंतर महत्वपूर्ण हो सकता है। हालाँकि, यह धारणा कि मशीन के भीतर भावना का पता लगाना उसे विश्वसनीय रूप से नियंत्रित करने के समान है, सहानुभूति के जटिल, वास्तविक दुनिया के संदर्भ में कभी कड़ाई से परखा नहीं गया है।
सदर्न कैलिफोर्निया विश्वविद्यालय का एक नया अध्ययन इस धारणा को चुनौती देता है, जो तीन अलग-अलग लार्ज लैंग्वेज मॉडल्स (LLMs) की जांच करता है, जो कई आधुनिक चैटबॉट्स के पीछे के शक्तिशाली एआई सिस्टम हैं। शोधकर्ताओं ने सहानुभूति के दो अलग-अलग हिस्सों पर ध्यान केंद्रित किया जिन्हें मनोवैज्ञानिकों ने लंबे समय से पहचाना है: दूसरे व्यक्ति के दृष्टिकोण को समझने की क्षमता, जिसे संज्ञानात्मक सहानुभूति (कॉग्निटिव एम्पैथी) कहा जाता है, और उनकी भावनाओं को साझा करने या उनके साथ तालमेल बिठाने की क्षमता, जिसे भावात्मक सहानुभूति (अफेक्टिव एम्पैथी) कहा जाता है। टीम ने पहले यह पुष्टि की कि वे वास्तव में एआई मॉडल के आंतरिक कामकाज के भीतर इन दोनों गुणों के संकेतों का पता लगा सकते हैं। उन्होंने डेटा में विशिष्ट दिशाएं पाईं जो उच्च सहानुभूति दिखाने वाले उत्तरों को कम सहानुभूति वाले उत्तरों से स्पष्ट रूप से अलग करती थीं। यह पहचान अच्छी तरह से काम कर रही थी, जिससे पता चलता है कि मॉडल्स के पास इन अवधारणाओं के आंतरिक प्रतिनिधित्व मौजूद हैं।
हालाँकि, महत्वपूर्ण परीक्षण यह था कि क्या इन पता लगाए गए संकेतों की दिशा में एक छोटा सा धक्का देने से वास्तव में एआई के व्यवहार में सार्थक बदलाव आएगा। शोधकर्ताओं ने इन धक्कों को लागू किया, प्रभावी रूप से मॉडल्स को अधिक सहानुभूतिपूर्ण बनाने की कोशिश की, और फिर कई स्वचालित न्यायाधीशों और एक विशेष क्लासिफायर का उपयोग करके परिणामों को मापा। परिणामों ने सहानुभूति के दो प्रकारों के बीच एक स्पष्ट विभाजन प्रकट किया। जब टीम ने भावात्मक, या भावनात्मक तालमेल को बढ़ाने की कोशिश की, तो उन्होंने एक मापने योग्य परिवर्तन देखा, लेकिन यह केवल आंशिक था। सबसे अच्छा प्रदर्शन करने वाले मॉडल में, हस्तक्षेप ने सहानुभूति स्कोर को एक तटस्थ प्रतिक्रिया और एक पूरी तरह से सहानुभूतिपूर्ण प्रतिक्रिया के बीच के प्राकृतिक अंतर के लगभग एक चौथाई तक बढ़ा दिया। एआई पूरी तरह से सहानुभूतिपूर्ण नहीं हुआ; वह केवल उस दिशा में थोड़ा सा स्थानांतरित हुआ। अन्य परीक्षण किए गए मॉडल्स में, प्रभाव और भी छोटा था, कभी-कभी लगभग नगण्य।
संज्ञानात्मक सहानुभूति (दूसरे व्यक्ति की स्थिति को समझने और व्यक्त करने की क्षमता) के लिए कहानी अलग थी। यहाँ, शोधकर्ताओं ने पाया कि चाहे उन्होंने मॉडल्स को कैसे भी स्टीयर करने की कोशिश की, स्वचालित स्कोर में कोई बदलाव नहीं हुआ। हालाँकि, अध्ययन एक महत्वपूर्ण सूक्ष्मता प्रदान करता है: यह कमी इस बात का प्रमाण नहीं थी कि एआई को अधिक सहानुभूतिपूर्ण नहीं बनाया जा सकता था। इसके बजाय, संज्ञानात्मक सहानुभूति को मापने के लिए उपयोग किए गए उपकरण इतने कुंद (blunt) पाए गए कि वे उन सूक्ष्म अंतरों का पता लगाने में असमर्थ थे जो हस्तक्षेप द्वारा उत्पन्न किए जा सकते थे। मापने वाले उपकरण एक पूरी तरह से तटस्थ संदेश और एक अत्यधिक भावनात्मक संदेश के बीच अंतर तो बता सकते थे, लेकिन वे भावनात्मक सहायता के क्षेत्र के भीतर समझ के दो अलग-अलग स्तरों के बीच विश्वसनीय रूप से अंतर नहीं कर सकते थे। क्योंकि मापने वाला उपकरण स्वयं पर्याप्त संवेदनशील नहीं था, शोधकर्ताओं ने निष्कर्ष निकाला कि स्टीयरिंग का प्रभाव शून्य होने के बजाय अप्राप्य (unmeasurable) था।
शायद सबसे महत्वपूर्ण बात यह है कि अध्ययन में पाया गया कि भले ही स्वचालित स्कोर में बदलाव आया हो, लेकिन मानव पाठकों द्वारा उस बदलाव को महसूस किए जाने का कोई प्रमाण नहीं था। मानव स्वयंसेवकों के एक पैनल को स्टीयर्ड (निर्देशित) प्रतिक्रियाओं को आंकने के लिए कहा गया था, लेकिन वे लगातार यह पहचानने में विफल रहे कि कौन सी प्रतिक्रियाएं अधिक सहानुभूतिपूर्ण थीं। यह सुझाव देता है कि एआई द्वारा किए गए परिवर्तन उस प्रकार के बदलाव नहीं थे जिन्हें एक मानव नोटिस करता या महत्व देता। शोधकर्ताओं ने यह भी परीक्षण किया कि क्या इन सहानुभूति संकेतों को पूरी तरह से हटाने से एआई कम सहानुभूतिपूर्ण हो जाएगा। एक विशिष्ट मॉडल में, संज्ञानात्मक समझ के संकेत को हटाने से स्कोर कम हो गया, लेकिन यह प्रभाव एआई द्वारा छोटे उत्तर लिखने से जुड़ा था, जिसे मापने वाला उपकरण दंडित कर रहा था। जब शोधकर्ताओं ने टेक्स्ट की लंबाई को ध्यान में रखा, तो संज्ञानात्मक स्कोर पर प्रभाव बना रहा, लेकिन यह अभी भी एक साफ, विश्वसनीय स्विच नहीं था जिसका उपयोग एआई के व्यवहार को नियंत्रित करने के लिए किया जा सके।
अंततः, यह अध्ययन प्रदर्शित करता है कि एआई के भीतर सहानुभूति के संकेत को खोजना उसे उत्पन्न करने के लिए एक विश्वसनीय नियंत्रण होने के समान नहीं है। जबकि मॉडल्स को थोड़ी अधिक भावनात्मक अनुनाद दिखाने के लिए प्रेरित किया जा सकता है, इसका प्रभाव सीमित है और यह मानवीय रूप से महसूस किए जाने वाले सुधार में परिवर्तित नहीं होता है। एक गुण का पता लगाने की क्षमता उसे स्टीयर करने की क्षमता की गारंटी नहीं देती है, विशेष रूप से तब जब परिणाम को मापने के उपकरण परिवर्तनों को देखने के लिए पर्याप्त सूक्ष्म (fine-tuned) नहीं होते हैं। यह निष्कर्ष उन लोगों के लिए एक चेतावनी के रूप में कार्य करता है जो भावनात्मक सहायता के लिए एआई को तैनात करने की आशा करते हैं, जो यह दर्शाता है कि केवल सहानुभूति के लिए एक "डायल" को बढ़ाने से वह वास्तविक, मानवीय संबंध प्राप्त नहीं होगा जिसकी आवश्यकता है। यह शोध इस बात पर जोर देता है कि मशीन जो कह सकती है और एक इंसान जो सहानुभूति के रूप में अनुभव करता है, उनके बीच एक अंतर है, जो इन जटिल व्यवहारों को मापने और नियंत्रित करने के लिए अधिक सावधानीपूर्ण दृष्टिकोण का आह्वान करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।