Incongruent Positivity: When Miscalibrated Positivity Undermines Online Supportive Conversations
यह शोध पत्र "इनकोग्रुएंट पॉजिटिविटी" (असंगत सकारात्मकता) की जांच करता है, जहाँ नेक इरादे वाले लेकिन गलत तरीके से अंशांकित सकारात्मक उत्तर ऑनलाइन सहायता को कमजोर कर देते हैं, जो यह प्रकट करता है कि लार्ज लैंग्वेज मॉडल्स उच्च-जोखिम वाले भावनात्मक संदर्भों में इस तरह के उपेक्षापूर्ण आशावाद के प्रति विशेष रूप से संवेदनशील होते हैं और अधिक संदर्भ-जागरूक, विश्वास-संरक्षण करने वाले सहायक संवाद प्रणालियों के विकास के मार्गदर्शन हेतु एक पहचान ढांचे का प्रस्ताव करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपका दिन बहुत बुरा बीत रहा है। आप सांत्वना के लिए अपने एक दोस्त के पास जाते हैं, लेकिन सुनने के बजाय, वह कहता है, "बस मुस्कुराओ! सब ठीक हो जाएगा!" इससे आपको बेहतर महसूस करने के बजाय और भी बुरा लग सकता है। आपको ऐसा महसूस होता है जैसे वह वास्तव में आपके दर्द को नहीं सुन रहा है।
यह शोध उसी भावना के बारे में है, लेकिन जब यह AI चैटबॉट्स (जैसे वे जिनसे आप अपने फोन पर बात करते हैं) के साथ होता है। शोधकर्ता इसे "इनकोग्रुएंट पॉजिटिविटी" (Incongruent Positivity) कहते हैं।
यहाँ उनके शोध की कहानी है, जिसे सरल भागों में विभाजित किया गया है:
1. समस्या: "टॉक्सिक चीयरलीडर" (विषैला उत्साहवर्धक)
शोधकर्ताओं ने देखा कि जब लोग दुखी, चिंतित या शोक में होते हैं, तो AI चैटबॉट्स अक्सर बहुत अधिक सकारात्मक होकर मददगार बनने की कोशिश करते हैं। वे एक ऐसे चीयरलीडर की तरह व्यवहार करते हैं जो आपके रोने के दौरान भी "तुम यह कर सकते हो!" चिल्लाना बंद नहीं करता।
इस शोध में इसे "मिसगाइडेड पॉजिटिविटी" (Misguided Positivity) कहा गया है। यह तीन तरीकों से होता है:
- द डिमिसिव (उपेक्षा करने वाला): AI कहता है, "इसके बारे में ज्यादा सोचना बंद करो," जिसका प्रभावी अर्थ यह है कि आपकी भावनाओं का कोई महत्व नहीं है।
- द मिनिमाइज़िंग (कम करके आंकने वाला): AI कहता है, "हर कोई इससे गुजरता है," जिससे आपकी बड़ी समस्या एक छोटी, सामान्य परेशानी लगने लगती है।
- द अनरियलिस्टिक (अवास्तविक): AI कहता है, "बस खुद पर विश्वास रखो और जादू हो जाएगा!"—एक ऐसा समाधान पेश करना जो वास्तव में अस्तित्व में ही नहीं है।
उपमा: कल्पना कीजिए कि आपका पैर टूट गया है। एक अच्छा डॉक्टर उस पर प्लास्टर लगाता है। एक "मिसगाइडेड पॉजिटिव" डॉक्टर आपको एक बैंड-एड थमाता है और कहता है, "बस दौड़कर इसे ठीक कर लो! कल तक तुम मैराथन धावक बन जाओगे!" यह सुनने में अच्छा लगता है, लेकिन यह बेकार है और वास्तव में नुकसान पहुँचाता है क्योंकि यह आपके टूटे हुए पैर की वास्तविकता को अनदेखा करता है।
2. प्रयोग: इंसान बनाम रोबोट
शोधकर्ता वास्तविक बातचीत खोजने के लिए Reddit (एक विशाल ऑनलाइन फोरम) पर गए। उन्होंने दो प्रकार की समस्याओं को देखा:
- मामूली चिंताएं: जैसे रिश्तों का ड्रामा या सामान्य सलाह।
- गंभीर चिंताएं: जैसे गहरा शोक, चिंता या अवसाद।
उन्होंने इन समस्याओं के प्रति इंसानों के जवाब बनाम AI (LLMs) के जवाबों की तुलना की।
निष्कर्ष:
- मामूली स्थितियों में: AI वास्तव में ठीक था। यह पर्याप्त सहायक लग रहा था।
- गंभीर स्थितियों में: AI विफल हो गया। इंसानों की तुलना में AI द्वारा उपेक्षा करने या अवास्तविक सलाह देने की संभावना बहुत अधिक थी। इंसान जानते थे कि कब चुप रहना है और बस सुनना है; AI चीज़ों को "ठीक" करने के लिए खाली आशावाद के साथ कोशिश करता रहा।
परिणाम: जब लोगों से पूछा गया, "किसने आपको बेहतर महसूस कराया?" तो गंभीर स्थितियों में इंसान आसानी से जीत गए। AI केवल हल्की, सामान्य बातचीत में ही जीत सका।
3. सुधार: क्या हम AI को स्मार्ट बनाने के लिए प्रशिक्षित कर सकते हैं?
शोधकर्ताओं ने AI को बेहतर तरीके से सिखाने की कोशिश की। उन्होंने AI को लिया और उसे हजारों उदाहरणों के साथ "फीड" किया जहाँ लोगों ने कम भावनाओं (शांत) और मजबूत भावनाओं (तीव्र) के साथ प्रतिक्रिया दी थी।
उपमा: AI को एक छात्र के रूप में सोचें।
- प्रशिक्षण से पहले: छात्र एक रोबोट है जो हमेशा "अच्छा काम किया!" कहता है, चाहे कुछ भी हो।
- "मजबूत भावनाओं" पर प्रशिक्षण के बाद: छात्र ने अधिक गंभीर होना सीखा, लेकिन वे अभी भी सामान्य, सतही सलाह देने की प्रवृत्ति रखते थे (जैसे एक "मिनिमाइजिंग" चीयरलीडर)।
- "कम भावनाओं" पर प्रशिक्षण के बाद: छात्र अधिक संतुलित और सतर्क हो गया, जिससे सबसे खराब गलतियाँ टल गईं, लेकिन वे अभी भी वास्तव में उपयोगकर्ता के दर्द को महसूस करने के लिए संघर्ष कर रहे थे।
सबक: आप AI को सिर्फ "दयालु" बनाना नहीं सिखा सकते। आपको इसे सटीक होना सिखाना होगा। उसे पता होना चाहिए कि कब सकारात्मक होना है और कब बस आपके साथ अंधेरे में बैठना है।
4. समाधान: एक नया "झूठ पकड़ने वाला यंत्र"
चूंकि AI ये गलतियाँ अक्सर करता है, इसलिए शोधकर्ताओं ने "मिसगाइडेड पॉजिटिविटी" को पहचानने के लिए एक विशेष उपकरण (एक कंप्यूटर प्रोग्राम) बनाया।
- उपकरण: उन्होंने दो स्मार्ट डिटेक्टर्स (जिन्हें DeBERTa और MentalBERT कहा जाता है) की एक "टीम" बनाई जो मिलकर काम करती है।
- कार्य: यह टीम AI के जवाबों को पढ़ती है और यदि वे उपेक्षापूर्ण, कम करके आंकने वाले या अवास्तविक हो रहे हैं, तो उन्हें फ्लैग (चिह्नित) करती है।
- सफलता: यह उपकरण AI को "नकली चीयरलीडर" बनने के लिए पकड़ने में काफी अच्छा है, खासकर गंभीर स्थितियों में।
5. भविष्य के लिए यह क्यों महत्वपूर्ण है
यह शोध एक बहुत ही महत्वपूर्ण चेतावनी के साथ समाप्त होता है: हम केवल AI को हमारे गहरे भावनात्मक संकटों को संभालने के लिए नहीं छोड़ सकते।
- छोटी समस्याओं के लिए: AI बहुत अच्छा है। यह एक त्वरित प्रोत्साहन या सामान्य सलाह दे सकता है।
- बड़ी समस्याओं के लिए (शोक, आत्महत्या, आघात): यदि अकेला छोड़ा गया तो AI खतरनाक है। यह अत्यधिक आशावादी या उपेक्षापूर्ण होकर अनजाने में स्थिति को बदतर बना सकता है।
अंतिम रूपक:
भावनात्मक सहायता को आग बुझाने (फायरफाइटिंग) के रूप में सोचें।
- यदि आपके पास कचरे के डिब्बे की छोटी आग है, तो एक रोबोट स्प्रिंकलर (AI) एकदम सही है। यह इसे जल्दी बुझा देता है।
- यदि आपके पास जलती हुई इमारत है (गहरा शोक/आघात), तो आपको एक मानव अग्निशामक की आवश्यकता है। आपको किसी ऐसे व्यक्ति की आवश्यकता है जो धुएं को सूंघ सके, गर्मी को महसूस कर सके और जटिल निर्णय ले सके। यदि आप जलती हुई इमारत में रोबोट स्प्रिंकलर भेजते हैं, तो वह गलत जगह पर पानी छिड़क सकता है और आग को और फैला सकता है।
मुख्य बात:
हमें ऐसा AI बनाने की आवश्यकता है जो "कचरे के डिब्बे की आग" और "जलती हुई इमारत" के बीच अंतर करना जानता हो। उसे हर समय खुश रहने की कोशिश करना बंद करना होगा और यह सीखना होगा कि सहानुभूतिपूर्ण, वास्तविक और सुरक्षित कैसे बना जाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।