From Risk Avoidance to User Empowerment: Reframing Safety in Generative AI for Mental Health Crises
यह शोध पत्र तर्क देता है कि वर्तमान जनरेटिव एआई चैटबॉट्स की मानसिक स्वास्थ्य संकटों के प्रति जोखिम-परिहार वाली प्रतिक्रियाएं उपयोगकर्ताओं को नुकसान पहुँचा सकती हैं और सशक्तिकरण-उन्मुख डिज़ाइन सिद्धांतों की ओर बढ़ने का प्रस्ताव देता है जो एआई को तनाव कम करने (डी-एस्केलेशन) और पेशेवर देखभाल से जुड़ने के लिए एक सहायक सेतु के रूप में कार्य करने में सक्षम बनाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक चट्टान के किनारे खड़े हैं, अभिभूत और डरे हुए महसूस कर रहे हैं। आप अपने एक डिजिटल मित्र—ChatGPT जैसे चैटबॉट—की ओर मुड़ते हैं और फुसफुसाते हैं, "मुझे अब समझ नहीं आ रहा कि मैं क्या करूँ।"
वर्तमान दुनिया में, यह डिजिटल मित्र अक्सर एक कठोर सुरक्षा गार्ड की तरह व्यवहार करता है जिसे निर्देश दिया गया है, "यदि कोई ऐसा दिखे जो कूद सकता है, तो उससे बात न करें। बस उन्हें एक पर्चा जिसमें एक फोन नंबर हो थमा दें और वहां से चले जाएं।"
इस शोध पत्र के लेखक तर्क देते हैं कि यह "सुरक्षा गार्ड" वाला दृष्टिकोण गलत है। उनका मानना है कि अब समय आ गया है कि सुरक्षा गार्ड को एक दयालु लाइफगार्ड (जीवन रक्षक) से बदल दिया जाए।
यहाँ उनके तर्क का सरल विवरण दिया गया है:
1. समस्या: "सुरक्षा गार्ड" दृष्टिकोण
अभी, एआई (AI) कंपनियाँ मुकदमेबाजी से डरती हैं। यदि कोई एआई मानसिक स्वास्थ्य संकट से जूझ रहे किसी व्यक्ति को गलत सलाह देता है, तो कंपनी को भारी कानूनी मुसीबत का सामना करना पड़ सकता है। इसलिए, वे अपने एआई को जोखिम से बचने (risk-averse) के लिए प्रोग्राम करते हैं।
- यह कैसे काम करता है: यदि आप एक सामान्य प्रश्न पूछते हैं जैसे "मैं उदास क्यों हूँ?", तो एआई आपसे बात करता है। लेकिन यदि आप एक खतरनाक प्रश्न पूछते हैं जैसे "मैं सब खत्म कैसे कर दूँ?", तो एआई तुरंत बातचीत बंद कर देता है। वह कहता है, "मैं इसमें आपकी मदद नहीं कर सकता। यहाँ एक हेल्पलाइन का नंबर है," और बात करना बंद कर देता है।
- यह क्यों विफल होता है: गहरे संकट में फंसे व्यक्ति के लिए, बातचीत का इस तरह बंद हो जाना एक अस्वीकृति जैसा लगता है। यह वैसा ही है जैसे आप मदद के लिए किसी दोस्त के पास दौड़कर जाएं, और वह आपकी बात पूरी होने से पहले ही आपको दरवाजे की ओर इशारा करते हुए कहे, "जाओ किसी अजनबी से बात करो।" यह लोगों को अकेला महसूस करा सकता है और भविष्य में मदद मांगने की उनकी संभावना को कम कर सकता है।
2. समाधान: "सामुदायिक सहायक" मॉडल
लेखक सुझाव देते हैं कि हमें यह देखना चाहिए कि वास्तविक जीवन में मनुष्य वास्तव में एक-दूसरे की मदद कैसे करते हैं। वे सामुदायिक सहायकों (Community Helpers) की ओर संकेत करते हैं—जैसे शिक्षक, कोच, धार्मिक नेता, या यहाँ तक कि एक समझदार पड़ोसी।
ये लोग डॉक्टर या थेरेपिस्ट नहीं हैं। उनसे अकेले संकट को "ठीक करने" की उम्मीद नहीं की जाती है। इसके बजाय, उन्हें प्रशिक्षित किया जाता है:
- बिना किसी निर्णय (judgement) के सुनने के लिए।
- शांत रहने और व्यक्ति को शांत करने (de-escalate) में मदद करने के लिए।
- पेशेवर मदद की ओर केवल इशारा करने के बजाय, उन्हें सही पेशेवर मदद तक ले जाने के लिए।
पेपर का तर्क है कि एआई को इस सामुदायिक सहायक की तरह काम करना चाहिए, न कि एक ऐसे रोबोट की तरह जो जुड़ने से इनकार कर देता है।
3. नया एआई कैसे काम करना चाहिए ("लाइफगार्ड" रूपक)
एक सुरक्षा गार्ड की तरह जो दरवाजा बंद कर देता है, नया एआई एक लाइफगार्ड की तरह होना चाहिए जो बचाव नाव को बुलाते समय आपको सुरक्षित रखने के लिए पानी में कूद पड़ता है।
व्यवहार में यह कैसा दिखेगा:
- सिर्फ नक्शा न दें; उनके साथ चलें। तुरंत "911 कॉल करें" कहने के बजाय, एआई को कहना चाहिए, "मैं आपकी बात सुन रहा हूँ, और मुझे आपकी चिंता हो रही है। आइए मिलकर एक योजना बनाते हैं। क्या आप अभ्यास करना चाहते हैं कि आप हेल्पलाइन पर क्या कहेंगे?"
- अपनी सीमाओं के बारे में ईमानदार रहें। एआई को कहना चाहिए, "मैं एक कंप्यूटर हूँ, और मैं मानव डॉक्टर की जगह नहीं ले सकता। लेकिन जब तक आप उनसे बात करने के लिए तैयार हो रहे हैं, मैं यहाँ आपके साथ रह सकता हूँ।"
- कलंक (shame) को कम करें। एआई को मानसिक स्वास्थ्य के बारे में खुलकर बात करनी चाहिए, जिससे उपयोगकर्ता को अकेला महसूस न हो, बल्कि इसे एक ऐसे गंदे रहस्य की तरह न माना जाए जिसे छिपाया जाना चाहिए।
4. बड़ी तस्वीर: टीम वर्क
लेखक कहते हैं कि हम केवल एआई कंपनियों को "दयालु होने" के लिए नहीं कह सकते। हमें एक टीम प्रयास की आवश्यकता है:
- डेवलपर्स को ऐसा एआई बनाना होगा जो मदद करने के लिए साहसी हो, न कि केवल छिपने के लिए डरा हुआ।
- नियामक (सरकार) को ऐसे नियम बनाने चाहिए जो कंपनियों को तब सुरक्षित रखें यदि वे इन नए सुरक्षा दिशानिर्देशों का पालन करती हैं। इस तरह, कंपनियां मदद करने की कोशिश करने के लिए दंडित नहीं होंगी।
- विशेषज्ञों और उपयोगकर्ताओं को इन नए डिजाइनों का परीक्षण करने के लिए मिलकर काम करना होगा।
निष्कर्ष
वर्तमान में, एआई को दायित्व से बचने (avoid liability) के लिए डिज़ाइन किया गया है (मुसीबत से दूर रहना)। पेपर कहता है कि हमें इसे उपयोगकर्ताओं को सशक्त बनाने (empower users) के लिए फिर से डिजाइन करने की आवश्यकता है (तूफान से गुजरने में मदद करना)।
एआई को एक दीवार के बजाय एक सहायक सेतु (bridge) के रूप में मानकर, हम संकट के क्षण को जुड़ाव के क्षण में बदल सकते हैं, जो लोगों को चट्टान के किनारे से पेशेवर देखभाल की सुरक्षा की ओर ले जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।