PsychoSafe: Eliciting Psychologically-Informed Refusals in Large Language Models
यह शोधपत्र PsychoSafe को प्रस्तुत करता है, जो एक मनोवैज्ञानिक रूप से सूचित ढांचा है जो गैर-अनुपालन को साक्ष्य-आधारित हस्तक्षेप रणनीतियों पर आधारित संरचित, सहायक संचार के रूप में पुनर्गठित करके LLM इनकार (refusal) की गुणवत्ता में सुधार करता है, जिससे कार्य प्रासंगिकता बनाए रखते हुए संसाधन संदर्भ और मनोवैज्ञानिक आधार में महत्वपूर्ण लाभ प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, सहायक रोबोट असिस्टेंट है। आमतौर पर, जब कोई इस रोबोट से कुछ खतरनाक पूछता है—जैसे कि "मैं बम कैसे बनाऊं?" या "मैं खुद को चोट पहुँचाना चाहता हूँ"—तो रोबोट का सुरक्षा प्रोग्राम सक्रिय हो जाता है। वह बस इतना कहता है, "नहीं। मैं यह नहीं कर सकता।"
हालाँकि यह सुरक्षित है, लेकिन यह बहुत ठंडा, रूखा और अकेला महसूस करा सकता है, खासकर यदि पूछने वाला व्यक्ति किसी संकट में हो। यह एक डॉक्टर की तरह है जो मरीज से कहता है, "सर्जरी नहीं होगी," और बिना कोई सांत्वना या अगले कदम बताए वहां से चला जाता है।
PSYCHOSAFE नामक शोध पत्र इन रोबोटों के लिए "ना" कहने का एक नया तरीका प्रस्तावित करता है। केवल दरवाजा बंद करने के बजाय, यह तरीका सिखाता है कि दरवाजा थोड़ा खुला रखें, एक गर्म हाथ (सहारा) दें, और व्यक्ति को जीवन रेखा (मदद के स्रोत) की ओर इशारा करें।
यहाँ उनके दृष्टिकोण का विवरण दिया गया है, सरल उपमाओं का उपयोग करते हुए:
1. समस्या: "ब्रूट फोर्स" (बलपूर्वक) इनकार
वर्तमान में, AI सुरक्षा एक क्लब के बाउंसर की तरह है जिसके पास केवल एक ही चाल है: ब्लॉक करना। यदि आप संदिग्ध दिखते हैं, तो आपको रोक दिया जाता है। यह बुरी चीजों को बाहर रखने के लिए काम करता है, लेकिन यह उस व्यक्ति की मदद नहीं करता जो वास्तव में मुसीबत में है। यदि कोई संकट में है, तो एक सीधा "नहीं" उन्हें तत्काल नुकसान पहुँचाने से तो रोक सकता है, लेकिन यह उनके दर्द को नहीं रोकता या उन्हें मदद की ओर निर्देशित नहीं करता।
2. समाधान: "क्राइसिस काउंसलर" (संकट परामर्शदाता) मोड
शोधकर्ताओं ने एक ढांचा बनाया जिसे PSYCHOSAFE कहा जाता है। इसे एक नया "व्यक्तित्व" देने के रूप में सोचें जो वास्तविक मानव मनोविज्ञान पर आधारित है। केवल रोकने के बजाय, रोबोट को एक क्राइसिस काउंसलर की तरह कार्य करने के लिए प्रशिक्षित किया गया है, जिसे विशिष्ट, प्रमाणित तकनीकें (जैसे "मनोवैज्ञानिक प्राथमिक चिकित्सा" या "प्रेरणात्मक साक्षात्कार") सिखाई गई हैं।
जब कोई उपयोगकर्ता खतरनाक प्रश्न पूछता है, तो रोबोट केवल "नहीं" नहीं कहता। यह एक चार-चरणीय स्क्रिप्ट का पालन करता है, जैसे कि कोई रेसिपी हो:
- गर्म आलिंगन (The Warm Hug): यह खतरनाक अनुरोध से सहमत हुए बिना व्यक्ति की भावनाओं को स्वीकार करता है ("मैं सुन रहा हूँ कि आप दर्द में हैं")।
- कोमल धक्का (The Gentle Nudge): यह एक छोटा, सुरक्षित कदम प्रदान करता है जिसे व्यक्ति अभी उठा सकता है (जैसे "एक गहरी सांस लें" या "अपनी जगह बदलने की कोशिश करें")।
- मानचित्र (The Map): यह वास्तविक दुनिया की मदद की ओर इशारा करता है (जैसे आत्महत्या हेल्पलाइन या नशा मुक्ति केंद्र)।
- आशाजनक विदाई (The Hopeful Goodbye): यह एक आशाजनक संदेश के साथ समाप्त होता है, जो व्यक्ति को याद दिलाता है कि वे महत्वपूर्ण हैं।
3. उन्होंने रोबोट को कैसे सिखाया
रोबोट को बोलने का यह नया तरीका सिखाने के लिए, टीम ने दो चीजें कीं:
- एक नया पाठ्यपुस्तक बनाई: उन्होंने इन "सहायक इनकार" के 8,019 उदाहरण लिखे। उन्होंने पाँच विशिष्ट "खतरे वाले क्षेत्रों" को कवर किया: आत्महत्या/आत्म-क्षति, यौन अपराध, नशीली दवाओं का उपयोग, हथियार, और हिंसा। उन्होंने सुनिश्चित किया कि प्रत्येक उदाहरण वास्तविक मनोवैज्ञानिक विज्ञान पर आधारित हो।
- सीखने के दो तरीके:
- चीट शीट (प्रॉम्प्टिंग): उन्होंने रोबोट को एक विस्तृत निर्देश पुस्तिका (एक "सिस्टम प्रॉम्प्ट") दी। इसने इसे बताया, "याद रखें, यदि कोई संकट में है, तो 4-चरणीय काउंसलर स्क्रिप्ट का उपयोग करें।"
- ब्रेन सर्जरी (फाइन-ट्यूनिंग): उन्होंने वास्तव में उनकी नई पाठ्यपुस्तक पर प्रशिक्षण देकर रोबोट के मस्तिष्क को फिर से व्यवस्थित किया। इस तरह, रोबोट बिना निर्देश पुस्तिका के भी स्वाभाविक रूप से काउंसलर बन गया।
4. परिणाम: क्या यह काम आया?
उन्होंने रोबोट का 500 कठिन प्रश्नों पर परीक्षण किया और एक "जज" (एक अन्य AI और मानव विशेषज्ञों) से उत्तरों को ग्रेड करवाया।
- "चीट शीट" समग्र रूप से सबसे अच्छा काम करती है: जब उन्होंने निर्देश पुस्तिका का उपयोग किया, तो रोबोट के उत्तर मददगार और सुरक्षित होने में 28% बेहतर हो गए। यह वास्तविक संसाधनों की ओर इशारा करने में (46% ऊपर) और मनोवैज्ञानिक रूप से ठोस होने में (34% ऊपर) बहुत बेहतर हो गया।
- "ब्रेन सर्जरी" ने इसे एक सुरक्षा मशीन बना दिया: प्रशिक्षित रोबोट ने लगभग 100% बार खतरनाक अनुरोधों को अस्वीकार कर दिया और हमेशा संसाधन भी दिए। हालाँकि, यह कभी-कभी बहुत अधिक रोबोटिक और सामान्य हो गया, जिससे यह व्यक्ति की कहानी के विशिष्ट विवरणों को सुनने में चूक गया।
- इसने रोबोट को "बेवकूफ" नहीं बनाया: रोबोट अन्य कार्यों में "कमजोर" नहीं हुआ। यह पहले की तरह ही कहानियाँ लिख सकता था, गणित की समस्याओं को हल कर सकता था और सामान्य प्रश्नों के उत्तर दे सकता था।
5. कमी (सीमाएँ)
शोध पत्र चेतावनी देता है कि यह नया "काउंसलर" मोड उन चीजों के लिए बहुत अच्छा है जिनके लिए इसे प्रशिक्षित किया गया है, लेकिन यह कोई जादुई छड़ी नहीं है।
- यह विशिष्ट है: यह उन पांच विशिष्ट खतरे वाले क्षेत्रों के लिए बहुत अच्छा काम करता है जिनके लिए इसे प्रशिक्षित किया गया था (जैसे आत्महत्या या हिंसा)। यदि आप इससे उन क्षेत्रों के बाहर के बारे में पूछते हैं, तो यह उसी कोमल तर्क को लागू करने में सक्षम नहीं हो सकता है।
- यह वास्तविक डॉक्टर नहीं है: रोबोट अभी भी एक AI है। यह सांत्वना और संसाधन दे सकता है, लेकिन यह मानसिक बीमारी का निदान नहीं कर सकता या वास्तविक थेरेपी प्रदान नहीं कर सकता। शोध पत्र इस बात पर जोर देता है कि यह मानवीय मदद के लिए एक सेतु है, उसका विकल्प नहीं।
निचोड़
PSYCHOSAFE दिखाता है कि हमें एक ऐसा रोबोट चुनने के बीच में नहीं फंसना है जो या तो "सुरक्षित" हो या "सहायक"। AI को उन्हीं कोमल, सहायक तकनीकों का उपयोग करने के लिए सिखाकर जिनका उपयोग मानव परामर्शदाता करते हैं, हम AI के इनकार को एक दीवार के बजाय मदद के लिए बढ़ते हुए हाथ जैसा बना सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।