Guiding Language Models to Be More Empathetic: Culturally Sensitive Mental Health Advice Generation Through Human-LLM Collaboration

कल्पना कीजिए कि इंटरनेट एक विशाल, हलचल भरे पुस्तकालय की तरह है जहाँ हर कोई शून्य में अपने विचार, भावनाएँ और चिंताएँ चिल्ला रहा है। लंबे समय तक, इस पुस्तकालय के "लाइब्रेरियन" केवल इंसान थे, लेकिन हाल ही में, हमने एक नए प्रकार के सहायक को आमंत्रित किया है: आर्टिफिशियल इंटेलिजेंस। विशेष रूप से, हमने लार्ज लैंग्वेज मॉडल्स (LLMs) को आमंत्रित किया है। इन मॉडल्स को ऐसे सुपर-स्मार्ट तोतों के रूप में सोचें जिन्होंने अस्तित्व में मौजूद लगभग हर किताब, पोस्ट और लेख को पढ़ा है। वे मानवीय बातचीत की नकल करने में अविश्वसनीय हैं, लेकिन वे उन पर्यटकों की तरह भी हैं जिन्होंने उस देश में कभी वास्तव में निवास नहीं किया है जिसका वे दौरा कर रहे हैं। वे "उदासी" या "अकेलेपन" जैसे शब्दों की शब्दकोश परिभाषाओं को जानते हैं, लेकिन वे उन विशिष्ट सांस्कृतिक नियमों, पारिवारिक गतिशीलता या अनकहे सामाजिक दबावों को नहीं समझ सकते जो किसी विशिष्ट स्थान—जैसे बांग्लादेश—के लोगों की भावनाओं और उनके उपचार के तरीके को आकार देते हैं।

यहीं असली चुनौती निहित है। जब कोई कठिन समय से गुजर रहा होता है, तो उसे केवल सहानुभूति की शब्दकोश परिभाषा की आवश्यकता नहीं होती; उसे एक ऐसे दोस्त की आवश्यकता होती है जो उसकी दुनिया को समझता हो। यदि कोई कंप्यूटर ऐसी सलाह देता है जो बहुत अमेरिकी या बहुत रोबोटिक लगती है, तो ढाका के एक किशोर के लिए यह ठंडा, भ्रमित करने वाला या यहाँ तक कि कष्टदायक भी हो सकता है। बड़ा सवाल जो शोधकर्ता पूछ रहे हैं वह यह है: क्या हम इन डिजिटल तोतों को न केवल भाषा बोलना, बल्कि संस्कृति को महसूस करना सिखा सकते हैं? क्या हम उन्हें एक टेक्स्ट-जनरेटिंग मशीन के बजाय एक दयालु, सांस्कृतिक रूप से जागरूक परामर्शदाता की तरह कार्य करने के लिए बना सकते हैं? यही उस कहानी का केंद्र है जिसे हम अभी तलाशने जा रहे हैं।

---

शोध पत्र: AI को सांस्कृतिक रूप से संवेदनशील परामर्शदाता बनाना सिखाना

यह शोध पत्र इस बारे में एक मास्टरक्लास की तरह है कि कैसे एक सामान्य AI को बांग्ला (बांग्लादेश की भाषा) बोलने वाले लोगों के लिए एक सांस्कृतिक रूप से संवेदनशील मानसिक स्वास्थ्य मार्गदर्शक में बदला जाए। शोधकर्ताओं ने, जो कई विश्वविद्यालयों के बांग्लादेश और अन्य स्थानों के विशेषज्ञों की एक टीम है, एक अंतर देखा: जबकि AI मानसिक स्वास्थ्य के बारे में बात करने में बेहतर हो रहा है, इसका परीक्षण मुख्य रूप से अंग्रेजी बोलने वालों पर किया गया है। वे देखना चाहते थे कि क्या AI बांग्लादेश में मानसिक स्वास्थ्य संघर्षों की जटिल, भावनात्मक और गहराई से सांस्कृतिक वास्तविकता को संभाल सकता है, जहाँ पारिवारिक सम्मान, धार्मिक मूल्य और सामाजिक अपेक्षाएं इस बात में बड़ी भूमिका निभाती हैं कि लोग कैसे मुकाबला करते हैं।

नुस्खा: माइंडस्पीक-बांग्ला (MindSpeak-Bangla)
अपने विचारों का परीक्षण करने के लिए, टीम ने केवल काल्पनिक कहानियाँ नहीं बनाईं। उन्होंने माइंडस्पीक-बांग्ला नामक एक विशेष डेटासेट तैयार किया, जो 625 वास्तविक जीवन के मानसिक स्वास्थ्य मामलों का एक संग्रह है। उन्होंने ये कहानियाँ तीन जगहों से एकत्र कीं:

1. फेसबुक पोस्ट, जहाँ लोग अपने संघर्षों के बारे में अपनी भड़ास निकाल रहे थे।
2. लोकप्रिय बांग्लादेशी टीवी शो "आमी अखोन की कोरबो" (मैं अब क्या करूँ?) के ट्रांसक्रिप्ट्स, जहाँ दर्शक सलाह मांगते हैं।
3. विश्वविद्यालय के छात्रों द्वारा भरे गए गुमनाम प्रश्नावली।

इन कहानियों में दिल टूटने और तलाक से लेकर गहरे अवसाद और यहाँ तक कि यौन उत्पीड़न तक सब कुछ शामिल था। यह सुनिश्चित करने के लिए कि AI का निष्पक्ष रूप से मूल्यांकन किया जाए, शोधकर्ताओं ने लाइसेंस प्राप्त क्लिनिकल मनोवैज्ञानिकों से ही इन समान 625 मामलों के लिए अपनी सलाह लिखवाई। ये मानव-लिखित प्रतिक्रियाएँ "गोल्ड स्टैंडर्ड" बन गईं—एक देखभाल करने वाले, सांस्कृतिक रूप से जागरूक परामर्शदाता के लिए आदर्श उदाहरण।

गुप्त सूत्र: RP-RCAF
शोधकर्ता जानते थे कि केवल AI से यह पूछना कि, "मैं इसे कैसे ठीक करूँ?" पर्याप्त नहीं था। AI संभवतः एक सामान्य, रोबोटिक उत्तर देगा। इसलिए, उन्होंने एक विशेष प्रॉम्प्टिंग रणनीति विकसित की जिसे RP-RCAF (रोल-प्लेइंग रिफ्लेक्टिव चेन-ऑफ-थॉट एडवाइजरी फ्रेमवर्क) कहा जाता है।

इस फ्रेमवर्क को AI को एक बहुत ही विशिष्ट वेशभूषा और स्क्रिप्ट देना समझें। केवल एक "चैटबॉट" होने के बजाय, AI को एक दयालु, सांस्कृतिक रूप से जागरूक मानसिक स्वास्थ्य सलाहकार की भूमिका निभाने (role-play) के लिए कहा जाता है। लेकिन यह सीधे उत्तर पर नहीं कूदता। इसे एक रिफ्लेक्टिव चेन-ऑफ-थॉट का पालन करना होता है, जो एक मानसिक चेकलिस्ट की तरह है जिसे AI को बोलने से पहले पूरा करना होता है:

1. चरण 1: उपयोगकर्ता की भावनाओं और विशिष्ट सांस्कृतिक संदर्भ को गहराई से समझना (जैसे, "यह व्यक्ति डरा हुआ है क्योंकि उसके परिवार को पता चल सकता है")।
2. चरण 2: बिना निर्णय लिए उनकी भावनाओं को मान्य करना।
3. चरण 3: व्यावहारिक, सांस्कृतिक रूप से सुरक्षित सलाह देना (जैसे, किसी अजनबी के बजाय एक भरोसेमंद रिश्तेदार से बात करने का सुझाव देना, जो उस संस्कृति में अधिक स्वीकार्य हो सकता है)।
4. चरण 4: यह सुनिश्चित करना कि वे चिकित्सा निदान (जो AI को नहीं करना चाहिए) नहीं दे रहे हैं, बल्कि आवश्यकता पड़ने पर पेशेवर मदद के लिए प्रोत्साहित कर रहे हैं।

टेस्ट ड्राइव
उन्होंने तीन प्रोप्राइटरी AI मॉडल्स—GPT-4o Mini, Claude 4.5 Haiku, और Gemini 2.5 Pro—की कड़ी परीक्षा ली। इस शोध संदर्भ के भीतर उनकी क्षमताओं का परीक्षण करने के लिए इन विशिष्ट संस्करणों को चुना गया था। उन्होंने उन्हें तीन तरीकों से परखा:

• जीरो-शॉट (Zero-Shot): बिना किसी मदद के AI से उत्तर देने के लिए कहना।
• फ्यू-शॉट (Few-Shot): AI को अच्छे उत्तरों के कुछ उदाहरण देना।
• RP-RCAF: उनके नए विशेष फ्रेमवर्क का उपयोग करना।

परिणाम: AI को बढ़ावा मिलता है, लेकिन इंसान अभी भी जीतते हैं
परिणाम स्पष्ट और रोमांचक थे। RP-RCAF फ्रेमवर्क एक जादू की छड़ी की तरह काम कर गया। सभी स्तरों पर, AI मॉडल सामान्य रूप से पूछने की तुलना में इस पद्धति का उपयोग करने पर काफी बेहतर प्रदर्शन करते थे।

• Gemini 2.5 Pro इस विशिष्ट अध्ययन में स्टार स्टूडेंट साबित हुआ, जिसने समग्र रूप से उच्चतम स्कोर किया।
• Claude 4.5 Haiku दूसरे स्थान पर रहा।
• GPT-4o Mini तीसरे स्थान पर रहा।

हालाँकि, इस जादुई फ्रेमवर्क के साथ भी, AI पूरी तरह से लाइसेंस प्राप्त मानव मनोवैज्ञानिकों की बराबरी नहीं कर सका। AI स्पष्ट होने और व्याकरण की दृष्टि से सही होने में अच्छा था, लेकिन वह अभी भी गहरे सांस्कृतिक सूक्ष्मताओं और भावनात्मक संवेदनशीलता के साथ थोड़ा संघर्ष करता था। उदाहरण के लिए, यौन शोषण या आत्म-क्षति जैसी बहुत उच्च जोखिम वाली स्थितियों में, AI की सलाह अच्छी थी, लेकिन मानव विशेषज्ञ अभी भी सबसे विश्वसनीय थे।

सुरक्षा जाल: G-REFS और मानव समीक्षा
यह सुनिश्चित करने के लिए कि AI कुछ भी खतरनाक न कहे, टीम ने एक स्कोरिंग सिस्टम बनाया जिसे G-REFS (ग्रॉक 4-आधारित रिस्पॉन्स इवैल्यूएशन एंड स्कोरिंग फ्रेमवर्क) कहा जाता है। यह सिस्टम एक सख्त शिक्षक की तरह काम करता है जो चार चीजों पर AI के होमवर्क को ग्रेड देता है:

1. भावनात्मक संवेदनशीलता: क्या यह दयालु है?
2. सांस्कृतिक उपयुक्तता: क्या यह बांग्लादेशी संदर्भ में फिट बैठता है?
3. भाषाई स्पष्टता: क्या बांग्ला स्वाभाविक और स्पष्ट है?
4. नैतिक सुरक्षा: क्या यह सुरक्षित है और गलत चिकित्सा सलाह तो नहीं दे रहा है?

यदि AI का स्कोर कम आता, तो उसे वापस ड्राइंग बोर्ड पर भेज दिया जाता था। यदि स्कोर मध्यम होता, तो मानव विशेषज्ञ उत्तर को सुधारने के लिए हस्तक्षेप करते। यदि स्कोर उच्च होता, तो उसे स्वीकार कर लिया जाता। यह "ह्यूमन-इन-द-लूप" प्रक्रिया महत्वपूर्ण थी। इसने दिखाया कि जबकि AI बहुत सारा भारी काम कर सकता है, सुरक्षा और विश्वास के लिए मानव विशेषज्ञ द्वारा काम की दोबारा जाँच करना आवश्यक है।

बड़ी सीख
यह शोध पत्र सुझाव देता है कि हम सही दिशा में हैं। हमें मानव परामर्शदाताओं को AI से बदलने की आवश्यकता नहीं है, लेकिन हम ऐसे AI उपकरण बना सकते हैं जो विशिष्ट संस्कृतियों के लोगों को बेहतर सहायता प्रदान कर सकें यदि हम उन्हें सोचने का सही तरीका सिखाएं। RP-RCAF पद्धति ने सिद्ध किया कि AI को बोलने से पहले संस्कृति और सहानुभूति के बारे में "सोचने" के लिए मजबूर करके, हम मानव देखभाल की गुणवत्ता के बहुत करीब पहुँच सकते हैं।

हालाँकि, लेखक सावधानी बरतते हुए कहते हैं कि यह कोई हल हो चुकी समस्या नहीं है। सबसे संवेदनशील और खतरनाक स्थितियों के लिए AI को अभी भी मानव निरीक्षण की आवश्यकता है। वे यह भी नोट करते हैं कि उनके अध्ययन ने विशिष्ट समूहों (जैसे छात्रों और टीवी दर्शकों) पर ध्यान केंद्रित किया, इसलिए ग्रामीण क्षेत्रों या विभिन्न सामाजिक वर्गों के लोगों को समझने के लिए AI को और अधिक प्रशिक्षण की आवश्यकता हो सकती है। लेकिन कुल मिलाकर, यह कार्य लाखों लोगों के लिए, जो बांग्ला बोलते हैं, मानसिक स्वास्थ्य सहायता को उपलब्ध, किफायती और सांस्कृतिक रूप से दयालु बनाने की दिशा में एक बड़ा कदम है।