Human-Centered AI in Crisis Counseling: A Three-Tier Governance Framework

संकट परामर्श (क्राइसिस काउंसलिंग) की उच्च-दांव वाली दुनिया में, पेशेवर एक अनूठी और थका देने वाली चुनौती का सामना करते हैं। उन्हें निराशा के सबसे गहरे क्षणों में लोगों को सुनना होता है, जो अक्सर फोन या टेक्स्ट के माध्यम से होता है, और उन्हें कुछ ही मिनटों में जीवन-मृत्यु के निर्णय लेने होते हैं। इन परामर्शदाताओं को खतरे के सूक्ष्म संकेतों को पहचानने, तत्काल भावनात्मक सहायता प्रदान करने और जटिल सुरक्षा योजनाओं को संचालित करने के लिए प्रशिक्षित किया जाता है, और यह सब वे कागजी कार्रवाई और फॉलो-अप के भारी प्रशासनिक बोझ को संभालते हुए करते हैं। दबाव अत्यधिक है; एक भी चेतावनी संकेत छूट जाना त्रासदी का कारण बन सकता है, जबकि एक गलत निर्देशित प्रतिक्रिया एक संवेदनशील व्यक्ति को मदद से पूरी तरह से दूर कर सकती है। वर्षों से, शोधकर्ताओं ने इस बात की खोज की है कि क्या आर्टिफिशियल इंटेलिजेंस (AI) भाषा के पैटर्न के आधार पर यह भविष्यवाणी करके मदद कर सकता है कि कौन व्यक्ति आत्महत्या के जोखिम में है। हालांकि, सोच की एक नई धारा यह सुझाव देती है कि केवल कंप्यूटर द्वारा जोखिम का अनुमान लगाना ही पर्याप्त नहीं है। असली सवाल यह नहीं है कि क्या एक मशीन खतरे का अंदाजा लगा सकती है, बल्कि यह है कि एक मशीन का उपयोग मानव परामर्शदाता को सहायता देने के लिए सुरक्षित रूप से कैसे किया जा सकता है, बिना कभी नियंत्रण अपने हाथ में लिए।

अंबिका थंगारजू का एक हालिया शोध पत्र इस प्रश्न का उत्तर देने का एक विशिष्ट तरीका प्रस्तावित करता है। भविष्य की कल्पना करने के बजाय जहाँ कंप्यूटर कठिन निर्णय लेगा, लेखक एक तीन-स्तरीय प्रणाली की रूपरेखा तैयार करते हैं जिसे तकनीक को प्रशासनिक कार्यों का भारी काम संभालने के लिए उपयोग करते हुए, मानवीय निर्णय को मजबूती से प्रभारी रखने के लिए डिज़ाइन किया गया है। यह ढांचा आर्टिफिशियल इंटेलिजेंस को एक डॉक्टर या निर्णय लेने वाले के रूप में नहीं, बल्कि एक अत्यधिक संगठित सहायक के रूप में देखता है जो सख्त पर्यवेक्षण के तहत काम करता है। मुख्य विचार यह है कि कंप्यूटर को सूचना के प्रवाह को प्रबंधित करने, नोट्स का मसौदा तैयार करने और संसाधनों को व्यवस्थित करने दें, जबकि मानव परामर्शदाता जोखिम का आकलन करने, कार्रवाई के मार्ग पर निर्णय लेने और आपातकालीन प्रतिक्रिया की आवश्यकता निर्धारित करने के लिए एकमात्र अधिकार रखता है। यह दृष्टिकोण इस समस्या को हल करने का प्रयास करता है कि कैसे एक ऐसे क्षेत्र में नए शक्तिशाली उपकरणों को एकीकृत किया जाए जहाँ एक एकल त्रुटि के घातक परिणाम हो सकते हैं।

प्रस्तावित प्रणाली जिम्मेदारी के तीन अलग-अलग स्तरों पर आधारित है। पहला स्तर उन कार्यों पर ध्यान केंद्रित करता है जो कॉल से पहले, कॉल के दौरान और कॉल के बाद होते हैं, लेकिन यह नैदानिक निर्णय लेने से सख्ती से बाहर रहता है। इस भूमिका में, आर्टिफिशियल इंटेलिजेंस एक सहायता उपकरण के रूप में कार्य करता है। यह एक परामर्शदाता की मदद कर सकता है जैसे कि तेजी से सुरक्षा योजना टेम्पलेट प्राप्त करना, बाद में समीक्षा के लिए बातचीत का सारांश तैयार करना, या किसी विशिष्ट वाक्यांश को चिह्नित करना जिसे परामर्शदाता को देखने के लिए प्रशिक्षित किया गया है। महत्वपूर्ण रूप से, सिस्टम को कभी भी कॉलर को जोखिम स्तर आवंटित न करने, किसी स्थिति का निदान न करने और अपने आप आपातकालीन हस्तक्षेप शुरू न करने के लिए डिज़ाइन किया गया है। यदि कंप्यूटर किसी कार्रवाई का सुझाव देता है, तो रिकॉर्ड का हिस्सा बनने से पहले एक मनुष्य को उसकी समीक्षा और अनुमोदन करना होगा। इस स्तर में कॉलर के लिए सुरक्षा उपाय भी शामिल हैं, जैसे कि यह सुनिश्चित करना कि उन्हें पता हो कि वे एक ऐसी प्रणाली से बात कर रहे हैं जो सुन रही है, और उन्हें अपनी आवाज या शब्दों के किसी भी स्वचालित विश्लेषण से तुरंत बाहर निकलने का विकल्प देना।

दूसरा स्तर वह है जहाँ वास्तविक मानवीय कार्य होता है। यह परामर्शदाता का क्षेत्र है, जिसके पास आत्महत्या के जोखिम के आकलन और कॉलर की मदद करने के तरीके पर अंतिम निर्णय लेने का पूर्ण अधिकार है। ढांचा इन अंतःक्रियाओं के लिए चरणों का एक स्पष्ट क्रम निर्धारित करता है, जो सुरक्षा और भावनात्मक स्थिरता स्थापित करने से शुरू होता है, कॉलर के विचारों और योजनाओं के संरचित मूल्यांकन के माध्यम से आगे बढ़ता है, और एक अनुकूलित हस्तक्षेप के साथ समाप्त होता है। इस पूरी प्रक्रिया के दौरान, पहला स्तर वाला आर्टिफिशियल इंटेलिजेंस सहायता के लिए उपलब्ध रहता है, शायद परामर्शदाता को एक विशिष्ट चेकलिस्ट की याद दिलाकर या एक संसाधन का सुझाव देकर, लेकिन यह कभी भी परामर्शदाता के निर्णय को ओवरराइड नहीं करता है। यदि स्थिति अस्पष्ट हो जाती है या परामर्शदाता को लगता है कि जानकारी सुरक्षित निर्णय लेने के लिए अपर्याप्त है, तो सिस्टम में उस अनिश्चितता के लिए एक विशिष्ट मार्ग है। अनुमान लगाने के बजाय, परामर्शदाता को एक पर्यवेक्षक से मदद लेने के लिए प्रेरित किया जाता है। इसी तरह, यदि कोई कॉलर वास्तविकता से संपर्क खोता हुआ प्रतीत होता है, तो सिस्टम इसे एक विशेष मामले के रूप में पहचानता है जिसे सुरक्षा सुनिश्चित करने के लिए मानक प्रक्रियाओं को दरकिनार करते हुए तत्काल, उच्च-स्तरीय मानवीय ध्यान की आवश्यकता होती है।

तीसरा स्तर संगठन और उन लोगों से संबंधित है जो संकट लाइनों (क्राइसिस लाइन्स) को चलाते हैं। यह स्तर यह सुनिश्चित करता है कि परामर्शदाताओं को स्वयं सहायता मिले और सिस्टम सही ढंग से काम कर रहा है। इसमें यह नियम शामिल है कि कब एक पर्यवेक्षक को कॉल की समीक्षा करनी चाहिए, विशेष रूप से उच्च-जोखिम वाली स्थितियों में या जब परामर्शदाता अनिश्चित हो। यह कर्मचारियों के कल्याण को भी संबोधित करता है, यह पहचानते हुए कि आघात (ट्रॉमा) को सुनना भावनात्मक रूप से थका देने वाला होता है। एक विशेष रूप से कठिन कॉल के बाद, सिस्टम को एक कठिन कॉल के तुरंत बाद अगले कॉल पर जाने के बजाय, डीकंप्रेशन (तनाव कम करने) की अवधि और एक पर्यवेक्षक द्वारा चेक-इन के लिए डिज़ाइन किया गया है। इसके अलावा, इस स्तर में नियमित ऑडिट शामिल हैं ताकि यह सुनिश्चित हो सके कि आर्टिफिशियल इंटेलिजेंस इच्छानुसार व्यवहार कर रहा है और कोई स्वचालित त्रुटि निकलकर नहीं आ रही है। यदि सिस्टम को कभी कोई बड़ा बदलाव करने की आवश्यकता होती है, या यदि कोई आपात स्थिति घोषित की जाती है, तो आर्टिफिशियल इंटेलिजेंस को पूरी तरह से लॉक किया जा सकता है, यह सुनिश्चित करते हुए कि केवल मानवीय आवाजें ही संकट प्रतिक्रिया का मार्गदर्शन करें।

यह शोध पत्र इस बात पर जोर देता है कि यह ढांचा एक प्रस्ताव है, न कि कोई तैयार उत्पाद जिसका क्षेत्र में परीक्षण किया गया हो। यह एक वैचारिक डिजाइन है जो स्थापित संकट हस्तक्षेप विधियों को इस विचार के साथ जोड़कर बनाया गया है कि तकनीक को कैसे शासित किया जाना चाहिए। लेखक स्वीकार करते हैं कि हालांकि इस ढांचे को बनाने के लिए उपयोग किए गए मॉडल आमने-सामने की सेटिंग में अच्छा काम करते रहे हैं, लेकिन गुमनाम फोन और टेक्स्ट कॉल पर लागू करना अप्रमाणित है। इसके अलावा, व्यावहारिक बाधाएं भी हैं, जैसे कि तकनीक की लागत, कर्मचारियों के प्रशिक्षण की आवश्यकता, और यह सुनिश्चित करने की चुनौती कि सिस्टम विभिन्न भाषाओं और संस्कृतियों में निष्पक्ष रूप से काम करे। लेखक सुझाव देते हैं कि आगे बढ़ने का सबसे अच्छा तरीका छोटे स्तर से शुरू करना है, शायद तकनीक का उपयोग केवल नोट्स तैयार करने या संसाधनों को व्यवस्थित करने के लिए करना, और विस्तार करने से पहले यह अध्ययन करना कि यह परामर्शदाताओं के कार्यभार और तनाव के स्तर को कैसे प्रभावित करता है।

अंततः, यह कार्य संकट देखभाल के भविष्य के लिए एक सतर्क और संरचित दृष्टिकोण प्रदान करता है। यह तर्क देता है कि इस क्षेत्र में आर्टिफिशियल इंटेलिजेंस का मूल्य मानवीय अंतर्ज्ञान को बदलने की इसकी क्षमता में नहीं, बल्कि उस प्रशासनिक बोझ को कम करने की इसकी क्षमता में है जो अक्सर परामर्शदाताओं को उन लोगों से विचलित कर देता है जिनकी वे मदद करने की कोशिश कर रहे हैं। कंप्यूटर क्या कर सकता है और केवल एक मनुष्य क्या तय कर सकता है, इसके बीच स्पष्ट सीमाएं बनाकर, यह ढांचा कॉल करने वालों और परामर्शदाताओं दोनों की रक्षा करने का लक्ष्य रखता है। यह सुझाव देता है कि तकनीक का सबसे प्रभावी उपयोग एक स्थिर, विश्वसनीय साथी के रूप में सेवा करना है जो विवरणों को संभालता है, जिससे मानव पेशेवर को पूरी तरह से जीवन बचाने के जटिल, सहानुभूतिपूर्ण और महत्वपूर्ण कार्य पर ध्यान केंद्रित करने की अनुमति मिलती है।