Scoping review of governance, privacy, and design in AI- supported conversational agents for perinatal mental health
35 अध्ययनों का यह स्कोपिंग रिव्यू यह प्रकट करता है कि यद्यपि प्रसूति मानसिक स्वास्थ्य के लिए एआई-समर्थित संवादात्मक एजेंट उन्नत आर्किटेक्चर की ओर तेजी से विकसित हो रहे हैं, फिर भी वे एक गंभीर "एआई प्रसूति विरोधाभास" (AI perinatal paradox) से ग्रस्त हैं जो अपर्याप्त शासन, गोपनीयता सुरक्षा उपायों और समावेशिता द्वारा चिह्नित है, जिसके परिणामस्वरूप उनके विकास में सुरक्षा और समानता को प्राथमिकता देने के लिए आठ न्यूनतम मानकों का प्रस्ताव दिया गया है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
गर्भावस्था और जन्म के बाद के पहले वर्ष के दौरान मानसिक स्वास्थ्य संबंधी चुनौतियाँ आम हैं, जो दुनिया भर में माता-पिता के एक बड़े हिस्से को प्रभावित करती हैं, फिर भी कई लोग समय पर मदद पाने के लिए संघर्ष करते हैं। हाल के वर्षों में, तकनीक ने संवादात्मक एजेंटों (conversational agents) के माध्यम से एक संभावित समाधान पेश किया है: कंप्यूटर प्रोग्राम जिन्हें टेक्स्ट या आवाज के माध्यम से उपयोगकर्ताओं के साथ चैट करने के लिए डिज़ाइन किया गया है, जो जानकारी, भावनात्मक समर्थन और मार्गदर्शन प्रदान करते हैं। ये डिजिटल उपकरण किसी भी समय उपलब्ध होने का वादा करते हैं, जो माता-पिता को अपनी मानसिक स्थिति या अपने बच्चे के कल्याण के बारे में संवेदनशील डर पर चर्चा करने के लिए एक निजी स्थान प्रदान करते हैं। हालाँकि, क्योंकि इन बातचीत में आत्म-नुकसान या हिंसा जैसे गहरे व्यक्तिगत और कभी-कभी खतरनाक विषय शामिल हो सकते हैं, इसलिए इन प्रणालियों की सुरक्षा और गोपनीयता अत्यंत महत्वपूर्ण है। सवाल अब केवल यह नहीं है कि क्या ये चैटबॉट बात कर सकते हैं, बल्कि यह है कि क्या वे एक माता-पिता के जीवन के सबसे नाजुक क्षणों के भरोसे के लायक पर्याप्त रूप से निर्मित और शासित हैं।
जेम्स कुक यूनिवर्सिटी, ऑस्ट्रेलिया के शोधकर्ताओं की एक टीम ने विशेष रूप से प्रसवकालीन मानसिक स्वास्थ्य (perinatal mental health) के लिए इन कृत्रिम बुद्धिमत्ता (AI) उपकरणों की वर्तमान स्थिति का परीक्षण करने का निर्णय लिया। उन्होंने 2015 और 2025 के बीच प्रकाशित वैज्ञानिक अध्ययनों की एक विस्तृत समीक्षा की, जिसमें इन चैटबॉट्स के डिज़ाइन, डेटा हैंडलिंग और उनके परीक्षण के तरीकों पर रिपोर्ट खोजने के लिए हजारों रिकॉर्ड्स की खोज की गई। टीम ने 14 अलग-अलग देशों में उपयोग किए गए 30 अद्वितीय चैटबॉट सिस्टम का वर्णन करने वाले 35 अध्ययनों का विश्लेषण किया। उनका लक्ष्य इन उपकरणों के परिदृश्य को समझना था, केवल यह देखने से परे कि क्या वे काम करते हैं, बल्कि यह भी कि वे किसे सेवा देते हैं, उन्हें कैसे सुरक्षित रखा जाता है, और संकट के समय क्या होता है।
शोधकर्ताओं ने पाया कि इन चैटबॉट्स के पीछे की तकनीक तेजी से बदल रही है। लंबे समय तक, अधिकांश प्रणालियाँ सरल, नियम-आधारित निर्देशों पर निर्भर थीं, जहाँ कंप्यूटर प्रतिक्रिया उत्पन्न करने के लिए "यदि यह, तो वह" के एक निश्चित सेट का पालन करता था। हालाँकि, पिछले कुछ वर्षों में, नए सिस्टमों ने 'लार्ज लैंग्वेज मॉडल्स' (LLMs) का उपयोग करना शुरू कर दिया है, जो अधिक प्राकृतिक और लचीली बातचीत उत्पन्न करने के लिए विशाल मात्रा में टेक्स्ट पर प्रशिक्षित उन्नत कंप्यूटर प्रोग्राम हैं। जबकि ये नए उपकरण अधिक मानवीय लग सकते हैं और उपयोगकर्ता की विशिष्ट स्थिति के अनुसार बेहतर अनुकूलन कर सकते हैं, समीक्षा ने एक परेशान करने वाले अंतर को उजागर किया। सबसे उन्नत तकनीक का उपयोग करने वाली प्रणालियों में अक्सर सबसे कमजोर सुरक्षा और गोपनीयता संरक्षण देखे गए।
जब शोधकर्ताओं ने देखा कि ये प्रणालियाँ निजी जानकारी को कैसे संभालती हैं, तो तस्वीर स्पष्ट थी। किसी भी अध्ययन ने डेटा को सुरक्षित रखने के लिए उन्नत तरीकों का उपयोग करने की रिपोर्ट नहीं की, जैसे कि जानकारी को केंद्रीय सर्वर पर भेजने के बजाय सीधे उपयोगकर्ता के फोन पर प्रोसेस करना, या गणितीय तकनीकों का उपयोग करना जिससे व्यक्तिगत विवरण छिपे रहें लेकिन कंप्यूटर अभी भी सीख सके। इसके बजाय, लगभग आधे सिस्टम बातचीत को प्रोसेस करने के लिए बाहरी कंपनियों द्वारा प्रदान की गई वाणिज्यिक सेवाओं पर निर्भर थे। इसका अर्थ है कि एक माता-पिता की मानसिक स्थिति के संवेदनशील विवरण अक्सर इंटरनेट के माध्यम से तीसरे पक्ष के सर्वरों पर भेजे जाते थे, जिसमें इस बात की पारदर्शिता बहुत कम थी कि उस डेटा का कहाँ गया, उसे कौन देख सकता है, या उसे कितने समय तक रखा जाएगा। इसके अलावा, अधिकांश अध्ययनों ने स्पष्ट रूप से यह नहीं बताया कि उन्होंने उपयोगकर्ताओं से उनके डेटा का उपयोग करने की अनुमति कैसे प्राप्त की, और बहुत कम अध्ययनों ने यह वर्णन किया कि लॉन्च के बाद वे सिस्टम के व्यवहार को कैसे अपडेट करेंगे।
समीक्षा ने यह भी रेखांकित किया कि ये उपकरण किन लोगों की मदद के लिए डिज़ाइन किए गए हैं, इसमें एक बड़ा अंतर है। अधिकांश चैटबॉट विशेष रूप से माताओं के लिए बनाए गए थे, जो अक्सर पिताओं, समलैंगिक साथियों या गैर-जन्म देने वाले माता-पिता की अनदेखी करते हैं। केवल कुछ ही प्रणालियों ने पिताओं को शामिल करने का प्रयास किया, और इससे भी कम ने साथियों के बीच जटिल संबंधों पर विचार किया। इसके अतिरिक्त, अधिकांश उपकरण केवल अंग्रेजी में संचालित होते थे और उनके लिए मजबूत इंटरनेट कनेक्शन की आवश्यकता होती थी, जिससे दूरदराज के क्षेत्रों में रहने वाले या सीमित तकनीक तक पहुँच वाले माता-पिता वंचित रह गए। यह संकीर्ण फोकस का अर्थ है कि इन डिजिटल उपकरणों के लाभ उन विविध परिवारों तक नहीं पहुँच रहे हैं जिन्हें उनकी सबसे अधिक आवश्यकता है।
शायद सबसे महत्वपूर्ण निष्कर्ष यह था कि ये प्रणालियाँ आपात स्थितियों को कैसे संभालती हैं। जब कोई माता-पिता आत्महत्या या बच्चे को नुकसान पहुँचाने के विचार व्यक्त करता है, तो चैटबॉट की प्रतिक्रिया जीवन और सुरक्षा का मामला होती है। शोधकर्ताओं ने पाया कि हालांकि कुछ प्रणालियाँ इन संकट के संकेतों को स्वचालित रूप से पहचान सकती थीं, लेकिन लगभग किसी के पास भी उपयोगकर्ता को मानव सहायक से जोड़ने की विश्वसनीय योजना नहीं थी। कई मामलों में, सिस्टम संकट को चिह्नित तो कर सकता है, लेकिन फिर कुछ नहीं करता, या यह केवल फोन नंबरों की एक सामान्य सूची प्रदान कर सकता है बिना यह सुनिश्चित किए कि उपयोगकर्ता वास्तव में किसी व्यक्ति तक पहुँचा है। केवल एक अध्ययन ने एक ऐसी प्रणाली का वर्णन किया जो गारंटी देती थी कि संकट का पता चलने के बाद एक निश्चित समय सीमा के भीतर एक मानव उपयोगकर्ता से संपर्क करेगा। अन्य बिना किसी सुरक्षा जाल के संचालित हुए, जिससे उपयोगकर्ता बिना किसी स्पष्ट पेशेवर सहायता के खतरे में पड़ गए।
शोधकर्ताओं ने इस स्थिति को एक विरोधाभास के रूप में वर्णित किया: जैसे-जैसे तकनीक अधिक परिष्कृत और जटिल बातचीत में सक्षम हो रही है, सुरक्षा उपाय जो इसे उपयोग के लिए सुरक्षित बनाते हैं, उतने ही असंगत होते जा रहे हैं। पुराने, सरल सिस्टम में अक्सर स्पष्ट गोपनीयता नियम और मानवीय निरीक्षण होता था, जबकि नए, अधिक लचीले सिस्टम अक्सर इन महत्वपूर्ण सुरक्षा उपायों पर कम ध्यान दिए जाने के कारण बनाए गए थे। समीक्षा ने निष्कर्ष निकाला कि इन उपकरणों के तीव्र विकास ने जिम्मेदार मानकों की स्थापना की तुलना में गति पकड़ ली है। लेखकों ने भविष्य के लिए न्यूनतम सुरक्षा नियमों का एक सेट प्रस्तावित किया, जिसमें सुझाव दिया गया है कि डेवलपर्स, डॉक्टरों और नीति निर्माताओं को डिज़ाइन प्रक्रिया की शुरुआत से ही सुरक्षा, गोपनीयता और समावेशिता को प्राथमिकता देनी चाहिए। उनका तर्क है कि इन उपकरणों के वास्तव में सहायक होने के लिए, उन्हें व्यापक रूप से भरोसेमंद बनाने से पहले वास्तविक लोगों और वास्तविक संकटों के लिए सुरक्षित और प्रभावी साबित होना चाहिए, ताकि यह सुनिश्चित हो सके कि डिजिटल सहायता का वादा माता-पिता की सुरक्षा की कीमत पर न आए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।