← नवीनतम पेपर
💻 computer science

Responsible Evaluation of AI for Mental Health

यह शोध पत्र एक अंतर्विषयक ढांचे और एक तीन-स्तरीय वर्गीकरण (आकलन, हस्तक्षेप और सूचना संश्लेषण) का प्रस्ताव करके मानसिक स्वास्थ्य में एआई के वर्तमान खंडित और नैदानिक रूप से असंगत मूल्यांकन की आलोचना करता है ताकि यह सुनिश्चित किया जा सके कि भविष्य के आकलन नैदानिक वैधता, सामाजिक संदर्भ, समानता और उपयोगकर्ता अनुभव को प्राथमिकता दें।

मूल लेखक: Hiba Arnaout, Anmol Goel, H. Andrew Schwartz, Steffen T. Eberhardt, Dana Atzil-Slonim, Gavin Doherty, Brian Schwartz, Wolfgang Lutz, Tim Althoff, Munmun De Choudhury, Hamidreza Jamalabadi, Raj Sanjay
प्रकाशित 2026-04-29
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Hiba Arnaout, Anmol Goel, H. Andrew Schwartz, Steffen T. Eberhardt, Dana Atzil-Slonim, Gavin Doherty, Brian Schwartz, Wolfgang Lutz, Tim Althoff, Munmun De Choudhury, Hamidreza Jamalabadi, Raj Sanjay Shah, Flor Miriam Plaza-del-Arco, Dirk Hovy, Maria Liakata, Iryna Gurevych

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप मानसिक स्वास्थ्य के लिए लोगों की मदद करने के लिए डिज़ाइन किया गया एक नया तरह का डिजिटल सहायक (digital assistant) बना रहे हैं। यह एक चैटबॉट हो सकता है जो सांत्वना देता है, एक ऐसा टूल हो सकता है जो अवसाद के संकेतों को पहचानने के लिए सोशल मीडिया को स्कैन करता है, या डॉक्टरों के लिए थेरेपी नोट्स का सारांश तैयार करने वाला एक सिस्टम हो सकता है।

यह शोध पत्र तर्क देता है कि अभी, हम इन टूल्स का परीक्षण गलत तरीके से कर रहे हैं। यह एक हार्ट सर्जन (हृदय रोग विशेषज्ञ) को केवल इस आधार पर आंकने जैसा है कि वे कितनी तेज़ी से अपने जूतों के फीते बांध सकते हैं। सिर्फ इसलिए कि AI तेज़ और व्याकरण की दृष्टि से सटीक है, इसका मतलब यह नहीं है कि वह सुरक्षित, सहायक या वास्तव में मन को ठीक करने में सक्षम है।

यहाँ सरल उपमाओं (analogies) का उपयोग करके शोध पत्र के मुख्य बिंदुओं का विवरण दिया गया है:

1. समस्या: "स्पीड टेस्ट" का जाल

लेखकों ने मानसिक स्वास्थ्य और AI से संबंधित 135 हालिया शोध पत्रों का अध्ययन किया। उन्होंने एक चिंताजनक पैटर्न पाया:

  • गलत पैमाना: अधिकांश शोधकर्ता "जेनेरिक AI मेट्रिक्स" (जैसे यह जांचना कि AI का व्याकरण एकदम सही है या क्या यह किसी डेटासेट से मेल खाता है) का उपयोग कर रहे हैं। यह एक फायरफाइटर (दमकलकर्मी) को केवल इस आधार पर आंकने जैसा है कि वह कितनी तेज़ी से दौड़ सकता है, जबकि इस बात को नज़रअंदाज़ कर दिया जाता है कि क्या वह वास्तव में आग बुझा सकता है।
  • विशेषज्ञों की कमी: आधे से अधिक अध्ययनों में एक भी मानसिक स्वास्थ्य पेशेवर (जैसे थेरेपिस्ट या मनोवैज्ञानिक) की राय नहीं ली गई।
  • सुरक्षा का अंतर: कई शोध पत्रों में इस बात पर चर्चा नहीं की गई कि क्या यह टूल अनजाने में किसी को नुकसान पहुँचा सकता है या क्या यह विभिन्न संस्कृतियों के लोगों के लिए निष्पक्ष रूप से काम करता है।

उपमा: कल्पना कीजिए कि आपने एक नई कार खरीदी। निर्माता ने आपको एक वीडियो दिखाया जिसमें कार एक आदर्श ट्रैक पर सीधी रेखा में चल रही है (यह "जेनेरिक मेट्रिक" है)। लेकिन उन्होंने कभी यह नहीं दिखाया कि वह बारिश वाली सड़क पर कैसे चलती है, क्या उसके ब्रेक काम करते हैं, या क्या वह बच्चों वाले परिवार के लिए सुरक्षित है। AI मानसिक स्वास्थ्य अनुसंधान की वर्तमान स्थिति यही है।

2. समाधान: परीक्षण के लिए एक नया "मेन्यू"

यह शोध पत्र इस समस्या को ठीक करने के लिए एक नया ढांचा प्रस्तावित करता है। सभी AI टूल्स को एक समान मानने के बजाय, वे सुझाव देते हैं कि उन्हें तीन अलग-अलग श्रेणियों में बांटा जाए, क्योंकि प्रत्येक को एक अलग प्रकार के "सुरक्षा निरीक्षण" की आवश्यकता होती है।

इन तीन श्रेणियों को रसोई के उपकरणों (kitchen tools) के विभिन्न प्रकारों के रूप में सोचें:

  • श्रेणी 1: जासूस (आकलन/Assessment)
    • यह क्या करता है: यह समझने के लिए डेटा देखता है कि क्या गलत है (जैसे, "क्या यह व्यक्ति अवसाद से ग्रस्त है?" या "क्या यह आत्महत्या का जोखिम है?")।
    • परीक्षण: आपको यह जांचना होगा कि क्या जासूस सटीक और सुसंगत है। क्या यह हर बार एक ही समस्या को पहचानता है? क्या यह विभिन्न पृष्ठभूमियों के लोगों के लिए काम करता है, या यह केवल एक ही प्रकार के व्यक्ति के लिए काम करता है?
  • श्रेणी 2: कोच (हस्तक्षेप/Intervention)
    • यह क्या करता है: यह सक्रिय रूप से मदद करने या कुछ बदलने की कोशिश करता है (जैसे, एक चैटबॉट जो मुकाबला करने के कौशल सिखाता है या एक बॉट जो पैनिक अटैक के दौरान आपका मार्गदर्शन करता है)।
    • परीक्षण: आपको यह जांचना होगा कि क्या कोच वास्तव में लोगों को बेहतर महसूस कराता है और क्या वह सुरक्षित है। क्या उपयोगकर्ता की घबराहट कम हुई? क्या बॉट ने कुछ हानिकारक कहा? क्या यह उपयोगकर्ता के लिए योजना पर टिके रहना आसान बनाता है?
  • श्रेणी 3: लेखक (सूचना संश्लेषण/Information Synthesis)
    • यह क्या करता है: यह इंसानों के लिए बिखरी हुई जानकारी को व्यवस्थित करता है (जैसे, घंटों के थेरेपी नोट्स को डॉक्टर के लिए एक संक्षिप्त रिपोर्ट में बदलना)।
    • परीक्षण: आपको यह जांचना होगा कि क्या लेखक विश्वसनीय और उपयोगी है। क्या उसने कोई महत्वपूर्ण विवरण छोड़ दिया? क्या उसने डॉक्टर का समय बचाया? क्या उसने गलती से तथ्य गढ़े (hallucinate)?

3. "मैच्योरिटी लैडर" (परिपक्वता की सीढ़ी)

शोध पत्र यह भी सुझाव देता है कि हमें एक बिल्कुल नए, प्रयोगात्मक AI टूल से उसी तरह के परीक्षणों की उम्मीद नहीं करनी चाहिए जैसे कि किसी ऐसे टूल से जो पहले से ही अस्पतालों में उपयोग किया जा रहा है। वे एक तीन-चरणीय सीढ़ी का प्रस्ताव करते हैं:

  1. लैब चरण (प्रारंभिक): टूल अभी केवल एक प्रोटोटाइप है। यह ठीक है अगर यह कच्चा है, लेकिन हमें यह जांचना होगा कि क्या बुनियादी गणित काम करता है।
  2. पायलट चरण (मध्यवर्ती): टूल का वास्तविक मनुष्यों और विशेषज्ञों के साथ परीक्षण किया जाता है। हम देखते हैं कि क्या लोग इसे पसंद करते हैं और क्या यह वास्तविक जीवन में प्रासंगिक लगता है।
  3. वास्तविक दुनिया का चरण (उन्नत): टूल पूरी तरह से तैनात है। हम देखते हैं कि क्या यह वर्षों तक सुरक्षित रहता है, क्या यह सभी के लिए निष्पक्ष रूप से काम करता है, और क्या इससे कोई अप्रत्याशित समस्या तो नहीं होती।

4. शोध पत्र ने वास्तव में क्या पाया (केस स्टडीज)

यह दिखाने के लिए कि उनका नया सिस्टम कैसे काम करता है, लेखकों ने पांच वास्तविक उदाहरणों का विश्लेषण किया:

  • अच्छा उदाहरण: एक टूल जिसने लोगों को नकारात्मक विचारों को बदलने में मदद की, उसका गहन परीक्षण किया गया था। इसकी सुरक्षा, निष्पक्षता और यह भी जांचा गया कि क्या यह विभिन्न आयु समूहों के लिए वास्तव में मददगार है। इसने "कोच" परीक्षण पास कर लिया।
  • चेतावनी वाला उदाहरण: एक अन्य टूल जो डॉक्टरों के लिए सोशल मीडिया पोस्ट का सारांश तैयार करता था, वह तकनीकी पक्ष (द "स्क्राइब" मैथ) में बहुत अच्छा था, लेकिन शोधकर्ताओं ने स्वीकार किया कि उन्होंने यह जांचा नहीं था कि क्या यह वास्तविक रोगियों के लिए सुरक्षित है या क्या यह विभिन्न संस्कृतियों के लोगों के लिए काम करता है। नए सिस्टम के तहत, इस टूल को "अधूरा" के रूप में चिह्नित किया जाएगा।

निचोड़ (The Bottom Line)

यह शोध पत्र यह नहीं कह रहा है कि "मानसिक स्वास्थ्य के लिए AI बनाना बंद कर दें।" यह कह रहा है, "आइए वजन मापने के लिए लंबाई मापने वाले पैमाने का उपयोग करना बंद करें।"

हमें नियमों के एक नए सेट की आवश्यकता है जिसमें शामिल हों:

  • परीक्षण कक्ष में मनोवैज्ञानिक।
  • प्रत्येक टूल के लिए सुरक्षा जांच।
  • निष्पक्षता की जांच, यह सुनिश्चित करने के लिए कि यह केवल कुछ लोगों के लिए ही नहीं, बल्कि सभी के लिए काम करे।

इस नए "मेन्यू" और "सीढ़ी" का उपयोग करके, शोधकर्ता ऐसे उपकरण बना सकते हैं जो न केवल तकनीकी रूप से प्रभावशाली हैं, बल्कि वास्तव में जरूरतमंद लोगों के लिए सुरक्षित और सहायक भी हैं।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 💻 cs →