Reporting of AI and ML Studies in Elderly Care Settings: A Rapid Systematic Scoping Review

एक ऐसी दुनिया की कल्पना करें जहाँ तकनीक चुपचाप बुजुर्गों की देखरेख करती है, मानवीय देखभाल को बदलने के लिए नहीं, बल्कि उसे सहारा देने के लिए। नर्सिंग होम, असिस्टेड लिविंग सुविधाओं और निजी आवासों में, कंप्यूटरों से तेजी से ऐसी चीजें करने को कहा जा रहा है जैसे कि देखभाल करने वाले के पहुँचने से पहले ही गिरने का पता लगाना, यह अनुमान लगाना कि कब किसी निवासी को अधिक मदद की आवश्यकता हो सकती है, या समस्याओं के संकेतों के लिए दैनिक दिनचर्या की निगरानी करना। ये प्रणालियाँ आर्टिफिशियल इंटेलिजेंस (AI) और मशीन लर्निंग पर निर्भर करती हैं, ये दो ऐसे शब्द हैं जो अक्सर विज्ञान कथा (साइंस फिक्शन) की तरह लगते हैं, लेकिन व्यवहार में, ये केवल डेटा से सीखने और भविष्यवाणियां करने या पैटर्न पहचानने के तरीके हैं। उम्मीद यह है कि ये उपकरण देखभाल को सुरक्षित और अधिक कुशल बना सकते हैं। हालाँकि, इन उपकरणों पर भरोसा करने और इनका प्रभावी ढंग से उपयोग करने के लिए, इन्हें बनाने वाले लोगों को यह स्पष्ट रूप से समझाना होगा कि वे कैसे काम करते हैं, उन्होंने किस डेटा से सीखा है, और वे कहाँ विफल हो सकते हैं। स्पष्ट स्पष्टीकरण के बिना, एक प्रणाली जो कागज पर एकदम सही दिखती है, वह वास्तविक दुनिया में बेकार या यहाँ तक कि खतरनाक भी हो सकती है।

केम्पटन यूनिवर्सिटी ऑफ एप्लाइड साइंसेज के शोधकर्ताओं की एक टीम ने हाल ही में यह देखने का निर्णय लिया कि वैज्ञानिक वर्तमान में इन बुजुर्गों के लिए आर्टिफिशियल इंटेलिजेंस परियोजनाओं के बारे में कैसे रिपोर्ट कर रहे हैं। उन्होंने कोई नई प्रणाली नहीं बनाई और न ही किसी विशिष्ट उपकरण का परीक्षण किया। इसके बजाय, उन्होंने साहित्य के परीक्षक (ऑडिटर) के रूप में कार्य किया, और 2020 के बाद से प्रकाशित 69 हालिया अध्ययनों को एकत्र और जाँचा। उनका लक्ष्य यह देखना था कि क्या इन अध्ययनों के लेखक अपने द्वारा बनाए गए सिस्टम के बारे में पर्याप्त जानकारी प्रदान कर रहे थे। वे जानना चाहते थे कि क्या रिपोर्ट में इस विवरण शामिल था कि तकनीक का उपयोग कौन करेगा, किस प्रकार के डेटा ने कंप्यूटर को प्रशिक्षित किया, और क्या सिस्टम का परीक्षण किसी नियंत्रित लैब के बाहर किया गया था।

उन्होंने पाया कि रिपोर्टिंग का परिदृश्य असमान था। जबकि शोधकर्ता आम तौर पर अपने सिस्टम के मूल उद्देश्य और उन्हें अपना डेटा कहाँ से मिला, इसका वर्णन करने में अच्छे थे, लेकिन वे उन महत्वपूर्ण विवरणों को छोड़ देते थे जो यह तय करते हैं कि क्या कोई सिस्टम वास्तव में एक व्यस्त नर्सिंग होम या एक शांत लिविंग रूम में काम कर सकता है। उदाहरण के लिए, लगभग हर अध्ययन ने यह वर्णन किया कि कंप्यूटर को क्या करना चाहिए, लेकिन आधे से भी कम अध्ययनों ने स्पष्ट रूप से समझाया कि मानव निर्णय लेने वाला व्यक्ति कौन होगा। कई मामलों में, यह स्पष्ट नहीं था कि सिस्टम का उद्देश्य नर्स को सचेत करना था, परिवार के सदस्य को, या स्वयं निवासी को, या उस व्यक्ति को अलर्ट मिलने पर उसे कैसे प्रतिक्रिया देनी चाहिए। स्पष्टता की यह कमी यह जानने में कठिनाई पैदा करती है कि तकनीक दैनिक देखभाल के जटिल और मानव-केंद्रित प्रवाह में कैसे फिट बैठती है।

जब शोधकर्ताओं ने देखा कि इन प्रणालियों का परीक्षण कैसे किया गया, तो यह अंतर और बढ़ गया। अधिकांश अध्ययन आंतरिक सत्यापन (इंटरनल वैलिडेशन) पर निर्भर थे, जिसका अर्थ है कि कंप्यूटर का परीक्षण उसी डेटा पर किया गया था जिसे उसने पहले ही देख लिया था या उस डेटा पर जो उसके सीखे हुए डेटा के बहुत समान था। यह एक छात्र द्वारा उसी अभ्यास परीक्षा (प्रैक्टिस टेस्ट) देने जैसा है जिसके प्रश्नों का उसने पहले ही अध्ययन किया है। हालाँकि यह दिखाता है कि कंप्यूटर पैटर्न पहचान सकता है, लेकिन यह यह साबित नहीं करता कि वह एक नए वातावरण की अव्यवस्थित और अप्रत्याशित वास्तविकता को संभाल सकता है। केवल एक छोटे से हिस्से, यानी 16 प्रतिशत अध्ययनों ने अपने सिस्टम का परीक्षण पूरी तरह से नए, स्वतंत्र डेटा पर किया। इससे भी कम, लगभग 20 प्रतिशत अध्ययनों ने वास्तविक दुनिया की देखभाल सेटिंग में सिस्टम का परीक्षण करने का वर्णन किया, जहाँ यह वास्तविक रोगियों और कर्मचारियों के साथ बातचीत करता है। वास्तविक दुनिया के इन परीक्षणों के बिना, यह अनिश्चित रहता है कि क्या प्रणालियाँ एक वास्तविक घर या सुविधा के शोर, हलचल और विविधता का सामना करते समय उतना ही अच्छा प्रदर्शन करेंगी।

सबसे चिंताजनक कमी अनिश्चितता और पूर्वाग्रह (बायस) के संबंध में चर्चा का अभाव था। जब एक कंप्यूटर कोई भविष्यवाणी करता है, तो वह शायद ही कभी 100 प्रतिशत निश्चित होता है, और यह कभी-कभी कुछ विशिष्ट समूहों को अन्य लोगों की तुलना में अधिक प्रभावित करने वाले तरीकों से गलत हो सकता है। शोधकर्ताओं ने पाया कि केवल 9 प्रतिशत अध्ययनों ने यह समझाया कि सिस्टम अनिश्चितता को कैसे संभालता है या अपने उत्तरों में कितना आश्वस्त है। इसी तरह, केवल 23 प्रतिशत अध्ययनों ने जाँच की कि क्या सिस्टम अलग-अलग उपसमूहों के लिए अलग प्रदर्शन करता है, जैसे कि पुरुषों बनाम महिलाओं या विभिन्न प्रकार की गतिशीलता संबंधी समस्याओं वाले लोग। इस जानकारी के बिना, यह जानने का कोई तरीका नहीं है कि क्या कोई सिस्टम सभी लोगों के लिए निष्पक्ष और विश्वसनीय है जिनका उपयोग किया जा सकता है। अध्ययनों में शायद ही कभी इस बात पर चर्चा की गई कि डेटा गायब होने पर क्या होता है, जो वास्तविक जीवन में एक सामान्य घटना है, जिससे यह एक बड़ा अंधा बिंदु बन जाता है कि सेंसर विफल होने या रिकॉर्ड अधूरे होने पर ये प्रणालियाँ कैसा व्यवहार करेंगी।

समीक्षा के लेखक सुझाव देते हैं कि इन अध्ययनों को लिखने का वर्तमान तरीका कंप्यूटर मॉडल के तकनीकी निर्माण पर बहुत अधिक ध्यान केंद्रित करता है और इस पर कम कि सिस्टम व्यापक मानवीय वातावरण में कैसे फिट बैठता है। चिकित्सा अनुसंधान के मौजूदा दिशा-निर्देश, जो एक्स-रे या रक्त परीक्षण जैसे नैदानिक उपकरणों के लिए डिज़ाइन किए गए हैं, बुजुर्गों की देखभाल की अनूठी चुनौतियों को पूरी तरह से कवर नहीं करते प्रतीत होते हैं, जहाँ "रोगी" अक्सर विविध आवश्यकताओं वाले लोगों का एक पूरा समुदाय होता है, और "निदान" अक्सर व्यवहारिक डेटा का एक निरंतर प्रवाह होता है। समीक्षा दर्शाती है कि जबकि तकनीक तेजी से आगे बढ़ रही है, जिस तरह से शोधकर्ता इसकी तैयारी और सीमाओं के बारे में संवाद करते हैं, वह इसकी गति के साथ तालमेल नहीं बिठा पाया है। जब तक रिपोर्टों में स्पष्ट विवरण शामिल नहीं होंगे कि सिस्टम का उपयोग कौन करता है, वास्तविक दुनिया में इसका परीक्षण कैसे किया गया, और यह कहाँ विफल हो सकता है, तब तक देखभाल करने वालों और संस्थानों के लिए यह जानना कठिन होगा कि क्या ये उपकरण वास्तव में बुजुर्गों की सुरक्षा और भलाई के लिए भरोसेमंद हैं।