The AI-CDSS Evidence Gap: A Critical Analysis of Outcome Measurement, Human-AI Interaction, and Implementation Validation

अस्पताल डॉक्टरों को निर्णय लेने में मदद करने के लिए एक नए प्रकार के डिजिटल सहायक का उपयोग करना शुरू कर रहे हैं। आर्टिफिशियल इंटेलिजेंस पर आधारित ये उपकरण चिकित्सा छवियों को स्कैन करते हैं या रोगी के रिकॉर्ड की समीक्षा करते हैं ताकि न्यूमोनिया या सेप्सिस जैसी बीमारियों को इंसान की तुलना में अधिक तेज़ी से पहचाना जा सके। इसका वादा अपार है: छूटे हुए निदान कम होंगे, काम के बोझ से दबे कर्मचारियों का काम कम होगा, और सभी के लिए बेहतर देखभाल होगी। लेकिन एक बढ़ती हुई चिंता यह है कि हम इन उपकरणों को वास्तव में लागू करने में जल्दबाजी कर रहे हैं, इससे पहले कि हमें पता चले कि वे मदद करते हैं या नुकसान पहुँचाते हैं। मुख्य प्रश्न यह नहीं है कि क्या कंप्यूटर एक तस्वीर में पैटर्न खोज सकता है, बल्कि यह है कि क्या वह पैटर्न वास्तव में एक स्वस्थ रोगी की ओर ले जाता है। इसका उत्तर देने के लिए, हमें कंप्यूटर के स्कोरकार्ड से परे देखना होगा और यह देखना होगा कि वास्तविक डॉक्टर मशीन के साथ कैसे बातचीत करते हैं, और जब यह प्रणाली एक नियंत्रित लैब के बजाय एक व्यस्त, अराजक क्लिनिक में होती है, तो यह कैसा व्यवहार करती है।

शोधकर्ताओं की एक टीम ने ठीक इसी विसंगति की जांच करने के लिए एक अध्ययन किया। उन्होंने इन आर्टिफिशियल इंटेलिजेंस उपकरणों के आसपास के साक्ष्यों की एक महत्वपूर्ण समीक्षा की, और हजारों अध्ययनों को देखा कि हम वास्तव में उनके बारे में क्या जानते हैं। उनका काम एक चिंताजनक अंतर को उजागर करता है। यह क्षेत्र वर्तमान में इस बात को मापने के प्रति जुनूनी है कि कंप्यूटर एक परीक्षण सेटिंग में बीमारी की कितनी सटीक पहचान कर सकता है। हालांकि, शोधकर्ताओं ने पाया कि तकनीकी सटीकता पर यह ध्यान हमें यह बताने में बहुत कम जानकारी देता है कि क्या वह उपकरण वास्तव में रोगी के जीवित रहने की दर में सुधार करता है, अस्पताल में रुकने की अवधि को कम करता है, या पीड़ा को रोकता है। वास्तव में, केवल कंप्यूटर के स्कोर पर ध्यान केंद्रित करके, हम सबसे खतरनाक हिस्से को चूक सकते हैं: कि वह उपकरण डॉक्टरों के सोचने और कार्य करने के तरीके को कैसे बदल देता है।

शोधकर्ताओं ने तीन विशिष्ट चरणों की पहचान की जहाँ साक्ष्य कम पड़ जाते हैं, जिससे अनिश्चितता की एक ऐसी श्रृंखला बन जाती है जिससे इन प्रणालियों पर भरोसा करना कठिन हो जाता है। पहला विफलता बिल्कुल शुरुआत में होती है, सफलता को मापने के तरीके में। अधिकांश अध्ययन केवल नैदानिक सटीकता (diagnostic accuracy) की रिपोर्ट करते हैं, जैसे कि AI कितनी बार ट्यूमर को सही ढंग से पहचानता है। यह एक नई कार को केवल इस आधार पर आंकने जैसा है कि वह टेस्ट ट्रैक पर कितनी तेज़ चल सकती है, बिना यह देखे कि क्या वह सुरक्षित रूप से रुकती है या बारिश में अच्छी तरह से चलती है। समीक्षा में पाया गया कि सबसे मजबूत साक्ष्य भी, जिसमें रैंडमाइज्ड ट्रायल्स में बारह हजार से अधिक रोगी शामिल थे, नैदानिक सटीकता में केवल मामूली सुधार दिखाते हैं। अधिक महत्वपूर्ण बात यह है कि इनमें से किसी भी प्रमुख अध्ययन ने उन परिणामों को नहीं मापा जो वास्तव में रोगियों के लिए मायने रखते हैं, जैसे मृत्यु दर या रोगी अस्पताल में कितने समय तक रहता है। हम जानते हैं कि कंप्यूटर बीमारी को ढूंढ सकता है, लेकिन हमें यह नहीं पता कि क्या इसे जल्दी ढूंढना वास्तव में जीवन बचाता है।

दूसरा विफलता तब होती है जब कंप्यूटर का सामना मानव से होता है। शोधकर्ताओं ने पाया कि इन उपकरणों के साथ डॉक्टरों की बातचीत अक्सर अप्रत्याशित और कभी-कभी हानिकारक होती है। जब कंप्यूटर किसी निदान का सुझाव देता है, तो डॉक्टर हमेशा इसे एक तटस्थ डेटा के रूप में नहीं देखते हैं। कभी-कभी, वे मशीन पर बहुत अधिक भरोसा करते हैं, भले ही वह गलत हो, जिसे 'ऑटोमेशन बायस' (automation bias) कहा जाता है। साहित्य में मिले एक उल्लेखनीय उदाहरण में, जब मैमोग्राफी स्क्रीनिंग के दौरान AI ने गलत सलाह दी, तो अनुभवी रेडियोलॉजिस्टों की नैदानिक सटीकता काफी गिर गई। गलत AI सुझाव की उपस्थिति ने डॉक्टरों को उनके काम में अकेले काम करने की तुलना में अधिक खराब बना दिया। इसके विपरीत, जब कंप्यूटर बहुत अधिक गलत अलार्म उत्पन्न करते हैं, तो डॉक्टर थक जाते हैं और अलर्ट को पूरी तरह से अनदेखा करना शुरू कर देते हैं, जिसे 'अलर्ट फटीग' (alert fatigue) कहा जाता है। यदि कोई प्रणाली बार-बार गलत चेतावनी देती है, तो असली खतरा अनसुना रह जाता है। वर्तमान साक्ष्य काफी हद तक इन मानवीय व्यवहारों को अनदेखा करता है, और डॉक्टर को एक सक्रिय भागीदार के बजाय सूचना के निष्क्रिय प्राप्तकर्ता के रूप में मानता है, जिसका निर्णय कमजोर या भ्रामक हो सकता है।

तीसरा विफलता यह है कि इन प्रणालियों को वास्तविक दुनिया में कैसे लागू और मॉनिटर किया जाता है। कई दिशानिर्देश और ढांचे मौजूद हैं जो अस्पतालों को इन उपकरणों को सुरक्षित रूप से लागू करने में मदद करने के लिए डिज़ाइन किए गए हैं, लेकिन शोधकर्ताओं ने पाया कि इन योजनाओं का अभ्यास में शायद ही कभी परीक्षण या पालन किया जाता है। यह विशेष रूप से कम और मध्यम आय वाले देशों में सच है, जहाँ साक्ष्य लगभग नगण्य है। तैनाती के मार्गदर्शन के लिए उपयोग किए जाने वाले ढांचे अक्सर उन्नत तकनीक और स्थिर बुनियादी ढांचे वाले समृद्ध देशों में बनाए गए थे। जब उन्हें संसाधन-सीमित परिवेशों में लागू किया जाता है, तो वे बिल्कुल भी काम नहीं कर सकते हैं। उदाहरण के लिए, एक प्रणाली जिसे दुनिया के एक हिस्से के डेटा पर प्रशिक्षित किया गया है, वह अलग आबादी या अलग रोग पैटर्न और जीवन स्थितियों के साथ उपयोग किए जाने पर पूरी तरह से विफल हो सकती है। उचित निगरानी के बिना, एक प्रणाली जो कागज पर अच्छी दिखती है, समय के साथ बदल सकती है, और कम सटीक हो सकती है, फिर भी कोई ध्यान नहीं देता क्योंकि कोई भी सही चीजों की निगरानी नहीं कर रहा है।

शोधकर्ताओं का तर्क है कि ये तीन विफलताएं केवल एक साथ नहीं बैठती हैं; वे एक बड़े जोखिम को पैदा करने के लिए एक दूसरे को प्रभावित करती हैं। क्योंकि हम केवल सटीकता को मापते हैं, हम उन मानवीय त्रुटियों को चूक जाते हैं जिन्हें सटीकता नहीं देख सकती। क्योंकि हम मानवीय व्यवहार को नहीं मापते, हम ऐसी कार्यान्वयन योजनाएं नहीं बना सकते जो वास्तव में काम करें। परिणाम एक ऐसी स्थिति है जहाँ अस्पताल अपूर्ण जानकारी के आधार पर शक्तिशाली उपकरणों को तैनात कर रहे हैं। समीक्षा एक विशिष्ट परिदृश्य को उजागर करती है जहाँ एक प्रणाली एक समृद्ध देश में अच्छा प्रदर्शन करती है, लेकिन उसे पश्चिम अफ्रीका के एक जिला अस्पताल में तैनात किया जाता है। वहां, अलग रोगी विशेषताओं के कारण सिस्टम बहुत अधिक गलत अलार्म उत्पन्न करता है। कर्मचारी, काम के बोझ से दबे हुए, अलर्ट देखना बंद कर देते हैं। सिस्टम का सटीकता स्कोर कागज पर उच्च बना रहता है, लेकिन वास्तव में, यह डॉक्टरों को उन चेतावनियों को अनदेखा करने के लिए प्रशिक्षित करके नुकसान पहुँचा रहा है जिनकी उन्हें आवश्यकता है।

यह विश्लेषण यह नहीं कहता कि चिकित्सा में आर्टिफिशियल इंटेलिजेंस का कोई स्थान नहीं है। शोधकर्ता सफल उदाहरणों की ओर इशारा करते हैं, जैसे कि डायबिटिक आई डिजीज की स्क्रीनिंग या तत्काल स्कैन को प्राथमिकता देने वाले उपकरण, जहाँ तकनीक ने स्पष्ट रूप से मदद की है। हालाँकि, ये सफलताएं अपवाद हैं, नियम नहीं, और वे अक्सर बहुत विशिष्ट, संकीर्ण कार्यों पर निर्भर करती हैं। व्यापक निष्कर्ष यह है कि किसी उपकरण को सुरक्षित और प्रभावी साबित करने के मानक अपर्याप्त हैं। हमें केवल यह पूछना बंद करना चाहिए कि कंप्यूटर स्मार्ट है या नहीं, और यह पूछना शुरू करना चाहिए कि क्या पूरा सिस्टम, कंप्यूटर और डॉक्टर मिलकर, रोगियों को बेहतर बनाता है।

इसे ठीक करने के लिए, लेखक साक्ष्य के एक नए न्यूनतम मानक का प्रस्ताव करते हैं। किसी भी उपकरण के व्यापक रूप से उपयोग किए जाने से पहले, इसे न केवल बीमारी खोजने की अपनी क्षमता पर, बल्कि जीवन रक्षा या जीवन की गुणवत्ता जैसे रोगी के परिणामों में सुधार करने की अपनी क्षमता पर भी परखा जाना चाहिए। इसे यह देखने के लिए भी अध्ययन किया जाना चाहिए कि डॉक्टर वास्तव में इसका उपयोग कैसे करते हैं, यह मापते हुए कि क्या वे इस पर बहुत अधिक भरोसा करते हैं या इसे बहुत अधिक अनदेखा करते हैं। अंत में, उपकरणों की निरंतर निगरानी की जानी चाहिए ताकि यह सुनिश्चित हो सके कि वे समय के साथ अपनी प्रभावशीलता न खो दें। यह दृष्टिकोण अधिक काम और अधिक समय की मांग करता है, लेकिन यह सुनिश्चित करने का एकमात्र तरीका है कि आर्टिफिशियल इंटेलिजेंस को अपनाने की दौड़ में मरीजों को पीछे न छोड़ा जाए। तकनीक तैयार है, लेकिन इसे सहारा देने वाला साक्ष्य नहीं है। जब तक हम इस अंतर को नहीं भरते, इन प्रणालियों की तैनाती उन लोगों पर एक विशाल, अनियंत्रित प्रयोग बनी रहेगी जिनकी वे मदद करने के लिए बनाई गई हैं।