Interpretability Methods for Causal Predictions in Biomedical AI: A Systematic Review of Approaches and Evaluation Practices
47 बायोमेडिकल एआई अध्ययनों का यह व्यवस्थित अवलोकन (सिस्टमैटिक रिव्यू) प्रकट करता है कि हालांकि कारण संबंधी भविष्यवाणी मॉडलों (कॉज़ल प्रेडिक्शन मॉडल्स) को समझाने के लिए SHAP और LIME जैसे व्याख्यात्मक तरीकों का व्यापक रूप से उपयोग किया जाता है, उनका मूल्यांकन अत्यधिक रूप से गुण-आधारित मेट्रिक्स पर निर्भर करता है और शायद ही कभी वास्तविक कारण वैधता (कॉज़ल वैलिडिटी) को सत्यापित करता है, जो मॉडल की व्याख्या और कारण अनुमान (कॉज़ल इन्फरेंस) के बीच एक महत्वपूर्ण अंतर को उजागर करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक चिकित्सा की दुनिया में, आर्टिफिशियल इंटेलिजेंस (AI) उन पैटर्नों को पहचानने के लिए एक शक्तिशाली उपकरण बन गया है जिन्हें मानवीय आँखें शायद मिस कर दें। ये कंप्यूटर सिस्टम हजारों मेडिकल इमेज को स्कैन कर सकते हैं या वर्षों के रोगी रिकॉर्ड की छानबीन कर सकते हैं ताकि यह अनुमान लगाया जा सके कि किसे बीमारी हो सकती है या किसी रोग की प्रगति कैसे होगी। हालाँकि, इस बात में एक बड़ा अंतर है कि दो चीजें एक साथ होती हैं और एक चीज वास्तव में दूसरी चीज का कारण बनती है। एक कंप्यूटर यह सीख सकता है कि एक विशिष्ट त्वचा का निशान अक्सर एक गंभीर बीमारी के साथ दिखाई देता है, लेकिन इसका मतलब यह नहीं है कि वह निशान बीमारी का कारण है; यह पूरी तरह से किसी और चीज़ का दुष्प्रभाव भी हो सकता है। यदि कोई डॉक्टर ऐसे कंप्यूटर पर भरोसा करता है जो केवल इन संबंधों को देखता है, तो वह रोगी के इलाज के दौरान गलत निर्णय ले सकता है, क्योंकि निशान का इलाज करने से बीमारी ठीक नहीं होगी। पैटर्न पहचानने और वास्तविक कारण को समझने के बीच का यह अंतर वह केंद्रीय चुनौती है जिसे शोधकर्ता हल करने की कोशिश कर रहे हैं।
टेक्निकल यूनिवर्सिटी ऑफ म्यूनिख के अल्बर्ट शुल द्वारा किया गया एक नया व्यवस्थित समीक्षा (systematic review) इस बात की जांच करता है कि वर्तमान उपकरण हमें इन कारणों को समझने में कितनी अच्छी तरह मदद करते हैं। अध्ययन में सैकड़ों शोध पत्रों (papers) को देखा गया ताकि यह पता लगाया जा सके कि AI द्वारा अपने अनुमान लगाने के तरीकों को समझाने के लिए उपयोग किए जाने वाले तरीके वास्तव में वास्तविक जैविक कारणों को प्रकट करने में सक्षम हैं या नहीं। शोधकर्ताओं ने पाया कि जबकि वैज्ञानिक इन स्पष्टीकरण उपकरणों (explanation tools) का उपयोग करने के लिए उत्सुक हैं, वे ज्यादातर काम के लिए गलत उपकरणों का उपयोग कर रहे हैं। सबसे लोकप्रिय उपकरण, जो उम्र या रक्तचाप जैसे विभिन्न लक्षणों को महत्व स्कोर (importance scores) देते हैं, वे यह दिखाने में उत्कृष्ट हैं कि कंप्यूटर ने क्या देखा, लेकिन वे यह दिखाने में बहुत खराब हैं कि वास्तव में किस चीज़ ने परिणाम का कारण बना। वास्तव में, समीक्षा में पाया गया कि 'कॉज़ल वैलिडिटी' (causal validity - कारण संबंधी वैधता) का स्पष्ट मूल्यांकन दुर्लभ था, जो जांचे गए केवल 9% अध्ययनों में दिखाई दिया, जिसका अर्थ है कि विशाल बहुमत ने वास्तव में कभी यह परीक्षण नहीं किया कि उनके स्पष्टीकरण कारण और प्रभाव के बारे में सच बता रहे हैं या नहीं।
समीक्षा में 2016 और 2025 के बीच प्रकाशित 47 अध्ययनों की जांच की गई जिन्होंने इन स्पष्टीकरण विधियों को उन चिकित्सा समस्याओं पर लागू करने का प्रयास किया जहाँ कारण और प्रभाव महत्वपूर्ण होते हैं, जैसे कि यह अनुमान लगाना कि एक रोगी किसी विशिष्ट दवा के प्रति कैसे प्रतिक्रिया देगा। शोधकर्ताओं ने पाया कि अधिकांश अध्ययन, लगभग 68 प्रतिशत, 'फीचर एट्रिब्यूशन मेथड्स' (feature attribution methods) पर निर्भर थे। ये वे तकनीकें हैं जो हाइलाइट करती हैं कि कंप्यूटर मॉडल ने निर्णय लेने के लिए किन इनपुट वेरिएबल्स का सबसे अधिक उपयोग किया। दो सबसे आम उपकरण SHAP और LIME थे, जो एक स्पॉटलाइट की तरह काम करते हैं, और उन डेटा पॉइंट्स पर रोशनी डालते हैं जिन्हें मॉडल ने सबसे महत्वपूर्ण पाया। हालांकि ये उपकरण यह दिखाने में बहुत अच्छे हैं कि कंप्यूटर ने किन नंबरों को देखा, समीक्षा का तर्क है कि वे मौलिक रूप से सीमित हैं क्योंकि वे केवल संबंधों (associations) का वर्णन करते हैं। वे एक डॉक्टर को यह बता सकते हैं कि उच्च रक्तचाप जोखिम की भविष्यवाणी के लिए एक प्रमुख कारक था, लेकिन वे डॉक्टर को यह नहीं बता सकते कि क्या रक्तचाप कम करने से वास्तव में दिल का दौरा रोकने में मदद मिलेगी।
अध्ययन ने अन्य, अधिक उन्नत तरीकों की भी तलाश की जो सत्य के अधिक करीब हो सकते हैं। लगभग 15 प्रतिशत अध्ययनों ने 'काउंटरफैक्चुअल एक्सप्लेनेशन' (counterfactual explanations) का उपयोग किया, जो कल्पना करते हैं कि क्या होता यदि रोगी ने कुछ अलग किया होता, जैसे कि कोई अलग दवा ली होती। ये वैचारिक रूप से उस तरह से हैं जैसे डॉक्टर कारण और प्रभाव के बारे में सोचते हैं, लेकिन फिर भी इनका उपयोग शोध के एक बहुत छोटे हिस्से में ही किया गया था। इससे भी दुर्लभ 'कॉन्सेप्ट-बेस्ड मेथड्स' (concept-based methods) थे, जो कच्चे डेटा पॉइंट्स के बजाय "ट्यूमर का आकार" जैसे मानव-समझने योग्य विचारों का उपयोग करके निर्णयों को समझाने का प्रयास करते हैं, जो केवल 6 प्रतिशत अध्ययनों में दिखाई दिए। समीक्षा ने पाया कि क्षेत्र अत्यधिक रूप से उन सरल उपकरणों की ओर झुका हुआ है जो संबंधों (associations) की व्याख्या करते हैं, जिससे यह जोखिम पैदा होता है कि डॉक्टर एक सहसंबंध (correlation) को कारण समझ बैठें।
शायद सबसे चौंकाने वाला निष्कर्ष यह है कि इन स्पष्टीकरणों का परीक्षण कैसे किया जाता है। जब शोधकर्ता एक मॉडल बनाते हैं और उसकी व्याख्या करते हैं, तो उन्हें यह जांचना होता है कि क्या वह स्पष्टीकरण अच्छा है। समीक्षा में पाया गया कि 72 प्रतिशत अध्ययनों ने 'फिडेलिटी' (fidelity) की जांच की, जिसका अर्थ है केवल यह देखना कि क्या स्पष्टीकरण कंप्यूटर मॉडल ने वास्तव में क्या किया उससे मेल खाता है। अन्य 43 प्रतिशत ने 'स्टेबिलिटी' (stability) की जांच की, यह सुनिश्चित करने के लिए कि स्पष्टीकरण हर बार मॉडल चलने पर बेतरतीब ढंग से बदल न जाए। ये महत्वपूर्ण तकनीकी जांचें हैं, लेकिन वे सबसे महत्वपूर्ण प्रश्न का उत्तर नहीं देतीं: क्या स्पष्टीकरण वास्तविक कारण के बारे में सही है? समीक्षा ने पाया कि केवल 9 प्रतिशत अध्ययनों ने कभी यह सत्यापित करने का प्रयास किया कि क्या स्पष्टीकरण वास्तव में एक वास्तविक कारण संबंध (causal relationship) को दर्शाता है। जिन कुछ मामलों में शोधकर्ताओं ने कारणता (causality) की जांच करने का प्रयास किया, वे ज्यादातर विशेषज्ञों से यह पूछने पर निर्भर थे कि क्या स्पष्टीकरण "उचित" लगता है, बजाय इसके कि इसे सिद्ध करने के लिए कठोर परीक्षणों का उपयोग किया जाए।
इन उपकरणों के कार्य और इस क्षेत्र की आवश्यकता के बीच का यह अंतर महत्वपूर्ण है। लेखक बताते हैं कि संबंधों की व्याख्या करने के लिए डिज़ाइन किए गए उपकरण का उपयोग कारण संबंधी समस्या को हल करने के लिए करना वैसा ही है जैसे ट्रैफ़िक पैटर्न के मानचित्र का उपयोग हाइकिंग रूट की योजना बनाने के लिए करना; मानचित्र यह दिखा सकता है कि कारें कहाँ जाती हैं, लेकिन यह आपको नहीं बताएगा कि कौन सा रास्ता पैदल चलने के लिए सुरक्षित है। समीक्षा का सुझाव है कि वर्तमान दृष्टिकोण पद्धतिगत रूप से खंडित (methodologically fragmented) है, जहाँ शोधकर्ता उन मॉडलों पर शक्तिशाली स्पष्टीकरण उपकरणों को लागू कर रहे हैं जिन्हें कभी कारण और प्रभाव को समझने के लिए नहीं बनाया गया था। पेपर निष्कर्ष निकालता है कि चिकित्सा में AI को वास्तव में भरोसेमंद बनाने के लिए, क्षेत्र को केवल यह जांचने से आगे बढ़ना होगा कि क्या कोई स्पष्टीकरण सुसंगत दिखता है। इसे नए तरीके विकसित करने की आवश्यकता है कि क्या कोई स्पष्टीकरण अंतर्निहित जीव विज्ञान के बारे में वास्तव में सही है, जिसमें बेहतर बेंचमार्क और बीमारियों के काम करने के स्पष्ट अनुमान शामिल हों। तब तक, AI का वह वादा जो वास्तव में समझा सके कि कोई रोगी क्यों बीमार है, पहुंच से बाहर है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।