Evaluating Cross-Method Explanation Consistency in XGBoost-Based Heart-Disease Classification

स्वास्थ्य सेवा के आधुनिक परिदृश्य में, आर्टिफिशियल इंटेलिजेंस (कृत्रिम बुद्धिमत्ता) चिकित्सा डेटा में उन पैटर्न को पहचानने के लिए एक शक्तिशाली उपकरण बन गया है जिन्हें मानवीय आँखें शायद ही देख पाती हैं। ये कंप्यूटर सिस्टम उम्र, रक्तचाप और हृदय गति जैसे मापों की एक सूची का विश्लेषण करके यह अनुमान लगाने में सक्षम हो सकते हैं कि किसी रोगी को कोई विशिष्ट स्थिति है या नहीं। हालाँकि, एक महत्वपूर्ण चुनौती बनी हुई है: जबकि ये मॉडल सटीक भविष्यवाणियाँ कर सकते हैं, वे अक्सर "ब्लैक बॉक्स" के रूप में कार्य करते हैं। वे बिना यह समझाए उत्तर प्रदान करते हैं कि उनके पीछे का तर्क क्या है। चिकित्सा जैसे उच्च-जोखिम वाले क्षेत्रों में, केवल निदान जानना पर्याप्त नहीं है; डॉक्टरों और रोगियों को यह समझने की आवश्यकता है कि किन कारकों ने उस निष्कर्ष तक पहुँचाया। यहीं पर 'एक्सप्लेनेबल आर्टिफिशियल इंटेलिजेंस' (व्याख्यात्मक कृत्रिम बुद्धिमत्ता) का क्षेत्र काम आता है, जो मशीन के तर्क के भीतर झाँकने के तरीके प्रदान करता है। फिर भी, एक नई जटिलता उभर कर आई है: मशीन के भीतर झाँकने के विभिन्न तरीके कभी-कभी अलग-अलग कहानियाँ सुना सकते हैं। एक तकनीक रोगी की आयु को सबसे महत्वपूर्ण कारक के रूप में उजागर कर सकती है, जबकि दूसरी उनके कोलेस्ट्रॉल स्तर की ओर संकेत कर सकती है। यह विसंगति एक महत्वपूर्ण प्रश्न खड़ा करती है: यदि मॉडल की व्याख्या करने के लिए उपयोग किए जाने वाले उपकरण आपस में असहमत होते हैं, तो क्या हम उस व्याख्या पर भरोसा कर सकते हैं?

स्वामी विवेकानंद विश्वविद्यालय के अरित्र घोष द्वारा किया गया एक हालिया अध्ययन इसी समस्या को संबोधित करता है, जिसमें उन्होंने यह परीक्षण किया है कि हृदय रोग का पता लगाने के लिए डिज़ाइन किए गए एक मॉडल पर लागू होने पर विभिन्न व्याख्या पद्धतियाँ कितनी अच्छी तरह सहमत होती हैं। शोधकर्ता ने मशीन लर्निंग के एक विशिष्ट प्रकार पर ध्यान केंद्रित किया जिसे XGBoost कहा जाता है, जो अपने जटिल डेटा को संभालने की क्षमता के लिए व्यापक रूप से उपयोग किया जाता है। इस अध्ययन में चिकित्सा रिकॉर्डों का एक प्रसिद्ध संग्रह उपयोग किया गया जिसमें 297 रोगी मामले शामिल थे, जिनमें से प्रत्येक को तेरह अलग-अलग स्वास्थ्य संकेतकों और हृदय रोग या हृदय रोग न होने के अंतिम निदान के साथ वर्णित किया गया था। लक्ष्य हृदय रोग की भविष्यवाणी करने का नया तरीका बनाना नहीं था, बल्कि मॉडल के निर्णयों की व्याख्या करने के विभिन्न तरीकों की निरंतरता का कठोरता से परीक्षण करना था। शोधकर्ता ने डेटा के एक हिस्से पर मॉडल को प्रशिक्षित किया और फिर यह देखने के लिए तीन अलग-अलग व्याख्या तकनीकों को लागू किया कि क्या वे समान महत्वपूर्ण स्वास्थ्य कारकों की पहचान करते हैं।

उपयोग की गई पहली तकनीक मॉडल का अपना आंतरिक महत्व का माप था, जो सरल रूप से यह गिनता है कि निर्णय लेने के लिए एक विशिष्ट स्वास्थ्य संकेतक का कितनी बार उपयोग किया गया था। दूसरा तरीका, जिसे 'परम्यूटेशन इम्पॉर्टेंस' (क्रमपरिवर्तन महत्व) कहा जाता है, एक समय में एक स्वास्थ्य संकेतक के मानों को बदलकर यह देखता है कि मॉडल की सटीकता कितनी कम होती है; यदि किसी विशिष्ट संख्या के उलटने पर मॉडल काफी लड़खड़ा जाता है, तो उस संख्या को महत्वपूर्ण माना जाता है। तीसरा दृष्टिकोण, जिसे SHAP कहा जाता है, एक गणितीय ढांचे के आधार पर भविष्यवाणी में प्रत्येक कारक के विशिष्ट योगदान की गणना करता है जो यह सुनिश्चित करता है कि योगदान सही ढंग से जुड़ते हैं। जब शोधकर्ता ने तीन अलग-अलग विधियों के परिणामों की एक निश्चित परीक्षण सेट पर तुलना की, तो उन्होंने एक मजबूत, हालांकि पूर्ण नहीं, सहमति पाई। तीनों विधियों ने लगातार उन्हीं शीर्ष कुछ कारकों की पहचान की जो सबसे प्रभावशाली थे: प्रमुख रक्त वाहिकाओं में रुकावटों की संख्या, थैलियम स्ट्रेस टेस्ट का परिणाम, और रोगी द्वारा रिपोर्ट किया गया सीने का दर्द।

हालाँकि, अध्ययन से पता चला कि निरंतरता की गारंटी नहीं है, विशेष रूप से जब डेटा छोटा हो या मॉडल का परीक्षण रोगियों के विभिन्न समूहों पर किया जाए। जब शोधकर्ता ने डेटा को पांच अलग-अलग समूहों में विभाजित किया और मॉडल का बार-बार परीक्षण किया, तो सबसे महत्वपूर्ण कारकों की रैंकिंग बदलने लगी। जबकि शीर्ष तीन कारक इन विभिन्न परीक्षणों में स्थिर रहे, अन्य कारक जो एक समूह में महत्वपूर्ण लग रहे थे, वे दूसरे समूहों में रैंकिंग में ऊपर-नीचे होते रहे। यह निष्कर्ष बताता है कि डेटा के एक विशिष्ट हिस्से से उत्पन्न एक एकल व्याख्या पूरे चित्र का प्रतिनिधित्व करने के लिए पर्याप्त विश्वसनीय नहीं हो सकती है। अध्ययन ने मॉडल की भविष्यवाणियों की अन्य मानक मशीन लर्निंग विधियों के साथ भी तुलना की। मूल सेटअप की नकल करने के लिए उपयोग किए गए विशिष्ट परीक्षण सेट पर, एक लॉजिस्टिक रिग्रेशन मॉडल और एक रैंडम फॉरेस्ट मॉडल ने वास्तव में XGBoost मॉडल की तुलना में उच्च सटीकता प्राप्त की, जो XGBoost के 86.67 प्रतिशत के मुकाबले 90 प्रतिशत सही भविष्यवाणियाँ तक पहुँचे। यह रेखांकित करता है कि सबसे जटिल मॉडल हमेशा सबसे सटीक नहीं होता है, और सरल मॉडल भी कभी-कभी उतना ही अच्छा प्रदर्शन कर सकते हैं।

शोध का शायद सबसे दिलचस्प हिस्सा व्यक्तिगत रोगी मामलों को देखने में शामिल था। शोधकर्ता ने तीन विशिष्ट रोगी रिकॉर्ड लिए जिनका पहले एक अलग व्याख्या उपकरण जिसे LIME कहा जाता है, के साथ विश्लेषण किया गया था और नए गणनाओं का उपयोग करके SHAP पद्धति के साथ उनकी तुलना की। हालाँकि दोनों विधियाँ प्रभाव की दिशा पर सहमत थीं—अर्थात दोनों ने कहा कि एक कारक बीमारी के जोखिम को बढ़ा रहा है या घटा रहा है—लेकिन वे हमेशा इस बात पर सहमत नहीं हुए कि उस व्यक्ति के लिए शीर्ष पाँच सबसे महत्वपूर्ण कारक कौन से थे। कुछ मामलों में, दोनों सूचियों के बीच ओवरलैप केवल आंशिक था। यह प्रदर्शित करता है कि भले ही दो उपकरण एक ही रोगी को देख रहे हों, वे अलग-अलग विवरणों को प्राथमिकता दे सकते हैं। यह एक जटिल मशीन को देखने वाले दो विशेषज्ञों के समान है; एक गियर पर ध्यान केंद्रित कर सकता है जबकि दूसरा ईंधन लाइन पर ध्यान केंद्रित कर सकता है, और दोनों मशीन के कार्य के बारे में सही हो सकते हैं, फिर भी वे अलग-अलग हिस्सों को सबसे महत्वपूर्ण के रूप में सूचीबद्ध करेंगे।

अध्ययन इस निष्कर्ष पर निकलता है कि हालांकि आर्टिफिशियल इंटेलिजेंस चिकित्सा में एक मूल्यवान साथी हो सकता है, इसके निर्णयों की व्याख्या करने वाले उपकरणों को सावधानी के साथ लिया जाना चाहिए। शोध से पता चलता है कि भविष्य कहनेवाला प्रदर्शन और व्याख्या की निरंतरता संबंधित लेकिन अलग-अलग आयाम हैं। एक मॉडल सटीक हो सकता है बिना उसकी व्याख्याओं के पूरी तरह से स्थिर हुए, और विभिन्न व्याख्या विधियाँ महत्वपूर्ण कारकों की अलग-अलग सूचियाँ दे सकती हैं। निष्कर्ष इस बात पर जोर देते हैं कि स्वास्थ्य सेवा में, जहाँ निर्णय मानव जीवन को प्रभावित करते हैं, एक एकल व्याख्या से प्राप्त एकल मॉडल रन पर भरोसा करना जोखिम भरा है। इसके बजाय, एक मजबूत समझ के लिए कई विधियों की जाँच करना और यह स्वीकार करना आवश्यक है कि कुछ कारक, जैसे कि अवरुद्ध वाहिकाओं की संख्या, लगातार महत्वपूर्ण हैं, जबकि अन्य कारक विश्लेषण किए जा रहे विशिष्ट डेटा के आधार पर भिन्न हो सकते हैं। यह कार्य एक अनुस्मारक के रूप में कार्य करता है कि इन प्रणालियों पर नैदानिक सेटिंग्स में पूरी तरह से भरोसा करने से पहले, हमें न केवल यह समझना चाहिए कि वे क्या भविष्यवाणी करते हैं, बल्कि यह भी कि उनके तर्क वास्तव में कितने स्थिर और सुसंगत हैं।