📄 medicine

Enhancing Explainability in AI Models for Blood Glucose Prediction in Diabetes Patients

यह अध्ययन प्रदर्शित करता है कि मशीन लर्निंग मॉडल, विशेष रूप से सपोर्ट वेक्टर रिग्रेशन और ट्री-आधारित एन्सेम्बल्स, टाइप 1 और टाइप 2 मधुमेह के दोनों रोगियों के लिए अल्पकालिक रक्त ग्लूकोज स्तरों की सटीक भविष्यवाणी कर सकते हैं, साथ ही नैदानिक निर्णय लेने में सहायता करने के लिए पारदर्शी, व्याख्या योग्य अंतर्दृष्टि प्रदान करने हेतु SHAP और LIME तकनीकों का लाभ उठाते हैं।

मूल लेखक: Lam Nhi Nguyen, Kwong-Cheong Wong

प्रकाशित 2026-07-06

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Lam Nhi Nguyen, Kwong-Cheong Wong

मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप अगले 30 मिनट के मौसम की भविष्यवाणी करने की कोशिश कर रहे हैं। आपके पास एक सुपर-स्मार्ट कंप्यूटर है जो वर्तमान तापमान, हवा की गति और बादलों के आवरण को देखकर यह अनुमान लगाता है कि क्या बारिश होगी। लेकिन समस्या यह है कि कंप्यूटर एक "ब्लैक बॉक्स" है। वह आपको एक उत्तर तो देता है, लेकिन यह नहीं बताता कि उसे क्यों लगता है कि बारिश होगी। यदि आप एक पायलट या किसान हैं, तो आप उस उत्तर पर भरोसा नहीं कर पाएंगे क्योंकि आप उसके पीछे के तर्क को नहीं समझते।

यह शोध पत्र मधुमेह (डायबिटीज) वाले लोगों के लिए एक समान "मौसम पूर्वानुमान" बनाने के बारे में है। बारिश के बजाय, कंप्यूटर 30 मिनट भविष्य में ब्लड शुगर लेवल की भविष्यवाणी करता है। लक्ष्य यह है कि ये भविष्यवाणियां न केवल सटीक हों, बल्कि व्याख्या योग्य (explainable) भी हों—ताकि डॉक्टर और मरीज उन पर भरोसा कर सकें।

यहाँ एक सरल विवरण दिया गया कि शोधकर्ताओं ने क्या किया और क्या पाया:

1. लक्ष्य: एक भरोसेमंद क्रिस्टल बॉल

शोधकर्ता एक मशीन लर्निंग मॉडल (एक प्रकार का कंप्यूटर प्रोग्राम) बनाना चाहते थे जो रोगी के हालिया ब्लड शुगर इतिहास को देख सके और अनुमान लगा सके कि 30 मिनट में उनका शुगर लेवल क्या होगा।

समस्या: कई स्मार्ट कंप्यूटर मॉडल मौजूद हैं, लेकिन वे एक जादूगर की तरह हैं जो टोपी से खरगोश निकालता है। आप खरगोब (भविष्यवाणी) देखते हैं, लेकिन आपको यह नहीं पता होता कि वह ट्रिक कैसे की गई। डॉक्टर उन उपकरणों का उपयोग करने में हिचकिचाते हैं जिन्हें वे समझ नहीं सकते।
समाधान: उन्होंने एक विशेष "अनुवादक" परत जोड़ी जिसे एक्सप्लेनेबल एआई (XAI) कहा जाता है। यह परत एक टूर गाइड की तरह काम करती है, जो विस्तार से बताती है कि कंप्यूटर ने अपने अनुमान के लिए किन संकेतों का उपयोग किया।

2. सामग्री: दो प्रकार के मरीज

अध्ययन ने लोगों के दो अलग-अलग समूहों को देखा, जैसे दो अलग-अलग प्रकार के बगीचे:

टाइप 1 डायबिटीज: एक छोटा समूह (12 लोग)। उनका ब्लड शुगर एक ऐसे बगीचे की तरह है जिसमें बहुत संवेदनशील स्प्रिंकलर सिस्टम है—यह बहुत तेज़ी से ऊपर और नीचे जा सकता है।
टाइप 2 डायबिटीज: एक बड़ा समूह (100 लोग)। उनका ब्लड शुगर एक स्थिर नदी की तरह है, लेकिन इसमें अधिक चट्टानें और मलबा (जैसे उम्र, वजन और किडनी का कार्य) है जो प्रवाह को प्रभावित करता है।

उन्होंने कंटीन्यूअस ग्लूकोज मॉनिटर्स (CGM) से डेटा का उपयोग किया, जो सेंसर की तरह हैं जो हर 15 मिनट में, 24 घंटे एक दिन, ब्लड शुगर का "तापमान रीडिंग" लेते हैं।

3. दौड़: पांच अलग-अलग प्रेडिक्टर्स (पूर्वानुमान लगाने वाले)

शोधकर्ताओं ने यह देखने के लिए पांच अलग-अलग "पूर्वानुमान लगाने वाले" बनाए कि कौन सा सबसे अच्छा है:

लीनियर रिग्रेशन (Linear Regression): एक सरल, सीधी रेखा वाला अनुमान लगाने वाला।
रैंडम फॉरेस्ट (Random Forest): निर्णय वृक्षों (decision trees) की एक समिति जो उत्तर के लिए वोट देती है।
एक्सजीबूस्ट (XGBoost): एक सुपर-चार्ज्ड, तेज़ सीखने वाली वृक्ष समिति।
सपोर्ट वेक्टर रिग्रेशन (SVR): एक चतुर मॉडल जो डेटा के अनुकूलतम वक्र (curve) को खोजने में मदद करता है।
एलएसटीएम (LSTM): एक डीप लर्निंग मॉडल जिसे लंबी अनुक्रमों (sequences) को याद रखने के लिए डिज़ाइन किया गया है (जैसे एक इंसान द्वारा लंबी कहानी याद करने की कोशिश करना)।

परिणाम: "सरल" और "समिति" वाले मॉडल (SVR, Random Forest और XGBoost) दौड़ जीत गए। वे सबसे सटीक थे। "डीप लर्निंग" मॉडल (LSTM) वास्तव में सबसे खराब प्रदर्शन करने वाला रहा।

क्यों? LSTM को एक ऐसे छात्र की तरह समझें जो पूरी लाइब्रेरी पढ़कर एक जटिल भाषा सीखने की कोशिश कर रहा है, लेकिन उसके पास अध्ययन के लिए केवल एक पन्ना टेक्स्ट है। चूंकि टाइप 1 रोगियों के लिए डेटा बहुत कम था, इसलिए जटिल मॉडल भ्रमित हो गया और ज़रूरत से ज़्यादा सोचने लगा। सरल मॉडलों ने बस हालिया संकेतों को देखा और बहुत अच्छा काम किया।

4. अनुवादक: SHAP बनाम LIME

एक बार जब उन्होंने सर्वश्रेष्ठ भविष्यवक्ताओं को चुन लिया, तो उन्हें यह समझाने की आवश्यकता थी कि वे कैसे काम करते हैं। उन्होंने दो अलग-अलग "अनुवादकों" का उपयोग किया:

SHAP (विस्तृत जासूस): यह विधि एक फॉरेंसिक अकाउंटेंट की तरह है। यह हर एक संकेत को देखता है, गणना करता है कि प्रत्येक का अंतिम उत्तर में कितना योगदान था, और एक गणितीय रूप से सटीक रिपोर्ट देता है। यह बहुत स्थिर और सटीक है, भले ही ब्लड शुगर बहुत तेजी से बदल रहा हो।
- उपमा: यह एक हाई-डेफिनिशन मानचित्र की तरह है जो हर सड़क, गली और इमारत को दिखाता है। यह सटीक है लेकिन इसे पढ़ने में थोड़ा समय लगता है।
LIME (त्वरित स्केच आर्टिस्ट): यह विधि केवल एक विशिष्ट भविष्यवाणी पर ध्यान केंद्रित करती है और उसे समझाने के लिए एक सरल स्केच बनाती है। यह तुरंत समझने में बहुत आसान है लेकिन यदि स्थिति अव्यवस्थित है, तो यह विवरणों को गलत भी बता सकती है।
- उपमा: यह एक त्वरित नैपकिन स्केच की तरह है। यह मुख्य विचार को तुरंत समझा देता है, लेकिन यदि आप बहुत करीब से देखते हैं, तो इसकी रेखाएं टेढ़ी-मेढ़ी या अतिरंजित हो सकती हैं।

तुलना:

SHAP सटीकता और स्थिरता के लिए विजेता था। इसने सच बताया कि कंप्यूटर क्या सोच रहा था, यहाँ तक कि अराजक स्थितियों में भी।
LIME त्वरित, सरल स्पष्टीकरण के लिए बेहतर था, लेकिन कभी-कभी यह "संकेतों" को वास्तव में जितना वे थे, उससे कहीं अधिक बड़ा या महत्वपूर्ण दिखा देता था, खासकर जब ब्लड शुगर तेजी से बदल रहा होता था।

5. उन्होंने क्या सीखा?

सबसे महत्वपूर्ण संकेत: दोनों प्रकार के डायबिटीज के लिए, सबसे महत्वपूर्ण चीज़ जिसे कंप्यूटर ने देखा, वह था कुछ मिनट पहले ब्लड शुगर क्या कर रहा था।
- यदि आपका शुगर 15 मिनट पहले बढ़ रहा था, तो कंप्यूटर भविष्यवाणी करता है कि यह बढ़ता रहेगा।
- उम्र, वजन या दवा जैसे अन्य कारक भी मायने रखते थे, लेकिन वे हालिया रुझान (trend) की तुलना में बैकग्राउंड शोर की तरह थे।
अंतर: टाइप 1 रोगियों के लिए, कंप्यूटर लगभग केवल हाल के शुगर रीडिंग पर निर्भर था क्योंकि उनके स्तर बहुत तेज़ी से बदलते हैं। टाइप 2 रोगियों के लिए, कंप्यूटर ने अन्य स्वास्थ्य कारकों (जैसे किडनी का कार्य) पर भी थोड़ा ध्यान दिया, लेकिन हालिया शुगर ट्रेंड अभी भी मुख्य भूमिका में था।

निष्कर्ष

शोध पत्र यह निष्कर्ष निकालता है कि हम बहुत सटीक भविष्यवाणी करने वाले कंप्यूटर मॉडल बना सकते हैं बिना उन्हें "ब्लैक बॉक्स" बनाए। SHAP जैसे उपकरणों का उपयोग करके, हम देख सकते हैं कि कंप्यूटर ने कोई अनुमान क्यों लगाया।

डॉक्टरों के लिए: इसका मतलब है कि वे AI पर भरोसा कर सकते हैं क्योंकि वे इसके पीछे के तर्क को देख सकते हैं।
भवि vực के लिए: शोधकर्ता सुझाव देते हैं कि इन मॉडलों को और बेहतर बनाने के लिए, उन्हें अधिक डेटा (विशेष रूप से टाइप 1 रोगियों के लिए) की आवश्यकता है और उन्हें अधिक "वास्तविक जीवन" के संकेत शामिल करने चाहिए जैसे कि रोगी ने क्या खाया या कितनी कसरत की, जो इस विशिष्ट अध्ययन में पूरी तरह से शामिल नहीं थे।

संक्षेप में: सरल मॉडल सबसे अच्छा काम करते हैं, हालिया इतिहास सर्वोपरि है, और मशीन को समझने में मदद करने के लिए SHAP सबसे अच्छा अनुवादक है।

तकनीकी सारांश: मधुमेह रोगियों में रक्त ग्लूकोज भविष्यवाणी के लिए AI मॉडल में व्याख्यात्मकता (Explainability) को बढ़ाना

समस्या विवरण
मधुमेह प्रबंधन और प्रतिकूल ग्लाइसेमिक घटनाओं को रोकने के लिए सटीक अल्पकालिक रक्त ग्लूकोज भविष्यवाणी अत्यंत महत्वपूर्ण है। जबकि मशीन लर्निंग (ML) मॉडल ग्लूकोज स्तर के पूर्वानुमान में आशाजनक प्रदर्शन प्रदर्शित कर चुके हैं, उनकी नैदानिक स्वीकार्यता पारदर्शिता की कमी के कारण बाधित है। जटिल मॉडलों की "ब्लैक-बॉक्स" प्रकृति विश्वास और सुरक्षा के लिए बाधा उत्पन्न करती है, विशेष रूप से जीवन-महत्वपूर्ण परिदृश्यों में। इसके अलावा, मौजूदा शोध मुख्य रूप से टाइप 1 डायबिटीज (T1DM) पर केंद्रित है, जो टाइप 2 डायबिटीज (T2DM) को कम исслеित छोड़ देता है, जबकि इसकी व्यापकता अधिक है। यह मूल्यांकन करने की आवश्यकता है कि ML मॉडल न केवल भविष्य कहनेवाला सटीकता (predictive accuracy) प्रदान करें, बल्कि विभिन्न मधुमेह आबादी के लिए उनकी व्याख्यात्मकता (interpretability) भी सुनिश्चित करें ताकि नैदानिक व्यवहार्यता बनी रहे।

कार्यप्रणाली
यह अध्ययन एक दो-चरणीय ढांचे का उपयोग करता है: प्रेडिक्टिव मॉडलिंग और मॉडल व्याख्यात्मकता (Model Explainability), जिसमें ShanghaiT1DM (12 विषय) और ShanghaiT2DM (100 विषय) डेटासेट का उपयोग किया गया है। इन डेटासेट्स में निरंतर ग्लूकोज मॉनिटरिंग (CGM) टाइम-सीरीज डेटा (15-मिनट अंतराल) और स्थिर नैदानिक विशेषताएं (जनसांख्यिकी, जैव रासायनिक माप, दवाएं) शामिल हैं।

प्रेडिक्टिव मॉडलिंग (Predictive Modelling):
- डेटा प्रीप्रोसेसिंग: लुप्त मानों (missing values) को इंटरपोलेट किया गया (वे चर जिनमें >30% डेटा अनुपलब्ध था, उन्हें बाहर कर दिया गया), और श्रेणीबद्ध डेटा को बाइनराइज़ किया गया।
- विशेषता चयन (Feature Selection): 93 चरों के प्रारंभिक समूह से, एक दो-चरणीय चयन प्रक्रिया (वेरिएंस थ्रेशोल्ड और म्यूचुअल इंफॉर्मेशन-आधारित SelectKBest) द्वारा इनपुट को 20 सबसे प्रासंगिक भविष्यवाक्ताओं तक कम किया गया।
- मॉडल विकास: 30 मिनट आगे (दो 15-मिनट अंतराल) ग्लूकोज स्तर की भविष्यवाणी करने के लिए पांच अलग-अलग ML मॉडल प्रशिक्षित किए गए:
  - लीनियर रिग्रेशन (बेसलाइन)
  - रैंडम फॉरेस्ट (एन्सेम्बल)
  - XGBoost (ग्रेडिएंट बूस्टिंग)
  - सपोर्ट वेक्टर रिग्रेशन (SVR, कर्नल-आधारित)
  - लॉन्ग शॉर्ट-टर्म मेमोरी (LSTM, डीप लर्निंग सीक्वेंस मॉडल)
- मूल्यांकन: प्रदर्शन का आकलन 60/20/20 ट्रेन-वैलिडेशन-टेस्ट स्प्लिट पर रूट मीन स्क्वेर्ड एरर (RMSE) और कोएफिशिएंट ऑफ डिटरमिनेशन ( $R^2$ ) का उपयोग करके किया गया।
मॉडल व्याख्यात्मकता (XAI):
- तकनीकें: अध्ययन में SHAP (Shapley Additive Explanations) और LIME (Local Interpretable Model-Agnostic Explanations) का उपयोग किया गया।
- ग्लोबल विश्लेषण: पूरे डेटासेट में फीचर महत्व को एकत्रित करने के लिए SHAP का उपयोग किया गया ताकि प्रमुख भविष्यवाक्ताओं की पहचान की जा सके।
- लोकल विश्लेषण: T1DM और T2DM दोनों के लिए कम-त्रुटि (स्थिर) और उच्च-त्रुटि (अस्थिर) भविष्यवाणी परिदृश्यों का प्रतिनिधित्व करने वाले विशिष्ट टेस्ट इंस्टेंस पर SHAP और LIME लागू किए गए।
- तुलना मानदंड: व्याख्यात्मकता विधियों का मूल्यांकन पांच आयामों के आधार पर किया गया: फिडेलिटी (fidelity), व्याख्यात्मकता (interpretability), पूर्णता (completeness), स्थिरता (stability), और नैदानिक उपयोगिता (clinical usability)।

प्रमुख योगदान

तुलनात्मक प्रदर्शन विश्लेषण: यह अध्ययन दोनों T1DM और T2DM समूहों के लिए 30-मिनट ग्लूकोज पूर्वानुमान हेतु लीनियर, एन्सेम्बल, कर्नल-आधारित और डीप लर्निंग मॉडलों का सीधा तुलनात्मक विश्लेषण प्रदान करता है।
दोहरी-जनसंख्या अंतर्दृष्टि: यह T1DM डायनेमिक्स के साथ तुलना करते हुए, विशेष रूप से टाइप 2 रोगियों के लिए मॉडल व्यवहार और फीचर महत्व का विश्लेषण करके T2DM अनुसंधान के अंतर को संबोधित करता है।
व्यवस्थित XAI मूल्यांकन: केवल XAI टूल लागू करने के बजाय, यह पेपर ग्लोबल और लोकल संदर्भों में SHAP और LIME की व्यवस्थित तुलना करता है, जो ग्लूकोज भविष्यवाणी के विशिष्ट डोमेन में उनकी संबंधित शक्तियों और कमजोरियों को उजागर करता है।
शारीरिक सत्यापन (Physiological Validation): यह अध्ययन इस बात को सत्यापित करता है कि क्या ML मॉडल नैदानिक रूप से तर्कसंगत विशेषताओं (जैसे, हालिया CGM रुझान बनाम स्थिर नैदानिक चर) पर निर्भर हैं और मॉडल के तर्क में जनसंख्या-विशिष्ट अंतरों की पहचान करता है।

परिणाम

भविभवाणी प्रदर्शन (Predictive Performance):
- T1DM: SVR और लीनियर रिग्रेशन ने सर्वश्रेष्ठ प्रदर्शन किया (RMSE ~20.7–20.8 mg/dL, $R^2$ ~0.90)। LSTM मॉडल का प्रदर्शन काफी खराब रहा (RMSE 26.57 mg/dL), जिसका कारण संभवतः सीमित डेटा के कारण डीप लर्निंग ट्रेनिंग में आने वाली बाधा है।
- T2DM: रैंडम फॉरेस्ट ने सर्वश्रेष्ठ प्रदर्शन किया (RMSE 22.92 mg/dL, $R^2$ 0.73), इसके ठीक बाद XGBoost और SVR का स्थान रहा। LSTM यहाँ भी खराब प्रदर्शन करता रहा (RMSE 33.25 mg/dL)।
- सामान्य रुझान: सरल मॉडल (SVR, रैंडम फॉरेस्ट) डीप लर्निंग दृष्टिकोणों से बेहतर रहे, जो यह सुझाव देते हैं कि अल्पकालिक क्षितिज और सीमित डेटा के लिए, जटिल टेम्पोरल आर्किटेक्चर आवश्यक या प्रभावी नहीं हो सकते हैं।
व्याख्यात्मकता निष्कर्ष (Interpretability Findings):
- फीचर महत्व: T1DM और T2DM दोनों में, हालिया CGM माप (विशेष रूप से $t-1$ से $t-4$ ) प्रमुख भविष्यवक्ता थे, जो भविष्य कहने वाले प्रभाव का अधिकांश हिस्सा रखते थे। स्थिर नैदानिक चरों का T1DM में न्यूनतम योगदान था, लेकिन T2DM में थोड़ा अधिक संरचित, माध्यमिक योगदान दिखा।
- मॉडल व्यवहार: T1DM भविष्यवाणियाँ उच्च अस्थिरता और तत्काल ग्लूकोज इतिहास पर निर्भरता द्वारा पहचानी गईं। T2DM भविष्यवाणियों ने स्मूथ ट्राजेक्टरी दिखाई, जिसमें नैदानिक चरों (जैसे, HbA1c, क्रिएटिनिन) का थोड़ा अधिक प्रभाव था।
- SHAP बनाम LIME:
  - फिडेलिटी और स्थिरता: SHAP ने उच्च फिडेलिटी और स्थिरता प्रदर्शित की, जो उच्च-त्रुटि, अस्थिर परिदृश्यों में भी सुसंगत स्पष्टीकरण प्रदान करता है। LIME ने संख्यात्मक अस्थिरता दिखाई, जो अक्सर फीचर मैग्नीट्यूड को बढ़ा-चढ़ाकर पेश करता है या नॉन-लीनियर क्षेत्रों में संकेतों को बदल देता है।
  - पूर्णता: SHAP ने फीचर योगदान का एक व्यापक दृश्य प्रदान किया, जबकि LIME ने स्पार्स (sparse) स्पष्टीकरण दिए जो कभी-कभी प्रासंगिक लेकिन कमजोर फीचर्स को छोड़ देते थे।
  - व्याख्यात्मकता: LIME ने सरल, अधिक सुलभ विज़ुअलाइज़ेशन (बार चार्ट) प्रदान किए जो त्वरित केस समीक्षा के लिए उपयुक्त हैं, जबकि SHAP के लिए अधिक परिचितता की आवश्यकता थी लेकिन यह नॉन-लीनियर इंटरैक्शन में गहरी अंतर्दृष्टि प्रदान करता था।

महत्व और दावे
यह पेपर दावा करता है कि ML और XAI के एकीकरण के माध्यम से सटीक अल्पकालिक ग्लूकोज पूर्वानुमान के साथ अर्थपूर्ण पारदर्शिता प्राप्त की जा सकती है। निष्कर्ष मधुमेह प्रबंधन के लिए विश्वसनीय AI सिस्टम के विकास का समर्थन करते हैं, यह प्रदर्शित करते हुए कि:

मॉडल चयन: SVR और ट्री-आधारित एन्सेम्बल, 30-मिनट ग्लूकोज भविष्यवाणी के लिए मजबूत विकल्प हैं, विशेष रूप से जब डेटासेट का आकार सीमित हो।
नैदानिक तर्कसंगतता: ML मॉडल मुख्य रूप से हालिया ग्लूकोज इतिहास पर निर्भर करते हैं, जो एक नैदानिक रूप से ठोस तंत्र है, हालांकि T2DM मॉडल अतिरिक्त नैदानिक संदर्भ को शामिल करते हैं।
पूरक XAI: SHAP और LIME पूरक भूमिकाएँ निभाते हैं; SHAP मॉडल की विश्वसनीयता और ग्लोबल व्यवहार को मान्य करने के लिए श्रेष्ठ है, जबकि LIME त्वरित, इंस्टेंस-स्तरीय तर्क के लिए प्रभावी है।
भविष्य की दिशा: अध्ययन इस बात पर जोर देता है कि स्वास्थ्य सेवा में AI परिनियोजन के लिए व्याख्यात्मकता को एक वैकल्पिक जोड़ के रूप में नहीं, बल्कि एक मुख्य घटक के रूप में शामिल किया जाना चाहिए, ताकि क्लिनिशियन के विश्वास और सुरक्षित एकीकरण को सुगम बनाया जा सके।

लेखक सीमाओं का उल्लेख करते हैं, जिसमें छोटा T1DM कोहोर्ट आकार, समय-निर्भर प्रासंगिक चरों (भोजन, इंसुलिन, गतिविधि) का बहिष्करण, और पोस्ट-हॉक व्याख्यात्मकता विधियों की अंतर्निहित बाधाएं शामिल हैं। वे सुझाव देते हैं कि भविष्य के कार्य को बड़े, अधिक विविध कोहोर्ट्स और गतिशील प्रासंगिक डेटा के एकीकरण पर ध्यान केंद्रित करना चाहिए।