Bridging the Gap: Explainability Metrics for AI Image-Based Clinical Diagnostics
यह अध्ययन 'एक्सप्लेनेबिलिटी एग्रीमेंट इंडेक्स' (EAI) को प्रस्तुत करता है, जो एक नवीन मीट्रिक है जो क्रोनिक घाव के निदान में एआई-जनित स्पष्टीकरणों और नैदानिक तर्क के बीच संरेखण को परिमाणित करता है, जिससे यह पता चलता है कि उच्च वर्गीकरण सटीकता के बावजूद, वर्तमान एआई मॉडल अक्सर नैदानिक विश्वसनीयता के लिए आवश्यक व्याख्यात्मकता की कमी रखते हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य समस्या: "ब्लैक बॉक्स" डॉक्टर
कल्पना कीजिए कि आप एक डॉक्टर के पास जाते हैं और वे आपसे कहते हैं, "आपके घाव में संक्रमण (infection) है।" आप पूछते हैं, "आपको कैसे पता? आप क्या देख रहे हैं?"
एक मानव डॉक्टर लालिमा, मवाद या सूजन की ओर इशारा करेगा और कहेगा, "मैं ये विशिष्ट संकेत देख रहा हूँ।" लेकिन यदि वह डॉक्टर एक आर्टिफिशियल इंटेलिजेंस (AI) होता, तो वह केवल यह कह सकता था, "मेरे कंप्यूटर ने 'हाँ' कहा है," बिना यह बताए कि क्यों।
यह "ब्लैक बॉक्स" की समस्या है। AI सही उत्तर का अनुमान लगाने में बहुत अच्छा है, लेकिन यह अक्सर अपने तर्क को समझाने में असमर्थ होता है। चिकित्सा में, डॉक्टरों को AI पर भरोसा करने की आवश्यकता होती है, और वे उस चीज़ पर भरोसा नहीं कर सकते जिसे वे समझ नहीं पाते।
प्रयोग: AI को घाव देखना सिखाना
इस शोध पत्र के शोधकर्ताओं ने परीक्षण करना चाहा कि क्या AI घावों की तस्वीरों से संक्रमण का निदान कर सकता है। उन्होंने घावों की तस्वीरों के एक सार्वजनिक डेटाबेस का उपयोग करके तीन अलग-अलग "AI मस्तिष्क" (जिन्हें कनवल्शनल न्यूरल नेटवर्क कहा जाता है) बनाए।
परिणाम: AI वास्तव में अनुमान लगाने में काफी अच्छा था। इसने लगभग 72% बार सही निदान किया। यदि आप केवल स्कोर को देखते, तो आप सोचते, "शानदार! हम इसका उपयोग कर सकते हैं!"
ट्विस्ट: "क्या" से अधिक "क्यों" महत्वपूर्ण है
यहीं पर यह शोध पत्र दिलचस्प हो जाता है। शोधकर्ताओं ने पूछा: "सिर्फ इसलिए कि AI ने सही उत्तर दिया, क्या इसने वहां तक पहुँचने के लिए तस्वीर के सही हिस्से को देखा?"
यह जानने के लिए, उन्होंने तीन खिलाड़ियों के साथ एक खेल आयोजित किया:
- AI: घाव की फोटो देखी और "संक्रमित" (Infected) होने का अनुमान लगाया।
- AI का "हाइलाइटर": शोधकर्ताओं ने दो उपकरणों (जिन्हें LIME और Saliency Maps कहा जाता है) का उपयोग करके AI से पूछा, "किन पिक्सेल ने आपको 'संक्रमित' कहने के लिए प्रेरित किया?" AI ने फोटो के कुछ स्थानों की ओर इशारा किया, जैसे कि एक हाइलाइटर पेन।
- मानव डॉक्टर: दो वास्तविक घाव विशेषज्ञों ने उन्हीं तस्वीरों को देखा और उन स्थानों को चिह्नित किया जिन्हें वे संक्रमण का संकेत मानते थे।
स्कोरकार्ड: "एक्सप्लेनेबिलिटी एग्रीमेंट इंडेक्स" (EAI)
शोधकर्ताओं ने एक नया स्कोर बनाया जिसे एक्सप्लेनेबिलिटी एग्रीमेंट इंडेक्स (EAI) कहा जाता है। इसे "वेयर्स वाल्डो?" (Where's Waldo?) के खेल की तरह समझें।
- लक्ष्य: क्या AI का "वेयर्स वाल्डो" (वह स्थान जिसे उसने हाइलाइट किया) मानव डॉक्टर के "वेयर्स वाल्डो" से मेल खाता है?
- स्कोर: यदि AI ठीक उसी लाल, उग्र स्थान को हाइलाइट करता है जिसे डॉक्टर देख रहा है, तो स्कोर उच्च (1.0 के करीब) होता है। यदि AI मरीज के घुटने पर किसी यादृच्छिक (random) स्थान को हाइलाइट करता है जबकि डॉक्टर घाव को देख रहा है, तो स्कोर कम (0 के करीब) होता है।
चौंकाने वाला परिणाम:
भले ही AI ने 72% बार सही निदान किया, लेकिन EAI स्कोर बहुत कम (0.19 और 0.30 के बीच) था।
इसका क्या अर्थ है?
इसका मतलब है कि AI गलत कारणों से सही उत्तर प्राप्त कर रहा था।
- उपमा (Analogy): कल्पना कीजिए कि एक छात्र गणित की परीक्षा दे रहा है। उसे "42" सही उत्तर मिलता है। लेकिन जब आप उससे अपना काम दिखाने को कहते हैं, तो वह प्रश्न में संख्या "4" को घेरता है और कहता है, "मैंने 4 देखा, इसलिए उत्तर 42 है।"
- उत्तर सही है, लेकिन तर्क बेतुका है। चिकित्सा में, यह खतरनाक है। यदि AI निदान करने के लिए गलत चीज़ (जैसे छाया या पट्टी) को देख रहा है, तो वह एक बार भाग्यशाली हो सकता है, लेकिन जब स्थिति थोड़ी भी बदलती है, तो वह विफल हो जाएगा।
उपयोग किए गए उपकरण: LIME और Saliency Maps
शोध पत्र ने AI को "बोलने" के दो विशिष्ट तरीकों का परीक्षण किया:
- Saliency Maps: यह छवि पर टॉर्च चमकाने जैसा है। यह दिखाता है कि AI के निर्णय में किन पिक्सेल ने सबसे अधिक बदलाव किया।
- LIME: यह एक फोटो लेने जैसा है, जिसमें इसके छोटे हिस्सों को ग्रे (धूसर) वर्गों से ढक दिया जाता है, और यह देखा जाता है कि क्या AI का अनुमान बदल जाता है। यदि किसी हिस्से को ढकने से AI अपना विचार बदल लेता है, तो वह हिस्सा महत्वपूर्ण है।
निष्कर्ष: इन दोनों में से कोई भी उपकरण डॉक्टरों की आँखों से मेल खाने में बहुत अच्छा नहीं रहा। AI की "टॉर्च" और "पैच" उस स्थान से मेल नहीं खाए जहाँ मानव विशेषज्ञ देख रहे थे।
निष्कर्ष: सटीकता पर्याप्त नहीं है
इस शोध पत्र का मुख्य संदेश सरल है: सही होना, भरोसेमंद होने के समान नहीं है।
आपके पास एक ऐसा AI हो सकता है जो बीमारियों का अनुमान लगाने में बहुत सटीक हो, लेकिन यदि वह मानव डॉक्टर के तर्क के साथ मेल खाते हुए यह नहीं समझा सकता कि क्यों, तो वह अस्पताल के लिए तैयार नहीं है। शोधकर्ता प्रस्ताव देते हैं कि हमें केवल यह मापने के बजाय कि "यह कितनी बार सही है?" यह मापना शुरू करना चाहिए कि "क्या यह वही देखता है जो हम देखते हैं?"
उन्होंने इस संरेखण (alignment) को मापने के लिए एक नए पैमाने के रूप में EAI बनाया। उनका अध्ययन दिखाता है कि वर्तमान में, AI जो देखता है और डॉक्टर जो देखते हैं, उसके बीच एक बड़ा अंतर है, और हमें क्लिनिक में पूरी तरह से भरोसा करने से पहले इस अंतर को ठीक करने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।