⚡ electrical engineering

Input-Dependent Fisher Information for Local Sensitivity Analysis of Medical Image Classifiers

यह शोध पत्र इनपुट-निर्भर फिशर इंफॉर्मेशन मैट्रिक्स (iFIM) पर आधारित मेडिकल इमेज क्लासिफायर के लिए एक सिद्धांत-आधारित स्थानीय संवेदनशीलता विश्लेषण ढांचा प्रस्तुत करता है, जो छवियों को उच्च-संवेदनशीलता और ऑर्थोगोनल घटकों में विभाजित करता है ताकि भविष्य कहने वाली संवेदनशीलता का एक मॉडल-अंतर्निहित विवरण प्रदान किया जा सके जो पारंपरिक ह्यूरिस्टिक एट्रिब्यूशन विधियों से बेहतर प्रदर्शन करता है।

मूल लेखक: Sourya Sengupta. Mark A. Anastasio

प्रकाशित 2026-06-16

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Sourya Sengupta. Mark A. Anastasio

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक अत्यधिक कुशल मेडिकल AI है जो बीमारियों का निदान करने के लिए एक्स-रे या रेटिनल स्कैन का उपयोग करता है। हर कोई जानता है कि ये AI सही उत्तर देने में बेहतरीन हैं, लेकिन वे "ब्लैक बॉक्स" भी हैं। आप उनसे पूछते हैं, "आपने क्यों कहा कि इस रोगी को हृदय रोग है?" और वे बस छवि के उस हिस्से की ओर इशारा करते हुए कहते हैं, "यह इस क्षेत्र के कारण है।"

इन मानक हीटमैप्स (heatmaps) की समस्या यह है कि वे अक्सर केवल अनुमान (heuristics) होते हैं। वे आपको बताते हैं कि AI ने कहाँ देखा, लेकिन यह नहीं कि उस क्षेत्र में मामूली बदलाव होने पर AI का निर्णय कितना संवेदनशील (sensitive) है।

यह शोध पत्र AI के मस्तिष्क को समझने का एक नया, अधिक गणितीय तरीका पेश करता है। वे इसे iFIM (Input-dependent Fisher Information Matrix) कहते हैं। यह कैसे काम करता है, इसके लिए यहाँ सरल उपमाएँ दी गई हैं:

1. "सी-सॉ" (Seesaw) की उपमा (iFIM क्या है?)

कल्पना कीजिए कि AI की निर्णय लेने की प्रक्रिया एक विशाल, जटिल सी-सॉ (झूला) की तरह है।

मानक हीटमैप्स केवल आपको यह दिखाते हैं कि वर्तमान में सी-सॉ का कौन सा हिस्सा वजन को थामे हुए है।
iFIM विधि एक अलग प्रश्न पूछती है: "यदि मैं एक अदृश्य, सूक्ष्म उंगली से सी-सॉ को ठीक यहाँ चुभा दूँ, तो पूरी चीज़ कितनी डगमगाएगी?"

iFIM सटीक रूप से मापता है कि छवि के एक विशिष्ट भाग में सूक्ष्म परिवर्तन करने पर AI के आत्मविश्वास में कितना बदलाव आता है। यह "डगमगाहट वाले क्षेत्रों" (उच्च संवेदनशीलता) और "स्थिर क्षेत्रों" (कम संवेदनशीलता) का मानचित्र तैयार करता है।

2. "दो-परत वाला केक" (यह छवि को कैसे विभाजित करता है)

एक बार जब AI ने इन "डगमगाहट वाले क्षेत्रों" का मानचित्र बना लिया, तो लेखक एक विशेष गणितीय ट्रिक (जिसे ग्राम-मैट्रिक्स कहा जाता है) का उपयोग करके छवि को दो अलग-अलग परतों में काटते हैं, जैसे कि एक दो-परत वाला केक:

परत 1: "उच्च-संवेदनशीलता" वाला केक। इसमें छवि के वे हिस्से शामिल हैं जिन्हें यदि आप थोड़ा सा भी बदल दें, तो AI घबरा जाएगा और अपना निर्णय बदल देगा। ये वे महत्वपूर्ण क्षेत्र हैं जहाँ AI अपने निर्णय को लेकर सबसे अधिक "तनाव" में है।
परत 2: "कम-संवेदनशीलता" वाला केक। इसमें छवि के बाकी हिस्से शामिल हैं। यदि आप इन हिस्सों को बदलते हैं, तो AI को इससे कोई फर्क नहीं पड़ेगा; उसका निर्णय वैसा ही रहेगा।

महत्वपूर्ण बिंदु: लेखक इस बात पर जोर देते हैं कि यह केवल "बीमारी बनाम स्वस्थ" की तस्वीर नहीं है। यह एक तस्वीर है कि "AI वर्तमान में किस बात को लेकर चिंतित है" बनाम "AI किसे अनदेखा कर रहा है।"

3. "ट्यूनिंग फोर्क" (Tuning Fork) की उपमा (यह बेहतर क्यों है?)

AI को एक संगीतकार के रूप में सोचें जो गिटार ट्यून कर रहा है।

पुराने तरीके (जैसे Grad-CAM) गिटार को देखकर यह अनुमान लगाने जैसे हैं कि कौन सा तार सुर से बाहर है।
iFIM विधि तारों को बजाकर देखने जैसी है। यह वास्तव में तारों को टेस्ट करती है कि उन्हें छूने पर कौन से तार सबसे ज़ोर से कंपन करते हैं।

शोध पत्र दिखाता है कि जब उन्होंने छवि के "उच्च-संवेदनशीलता वाले हिस्सों" को "बजाया" (उनमें शोर/noise जोड़ा), तो AI का प्रदर्शन बहुत अधिक गिर गया, जबकि कम-संवेदनशीलता वाले हिस्सों को बजाने पर ऐसा नहीं हुआ। यह सिद्ध करता है कि iFIM विधि ने सफलतापूर्वक उन सबसे महत्वपूर्ण हिस्सों की पहचान की जो AI के निर्णय के लिए निर्णायक थे।

4. "अलग-अलग आर्किटेक्ट्स" की उपमा (आर्किटेक्चर निर्भरता)

शोधकर्ताओं ने इसका परीक्षण दो अलग-अलग प्रकार के AI मॉडल (VGG16 और ResNet18) पर किया। भले ही दोनों मॉडलों का टेस्ट स्कोर समान था, लेकिन उनके "डगमगाहट मानचित्र" (wobble maps) अलग दिखे।

एक मॉडल ने अपनी संवेदनशीलता को हृदय के किनारे पर केंद्रित किया।
दूसरे ने अपनी संवेदनशीलता को अधिक व्यापक रूप से फैला दिया।

यह दर्शाता है कि iFIM विधि यह प्रकट कर सकती है कि दो अलग-अलग AI, सही उत्तर मिलने के बावजूद, कैसे सोचते हैं।

सारांश: जो वे दावा करते हैं

यह एक नया उपकरण है: यह पुराने हीटमैप्स का विकल्प नहीं है, बल्कि एक साथी है जो केवल स्थान के बजाय संवेदनशीलता की व्याख्या करता है।
यह गणितीय रूप से आधारित है: यह केवल एक अनुमान के बजाय एक कठोर सूत्र (Fisher Information) का उपयोग करता है।
यह व्यवहार में काम करता है: उन्होंने वास्तविक चिकित्सा छवियों (आंखों के स्कैन, चेस्ट एक्स-रे) और नियंत्रित सिमुलेशन पर इसका परीक्षण किया।
यह "तनाव परीक्षण" पास करता है: जब उन्होंने AI पर "एडवर्सरियल" शोर (धोखा देने के लिए डिज़ाइन किए गए तरीके) के साथ हमला किया, तो iFIM मानचित्र नाटकीय रूप से बदल गए, जिससे साबित हुआ कि वे AI के वास्तविक निर्णय लेने के तर्क से मजबूती से जुड़े हुए हैं।

संक्षेप में: यह शोध पत्र हमें मेडिकल AI के "तंत्रिका अंत" (nerve endings) को देखने का एक तरीका देता है, जो हमें स्पष्ट रूप से दिखाता है कि छवि के कौन से हिस्से AI को घबराहट में डालते हैं और कौन से हिस्से उसे अनदेखा करते हैं, जिससे उसके निर्णयों की अधिक स्पष्ट और विश्वसनीय व्याख्या मिलती है।

तकनीकी सारांश: मेडिकल इमेज क्लासिफायर के स्थानीय संवेदनशीलता विश्लेषण के लिए इनपुट-डिपेंडेंट फिशर इंफॉर्मेशन

समस्या विवरण

डीप न्यूरल नेटवर्क ने मेडिकल इमेज वर्गीकरण (classification) में उच्च प्रदर्शन हासिल किया है, लेकिन वे अक्सर "ब्लैक बॉक्स" के रूप में कार्य करते हैं। जबकि पोस्ट-हॉक व्याख्या विधियाँ (जैसे, Grad-CAM, Integrated Gradients) मॉडल आउटपुट से जुड़े क्षेत्रों को विज़ुअलाइज़ करने के लिए व्यापक रूप से उपयोग की जाती हैं, वे अक्सर ऐसे अनुमानित (heuristic) मात्राओं पर निर्भर करती हैं जो आर्किटेक्चर और कार्यान्वयन के अनुसार भिन्न होती हैं। महत्वपूर्ण रूप से, ये एट्रिब्यूशन मैप्स इस बात का सिद्धांत-आधारित लक्षण वर्णन (principled characterization) प्रदान नहीं करते हैं कि एक क्लासिफायर का प्रेडिक्टिव डिस्ट्रीब्यूशन, इनपुट पर होने वाले व्यवधानों (perturbations) के प्रति कैसे प्रतिक्रिया करता है। बिना किसी आर्किटेक्चरल पुनर्गठन या अतिरिक्त पर्यवेक्षण के, स्थानीय निर्णय संवेदनशीलता (local decision sensitivity) का विश्लेषण करने के लिए एक मॉडल-इंट्रिन्सिक टूल की आवश्यकता है।

कार्यप्रणाली (Methodology)

लेखक इनपुट-डिपेंडेंट फिशर इंफॉर्मेशन मैट्रिक्स (iFIM) पर आधारित एक स्थानीय संवेदनशीलता विश्लेषण ढांचे का प्रस्ताव करते हैं। यह दृष्टिकोण इनपुट इमेज के सूक्ष्म व्यवधानों (infinitesimal perturbations) के प्रति एक क्लासिफायर के प्रेडिक्टिव डिस्ट्रीब्यूशन की स्थानीय संवेदनशीलता को परिमाणित करता है।

मुख्य ढांचा (Core Framework)

iFIM की परिभाषा: एक प्रशिक्षित क्लासिफायर $f_\theta$ और इनपुट इमेज $x$ के लिए, iFIM $F(x)$ को इनपुट के सापेक्ष लॉग-प्रेडिक्टिव डिस्ट्रीब्यूशन के ग्रेडिएंट्स के अपेक्षित आउटर प्रोडक्ट (expected outer product) के रूप में परिभाषित किया गया है:
$F(x) = \mathbb{E}_{y \sim p_\theta(\cdot|x)} [\nabla_x \log p_\theta(y|x) \nabla_x \log p_\theta(y|x)^\top]$
यह मैट्रिक्स यह लक्षणित करता है कि $x$ के आसपास का प्रेडिक्टिव डिस्ट्रीब्यूशन स्थानीय रूप से कैसे बदलता है।
ग्राम-मैट्रिक्स गुणनखंड (Gram-Matrix Factorization): इमेज-स्केल इनपुट्स के लिए पूर्ण $d \times d$ फिशर मैट्रिक्स का सीधा निर्माण करना कम्प्यूटेशनल रूप से अव्यवहार्य है (जहाँ $d$ पिक्सेल की संख्या है)। लेखक गैर-शून्य आइगेनस्पेक्ट्रम (nonzero eigenspectrum) को कुशलतापूर्वक प्राप्त करने के लिए ग्राम-मैट्रिक्स फॉर्मूलेशन का उपयोग करते हैं। एक मैट्रिक्स $G(x)$ को परिभाषित करके जिसमें वेटेड क्लास ग्रेडिएंट्स शामिल हैं, iFIM को $F(x) = G(x)G(x)^\top$ के रूप में व्यक्त किया जाता है। $C \times C$ ग्राम मैट्रिक्स $K(x) = G(x)^\top G(x)$ (जहाँ $C$ क्लासेज की संख्या है) के गैर-शून्य आइगेनवैल्यूज़, $F(x)$ के आइगेनवैल्यूज़ के साथ मेल खाते हैं। यह अग्रणी आइगेनवेक्टर्स (leading eigenvectors) की गणना योग्य बनाता है।
इमेज अपघटन (Image Decomposition): इनपुट इमेज को iFIM की स्पेक्ट्रल संरचना के आधार पर दो ऑर्थोगोनल घटकों में विभाजित किया जाता है:
- टास्क-सेंसिटिव घटक ( $x_{sens}$ ): iFIM के अग्रणी आइगेनवेक्टर्स (जो सबसे बड़े आइगेनवैल्यूज़ से जुड़े हैं) द्वारा स्पैन किए गए सबस्पेस पर इमेज का प्रोजेक्शन। यह घटक उच्च स्थानीय प्रेडिक्टिव संवेदनशीलता वाले दिशाओं के अनुरूप होता है।
- टास्क-इनसेंसिटिव घटक ( $x_{comp}$ ): इसका ऑर्थोगोनल कॉम्प्लीमेंट, जिसमें कम-संवेदनशीलता वाली दिशाएं और नलस्पेस (nullspace) घटक शामिल हैं।
अपघटन को $x = x_{sens} + x_{comp}$ के रूप में परिभाषित किया गया है। लेखक इस बात पर जोर देते हैं कि ये संवेदनशीलता दिशाओं पर प्रोजेक्शन हैं, न कि अनिवार्य रूप से एनाटॉमी के सिमेंटिक सेगमेंटेशन।

प्रमुख योगदान

फॉर्मूलेशन: प्रशिक्षित मेडिकल इमेज क्लासिफायर के प्रेडिक्टिव डिस्ट्रीब्यूशन की स्थानीय संवेदनशीलता को लक्षणित करने के लिए iFIM का उपयोग करते हुए एक सूचना-सैद्धांतिक (information-theoretic) ढांचा।
कम्प्यूटेशनल दक्षता: एक ग्राम-मैट्रिक्स गुणनखंड विधि जो पूर्ण इमेज-डायमेंशनल फिशर मैट्रिक्स बनाए बिना गैर-शून्य iFIM आइगेनस्पेक्ट्रम को रिकवर करती है, जिससे उच्च-आयामी इमेज डेटा पर अनुप्रयोग संभव होता है।
अपघटन परिभाषा: इनपुट इमेजेस को उच्च-संवेदनशीलता और ऑर्थोगोनल निम्न-संवेदनशीलता घटकों में प्रोजेक्शन-आधारित अपघटन, जो लो-रैंक सेटिंग्स (जैसे, बाइनरी क्लासिफिकेशन) के लिए स्पष्ट व्याख्या प्रदान करता है।
मूल्यांकन: नियंत्रित और क्लिनिकल मेडिकल इमेज क्लासिफिकेशन कार्यों में पर्सर्बेशन-आधारित विश्लेषणों और कई आर्किटेक्चर के बीच तुलना के माध्यम से व्यापक मूल्यांकन।

प्रयोगात्मक परिणाम

ढांचे का मूल्यांकन तीन कार्यों पर किया गया:

रेटिनल OCT: तीन-क्लास वर्गीकरण (Normal, Drusen, CNV)।
चेस्ट एक्स-रे: कार्डियोमेगाली डिटेक्शन।
स्टाइललाइज्ड MRI: सिग्नल-नोन-स्टैटिस्टिकली/बैकग्राउंड-नोन-स्टैटिस्टिकली (SKS/BKS) कार्य।

निष्कर्ष:

विज़ुअलाइज़ेशन: नियंत्रित MRI सेटिंग्स में, टास्क-सेंसिटिव घटक ज्ञात सिग्नल क्षेत्रों के आसपास केंद्रित था। क्लिनिकल कार्यों (OCT और X-ray) में, टास्क-सेंसिटिव मैप्स पैथोलॉजी-युक्त क्षेत्रों (जैसे, Drusen/CNV के लिए रेटिनल लेयर्स, कार्डियोमेगाली के लिए कार्डियक सिलुएट) के साथ संरेखित थे, जबकि इन-सेंसिटिव घटक बैकग्राउंड वेरिएशंस को कैप्चर कर रहे थे।
आर्किटेक्चर निर्भरता: VGG16 और ResNet18 आर्किटेक्चर के बीच टास्क-सेंसिटिव घटक का स्थानिक वितरण भिन्न था, भले ही दोनों ने समान प्रेडिक्टिव परफॉरमेंस हासिल की हो। यह सुझाव देता है कि iFIM आर्किटेक्चर-विशिष्ट स्थानीय निर्णय ज्यामिति (decision geometries) को प्रकट करता है।
पर्सर्बेशन विश्लेषण:
- कॉन्ट्रास्टिव पर्सर्बेशन: जब टास्क-सेंसिटिव iFIM-मैप में उच्च परिमाण वाले पिक्सेल को पर्सर्ब किया गया (शोर/noise के साथ बदला गया), तो क्लासिफायर का F1 स्कोर टास्क-इनसेंसिटिव मैप के पिक्सेल को पर्सर्ब करने की तुलना में काफी अधिक गिर गया। iFIM-आधारित विधि ने अन्य एट्रिब्यूशन विधियों (DeepSHAP, Grad-CAM वेरिएंट आदि) की तुलना में उच्च परफॉरमेंस डिग्रेडेशन रेशियो प्राप्त किया।
- एडवर्सरियल रोबस्टनेस: टास्क-सेंसिटिव iFIM-मैप ने क्लीन और एडवर्सरली पर्सर्बड इनपुट्स के बीच सबसे कम सहसंबंध प्रदर्शित किया (OCT और X-ray कार्यों के लिए शून्य के करीब), जो दर्शाता है कि प्रतिनिधित्व निर्णय-परिवर्तित करने वाले व्यवधानों के प्रति अत्यधिक संवेदनशील है।

महत्व और दावे

यह पेपर दावा करता है कि iFIM ढांचा मेडिकल इमेज क्लासिफायर्स में स्थानीय निर्णय संवेदनशीलता का विश्लेषण करने के लिए एक सिद्धांत-आधारित टूल के रूप में कार्य करता है। पारंपरिक एट्रिब्यूशन हीटमैप्स (जो पिक्सेल-वाइज इम्पोर्टेंस स्कोर प्रदान करते हैं) के विपरीत, iFIM एक मॉडल-इंट्रिन्सिक, ज्यामितीय विवरण प्रदान करता है कि इनपुट के पास के व्यवधान प्रेडिक्टिव डिस्ट्रीब्यूशन को कैसे प्रभावित करते हैं।

लेखक दावा करते हैं कि:

उच्च-संवेदनशीलता वाले iFIM घटक, निम्न-संवेदनशीलता वाले घटकों की तुलना में प्रेडिक्टिव कॉन्फिडेंस और क्लासिफिकेशन परफॉरमेंस में बदलाव के साथ अधिक मजबूती से जुड़े होते हैं।
यह ढांचा मौजूदा एट्रिब्यूशन-आधारित व्याख्यात्मकता (interpretability) विधियों को बदलने के बजाय उनका पूरक है, जो प्रेडिक्टिव डिस्ट्रीब्यूशन के स्थानीय संवेदनशीलता संरचना पर केंद्रित एक अलग दृष्टिकोण प्रदान करता है।
यह विधि मॉडल आर्किटेक्चर को संशोधित किए बिना मानक प्रशिक्षित क्लासिफायर्स के विश्लेषण की अनुमति देती है।

लेखक सिमेंटिक या कॉज़ल (causal) दावों के संबंध में विनम्र रहते हैं, यह नोट करते हुए कि हालांकि अपघटन नियंत्रित सेटिंग्स में ज्ञात सिग्नल संरचनाओं और क्लिनिकल सेटिंग्स में पैथोलॉजी के साथ संरेखित होता है, सिमेंटिक या कॉज़ल टास्क रेलेवेंस के बारे में मजबूत दावे करने के लिए स्वतंत्र संदर्भ मानकों (जैसे, एक्सपर्ट एनोटेशन) के विरुद्ध सत्यापन की आवश्यकता होगी। प्राथमिक योगदान स्थानीय प्रेडिक्टिव संवेदनशीलता का लक्षण वर्णन करना है।