Explaining Digital Pathology Models via Clustering Activations

तकनीकी सारांश: क्लस्टरिंग एक्टिवेशन के माध्यम से डिजिटल पैथोलॉजी मॉडल्स की व्याख्या करना

समस्या विवरण
क्लिनिकल डिजिटल पैथोलॉजी में डीप लर्निंग मॉडल्स को अपनाना एक "ट्रस्ट गैप" (विश्वास की कमी) के कारण बाधित है। हालांकि कनवल्शनल न्यूरल नेटवर्क्स (CNNs) ऊतक स्लाइड्स (जैसे, प्रोस्टेट कैंसर का पता लगाना) को सटीक रूप से वर्गीकृत कर सकते हैं, लेकिन वे अपारदर्शी "ब्लैक बॉक्स" के रूप में कार्य करते हैं। पैथोलॉजिस्ट इन मॉडल्स पर भरोसा करने में संकोच करते हैं क्योंकि मानक व्याख्यात्मक तकनीकें, जैसे कि ऑक्लूजन (occlusion), ग्रैडकैम (GradCAM), या रिलिवेंस प्रोपेगेशन (relevance propagation), केवल एक-आयामी, स्थानीय सैलिएंसी मैप्स (saliency maps) प्रदान करती हैं। ये मैप्स एक एकल भविष्यवाणी के लिए योगदान देने वाले क्षेत्रों को उजागर करते हैं, लेकिन निर्णय के पीछे के तर्क या मॉडल के वैश्विक व्यवहार की व्याख्या करने में विफल रहते हैं। मानव पैथोलॉजिस्टों के विपरीत, जो विभिन्न रूपात्मक विशेषताओं (morphological features) और ऊतक प्रकारों को संश्लेषित करते हैं, वर्तमान विधियाँ उन आंतरिक अर्थपूर्ण प्रस्तुतियों (semantic representations) को प्रकट नहीं करती हैं जिनका उपयोग मॉडल स्वस्थ और कैंसरयुक्त ऊतक के बीच अंतर करने के लिए करता है।

कार्यप्रणाली
लेखक एक क्लस्टरिंग-आधारित व्याख्यात्मक तकनीक प्रस्तावित करते हैं जो फीचर एक्टिवेशन को समूहीकृत करके CNN मॉडल्स के वैश्विक व्यवहार को विज़ुअलाइज़ करती है। यह विधि इस प्रकार कार्य करती है:

1. फीचर एक्सट्रैक्शन (विशेषता निष्कर्षण): एक दिए गए CNN मॉडल के लिए, इनपुट इमेज टाइल्स के प्रत्येक स्थानिक स्थान $(i, j)$ के लिए एक विशिष्ट कनवल्शनल लेयर $\ell$ से फीचर वेक्टर्स निकाले जाते हैं। ये वेक्टर्स सभी चैनलों $C$ में एक्टिवेशन मानों को दर्शाते हैं।
2. नॉन-नेगेटिव मैट्रिक्स फैक्टराइजेशन (NMF): अर्थपूर्ण व्याख्यात्मकता सुनिश्चित करने के लिए, लेखक फीचर वेक्टर्स पर NMF का उपयोग करते हैं। चूंकि NMF के लिए गैर-ऋणात्मक (non-negative) इनपुट की आवश्यकता होती है, इसलिए वे ReLU एक्टिवेशन फंक्शन के बाद लेयर के आउटपुट का उपयोग करते हैं।
3. क्लस्टरिंग प्रक्रिया:
   • प्रशिक्षण (Training): एक प्रशिक्षण मैट्रिक्स $V$ को फ्रोबेनियस नॉर्म $\|V - WH\|_F^2$ को न्यूनतम करके गैर-ऋणात्मक मैट्रिसेस $W$ और $H$ में विघटित किया जाता है। मैट्रिक्स $H$, $K$ क्लास वेक्टर्स (क्लस्टर सेंट्रॉइड्स) का प्रतिनिधित्व करता है, जबकि $W$ प्रत्येक फीचर वेक्टर के लिए प्रत्येक क्लास के तीव्रता (वजन/intensity) का प्रतिनिधित्व करता है।
   • अनुमान (Inference): नए डेटा के लिए, $H$ स्थिर रहता है, और $W$ को अनुकूलित किया जाता है। प्रत्येक स्थानिक स्थान को उच्चतम तीव्रता वजन वाले क्लस्टर के रूप में सौंपा जाता है।
4. होल स्लाइड इमेज (WSI) अनुकूलन: WSIs के विशाल पैमाने (लाखों पिक्सेल) और टाइल ओवरलैप की समस्या को संभालने के लिए:
   • प्रत्येक टाइल के फीचर वेक्टर्स के 2-पिक्सेल बॉर्डर को हटाया जाता है ताकि बॉर्डर आर्टिफैक्ट्स को कम किया जा सके।
   • एक ही स्थानिक स्थान पर ओवरलैपिंग टाइल्स के फीचर वेक्टर्स को एक एकल, सुसंगत प्रतिनिधित्व बनाने के लिए औसत निकाला जाता है।
   • कोई ऊतक ओवरलैप न होने वाली टाइल्स (बैकग्राउंड) को गणना को प्रासंगिक क्षेत्रों पर केंद्रित करने के लिए हटा दिया जाता है।

प्रमुख योगदान

• वैश्विक बनाम स्थानीय व्याख्या: सैलिएंसी मैप्स के विपरीत जो एक एकल निर्णय के लिए विशिष्ट क्षेत्रों को उजागर करते हैं, यह विधि आंतरिक प्रस्तुतियों को विशिष्ट अर्थपूर्ण श्रेणियों में क्लस्टर करके मॉडल के वैश्विक व्यवहार को प्रकट करती है।
• सुपरविजन के बिना सिमेंटिक सेगमेंटेशन: यह तकनीक इनपुट इमेज का एक सिमेंटिक सेगमेंटेशन उत्पन्न करती है, भले ही अंतर्निहित मॉडल केवल बाइनरी क्लासिफिकेशन (कैंसर बनाम गैर-कैंसर) के लिए प्रशिक्षित किया गया हो और कभी भी सेगमेंटेशन के लिए प्रशिक्षित नहीं किया गया हो।
• WSI चुनौतियों का समाधान: यह दृष्टिकोण डिजिटल पैथोलॉजी स्लाइड्स की उच्च आयामीता (high dimensionality) और विरल ऊतक वितरण को प्रबंधित करने के लिए विशेष रूप से डिज़ाइन किया गया है।
• विशेषज्ञ ज्ञान के विरुद्ध सत्यापन: इस विधि का मूल्यांकन प्रोस्टेट कैंसर डिटेक्शन मॉडल पर किया गया, जिससे यह प्रदर्शित हुआ कि परिणामी क्लस्टर्स उन रूपात्मक विशेषताओं (morphological features) के अनुरूप हैं जिन्हें पैथोलॉजिस्ट पहचानते हैं।

परिणाम
इस तकनीक का मूल्यांकन मैसरिक मेमोरियल कैंसर इंस्टीट्यूट से 87 WSIs पर प्रशिक्षित प्रोस्टेट कैंसर डिटेक्शन मॉडल (VGG-16 बैकबोन) का उपयोग करके किया गया। लेखकों ने $K=4, 6,$ और $8$ क्लासेज के साथ क्लस्टरिंग मॉडल्स को प्रशिक्षित किया।

• पैथोलॉजिस्ट मूल्यांकन: एक रेजिडेंट पैथोलॉजिस्ट ने $K=6$ क्लस्टरिंग आउटपुट का विश्लेषण किया और पाया कि क्लस्टर्स विशिष्ट रूपात्मक संरचनाओं के अनुरूप थे:
  • क्लास 2, 4, और 5 को कार्सिनोमेटस क्षेत्रों (जैसे, घनी रूप से पैक नाभिकों की श्रृंखला, छोटे लुमिना) के अनुरूप पहचाना गया।
  • क्लास 1, 3, और 6 विरल ऊतक संरचनाओं, किनारों, या सामान्य एपिथेलियम के अनुरूप थे।
• मात्रात्मक विश्लेषण:
  • केवल क्लस्टर वेट्स पर प्रशिक्षित एक लॉजिस्टिक रिग्रेशन मॉडल ने कैंसर पॉजिटिविटी की भविष्यवाणी करने में उच्च प्रदर्शन प्राप्त किया (सटीकता: 0.984, AUC: 0.998)।
  • रिग्रेशन कोएफिशिएंट्स ने पुष्टि की कि क्लास 2, 4, और 5 कैंसर पॉजिटिव लेबल के साथ दृढ़ता से सह-संबंधित हैं, जबकि क्लास 1, 3, और 6 नेगेटिव लेबल के साथ सह-संबंधित हैं, जो पैथोलॉजिस्ट के गुणात्मक मूल्यांकन के अनुरूप है।
• GradCAM के साथ तुलना:
  • जबकि क्लास 2, 4, और 5 ने GradCAM हीटमैप्स के साथ उच्च सहसंबंध दिखाया, क्लस्टर्स और GradCAM मास्क के बीच इंटरसेक्शन ओवर यूनियन (IoU) कम था।
  • यह इंगित करता है कि हालांकि क्लस्टर्स उन क्षेत्रों के साथ ओवरलैप करते हैं जिन्हें GradCAM महत्वपूर्ण मानता है, क्लस्टरिंग विधि अधिक सूक्ष्म, बारीक जानकारी प्रदान करती है कि मॉडल उन क्षेत्रों के भीतर किन विशिष्ट विशेषताओं का उपयोग कर रहा है।

महत्व और दावे
यह पेपर दावा करता है कि यह क्लस्टरिंग-आधारित दृष्टिकोण डिजिटल पैथोलॉजी में CNNs की आंतरिक कार्यप्रणाली को समझने के लिए एक मजबूत उपकरण प्रदान करता है। सरल सैलिएंसी मैप्स से आगे बढ़कर मॉडल के वैश्विक अर्थपूर्ण व्यवहार को प्रकट करके, यह विधि "ब्लैक बॉक्स" प्रकृति को स्पष्ट करने में मदद करती है। लेखकों का तर्क है कि मॉडल द्वारा प्राथमिकता दी जाने वाली विशिष्ट रूपात्मक विशेषताओं में व्याख्यात्मक अंतर्दृष्टि प्रदान करना पैथोलॉजिस्ट के विश्वास को काफी बढ़ा सकता है, जिससे नैदानिक अभ्यास में AI मॉडल्स को तेजी से और सुरक्षित रूप से अपनाने में मदद मिलती है। यह विधि किसी भी ऐसे मॉडल आर्किटेक्चर पर लागू होने योग्य है जो स्थानिक फीचर वेक्टर्स का उपयोग करता है, और भविष्य के कार्यों में फाउंडेशनल ट्रांसफार्मर मॉडल्स के निरीक्षण का सुझाव दिया गया है।