Post-hoc reliability assessment and visual explanation for deep learning-based oral mucosal lesion detection
यह शोधपत्र एक पोस्ट-हॉक फ्रेमवर्क प्रस्तुत करता है जो मौखिक म्यूकोसल लीशन्स (oral mucosal lesions) के लिए एक फ्रोजन YOLOv11 डिटेक्टर की विश्वसनीयता और व्याख्यात्मकता को बढ़ाता है, जो अविश्वसनीय भविष्यवाणियों की पहचान करने के लिए फीचर एम्बेडिंग डेंसिटीज़ का विश्लेषण करता है और विज़ुअल स्पष्टीकरण प्रदान करने के लिए नियरएस्ट-नेबर रिट्रीवल का उपयोग करता है, और यह सब बिना मॉडल को पुन: प्रशिक्षित किए किया जाता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मेडिकल इमेजिंग की दुनिया में, आर्टिफिशियल इंटेलिजेंस उन बीमारियों को पहचानने के लिए एक शक्तिशाली उपकरण बन गया है जिन्हें मानवीय आँखें शायद मिस कर दें। इन प्रणालियों को हजारों तस्वीरों पर प्रशिक्षित किया जाता है, जिससे वे उन पैटर्न को पहचानना सीखती हैं जो बीमारी का संकेत देते हैं। हालांकि, एक महत्वपूर्ण समस्या बनी हुई है: जब ये कंप्यूटर प्रोग्राम कोई भविष्यवाणी करते हैं, तो वे अक्सर एक 'कॉन्फिडेंस स्कोर' (विश्वास स्कोर) प्रदान करते हैं जो भ्रामक हो सकता है। एक सिस्टम 99 प्रतिशत निश्चितता के साथ निदान घोषित कर सकता है, जबकि वह ऐसी छवि देख रहा होता है जो उसके द्वारा देखी गई किसी भी चीज़ से पूरी तरह अलग हो। चिकित्सा जैसे सुरक्षा-महत्वपूर्ण क्षेत्रों में, जहाँ एक गलत अनुमान जीवन रक्षक उपचार में देरी कर सकता है, मशीन पर कब भरोसा करना है, यह जानना मशीन की देखने की क्षमता जितना ही महत्वपूर्ण है। चुनौती एक ऐसा तरीका खोजने की है जिससे पूरे सिस्टम को शुरू से बनाए बिना किसी भविष्यवाणी की विश्वसनीयता की जांच की जा सके।
कई जर्मन और अंतर्राष्ट्रीय संस्थानों के शोधकर्ताओं ने ओरल म्यूकोसल लीजन्स (मुख की श्लेष्म झिल्ली के घाव) का पता लगाने के लिए डिज़ाइन किए गए एक आर्टिफिशियल इंटेलिजेंस के निर्णयों का ऑडिट करने के लिए एक नई विधि विकसित करके इस मुद्दे को हल किया है। ये ऐसी स्थितियाँ हैं जो मुँह के भीतर नरम ऊतकों को प्रभावित करती हैं, जिनमें हानिरहित सफेद धब्बे से लेकर संभावित कैंसरकारी वृद्धि तक शामिल हैं। टीम ने YOLO नामक एक विशिष्ट प्रकार के AI डिटेक्टर पर ध्यान केंद्रित किया, जो छवियों में वस्तुओं को खोजने और उनके चारों ओर बॉक्स बनाने में उत्कृष्ट है। हालांकि डिटेक्टर पहले से ही तीन प्रकार के लीजन्स और स्वस्थ ऊतकों की पहचान करने के लिए प्रशिक्षित था, शोधकर्ता प्रत्येक निर्णय के पीछे के "क्यों" को समझना चाहते थे और यह निर्धारित करना चाहते थे कि क्या AI वास्तव में आश्वस्त था या केवल अनुमान लगा रहा था। उन्होंने मॉडल को फिर से प्रशिक्षित नहीं किया और न ही इसके आंतरिक कोड को बदला। इसके बजाय, उन्होंने उन गणितीय फिंगरप्रिंट्स (विशेषताओं) का अध्ययन किया, जिन्हें 'एम्बेडिंग्स' कहा जाता है, जो AI ने प्रत्येक विश्लेषण की गई छवि के लिए बनाए थे। ये फिंगरप्रिंट्स उन दृश्य विशेषताओं का प्रतिनिधित्व करते हैं जिनका उपयोग AI ने निर्णय लेने के लिए किया था।
शोधकर्ताओं ने इन उच्च-आयामी फिंगरप्रिंट्स को लिया और उन्हें एक सरल द्वि-आयामी परिदृश्य (लैंडस्केप) पर मैप किया। इस मानचित्र पर, एक जैसी दिखने वाली छवियां एक साथ क्लस्टर (समूह) बनाती हैं, जबकि विभिन्न प्रकार के लीजन्स अपने स्वयं के विशिष्ट समूह बनाते हैं। इस मानचित्र पर किसी विशिष्ट क्षेत्र के कितना भीड़भाड़ वाला या विरल (स्पार्स) था, इसका विश्लेषण करके, वे एक विश्वसनीयता स्कोर की गणना कर सकते थे। यदि AI की भविष्यवाणी समान प्रशिक्षण छवियों के एक घने क्लस्टर में आती थी, तो सिस्टम उस भविष्यवाणी को विश्वसनीय मानता था। यदि भविष्यवाणी किसी ज्ञात उदाहरणों से दूर, एक विरल और खाली क्षेत्र में पड़ती थी, तो सिस्टम उसे अनिश्चित घोषित कर देता था। इस दृष्टिकोण ने उन्हें मूल डिटेक्टर को बदले बिना प्रत्येक डिटेक्शन की विश्वसनीयता का आकलन करने की अनुमति दी। उन्होंने पाया कि यह घनत्व-आधारित (डेंसिटी-बेस्ड) स्कोर, AI द्वारा आमतौर पर प्रदान किए जाने वाले मानक कॉन्फिडेंस नंबरों की तुलना में अनिश्चित भविष्यवाणियों की पहचान करने में कहीं अधिक बेहतर था। 3,500 से अधिक छवियों वाले परीक्षणों में, इस पद्धति ने विभिन्न रोग श्रेणियों में 0.92 से 0.95 के AUC के साथ विश्वसनीय और अविश्वसनीय भविष्यवाणियों के बीच सफलतापूर्वक अंतर किया।
इन अमूर्त स्कोरों को डॉक्टरों के लिए उपयोगी बनाने के लिए, टीम ने एक विजुअल एक्सप्लेनेशन टूल (दृश्य स्पष्टीकरण उपकरण) जोड़ा। जब सिस्टम किसी भविष्यवाणी को अनिश्चित के रूप में चिह्नित करता था, तो वह तुरंत अपने प्रशिक्षण डेटाबेस से चार सबसे समान छवियों को खोजकर प्रदर्शित कर सकता था। इसने एक मोज़ेक बनाया जो डॉक्टर को ठीक वही दिखा सकता था जिससे AI वर्तमान रोगी की तुलना कर रहा था। उदाहरण के लिए, यदि AI ने एक विशिष्ट प्रकार के सफेद धब्बे को गलत पहचाना, तो विजुअल एक्सप्लेनेशन यह दिखाएगा कि वह रोगी की तुलना एक अलग, लेकिन दृश्य रूप से समान स्थिति से कर रहा था। इसने चिकित्सकों को AI की तर्क प्रक्रिया को प्रत्यक्ष रूप से देखने की अनुमति दी। अध्ययन से पता चला कि AI अक्सर उन लीजन्स के साथ संघर्ष करता है जो एक जैसे दिखते हैं, जैसे कि ल्यूकोप्लाकिया और लाइकेन प्लेनस के कुछ रूप, जिनमें ओवरलैपिंग दृश्य विशेषताएं होती हैं। इन सीमावर्ती मामलों में, नए तरीके ने सही ढंग से पहचान की कि AI अस्पष्टता के क्षेत्र में काम कर रहा था, जबकि मानक कॉन्फिडेंस स्कोर भ्रामक रूप से उच्च बना रहता।
शोधकर्ताओं ने इस प्रणाली का परीक्षण लीजन्स की उन छवियों पर भी किया जो मूल प्रशिक्षण सेट का हिस्सा नहीं थीं, जैसे कि ब्लिस्टरिंग डिसीज (छाले वाली बीमारियाँ) या फ्रिक्शनल केराटोसिस। उन्होंने पाया कि AI कभी-कभी इन अज्ञात स्थितियों को निकटतम ज्ञात श्रेणी में असाइन कर देता है, और डेंसिटी स्कोर ने हमेशा उन्हें पूरी तरह से अज्ञात के रूप में चिह्नित नहीं किया। यह एक महत्वपूर्ण सीमा को उजागर करता है: सिस्टम यह मापता है कि कोई भविष्यवाणी प्रशिक्षण डेटा के साथ कितनी अच्छी तरह फिट बैठती है, न कि यह कि क्या छवि एक पूरी तरह से नई बीमारी का प्रतिनिधित्व करती है। हालांकि, विजुअल रिट्रीवल टूल यहाँ भी मूल्यवान साबित हुआ। भले ही AI ने गलती की हो, प्रदर्शित किए गए 'ट्रेनिंग नेबर्स' (प्रशिक्षण संबंधी पड़ोसी) एक मानव विशेषज्ञ को यह समझने में मदद करते थे कि दृश्य समानता भ्रामक थी और निदान के लिए केवल एक तस्वीर से अधिक की आवश्यकता है। अध्ययन निष्कर्ष निकालता है कि घनत्व-आधारित विश्वसनीयता जांच को विजुअल उदाहरणों के साथ जोड़कर, चिकित्सा पेशेवर बेहतर ढंग से समझ सकते हैं कि उन्हें कब AI के निदान पर भरोसा करना है और कब दूसरी राय लेनी है, और यह सब बिना मौजूदा जटिल मॉडलों को फिर से प्रशिक्षित किए किया जा सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।