Unmasking Biases and Reliability Concerns in Convolutional Neural Networks Analysis of Cancer Pathology Images
यह शोध पत्र यह प्रकट करता है कि कैंसर पैथोलॉजी के लिए मानक कनवल्शनल न्यूरल नेटवर्क (Convolutional Neural Network) मूल्यांकन अक्सर छिपे हुए पूर्वाग्रहों के कारण अविश्वसनीय होते हैं, क्योंकि मॉडल अक्सर नैदानिक जानकारी की कमी वाले बैकग्राउंड इमेज सेगमेंट पर भी उच्च सटीकता (93% तक) प्राप्त कर लेते हैं, जिससे शोधकर्ताओं को उनकी वास्तविक नैदानिक क्षमताओं के बारे में गुमराह किया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक नए जासूस को काम पर रख रहे हैं ताकि वह एक बहुत ही विशिष्ट अपराध को सुलझा सके: मेडिकल इमेजेस (चिकित्सकीय चित्रों) में कैंसर की पहचान करना। आपके पास 13 प्रसिद्ध "प्रशिक्षण मामले" (डेटासेट) हैं जिनका उपयोग विशेषज्ञ वर्षों से करते आ रहे हैं। आपने चार अलग-अलग जासूसी एजेंसियां (AI मॉडल जैसे ResNet, VGG, आदि) किराए पर ली हैं और उन्हें इन मामलों का अध्ययन करने के लिए दिया है।
लक्ष्य यह है कि जासूसों को "अपराधी" (कैंसर कोशिकाओं) को पहचानना सीखना चाहिए।
बड़ा ट्विस्ट: "बैकग्राउंड चेक" टेस्ट
यहाँ वह चालाकी है जो शोधकर्ताओं ने की।
आमतौर पर, जब आप एक जासूस को प्रशिक्षित करते हैं, तो आप उन्हें पूरा अपराध स्थल दिखाते हैं। लेकिन इस अध्ययन में, शोधकर्ताओं ने एक डरावना सवाल पूछा: "क्या होगा अगर जासूस अपराध स्थल को देख ही नहीं रहा है? क्या होगा अगर वह केवल संदिग्ध के पीछे की खाली दीवार को देख रहा है?"
यह परीक्षण करने के लिए, उन्होंने मूल मेडिकल इमेजेस में से कोनों और केंद्र से छोटे 20x20 पिक्सेल के वर्गाकार टुकड़े (squares) काट दिए।
- मूल इमेज (Original Image): ऊतक (tissue) की पूरी तस्वीर, जहाँ कैंसर दिखाई दे सकता है।
- "क्रॉप्ड" इमेज (Cropped Image): किनारे या बैकग्राउंड से लिया गया एक छोटा सा वर्ग। इसमें शून्य कैंसर कोशिकाएं हैं। यह सिर्फ खाली त्वचा, कोरा कागज या बैकग्राउंड का शोर है। यह बिल्कुल वैसा ही है जैसे किसी अपराधी के बजाय अदालत के फर्श की फोटो लेना।
परिकल्पना (Hypothesis): यदि AI एक सच्चा मेडिकल जासूस है, तो उसे इन खाली बैकग्राउंड स्क्वायर्स को देखते समय बुरी तरह विफल होना चाहिए। उसे कहना चाहिए, "मैं यहाँ कैंसर नहीं बता सकता क्योंकि यहाँ देखने के लिए कुछ भी नहीं है।" इसकी सटीकता एक रैंडम अनुमान (50/50) से बेहतर नहीं होनी चाहिए।
चौंकाने वाला परिणाम: AI धोखाधड़ी कर रहा है
परिणाम चौंकाने वाले थे। AI मॉडल्स ने केवल अनुमान ही नहीं लगाया; उन्हें उच्च स्कोर मिले (कभी-कभी 90% से भी अधिक!) भले ही वे खाली बैकग्राउंड स्क्वायर्स को देख रहे थे।
उपमा (Analogy):
कल्पना कीजिए कि एक छात्र गणित की परीक्षा दे रहा है।
- असली टेस्ट: जटिल समीकरणों (equations) को हल करना।
- "चीट" टेस्ट: शिक्षक छात्र को एक सफेद खाली कागज देता है और पूछता है, "क्या यह एक समीकरण है?"
- परिणाम: छात्र 95% सही उत्तर देता है।
यह कैसे संभव है? छात्र गणित हल नहीं कर रहा है। वह यह नोटिस कर रहा है कि हर बार जब उत्तर "हाँ" होता है, तो कागज के कोने में एक विशेष रंग की नीली छाया होती है। जब उत्तर "नहीं" होता है, तो कागज की छाया थोड़ी अलग होती है। छात्र ने गणित को नहीं, बल्कि कागज को देखना सीख लिया है।
AI वास्तव में क्या सीख रहा था
शोध में पाया गया कि ये AI मॉडल सीखने की प्रक्रिया में "शॉर्टकट" ले रहे थे। कैंसर कैसा दिखता है (जीव विज्ञान) इसे सीखने के बजाय, वे आर्टिफैक्ट्स (artifacts) (फोटो कैसे ली गई उसके संकेत) सीख रहे थे।
यहाँ वे "चीट्स" (धोखाधड़ी के तरीके) दिए गए जो AI ने खोजे:
- स्कैनर का सिग्नेचर: शायद सभी कैंसर वाली इमेजेस एक विशिष्ट मशीन पर ली गई थीं जो ऊपर-बाले कोने में एक सूक्ष्म, अदृश्य खरोंच छोड़ देती है। AI ने सीखा: "ऊपरी-बायां कोना खरोंच = कैंसर।"
- टेक्नीशियन की शैली: शायद "कैंसर" वाली फोटो लेने वाला तकनीशियन हमेशा थोड़ा बाईं ओर खड़ा होता था, जबकि "कोई कैंसर नहीं" वाली फोटो दाईं ओर से ली जाती थी। AI ने सीखा: "इमेज का बायां हिस्सा = कैंसर।"
- लाइटिंग (प्रकाश): शायद कैंसर के मरीजों के लिए लाइटिंग थोड़ी वार्म (warm) थी और स्वस्थ लोगों के लिए कूल (cool) थी। AI ने सीखा: "वार्म लाइट = कैंसर।"
यह क्यों मायने रखता है
यह चिकित्सा के क्षेत्र में एक बड़ी समस्या है।
- झूठी आत्मविश्वासी (False Confidence): शोधकर्ता देखते हैं कि एक AI टेस्ट पर 95% सटीकता प्राप्त कर रहा है और सोचते हैं, "वाह, यह AI तो एक जीनियस डॉक्टर है!"
- वास्तविकता: AI वास्तव में फोटो के बैकग्राउंड का "सुपर-ऑब्जर्वर" है, न कि एक डॉक्टर। यह एक ऐसे मौसम विज्ञानी की तरह है जो बादलों को देखकर बारिश की भविष्यवाणी नहीं करता, बल्कि यह नोटिस करके करता है कि बारिश वाले दिनों की तस्वीरों में आसमान हमेशा एक अजीब कैमरा फिल्टर के कारण नीला ही दिखता है।
यदि आप इस AI को किसी वास्तविक अस्पताल में ले जाते हैं जहाँ फोटो किसी अलग मशीन, अलग तकनीशियन या अलग कमरे में ली गई हो, तो यह AI पूरी तरह से विफल हो जाएगा क्योंकि इसके "चीट कोड्स" (बैकग्राउंड के संकेत) गायब होंगे।
निष्कर्ष
यह पेपर चेतावनी देता है कि सिर्फ इसलिए कि एक AI टेस्ट पर उच्च स्कोर प्राप्त करता है, इसका मतलब यह नहीं है कि वह बीमारी को समझता है।
यह कुत्ते को 'बैठने' का कमांड सिखाने जैसा है। कुत्ता तब बैठता है जब आप उसके हाथ में ट्रीट (treat) पकड़ते हैं, न कि इसलिए कि वह "बैठो" कमांड को समझता है। यदि आप बिना ट्रीट के उसे बैठने को कहेंगे, तो वह नहीं बैठेगा।
मुख्य बात (Takeaway): हमें बहुत अधिक सावधान रहने की आवश्यकता है। हम केवल टेस्ट के "स्कोर" पर भरोसा नहीं कर सकते। हमें यह सुनिश्चित करना होगा कि AI वास्तव में "अपराध" (कैंसर कोशिकाओं) को देख रहा है, न कि केवल "अपराध स्थल के वॉलपेपर" (बैकग्राउंड आर्टिफैक्ट्स) को। जब तक हम इसे ठीक नहीं करते, ये AI उपकरण हमें कैंसर के खिलाफ लड़ाई में झूठी उम्मीद दे सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।