Evaluating Vision Transformers for Stain Robustness and Calibration in Low-Resource Digital Pathology
यह शोध पत्र यह प्रदर्शित करता है कि, फिक्स्ड इमेजनेट प्रीट्रेनिंग के साथ एक सीमित लो-रिसोर्स सेटिंग के तहत, विजन ट्रांसफॉर्मर्स (विशेष रूप से ViT-B/16), हिस्टोपैथोलॉजी में विभिन्न CNN आर्किटेक्चर की तुलना में बेहतर प्रदर्शन करते हैं, क्योंकि वे रंग और स्टेन विविधताओं के प्रति श्रेष्ठ सुदृढ़ता, बेहतर संभाव्यता अंशांकन (प्रोबेबिलिटी कैलिब्रेशन), और क्रॉस-टास्क ट्रांसफर के दौरान अधिक सुचारू गिरावट प्राप्त करते हैं, जबकि साथ ही प्रतिस्पर्धी इन-डोमेन भेदभाव भी बनाए रखते हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक चिकित्सा की दुनिया में, कैंसर का निदान अक्सर एक रोगविज्ञानी (पैथोलॉजिस्ट) द्वारा सूक्ष्मदर्शी के नीचे ऊतक (टिश्यू) के एक पतले स्लाइस को देखने से शुरू होता है। इन स्लाइसों को कोशिका संरचनाओं को उभारने के लिए बैंगनी और गुलाबी रंगों से रंगा जाता है, जिन्हें अब अक्सर कंप्यूटर में स्कैन करके डिजिटल छवियों के विशाल पुस्तकालयों में बदल दिया जाता है। वर्षों से, वैज्ञानिकों ने कंप्यूटर को इन छवियों को पढ़ना सिखाया है, इस उम्मीद में कि वे बीमारी के उन संकेतों को पहचान सकें जो मानवीय आंखों से छूट सकते हैं। अब तक के सबसे सफल कंप्यूटर प्रोग्राम एक डिज़ाइन पर आधारित रहे हैं जिसे 'कन्वोल्यूशनल न्यूरल नेटवर्क' कहा जाता है, जो एक प्रकार का आर्टिफिशियल इंटेलिजेंस है और यह इस बात की नकल करता है कि मस्तिष्क दृश्य पैटर्न को कैसे संसाधित करता है। हालाँकि, इन प्रोग्रामों की एक ज्ञात कमजोरी है: वे ऊतक को तैयार करने के तरीके में होने वाले बदलावों से आसानी से भ्रमित हो जाते हैं। यदि कोई अलग लैब थोड़े अलग रंग के डाई का उपयोग करती है, या यदि कोई अलग माइक्रोस्कोप स्कैनर छवि कैप्चर करता है, तो कंप्यूटर का आत्मविश्वास डगमगा सकता है, भले ही वह छवि मानव आंखों को एकदम सटीक लग रही हो। इसके अलावा, जब ये प्रोग्राम कोई भविष्यवाणी करते हैं, तो वे अक्सर डॉक्टर को यह नहीं बता पाते कि वे कितने आश्वस्त हैं, और कभी-कभी वे तब भी आत्मविश्वासी लगते हैं जब वे वास्तव में केवल अनुमान लगा रहे होते हैं। नियंत्रित प्रयोगशाला और विभिन्न अस्पतालों की अव्यवस्थित वास्तविकता के बीच यह अंतर कई उपकरणों को रोगी देखभाल में व्यापक रूप से उपयोग किए जाने से रोकता रहा है।
शोधकर्ताओं की एक टीम ने यह परीक्षण करने के लिए हाथ मिलाया कि क्या एक नया और भिन्न प्रकार का आर्टिफिशियल इंटेलिजेंस आर्किटेक्चर, जिसे 'विज़न ट्रांसफॉर्मर' के रूप में जाना जाता है, बिना अत्यधिक कंप्यूटिंग शक्ति या विशेष चिकित्सा डेटा के इन विशिष्ट समस्याओं को हल कर सकता है। उन्होंने सीमित संसाधनों के भीतर काम किया, जिसमें डेटा की एक मध्यम मात्रा और एक एकल कंप्यूटर ग्राफिक्स कार्ड का उपयोग किया गया, ताकि उन अस्पतालों और अनुसंधान समूहों के पास उपलब्ध संसाधनों का अनुकरण किया जा सके जो अरबों डॉलर के सुपरकंप्यूटरों का खर्च नहीं उठा सकते। उन्होंने मानक ऊतक छवियों के एक सेट पर पांच अलग-अलग कंप्यूटर मॉडल प्रशिक्षित किए, और फिर उन्हें वास्तविक दुनिया के विविधताओं की नकल करने के लिए डिज़ाइन किए गए चुनौतियों की एक श्रृंखला के अधीन किया। शोधकर्ताओं ने केवल यह नहीं पूछा कि कौन सा मॉडल सबसे सटीक था; बल्कि उन्होंने यह पूछा कि कौन सा मॉडल तब स्थिर रहता है जब छवियों के रंग बदल दिए जाते हैं, और कौन सा मॉडल अपनी निश्चितता के बारे में ईमानदार उत्तर देता है।
परिणामों ने स्पष्ट किया कि दबाव के तहत इन प्रणालियों के व्यवहार में एक स्पष्ट बदलाव आता है। जबकि सभी पांच मॉडल ठीक उसी प्रकार की छवियों पर परीक्षण के दौरान समान रूप से अच्छा प्रदर्शन करते थे जिन पर उन्हें प्रशिक्षित किया गया था, विज़न ट्रांसफॉर्मर तब अलग दिखा जब स्थितियां बदली गईं। जब शोधकर्ताओं ने विभिन्न स्टेनिंग रसायनों के प्रभाव को दर्शाने के लिए परीक्षण छवियों के रंगों को कृत्रिम रूप से बदला, तो पारंपरिक मॉडल स्वस्थ और रोगग्रस्त ऊतकों के बीच अंतर करने की अपनी क्षमता का एक बड़ा हिस्सा खो बैठे। उनकी सटीकता लगभग दस प्रतिशत गिर गई। इसके विपरीत, विज़न ट्रांसफॉर्मर ने अपना आधार बनाए रखा और उसके प्रदर्शन में बहुत मामूली गिरावट आई। यह वास्तविक दुनिया की मेडिकल इमेजिंग में होने वाली दृश्य विकृतियों (विजुअल नॉइज़) के प्रति कहीं अधिक सुदृढ़ (रोबस्ट) साबित हुआ।
केवल सटीक रहने के अलावा, विज़न ट्रांसफॉर्मर अपनी विश्वसनीयता में भी अधिक भरोसेमंद साबित हुआ। चिकित्सा निदान में, एक गलत चेतावनी खतरनाक है, लेकिन एक छूटा हुआ निदान उससे भी बदतर है। शोधकर्ताओं ने पाया कि पारंपरिक मॉडल अक्सर गलत होने पर भी अपने उत्तरों के बारे में अत्यधिक आश्वस्त होने का दावा करते थे, जिसे 'खराब अंशांकन' (पुअर कैलिब्रेशन) नामक दोष कहा जाता है। हालाँकि, विज़न ट्रांसफॉर्मर ने ऐसे संभाव्यता स्कोर प्रदान किए जो वास्तविकता से कहीं अधिक मेल खाते थे। जब इसने कहा कि वह नब्बे प्रतिशत आश्वस्त है, तो वह नब्बे प्रतिशत बार सही था। आत्मविश्वास और वास्तविक सत्य के बीच यह तालमेल डॉक्टरों के लिए अत्यंत महत्वपूर्ण है, जिन्हें यह तय करना होता है कि वे कंप्यूटर के सुझाव पर भरोसा करें या दूसरे मत की तलाश करें।
अध्ययन ने यह भी पता लगाया कि ये मॉडल पूरी तरह से अलग प्रकार के ऊतकों या नैदानिक कार्यों को कैसे संभालते हैं, जिसे 'जीरो-शॉट ट्रांसफर' के रूप में जाना जाता है। यहाँ, परिणाम अधिक जटिल थे। जब इन मॉडलों को किसी अन्य अस्पताल या किसी अन्य प्रकार के कैंसर की छवियां दिखाई गईं, तो कुछ पारंपरिक मॉडल पूरी तरह विफल हो गए, और ऐसी स्थिति में पहुँच गए जहाँ वे हर छवि को रोगग्रस्त घोषित करने लगे, चाहे वास्तव में वहां कुछ भी हो। विज़न ट्रांसफॉर्मर उसी तरह से विफल नहीं हुआ; यह अधिक सहजता से गिरावट (डिग्रेड) प्रदर्शित करता रहा, और कार्य बदलने पर भी भेदभाव करने की कुछ स्तर तक क्षमता बनाए रखी। हालाँकि, शोधकर्ताओं ने उल्लेख किया कि जब मॉडलों का परीक्षण किसी अन्य अस्पताल से संबंधित समान कार्य के लिए किया गया, तो पांचों मॉडल समान रूप से अच्छा प्रदर्शन करते थे, जिससे यह संकेत मिलता है कि विज़न ट्रांसफॉर्मर के लाभ रंग के बदलावों और विभिन्न नैदानिक प्रश्नों से निपटने के लिए अधिक महत्वपूर्ण हैं, न कि केवल एक नए स्थान पर जाने के लिए।
शोधकर्ताओं ने सावधानीपूर्वक यह नोट किया कि यह विज़न ट्रांसफॉर्मर कोई जादुई समाधान नहीं था जो हर श्रेणी में बाकी सब से बेहतर प्रदर्शन करता हो। इसे चलाने के लिए अधिक कंप्यूटिंग शक्ति की आवश्यकता थी और इसे प्रशिक्षित करने में छोटे पारंपरिक मॉडलों की तुलना में अधिक समय लगा। यह उन विशाल, अरबों-पैरामीटर वाले मॉडलों की कच्ची सटीकता से भी मेल नहीं खाता था जिन्हें धनवान अनुसंधान दिग्गजों द्वारा लाखों चिकित्सा छवियों पर प्रशिक्षित किया जाता है। इसके बजाय, यह अध्ययन एक व्यावहारिक समझौता प्रस्तुत करता है। सीमित संसाधनों के साथ काम करने वाले अस्पताल या अनुसंधान समूह के लिए, विज़न ट्रांसफॉर्मर स्थिरता और ईमानदारी का एक बेहतर संतुलन प्रदान करता है। यह एक ऐसा मॉडल है जिसके विचलित होने की संभावना कम है यदि डाई का रंग थोड़ा बदल जाए और जो डॉक्टर को यह बताने में अधिक सक्षम है कि वह अनिश्चित है।
यह सुनिश्चित करने के लिए कि ये निष्कर्ष वास्तविक दुनिया के अनुप्रयोग के लिए उपयोगी हों, टीम ने इस मॉडल के इर्द-गिर्द एक पूर्ण ढांचा (फ्रेमवर्क) बनाया। उन्होंने एक ऐसी प्रणाली बनाई जो यह समझा सके कि कंप्यूटर ने निर्णय क्यों लिया, जिसमें उन विशिष्ट हिस्सों को हाइलाइट किया गया जो निदान का कारण बने, और उन्होंने रोगी की आयु और ऊतक के प्रकार जैसी जानकारी के साथ छवि डेटा को संयोजित करने की विधि का परीक्षण किया। उन्होंने इन परिणामों को अस्पताल के रिकॉर्ड सिस्टम में उपयोग किए जाने वाले मानक डिजिटल प्रारूपों में निर्यात करने का तरीका भी तैयार किया। कार्य का निष्कर्ष यह है कि जबकि उच्चतम सटीकता की दौड़ अक्सर बड़े और बड़े मॉडल बनाने पर केंद्रित होती है, नैदानिक उपयोग के लिए विश्वसनीय पथ उन आर्किटेक्चर को चुनने में निहित हो सकता है जो सुदृढ़ और सु-अंशांकित (वेल-कैलिब्रेटेड) हों। यह सिद्ध करके कि एक मामूली बजट पर प्रशिक्षित विज़न ट्रांसफॉर्मर रंग के बदलावों और पैथोलॉजी की अनिश्चितताओं का सामना कर सकता है, यह अध्ययन चिकित्सा निदान की दैनिक कार्यप्रणाली में आर्टिफिशियल इंटेलिजेंस लाने के लिए एक व्यवहार्य और तैनात करने योग्य मार्ग प्रदान करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।