Recurrent Contrastive Learning for Imbalanced Medical Image Classification
यह शोध पत्र रिकरेंट कॉन्ट्रास्टिव लर्निंग (RCL) का प्रस्ताव करता है, जो एक नवीन ढांचा है जो टेम्पोरल एंकर्स उत्पन्न करने और टेल क्लासेस के लेटेंट सपोर्ट क्षेत्र को प्रगतिशील रूप से विस्तारित करने के लिए टेम्पोरल मेमोरी क्यू का उपयोग करता है, जिससे मेडिकल इमेज क्लासिफिकेशन में क्लास इम्बैलेंस को कम किया जा सके और निर्णय सीमाओं (decison boundaries) में सुधार किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को चिड़ियाघर में विभिन्न प्रकार के जानवरों को पहचानना सिखाने की कोशिश कर रहे हैं। यदि चिड़ियाघर में 1,000 शेर हैं लेकिन केवल 5 बाघ हैं, तो रोबोट शेरों को पहचानने में बहुत माहिर हो जाएगा और संभवतः भूल जाएगा कि बाघ कैसा दिखता है, या इससे भी बुरा, वह हर बिल्ली जैसे दिखने वाले जानवर को शेर समझ सकता है। यह चिकित्सा AI की दुनिया में एक आम समस्या है जिसे "क्लास इम्बैलेंस" (वर्ग असंतुलन) कहा जाता है। डॉक्टरों के पास सामान्य बीमारियों का बहुत सारा डेटा होता है लेकिन दुर्लभ या गंभीर बीमारियों के लिए बहुत कम। जब AI मॉडल को इस असमान डेटा पर प्रशिक्षित किया जाता है, तो वे सामान्य चीजों की ओर पक्षपाती हो जाते हैं और दुर्लभ, महत्वपूर्ण मामलों को चूक जाते हैं। इसे ठीक करने के लिए, वैज्ञानिक आमतौर पर या तो रोबोट को दुर्लभ जानवरों की अधिक तस्वीरें दिखाने (रीसैंपलिंग) या उसे पाठ के दौरान उन पर अतिरिक्त ध्यान देने के लिए कहने (रीवेटिंग) की कोशिश करते हैं। लेकिन इसमें एक पेंच है: ये तरीके अक्सर केवल रोबोट को दुर्लभ चित्रों को और अधिक ध्यान से देखने के लिए मजबूर करते हैं, बिना वास्तव में दुर्लभ जानवरों को यह देने के कि वे सामान्य जानवरों से स्पष्ट रूप से अलग दिखने के लिए अपने दिमाग में पर्याप्त "स्थान" बना सकें।
यहीं पर ज़ीचुआन झू (Zhiyuan Zhu) और उनकी टीम एक चतुर विचार के साथ आती हैं जिसे रिकरेंट कॉन्ट्रास्टिव लर्निंग (RCL) कहा जाता है। केवल ताश के पत्तों को इधर-उधर करने या दुर्लभ वाले पर ज़ोर से चिल्लाने के बजाय, उन्होंने एक "मेमोरी बफर" बनाने का निर्णय लिया जो दुर्लभ बीमारियों को AI के दिमाग में अपना क्षेत्र बढ़ाने में मदद करता है। इसे एक भीड़भाड़ वाले डांस फ्लोर की तरह समझें जहाँ लोकप्रिय बच्चे (सामान्य बीमारियाँ) सारी जगह घेर रहे हैं। दुर्लभ बच्चे (दुर्लभ बीमारियाँ) एक छोटे से कोने में सिमटे हुए हैं। शोधकर्ताओं का समाधान यह है कि पिछले अभ्यास सत्रों से "भूतिया नर्तकों" (ghost dancers)—यानी दुर्लभ बच्चों के पुराने मूव्स—को लाना जो उनके चारों ओर खड़े हों और एक सुरक्षात्मक बुलबुला बना सकें। यह बुलबुला लोकप्रिय बच्चों को दूर धकेलता है, जिससे दुर्लभ बीमारियों को पहचाने जाने और सही ढंग से पहचाने जाने के लिए आवश्यक स्थान मिलता है। टीम ने तीन अलग-अलग मेडिकल डेटासेट्स पर इसका परीक्षण किया, जिसमें कैरोटिड अल्ट्रासाउंड स्कैन, डायबिटिक रेटिनोपैथी इमेज और घुटने के एक्स-रे शामिल थे, और पाया कि उनकी विधि ने पिछले तरीकों की तुलना में AI को दुर्लभ स्थितियों को बेहतर ढंग से पहचानने में लगातार मदद की।
समस्या: मेडिकल AI में "लोकप्रिय बच्चे" का प्रभाव
मेडिकल इमेजिंग की दुनिया में, सभी बीमारियाँ एक समान नहीं होती हैं। कुछ, जैसे सामान्य सर्दी या हल्की त्वचा की रैशेज, बार-बार होती हैं। अन्य, जैसे दुर्लभ आनुवंशिक विकार या कैंसर के विशिष्ट चरण, बहुत कम बार होते हैं। जब हम इन स्थितियों का निदान करने के लिए एक AI को प्रशिक्षित करते हैं, तो यह एक ऐसे छात्र को प्रशिक्षित करने जैसा है जिसे केवल सामान्य सर्दी के 1,000 उदाहरण देखने को मिलते हैं लेकिन एक दुर्लभ बीमारी के केवल 5 उदाहरण। स्वाभाविक रूप से, छात्र (AI) सामान्य सर्दी में विशेषज्ञ बन जाता है लेकिन जब वह दुर्लभ बीमारी देखता है तो भ्रमित हो जाता है। वह यहाँ तक कि दुर्लभ बीमारी को सामान्य बीमारी समझ सकता है क्योंकि AI के "मन" में, दुर्लभ बीमारी के पास अपने अस्तित्व के लिए पर्याप्त स्थान नहीं होता है।
पेपर बताता है कि मौजूदा समाधान इसे या तो दुर्लभ बीमारी के अधिक उदाहरण दिखाकर (रीसैंपलिंग) या AI को उन कुछ उदाहरणों पर "अधिक ध्यान देने" के लिए कहकर (रीवेटिंग) ठीक करने की कोशिश करते हैं। हालांकि ये तरीके थोड़ी मदद करते हैं, लेकिन वे मूल समस्या को हल नहीं करते हैं: दुर्लभ बीमारियाँ अभी भी AI के फीचर स्पेस के एक छोटे, भीड़भाड़ वाले कोने में दबी हुई हैं। वे इतनी सघन हैं कि सामान्य बीमारियाँ आसानी से उनके क्षेत्र पर "अतिक्रमण" कर सकती हैं, जिससे गलतियाँ होती हैं।
समाधान: समय-यात्रा करने वाले भूत और सुरक्षात्मक बुलबुले
लेखक एक नई रणनीति प्रस्तावित करते हैं जिसे रिकरेंट कॉन्ट्रास्टिव लर्निंग (RCL) कहा जाता है। यह समझने के लिए कि यह कैसे काम करता है, AI की सीखने की प्रक्रिया को समय के साथ प्रशिक्षण सत्रों की एक श्रृंखला के रूप में कल्पना करें।
1. टेम्पोरल मेमोरी क्यू (Temporal Memory Queue - समय-यात्रा करने वाली स्मृति)
आमतौर पर, एक AI केवल उन्हीं उदाहरणों को याद रखता है जो वह प्रशिक्षण के वर्तमान बैच में देखता है। RCL एक विशेष "टाइम मशीन" पेश करता है जिसे टेम्पोरल मेमोरी क्यू (TMQ) कहा जाता है। यह क्यू केवल वर्तमान छवियों को ही नहीं रखती; यह पिछले प्रशिक्षण सत्रों से "फीचर स्टेट्स" (छवियों की AI की समझ) को भी सहेजती है। यह पिछले सप्ताह, पिछले महीने और उसके बाद जो AI ने सीखा, उसका एक डायरी रखने जैसा है। यह AI को यह देखने की अनुमति देता है कि उसने अतीत में दुर्लभ बीमारियों को कैसे समझा था, भले ही उसने हाल ही में उनके नए उदाहरण कम देखे हों।
2. भूतिया नर्तक (Temporal Anchors - टेम्पोरल एंकर)
यहाँ जादू का तरीका है। जब AI किसी दुर्लभ बीमारी (एक "टेल क्लास") के बारे में सीखने की कोशिश कर रहा होता है, तो वह अपनी समय-यात्रा करने वाली डायरी में देखता है। वह पिछले सत्रों से उस दुर्लभ बीमारी के "भूतिया नर्तकों"—यानी उस दुर्लभ बीमारी के पुराने फीचर रिप्रेजेंटेशन को चुनता है। इन भूतों का उपयोग टेम्पोरल एंकर (TAR) बनाने के लिए किया जाता है।
कल्पना कीजिए कि दुर्लभ बीमारी एक विशाल महासागर में एक छोटा सा द्वीप है। पास के बड़े महाद्वीप (सामान्य बीमारियाँ) बहुत बड़े हैं। बिना मदद के, महासागर की लहरें (सामान्य बीमारी के फीचर्स) द्वीप को बहा ले जाती हैं, जिससे अंतर करना कठिन हो जाता है। TAR एक श्रृंखला के रूप में बुय (buoys) या एक सुरक्षात्मक बाधा के रूप में कार्य करते हैं जो द्वीप के चारों ओर रखे जाते हैं। ये बुय अतीत के द्वीप के "भूतिया" संस्करणों से बने होते हैं। इन बुय को दुर्लभ बीमारी के चारों ओर रखकर, AI प्रभावी रूप से द्वीप के क्षेत्र का विस्तार करता है। यह एक "बफर ज़ोन" बनाता है जो सामान्य बीमारियों को दूर धकेलता है, यह सुनिश्चित करता है कि दुर्लभ बीमारी के पास अपना एक विशिष्ट स्थान हो।
3. रिकरेंट लूप (Recurrent Loop)
यह प्रक्रिया "रिकरेंट" है, जिसका अर्थ है कि यह बार-बार होती है। जैसे-जैसे AI प्रशिक्षण लेता है, वह अपनी मेमोरी क्यू को नई जानकारी के साथ अपडेट करता रहता है, लेकिन वह पुराने एंकर्स को भी बनाए रखता है। यह दुर्लभ बीमारियों के चारों ओर एक बढ़ता हुआ, विस्तृत क्षेत्र बनाता है, जिससे वे अधिक मजबूत और सामान्य बीमारियों से अलग पहचानना आसान हो जाते हैं।
उन्होंने क्या पाया: एक स्पष्ट तस्वीर
टीम ने इस पद्धति का परीक्षण तीन वास्तविक दुनिया के मेडिकल डेटासेट्स पर किया:
- कैरोटिड अल्ट्रासाउंड: गर्दन की रक्त वाहिकाओं की छवियां जो प्लाक (plaque) की जांच करती हैं (3,404 छवियां)।
- डायबिटिक रेटिनोपैथी: दृष्टि हानि की जांच के लिए आंखों की छवियां (3,662 छवियां)।
- नी ऑस्टियोआर्थराइटिस: गठिया की गंभीरता को ग्रेड करने के लिए घुटने के एक्स-रे (8,260 छवियां)।
इन तीनों मामलों में, RCL पद्धति ने मौजूदा सर्वोत्तम तरीकों की तुलना में निरंतर सुधार (consistent improvements) दिखाया।
- कैरोटिड डेटासेट पर, नई विधि ने 87.10% की बैलेंस्ड एक्यूरेसी हासिल की, जो पिछले सर्वश्रेष्ठ से बेहतर थी।
- नी (घुटने के) डेटासेट पर, इसने केवल बेस AI मॉडल का उपयोग करने की तुलना में बैलेंस्ड एक्यूरेसी में 9.09% का सुधार किया।
- आई (आंखों के) डेटासेट पर, विधि ने 0.92 का क्वाड्रेटिक वेटेड कप्पा स्कोर प्राप्त किया, जो मानव विशेषज्ञों के साथ उत्कृष्ट सहमति का संकेत देने वाला एक बहुत ही उच्च स्कोर है।
शोधकर्ताओं ने t-SNE तकनीक (जो एक मानचित्र की तरह है जो दिखाता है कि विभिन्न चीजें कितनी करीब या दूर हैं) का उपयोग करके AI के मस्तिष्क के भीतर क्या हो रहा है, इसका विज़ुअलाइज़ेशन भी किया। उन्होंने देखा कि उनकी विधि के बिना, दुर्लभ बीमारियाँ छोटे, भीड़भाड़ वाले बिंदुओं में सिमटी हुई थीं। RCL के साथ, दुर्लभ बीमारियों ने स्पष्ट "बफर ज़ोन" के साथ बड़े, सुस्पष्ट क्षेत्रों में विस्तार किया। "भूतिया नर्तकों" (एंकर) ने सफलतापूर्वक एक सुरक्षात्मक क्षेत्र बनाया जिसने सामान्य बीमारियों को दुर्लभ बीमारियों को बाहर धकेलने से रोका।
यह क्यों मायने रखता है
यह पेपर सुझाव देता है कि हमें केवल दुर्लभ बीमारियों के लिए अधिक डेटा की आवश्यकता नहीं है; हमें उस डेटा का बेहतर उपयोग करने के स्मार्ट तरीकों की आवश्यकता है जो हमारे पास पहले से है। दुर्लभ बीमारियों के चारों ओर एक सुरक्षात्मक क्षेत्र बनाने के लिए AI के अपने इतिहास का उपयोग करके, हम मेडिकल AI को अधिक निष्पक्ष और सटीक बना सकते हैं। यह महत्वपूर्ण है क्योंकि वास्तविक दुनिया में, एक दुर्लभ लेकिन गंभीर बीमारी को मिस करना जीवन के लिए घातक हो सकता है। लेखक बताते हैं कि हालांकि उनकी विधि अच्छी तरह से काम करती है, लेकिन वर्तमान में इसके लिए सेटिंग्स (जैसे कि मेमोरी में कितने "भूत" रखने हैं) के कुछ मैनुअल ट्यूनिंग की आवश्यकता होती है। भविष्य का काम इस प्रक्रिया को स्वचालित बनाने पर केंद्रित होगा। लेकिन फिलहाल के लिए, यह "समय-यात्रा करने वाली स्मृति" का दृष्टिकोण यह सुनिश्चित करने का एक आशाजनक नया तरीका प्रदान करता है कि सबसे दुर्लभ रोगियों को भी हमारे AI डॉक्टरों से वह ध्यान मिले जिसके वे हकदार हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।