💻 computer science

Leveraging Pathology Co-occurrence for Test-Time Adaptation in Chest X-Ray Diagnosis

यह शोध पत्र को-अकरेंस वेटेड अडैप्टेशन (CoWA) का प्रस्ताव करता है, जो चेस्ट एक्स-रे निदान के लिए एक टेस्ट-टाइम अडैप्टेशन विधि है, जो शोर वाले भविष्यवाणियों को कम करने और डोमेन शिफ्ट के तहत मॉडल की मजबूती में सुधार करने के लिए संरचित रोग सह-अस्तित्व (को-अकरेंस) पैटर्न का लाभ उठाता है।

मूल लेखक: Woojin Jeong, Yujin Choi, Dongbin Kim, Soyeon Park, Jaewook Lee

प्रकाशित 2026-07-10

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Woojin Jeong, Yujin Choi, Dongbin Kim, Soyeon Park, Jaewook Lee

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जासूस हैं जो एक ऐसे शहर में रहस्य सुलझाने की कोशिश कर रहे हैं जहाँ आप पहले कभी नहीं गए। आपके पास एक शानदार गाइडबुक (एक प्री-ट्रेंड AI मॉडल) है जो आपके गृहनगर में पूरी तरह से काम करती थी, लेकिन अब आप एक नई जगह पर हैं जहाँ अलग तरह के सड़क संकेत, अलग मौसम और अलग तरह की भीड़ है। यह बिल्कुल वैसा ही है जैसा तब होता है जब एक मेडिकल AI, जिसे एक अस्पताल के एक्स-रे पर प्रशिक्षित किया गया था, दूसरे अस्पताल के मरीजों का निदान करने की कोशिश करता है। उपकरण अलग हैं, मरीज अलग दिखते हैं, और पुरानी गाइडबुक गलतियाँ करने लगती है।

आमतौर पर, जब कोई AI भ्रमित होता है, तो वह नए, बिना लेबल वाले एक्स-रे को देखकर "ऑन द फ्लाई" सीखने की कोशिश करता है। इसे टेस्ट-टाइम अडैप्टेशन (TTA) कहा जाता है। इसे एक ऐसे छात्र की तरह समझें जो बिना शिक्षक के अचानक ली गई परीक्षा (पॉप क्विज़) दे रहा है; उसे अपने अनुमान लगाने होते हैं और जो उसे सही लगता है उसके आधार पर अपने मस्तिष्क को ट्यून करना होता है।

पुराने तरीके के साथ समस्या
यह शोध पत्र तर्क देता है कि इन छात्रों के सीखने का पारंपरिक तरीका त्रुटिपूर्ण है। पारंपरिक तरीके हर एक एक्स-रे को एक स्वतंत्र पहेली के रूप में देखते हैं। वे मानते हैं कि यदि कोई मशीन सोचती है कि किसी मरीज को "निमोनिया" है, तो इससे कोई फर्क नहीं पड़ता कि मशीन यह भी मानती है कि उन्हें "टूटी हुई टांग" या "सनबर्न" भी है। यह बस हर एक अनुमान को यथासंभव आत्मविश्वासी बनाने की कोशिश करता है।

लेकिन यहाँ एक पेंच है: बीमारियाँ अकेले काम नहीं करतीं। वास्तविक दुनिया में, कुछ बीमारियाँ एक साथ रहना पसंद करती हैं। यदि किसी मरीज के फेफड़ों में एक विशिष्ट प्रकार का तरल पदार्थ है, तो बहुत संभावना है कि उनका हृदय भी बढ़ गया हो। ये "सह-घटित होने वाले पैटर्न" (co-occurrence patterns) हैं। पुराने तरीके इस सामाजिक जीवन को अनदेखा करते हैं। वे एक ऐसा आत्मविश्वासी उत्तर दे सकते हैं जो कहता है, "इस मरीज को टूटी हुई टांग और सनबर्न है," जो गणितीय रूप से तो आत्मविश्वासी है लेकिन चिकित्सकीय रूप से निरर्थक है। इन अजीब, असंभव संयोजनों से सीखने की कोशिश करके, AI वास्तव में नए अस्पताल में ढलने में और खराब हो जाता है।

नया समाधान: CoWA (द "सोशल बटरफ्लाई" डिटेक्टर)
लेखकों ने, जो सियोल नेशनल यूनिवर्सिटी और अन्यों की एक टीम है, CoWA (को-अकरेंस वेटेड अडैप्टेशन) नामक एक नया तरीका प्रस्तावित किया है।

कल्पना कीजिए कि AI अब एक जासूस है जिसके पास एक "दोस्ती चार्ट" (Friendship Chart) है। जैसे ही AI नए एक्स-रे देखता है, वह केवल एक समय में एक बीमारी को नहीं देखता है। इसके बजाय, वह पूछता है: "क्या ये बीमारियाँ इस नए शहर में आमतौर पर एक साथ रहती हैं?"

चार्ट बनाना: AI नए एक्स-रे देखना शुरू करता है और एक नक्शा बनाता है कि कौन सी बीमारियाँ एक साथ दिखाई देती हैं। यह ऐसा ही है जैसे यह गौर करना कि इस नए पड़ोस में, लाल टोपी पहनने वाले लोग लगभग हमेशा छाता लेकर चलते हैं।
रियलिटी चेक (वास्तविकता की जाँच): जब AI एक भविष्यवाणी करता है, तो वह अपने "दोस्ती चार्ट" की जाँच करता है।
- यदि AI कहता है, "लाल टोपी और छाता!" (एक सामान्य जोड़ी), तो वह कहता है, "अच्छा काम किया! यह भविष्यवाणी समझ में आती है। मैं तुम पर भरोसा करूँगा।"
- यदि AI कहता, "लाल टोपी और आइसक्रीम कोन!" (एक अजीब जोड़ी जो इस शहर में कभी नहीं होती), तो वह कहता, "रुको ज़रा। यह पैटर्न में फिट नहीं बैठता। तुम शायद भ्रमित हो। मैं अभी के लिए इस अनुमान को अनदेखा कर दूँगा।"
परिणाम: AI केवल उन अनुमानों से सीखता है जो स्थानीय सामाजिक नियमों के अनुकूल होते हैं। यह "शोर" और अजीब, असंभव संयोजनों को छान देता है।

प्रयोग क्या दिखाते हैं
टीम ने चार प्रमुख चेस्ट एक्स-रे डेटासेट पर इस विचार का परीक्षण किया, जिससे छह अलग-अलग परिदृश्य बने जहाँ AI को एक "शहर" (डेटासेट) से दूसरे "शहर" में जाना था। उन्होंने CoWA की तुलना पुराने तरीकों (जैसे TENT और AdaBN) और एक ऐसे मॉडल से की जिसने बिल्कुल भी अनुकूलन (adapt) नहीं किया।

परिणाम उत्साहजनक थे। अधिकांश परीक्षण परिदृश्यों में, CoWA ने अन्य तरीकों (जैसे TENT और AdaBN) और बिना अनुकूलन वाले मॉडल की तुलना में बेहतर प्रदर्शन किया। उदाहरण के लिए, CheXpert डेटासेट से MIMIC डेटासेट पर जाने पर, CoWA ने 68.4 का औसत स्कोर प्राप्त किया, जो अगले सबसे अच्छे तरीके (EATA) को पछाड़ गया जिसका स्कोर 67.9 था। VinDr डेटासेट पर जाने पर, CoWA ने 85.6 छुआ, जबकि दूसरे स्थान पर रहने वाले (TENT) ने केवल 84.9 हासिल किया।

महत्वपूर्ण रूप से, शोध पत्र बताता है कि CoWA विशेष रूप रूप से AI को दुर्लभ बीमारियों पर विफल होने से रोकने में अच्छा है। जबकि अन्य तरीकों ने विशिष्ट स्थितियों (जैसे न्यूमोथोरैक्स) पर बड़ी गलतियाँ कीं, CoWA ने अपना धैर्य बनाए रखा, यह सुनिश्चित किया कि कठिन मामलों के कारण भी पूरी विफलता न हो।

इसका अर्थ यह नहीं है
शोध पत्र सावधानी बरतता है कि वह बहुत अधिक बढ़ा-चढ़ाकर दावा न करे। यह स्पष्ट रूप से नोट करता है कि AI द्वारा बनाया गया "दोस्ती चार्ट" उस डेटा पर आधारित है जो वह अभी देख रहा है। यदि नए अस्पताल में कोई अजीब पूर्वाग्रह है या मरीजों की संख्या बहुत कम है, तो चार्ट थोड़ा गलत हो सकता है। लेखक सुझाव देते हैं कि भविष्य के कार्य इन पैटर्न्स को और अधिक मजबूत बनाने की दिशा में हो सकते हैं, शायद यह समझने की ओर कि बीमारियाँ एक साथ क्यों रहती हैं, न कि केवल उनके पैटर्न को समझने की ओर।

निष्कर्ष
यह शोध पत्र सुझाव देता है कि बीमारियों के "सामाजिक नियमों" का सम्मान करना सिखाकर—यह जानना कि कुछ बीमारियाँ पक्की सहेलियाँ हैं और कभी अकेले नहीं आतीं—हम मेडिकल मॉडल्स को नए अस्पतालों में बहुत अधिक विश्वसनीय बना सकते हैं। यह एक सरल लेकिन शक्तिशाली सुधार है: हर आत्मविश्वासी अनुमान पर भरोसा करना बंद करें, और केवल उन्हीं पर भरोसा करें जो पूरी तस्वीर के संदर्भ में समझ में आते हैं।

तकनीकी सारांश: चेस्ट एक्स-रे निदान में टेस्ट-टाइम एडेप्टेशन के लिए पैथोलॉजी को-अकरेंस का लाभ उठाना

समस्या विवरण

डीप लर्निंग मॉडल चेस्ट एक्स-रे वर्गीकरण के लिए अक्सर महत्वपूर्ण प्रदर्शन गिरावट का सामना करते हैं जब उन्हें नए क्लिनिकल साइटों पर तैनात किया जाता है, जो इमेजिंग उपकरण, अधिग्रहण प्रोटोकॉल और रोगी जनसांख्यिकी में अंतर के कारण उत्पन्न डोमेन शिफ्ट के कारण होता है। जबकि टेस्ट-टाइम एडेप्टेशन (TTA) एक समाधान प्रदान करता है, जो सोर्स डेटा या टारगेट एनोटेशन तक पहुंच के बिना केवल अनलेबल टारगेट डेटा का उपयोग करके प्रीट्रेनड मॉडल्स को अपडेट करता है, मौजूदा TTA विधियां मल्टी-लेबल मेडिकल इमेजिंग के लिए अनुपयुक्त हैं।

मानक TTA दृष्टिकोण, जो मूल रूप से सिंगल-लेबल नेचुरल इमेज क्लासिफिकेशन के लिए डिज़ाइन किए गए थे, सभी सैंपल्स में यूनिफॉर्म रूप से प्रेडिक्शन एंट्रॉपी को कम करते हैं। यह लेबल स्वतंत्रता (label independence) को निहित रूप से मानता है। हालांकि, क्लिनिकल सेटिंग्स में, पैथोलॉजी संरचनात्मक सह-अस्तित्व पैटर्न (co-occurrence patterns) प्रदर्शित करती है (जैसे, कुछ बीमारियां अक्सर एक साथ दिखाई देती हैं), न कि अलगाव में। मौजूदा विधियां इन निर्भरताओं को ध्यान में रखने में विफल रहती हैं; वे सभी कॉन्फिडेंट प्रेडिक्शन्स को समान रूप से विश्वसनीय मानती हैं, भले ही कोई प्रेडिक्शन तर्कसंगत लेबल संबंधों का उल्लंघन करता हो। यह अनुकूलन (adaptation) के दौरान असंगत पैटर्न को बढ़ा सकता है और शोर वाले ग्रेडिएंट्स (noisy gradients) को पेश कर सकता है, विशेष रूप से डोमेन शिफ्ट के तहत।

कार्यप्रणाली: को-अकरेंस वेटेड एडेप्टेशन (CoWA)

लेखक CoWA का प्रस्ताव करते हैं, जो एक सोर्स-फ्री TTA विधि है जो प्रीट्रेनड मॉडल के बैच नॉर्मलाइजेशन (BN) एफाइन पैरामीटर्स को अनुकूलित करने के लिए केवल डिजीज को-अकरेंस पैटर्न का उपयोग करती है, जो एक विश्वसनीयता सिग्नल के रूप में कार्य करता है। यह ढांचा अतिरिक्त सुपरविजन या आर्किटेक्चरल बदलावों की आवश्यकता के बिना कार्य करता है।

CoWA के तीन मुख्य घटक हैं:

टारगेट डोमेन को-अकरेंस मैट्रिक्स एस्टीमेशन:
यह विधि आने वाले टेस्ट प्रेडिक्शन्स से सीधे लेबल को-अकरेंस स्ट्रक्चर का अनुमान लगाती है। लो-कॉन्फिडेंस एक्टिवेशन को दबाने के लिए मॉडल आउटपुट्स (सॉफ्ट प्रोबेबिलिटीज) को एक फिक्स्ड थ्रेशोल्ड के माध्यम से बाइनराइज किया जाता है। एक पेयरवाइज को-अकरेंस मैट्रिक्स $S$ को प्रोसेस्ड बैचों के माध्यम से संचित किया जाता है, जहाँ $S_{jk}$ पैथोलॉजी $j$ और $k$ के संयुक्त प्रेडिक्शन को गिनता है। इसे एक एम्पिरिकल को-अकरेंस मैट्रिक्स $M$ बनाने के लिए नॉर्मलाइज किया जाता है, जो अनुकूलन के दौरान विकसित होता है, जिससे टारगेट डोमेन के विशिष्ट डिपेंडेंसी स्ट्रक्चर को कैप्चर किया जा सके।
कंसिस्टेंसी-अवेयर सैंपल वेटिंग:
प्रत्येक सैंपल के लिए, CoWA एक कंसिस्टेंसी स्कोर की गणना करता है जो यह मापता है कि एक सैंपल का प्रेडिक्टेड लेबल कॉन्फ़िगरेशन अनुमानित टारगेट को-अकरेंस मैट्रिक्स $M$ के साथ कितनी अच्छी तरह संरेखित (align) होता है। सैंपल के प्रेडिक्शन्स से एक लोकल को-अकरेंस पैटर्न $m_i$ बनाया जाता है। $m_i$ और $M$ के बीच विचलन (deviation) की गणना फ्रोबेनियस नॉर्म (Frobenius norm) का उपयोग करके की जाती है। इस विचलन को एक रिलायबिलिटी वेट $w_i$ में बदला जाता है:
$w_i = \exp\left(-\frac{\|m_i - M\|_F^2}{\tau}\right)$
जहाँ $\tau$ एक टेम्परेचर पैरामीटर है। वे सैंपल जिनके प्रेडिक्शन्स उभरते हुए टारगेट स्ट्रक्चर के साथ सुसंगत (consistent) हैं, उन्हें 1 के करीब वेट प्राप्त होता है, जबकि संरचनात्मक रूप से असंगत (नॉइजी) प्रेडिक्शन्स को डाउनवेट किया जाता है।
वेटेड एंट्रॉपी मिनिमाइजेशन:
यूनिफॉर्म एवरेज एंट्रॉपी को कम करने के बजाय, CoWA एक वेटेड एंट्रॉपी लॉस को कम करता है:
$L_{CoWA} = \frac{1}{B} \sum_{i=1}^{B} \max(w_i, w_{min}) \cdot H(\hat{y}_i)$
यहाँ, $H(\cdot)$ प्रेडिक्शन एंट्रॉपी है, $B$ बैच साइज है, और $w_{min}$ न्यूमेरिकल स्टेबिलिटी के लिए वेट्स को शून्य होने से रोकता है। यह सुनिश्चित करता है कि मॉडल मुख्य रूप से संरचनात्मक रूप से सुसंगत सैंपल्स के आधार पर अनुकूलित हो, जिससे नॉइजी ग्रेडिएंट्स का प्रभाव कम हो जाता है।

मुख्य योगदान

CoWA का प्रस्ताव: एक नवीन TTA विधि जो पैथोलॉजी को-अकरेंस पैटर्न का अनुमान लगाती है और मल्टी-लेबल मेडिकल इमेज क्लासिफिकेशन के लिए उन्हें एक प्रति-सैंपल रिलायबिलिटी सिग्नल के रूप में उपयोग करती है।
मानक TTA की सीमाओं की पहचान: लेखक प्रदर्शित करते हैं कि सिंगल-लेबल बेंचमार्क के लिए डिज़ाइन किए गए मानक TTA मेथड्स मल्टी-लेबल क्लिनिकल टास्क में अप्रभावी या हानिकारक हो सकते हैं क्योंकि वे लेबल डिपेंडेंसी को अनदेखा करते हैं।
अनुभवजन्य सत्यापन (Empirical Validation): छह डोमेन शिफ्ट परिदृश्यों में सार्वजनिक चेस्ट एक्स-रे डेटासेट्स (MIMIC-CXR, CheXpert, VinDr-CXR, NIH Chest X-ray) पर व्यापक प्रयोगों ने स्थापित बेसलाइन्स की तुलना में निरंतर प्रदर्शन लाभ दिखाया है।

प्रयोगात्मक परिणाम

लेखकों ने स्थापित बेसलाइन्स जैसे कि No Adaptation, AdaBN, TENT, CoTTA, EATA, और RoTTA के विरुद्ध AUROC को प्राथमिक मेट्रिक के रूप में उपयोग करते हुए CoWA का मूल्यांकन किया।

कुल प्रदर्शन: CoWA ने अधिकांश डोमेन शिफ्ट परिदृश्यों में सर्वश्रेष्ठ मीन AUROC प्राप्त किया और अन्य में प्रतिस्पर्धी बना रहा, जो लगातार पहले या दूसरे स्थान पर रहा।
डोमेन शिफ्ट के प्रति मजबूती (Robustness): TENT और AdaBN जैसे बेसलाइन्स के विपरीत, जिन्होंने उच्च परिवर्तनशीलता दिखाई (कुछ शिफ्ट्स में अच्छा प्रदर्शन किया लेकिन अन्य में गिरावट आई), CoWA ने स्थिर प्रदर्शन बनाए रखा।
क्लास-विशिष्ट सुधार: प्रतिस्पर्धी विधियां अक्सर कम-प्रचलन वाली पैथोलॉजी (जैसे, न्यूमोथोरैक्स) पर उल्लेखनीय गिरावट का सामना करती हैं। CoWA ने लगातार इन क्लास-विशिष्ट गिरावटों को कम किया। विशेष रूप से, CoWA ही एकमात्र ऐसा तरीका था जिसने सभी शिफ्ट्स में अनएडेप्टेड बेसलाइन से नीचे गंभीर प्रदर्शन गिरावट को रोका, जो इसकी 'वर्स्ट-केस रोबस्टनेस' को उजागर करता है।
विश्लेषण:
- मैट्रिक्स इवोल्यूशन: CoWA में अनुमानित को-अकरेंस मैट्रिक्स अनुकूलन के दौरान धीरे-धीरे वास्तविक टारगेट स्ट्रक्चर के साथ संरेखित हुआ, जबकि बेसलाइन्स ने स्पष्ट डिपेंडेंसी स्ट्रक्चर खो दिया।
- वेट रिलायबिलिटी: वेट्स और प्रेडिक्शन क्वालिटी (AUPRC) के बीच एक सकारात्मक सहसंबंध देखा गया, जिससे पुष्टि हुई कि वेट्स प्रभावी रूप से एक निहित रिलायबिलिटी एस्टीमेटर के रूप में कार्य करते हैं।
- एब्लेशन (Ablation): कंसिस्टेंसी स्कोरिंग के लिए फ्रोबेनियस नॉर्म ( $\ell_F$ ) के उपयोग से $\ell_1, \ell_2,$ या $\ell_\infty$ नॉर्म्स की तुलना में उच्च मीन AUROC और कम वेरिएंस प्राप्त हुआ। इसके अतिरिक्त, CoW ने TENT की तुलना में अधिक स्थिर BN एफाइन ग्रेडिएंट अपडेट प्रदर्शित किए।

महत्व और दावे

पेपर का दावा है कि CoWA, अतिरिक्त एनोटेशन की आवश्यकता के बिना, TTA में टारगेट-डोमेन को-अकरेंस स्ट्रक्चर को शामिल करके डोमेन शिफ्ट के तहत डायग्नोस्टिक मजबूती में सुधार के लिए एक सरल, डिप्लॉयबल समाधान प्रदान करता है।

लेखक इस बात पर जोर देते हैं कि क्लिनिकल सेटिंग्स में, जहाँ किसी भी एकल पैथोलॉजी पर प्रदर्शन की गंभीर गिरावट निदान को खतरे में डाल सकती है, CoWA द्वारा प्रदान की जाने वाली "वर्स्ट-केस रोबस्टनेस" औसत प्रदर्शन जितनी ही महत्वपूर्ण है। तर्कसंगत लेबल संबंधों का उल्लंघन करने वाले प्रेडिक्शन्स को डाउनवेट करके, CoWA अनुकूलन को संरचनात्मक रूप से सुसंगत सैंपल्स पर ध्यान केंद्रित करने में सक्षम बनाता है, जिससे नॉइजी ग्रेडिएंट्स कम होते हैं।

लेखक विनम्रतापूर्वक निष्कर्ष निकालते हैं, यह नोट करते हुए कि हालांकि CoWA प्रभावी है, अनुमानित पैटर्न डेटासेट-स्तरीय पूर्वाग्रहों (biases) के प्रति संवेदनशील हो सकते हैं। वे सुझाव देते हैं कि अधिक मजबूत, कॉज़ली-ग्राउंडेड संबंधों को कैप्चर करने के लिए CoWA का विस्तार करना भविष्य के कार्य के लिए एक आशाजनक दिशा है।