⚡ electrical engineering

MaRS: Robust Out-of-Distribution Detection via Mahalanobis Residual Scoring

यह शोध पत्र MaRS को प्रस्तुत करता है, जो एक लेबल-मुक्त, पोस्ट-हॉक आउट-ऑफ-डिस्ट्रीब्यूशन डिटेक्टर है जो विभिन्न मेडिकल इमेजिंग मोडैलिटीज़ और डिस्ट्रीब्यूशन शिफ्ट्स के बीच बेहतर प्रदर्शन प्राप्त करने के लिए रिकंस्ट्रक्शन रेसिडुअल्स पर महालानोबिस डिस्टेंस का उपयोग करके वेरिएंस-अवेयर विचलन (variance-aware deviations) को कैप्चर करता है, जिससे यह मानक रिकंस्ट्रक्शन-आधारित विधियों की सीमाओं को दूर करता है।

मूल लेखक: Francesco Di Salvo, Sebastian Doerrich, Christian Ledig

प्रकाशित 2026-06-23

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Francesco Di Salvo, Sebastian Doerrich, Christian Ledig

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

बड़ी समस्या: जब AI भ्रमित हो जाता है

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान AI डॉक्टर है जिसने स्वस्थ वयस्क फेफड़ों के हजारों एक्स-रे का अध्ययन किया है। वह जानता है कि एक "सामान्य" वयस्क फेफड़ा कैसा दिखता है।

अब, कल्पना कीजिए कि उस AI को एक बच्चे के फेफड़े का एक्स-रे दिखाया जाता है। भले ही वह अभी भी एक फेफड़ा ही है, लेकिन उसका आकार और बनावट अलग है। या कल्पना कीजिए कि एक्स-रे किसी अलग ब्रांड की मशीन से लिया गया है जो इमेज को थोड़ा दानेदार (grainy) बना देता है।

AI के लिए, ये नई छवियां "अजीब" लगती हैं। तकनीकी शब्दों में, ये आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) हैं। खतरा यह है कि AI फिर भी उनका निदान करने की कोशिश कर सकता है, और पूरे आत्मविश्वास के साथ गलत जवाब दे सकता है। हमें एक "सुरक्षा गार्ड" की आवश्यकता है जो इन अजीब छवियों को AI द्वारा निदान करने से पहले ही पहचान सके और कह सके, "हे, मैंने ऐसा कुछ पहले नहीं देखा है; मुझे इस बारे बारे यकीन नहीं है।"

पुराना तरीका: "दूरी" और "पुनर्निर्माण" को मापना

वैज्ञानिकों ने इस सुरक्षा गार्ड को बनाने के कुछ तरीके आजमाए हैं:

कॉन्फिडेंस चेक (विश्वास की जांच): AI से पूछना, "तुम कितने सुनिश्चित हो?" (लेकिन AI पूरी तरह से गलत होने पर भी बहुत आत्मविश्वासी हो सकता है)।
डिस्टेंस चेक (दूरी की जांच): यह मापना कि नई छवि उन छवियों से कितनी दूर है जिन्हें AI जानता है।
रिकंस्ट्रक्शन चेक (पुनर्निर्माण की जांच): यह वह तरीका है जिस पर यह पेपर केंद्रित है। कल्पना कीजिए कि आपके पास एक मशीन है जो जो कुछ वह जानती है, उसके आधार पर छवि को फिर से बनाने (redraw) की कोशिश करती है।
- यदि आप उसे एक सामान्य फेफड़ा दिखाते हैं, तो वह उसे पूरी तरह से फिर से बना देती है।
- यदि आप उसे एक बच्चे का फेफड़ा दिखाते हैं, तो वह संघर्ष करती है। वह बच्चे के फेफड़े को वयस्क के जैसा दिखाने के लिए मजबूर करने की कोशिश करती है, और "पुनर्निर्मित" संस्करण अव्यवस्थित दिखता है।
- मूल छवि और उस अव्यवस्थित पुनर्निर्मित छवि के बीच के अंतर को रेसिडुअल (residual) या त्रुटि (error) कहा जाता है।

खामी: इस त्रुटि को मापने का पुराना तरीका एक मानक रूलर (साधारण पैमाने) का उपयोग करने जैसा था। यह सभी गलतियों को समान रूप से जोड़ देता था। यदि AI ने 100 अलग-अलग जगहों पर छोटी गलती की, तो कुल त्रुटि बड़ी दिखाई देती थी। लेकिन यदि उसने किसी विशिष्ट दिशा में एक बड़ी, अजीब गलती की, तो रूलर उसे मिस कर सकता था क्योंकि उसने हर दिशा को एक समान माना।

नया समाधान: MaRS (महालनोबिस रेसिडुअल स्कोरिंग)

लेखकों ने महसूस किया कि AI की गलतियाँ रैंडम (यादृच्छिक) नहीं होती हैं। उनका एक विशिष्ट आकार होता है।

उपमा: "स्ट्रेची ट्रैम्पोलिन" (लचीला ट्रैम्पोलिन)

कल्पना कीजिए कि "सामान्य फेफड़ों" का AI का ज्ञान एक ट्रैम्पोलिन की तरह है जिसे एक विशिष्ट आकार में फैलाया गया है।

सामान्य फेफड़े (इन-डिस्ट्रीब्यूशन): ये सीधे ट्रैम्पोलिन पर स्थित होते हैं। यदि आप उन पर एक गेंद गिराते हैं, तो वे थोड़ा उछलती है (छोटा एरर) क्योंकि ट्रैम्पोलिन कुछ दिशाओं में उछाल वाला (bouncy) और कुछ दिशाओं में सख्त (stiff) होता है।
अजीब फेफड़े (आउट-ऑफ-डिस्ट्रीब्यूशन): ये ट्रैम्पोलिन से बाहर बैठने की कोशिश करते हैं।

पुराना तरीका (L2 Norm): यह तरीका केवल ट्रैम्पोलिन से गेंद की कुल ऊंचाई को मापता है। इसे इससे कोई फर्क नहीं पड़ता कि गेंद कहाँ है। यदि ट्रैम्पोलिन एक दिशा में बहुत उछाल वाला (बौंसी) है, तो वहां गेंद का ऊंचा उछलना जरूरी नहीं कि "अजीब" हो—यह बस ट्रैम्पोलिन की प्रकृति है।

MaRS तरीका (महालनोबिस डिस्टेंस): यह तरीका अधिक स्मार्ट है। यह ट्रैम्पोलिन की बनावट (texture) को देखता है।

यह जानता है कि कुछ दिशाओं में ट्रैम्पोलिन बहुत सख्त (stiff) है (खींचना कठिन है)। यदि एक गेंद सख्त दिशा में थोड़ी भी हट जाती है, तो यह एक बहुत बड़ी बात है।
अन्य दिशाओं में, ट्रैम्पोलिन ढीला और उछाल वाला (loose and bouncy) है। यदि एक गेंद ढीली दिशा में हट जाती है, तो यह शायद सामान्य शोर (noise) मात्र है।

MaRS एक विशेष "गणितीय रूलर" का उपयोग करता है जो सख्त दिशाओं में त्रुटियों को बढ़ा (amplify) देता है और उछाल वाली दिशाओं में त्रुटियों को अनदेखा (ignore) कर देता है। यह इसे पुराने रूलर की तुलना में वास्तव में अजीब छवियों को बेहतर ढंग से पहचानने में सक्षम बनाता है।

उन्होंने इसका परीक्षण कैसे किया

शोधकर्ताओं ने तीन अलग-अलग प्रकार के मेडिकल इमेजेस पर इस "स्मार्ट रूलर" का परीक्षण किया:

कोशिकाओं के माइक्रोस्कोप स्लाइड (कैंसर की तलाश में)।
चेस्ट एक्स-रे (वयस्कों बनाम बच्चों की तुलना)।
त्वचा की तस्वीरें (तिल के विभिन्न प्रकारों की तुलना)।

उन्होंने छवियों को प्रोसेस करने के लिए अलग-अलग "ब्रेन" मॉडल (बैकबोन) का उपयोग किया, जो छोटे से लेकर बड़े तक थे।

परिणाम

बेहतर डिटेक्शन: MaRS ने पुराने तरीकों (जैसे मानक पुनर्निर्माण या दूरी की जांच) की तुलना में "अजीब" छवियों को बहुत अधिक सटीकता से पकड़ा।
लेबल की आवश्यकता नहीं: इसे यह सिखाने की जरूरत नहीं थी कि "बच्चे का फेफड़ा" या "अलग मशीन" कैसी दिखती है। इसने बस यह सीखा कि "सामान्य" क्या है और फिर विचलनों (deviations) को पहचाना।
बड़े और छोटे दोनों मॉडल्स पर काम करता है: यह अच्छी तरह से काम करता था चाहे वह एक छोटा, सरल मॉडल हो या एक विशाल, जटिल मॉडल।
सीक्रेट सॉस (मुख्य कारण): पेपर में पाया गया कि "अजीब" संकेत अक्सर डेटा की शांत, सख्त दिशाओं (quiet, stiff directions) में छिपे होते हैं। पुराने तरीकों ने इन शांत दिशाओं को अनदेखा कर दिया, लेकिन MaRS ने उनकी आवाज़ बढ़ा दी।

सारांश

यह पेपर MaRS पेश करता है, जो एक नया टूल है जो AI सिस्टम को यह समझने में मदद करता है कि वे ऐसी चीज़ देख रहे हैं जिसे उन्होंने पहले नहीं देखा है। केवल यह मापने के बजाय कि एक तस्वीर कितनी "गलत" दिखती है, MaRS एक स्मार्ट, लचीले रूलर का उपयोग करता है जो जानता है कि किस प्रकार की गलतियाँ मायने रखती हैं और कौन सी केवल सामान्य शोर हैं। यह चिकित्सा संबंधी AI को नए रोगियों या नए उपकरणों का सामना करने पर अधिक सुरक्षित और विश्वसनीय बनाता है।

तकनीकी सारांश: MaRS – महालानोबिस रेसिडुअल स्कोरिंग के माध्यम से सुदृढ़ आउट-ऑफ-डिस्ट्रीब्यूशन डिटेक्शन

समस्या विवरण
फाउंडेशन मॉडल मेडिकल इमेज के लिए अत्यधिक वर्णनात्मक रिप्रजेंटेशन प्रदान करते हैं, फिर भी रोगी आबादी, इमेजिंग डिवाइस या अधिग्रहण स्थितियों में बदलाव के कारण होने वाले डिस्ट्रीब्यूशन शिफ्ट के तहत उनकी विश्वसनीयता कम हो जाती है। जबकि आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) डिटेक्शन सुरक्षित क्लिनिकल परिनियोजन के लिए आवश्यक है, मौजूदा विधियाँ विशिष्ट सीमाओं का सामना करती हैं। कॉन्फिडेंस-आधारित विधियाँ अक्सर क्लास इम्बैलेंस और मिसकैलिब्रेशन के कारण नाजुकता से ग्रस्त होती हैं। डिस्टेंस-आधारित विधियाँ (जैसे, Deep kNN, Mahalanobis) उच्च-आयामी एम्बेडिंग्स में खराब हो सकती हैं जहाँ निकटतम-पड़ोसी दूरियाँ कम सूचनात्मक हो जाती हैं और कोवेरिएंस अनुमानों को रेगुलराइज करना कठिन हो जाता है। रिकंस्ट्रक्शन-आधारित विधियाँ, जो एक इन-डिस्ट्रीब्यूशन (ID) मैनिफोल्ड सीखती हैं और बड़े रिकंस्ट्रक्शन एरर वाले सैंपल्स को फ्लैग करती हैं, ने सीमित एडॉप्शन देखा है। लेखक तर्क देते हैं कि यह असंगतता खराब रिकंस्ट्रक्शन क्वालिटी के कारण नहीं है, बल्कि इस कारण से है कि रिकंस्ट्रक्शन एरर्स को कैसे स्कोर किया जाता है। मानक दृष्टिकोण यूनिफॉर्म $L_2$ रेसिडुअल नॉर्म्स का उपयोग करते हैं, जो रेसिडुअल्स की एनिसोट्रोपिक संरचना को कोलैप्स कर देते हैं, जिससे कम-वैरिएंस दिशाओं में होने वाले सूचनात्मक विचलन दब जाते हैं।

कार्यप्रणाली: MaRS
लेखक MaRS (Mahalanobis Residual Scoring) पेश करते हैं, जो एक लेबल-फ्री, पूरी तरह से पोस्ट-हॉक OOD डिटेक्टर है जिसे फ्रोजन बैकबोन फीचर्स पर संचालित करने के लिए डिज़ाइन किया गया है। यह विधि तीन प्राथमिक घटकों से बनी है:

ऑटोएनकोडर के माध्यम से मैनिफोल्ड प्रोजेक्शन: एक फ्रोजन बैकबोन $\Phi$ द्वारा उत्पन्न फीचर्स $z$ दिए जाने पर, ID फीचर्स पर एक लाइटवेट ऑटोएनकोडर $(E, D)$ को रिकंस्ट्रक्शन लॉस $\|z - \hat{z}\|_2^2$ को कम करने के लिए प्रशिक्षित किया जाता है। ज्यामितीय रूप से, यह ID मैनिफोल्ड $\Pi_{M_{ID}}(z)$ पर एक प्रोजेक्शन को लागू करता है। रिकंस्ट्रक्शन रेसिडुअल को $r(x) = z - \hat{z}$ के रूप में परिभाषित किया गया है।
रेसिडुअल स्पेस एनालिसिस: लेखक देखते हैं कि जबकि ID रेसिडुअल्स छोटे होते हैं और रिकंस्ट्रक्शन खामियों को दर्शाते हैं, OOD रेसिडुअल्स में सीखा गया मैनिफोल्ड से विचलन को दर्शाने वाले व्यवस्थित घटक होते हैं। महत्वपूर्ण रूप से, इन रेसिडुअल्स का वितरण अत्यधिक एनिसोट्रोपिक (anisotropic) है।
महालानोबिस स्कोरिंग: यूनिफॉर्म $L_2$ नॉर्म के बजाय, MaRS रेसिडुअल स्पेस में महालानोबिस डिस्टेंस का उपयोग करके OOD स्कोर की गणना करता है:
$S_{MaRS}(x) = r(x)^\top \Sigma^{-1} r(x)$
जहाँ $\Sigma$ ID रेसिडुअल्स का कोवेरिएंस मैट्रिक्स है। ईजनडीकंपोजिशन $\Sigma = U\Lambda U^\top$ के माध्यम से, स्कोर को प्रिंसिपल कंपोनेंट्स पर स्क्वेर्ड प्रोजेक्शन्स के वेटेड सम के रूप में व्यक्त किया जाता है:
$S_{MaRS}(x) = \sum_{i=1}^{D} \frac{(u_i^\top r(x))^2}{\lambda_i}$
यह फॉर्मूलेशन लो-वैरिएंस (स्टेबल) दिशाओं में विचलन को बढ़ाता है (जहाँ $\lambda_i$ छोटा है) और हाई-वैरिएंस दिशाओं को कम महत्व देता है (जहाँ $\lambda_i$ बड़ा है)। एम्बेडिंग स्पेस में क्लास-कंडीशनल मीन्स पर निर्भर करने वाले महालानोबिस तरीकों के विपरीत, MaRS लेबल-फ्री है और रेसिडुअल्स के एकल ग्लोबल कोवेरिएंस पर निर्भर करता है, जो प्रभावी रूप से क्लास-सेमेंटिक वेरिएशन को दबाकर डिस्ट्रीब्यूशनल ड्रिफ्ट को आइसोलेट करता है।

प्रमुख योगदान

MaRS फ्रेमवर्क: एक प्लग-एंड-प्ले, लेबल-फ्री OOD डिटेक्टर जो ऑटोएनकोडर रिकंस्ट्रक्शन रेसिडुअल्स पर महालानोबिस डिस्टेंस लागू करता है। यह फ्रोजन बैकबोन फीचर्स पर सीधे काम करता है, जो बैकबोन फाइन-ट्यूनिंग की आवश्यकता के बिना कम्प्यूटेशनल दक्षता और विभिन्न मोडैलिटीज के लिए अनुकूलन सुनिश्चित करता है।
रेसिडुअल एनिसोट्रॉपी की पहचान: पेपर रेसिडुअल एनिसोट्रॉपी को एक महत्वपूर्ण, पहले अनदेखी की गई सिग्नल के रूप में पहचानता है। यह प्रदर्शित करता है कि रेसिडुअल स्पेस में वेरिएंस-अवेयर महालानोबिस स्कोरिंग, यूनिफॉर्म $L_2$ एग्रीगेशन की तुलना में काफी बेहतर प्रदर्शन करती है।
आर्किटेक्चर और स्केल के प्रति मजबूती: लेखक दिखाते हैं कि MaRS विभिन्न बैकबोन आर्किटेक्चर (सुपरवाइज्ड ViT और सेल्फ-सुपरवाइज्ड DINOv3) और मॉडल स्केल्स (Small और Base) में मजबूत बना रहता है। इसके अलावा, यह प्री-नॉर्मलाइजेशन फीचर्स पर काम करने से लाभान्वित होता है, जहाँ स्वाभाविक एनिसोट्रोपिक वैरिएंस स्ट्रक्चर संरक्षित रहता है, लातेंट-स्पेस बेसलाइन्स के विपरीत जिन्हें नॉर्मलाइजेशन की आवश्यकता होती है।

प्रायोगिक परिणाम
तीन इमेजिंग मोडैलिटीज (हिस्टोपैथोलॉजी, चेस्ट एक्स-रे, डर्मेटोस्कोपी), विभिन्न प्रकार के डिस्ट्रीब्यूशन शिफ्ट (कोवेरिएट, नियर-OOD, फार-OOD, सेमेंटिक) और विभिन्न मॉडल परिवारों में व्यापक प्रयोग किए गए।

प्रदर्शन: MaRS ने स्थापित कॉन्फिडेंस-आधारित (MSP, ODIN, ViM), डिस्टेंस-आधारित (Deep kNN, OCSVM, Mahalanobis++) और रिकंस्ट्रक्शन-आधारित (Residual, AE) बेसलाइन्स को लगातार पछाड़ दिया।
सांख्यिकीय सार्थकता: MaRS ने AUROC और FPR@95 के मामले में 3 रन और 5 डेटासेट स्प्लिट्स में Mahalanobis++ (सबसे मजबूत लेटेंट-स्पेस बेसलाइन) को महत्वपूर्ण रूप से पछाड़ा (पेयर्ड विल्कोक्सन साइन्ड-रैंक टेस्ट, $p < 0.05$ )।
एब्लेशन निष्कर्ष: रेसिडुअल कोवेरिएंस के स्पेक्ट्रल विश्लेषण से पता चला कि 90% से अधिक वेरिएंस एक-तिहाई से भी कम प्रिंसिपल कंपोनेंट्स में केंद्रित है। पाया गया कि OOD विचलन शेष लो-वैरिएंस दिशाओं में केंद्रित होते हैं। लो-वैरिएंस सबस्पेस में OOD बनाम ID रेसिडुअल एनर्जी का अनुपात 1.64 $\times$ अधिक था, जो पुष्टि करता है कि महालानोबिस स्कोरिंग इन सूचनात्मक सिग्नल्स को प्रभावी ढंग से आइसोलेट करती है।
नॉर्मलाइजेशन संवेदनशीलता: जबकि नॉर्मलाइजेशन मानक लेटेंट-स्पेस बेसलाइन्स के लिए प्रदर्शन में सुधार करता है, यह MaRS को खराब करता है क्योंकि यह वेरिएंस स्पेक्ट्रम को फ्लैट कर देता है और उन लो-वैरिएंस दिशाओं को दबा देता है जहाँ OOD सिग्नल सबसे अधिक स्पष्ट होते हैं।

महत्व
पेपर का दावा है कि मौजूदा रिकंस्ट्रक्शन-आधारित OOD डिटेक्टरों की एक केंद्रीय सीमा निहित आइसोट्रोपिक रिकंस्ट्रक्शन एरर्स की धारणा है। यूनिफॉर्म $L_2$ एग्रीगेशन को कोवेरिएंस-अवेयर महालानोबिस स्कोरिंग से बदलकर, MaRS इस सीमा को संबोधित करता है। लेखक तर्क देते हैं कि यह दृष्टिकोण फ्रोजन रिप्रेजेंटेशन्स पर पोस्ट-हॉक OOD डिटेक्शन के लिए एक सरल लेकिन शक्तिशाली सिद्धांत प्रदान करता है, जो क्लास लेबल्स या पूर्वनिर्धारित सबस्पेस धारणाओं पर निर्भर किए बिना मेडिकल इमेजिंग मोडैलिटीज और मॉडल स्केल्स में अच्छी तरह से सामान्यीकृत होता है। यह कार्य सुझाव देता है कि भविष्य के मेडिकल OOD डिटेक्शन में केवल बैकबोन रिप्रेजेंटेशन्स या रिकंस्ट्रक्शन क्वालिटी को सुधारने के बजाय, रेसिडुअल स्पेस एनिसोट्रॉपी को बेहतर ढंग से मॉडल करने पर निर्भरता हो सकती है।