🤖 machine learning

Backbone-Equated Diffusion OOD via Sparse Internal Snapshots

यह शोध पत्र निष्पक्ष डिफ्यूजन-आधारित OOD डिटेक्शन के लिए एक Mutualized Backbone-Equated प्रोटोकॉल प्रस्तुत करता है और कैनोनिकल फीचर स्नैपशॉट्स (Canonical Feature Snapshots) का प्रस्ताव करता है, जो एक ऐसी विधि है जो यह प्रदर्शित करती है कि कम-शोर (low-noise) स्तरों पर फ्रोजन डिफ्यूजन बैकबोन से प्राप्त स्पार्स आंतरिक सक्रियण (sparse internal activations), पूर्ण डिनोइजिंग प्रक्षेपवक्र (full denoising trajectories) की आवश्यकता के बिना अत्यधिक प्रतिस्पर्धी OOD डिटेक्शन के लिए पर्याप्त हैं।

मूल लेखक: Yadang Alexis Rouzoumka, Jean Pinsolle, Eugénie Terreaux, Christèle Morisseau, Jean-Philippe Ovarlez, Chengfang Ren

प्रकाशित 2026-05-13

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yadang Alexis Rouzoumka, Jean Pinsolle, Eugénie Terreaux, Christèle Morisseau, Jean-Philippe Ovarlez, Chengfang Ren

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक मास्टर शेफ (एक डिफ्यूजन मॉडल) है जो किसी विशिष्ट प्रकार का व्यंजन, जैसे कि एकदम सही पिज्जा बनाने में अविश्वसनीय रूप से कुशल है। आप जानना चाहते हैं कि किसी ने आपको जो नया घटक (ingredient) दिया है, वह वास्तव में पिज्जा का आटा है या कुछ अजीब जैसे कि कोई पत्थर या रबर की मुर्गी। यह आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) डिटेक्शन की समस्या है: यह पता लगाना कि क्या कोई इनपुट उस दुनिया से संबंधित है जिसे शेफ जानता है या वह बाहरी है।

लंबे समय तक, शोधकर्ताओं ने इसे हल करने की कोशिश की: वे शेफ को उस घटक को पूरी तरह से पकाकर एक तैयार डिश बनाने के लिए कहते थे और फिर अंतिम व्यंजन का निरीक्षण करते थे। यदि प्लेट अजीब दिखती थी, तो वे मान लेते थे कि घटक अजीब था। लेकिन यह धीमा, महंगा था और कभी-कभी शेफ इतने अच्छे होते थे कि वे अजीब सामग्रियों को भी "ठीक" कर देते थे, जिससे अंतिम प्लेट ठीक दिखती थी, भले ही इनपुट कचरा ही क्यों न हो।

यह पेपर एक नया, बहुत स्मार्ट तरीका पेश करता है: "इंटरनल स्नैपशॉट" (आंतरिक झलक) विधि।

यहाँ उनकी खोज का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:

1. समस्या: सेब की तुलना संतरों से करना

इस पेपर से पहले, "अजीब सामग्रियों" का पता लगाने के लिए अलग-अलग तरीकों की तुलना करना एक बड़ी उलझन थी। कुछ शोधकर्ता अलग-अलग प्रकार के शेफ (अलग-अलग मॉडल आर्किटेक्चर) का उपयोग करते थे, कुछ शेफ को 10 मिनट तक पकाने के लिए कहते थे, दूसरों को 100 मिनट तक, और कुछ अलग प्रकार के ओवन का उपयोग करते थे। यह बताना असंभव था कि कोई विधि बेहतर थी क्योंकि वह वास्तव में स्मार्ट थी, या केवल इसलिए क्योंकि उसके पास अधिक समय या बेहतर ओवन था।

पेपर का समाधान (MBE प्रोटोकॉल):
लेखकों ने एक "फेयर प्ले रूलबुक" बनाई जिसे म्युचुअलाइज्ड बैकबोन-इक्वेटेड (MBE) कहा जाता है।

उपमा: कल्पना कीजिए कि एक दौड़ में हर धावक को बिल्कुल एक ही जोड़ी जूते पहनने चाहिए, एक ही ट्रैक पर दौड़ना चाहिए, और हवा की समान स्थिति का सामना करना चाहिए।
उन्होंने क्या किया: उन्होंने सभी अलग-अलग डिटेक्शन विधियों को एक ही "शोर स्तर" (noise levels - कि शेफ कितना भ्रमित है) और समान कंप्यूटिंग समय का उपयोग करने के लिए मजबूर किया। यह सुनिश्चित करता है कि यदि एक विधि जीतती है, तो वह इसलिए जीतती है क्योंकि वह वास्तव में अजीब होने को पहचानने में बेहतर है, न कि इसलिए कि उसके पास कोई अनुचित लाभ था।

2. बड़ी खोज: केक पकने का इंतज़ार न करें

अधिकांश पिछले तरीकों ने निर्णय लेने के लिए शेफ के पूरे खाना पकाने की प्रक्रिया (डिनोइजिंग ट्रेजेक्टरी) के समाप्त होने तक प्रतीक्षा की। वे अंतिम केक या बचे हुए टुकड़ों को देखते थे।

लेखकों ने एक सरल प्रश्न पूछा: "क्या हमें यह जानने के लिए वास्तव में केक के तैयार होने तक प्रतीक्षा करने की आवश्यकता है कि बैटर (घोल) अजीब था?"

उन्होंने पाया कि उत्तर नहीं है।

समाधान (CFS - कैनोनिकल फीचर स्नैपशॉट्स):
पूरी डिश बनने का इंतज़ार करने के बजाय, वे खाना पकाने की प्रक्रिया के एक बहुत ही विशिष्ट, शुरुआती क्षण में शेफ की रसोई के अंदर झाँकते हैं।

उपमा: कल्पना कीजिए कि शेफ सामग्री मिला रहा है। केक के फूलने और भूरा होने का इंतज़ार करने के बजाय, आप आटे को डालने के तुरंत बाद—लेकिन ओवन चालू करने से पहले—मिक्सिंग बाउल की एक त्वरित फोटो लेते हैं।
"स्नैपशॉट": वे कम शोर के स्तर पर शेफ के आंतरिक विचारों (एक्टिवेशंस) की एक छोटी सी "स्नैपशॉट" लेते हैं। उन्होंने पाया कि "यह अजीब है!" बताने वाला संकेत इस शुरुआती चरण में ही बहुत ज़ोर से चिल्ला रहा होता है।

3. "स्पार्स" (विरल) रहस्य

उनकी खोज का सबसे आश्चर्यजनक हिस्सा यह है कि वास्तव में कितनी कम जानकारी की आवश्यकता होती है।

उपमा: आपको यह जानने के लिए कि शेफ भ्रमित है या नहीं, पूरे 2 घंटे का कुकिंग शो देखने की आवश्यकता नहीं है। आपको केवल दो विशिष्ट फ्रेम देखने की आवश्यकता है:
1. एक फ्रेम "डीप एनकोडर" (वह हिस्सा जो सामग्री के आकार को समझता है) से।
2. एक फ्रेम "लेट डिकोडर" (वह हिस्सा जो अंतिम आकार बनाना शुरू करता है) से।
परिणाम: केवल इन दो छोटे स्नैपशॉट्स को देखकर, उनकी विधि (CFS) अन्य सभी विधियों की तुलना में बेहतर तरीके से अजीब सामग्रियों को पहचानने में सक्षम थी, जिन्होंने पूरी खाना पकाने की प्रक्रिया को देखा था। यह एक नकली पेंटिंग को दो ब्रशस्ट्रोक देखकर पहचानने जैसा था, जबकि अन्य लोग पूरे कैनवास का विश्लेषण करने की कोशिश कर रहे थे।

4. यह क्यों काम करता है (लोकल थ्योरी)

लेखकों ने केवल भाग्य का सहारा नहीं लिया; उनके पास एक सिद्धांत है कि यह क्यों काम करता है, जिसे वे लोकल डायग्नोस्टिक थ्योरी कहते हैं।

पूरक भूमिकाएँ (Complementary Roles): "एनकोडर" (शुरुआती चरण) और "डिकोडर" (बाद का चरण) दो अलग-अलग सेंसर की तरह कार्य करते हैं। कभी-कभी शुरुआती सेंसर अजीब चीज़ को देखता है, कभी-कभी बाद वाला। दोनों को एक साथ रखने से सभी संभावनाएं कवर हो जाती हैं।
लो-नॉइज़ स्टेबिलिटी: उन्होंने पाया कि जब शोर कम होता है (जब सामग्रियां अभी भी काफी स्पष्ट होती हैं) तब देखना सबसे सटीक होता है। यदि आप बहुत जल्दी देखते हैं (सब कुछ केवल स्टैटिक नॉइज़ है), तो आप कुछ देख नहीं पाएंगे। यदि आप बहुत देर से देखते हैं (शेफ ने अजीब सामग्री को पहले ही "ठीक" कर दिया है), तो शेफ सबूतों को छिपा चुका होगा। "लो-नॉइज़" स्नैपशॉट वह सटीक क्षण है जब शेफ द्वारा सच को छिपाने से पहले उसे पकड़ा जा सकता है।

5. निचोड़ (The Bottom Line)

पुराना तरीका: शेफ के खाना पकाने के पूरा होने का इंतज़ार करें, फिर अंतिम प्लेट का निरीक्षण करें। (धीमा, महंगा, कभी-कभी धोखा खा जाता है)।
नया तरीका (CFS): एक विशिष्ट क्षण में मिक्सिंग बाउल में झाँकें। (तेज़, सस्ता, अत्यधिक सटीक)।

यह पेपर साबित करता है कि उचित परिस्थितियों में, आउट-ऑफ-डिस्ट्रीब्यूशन डेटा को पहचानने के लिए आपको एक जटिल, भारी-भरकम डिटेक्टर की आवश्यकता नहीं है। आपको बस यह जानने की आवश्यकता है कि फ्रीज्ड मॉडल के अंदर कहाँ और कब देखना है। मॉडल के आंतरिक "विचारों" पर एक छोटा, स्पारसे (sparse) दृश्य ही नकली चीज़ों को पकड़ने के लिए पर्याप्त है।

संक्षेप में: आपको यह जानने के लिए कि ओवन खराब है, केक के जलने का इंतज़ार करने की ज़रूरत नहीं है; आप बैटर को देखकर ही बता सकते हैं।

तकनीकी सारांश: स्पार्स इंटरनल स्नैपशॉट्स के माध्यम से बैकबोन-इक्वेटेड डिफ्यूजन OOD

समस्या विवरण (Problem Statement)
यह शोध पत्र डिफ्यूजन मॉडल पर आधारित आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) डिटेक्टरों की निष्पक्ष तुलना की चुनौती को संबोधित करता है। वर्तमान मूल्यांकन अक्सर असंगत प्रोटोकॉल के कारण भ्रमित होते हैं, विशेष रूप से बैकबोन आर्किटेक्चर (जैसे DDPM बनाम EDM) के चयन, पैरामीट्राइजेशन (डिस्क्रीट टाइमस्टेप्स बनाम कंटीन्यूअस नॉइज़ स्केल्स), और छिपे हुए टेस्ट-टाइम कंप्यूटेशनल बजट के संबंध में। इसके अलावा, अधिकांश मौजूदा विधियाँ डिफ्यूजन बैकबोन को आउटपुट स्पेस (पुनर्निर्माण, डिनोइजिंग रेसिडुअल्स, या ट्रेजेक्टरीज का उपयोग करके) में प्रोब करती हैं, जो नेटवर्क के आंतरिक अवस्थाओं (internal states) में उपलब्ध विभेदक जानकारी को मिस कर सकती हैं। लेखक यह सवाल उठाते हैं कि इन प्रोटोकॉल कन्फाउंडर्स को हटाने के बाद, एक फ्रोजन डिफ्यूजन बैकबोन के भीतर सबसे उपयोगी OOD सिग्नल कहाँ स्थित होता है।

कार्यप्रणाली (Methodology)
लेखक एक दो-आयामी दृष्टिकोण प्रस्तावित करते हैं: एक मानकीकृत मूल्यांकन प्रोटोकॉल और एक नवीन, स्पार्स डिटेक्शन विधि।

म्युचुअलाइज्ड बैकबोन-इक्वेटेड (MBE) प्रोटोकॉल:
क्रॉस-बैकबोन तुलना को सक्षम करने के लिए, लेखक MBE प्रोटोकॉल पेश करते हैं। यह ढांचा निम्नलिखित को संरेखित करता है:

चेकपॉइंट-फैमिली पॉलिसी: यह सुनिश्चित करना कि सभी विधियाँ प्रशिक्षण के लिए एक ही स्रोत वितरण (source distribution) का उपयोग करें।
कैनोनिकल करप्शन लेवल्स: विविध नेटिव इंटरफेस (जैसे Improved-Diffusion में डिस्क्रीट $t$ , EDM में कंटीन्यूअस $\sigma$ ) को एक एकीकृत कैनोनिकल कोऑर्डिनेट, $\lambda = \log(\text{SNR})$ में मैप करना। यह सुनिश्चित करता है कि विधियों की तुलना समान करप्शन स्ट्रेंथ पर की जाए।
लॉजिकल टेस्ट-टाइम कॉस्ट: बैकबोन फॉरवर्ड पासेस (#F) और जैकोबियन इवैल्यूएशन (#J) की संख्या को स्पष्ट रूप से ध्यान में रखना ताकि "हिडन बजट" के लाभों को रोका जा सके।

कैनोनिकल फीचर स्नैपशॉट्स (CFS):
MBE सेटिंग के भीतर, लेखक CFS पेश करते हैं, जो डिटेक्टरों का एक परिवार है जो कैनोनिकल लो-नॉइज़ स्तरों पर केवल एक बहुत कम संख्या में नेटिव इंटरनल एक्टिवेशन्स का उपयोग करके एक फ्रोजन डिफ्यूजन बैकबोन को प्रोब करता है।

तंत्र (Mechanism): पूर्ण डिनोइजिंग ट्रेजेक्टरीज या पुनर्निर्माण के बजाय, CFS एक दूषित इनपुट $x_\lambda = a(\lambda)x_0 + b(\lambda)\epsilon$ के एकल फॉरवर्ड पास के बाद विशिष्ट इंटरनल हुक्स (ब्लॉक आउटपुट्स) से "स्नैपशॉट्स" निकालता है।
आर्किटेक्चर: प्राथमिक ऑपरेटिंग पॉइंट, CFS(1×2), एक डीप एनकोडर हुक और एक लेट डिकोडर हुक का उपयोग करता है, जो एक एकल लो-नॉइज़ लेवल पर संचालित होता है। एक डिकोडर-ओनली वेरिएंट, CFSdec(1×1), का भी मूल्यांकन किया गया है।
स्कोरिंग: निकाले गए फीचर्स को पूल (चैनल-वाइज मीन और स्टैंडर्ड डेविएशन) किया जाता है और एक लाइटवेट, ID-ओनली डायगोनल महलानोबिस स्कोर का उपयोग करके स्कोर किया जाता है। यह विधि स्वयं प्रतिनिधित्व (representation) की गुणवत्ता को अलग करने के लिए उच्च-क्षमता वाले डाउनस्ट्रीम हेड्स से बचती है।

सैद्धांतिक ढांचा (Theoretical Framework)
लेखक यह समझाने के लिए कि स्पार्स इंटरनल प्रोबिंग क्यों प्रभावी है, एक लोकल डायग्नोस्टिक थ्योरी विकसित करते हैं। यह सिद्धांत तीन सिद्धांतों पर आधारित है:

कंडीशनल एनकोडर-डिकोडर कॉम्प्लीमेंटैरिटी: युग्मित एनकोडर-डिकोडर स्नैपशॉट्स की सेपरेशन पावर, डिकोडर के सेपरेशन और एनकोडर से प्राप्त एक नॉन-नेगेटिव रेसिड्यूल में विभाजित होती है। यह सुझाव देता है कि लेट डिकोडर सिग्नल का प्राथमिक स्रोत है, जबकि एनकोडर पूरक जानकारी प्रदान करता है।
डायगोनल-स्कोर सेपरेशन: पोल्ड रिप्रेजेंटेशन्स के स्थानीय गौसियन मॉडल के तहत, ऑरेकल डायगोनल स्कोर का इन-डिस्ट्रीब्यूशन (ID) डेटा के लिए माध्य 1 होता है और OOD डेटा के लिए $1 + \kappa/d$ होता है, जहाँ $\kappa$ डायगोनल नॉनसेंट्रलिटी पैरामीटर को दर्शाता है।
लो-नॉइज़ करप्शन स्टेबिलिटी: स्टोकेस्टिक करप्शन के कारण हुक्ड रिप्रेजेंटेशन का वेरिएंस $b(\lambda)^2$ के समानुपाती होता है। इसका तात्पर्य है कि लो-नॉइज़ (हाई SNR) स्तरों पर प्रोब करने से अस्थिरता कम होती है, जिससे सिग्नल अधिक मजबूत बनता है।

प्रमुख परिणाम (Key Results)
एक नियंत्रित CIFAR-स्केल बेंचमार्क (CIFAR-10, SVHN, और CelebA32 को ID सेट्स के रूप में उपयोग करते हुए) पर मूल्यांकित और ImageNet-स्केल चेकपॉइंट्स पर मान्य:

परफॉरमेंस बनाम कॉस्ट: MBE प्रोटोकॉल के तहत, CFS(1×2) एक-फॉरवर्ड विधियों में सबसे मजबूत प्रदर्शन करता है। यह सबसे मजबूत हार्मोनाइज्ड आउटपुट-स्पेस बेसलाइन्स (जैसे MSMA, DIFFPATH, GEPC) को काफी पीछे छोड़ देता है, जबकि प्रति इमेज लॉजिकल टेस्ट-टाइम कॉस्ट को 8-10 फॉरवर्ड पासेस से घटाकर मात्र 1 कर देता है।
- उदाहरण: EDM बैकबोन्स पर, CFS(1×2) औसत वर्स्ट-केस AUROC को 0.689 (MSMA) से बढ़ाकर 0.814 कर देता है।
सिग्नल कंसन्ट्रेशन: डिकोडर-ओनली वेरिएंट, CFSdec(1×1), पेयर्ड वेरिएंट के साथ अत्यधिक प्रतिस्पर्धी बना रहता है, जो यह दर्शाता है कि उपयोगी OOD सिग्नल का एक बड़ा हिस्सा एक एकल लेट डिकोडर स्नैपशॉट में केंद्रित है।
रोबस्टनेस: प्रदर्शन में सुधार विभिन्न स्रोत परिवारों (जैसे CIFAR-10 से CelebA32 चेकपॉइंट्स पर स्विच करना) और विभिन्न बैकबोन परिवारों (Improved-Diffusion और EDM) में बना रहता है।
डायग्नोस्टिक वैलिडेशन: एम्पिरिकल डायग्नोस्टिक्स (डायगोनल सेपरेशन $\hat{\kappa}$ और कंटेंट-टू-इन्स्टेबिलिटी रेश्यो $\hat{R}_h$ ) डाउनस्ट्रीम OOD परफॉरमेंस के साथ मजबूती से सह-संबंधित (correlate) होते हैं, जो स्थानीय सिद्धांत को मान्य करते हैं।

महत्व और दावे (Significance and Claims)
लेखक का दावा है कि CFS का बेहतर प्रदर्शन छिपे हुए कंप्यूटेशनल बजट या जटिल डाउनस्ट्रीम क्लासिफायर के कारण नहीं है, बल्कि इस कारण से है कि फ्रोजन बैकबोन को कहाँ प्रोब किया जाता है।

रिप्रेजेंटेशन-फर्स्ट: यह कार्य प्रमाण प्रदान करता है कि एक नियंत्रित, बैकबोन-इक्वेटेड प्रोटोकॉल के तहत, एक "रिप्रेजेंटेशन-फर्स्ट" रणनीति (आंतरिक अवस्थाओं को प्रोब करना) व्यापक आउटपुट-स्पेस सारांशों की तुलना में अधिक सूचनात्मक है।
सिग्नल कंसन्ट्रेशन: सापेक्ष-OOD ज्यामिति (relative-OOD geometry) का एक महत्वपूर्ण हिस्सा एक छोटी संख्या में स्पार्स, नेटिव इंटरनल स्टेट्स में केंद्रित है, विशेष रूप से लो-नॉइज़ स्तरों पर।
प्रोटोकॉल की आवश्यकता: लेखक इस बात पर जोर देते हैं कि डिफ्यूजन OOD में निष्पक्ष तुलना के लिए MBE प्रोटोकॉल आवश्यक है; MBE के बिना, चेकपॉइंट चयन और करप्शन एलाइनमेंट जैसे कन्फाउंडिंग फैक्टर्स के कारण डिटेक्टर प्रभावकारिता के संबंध में निष्कर्ष भ्रामक हो सकते हैं।

लेखक CFS को केवल एक नए स्कोरिंग फंक्शन के रूप में नहीं, बल्कि इस प्रमाण के रूप में प्रस्तुत करते हैं कि फ्रोजन डिफ्यूजन बैकबोन्स के न्यूनतम, स्पार्स प्रोबिंग से पूर्ण डिनोइजिंग या पुनर्निर्माण के ओवरहेड के बिना मजबूत OOD सिग्नल प्राप्त किए जा सकते हैं।

1. समस्या: सेब की तुलना संतरों से करना

2. बड़ी खोज: केक पकने का इंतज़ार न करें

3. "स्पार्स" (विरल) रहस्य

4. यह क्यों काम करता है (लोकल थ्योरी)

5. निचोड़ (The Bottom Line)

इसी तरह के और पेपर