← नवीनतम पेपर
💻 computer science

The Signal in the Noise: OOD Detection Through Goodness-of-Fit Testing in Factorised Latent Spaces

यह शोध पत्र सिग्नल इन द नॉइज़ (SITN) को प्रस्तुत करता है, जो एक नवीन आउट-ऑफ-डिस्ट्रीब्यूशन डिटेक्शन पद्धति है जो फैक्टरइज़्ड लेटेंट स्पेस में असामान्य नॉइज़ मैपिंग्स की पहचान करने के लिए कंटीन्यूअस नॉर्मलाइज़िंग फ्लोज़ के गुणों का लाभ उठाती है, जिससे बिना किसी OOD डेटा की आवश्यकता या महत्वपूर्ण कम्प्यूटेशनल लागत के, पारंपरिक लाइकलीहुड-आधारित संकेतकों की अविश्वसनीयता पर विजय प्राप्त की जा सकती है।

मूल लेखक: Philipp Bomatter, Jack Geary, Henry Gouk

प्रकाशित 2026-05-22
📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Philipp Bomatter, Jack Geary, Henry Gouk

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान रोबोट है जिसने वर्षों तक एक विशिष्ट प्रकार की कला, मान लीजिए इंप्रेशनिस्ट पेंटिंग (Impressionist paintings), का अध्ययन किया है। वह ठीक जानता है कि एक "सामान्य" इंप्रेशनिस्ट पेंटिंग कैसी दिखती है: उसके ब्रशस्ट्रोक, उसके रंग, और कैनवास पर प्रकाश कैसे पड़ता है।

अब, आप रोबोट को एक आधुनिक ग्राफिटी दीवार (modern graffiti wall) की तस्वीर दिखाते हैं। रोबोट को यह तय करना है: "क्या यह एक इंप्रेशनिस्ट पेंटिंग है (In-Distribution) या यह कुछ पूरी तरह से अलग है (Out-of-Distribution)?"

पुरानी समस्या: "आत्मविश्वासी गलती" (The "Confident Mistake")

लंबे समय तक, वैज्ञानिकों ने इस समस्या को हल करने के लिए रोबोट से "लाइकलीहुड स्कोर" (Likelihood Score) की गणना करने के लिए पूछने की कोशिश की। यह स्कोर इस सवाल का जवाब देता है: "इस बात की कितनी संभावना है कि यह छवि मेरे प्रशिक्षण (training) प्रक्रिया द्वारा बनाई गई है?"

समस्या यह है कि रोबically अक्सर धोखा खा जाता है।

  • यदि आप उसे एक साधारण, खाली सफेद कैनवास दिखाते हैं (जो तकनीकी रूप से रोबोट की नजर में एक इंप्रेशनिस्ट पेंटिंग है), तो वह इसे उच्च स्कोर दे सकता है क्योंकि यह "सरल" है और इसे समझाना आसान है।
  • यदि आप उसे एक जटिल, अराजक ग्राफिटी दीवार दिखाते हैं, तो वह कम स्कोर दे सकता है।
  • लेकिन यहाँ एक पेंच है: यदि आप उसे एक बिल्ली की तस्वीर दिखाते हैं (जो निश्चित रूप से एक इंप्रेशनिस्ट पेंटिंग नहीं है), तो रोबोट गलती से उसे खाली कैनवास की तुलना में उच्च स्कोर दे सकता है, क्योंकि बिल्ली में कुछ ऐसे दृश्य लक्षण (जैसे किनारे या रंग) होते हैं जो रोबोट के गणित के अनुसार "सरल" दिखते हैं।

रोबोट जटिलता (complexity) से भ्रमित हो जाता है। वह सोचता है, "यह सरल दिखता है, इसलिए यह असली होना चाहिए," भले ही वह नकली हो। इसे कॉम्प्लेक्सिटी बायस (Complexity Bias) कहा जाता है।

नया समाधान: "शोर में संकेत" (Signal in the Noise - SITN)

लेखक, फिलिप बोमैटर और एडिनबर्ग विश्वविद्यालय की उनकी टीम, इस समस्या के बारे में सोचने का एक नया तरीका प्रस्तावित करते हैं। वे एक विशेष प्रकार के AI का उपयोग करते हैं जिसे कंटीन्यूअस नॉर्मलाइजिंग फ्लो (Continuous Normalising Flow - CNF) कहा जाता है।

इस AI को एक जादुई अनुवादक (magic translator) के रूप में सोचें।

  1. प्रशिक्षण (The Training): AI वास्तविक इंप्रेशनिस्ट पेंटिंग्स को एक विशिष्ट प्रकार के "स्टैटिक नॉइज़" (static noise) (जैसे पुराने टीवी पर दिखने वाला शोर जब कोई सिग्नल न हो) में अनुवाद करना सीखता है। वह सीखता है कि हर वास्तविक पेंटिंग, चाहे वह कितनी भी जटिल क्यों न हो, इस विशिष्ट, यादृच्छिक (random) स्टैटिक पैटर्न में अनुवादित होनी चाहिए।
  2. विपरीत प्रक्रिया (The Reverse): क्योंकि यह अनुवाद गणितीय रूप से सटीक है, इसलिए AI इस स्टैटिक को वापस एक पेंटिंग में भी अनुवादित कर सकता है।

"गुडनेस-ऑफ-फिट" (Goodness-of-Fit) परीक्षण

यही उनके नए तरीके, SITN का चतुर हिस्सा है:

यह पूछने के बजाय कि, "यह पेंटिंग कितनी संभावित है?", वे पूछते हैं, "यदि मैं इस छवि को स्टैटिक में अनुवादित करता हूँ, तो क्या वह स्टैटिक असली टीवी स्टैटिक जैसा दिखता है?"

  • वास्तविक पेंटिंग (In-Distribution): जब AI इस पेंटिंग को वापस स्टैटिक में अनुवादित करता है, तो परिणाम एकदम सटीक, रैंडम टीवी स्टैटिक की तरह दिखता है। इसके पिक्सेल एक-दूसरे से स्वतंत्र होते हैं और यादृच्छिकता (randomness) के नियमों का पालन करते हैं।
  • नकली छवि (Out-of-Distribution): जब AI एक ग्राफिटी दीवार या बिल्ली को स्टैटिक में अनुवादित करने की कोशिश करता है, तो परिणाम अजीब होता है।
    • शायद स्टैटिक में एक अजीब पैटर्न (जैसे चेकरबोर्ड) हो जो वहां नहीं होना चाहिए।
    • शायद "शोर" बहुत अधिक चिकना या बहुत अधिक ऊबड़-खाबड़ हो।
    • शायद "स्टैटिक" यादृच्छिकता के नियमों में फिट नहीं बैठता।

लेखक इसे "शोर में संकेत" (Signal in the Noise) कहते हैं। भले ही छवि को शोर में बदल दिया गया हो, मूल नकली छवि की संरचना शोर में एक "संकेत" छोड़ देती है जो उसे पकड़ लेती है।

वे शोर की जांच कैसे करते हैं

लेखक यह देखने के लिए कि "शोर" वास्तविक है या नहीं, दो सरल परीक्षणों का उपयोग करते हैं:

  1. "आकार" का परीक्षण (The "Shape" Test): क्या शोर एक पूर्ण बेल कर्व (रैंडम शोर का मानक आकार) की तरह दिखता है? यदि शोर बहुत सपाट या बहुत नुकीला है, तो वह नकली है।
  2. "दोस्ती" का परीक्षण (The "Friendship" Test): वास्तविक रैंडम शोर में, एक पिक्सेल को अपने पड़ोसी की परवाह नहीं करनी चाहिए। वे पूरी तरह से अजनबी होते हैं। यदि शोर दिखाता है कि पिक्सेल "दोस्त" हैं (सह-संबंधित/correlated) या किसी पैटर्न का पालन कर रहे हैं, तो वह नकली है।

यदि शोर इन दोनों में से किसी भी परीक्षण में विफल रहता है, तो AI कहता है, "यह वास्तविक पेंटिंग नहीं है; यह Out-of-Distribution है।"

यह बेहतर क्यों है

लेखक दावा करते हैं कि यह विधि तीन मुख्य कारणों से श्रेष्ठ है:

  1. यह जटिलता को अनदेखा करती है: इसे इस बात से फर्क नहीं पड़ता कि छवि सरल है या जटिल। इसे केवल इस बात से मतलब है कि "शोर" सही दिखता है या नहीं। यह उस समस्या को ठीक करता है जहाँ पुराने तरीके सरल नकली छवियों से धोखा खा जाते थे।
  2. यह तेज़ है: इसे अतिरिक्त, धीमे गणनाओं को चलाने या निर्णय लेने के लिए दूसरे रोबोट को प्रशिक्षित करने की आवश्यकता नहीं है।
  3. यह सख्त है: यह गणितीय रूप से गारंटी दे सकता है कि यह वास्तविक चीजों को देखते समय बहुत अधिक बार "नकली" नहीं चिल्लाएगा। आप एक नियम सेट कर सकते हैं कि, "100 में से केवल 1 वास्तविक चीज़ को नकली घोषित करें," और यह उस नियम पर टिका रहेगा।

परिणाम

टीम ने मानक इमेज डेटासेट्स (जैसे CIFAR-10, जिसमें कारों, जानवरों या विमानों की छोटी तस्वीरें होती हैं) पर परीक्षण किया।

  • जब उन्होंने रोबोट को SV_HN (सड़क के नंबर) या CelebA (सेलिब्रिटी चेहरे) जैसी नकली चीजें दिखाईं, तो पुराने तरीकों (Likelihood, Typicality) ने भ्रम पैदा किया और अक्सर नकली चीजों को "असली" या असली चीजों को "नकली" बताया।
  • SITN ने लगातार नकली चीजों को सही ढंग से पहचाना।
  • उन्होंने कृत्रिम ग्लिच (जैसे धुंधलापन, बर्फ या मोशन ब्लर) वाली छवियों पर भी परीक्षण किया। SITX सबसे सुसंगत था, जबकि अन्य तरीके तब विफल हो गए जब ग्लिच ने "जटिलता" को बदल दिया।

एक छोटी सी खामी

लेखक एक छोटी सी कमजोरी के बारे में ईमानदार हैं। कभी-कभी, यदि किसी छवि में एक बड़ा, ठोस रंग का ब्लॉक (जैसे नीला आसमान) होता है, तो AI का अनुवादक उस ब्लॉक को "रैंडम स्टैटिक" में बदलने में संघर्ष करता है। यह एक हल्का पैटर्न पीछे छोड़ देता है। यह कभी-कभी सिस्टम को यह सोचने के लिए trick कर सकता है कि एक वास्तविक छवि नकली है। हालांकि, लेखक नोट करते हैं कि यह एक दुर्लभ मामला है और समग्र रूप से यह तरीका बहुत अच्छा काम करता है।

सारांश

संक्षेप में, यह पेपर SITN पेश करता है, एक ऐसा तरीका जो यह अनुमान लगाने की कोशिश करना बंद कर देता है कि कोई छवि "कितनी संभावित" है। इसके बजाय, यह छवि को "शोर" में अनुवादित करता है और फिर जांचता है कि क्या वह शोर वास्तविक, यादृच्छिक स्टैटिक जैसा दिखता है। यदि शोर में एक छिपा हुआ पैटर्न (संकेत) है, तो छवि नकली है। यह AI के ढोंग को पकड़ने का एक स्मार्ट, तेज़ और अधिक विश्वसनीय तरीका है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 💻 cs →