⚡ electrical engineering

Preventing Overfitting in Deep Image Prior for Hyperspectral Image Denoising

यह शोध पत्र स्मूथ $\ell_1$ डेटा फिडेलिटी टर्म को डाइवर्जेंस-आधारित रेगुलराइजेशन और इनपुट ऑप्टिमाइज़ेशन के साथ संयुक्त रूप से संयोजित करके डीप इमेज प्रायर-आधारित हाइपरस्पेक्ट्रल इमेज डिनोइजिंग में ओवरफिटिंग को कम करने के लिए एक विधि प्रस्तावित करता है, जो अत्याधुनिक दृष्टिकोणों की तुलना में वास्तविक शोरयुक्त छवियों पर बेहतर प्रदर्शन प्राप्त करता है।

मूल लेखक: Panagiotis Gkotsis, Athanasios A. Rontogiannis

प्रकाशित 2026-04-10

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Panagiotis Gkotsis, Athanasios A. Rontogiannis

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक सुंदर, उच्च-रिज़ॉल्यूशन वाली लैंडस्केप फोटोग्राफ है, लेकिन इसे तीन अलग-अलग प्रकार की गंदगी से खराब कर दिया गया है: एक धुंधली धुंध (गौसियन नॉइज़/Gaussian noise), स्याही के बिखरे हुए धब्बे (स्पार्स नॉइज़/sparse noise), और खिड़की पर बारिश की तरह दिखने वाली लंबवत धारियां (स्ट्राइप नॉज़/stripe noise)। आपका लक्ष्य उन पेड़ों, इमारतों या पहाड़ों के विवरण को खोए बिना इस फोटो को साफ करना है।

यह पेपर एक स्मार्ट, AI-संचालित तरीके के बारे में है, जो विशेष रूप से हाइपरस्पेक्ट्रल इमेजेस (Hyperspectral Images) (जो सामान्य तीन रंगों के बजाय सैकड़ों रंगों को देख सकते हैं) को साफ करने के लिए है। लेखक एक पेचीदा समस्या का समाधान कर रहे हैं: AI को यह कैसे सिखाया जाए कि वह फोटो को साफ करे बिना गलती से उस गंदगी को ही सीख न ले?

सरल उपमाओं (analogies) का उपयोग करके इसका विवरण यहाँ दिया गया है:

1. समस्या: "अति-उत्साही" छात्र

शोधकर्ता एक तकनीक का उपयोग कर रहे हैं जिसे डीप इमेज प्रायर (Deep Image Prior - DIP) कहा जाता है। इस AI नेटवर्क को एक बहुत ही प्रतिभाशाली लेकिन नासमझ कला छात्र के रूप में सोचें।

सेटअप: आप छात्र को एक गंदी फोटो देते हैं और कहते हैं, "इस जैसी दिखने वाली एक तस्वीर बनाओ।"
जाल: शुरुआत में, छात्र मुख्य आकृतियाँ (साफ छवि) बनाता है। लेकिन यदि आप उन्हें बहुत लंबे समय तक बनाने के लिए कहते रहते हैं, तो वे बहुत कुशल होने लगते हैं। वे स्याही के धब्बों और बारिश की धारियों को भी याद करने लगते हैं, यह सोचकर कि वे कला का हिस्सा हैं।
परिणाम: यदि आप उन्हें बहुत देर से रोक देते हैं, तो अंतिम ड्राइंग साफ फोटो के बजाय गंदी फोटो जैसी दिखने लगती है। इसे ओवरफिटिंग (Overfitting) कहा जाता है। आमतौर पर, आपको अनुमान लगाना पड़ता है कि उन्हें ठीक कब रोकना है (जिसे "अर्ली स्टॉपिंग" कहा जाता है), जो कि आँखें बंद करके गिरते हुए अंडे को पकड़ने की कोशिश करने जैसा है।

2. पुराने समाधान: एक उपकरण हर जगह फिट नहीं बैठता

इस पेपर से पहले, वैज्ञानिकों ने छात्र को गंदगी को याद करने से रोकने के लिए दो मुख्य तरीके आजमाए थे:

विधि A (एक "कोमल" दृष्टिकोण): उन्होंने एक कोमल नियम का उपयोग किया जो कहता है, "छोटी गलतियों की ज्यादा चिंता न करें।" यह धुंध (foggy haze) के लिए बहुत अच्छा काम करता है, लेकिन यदि वहां स्याही के तीखे धब्बे हैं, तो छात्र उन्हें अनदेखा कर देता है और उन्हें चित्र में छोड़ देता है।
विधि B (एक "सख्त" दृष्टिकोण): उन्होंने एक नियम का उपयोग किया जो कहता है, "बहुत छोटे बदलावों के प्रति बहुत संवेदनशील न हों।" यह छात्र को धुंध को याद करने से रोकता है, लेकिन यदि वहां स्याही के तीखे धब्बे हैं, तो छात्र भ्रमित हो जाता है और साफ हिस्सों को खराब कर देता है।

जब फोटो में इन सभी अलग-अलग प्रकार की गंदगी का मिश्रण होता है, तो कोई भी विधि पूरी तरह से काम नहीं करती थी।

3. नया समाधान: "तीन पैरों वाला स्टूल"

लेखक एक नया, एकीकृत तरीका प्रस्तावित करते हैं जो तीन चीजों को जोड़कर एक आदर्श सफाई प्रणाली बनाता है। एक ऐसे स्टूल की कल्पना करें जो डगमगाएगा नहीं क्योंकि इसमें तीन मजबूत पैर हैं:

पैर 1: "स्मार्ट फ़िल्टर" (रोबस्ट डेटा फिडेलिटी/Robust Data Fidelity)
केवल "फोटो से सटीक रूप से मेल खाने" के बजाय, AI एक स्मूथ ℓ1 (Smooth ℓ1) नियम का उपयोग करता है।
- उपमा: इसे एक फिल्टर के रूप में सोचें जो कहता है, "यदि कोई धब्बा थोड़ा सा अलग है, तो वह शायद केवल शोर (noise) है, उसे अनदेखा करें। लेकिन यदि यह एक बड़ा, स्पष्ट धब्बा है, तो उसे ठीक करें।" यह धुंध के कारण भ्रमित हुए बिना स्याही के धब्बों और धारियों को अच्छी तरह से संभालता है।
पैर 2: "संवेदनशीलता जांच" (डाइवर्जेंस रेगुलराइजेशन/Divergence Regularization)
यह एक विशेष गणितीय ट्रिक (जो SURE नामक चीज़ पर आधारित है) है जो एक तनाव परीक्षण (stress test) की तरह काम करती है।
- उपमा: कल्पना कीजिए कि छात्र चित्र बना रहा है। हर कुछ सेकंड में, शिक्षक फुसफुसाता है, "क्या होगा अगर मैंने इस पिक्सेल को बस थोड़ा सा हिला दिया? क्या आपका चित्र बहुत अधिक बदल जाएगा?" यदि छात्र का चित्र बहुत अधिक बदल जाता है, तो इसका मतलब है कि वह शोर (noise) को याद कर रहा है। शिक्षक उसे अधिक स्थिर होने के लिए मजबूर करता है। यह उसे धुंध को याद करने से रोकता है।
पैर 3: "गतिशील कैनवास" (जॉइंट इनपुट ऑप्टिमाइजेशन/Joint Input Optimization)
यही असली जादू है। आमतौर पर, छात्र को कॉपी करने के लिए एक निश्चित गंदी फोटो दी जाती है। यहाँ, AI को चित्र बनाते समय गंदी फोटो में खुद बदलाव करने की अनुमति है।
- उपमा: केवल एक गंदे कैनवास को कॉपी करने के बजाय, छात्र को पेंटिंग करते समय कैनवास को धीरे से पोंछने की अनुमति है। यह उन्हें शोर के नीचे छिपी "असली" साफ छवि को खोजने के लिए अधिक स्वतंत्रता देता है।

4. यह संयोजन क्यों जादुई है

पेपर दिखाता है कि इन तीन पैरों को एक साथ काम करने की आवश्यकता है।

यदि आपके पास केवल "स्मार्ट फ़िल्टर" है, तो छात्र अंततः शोर को याद कर लेगा।
यदि आपके पास केवल "संवेदनशीलता जांच" है, तो छात्र स्याही के धब्बों से भ्रमित हो जाएगा।
लेकिन जब आप उन्हें मिलाते हैं: "संवेदनशीलता जांच" एक सुरक्षा जाल के रूप में कार्य करती है। यह "गतिशील कैनवास" को स्थिर करती है ताकि छात्र पागल न हो जाए। यह AI को बताता है, "आप छवि को बदल सकते हैं, लेकिन शोर को याद न करें।"

परिणाम

लेखकों ने वाशिंगटन डी.सी. और सैलिनास जैसे स्थानों की वास्तविक सैटेलाइट और हवाई छवियों पर इसका परीक्षण किया।

प्रतियोगिता: अन्य विधियों ने या तो छवि में धारियाँ छोड़ दीं या जल्दी रुक जाने के कारण धुंधली हो गईं।
विजेता: नया तरीका धुंध को साफ करने, स्याही के धब्बों को हटाने और बारिश की धारियों को मिटाने में पूरी तरह सफल रहा।
सबसे अच्छी बात: AI को जल्दी रोकने की आवश्यकता नहीं थी। यह काम पूरा होने तक काम करना जारी रख सकता था, और फिर भी यह एक आदर्श छवि प्रदान करेगा क्योंकि "संवेदनशीलता जांच" ने इसे शोर को कभी भी याद करने से रोका।

संक्षेप में: लेखकों ने एक स्मार्ट AI कलाकार बनाया जो जानता है कि एक गंदी तस्वीर को कैसे साफ किया जाए, बिना गलती से अंतिम कैनवास पर उस गंदगी को चित्रित किए, भले ही वह गंदगी विभिन्न प्रकार की विविध गंदगी का एक जटिल मिश्रण क्यों न हो।

यहाँ शोध पत्र "Preventing Overfitting in Deep Image Prior for Hyperspectral Image Denoising" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

हाइपरस्पेक्ट्रल इमेज (HSI) डिनोइजिंग: HSI में समृद्ध स्थानिक-स्पेक्ट्रल (spatial-spectral) जानकारी होती है, लेकिन ये अक्सर विभिन्न प्रकार के शोर (noise) से प्रभावित होते हैं, जिनमें गॉसियन शोर (Gaussian noise), स्पार्स शोर (sparse noise/impulses), और स्ट्राइप शोर (stripe noise/sensor artifacts) शामिल हैं। पर्यावरणीय निगरानी और सटीक कृषि जैसे अनुप्रयोगों के लिए प्रभावी डिनोइजिंग एक महत्वपूर्ण प्री-प्रोसेसिंग चरण है।

डीप इमेज प्रायर (DIP) में ओवरफिटिंग की चुनौती:

संदर्भ: डीप इमेज प्रायर (DIP) एक अनसुपरवाइज्ड (unsupervised) पद्धति है जो एक एकल दूषित छवि (corrupted image) पर प्रशिक्षित एक रैंडमली इनिशियलाइज्ड कन्वल्यूशनल न्यूरल नेटवर्क (CNN) का उपयोग करके स्वच्छ संस्करण को पुनर्गठित करती है। यह शोर को फिट करने से पहले प्राकृतिक छवि संरचनाओं को कैप्चर करने के लिए CNN आर्किटेक्चर के 'इम्प्लिसिट बायस' (implicit bias) पर निर्भर करता है।
समस्या: DIP-आधारित विधियाँ स्वाभाविक रूप से ओवरफिटिंग (overfitting) के प्रति संवेदनशील होती हैं। जैसे-जैसे प्रशिक्षण इटरेशन (iterations) बढ़ते हैं, नेटवर्क अंततः शोर को याद (memorize) कर लेता है, जिससे पुनर्निर्माण (reconstruction) की गुणवत्ता खराब हो जाती है।
वर्तमान सीमाएँ:
- अर्ली स्टॉपिंग (Early Stopping): मानक DIP को शोर के याद होने से पहले प्रशिक्षण रोकने के लिए सावधानीपूर्वक "अर्ली स्टॉपिंग" की आवश्यकता होती है। हालाँकि, इष्टतम स्टॉपिंग पॉइंट अज्ञात होता है और विभिन्न कार्यों के लिए बदलता रहता है।
- मौजूदा समाधानों के बीच ट्रेड-ऑफ (Trade-offs):
  - SURE-आधारित विधियाँ (जैसे SURE-DHIP): ये संवेदनशीलता को दंडित करने के लिए $\ell_2$ लॉस के साथ स्टीन के अनबायस्ड रिस्क एस्टिमेटर (Stein's Unbiased Risk Estimator) का उपयोग करती हैं। वे गॉसियन शोर के लिए अच्छी तरह काम करती हैं, लेकिन HSI में सामान्य स्पार्स या हेवी-टेल्ड शोर के मामले में विफल हो जाती हैं।
  - रोबस्ट लॉस विधियाँ (जैसे HLF-DHIP): ये स्पार्स शोर को संभालने के लिए $\ell_1$ -प्रकार के लॉस का उपयोग करती हैं। हालांकि ये आउटलेर्स के प्रति रोबस्ट हैं, लेकिन ये स्वाभाविक रूप से ओवरफिटिंग को नहीं रोकती हैं और इन्हें अभी भी अर्ली स्टॉपिंग की आवश्यकता होती है।
- असंगति (Incompatibility): रोबस्ट लॉस (जो ऑप्टिमाइजेशन ज्योमेट्री को बदल देते हैं) को डाइवर्जेंस-आधारित रेगुलराइजेशन (जो आमतौर पर $\ell_2$ के तहत अध्ययन किया जाता है) के साथ जोड़ना गैर-तुच्छ (non-trivial) है। इसके अलावा, नेटवर्क इनपुट को ऑप्टिमाइज़ करना (जो कन्वर्जेंस में सुधार करने की एक तकनीक है) यदि ठीक से रेगुलराइज न किया जाए, तो ओवरफिटिंग को बढ़ा सकता है।

2. कार्यप्रणाली (Methodology)

लेखक एक एकीकृत ढांचे (unified framework) का प्रस्ताव करते हैं जो रोबस्ट डेटा फिडेलिटी (robust data fidelity), स्पष्ट संवेदनशीलता रेगुलराइजेशन (explicit sensitivity regularization), और संयुक्त इनपुट ऑप्टिमाइजेशन (joint input optimization) को संयुक्त रूप से जोड़ता है।

A. मुख्य घटक (Core Components)

रोबस्ट डेटा फिडेलिटी (Smooth $\ell_1$ Loss):
- मानक $\ell_2$ लॉस के बजाय, लेखक स्मूथ $\ell_1$ लॉस (Moreau envelope of the $\ell_1$ norm) का उपयोग करते हैं।
- कार्य: यह छोटे एरर के लिए $\ell_2$ की तरह व्यवहार करता है (स्थिर ऑप्टिमाइजेशन सुनिश्चित करने के लिए) और बड़े एरर के लिए $\ell_1$ की तरह व्यवहार करता है (स्पार्स और हेवी-टेल्ड शोर के विरुद्ध मजबूती प्रदान करने के लिए)।
- सूत्र (Formula):
  $L_{Smooth-\ell_1}(x, y; \beta) = \begin{cases} \frac{1}{2\beta}(x-y)^2 & |x-y| \le \beta \\ |x-y| - \frac{\beta}{2} & |x-y| > \beta \end{cases}$
संवेदनशीलता रेगुलराइजेशन (Divergence Term):
- स्टीन के अनबायस्ड रिस्क एस्टिमेटर (SURE) पर आधारित, एक डाइवर्जेंस टर्म जोड़ा गया है जो इनपुट पर अनुमानक (estimator) की संवेदनशीलता को दंडित करता है।
- कार्य: यह एस्टिमेटर के प्रभावी डिग्री ऑफ फ्रीडम (degrees of freedom) पर एक रेगुलराइज़र के रूप में कार्य करता है, जिससे नेटवर्क को सूक्ष्म-स्तर के शोर को फिट करने से रोका जा सके।
- अनुमान (Approximation): चूंकि डीप नेटवर्क के लिए सटीक डाइवर्जेंस गणना अव्यावहारिक है, इसलिए एक मोंटे कार्लो एप्रोक्सिमेशन (Monte Carlo approximation) का उपयोग किया जाता है:
  $\text{div}_z(f_\theta(z)) \approx b^T \left( \frac{f_\theta(z + \epsilon b) - f_\theta(z)}{\epsilon} \right)$
  जहाँ $b$ एक रैंडम गॉसियन वेक्टर है।
संयुक्त इनपुट ऑप्टिमाइजेशन (Joint Input Optimization):
- मानक DIP के विपरीत, जहाँ इनपुट स्थिर होता है (अक्सर शोर वाली छवि या रैंडम नॉइज़), प्रस्तावित विधि नेटवर्क पैरामीटर्स $\theta$ के साथ-साथ नेटवर्क इनपुट $z$ को ऑप्टिमाइज़ करती है।
- तर्क: संयुक्त ऑप्टिमाइजेशन कन्वर्जेंस और पुनर्निर्माण की गुणवत्ता में सुधार करता है, लेकिन यह ओवरफिटिंग का जोखिम भी बढ़ाता है (शोर को वेट्स और इनपुट दोनों में एनकोड किया जा सकता है)। डाइवर्जेंस टर्म इस विस्तारित ऑप्टिमाइजेशन स्पेस को स्थिर करने के लिए महत्वपूर्ण है।

B. एकीकृत लॉस फंक्शन (The Unified Loss Function)

कुल लॉस फंक्शन रोबस्ट डेटा टर्म और डाइवर्जेंस रेगुलराइजेशन को जोड़ता है:
$L(\theta, z) = L_{Smooth-\ell_1}(f_\theta(z), y) + \frac{2\sigma^2}{n} \text{div}_z(f_\theta(z))$
जहाँ:

$f_\theta(z)$ नेटवर्क आउटपुट है।
$y$ शोर वाली ऑब्जर्वेशन है।
$\sigma^2$ अनुमानित शोर वेरिएंस (वेवलेट ट्रांसफॉर्म मीडियन एब्सोल्यूट डेविएशन के माध्यम से गणना किया गया) है।
डाइवर्जेंस टर्म इस संदर्भ में एक डायरेक्ट रिस्क एस्टिमेटर के बजाय एक संवेदनशीलता बाधा (sensitivity constraint) के रूप में कार्य करता है।

3. प्रमुख योगदान (Key Contributions)

नया लॉस फॉर्मूलेशन: यह पेपर एक एकीकृत लॉस पेश करता है जो स्मूथ $\ell_1$ डेटा फिडेलिटी (मिश्रित शोर के लिए मजबूती हेतु) को डाइवर्जेंस-आधारित रेगुलराइजेशन (ओवरफिटिंग शमन हेतु) के साथ सफलतापूर्वक जोड़ता है।
तकनीकों का तालमेल (Synergy of Techniques): यह प्रदर्शित करता है कि डाइवर्जेंस रेगुलराइजेशन संयुक्त इनपुट ऑप्टिमाइजेशन के साथ उपयोग किए जाने पर सबसे प्रभावी होता है। रेगुलराइजेशन विस्तारित सर्च स्पेस को स्थिर करता है, जिससे नेटवर्क को पैरामीटर्स या इनपुट रिप्रेजेंटेशन के माध्यम से शोर को याद करने से रोका जा सके।
अर्ली स्टॉपिंग का उन्मूलन: यह विधि बिना किसी मैन्युअल अर्ली स्टॉपिंग की आवश्यकता के स्थिर कन्वर्जेंस प्राप्त करती है, जो पिछले DIP-आधारित दृष्टिकोणों की एक बड़ी सीमा है।
मिश्रित शोर के प्रति मजबूती: इस दृष्टिकोण को गॉसियन, स्पार्स और स्ट्राइप शोर, साथ ही उनके संयोजन के लिए प्रभावी ढंग से काम करने के लिए मान्य किया गया है, जो उन विधियों से बेहतर प्रदर्शन करता है जो केवल एक प्रकार के शोर में विशेषज्ञ हैं।

4. प्रयोगात्मक परिणाम (Experimental Results)

विधि का मूल्यांकन चार शोर परिदृश्यों के तहत वास्तविक HSI डेटासेट (Washington DC Mall और Salinas) पर किया गया:

गॉसियन शोर (SNR 5dB)।
गॉसियन + स्पार्स शोर (5% पिक्सेल)।
गॉसियन + स्ट्राइप शोर (50 बैंड्स)।
मिश्रित गॉसियन + स्पार्स + स्ट्राइप शोर।

तुलना (Comparisons):

बेसलाइन्स: SURE-DHIP (केवल डाइवर्जेंस, $\ell_2$ लॉस) और HLF-DHIP ( $\ell_1$ स्मूथ लॉस, कोई डाइवर्जेंस नहीं) के विरुद्ध तुलना की गई।
मेट्रिक्स: मीन पीक सिग्नल-टू-नॉइज़ रेशियो (MPSNR) और मीन स्ट्रक्चरल सिमिलैरिटी इंडेक्स (MSSIM)।

निष्कर्ष:

प्रदर्शन: प्रस्तावित विधि ने सभी शोर प्रकारों और डेटासेट्स में लगातार बेहतर MPSNR और MSSIM प्राप्त किया।
ओवरफिटिंग व्यवहार:
- SURE-DHIP: गॉसियन शोर पर अच्छा प्रदर्शन किया लेकिन स्पार्स/स्ट्राइप शोर के साथ काफी खराब हो गया।
- HLF-DHIP: स्पार्स शोर के प्रति मजबूत था लेकिन इसमें स्पष्ट ओवरफिटिंग देखी गई (एक निश्चित इटरेशन के बाद प्रदर्शन में गिरावट)।
- प्रस्तावित विधि: 4000 इटरेशन के दौरान बिना किसी गिरावट के स्थिर कन्वर्जेंस और उच्च प्रदर्शन बनाए रखती है।
दृश्य गुणवत्ता (Visual Quality): गुणात्मक परिणामों ने बेसलाइन्स की तुलना में कम आर्टिफैक्ट्स और बेहतर स्पेक्ट्रल विवरणों के साथ स्वच्छ पुनर्निर्माण दिखाया।
दक्षता (Efficiency): रनिंग टाइम बेसलाइन्स के समान था, लेकिन प्रस्तावित विधि प्रदर्शन हानि के बिना "सेफ अर्ली टर्मिनेशन" (या कन्वर्जेंस तक चलाने) की अनुमति देती है।

5. महत्व (Significance)

यह कार्य इनवर्स प्रॉब्लम्स के लिए अनसुपरवाइज्ड डीप लर्निंग की एक मौलिक बाधा को संबोधित करता है: शोर के प्रकारों के प्रति मजबूती और ओवरफिटिंग को रोकने के बीच का ट्रेड-ऑफ।

सैद्धांतिक अंतर्दृष्टि: यह स्पष्ट करता है कि आउटलेर्स के प्रति मजबूती (via $\ell_1$ ) और ओवरफिटिंग के प्रति मजबूती (via divergence) दो अलग-अलग गुण हैं जिन्हें एक साथ इंजीनियर किया जाना चाहिए।
व्यावहारिक प्रभाव: अर्ली-स्टॉपिंग की निर्भरता को हटाकर, यह विधि DIP-आधारित HSI डिनोइजिंग को अधिक विश्वसनीय और लागू करने में आसान बनाती है, जहाँ ग्राउंड ट्रुथ उपलब्ध नहीं है और शोर की विशेषताएं अज्ञात हैं।
सामान्यीकरण (Generalizability): संयुक्त ऑप्टिमाइजेशन के तहत रोबस्ट डेटा टर्म्स को संवेदनशीलता रेगुलराइजेशन के साथ जोड़ने की रणनीति HSI डिनोइजिंग से परे अन्य अनसुपरवाइज्ड इमेज रेस्टोरेशन कार्यों के लिए भी लागू हो सकती है।