Beyond Model Design: Data-Centric Training and Self-Ensemble for Gaussian Color Image Denoising

यहाँ "Beyond Model Design: Data-Centric Training and Self-Ensemble for Gaussian Color Image Denoising" शोध पत्र का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या की परिभाषा

यह शोध पत्र NTIRE 2026 इमेज डिनोइजिंग चुनौती को संबोधित करता है, जो विशेष रूप से $\sigma = 50$ के निश्चित शोर स्तर (noise level) पर गाऊसी रंगीन छवि (Gaussian color image) डिनोइजिंग पर केंद्रित है।

• लक्ष्य: एक शोर युक्त अवलोकन $x$ से एक स्वच्छ छवि $y$ को पुनर्स्थापित करना, जहाँ क्षरण (degradation) $x = y + n$ और $n \sim \mathcal{N}(0, \sigma^2I)$ का अनुसरण करता है।
• संदर्भ: जबकि डीप लर्निंग ने इस कार्य के लिए परिपक्व आर्किटेक्चर (जैसे DnCNN, SwinIR, Restormer) स्थापित कर दिए हैं, लेखक यह परिकल्पना करते हैं कि शेष प्रदर्शन अंतराल (performance gap) आर्किटेक्चरल सीमाओं के कारण नहीं, बल्कि प्रशिक्षण संग्रह (training corpus) में उपलब्ध सांख्यिकीय पूर्वग्रहों (statistical priors) और अनुमान रणनीति (inference strategy) की दक्षता के कारण है।

2. कार्यप्रणाली (Methodology)

लेखक एक ऐसा समाधान प्रस्तावित करते हैं जो मूल मॉडल आर्किटेक्चर को संशोधित नहीं करता है। इसके बजाय, वे दो पूरक रणनीतियों के माध्यम से मौजूदा Restormer बैकबोन की क्षमता को अधिकतम करते हैं: डेटा-केंद्रित प्रशिक्षण (Data-Centric Training) और टेस्ट-टाइम एन्हांसमेंट (Test-Time Enhancement)।

A. बैकबोन आर्किटेक्चर

• मॉडल: Restormer [63], जो मल्टी-DConv हेड ट्रांसपोज़्ड अटेंशन और गेटेड कनवोल्यूशनल फीड-फॉरवर्ड ब्लॉक्स का उपयोग करने वाला एक पदानुक्रमित (hierarchical) एनकोडर-डिकोडर ट्रांसफॉर्मर है।
• रणनीति: आर्किटेक्चर का उपयोग बिना किसी संरचनात्मक परिवर्तन के ठीक वैसे ही किया गया है जैसा कि प्रकाशित किया गया था। पूरा ध्यान प्रशिक्षण विधि और इन्फरेंस रैपर (inference wrapper) पर है।

B. डेटा-केंद्रित प्रशिक्षण (दो-चरणीय अनुकूलन)

लेखक मॉडल में मजबूत सांख्यिकीय पूर्वग्रहों को इंजेक्ट करने के लिए मानक प्रशिक्षण विधि का विस्तार करते हैं।

• संग्रह विस्तार (Corpus Expansion): मानक 4-डेटासेट मिश्रण (DIV2K, Flickr2K, BSD500, WED) के बजाय, प्रशिक्षण पूल को 7 स्रोतों तक विस्तारित किया गया है जिसमें 143,679 छवियां शामिल हैं:
  • आधार (Base): DIV2K, Flickr2K, OST, LSDIR।
  • विस्तारित (Expanded): LIU4K-v2, NKUSR8K (DiT4SR प्रोजेक्ट से), और DIV8K।
  • प्रीप्रोसेसिंग: समृद्ध बनावट सांख्यिकी (texture statistics) को बनाए रखते हुए वितरण को प्रबंधित करने के लिए अल्ट्रा-हाई-रिज़ॉल्यूशन छवियों को ~2K सब-इमेज में क्रॉप किया गया है।
• दो-चरणीय प्रशिक्षण अनुसूची (Two-Stage Training Schedule):
  • चरण I: आधार विस्तारित संग्रह (DIV2K, Flickr2K, OST, LSDIR) पर फाइन-ट्यूनिंग करना ताकि एक स्थिर बहाली पूर्वग्रह (restoration prior) स्थापित किया जा सके।
    • हाइपरपैरामीटर्स: AdamW ऑप्टिमाइज़र, MSE लॉस, LR $1\times10^{-4}$, बैच साइज 4 $\to$ 2 $\to$ 1।
  • चरण II: शेष विविध डेटासेट्स (LIU4K-v2, NKUSR8K, DIV8K) को पेश करते हुए और अधिक फाइन-ट्यूनिंग करना ताकि सामान्यीकरण (generalization) को व्यापक बनाया जा सके।
    • हाइपरपैरामीटर्स: LR घटाकर $1\times10^{-5}$ किया गया, बैच साइज 4।
  • आरंभीकरण (Initialization): प्रशिक्षण रैंडम इनिशियलाइजेशन के बजाय सार्वजनिक Restormer $\sigma=50$ प्री-ट्रेंड वेट्स से शुरू होता है।

C. टेस्ट-टाइम एन्हांसमेंट

• ज्यामितीय स्व-एन्सेम्बल (Geometric Self-Ensemble) ($\times8$): मॉडल मूल छवि और 7 ज्यामितीय रूपांतरणों (फ्लिप्स और ट्रांसपोज़) पर अनुमान लगाता है जो डायहेड्रल ग्रुप $D_4$ का प्रतिनिधित्व करते हैं। अंतिम भविष्यवाणी इन व्युत्क्रम-परिवर्तित (inverse-transformed) आउटपुट का औसत है।
  • सूत्र: $\hat{y} = \frac{1}{8} \sum_{k=1}^{8} T_k^{-1}(f_\theta(T_k(x)))$।
  • ट्रेड-ऑफ: यह अनुमान समय को $\approx 8\times$ बढ़ा देता है लेकिन स्थिरता और सटीकता में सुधार करता है।
• TLC-शैली का रैपर: कार्यान्वयन निरंतरता के लिए एक स्थानीय अनुमान रैपर (TLC [21] से) को बरकरार रखा गया है। हालांकि, एब्लेशन अध्ययन से पता चलता है कि इस विशिष्ट सेटिंग में इसका मात्रात्मक योगदान नगण्य (negligible) है।

3. मुख्य योगदान

1. आर्किटेक्चर परिवर्तनों के बिना प्रदर्शन: यह प्रदर्शित करता है कि एक परिपक्व Restormer-आधारित डिनोइज़र को केवल संग्रह विस्तार और दो-चरणीय प्रशिक्षण अनुसूची के माध्यम से काफी बेहतर बनाया जा सकता है (PSNR में 3.366 dB की वृद्धि), बिना बैकबोन को बदले।
2. लाभों का व्यवस्थित परिमाणीकरण: यह एक कठोर एब्लेशन अध्ययन प्रदान करता है जो निम्नलिखित के योगदान को अलग करता है:
   • मजबूत प्रशिक्षण चेकपॉइंट्स (प्रमुख कारक)।
   • ज्यामितीय स्व-एन्सेम्बल (छोटा लेकिन निरंतर बढ़ावा)।
   • TLC-शैली का रैपर (नगण्य प्रभाव)।
3. प्रतिस्पर्धी सत्यापन: इस पद्धति ने NTIRE 2026 लीडरबोर्ड पर दूसरा स्थान प्राप्त किया (टीम: wedream), जो डेटा-केंद्रित दृष्टिकोण की प्रभावशीलता को प्रमाणित करता है।

4. प्रयोगात्मक परिणाम

मूल्यांकन एक एकीकृत 100-छवि सत्यापन सेट पर किया गया था।

• अंतिम प्रदर्शन:
  • PSNR: 30.762 dB
  • SSIM: 0.861
  • अनुमान समय (Inference Time): ~8815 ms ($\times8$ एन्सेम्बल के साथ)
  • पीक मेमोरी: ~36,956 MB
• बेसलाइन के साथ तुलना:
  • सार्वजनिक Restormer $\sigma=50$ प्री-ट्रेंड बेसलाइन की तुलना में, प्रस्तावित विधि ने (एन्सेम्बल के साथ) +3.366 dB PSNR और +0.0737 SSIM की वृद्धि हासिल की।
• एब्लेशन अंतर्दृष्टि (Ablation Insights):
  • प्रशिक्षण बनाम अनुमान: अधिकांश लाभ विस्तारित संग्रह और दो-चरणीय प्रशिक्षण से प्राप्त मजबूत चेकपॉइंट से आता है।
  • स्व-एन्सेम्बल (Self-Ensemble): ~0.027 dB PSNR और 0.0004 SSIM का छोटा लेकिन स्थिर लाभ प्रदान करता है।
  • TLC रैपर: इस विशिष्ट गाऊसी डिनोइजिंग कार्य में कोई मापने योग्य मात्रात्मक योगदान नहीं दिखाता है।
  • चेकपॉइंट विकास: मॉडल अंतिम चरण समाप्त होने से पहले मजबूती से अभिसरित (converge) हो जाता है, जिसमें मध्यवर्ती चेकपॉइंट (200k iterations) और अंतिम मॉडल के बीच केवल मामूली लाभ (0.0042 dB) है।

5. महत्व और निष्कर्ष

यह शोध पत्र लगातार नए, जटिल बहाली बैकबोन डिजाइन करने के प्रचलित रुझान को चुनौती देता है। यह तर्क देता है कि फिक्स्ड नॉइज़ लेवल पर गाऊसी डिनोइजिंग जैसे परिपक्व कार्यों के लिए:

• डेटा ही सर्वोपरि है (Data is King): प्रशिक्षण संग्रह की विविधता और पैमाने को बढ़ाने से आर्किटेक्चरल बदलावों की तुलना में कहीं अधिक लाभ मिलता है।
• अनुकूलन (Optimization) महत्वपूर्ण है: एक संरचित, दो-चरणीय प्रशिक्षण अनुसूची मॉडल को विविध डेटासेट्स के सांख्यिकीय पूर्वग्रहों को बेहतर ढंग से आत्मसात करने की अनुमति देती है।
• ईमानदार इंजीनियरिंग (Honest Engineering): अनुमान रैपर्स और एन्सेम्बल्स के प्रभावों को अलग करके, लेखक स्पष्ट करते हैं कि "इंजीनियरिंग ट्रिक्स" (जैसे TLC रैपर) अक्सर बिना किसी मूल्य के पाइपलाइनों में बने रहते हैं, जबकि मजबूत प्रशिक्षण डेटा ही वास्तविक प्रदर्शन चालक (driver) है।

यह कार्य डेटा-केंद्रित AI के लिए एक मजबूत बेंचमार्क के रूप में कार्य करता है, जो यह सिद्ध करता है कि कठोर डेटा इंजीनियरिंग के माध्यम से मौजूदा SOTA आर्किटेक्चर की उपयोगिता को अधिकतम करना अभी भी अत्याधुनिक परिणाम दे सकता है।