Noise Scheduling as Information-Guided Allocation in Diffusion Training

तकनीकी सारांश: INFONOISE – डिफ्यूजन ट्रेनिंग में सूचना-निर्देशित शोर शेड्यूलिंग (Information-Guided Noise Scheduling)

1. समस्या विवरण (Problem Statement)

डिफ्यूजन मॉडल एक संक्षारण प्रक्रिया (corruption process) को उलटने को सीखकर डेटा उत्पन्न करते हैं, जो शोर के विभिन्न स्तरों पर डैनोइजिंग समस्याओं के भारित संग्रह (weighted collection) को अनुकूलित करता है। प्रशिक्षण प्रक्रिया दो प्राथमिक कारकों द्वारा नियंत्रित होती है: शोर शेड्यूलिंग (यह निर्धारित करना कि किन शोर स्तरों का नमूना लिया जाएगा) और लॉस वेटिंग (उन स्तरों पर त्रुटियों के महत्व को निर्धारित करना)। ये दोनों मिलकर संक्षारण पथ (corruption path) के साथ प्रशिक्षण प्रयास का एक प्रभावी आवंटन (effective allocation) प्रेरित करते हैं।

पहचाना गया केंद्रीय चुनौतीपूर्ण कार्य यह है कि यह आवंटन आमतौर पर प्रशिक्षण शुरू होने से पहले ही निश्चित कर दिया जाता है, जो विशिष्ट शासन (regimes) (जैसे, मानक छवि पीढ़ी) के लिए अनुभवजन्य ट्यूनिंग (empirical tuning) पर आधारित होता है। हालाँकि, "सूचनात्मक क्षेत्र" (informative region)—जहाँ शोर वाले अवलोकन स्वच्छ नमूने के बारे में अनिश्चितता को सबसे तेज़ी से कम करते हैं—रेज़ोल्यूशन, डेटा सांख्यिकी, प्रतिनिधित्व (जैसे, बाइनराइज्ड इमेज), अनुक्रम संरचना, या मोडैलिटी (जैसे, DNA या टेक्स्ट) में बदलाव के कारण बदल सकता है। जब एक शासन (schedule) जो एक शासन के लिए ट्यून किया गया है उसे दूसरे पर लागू किया जाता है, तो यह आवंटन बेमेल (allocation mismatch) से ग्रस्त होता है, जिससे उन शोर स्तरों पर कंप्यूट का अपव्यय होता है जहाँ डैनोइजिंग बहुत कम जानकारी प्रदान करती है। वर्तमान समाधान मैन्युअल हाइपरपैरामीटर खोज या विरासत में मिले शेड्यूल्स पर निर्भर करते हैं, जो वर्तमान प्रशिक्षण वितरण के विशिष्ट सूचना संरचना के अनुकूल नहीं होते हैं।

2. कार्यप्रणाली: INFONOISE (Methodology: INFONOISE)

यह शोध पत्र INFONOISE प्रस्तुत करता है, जो एक ऑनलाइन अनुकूलन योग्य शोर शेड्यूलिंग है जो प्रशिक्षण प्रयास को उन शोर स्तरों की ओर पुनर्वितरित करता है जहाँ डैनोइजिंग सबसे अधिक सूचनात्मक है। यह विधि इस सिद्धांत पर कार्य करती है कि इष्टतम प्रशिक्षण आवंटन को कंडीशनल-एन्ट्रॉपी-रेट प्रोफाइल (conditional-entropy-rate profile) के अनुरूप होना चाहिए।

सैद्धांतिक आधार (Theoretical Foundation):

• प्रभावी आवंटन (Effective Allocation): शोध पत्र प्रशिक्षण उद्देश्य को संक्षारण पथ पर एक इंटीग्रल के रूप में औपचारिक रूप देता है, जहाँ प्रभावी आवंटन $\phi(u)$, सैंपलिंग डेंसिटी $\pi(u)$ और लॉस वेट $w(u)$ का उत्पाद है।
• सूचना प्रोफाइल (Information Profile): इस आवंटन के लिए लक्ष्य को पथ के साथ कंडीशनल एंट्रॉपी घटने की दर के रूप में परिभाषित किया गया है। एफ़ाइन-गौसियन संक्षारण पथों के लिए, I–MMSE पहचान इस दर को बेयस-इष्टतम डैनोइजिंग एरर (MMSE) से जोड़ती है। विशेष रूप से, सूचना प्रोफाइल $\rho^*(u)$, $|\gamma'(u)| \cdot \text{mmse}(u)$ के समानुपाती है, जहाँ $\gamma(u)$ सिग्नल-टू-नॉइज़ रेशियो है। यह प्रोफाइल पहचानता है कि पोस्टीरियर अनिश्चितता कहाँ सबसे तेज़ी से बदलती है।
• ऑनलाइन अनुमान (Online Estimation): चूंकि वास्तविक बेयस MMSE प्रशिक्षण के दौरान उपलब्ध नहीं होता है, INFONOISE प्रत्येक बैच में गणना किए गए अनवेटेड डैनोइजिंग लॉस का उपयोग करके ऑनलाइन प्रोफाइल का अनुमान लगाता है। रॉ लॉस को पथ फैक्टर (जैसे, VE पाथ के लिए $1/\sigma^3$) द्वारा स्केल किया जाता है ताकि एंट्रॉपी रेट का अनुमान लगाया जा सके।

एल्गोरिदमिक कार्यान्वयन (Algorithmic Implementation):

1. अनुमान (Estimation): प्रशिक्षण के दौरान, मॉडल अनवेटेड $x$-प्रेडिक्शन लॉस की गणना करता है। इन्हें बिन किया जाता है, स्मूथ किया जाता है, और अस्थिरता को रोकने के लिए लो-नॉइज़ एंडपॉइंट के पास गेट किया जाता है।
2. प्रोफाइल निर्माण (Profile Construction): गेटेड लॉस को एक अनुमानित सूचना प्रोफाइल $\hat{\rho}(u)$ में परिवर्तित किया जाता है।
3. सैंपलर अनुकूलन (Sampler Adaptation): प्रशिक्षण शोर वितरण $\pi(u)$ को इस प्रकार अपडेट किया जाता है कि $\pi(u) \propto \hat{\rho}(u) / w(u)$ हो। यह सुनिश्चित करता है कि प्रेरित प्रभावी आवंटन $\phi(u) = \pi(u)w(u)$, अनुमानित सूचना प्रोफाइल से मेल खाता है।
4. सैंपलिंग (Sampling): नए शोर स्तरों को अनुकूलित डेंसिटी से इनवर्स-CDF सैंपलिंग के माध्यम से लिया जाता है।
5. बाधाएं (Constraints): महत्वपूर्ण रूप से, ऑब्जेक्टिव फंक्शन, लॉस वेटिंग, प्रेडिक्शन पैरामीटराइजेशन और मॉडल आर्किटेक्चर निश्चित (fixed) रहते हैं। केवल सैंपलिंग वितरण बदलता है, जो अन्य लर्निंग डायनेमिक्स से आवंटन के प्रभाव को अलग करता है।

3. मुख्य योगदान (Key Contributions)

1. आवंटन का औपचारिकीकरण (Formalization of Allocation): लेखक शोर शेड्यूलिंग को संक्षारण पथ के साथ एक प्रभावी आवंटन समस्या के रूप में पुनर्गठित करते हैं, जो शेड्यूल परिवार और प्रेरित आवंटन के बीच अंतर करता है।
2. लक्ष्य की पहचान (Identification of the Target): वे आवंटन के लिए डेटा-निर्भर लक्ष्य के रूप में कंडीशनल-एन्ट्रॉपी-रेट प्रोफाइल की पहचान करते हैं, और समझाते हैं कि क्यों फिक्स्ड शेड्यूल्स मैच किए गए शासन में सफल होते हैं लेकिन शिफ्ट होने पर विफल हो जाते हैं।
3. INFONOISE एल्गोरिदम: वे एक ऑनलाइन अनुकूलन विधि प्रस्तावित करते है जो डैनोइजिंग लॉस से इस प्रोफाइल का अनुमान लगाती है और केवल प्रशिक्षण शोर वितरण को अपडेट करती है, जिससे ऑफलाइन शेड्यूल सर्च या सहायक मॉडलों की आवश्यकता समाप्त हो जाती है।

4. प्रयोगात्मक परिणाम (Experimental Results)

शोध पत्र इमेज, रिप्रेजेंटेशन, सीक्वेंस और मोडैलिटी शिफ्ट के माध्यम से INFONOISE का मूल्यांकन करता है, जिसकी तुलना मजबूत फिक्स्ड बेसलाइन्स (EDM, Cosine, Flow Matching) और एडैप्टिव बेसलाइन्स (KG-adaptive) से की गई है।

• मैच्ड रेजीम्स (इमेज): मानक इमेज बेंचमार्क (MNIST, CIFAR-10, FFHQ) पर, जहाँ शेड्यूल्स पहले से ही अत्यधिक ट्यून किए गए हैं, INFONOISE मजबूत बेसलाइन्स के प्रदर्शन के बराबर या उससे थोड़ा बेहतर प्रदर्शन करता है। यह कुछ मामलों में कम अपडेट के साथ समान लक्षित गुणवत्ता प्राप्त करता है, जो दर्शाता है कि यह प्रदर्शन को कम किए बिना ऑनलाइन इष्टतम आवंटन को पुनः प्राप्त कर सकता है।
• शिफ्टेड रेजीम्स (Shifted Regimes): विधि तब महत्वपूर्ण लाभ दिखाती है जब सूचनात्मक क्षेत्र बदल जाता है:
  • बाइनराइज्ड इमेज और DNA: INFONOISE विरासत में मिले इमेज शेड्यूल्स की तुलना में 3$\times$ कम प्रशिक्षण कंप्यूट के साथ लक्षित गुणवत्ता तक पहुँचता है।
  • टेक्स्ट जनरेशन: OpenWebText-2 पर, यह प्रशिक्षण के शुरुआती चरणों में ही उच्च MAUVE स्कोर प्राप्त करता है।
  • तंत्र (Mechanism): विश्लेषण से पता चलता है कि विरासत में मिले शेड्यूल्स अक्सर शिफ्ट किए गए शासन में सूचनात्मक क्षेत्र को मिस कर देते हैं, जबकि INFONOISE उस क्षेत्र की ओर आवंटन को सफलतापूर्वक पुनर्निर्देशित करता है जहाँ अनिश्चितता हल होती है।
• स्थिरता (Stability): विधि वार्म-अप अवधि के बाद जल्दी स्थिर हो जाती है। अंतिम प्रदर्शन प्रारंभिक वार्म-अप प्रायर के बजाय ऑनलाइन प्रोफाइल अपडेट द्वारा संचालित होता है।
• गाइडेंस मजबूती (Guidance Robustness): लाभ फिक्स्ड गाइडेंस स्केल्स के साथ क्लासिफायर-फ्री गाइडेंस (CFG) के तहत भी बने रहते हैं, जो इंगित करता है कि लाभ इन्फरेंस-टाइम ट्यूनिंग के बजाय प्रशिक्षण आवंटन के अंतर्निहित हैं।

5. महत्व और दावे (Significance and Claims)

शोध पत्र का दावा है कि शोर-शेड्यूल डिज़ाइन को विरासत में मिले शेड्यूल परिवारों को मैन्युअल रूप से रिट्यून करने के बजाय कार्य-विशिष्ट सूचना संरचना (task-specific information structure) का अनुमान लगाने की ओर स्थानांतरित होना चाहिए।

• व्यावहारिक विकल्प: INFONOISE कंडीशनल-एन्ट्रॉपी-रेट प्रोफाइल को एक व्यावहारिक, डेटा-निर्भर लक्ष्य के रूप में स्थापित करता है, जिससे ऑनलाइन अनुकूलन एक व्यवहार्य विकल्प बन जाता है।
• दक्षता (Efficiency): सूचना प्रोफाइल के साथ प्रशिक्षण प्रयास को संरेखित करके, यह विधि लक्षित गुणवत्ता तक पहुँचने के लिए आवश्यक कंप्यूट को कम करती है, विशेष रूप से उन डोमेन में जहाँ मानक इमेज शेड्यूल्स उप-इष्टतम (suboptimal) हैं (जैसे, डिस्क्रीट डेटा, जैविक अनुक्रम)।
• मेथोडोलॉजिकल शिफ्ट: यह कार्य "शेड्यूल" को एक निश्चित हाइपरपैरामीटर के रूप में नहीं, बल्कि अनुकूलन प्रयास के एक गतिशील आवंटन के रूप में पुनर्गठित करता है जिसे उस स्थान के अनुकूल होना चाहिए जहाँ मॉडल सबसे प्रभावी ढंग से सीखता है।

सीमाएं (Limitations):
लेखक नोट करते हैं कि विधि नियतात्मक सीमाओं (deterministic limits) के पास सिंगुलैरिटी को संभालने के लिए बाउंड्री रेगुलराइजेशन (गेटिंग) पर निर्भर करती है। वे यह भी स्वीकार करते हैं कि उच्च-रिज़ॉल्यूशन शासन या मल्टी-स्केल संक्षारण पथों का परीक्षण नहीं किया गया था, जो सुझाव देता है कि भविष्य का कार्य इस आवंटन दृष्टिकोण को संरचित या मल्टीमॉडल पथों तक विस्तारित कर सकता है जहाँ विभिन्न घटक अलग-अलग चरणों में अनिश्चितता को हल करते हैं।