तकनीकी सारांश: डिस्क्रीट डिफ्यूजन मॉडल में ग्लोबल से फैक्टर-वाइज एक्सपर्ट कंपोजिशन तक

समस्या विवरण

डिस्क्रीट डिफ्यूजन मॉडल जटिल तर्क कार्यों (reasoning tasks) के लिए एक शक्तिशाली ढांचा बनकर उभरे हैं, विशेष रूप से कंपोजिशनल जनरेशन के माध्यम से, जो कई पूर्व-प्रशिक्षित "विशेषज्ञ" (expert) मॉडलों को जोड़कर उनके व्यक्तिगत प्रशिक्षण वितरणों से परे सामान्यीकरण (generalize) करते हैं। हालिया सैद्धांतिक प्रगति (जैसे, SuperDiff, RNE, Feynman-Kac Correctors) ने लक्षित वितरणों के साथ कंपोजिशनल डायनेमिक्स को संरेखित करने के लिए समय-निर्भर मिक्सिंग वेट्स (time-dependent mixing weights) पेश करके कंपोजिशनल सैंपलिंग में सुधार किया है।

हालाँकि, ये अत्याधुनिक विधियाँ एक मौलिक सीमा साझा करती हैं: वे एक प्रति-नमूना आधार (per-sample basis) पर कार्य करती हैं, जो प्रत्येक टाइमस्टेप पर प्रत्येक विशेषज्ञ को एक एकल वैश्विक स्केलर वेट (global scalar weight) आवंटित करती है। यह "मोनोलिथिक" धारणा अंतर्निहित रूप से यह मानती है कि प्रत्येक विशेषज्ञ पूरे स्टेट स्पेस में समान रूप से जानकार है। जटिल जनरेटिव कार्यों में—जैसे स्थानिक तर्क (spatial reasoning) जहाँ एक विशेषज्ञ सीमाओं (boundaries) में विशेषज्ञता रख सकता है जबकि दूसरा बनावट (textures) को संभालता है—यह वैश्विक वेटिंग एक समझौता करने के लिए मजबूर करती है। यह विशेषज्ञ के उनके विशिष्ट क्षेत्र की सक्षमता में सही सिग्नल को कमज़ोर कर देता है, और विभिन्न विशेषज्ञों की स्थानिक और कार्यात्मक स्वतंत्रता को पकड़ने में विफल रहता है।

कार्यप्रणाली: FactorDiff

लेखक FactorDiff का प्रस्ताव करते हैं, जो एक फैक्टर-वाइज कंपोजिशन फ्रेमवर्क है जो जनरेशन प्रक्रिया को नमूना स्तर (sample level) से फैक्टर स्तर (जैसे, स्थानिक पिक्सेल या ग्रिड सेल) तक विघटित करता है। पूरे जेनरेटेड स्टेट पर एक ही वेट लागू करने के बजाय, FactorDiff प्रत्येक फैक्टर को सबसे प्रासंगिक विशेषज्ञ तक गतिशील रूप से रूट (route) करता है।

मुख्य घटक

1. फैक्टर-वाइज रूटिंग (Factor-Wise Routing): स्टेट स्पेस को उपयोगकर्ता-निर्धारित फैक्टर्स में विभाजित किया जाता है। सैंपलिंग प्रक्रिया के दौरान, एक रूटिंग मैप प्रत्येक फैक्टर (जैसे, ग्रिड में एक पिक्सेल) को एक विशिष्ट विशेषज्ञ को सौंपता है। यह एक ही जेनरेटेड स्टेट के भीतर विषम (heterogeneous) विशेषज्ञ योगदान की अनुमति देता है।
2. कॉन्फिडेंस-आधारित चयन (Confidence-Based Selection): फ्रेमवर्क इन्फरेंस के दौरान प्रत्येक स्थिति पर उच्चतम आत्मविश्वास वाले विशेषज्ञ का चयन करके रूटिंग को क्रियान्वित करता है। वेरिएबल $v$ के लिए रूटिंग वेरिएबल $z_v$ इस प्रकार निर्धारित किया जाता है:
   $$z_v = \arg\max_{k} C(p_k(x_v | x_t))$$
   जहाँ $C$ एक कॉन्फिडेंस मेट्रिक है (शीर्ष दो भविष्यवाणी संभावनाओं के बीच का मार्जिन)। इसके बाद कंपोज्ड रिवर्स स्टेप उस विशिष्ट स्थिति के लिए चुने गए विशेषज्ञ से भविष्यवाणी का चयन करता है।
3. नेटिव 2D मास्कड डिफ्यूजन आर्किटेक्चर: इसे सपोर्ट करने के लिए, लेखक एक 2D मास्कड डिफ्यूजन आर्किटेक्चर पेश करते हैं जो ग्रिड टोपोलॉजी को सुरक्षित रखता है। ग्रिड को 1D सीक्वेंस में फ्लैट करने वाली पिछली विधियों (जो टोपोलॉजिकल विसंगतियां पैदा करती हैं) के विपरीत, यह दृष्टिकोण ग्रिड को एक लैटिस ग्राफ के रूप में मानता है।
   • एक्सपर्ट्स (Experts): तीन पूरक मॉडल प्रकार प्रशिक्षित किए गए हैं: एक फुल मॉडल (सभी रंग), एक ऑक्यूपेंसी मॉडल (बैकग्राउंड बनाम फोरग्राउंड), और एक कलर मॉडल (केवल फोरग्राउंड रंग)।
   • बैकबोन (Backbone): डिनोइजिंग नेटवर्क एक इटरेटिव रिफाइनमेंट आर्किटेक्चर (या तो कन्वोल्यूशनल या ट्रांसफार्मर-आधारित) का उपयोग करता है जिसमें स्थानिक स्थानीयता (spatial locality) सुनिश्चित करने के लिए लर्नबल 2D पोजीशनल एम्बेडिंग्स का उपयोग किया जाता है।

सैद्धांतिक औचित्य

मौजूदा विधियाँ अक्सर लक्ष्य वितरण को विशेषज्ञों के भारित उत्पाद (weighted product) के रूप में परिभाषित करती हैं ($p(x) \propto \prod p_m(x)^{\alpha_m}$)। लेखक तर्क देते हैं कि पूरक विशेषज्ञों के लिए, एक वैश्विक घातांक (exponent) $\alpha_m$ गलत निर्दिष्ट है क्योंकि यह एक विशेषज्ञ की भविष्यवाणियों (उनके डोमेन के बाहर की त्रुटिपूर्ण भविष्यवाणियों को भी) को पूरे स्टेट को प्रभावित करने के लिए मजबूर करता है। FactorDiff इसे फैक्टर-वाइज उत्पाद से बदल देता है:
$$p_{comp}(x) \propto \prod_{f \in \mathcal{F}} \prod_{m=1}^M (p_m(x_f))^{\alpha_{m,f}}$$
यह फॉर्मुलेशन विशेषज्ञता को फैक्टर्स के अनुसार बदलने की अनुमति देता है। हार्ड-रूटिंग के मामले में, $\alpha_{m,f}$ एक वन-हॉट (one-hot) है, जो अतिरिक्त नॉर्मलाइजेशन या महत्व सुधार की आवश्यकता के बिना, प्रति फैक्टर एक एकल विशेषज्ञ का चयन करता है, क्योंकि वैध कंडिशनल्स का उत्पाद एक वैध जॉइंट ट्रांजिशन को परिभाषित करता है।

मुख्य योगदान

1. FactorDiff फ्रेमवर्क: एक नवीन कंपोजिशन विधि जो विशेषज्ञ संयोजन को फैक्टर्स पर रूटिंग के रूप में प्रस्तुत करती है, जिसे विशेष रूप से ग्रिड-स्ट्रक्चर्ड डिफ्यूजन मॉडल्स के लिए स्थिति-स्तर (position-level) के विशेषज्ञ चयन के साथ लागू किया गया है।
2. 2D मास्कड डिफ्यूजन आर्किटेक्चर: एक नेटिव आर्किटेक्चर जो ग्रिड टोपोलॉजी को बनाए रखता है, जिससे पूरक विशेषज्ञों (Occupancy, Color, Full) को प्रशिक्षित करना संभव होता है जिनके भविष्यवाणियों को इन्फरेंस के समय कंपोज़ किया जा सकता है।
3. ARC-AGI पर अनुभवजन्य सत्यापन: ARC-AGI बेंचमार्क पर RE-ARC जनरेटर का उपयोग करके व्यापक मूल्यांकन यह प्रदर्शित करता है कि सरल फैक्टर-विशिष्ट रूटिंग लगातार जटिल वैश्विक स्केलर वेटिंग स्कीम्स की तुलना में बेहतर प्रदर्शन करती है, विशेष रूप से उन कार्यों पर जिनमें तार्किक निरंतरता और स्थानिक पृथक्करण (spatial disentanglement) की आवश्यकता होती है।

प्रयोगात्मक परिणाम

लेखकों ने IID मूल्यांकन के लिए RE-ARC जनरेटर का उपयोग करके 120 ARC-AGI कार्यों के उपसमुच्चय पर FactorDiff का मूल्यांकन किया।

• स्पेशलाइजेशन रिजीम (RQ1): जब अत्यधिक विशिष्ट विशेषज्ञों (जैसे, Occupancy + Full, या Color + Occupancy) को संयोजित किया जाता है, तो FactorDiff ने प्रति-नमूना बेसलाइन्स (SuperDiff, RNE, FKC) को काफी पीछे छोड़ दिया।
  • Color + Occupancy: व्यक्तिगत विशेषज्ञ पूर्ण कार्य पर लगभग शून्य स्कोर करते हैं (3.3% और 0.2% सटीक सटीकता)। FactorDiff ने उन्हें 90.5% सटीक सटीकता प्राप्त करने के लिए कंपोज़ किया, जो सर्वश्रेष्ठ प्रति-नमूना बेसलाइन (78.4%) की तुलना में एक बड़ी उपलब्धि है।
  • Occupancy + Full: FactorDiff ने 94.0% सटीक सटीकता प्राप्त की, जो एकल विशेषज्ञ (93.0%) और सभी प्रति-नमूना कंपोजिशन विधियों से बेहतर है।
• जनरलिस्ट रिजीम (RQ2): जब दो मजबूत जनरलिस्ट मॉडलों (Full + Full) को संयोजित किया जाता है, तो FactorDiff "सेफ" था, जिसने प्रदर्शन में गिरावट के बिना सर्वश्रेष्ठ प्रति-नमूना बेसलाइन (95.2%) का मुकाबला किया। यह इंगित करता है कि स्थानिक रूप से परिवर्तनशील चयन अस्थिरता पैदा नहीं करता है जब विशेषज्ञ व्यापक रूप से सहमत होते हैं।
• एब्लेशन (Ablation): यहाँ तक कि समान उद्देश्यों वाले लेकिन भिन्न आर्किटेक्चर (Trans-IR बनाम Conv-IR) वाले दो फुल मॉडलों को कंपोज़ करने पर भी, FactorDiff ने व्यक्तिगत मॉडल में से किसी एक की तुलना में उच्च सटीकता (94.8%) प्राप्त की, जिससे दोनों से सही क्षेत्रों को सफलतापूर्वक जोड़ा जा सका।

महत्व और दावे

पेपर का दावा है कि FactorDiff विशेषज्ञों को एक ही डिफ्यूजन प्रक्षेपवक्र (trajectory) के भीतर संयोजित करने के लिए एक सरल और प्रभावी तंत्र प्रदान करता है। इसका प्राथमिक महत्व यह प्रदर्शित करना है कि प्रति-नमूना वैश्विक वेटिंग उन कार्यों के लिए अपर्याप्त है जहाँ विशेषज्ञों के स्थानिक या कार्यात्मक रूप से विशिष्ट डोमेन होते हैं। फैक्टर-वाइज कंपोजिशन की ओर बढ़कर, यह विधि उस पूरक विशेषज्ञता को कैप्चर करती जिसे वैश्विक वेट्स प्रदर्शित नहीं कर सकते, जिससे सख्त तार्किक निरंतरता वाले कार्यों पर बेहतर सामान्यीकरण प्राप्त होता है।

लेखक नोट करते हैं कि जबकि उनका वर्तमान कार्यान्वयन कॉन्फिडेंस-आधारित रूटिंग पर निर्भर करता है (यह मानते हुए कि कॉन्फिडेंस, शुद्धता से सहसंबंधित है), फ्रेमवर्क स्वाभाविक रूप से सीखे गए या कार्य-आधारित रूटिंग में विस्तारित होता है। वे इस कार्य को डिस्क्रीट डिफ्यूजन में अधिक सूक्ष्म (granular) कंपोजिशन की दिशा में एक कदम के रूप में देखते हैं, जो वर्तमान अत्याधुनिक विधियों की "मोनोलिथिक" धारणाओं से आगे जाता है।