A Theoretical Analysis of Why Masked Diffusion Models Mitigate the Reversal Curse
यह शोध पत्र एक सैद्धांतिक विश्लेषण और अनुभवजन्य सत्यापन प्रदान करता है जो यह प्रदर्शित करता है कि मास्क्ड डिफ्यूजन मॉडल 'रिवर्सल कर्ज़' (Reversal Curse) को कम करते हैं क्योंकि उनके साझा ट्रांसफॉर्मर पैरामीटर्स और सापेक्ष स्थिति संबंधी एन्कोडिंग एक पैरामीटर-स्तरीय युग्मन (parameter-level coupling) निर्मित करते है जो फॉरवर्ड मास्क्ड ट्रेनिंग के दौरान सीखे गए टोकन-जोड़ी साक्ष्यों को रिवर्स क्वेरीज़ के लिए प्रभावी ढंग से पुन: उपयोग करने की अनुमति देता है।