🤖 machine learning
Path-Dependent Denoising: A Non-Conservative Field Perspective on Order Collapse in Diffusion Language Models
यह शोधपत्र डिफ्यूजन लैंग्वेज मॉडल्स (Diffusion Language Models) में पथ-निर्भरता (path-dependence) का निदान और परिमाणीकरण करने के लिए ऑर्डर-प्रेरित छद्म-जोड़ों (order-induced pseudo-joints) और स्थानीय शोर-निवारण परिसंचरण (local denoising circulation) पर आधारित एक सैद्धांतिक ढांचे को प्रस्तुत करता है, जो यह प्रकट करता है कि ऑटोरेग्रेसिव-समान प्रक्षेपवक्रों (autoregressive-like trajectories) में उनके ढहने की प्रवृत्ति अनुमान त्रुटियों के बजाय स्थानीय शोर-निवारण सप्रतिबंधों (local denoising conditionals) की असंगति से उत्पन्न होती है।