💬 NLP

A Continuous-Time Markov Chain Framework for Insertion Language Models

यह शोध पत्र इवेंशन लैंग्वेज मॉडल्स (Insertion Language Models) के लिए एक सिद्धांतपूर्ण डिफ्यूजन-शैली का डिनोइजिंग ऑब्जेक्टिव प्राप्त करने हेतु एक निरंतर-समय मार्कोव चेन फ्रेमवर्क स्थापित करता है, जो यह प्रदर्शित करता है कि पूर्व विधियाँ इस दृष्टिकोण के विशेष मामले हैं और साथ ही प्रतिस्पर्धी प्रदर्शन और उन्नत सैंपलिंग लचीलापन भी प्राप्त करती हैं।

मूल लेखक: Dhruvesh Patel, Benjamin Rozonoyer, Soumitra Das, Tahira Naseem, Tim G. J. Rudner, Andrew McCallum

प्रकाशित 2026-06-10

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Dhruvesh Patel, Benjamin Rozonoyer, Soumitra Das, Tahira Naseem, Tim G. J. Rudner, Andrew McCallum

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक कहानी लिखने की कोशिश कर रहे हैं, लेकिन आपके पास एक बहुत सख्त नियम है: आपको हर शब्द को क्रम में लिखना होगा, पहले अक्षर से लेकर आखिरी अक्षर तक। यह अधिकांश वर्तमान एआई भाषा मॉडल (जिन्हें "ऑटोरेग्रेसिव" मॉडल कहा जाता है) के काम करने का तरीका है। वे एक ट्रेन की तरह हैं जो केवल एक ही ट्रैक पर आगे बढ़ सकती है। यदि ट्रेन शुरुआत में ही कहीं फंस जाती है या गलत मोड़ ले लेती है, तो पूरे सफर को ठीक करना कठिन हो जाता है।

अन्य मॉडल अधिक लचीले होने की कोशिश करते हैं और वाक्य के बीच में शब्दों का अनुमान लगाकर खाली जगहों को भरते हैं (जैसे कि "मास्क्ड डिफ्यूजन मॉडल्स")। हालांकि, वे कभी-कभी यह समझने में संघर्ष कर सकते हैं कि वाक्य कितना लंबा होना चाहिए या वे घटनाओं के क्रम के बारे में भ्रमित हो सकते हैं।

यह पेपर एआई को लिखने का सिखाने का एक नया तरीका पेश करता है, जिसे डिफ्यूजन-बेस्ड इंसर्शन लैंग्वेज मॉडल्स (DILMs) कहा जाता है। यह कैसे काम करता है, इसे सरल उपमाओं का उपयोग करके यहाँ समझाया गया है:

मुख्य विचार: "कैंची और गोंद" का खेल

लेखक एआई को लिखना सिखाने के लिए एक उल्टा खेला जाने वाला खेल कल्पित करते हैं।

नॉयजिंग प्रक्रिया (कैंची):
कल्पना कीजिए कि आपके पास एक पूर्ण, संपूर्ण वाक्य है: "The quick brown fox jumps over the lazy dog."
एआई का शिक्षक कैंची लेता है और यादृच्छिक (रैंडम) रूप से एक-एक करके शब्द काटना शुरू करता है।

पहले, वह "lazy" को काट देता है।
फिर "brown" को काटता है।
फिर "jumps" को।
अंततः, आपके पास केवल कुछ शब्द या खाली स्थान बच जाता है।
यह काटने की प्रक्रिया का वर्णन करने के लिए पेपर एक गणितीय ढांचे का उपयोग करता है जिसे कंटीन्यूअस-टाइम मार्कोव चेन कहा जाता है। इसे एक सटीक, वैज्ञानिक तरीके के रूप में समझें कि, "हम शब्दों को एक स्थिर, अनुमानित दर पर हटाएंगे जब तक कि वाक्य पूरी तरह खत्म न हो जाए।"

सीखने की प्रक्रिया (गोंद):
अब, एआई को इस खेल को उलटे क्रम में खेलना है। वह खाली स्थान (या बचे हुए कुछ शब्दों) से शुरू करता है और उसे शब्दों को वापस कैसे भरना है, यह समझना होता है।

केवल अगला शब्द अनुमान लगाने के बजाय, एआई कहीं भी शब्द डाल (insert) सकता है।
वह "The" और "quick" के बीच "brown" रख सकता है।
वह "over" और "dog" के बीच "lazy" रख सकता है।
वह एक साथ अलग-अलग अंतराल में कई शब्द भी डाल सकता है।

यह विशेष क्यों है?

पेपर का दावा है कि यह विधि दो दुनियाओं के सर्वश्रेष्ठ गुणों को जोड़ती है:

लचीलापन: "ट्रैक पर चलने वाली ट्रेन" मॉडल के विपरीत, यह एआई वाक्य के बीच में गलतियों को सुधार सकता है या विवरण जोड़ सकता है बिना पूरी चीज़ को शुरू से दोबारा लिखे।
कब रुकना है, यह जानना: इन "खाली जगह भरने वाले" मॉडलों के साथ एक आम समस्या यह है कि उन्हें पता नहीं चलता कि वाक्य कब समाप्त हुआ। वे शब्दों को अनंत काल तक जोड़ते रह सकते हैं या बहुत जल्दी रुक सकते हैं।
- लेखकों ने इसे हल करने के लिए एआई को "बची हुई लंबाई" (length-to-go) का अनुमान लगाना सिखाया है। कल्पना कीजिए कि एआई के पास एक छोटा सा ईंधन गेज (fuel gauge) है। जैसे-जैसे वह शब्द डालता है, ईंधन गेज नीचे गिरता जाता है। जब गेज शून्य पर पहुँचता है, तो एआई को पता चल जाता है, "ठीक है, वाक्य पूरा हो गया है," और वह स्वाभाविक रूप से रुक जाता है।

नए मॉडल के दो संस्करण

यह पेपर इस "डालने" (insertion) के दो विशिष्ट तरीके प्रस्तावित करता है:

DILM-S (सिंगल इंसर्शन): एआई एक बार में एक स्थान और एक शब्द चुनकर डालता है। यह एक-एक करके लेगो (Lego) ब्रिक को सावधानी से रखने जैसा है। यह बहुत सटीक है।
DILM-M (मल्टीपल इंसर्शन): एआई सभी खाली स्थानों को एक साथ देखता है और एक साथ कई अंतराल भर सकता है। यह लेगो ब्रिक्स की एक मुट्ठी पकड़कर उन्हें एक साथ फिट करने जैसा है। यह तेज़ है।

उन्होंने क्या पाया?

शोधकर्ताओं ने अपने नए मॉडलों का दो प्रकार के कार्यों पर परीक्षण किया:

योजना बनाने के कार्य (द "स्टार ग्राफ" गेम):
एक मानचित्र की कल्पना करें जिसमें एक केंद्रीय केंद्र (hub) है और उससे कई रास्ते निकल रहे हैं। एआई को एक शुरुआती बिंदु से अंतिम बिंदु तक सही रास्ता खोजने का काम दिया गया है।

परिणाम: नए मॉडल (DILM-S और DILM-M) इसमें लगभग पूर्ण थे। वे मानक "ट्रैक पर चलने वाले" मॉडलों और अन्य "खाली जगह भरने वाले" मॉडलों की तुलना में बहुत बेहतर थे। वे पूरी तस्वीर देख सकते थे और सही मार्ग की योजना बना सकते थे।

कहानियां लिखना (लैंग्वेज मॉडलिंग):
उन्होंने समाचार लेख और सामान्य टेक्स्ट लिखने के लिए मॉडलों का परीक्षण किया।

परिणाम: नए मॉडल सुसंगत टेक्स्ट लिखने में मौजूदा सर्वोत्तम मॉडलों के समान ही थे।
बड़ा बोनस: लेखकों ने पाया कि उनके इस नए तरीके के साथ, आप गति बनाम गुणवत्ता के बीच तालमेल बिठा सकते हैं। यदि आप एआई को शब्दों को डालने के लिए अधिक "चरण" (steps) लेने देते हैं (अधिक समय), तो लेखन बेहतर होता है। यदि आप जल्दबाजी करते हैं, तो यह तेज़ होता है लेकिन थोड़ा कम सटीक होता है। यह उपयोगकर्ताओं को अपनी ज़रूरत के अनुसार ट्यून करने के लिए एक 'नॉब' प्रदान करता है।

सारांश

संक्षेप में, यह पेपर "खाली जगह भरने" की अव्यवस्थित, प्रयास-और-त्रुटि वाली प्रक्रिया को एक ठोस गणितीय आधार देता है। शब्दों को काटने और चिपकाने के निरंतर खेल की तरह इस प्रक्रिया को मानकर, उन्होंने एक ऐसा एआई बनाया है जो किसी भी क्रम में लिख सकता है, जो बिल्कुल जानता है कि कब रुकना है, और जिसे उपयोगकर्ता की आवश्यकता के अनुसार तेज़ या बहुत उच्च-गुणवत्ता वाला बनाने के लिए ट्यून किया जा सकता है।

तकनीकी सारांश: इंसर्शन लैंग्वेज मॉडल्स के लिए एक कंटीन्यूअस-टाइम मार्कोव चेन फ्रेमवर्क

समस्या विवरण

ऑटोरिग्रेसिव लैंग्वेज मॉडल्स (ARMs) अनुक्रमों (sequences) को सख्ती से बाएं-से-दाएं (left-to-right) उत्पन्न करते हैं, जो नियोजन (planning) और सब-गोल आधारित इनफिलिंग (infilling) जैसे कार्यों के लिए आवश्यक गैर-अनुक्रमिक पीढ़ी (non-sequential generation) की उनकी लचीलेपन को सीमित करता है। जबकि मास्कड डिफ्यूजन मॉडल्स (MDMs) मनमाने क्रमों और मल्टी-टोकन स्टेप्स की अनुमति देते हैं, वे अक्सर परिवर्तनशील-लंबाई वाले अनुक्रमों के साथ संघर्ष करते हैं क्योंकि वे पैडिंग टोकन को साधारण शब्दावली आइटम के रूप में मानते हैं, जिससे पीढ़ी की गुणवत्ता प्रभावित होती है और ब्लॉक-आधारित बाएं-से-दाएं प्रक्रियाओं तक नमूनाकरण (sampling) सीमित हो जाता है।

मौजूदा इंसर्शन लैंग्वेज मॉडल्स (ILMs) मनमाने स्थानों पर टोकन को बार-बार सम्मिलित (insert) करके इन सीमाओं को दूर करते हैं, जिससे वे स्वाभाविक रूप से परिवर्तनशील लंबाई और सापेक्ष क्रम संबंधी बाधाओं को संभालते हैं। हालांकि, वर्तमान ILM फॉर्मुलेशन एड-हॉक (ad-hoc) प्रशिक्षण उद्देश्यों और नमूनाकरण प्रक्रियाओं पर निर्भर करते हैं जिनमें कठोर संभाव्यता आधार (rigorous probabilistic foundation) का अभाव है। इसके अलावा, मौजूदा ILMs पीढ़ी को कब रोकना है, यह निर्धारित करने की चुनौती से भी जूझते हैं।

कार्यप्रणाली (Methodology)

लेखक डिफ्यूजन-आधारित इंसर्शन लैंग्वेज मॉडल्स (DILMs) का प्रस्ताव करते हैं, जो परिवर्तनशील-लंबाई वाले अनुक्रमों के स्पेस पर एक कंटीन्यूअस-टाइम मार्कोव चेन (CTMC) का उपयोग करके प्रथम सिद्धांतों (first principles) से प्राप्त एक सिद्धांतपूर्ण ढांचा है।

1. नॉइज़िंग प्रक्रिया (The Noising Process)

फॉरवर्ड नॉइज़िंग प्रक्रिया को एक CTMC के रूप में तैयार किया गया है जो $[0, T]$ समय अंतराल में यादृच्छिक रूप से एक ग्राउंड-ट्रुथ अनुक्रम $x_0$ से टोकन को हटा देता है।

स्टेट स्पेस (State Space): स्टेट स्पेस में अनुक्रम की सामग्री और इसकी लंबाई दोनों शामिल हैं।
डिलीशन मैकेनिज्म (Deletion Mechanism): टोकन को एक समय-निर्भर दर $\sigma_t$ के साथ एक-एक करके (या स्वतंत्र दरों के माध्यम से) हटाया जाता है।
दो वेरिएंट्स:
- जॉइंट नॉइज़िंग (Joint Noising): डिलीशन एक एकल घटना के रूप में होता है जहाँ हटाए गए टोकन की संख्या पॉइसन वितरण (Poisson distribution) का पालन करती है, और स्थान यादृच्छिक रूप से चुने जाते हैं।
- इंडिपेंडेंट नॉइज़िंग (Independent Noising): प्रत्येक स्थिति में एक स्वतंत्र डिलीशन दर होती है, जिसे द्विपद वितरण (Binomial distribution) के माध्यम से मॉडल किया जाता है।

2. जेनेरेटिव प्रक्रिया (रिवर्स CTMC)

जेनेरेटिव प्रक्रिया नॉइज़िंग प्रक्रिया का समय-विपरीत (time reversal) है, जो टोकन को सम्मिलित करके एक अनुक्रम का निर्माण करती है। लेखक इस रिवर्स प्रक्रिया के तहत डेटा लॉग-लाइक्लीहुड के लिए एक एविडेंस लोअर बाउंड (ELBO) व्युत्पन्न करते हैं। वे रिवर्स रेट मैट्रिक्स $\hat{R}^\theta_t$ के लिए दो पैरामीट्रिज़ेशन प्रस्तावित करते हैं:

DILM-S (सिंगल इंसर्शन): एक इंसर्शन लोकेशन और एक शब्दावली आइटम की संयुक्त संभाव्यता, साथ ही "लेंथ-टू-गो" (अभी कितने टोकन सम्मिलित किए जाने बाकी हैं) का मॉडल करता है। यह पैरामीट्रिज़ेशन एक बार में एक इंसर्शन की भविष्यवाणी करता है।
DILM-M (मल्टीपल इंसर्शन): स्वतंत्र, प्रति-स्थिति इंसर्शन दरों का मॉडल करता है। यह मॉडल को एक ही स्टेप में विभिन्न गैप्स में कई इंसर्शन को एक साथ सैंपल करने की अनुमति देता है।

दोनों वेरिएंट्स एक ट्रांसफार्मर बैकबोन और समय $t$ पर आधारित एडेप्टिव लेयर नॉर्मलाइजेशन (AdaLN) का उपयोग करते हैं। स्टॉपिंग कंडीशन को संभालने के लिए, मॉडल 'लेंथ-टू-गो' (या गैप साइज) की भविष्यवाणी करते हैं, जिससे पीढ़ी तब समाप्त हो जाती है जब अनुमानित इंसर्शन दर शून्य हो जाती है, बजाय इसके कि किसी अलग स्टॉपिंग क्लासिफायर या हाइपरपैरामीटर पर निर्भर रहना पड़े।

3. सैंपलिंग (Sampling)

सैंपलिंग को यूलर डिस्क्रीटाइजेशन (DILM-S के लिए) या एक कंस्ट्रेंड $\tau$ -लीपिंग प्रक्रिया (DILM-M के लिए) के माध्यम से किया जाता है। ये विधियाँ सैंपल क्वालिटी और फॉरवर्ड पासेज (सैंपलिंग स्टेप्स) की संख्या के बीच एक ट्रेड-ऑफ की अनुमति देती हैं, जो मानक ILMs में मौजूद नहीं है।

मुख्य योगदान (Key Contributions)

सिद्धांतपूर्ण ढांचा (Principled Framework): यह पेपर प्रथम सिद्धांतों का उपयोग करके CTMC फ्रेमवर्क के माध्यम से इंसर्शन-आधारित पीढ़ी के लिए एक डिफ्यूजन-स्टाइल डिनोइज़िंग ऑब्जेक्टिव को व्युत्पन्न करता है, जो एड-हॉक फॉर्मुलेशन से आगे बढ़ता है।
एकीकरण (Unification): प्रस्तावित सैंपलिंग प्रक्रियाएं मौजूदा फॉर्मुलेशन को एकीकृत करती हैं, जो उन्हें इस व्यापक ढांचे के विशेष मामलों के रूप में दिखाती हैं।
दो पैरामीट्रिज़ेशन: लेखक दो वेरिएंट्स (DILM-S और DILM-M) पेश करते हैं जो इंसर्शन दरों (संयुक्त बनाम स्वतंत्र) को मॉडल करने के तरीके में भिन्न होते हैं, जिससे सैंपलिंग दक्षता और मल्टी-टोकन पीढ़ी में लचीलापन मिलता है।
सैद्धांतिक आधार (Theoretical Grounding): कार्य एक कठोर ELBO का व्युत्पन्न प्रदान करता है और प्रशिक्षण एवं सैंपलिंग के कम्प्यूटेशनल पहलुओं पर चर्चा करता है।

अनुभवजन्य परिणाम (Empirical Results)

लेखक सिंथेटिक प्लानिंग कार्यों और लैंग्वेज मॉडलिंग बेंचमार्क पर DILMs का मूल्यांकन करते हैं।

सिंथेटिक प्लानिंग (स्टार ग्राफ टास्क): उन परिवर्तनशील-लंबाई वाले प्लानिंग कार्यों पर जहाँ ARMs और MDMs संघर्ष करते हैं, DILM-S और DILM-M लगभग पूर्ण सटीकता (मौजूदा ILMs के तुल्य) प्राप्त करते हैं, जो दर्शाता है कि डिफ्यूजन-आधारित दृष्टिकोण जटिल संरचनात्मक कार्यों के लिए इंसर्शन-आधारित पीढ़ी के लाभों को बनाए रखता है।
लैंग्वेज मॉडलिंग (LM1B और OpenWebText):
- LM1B बेंचमार्क पर, DILM-S और DILM-M प्रति-टोकन नेगेटिव लॉग-लाइक्लीहुड (NLL) के मामले में मौजूदा ILMs और MDMs के प्रतिस्पर्धी हैं।
- OpenWebText पर, DILM वेरिएंट्स ILM और MDM बेसलाइन्स को पछाड़ते हैं।
- सैंपलिंग फ्लेक्सिबिलिटी: एक प्रमुख निष्कर्ष सैंपलिंग स्टेप्स की संख्या के विरुद्ध पीढ़ी की गुणवत्ता के बीच ट्रेड-ऑफ करने की क्षमता है। मौजूदा ILMs के विपरीत, जो फ्लैट या अनियमित परप्लेक्सिटी कर्व दिखाते हैं, D-LIMS बढ़ते सैंपलिंग स्टेप्स के साथ जेनेरेटिव परप्लेक्सिटी में निरंतर सुधार प्रदर्शित करते हैं।

महत्व और दावे (Significance and Claims)

यह पेपर दावा करता है कि DILMs मौजूदा इंसर्शन मॉडल्स के लिए एक संभाव्यता-आधारित (probabilistically principled) विकल्प प्रदान करते हैं, जो एक कठोर प्रशिक्षण उद्देश्य और सैंपलिंग प्रक्रिया प्रदान करते हैं। यह ढांचा ILMs के मुख्य लाभों को बरकरार रखता है—लचीली पीढ़ी का क्रम और स्वाभाविक परिवर्तनशील-लंबाई हैंडलिंग—जबकि एड-हॉक स्टॉपिंग मानदंडों और सैद्धांतिक आधार की कमी जैसी सीमाओं को संबोधित करता है।

लेखक नोट करते हैं कि जबकि DILM-M कई इंसर्शन की अनुमति देता है, यह वर्तमान में एक गैप प्रति एक टोकन तक सीमित है, जो निरंतर टोकन सहसंबंधों (contiguous token correlations) की मॉडलिंग को सीमित करता है। वे भविष्य के कार्य के रूप में मल्टी-टोकन स्पैन इंसर्शन और बड़े मॉडल्स तक विस्तार करने की पहचान करते हैं। यह कार्य इंसर्शन-आधारित पीढ़ी को एक कंटीन्यूअस-टाइम डिफ्यूजन प्रक्रिया के रूप में मानने के लिए एक आधार स्थापित करता है, जो पिछले ह्यूरिस्टिक (heuristic) दृष्टिकोणों को एक एकल सैद्धांतिक छत्र के नीचे लाता है।