← नवीनतम पेपर
💬 NLP

Diffusion Language Models Know the Answer Before Decoding

यह शोध पत्र Prophet को प्रस्तुत करता है, जो एक ट्रेनिंग-मुक्त डिकोडिंग प्रतिमान (paradigm) है जो डिफ्यूजन लैंग्वेज मॉडल्स के शुरुआती उत्तर अभिसरण (early answer convergence) का लाभ उठाकर यह गतिशील रूप से निर्णय लेता है कि रिफाइनमेंट कब रोकना है, जिससे जनरेशन की गुणवत्ता से समझौता किए बिना इन्फरेंस स्टेप्स को 3.4x तक कम किया जा सकता है।

मूल लेखक: Pengxiang Li, Yefan Zhou, Dilxat Muhtar, Lu Yin, Shilin Yan, Li Shen, Soroush Vosoughi, Shiwei Liu

प्रकाशित 2026-04-10
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Pengxiang Li, Yefan Zhou, Dilxat Muhtar, Lu Yin, Shilin Yan, Li Shen, Soroush Vosoughi, Shiwei Liu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ पेपर "Diffusion Language Models Know the Answer Before Decoding" (Prophet) का सरल, रोज़मर्रा की भाषा और उपमाओं (analogies) के साथ अनुवाद दिया गया है।

मुख्य विचार: "क्रिस्टल बॉल" (भविष्य बताने वाला गोला) प्रभाव

कल्पना कीजिए कि आप एक जटिल गणित की समस्या हल करने या कोड लिखने की कोशिश कर रहे हैं। आपके पास एक बहुत ही बुद्धिमान मित्र (AI) है जो उत्तर खोजने की कोशिश कर रहा है।

पुराना तरीका (Autoregressive Models):
इसे एक कहानी को एक-एक शब्द करके, बाएं से दाएं लिखने जैसा समझें। आप पहला शब्द पूरा किए बिना दूसरा शब्द नहीं लिख सकते। यह धीमा है, लेकिन बहुत स्थिर है।

नया तरीका (Diffusion Models):
अब, कल्पना कीजिए कि आपका मित्र एक ऐसे पन्ने से शुरुआत करता है जो पूरी तरह से लकीरों और प्रश्न चिह्नों (scribbles and question marks) से भरा है। वे पूरे पन्ने को एक साथ देखते हैं और कुछ शब्दों को ठीक करने की कोशिश करते हैं। फिर वे फिर से देखते हैं और कुछ और शब्दों को ठीक करते हैं। वे इस प्रक्रिया को बार-बार दोहराते हैं, धीरे-धीरे उन लकीरों को एक स्पष्ट वाक्य में बदलते जाते हैं।

  • समस्या: यह "ठीक करने" (fixing) की प्रक्रिया आमतौर पर बहुत धीमी होती है। भले ही वे एक साथ कई शब्दों को ठीक कर सकते हैं, लेकिन उन्हें सही होने के लिए बहुत-बहुत राउंड (चरणों) से गुजरना पड़ता है। यह एक गंदे शीशे को एक बार पोंछने, फिर पीछे हटने, फिर से पोंछने और इसे 50 बार दोहराने जैसा है।

खोज (The "Aha!" Moment):
शोधकर्ताओं ने कुछ आश्चर्यजनक पाया: AI अक्सर सफाई की प्रक्रिया पूरी होने से बहुत पहले ही उत्तर जान जाता है।

कई मामलों में, जब तक AI सफाई के अपने 50 राउंड में से आधा रास्ता भी तय नहीं कर लेता, तब तक सही उत्तर पन्ने पर स्पष्ट रूप से दिखाई देने लगता है। बाकी के सफाई के चरण केवल AI द्वारा उन चीजों को दोबारा चेक करने जैसे हैं जो पहले से ही एकदम सही हैं। यह उस छात्र की तरह है जो 5 मिनट में गणित की समस्या हल कर लेता है लेकिन केवल सुनिश्चित होने के लिए अगले 10 मिनट तक कागज को घूरता रहता है।

पेश है "Prophet": द स्मार्ट स्टॉपर (समझदार रोकने वाला)

इस खोज के आधार पर, लेखकों ने Prophet नामक एक नई विधि बनाई है।

उपमा: ट्रैफिक लाइट
कल्पना कीजिए कि AI एक मंजिल (अंतिम उत्तर) की ओर जा रही कार चला रहा है।

  • Standard AI: मंजिल तक पूरी तरह ड्राइव करता है, कार रोकता है, और फिर मैप चेक करता है कि क्या वह पहुँच गया है। वह हर बार पूरी दूरी तय करता है, भले ही वह पहले रुक सकता था।
  • Prophet: एक स्मार्ट ट्रैफिक लाइट सिस्टम की तरह काम करता है। जैसे-जैसे AI ड्राइव करता है, Prophet लगातार एक "कॉन्फिडेंस मीटर" (विश्वास मीटर) की जांच करता है।
    • यात्रा की शुरुआत में: मीटर डगमगा रहा होता है। AI अभी भी अनुमान लगा रहा है। Prophet कहता है, "ड्राइव करते रहो, हम अभी तक पहुँचे नहीं हैं।"
    • आधे रास्ते में: मीटर अचानक ऊपर की ओर उछलता है। AI उत्तर के बारे में 99% निश्चित है। Prophet इसे देखता है और कहता है, "रुको! तुम उत्तर जानते हो। बाकी रास्ता तय करने में समय बर्बाद मत करो।"

यह कैसे काम करता है:
Prophet AI के "कॉन्फिडेंस गैप" (आत्मविश्वास के अंतर) को देखता है। यह AI के सबसे अच्छे अनुमान और उसके दूसरे सबसे अच्छे अनुमान के बीच का अंतर है।

  • यदि शीर्ष अनुमान दूसरे अनुमान से केवल थोड़ा बेहतर है, तो AI भ्रमित है। चलते रहें।
  • यदि शीर्ष अनुमान दूसरे से बहुत बेहतर है, तो AI आश्वस्त है। तुरंत रुकें और उत्तर दें।

यह एक बड़ी बात क्यों है?

  1. यह एक स्पीड डेमन (रफ़्तार का बादशाह) है: जल्दी रुककर, Prophet टेक्स्ट जेनरेट करने में लगने वाले समय को 3.4 गुना तक कम कर देता है। यह 7 मिनट के बजाय 2 मिनट में कॉफी मिलने जैसा है।
  2. यह मुफ्त है: आपको AI को फिर से ट्रेन करने या कुछ नया सिखाने की ज़रूरत नहीं है। यह ड्राइवर को यह निर्देश देने जैसा है कि कब रुकना है, बिना कार बदले।
  3. यह सुरक्षित है: शोधकर्ताओं ने गणित, कोडिंग और लॉजिक पहेलियों जैसे कठिन कार्यों पर इसका परीक्षण किया। उन्होंने पाया कि जब AI गलत था, तो वह जल्दी नहीं रुका। वह अंत तक "ड्राइव" (परिष्कृत) करता रहा क्योंकि वह अभी भी भ्रमित था। इसलिए, Prophet केवल आसान मामलों में गति बढ़ाता है और कठिन मामलों में धीमा हो जाता है, जिससे सटीकता कम नहीं होती।

एक वास्तविक उदाहरण

कल्पना कीजिए कि AI इस सवाल को हल करने की कोशिश कर रहा है: "यदि मेरे पास 3 सेब हैं और मैं 2 और खरीदता हूँ, तो मेरे पास कितने होंगे?"

  • चरण 1-10: AI अनुमान लगा रहा है। उत्तर "5", फिर "4", फिर फिर से "5" जैसा दिख सकता है। यह अस्थिर है।
  • चरण 20 (आधा रास्ता): AI "5" पर लॉक हो जाता है। कॉन्फिडेंस गैप बहुत बड़ा है। उत्तर स्थिर है।
  • Standard AI: केवल सुरक्षा के लिए चरण 50 तक चलता रहता है।
  • Prophet: चरण 20 पर स्थिरता को देखता है, कहता है "मिल गया!", और तुरंत "5" आउटपुट करता है।

निष्कर्ष

यह पेपर साबित करता है कि Diffusion Language Models अक्सर अपने उत्तरों पर "ज़रूरत से ज़्यादा सोच" (over-thinking) रहे होते हैं। वे प्रक्रिया पूरी होने से बहुत पहले ही समाधान जान जाते हैं। Prophet एक सरल, मुफ्त टूल है जो AI को बताता है, "तुमने कर लिया, सोचना बंद करो, और मुझे उत्तर दो," जिससे बिना किसी गुणवत्ता को खोए, समय और कंप्यूटिंग पावर की भारी बचत होती है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 💬 cs.CL →