💬 NLP

When Confidence Misleads: Suffix Anchoring and Anchor-Proximity Confidence Modulation for Diffusion Language Models

यह शोध पत्र सफिक्स-एंकरड कॉन्फिडेंस मॉड्यूलेशन (Suffix-Anchored Confidence Modulation) को प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त विधि है जो पूर्णतः गैर-ऑटोरेग्रेसिव डिफ्यूजन लैंग्वेज मॉडल्स में भ्रामक आत्मविश्वास की समस्याओं को कम करने के लिए एक सफिक्स एंकर सम्मिलित करती है ताकि पूर्णता सुनिश्चित की जा सके और साथ ही समयपूर्व डिकोडिंग को रोकने के लिए एंकर के पास आत्मविश्वास को गतिशील रूप से समायोजित किया जा सके, जिससे रीजनिंग और कोड-जेनरेशन बेंचमार्क में प्रदर्शन में सुधार होता है।

मूल लेखक: Jungwon Park, Jimyeong Kim, Jungmin Ko, Nojun Kwak, Wonjong Rhee

प्रकाशित 2026-05-28

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Jungwon Park, Jimyeong Kim, Jungmin Ko, Nojun Kwak, Wonjong Rhee

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ सरल भाषा और रचनात्मक उपमाओं का उपयोग करके शोध पत्र (paper) का स्पष्टीकरण दिया गया है।

समस्या: अति-आत्मविश्वासी वास्तुकार (The Overconfident Architect)

कल्पना कीजिए कि वास्तुकारों (AI मॉडल) की एक टीम एक घर (टेक्स्ट रिस्पॉन्स जनरेट करना) बनाने की कोशिश कर रही है, लेकिन वे एक-एक ईंट रखने के बजाय एक साथ पूरा घर बनाने की कोशिश करते हैं। डिफ्यूजन लैंग्वेज मॉडल्स (Diffusion Language Models) इसी तरह काम करते हैं: वे प्रश्न चिह्नों से भरे एक खाली ब्लूप्रिंट से शुरुआत करते हैं और एक साथ पूरे घर को भरने की कोशिश करते हैं।

यह तय करने के लिए कि घर का अगला हिस्सा कैसे बनाया जाए, वास्तुकार अपने "कॉन्फिडेंस मीटर" (विश्वास मीटर) को देखते हैं। यदि उन्हें किसी विशेष दीवार के बारे में बहुत यकीन होता है, तो वे उसे तुरंत बना लेते हैं।

यह शोध पत्र पहचानता है कि यह कॉन्फिडेंस मीटर उन्हें दो तरह से धोखा दे सकता है:

"जल्दबाजी में हार मानने" का जाल (The "Quit Too Early" Trap): कभी-कभी, वास्तुकार इतने आश्वस्त हो जाते हैं कि घर "बन गया है" कि वे छत लगने से पहले ही निर्माण करना बंद करने का निर्णय ले लेते हैं। AI की भाषा में, वे "एंड ऑफ टेक्स्ट" (End of Text) टोकन पर बहुत जल्दी पहुँच जाते हैं, जिससे उत्तर अधूरा रह जाता है।
"नकली समाप्ति" का जाल (The "Fake Finish" Trap): उन्हें जल्दी हार मानने से रोकने के लिए, शोधकर्ताओं ने ब्लूप्रिंट के अंत में एक छोटा सा साइनपोस्ट लगाने की कोशिश की जो कहता है, "उत्तर है..." यह वास्तुकारों को उस साइन तक पहुँचने तक काम जारी रखने के लिए मजबूर करता है। हालाँकि, इसने एक नई समस्या पैदा कर दी: वास्तुकार उस साइन के ठीक बगल वाली ईंटों के बारे में बहुत अधिक आश्वस्त हो गए। उन्होंने नींव तैयार होने से पहले ही अंतिम दीवार बनाना शुरू कर दिया, जिससे एक ऐसा घर बना जो दिखने में तो पूरा लगता है लेकिन संरचनात्मक रूप से गलत होता है।

समाधान: "स्मार्ट साइनपोस्ट" (The "Smart Signpost")

लेखक एक नई विधि प्रस्तावित करते हैं जिसे सफिक्स-एंकोर्ड कॉन्फिडेंस मॉड्यूलेशन (Suffix-Anchored Confidence Modulation) कहा जाता है। इसे एक स्मार्ट निर्माण प्रबंधक (construction manager) के रूप में समझें जो दो-चरणीय रणनीति का उपयोग करता है:

साइनपोस्ट (सफिक्स एंकर): वे अभी भी अंत में वह छोटा साइन ("उत्तर है...") लगाते हैं ताकि टीम को याद दिलाया जा सके, "हे, हम अभी खत्म नहीं हुए हैं! निर्माण जारी रखें!" यह टीम को समय से पहले छोड़ने से रोकता है।
कॉन्फिडेंस ब्रेक (मॉड्यूलेशन): यही सबसे चतुर हिस्सा है। प्रबंधक जानता है कि सिर्फ साइन वहां होने का मतलब यह नहीं है कि साइन के ठीक बगल वाली ईंटें बिछाने के लिए तैयार हैं।
- प्रक्रिया के शुरुआती चरण में: प्रबंधक साइन के पास की ईंटों के कॉन्फिडेंस मीटर पर एक "स्पीड बंप" (गति अवरोधक) लगा देता है। भले ही वास्तुकार 90% सुनिश्चित महसूस करें, प्रबंधक कहता है, "रुको, हमने अभी नींव नहीं बनाई है। अपना आत्मविश्वास 50% तक कम करो।" यह टीम को घर के अस्त-व्यस्त मध्य भागों पर ध्यान केंद्रित करने के लिए मजबूर करता है।
- प्रक्रिया के बाद के चरण में: जैसे-जैसे घर पूरा होने के करीब पहुँचता है और नींव मजबूत होती है, प्रबंधक धीरे-धीरे स्पीड बंप हटा देता है। अब, वास्तुकारों को फिर से आत्मविश्वासी होने की अनुमति है और वे साइन के बगल वाली दीवार को पूरा कर सकते हैं।

यह क्यों महत्वपूर्ण है

यह शोध पत्र दिखाता है कि यह सरल तकनीक बिना वास्तुकारों को फिर से प्रशिक्षित किए या ब्लूप्रिंट बदले जादू की तरह काम करती है।

यह "जल्दबाजी में हार मानने" की समस्या को ठीक करता है: घर पूरा हो जाता है।
यह "नकली समाप्ति" की समस्या को ठीक करता है: अंतिम दीवार तब तक नहीं बनाई जाती जब तक कि बाकी घर तैयार न हो जाए, जिससे गणितीय त्रुटियों या कोड बग्स से बचाव होता है।
यह गति बनाए रखता है: क्योंकि टीम अभी भी एक बार में पूरा घर बना रही है (पैरेलल प्रोसेसिंग) न कि एक-एक ईंट करके, इसलिए वे अविश्वसनीय रूप से तेज़ रहते हैं।

परिणाम

शोधकर्ताओं ने इस "स्मार्ट साइनपोस्ट" का परीक्षण तीन प्रकार के कार्यों पर किया:

गणित की समस्याएं (Math Problems): ऐसी शब्द समस्याओं को हल करना जहाँ उत्तर को चरण-दर-चरण प्राप्त करने की आवश्यकता होती है।
विज़न-लैंग्वेज (Vision-Language): चार्ट या छवियों को देखना और उनके बारे में प्रश्नों के उत्तर देना।
कोडिंग (Coding): कंप्यूटर प्रोग्राम लिखना।

हर मामले में, इस विधि ने पिछले तरीकों की तुलना में AI को अधिक बार सही उत्तर देने में मदद की। यह केवल AI को यह बताने से बेहतर था कि "जल्दी मत रुको" (जिससे अक्सर "नकली समाप्ति" की त्रुटियां होती हैं) और घर को एक-एक ईंट करके बनाने से बेहतर था (जो धीमा होता है)।

संक्षेप में: यह शोध पत्र AI को सिखाता है कि बिना 'अहंकारी' हुए आत्मविश्वासी कैसे होना है। यह पूरी तस्वीर स्पष्ट होने से पहले अंतिम विवरणों के लिए रुकना सीखता है, जिससे यह सुनिश्चित होता है कि उत्तर पूर्ण और सही दोनों हो।

तकनीकी सारांश: जब आत्मविश्वास गुमराह करता है: डिफ्यूजन लैंग्वेज मॉडल्स के लिए सफिक्स एंकरिंग और एंकर-प्रॉक्सिमिटी कॉन्फिडेंस मॉड्यूलेशन

समस्या विवरण (Problem Statement)

डिफ्यूजन लैंग्वेज मॉडल्स (DLMs) मास्क किए गए टोकन अनुक्रमों को पुनरावृत्ति से डीनोइज़ करके टेक्स्ट जनरेट करते हैं, जिससे कई स्थितियों का समानांतर डिकोडिंग (parallel decoding) संभव हो पाता है। पूरी तरह से नॉन-ऑटोरेग्रेसिव (fully non-AR) डिकोडिंग में एक केंद्रीय इन्फरेंस-टाइम चुनौती यह निर्धारित करना है कि प्रत्येक चरण में किन मास्क किए गए स्थानों (positions) को अनमास्क किया जाना चाहिए। अधिकांश ट्रेनिंग-फ्री रणनीतियाँ मॉडल कॉन्फिडेंस (आत्मविश्वास) पर निर्भर करती हैं, जो इस धारणा पर काम करती हैं कि उच्च-कॉन्फिडेंस वाले स्थान डिकोड होने के लिए तैयार हैं।

यह शोध पत्र दो महत्वपूर्ण विफलता मोड की पहचान करता है जहाँ यह धारणा उप-इष्टतम (suboptimal) जनरेशन की ओर ले जाती है:

EOT ओवरकॉन्फिडेंस: इंस्ट्रक्शन-ट्यून्ड DLMs अक्सर डिकोडिंग प्रक्रिया के शुरुआती चरणों में एंड-ऑफ-टेक्स्ट (EOT) टोकन को उच्च आत्मविश्वास प्रदान करते हैं। कॉन्फिडेंस-आधारित रणनीतियाँ इन टोकनों को समय से पहले अनमास्क कर देती हैं, जिसके परिणामस्वरूप अपूर्ण या अत्यंत संक्षिप्त जनरेशन होता है।
एंकर-प्रेरित स्थानीय ओवरकॉन्फिडेंस: पहले मुद्दे के लिए एक सरल समाधान सफिक्स एंकरिंग (suffix anchoring) है—जो रिस्पॉन्स क्षेत्र के अंत के पास एक छोटा संरचनात्मक संकेत (जैसे, "The answer is") सम्मिलित करता है ताकि निरंतरता को बढ़ावा दिया जा सके। हालाँकि, यह एक नया विफलता मोड पेश करता है: एंकर, पर्याप्त पूर्ववर्ती संदर्भ (preceding context) उत्पन्न होने से पहले ही उसके ठीक बगल के टोकन में भ्रामक रूप से उच्च आत्मविश्वास प्रेरित करता है। फलस्वरूप, कॉन्फिडेंस-आधारित डिकोडिंग इन एंकर-निकटवर्ती टोकनों को बहुत जल्दी अनमास्क कर देती है, जिससे गलत आउटपुट प्राप्त होते हैं (जैसे, रीजनिंग स्टेप्स पूरे होने से पहले ही अंतिम उत्तर जेनरेट हो जाना)।

कार्यप्रणाली (Methodology)

लेखक सफिक्स-एंकरड कॉन्फिडेंस मॉड्यूलेशन (Suffix-Anchored Confidence Modulation) का प्रस्ताव करते हैं, जो एक ट्रेनिंग-फ्री, प्लग-एंड-प्ले विधि है जो सफिक्स एंकरिंग को एक डायनेमिक कॉन्फिडेंस रीवेटिंग तंत्र के साथ जोड़ती है। यह विधि दो मुख्य घटकों से बनी है:

1. सफिक्स एंकरिंग (Suffix Anchoring)

डिकोडिंग शुरू होने से पहले, रिस्पॉन्स क्षेत्र के अंत के पास (जैसे, अंत से 20 स्थान पहले) एक छोटा सफिक्स एंकर सम्मिलित किया जाता है। यह रिस्पॉन्स निरंतरता के लिए एक हल्का संकेत (cue) के रूप में कार्य करता है, जो EOT टोकन को स्पष्ट रूप से दबाने या मॉडल को पुनः प्रशिक्षित करने की आवश्यकता के बिना, समयपूर्व EOT जनरेशन को रोकता है।

2. एंकर-प्रॉक्सिमिटी कॉन्फिडेंस मॉड्यूलेशन (Anchor-Proximity Confidence Modulation)

एंकर द्वारा प्रेरित स्थानीय ओवरकॉफिडेंस को संबोधित करने के लिए, यह विधि दो कारकों के आधार पर कॉन्फिडेंस स्कोर को मॉड्युलेट करती है: स्थानिक निकटता (spatial proximity) और डिकोडिंग प्रोग्रेस (decoding progress)।

एंकर-प्रॉक्सिमिटी वेट ( $w_i$ ): प्रत्येक टोकन स्थिति $i$ को एंकर सेट $A$ से उसकी दूरी के आधार पर एक वेट दिया जाता है। एंकर के करीब स्थित स्थितियाँ उच्च वेट प्राप्त करती हैं, जो यह दर्शाता है कि वे समयपूर्व डिकोडिंग के प्रति अधिक संवेदनशील हैं।
$w_i = \min\left\{1, \beta \max_{a \in A} \exp\left(-\frac{|i - a|}{\kappa}\right)\right\}$
यहाँ, $\kappa$ स्थानिक क्षय (spatial decay) को नियंत्रित करता है, और $\beta$ मॉड्यूलेशन स्ट्रेंथ को नियंत्रित करता है।
प्रोग्रेस-डिपेंडेंट रीवेटिंग (Progress-Dependent Reweighting): डिकोडिंग प्रोग्रेस $p(t)$ का उपयोग करके कॉन्फिडेंस स्कोर $c_i^{(t)}$ को $\tilde{c}_i^{(t)}$ में रीवेट किया जाता है, जहाँ $p(t)$ अनमास्क किए गए टोकनों का अंश है:
$\tilde{c}_i^{(t)} = c_i^{(t)} \left(1 - w_i (1 - p(t))^\gamma\right)$
- अर्ली डिकोडिंग (Early Decoding): जब $p(t)$ कम होता है (शुरुआती चरणों में), तो $(1 - p(t))^\gamma$ का मान बड़ा होता है। यह एंकर के पास की स्थितियों के कॉन्फिडेंस को काफी कम कर देता है, जिससे समयपूर्व अनमास्किंग रुक जाती है।
- लेट डिकोडिंग (Late Decoding): जैसे-जैसे $p(t) \to 1$ होता है, डाउन-वेटिंग फैक्टर शून्य के करीब पहुँच जाता है, जिससे कॉन्फिडेंस स्कोर अपने मूल मानों पर वापस आ जाते हैं। यह सुनिश्चित करता है कि पर्याप्त संदर्भ उत्पन्न होने के बाद, मानक कॉन्फिडेंस-आधारित चयन व्यवहार बहाल हो जाए।

इस विधि के लिए किसी मॉडल ट्रेनिंग, सहायक मॉड्यूल, या आर्किटेक्चरल बदलाव की आवश्यकता नहीं है।

मुख्य परिणाम (Key Results)

इस विधि का मूल्यांकन LLaDA 8B-Instruct, Dream 7B-Instruct, और LaViDa-Instruct जैसे मॉडल्स का उपयोग करके टेक्स्ट-ओनली रीजनिंग, विजन-लैंग्वेज रीजनिंग, और कोड-जेनरेशन बेंचमार्क पर किया गया।

प्रदर्शन लाभ (Performance Gains): यह विधि सभी बेंचमार्क पर लगातार पूरी तरह से नॉन-AR डिकोडिंग में सुधार करती है।
- GSM8K (गणित रीजनिंग) पर LLaDA और टॉप-प्रोबेबिलिटी डिकोडिंग के साथ, सटीकता 14.94% (बेसलाइन) से बढ़कर 76.88% हो गई।
- MATH-500 पर भी इसी तरह के महत्वपूर्ण सुधार देखे गए (जैसे, 14.60% से 29.00%)।
- विज़न-लैंग्वेज कार्यों (MathVista, ChartQA) में, इसने टॉप-प्रोबेबिलिटी डिकोडिंग को औसतन 25.56% से बढ़ाकर 40.26% कर दिया।
विकल्पों के साथ तुलना (Comparison with Alternatives):
- EOT सप्रेशन के विरुद्ध: प्रस्तावित विधि सभी बेंचमार्क में स्पष्ट EOT सप्रेशन (जो EOT टोकन कॉन्फिडेंस को $-\infty$ सेट करता है) से बेहतर प्रदर्शन करती है, जो बताता है कि कॉन्फिडेंस मॉड्यूलेशन के साथ स्ट्रक्चरल गाइडेंस अधिक प्रभावी है।
- सेमी-AR डिकोडिंग के विरुद्ध: यह विधि विभिन्न स्टेप बजट के तहत सेमी-ऑटोरेग्रेसिव डिकोडिंग (जो ब्लॉक्स में जनरेट करती है) से बेहतर प्रदर्शन करती है। विशेष रूप से, सीमित स्टेप बजट (जैसे, $T=32$ ) के तहत, मॉड्यूलेशन के साथ पूरी तरह से नॉन-AR विधि ने GSM8K पर 57.70% सटीकता प्राप्त की, जो सर्वश्रेष्ठ सेमी-AR कॉन्फ़िगरेशन (36.32%) से काफी अधिक थी, जो लचीले समानांतर स्थिति चयन (parallel position selection) के महत्व को प्रदर्शित करती है।
दक्षता (Efficiency): यह विधि नगण्य ओवरहेड पेश करती है। थ्रूपुट और लेटेंसी बेसलाइन के समान रहती है (लगभग 25.0 टोकन/सेकंड और 10.2 सेकंड/सैंपल)।

महत्व और दावे (Significance and Claims)

यह शोध पत्र दावा करता है कि पूरी तरह से नॉन-AR DLMs में कॉन्फिडेंस-आधारित स्थिति चयन एक मोनोलिथिक सिग्नल नहीं है; यह विशिष्ट संदर्भों (EOT टोकन और एंकर-निकटवर्ती क्षेत्र) में भ्रामक हो सकता है। इस कार्य का महत्व निम्नलिखित में निहित है:

एक विशिष्ट विफलता मोड की पहचान: यह उजागर करता है कि केवल स्ट्रक्चरल एंकर्स (सफिक्स एंकरिंग) जोड़ना पर्याप्त नहीं है और यदि इसे डायनेमिक कॉन्फिडेंस हैंडलिंग के साथ नहीं जोड़ा गया, तो यह नए एरर (लोकल ओवरकॉन्फिडेंस) पैदा कर सकता है।
एक सरल, ट्रेनिंग-फ्री समाधान: प्रस्तावित 'सफिक्स-एंकरड कॉन्फिडेंस मॉड्यूलेशन' एक मजबूत, प्लग-एंड-प्ले सुधार प्रदान करता है जो जनरेशन की गुणवत्ता या मॉडल अनुकूलन की आवश्यकता के बिना, पूरी तरह से नॉन-AR जनरेशन के समानांतर डिकोडिंग लाभों को बनाए रखता है।
व्यापक प्रयोज्यता: यह विधि विविध कार्यों (गणित, कॉमनसेन्स रीजनिंग, विजन-लैंग्वेज, कोड) और विभिन्न बेस मॉडल्स में प्रभावी है, जो यह दर्शाता है कि स्ट्रक्चरल क्यूज़ और कॉन्फिडेंस डायनेमिक्स के बीच का संबंध डिफ्यूजन-आधारित टेक्स्ट जनरेशन में एक मौलिक चुनौती है।

लेखक सीमाओं को स्वीकार करते हुए नोट करते हैं कि यह विधि उन त्रुटियों को ठीक नहीं करती है जो मॉडल के ज्ञान या रीजनिंग क्षमता की कमी से उत्पन्न होती हैं, बल्कि यह उस समय टोकन के चयन को अनुकूलित करती है जब मॉडल का कॉन्फिडेंस उच्च लेकिन संभावित रूप से समयपूर्व होता है। वे यह भी सुझाव देते हैं कि हालांकि यह विधि विभिन्न एंकर विकल्पों और स्थितियों के प्रति मजबूत है, भविष्य के कार्य एंकर चयन के लिए एडेप्टिव रणनीतियों की खोज कर सकते हैं।