💬 NLP

Breaking the Likelihood Trap: Variance-Calibrated Modulation for Large Language Model Decoding

यह शोध पत्र वेरिएंस-कैलिब्रेटेड मॉड्यूलेशन (VCM) प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त डिकोडिंग हस्तक्षेप है जो दोहरावदार और नीरस LLM जनरेशन के "लाइकलीहुड ट्रैप" (संभावना जाल) को दूर करने के लिए कॉन्टेक्स्टुअल सर्चलाइट और एडेप्टिव सेल्फ-डिबायसिंग का उपयोग करके संभाव्यता वितरणों को गतिशील रूप से नया आकार देता है, जिससे नगण्य कम्प्यूटेशनल ओवरहेड के साथ विविधता, सुसंगतता और तर्क सटीकता में वृद्धि होती है।

मूल लेखक: Yuanhao Ding, Meimingwei Li, Esteban Garces Arias, Matthias Aßenmacher, Christian Heumann, Chongsheng Zhang

प्रकाशित 2026-06-23

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yuanhao Ding, Meimingwei Li, Esteban Garces Arias, Matthias Aßenmacher, Christian Heumann, Chongsheng Zhang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, विद्वान रोबोट से कोई कहानी सुनाने, कोई सामान्य ज्ञान का प्रश्न पूछने या गणित की समस्या हल करने के लिए कह रहे हैं। आप उम्मीद करते हैं कि वह एक इंसान की तरह व्यवहार करे: रचनात्मक, विविध और तार्किक। लेकिन अक्सर, रोबोट एक उबाऊ लूप में फंस जाता है। वह एक ही वाक्यांशों को दोहराता है, उन्हीं सुरक्षित शब्दों का उपयोग करता है, या भ्रमित होकर बेतुकी बातें (hallucinations) करने लगता है।

इस शोध पत्र के लेखक इसे "Likelihood Trap" (संभावना का जाल) कहते हैं।

यहाँ एक सरल विवरण दिया गया है कि यह क्यों होता है और उनका नया तरीका, VCM (Variance-Calibrated Modulation) इसे कैसे ठीक करता है।

समस्या: रोबोट की दो बुरी आदतें

शोध पत्र पहचानता है कि AI टेक्स्ट जनरेशन अक्सर "रोबोटिक" क्यों महसूस होता है, इसके दो मुख्य कारण हैं:

"सुरक्षित शब्द" की आदत (नीरसता):
कल्पना कीजिए कि रोबोट के पास एक विशाल शब्दकोश है। जब उसे अगला शब्द चुनने की आवश्यकता होती है, तो वह आमतौर पर शब्दकोश में सबसे लोकप्रिय, सुरक्षित शब्द (जैसे "the," "is," या "and") चुनता है। यह एक ऐसे शेफ की तरह है जो केवल नमक का उपयोग करता है क्योंकि यह सबसे आम सामग्री है। परिणाम? कहानी व्याकरण की दृष्टि से सही है लेकिन अविश्वसनीय रूप से उबाऊ और दोहराव वाली है।

वर्तमान समाधान: मौजूदा तरीके सूची के निचले हिस्से में मौजूद "अजीब" शब्दों को काटने की कोशिश करते हैं। लेकिन यह केवल रोबोट को सूची के शीर्ष से ही शब्द चुनने के लिए मजबूर करता है, जिससे "सुरक्षित शब्द" की समस्या और भी बदतर हो जाती है।

"ब्रूट फोर्स" की आदत (दोहराव):
रोबोट को खुद को दोहराने से रोकने के लिए, डेवलपर्स आमतौर पर एक "रिपिटिशन पेनल्टी" (दोहराव दंड) का उपयोग करते हैं। इसे एक शिक्षक के रूप में सोचें जो कहता है, "यदि आपने 'cat' शब्द फिर से लिखा, तो मैं आपके 5 अंक काट लूँगा।"

दोष: यह दंड निश्चित (fixed) है। यह एक ही भारी हथौड़े का उपयोग करके ढीले पेंच और टूटी हुई खिड़की को ठीक करने जैसा है।
- यदि रोबोट बहुत आश्वस्त है (उसे पता है कि उसे क्या कहना है), तो एक छोटा दंड उसे लूप में फंसने से रोकने के लिए पर्याप्त नहीं है।
- यदि रोबोट अनिश्चित है (वह अनुमान लगा रहा है), तो वही भारी दंड उसके तर्क को कुचल सकता है, जिससे वाक्य की संरचना टूट सकती है या वह तथ्य गढ़ने लग सकता है।

समाधान: VCM (स्मार्ट एडिटर)

लेखक VCM का प्रस्ताव देते हैं, जो एक "ट्रेनिंग-फ्री" टूल है। इसका मतलब है कि उन्हें रोबोट को बोलने के लिए फिर से नहीं सिखाना पड़ा; उन्होंने बस उसे अपने विचारों को बोलने से पहले देखने के लिए बेहतर चश्मे दिए।

VCM एक स्मार्ट एडिटर की तरह कार्य करता है जो दो विशिष्ट तरीकों से रोबोट के विकल्पों को बदल देता है:

1. "कॉन्टेक्स्टुअल सर्चलाइट" (PMI)

रूपक: कल्पना कीजिए कि रोबोट एक अंधेरे कमरे में है जो फर्नीचर से भरा है। कुछ फर्नीचर (जैसे "the" या "is") हर जगह है, इसलिए उन्हें देखना कठिन है। अन्य फर्नीचर उस विशिष्ट कोने के लिए अद्वितीय है जहाँ रोबोट वर्तमान में मौजूद है।
यह कैसे काम करता है: VCM वर्तमान विषय पर एक "सर्चलाइट" (खोजबीन की रोशनी) डालता है। यह उन वैश्विक, उबाऊ शब्दों को धुंधला कर देता है जो हर जगह दिखाई देते हैं और उन शब्दों को चमकाता है जो अभी इस कहानी के लिए विशेष रूप से प्रासंगिक हैं।
परिणाम: रोबोट सामान्य शब्दों पर निर्भर रहना बंद कर देता है और ऐसे शब्द चुनने लगता है जो वास्तव में संदर्भ के अनुकूल होते हैं, जिससे टेक्स्ट अधिक मानवीय और कम दोहराव वाला लगता है।

2. एडेप्टिव सेल्फ-डिबायसिंग (परिवर्तनीय हथौड़ा)

रूपक: एक निश्चित हथौड़े के बजाय, VCM एक स्मार्ट, एडजस्टेबल रिंच (adjustable wrench) का उपयोग करता है।
यह कैसे काम करता है: रोबोट द्वारा शब्द चुनने से पहले, VCM यह जांचता है कि रोबलेट उस सटीक क्षण में कितना "आत्मविश्वास" महसूस कर रहा है।
- यदि रोबोट बहुत आश्वस्त है (वह खुद को दोहराने वाले लूप में फंसने वाला है), तो VCM लूप को तोड़ने के लिए एक मजबूत दंड लागू करता है।
- यदि रोबोट अनिश्चित है (वह गणित की समस्या पर गहराई से सोच रहा है), तो VCM एक हल्का दंड लागू करता है ताकि वह गलती से उसके तर्क को न कुचल दे।
परिणाम: रोबोट को आगे बढ़ने के लिए सही मात्रा में "धक्का" मिलता है ताकि वह अपने विचार के प्रवाह को तोड़े बिना आगे बढ़ सके।

यह क्यों मायने रखता है (परिणाम)

शोध पत्र ने तीन प्रकार के कार्यों पर इसका परीक्षण किया:

रचनात्मक लेखन (Creative Writing): कहानियाँ कम दोहराव वाली और अधिक विविध बनीं, जो बहुत अधिक मानव-लिखित जैसी लगीं।
तथ्यात्मक प्रश्न (Trivia): रोबोट ने अधिक सटीक उत्तर दिए और उन्हें समझाने के लिए विविध शब्दों का उपयोग किया।
गणित/तर्क (Math/Logic): रोबोट भ्रमित नहीं हुआ। उसने समस्याओं को सही ढंग से हल किया, भले ही कार्य कठिन था।

सबसे अच्छी बात?
यह अविश्वसनीय रूप से तेज़ है। जबकि अन्य तरीके अतिरिक्त गणनाएं करवाकर रोबोट को धीमा कर देते हैं, VCM एक त्वरित मानसिक बदलाव की तरह है। यह लगभग शून्य देरी जोड़ता है (मानक पद्धति से केवल लगभग 1% धीमा), जिससे इसे किसी भी मौजूदा AI सिस्टम में लगाना आसान हो जाता है।

सारांश

यह शोध पत्र तर्क देता है कि वर्तमान AI डिकोडिंग विधियाँ बहुत कठोर हैं। या तो वे AI को बहुत सुरक्षित (नीरस) होने के लिए मजबूर करते हैं (या तर्क को तोड़ देते हैं)। VCM इसे एक गतिशील, संदर्भ-जागरूक एडिटर के रूप में कार्य करके ठीक करता है जो जानता है कि AI को रचनात्मकता की ओर कब धकेलना है और कब उसके तर्क को बहने देना है, और यह सब बिना मॉडल को फिर से प्रशिक्षित किए किया जाता है।

तकनीकी सारांश: वैरियेंस-कैलिब्रेटेड मॉड्यूलेशन (VCM) फॉर LLM डिकोडिंग

1. समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल्स (LLMs) अक्सर ओपन-एंडेड जनरेशन के दौरान "लाइकलीहुड ट्रैप" (likelihood trap) से जूझते हैं, जो दो प्राथमिक विफलता मोडों द्वारा पहचाना जाता है: डिजनरेशन (यांत्रिक, दोहराव वाले लूप) और डलनेस (उच्च-आवृत्ति वाले सुरक्षित शब्दावली पर अत्यधिक निर्भरता)। यह मशीन-जनित और मानव-लिखित पाठ के बीच एक महत्वपूर्ण विसंगति पैदा करता है।

वर्तमान डिकोडिंग रणनीतियाँ इसे दो मुख्य दृष्टिकोणों के माध्यम से कम करने का प्रयास करती हैं, जिनमें दोनों की सीमाएँ हैं:

पोस्ट-होक टेल ट्रंकेशन (Post-hoc Tail Truncation): Top-k, Top-p, और Min-p जैसी विधियाँ अनिश्चितता वाली प्रोबेबिलिटी डिस्ट्रीब्यूशन के "टेल" (tail) को फ़िल्टर कर देती हैं। हालाँकि, पेपर का तर्क है कि यह दृष्टिकोण मानवीय लेक्सिकल प्राथमिकताओं के साथ मेल नहीं खाता है। मनुष्य अक्सर मिड-टियर (रैंक 3–12) या टेल से टोकन चुनते हैं, जबकि ट्रंकेशन रणनीतियाँ मॉडल को एक अन-कैलिब्रेटेड, अत्यधिक सघन "हेड" (रैंक 1–2) से ओवरसैंपल करने के लिए मजबूर करती हैं, जिससे प्रेडिक्टेबिलिटी और डलनेस बढ़ जाती है।
फिक्स्ड स्केलर पेनल्टीज़ (Fixed Scalar Penalties): प्री-डिकोडिंग हस्तक्षेप, जैसे कि मानक रिपिटिशन पेनल्टी, पहले से जनरेट किए गए टोकन पर एक निश्चित स्केलर घटाव लागू करते हैं। यह विभिन्न इन्फरेंस स्टेप्स में लॉजिट स्केल्स के वेरिएंस (variance) को अनदेखा करता है। एक फिक्स्ड पेनल्टी शार्प (उच्च-विश्वास) डिस्ट्रीब्यूशन पर नगण्य हो सकती है लेकिन फ्लैट (उच्च-एन्ट्रॉपी) डिस्ट्रीब्यूशन पर सिमेंटिक कोहेरेंस को विनाशकारी रूप से बाधित कर सकती है, या इसके विपरीत, शार्प डिस्ट्रीब्यूशन पर लूप्स को तोड़ने के लिए अपर्याप्त हो सकती है।

2. कार्यप्रणाली: वैरियेंस-कैलिब्रेटेड मॉड्यूलेशन (VCM)

लेखक वैरियेंस-कैलिब्रेटेड मॉड्यूलेशन (VCM) का प्रस्ताव करते हैं, जो एक ट्रेनिंग-फ्री, प्री-डिकोडिंग हस्तक्षेप है जो किसी भी ट्रंकेशन को लागू करने से पहले प्रोबेबिलिटी डिस्ट्रीब्यूशन को नया आकार देता है। VCM सीधे लॉजिट स्पेस ( $z_t$ ) में काम करता है और दो डायनेमिक मैकेनिज्म को जोड़ता है:

A. PMI के माध्यम से कॉन्टेक्स्टुअल सर्चलाइट (Contextual Searchlight via PMI)

डलनेस और जेनेरिक स्टॉपवर्ड्स पर अत्यधिक निर्भरता को संबोधित करने के लिए, VCM वर्तमान संदर्भ के लिए विशिष्ट टोकन को बढ़ावा देता है।

मैकेनिज्म: यह पॉइंटवाइज म्यूचुअल इंफॉर्मेशन (PMI) को एक पूर्व-निर्धारित प्रायोर लॉजिट वेक्टर ( $z_{prior}$ ) को वर्तमान लॉजिट्स ( $z_t$ ) से घटाकर अनुमानित करता है।
कार्यान्वयन (Implementation): $z_{prior}$ एक अनकंडीशनल फॉरवर्ड पास (जैसे, खाली स्ट्रिंग या सिंगल BOS टोकन) के माध्यम से प्राप्त किया जाता है।
प्रभाव: ऑपरेशन $S_{prior} = z_t - z_{prior}$ सॉफ्टमैक्स फंक्शन की ट्रांसलेशन इनवेरिएंस के कारण सटीक कॉन्टेक्स्टुअल PMI के प्रॉक्सी के रूप में कार्य करता है। यह स्वाभाविक रूप से ग्लोबली हाई-फ्रीक्वेंसी टोकन को दबाता है और वर्तमान संदर्भ द्वारा विशिष्ट रूप से प्रेरित टोकन को ऊपर उठाता है।

B. डिस्ट्रिब्यूशनल वेरिएंस के माध्यम से एडेप्टिव सेल्फ-डिबिएसिंग (Adaptive Self-Debiasing via Distributional Variance)

सिमेंटिक कोहेरेंस को बाधित किए बिना डिजनरेशन को संबोधित करने के लिए, VCM फिक्स्ड स्केलर पेनल्टी के स्थान पर एक स्केल-इनवेरिएंट मैकेनिज्म का उपयोग करता है।

मैकेनिज्म: पेनल्टी का परिमाण वर्तमान लॉजिट वेक्टर के रियल-टाइम स्टैंडर्ड डेविएशन ( $\sigma_t$ ) द्वारा निर्धारित होता है।
कार्यान्वयन: यदि कोई टोकन $w_i$ लोकल कॉन्टेक्स्ट विंडो $W$ में $c_i$ बार दिखाई देता है, तो एडेप्टिव कॉस्ट $C_{rep, i} = c_i \cdot \sigma_t$ होती है।
प्रभाव: यह सुनिश्चित करता है कि हस्तक्षेप मॉडल के आत्मविश्वास के अनुपात में हो। जब मॉडल अत्यधिक आश्वस्त होता है (बड़ा $\sigma_t$ ), तो पेनल्टी रिपिटिशन लूप्स को जबरन तोड़ने के लिए स्केल अप होती है। जब मॉडल अनिश्चित होता है (छोटा $\sigma_t$ ), तो पेनल्टी रिलैक्स हो जाती है, जिससे नाजुक, लो-कॉन्फिडेंस प्रेडिक्शन के दबने से बचाव होता है।

C. यूनिफाइड मॉड्यूलेशन (Unified Modulation)

अंतिम मॉड्यूलेटेड लॉजिट्स ( $\tilde{z}_t$ ) की गणना इस प्रकार की जाती है:
$\tilde{z}_t = z_t + \alpha \cdot [ (z_t - z_{prior}) - C_{rep} ]$
जहाँ $\alpha$ एक मिक्सिंग कोएफिशिएंट है। लेखक नोट करते हैं कि $z_t$ पर लागू कोएफिशिएंट $(1+\alpha)$ एक इम्प्लिसिट टेम्परेचर स्केलिंग ( $T = 1/(1+\alpha)$ ) के रूप में कार्य करता है, जो प्रोबेबिलिटी लैंडस्केप को शार्पन करने में मदद करता है और न्यूक्लियस सैंपलिंग के साथ अनुकूल रूप से इंटरैक्ट करता है।

3. मुख्य योगदान (Key Contributions)

VCM फ्रेमवर्क: एक नया, ट्रेनिंग-फ्री तरीका जो लाइकलीहुड ट्रैप और फ्रंट-हैवी सैंपलिंग बायस को कम करने के लिए ट्रंकेशन से पहले लॉजिट स्पेस में हस्तक्षेप करता है।
डुअल-मैकेनिज्म डिज़ाइन: संदर्भ-प्रासंगिक टोकन को ऊपर उठाने के लिए PMI-आधारित कॉन्टेक्स्टुअल सर्चलाइट और लॉजिक को नष्ट किए बिना लूप्स को बाधित करने के लिए स्केल-इनवेरिएंट एडेप्टिव सेल्फ-डिबिएसिंग पेनल्टी का एकीकरण।
इम्प्लिसिट टेम्परेचर स्केलिंग: VCM फॉर्मूलेशन स्वाभाविक रूप से टेम्परेचर-स्केलिंग प्रभाव प्रदान करता है, जो इसके टॉप-p सैंपलिंग के साथ अनुभवजन्य तालमेल (empirical synergy) की व्याख्या करता है।
दक्षता (Efficiency): यह विधि मौजूदा बेसलाइन्स की तुलना में नगण्य कम्प्यूटेशनल ओवरहेड पेश करती है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने Qwen3-8B और LLaMA-3-8B-Instruct पर तीन कार्य श्रेणियों में VCM का मूल्यांकन किया: ओपन-एंडेड जनरेशन, फैक्टुअल QA, और मैथमेटिकल रीजनिंग।

ओपन-एंडेड जनरेशन (Wikitext):
- VCM ने सभी बेसलाइन सैंपलर्स (Top-k, Top-p, Min-p, आदि) में निरंतर रिपिटेशन (Rep-2) को कम किया और लेक्सिकल डाइवर्सिटी (Distinct-2) को बढ़ाया।
- इसने MAUVE (मानव टेक्स्ट वितरण के साथ बेहतर संरेखण को दर्शाता है) और BERTScore में महत्वपूर्ण लाभ प्राप्त किया।
- LLM-as-a-Judge मूल्यांकन ने सभी सेटिंग्स में बेसलाइन्स की तुलना में VCM आउटपुट को प्राथमिकता दी।
- टोकन रैंक विश्लेषण ने दिखाया कि VCM ने चयनों को एब्सोल्यूट टॉप (रैंक 1–2) से मिड-टियर (रैंक 3–12) की ओर स्थानांतरित किया, जो मानव वितरण पैटर्न की नकल करता है।
फैक्टुअल QA (TruthfulQA, TriviaQA):
- VCM ने सभी सैंपलर्स में लेक्सिकल डाइवर्सिटी (TTR) में काफी सुधार किया।
- इसने फैक्टुअल एक्यूरेसी (Truthfulness) और एग्जैक्ट मैच (EM) स्कोर को बनाए रखा या थोड़ा सुधारा, जो बताता है कि यह विधि विविधता के लिए प्रिसिजन का त्याग नहीं करती है।
मैथमेटिकल रीजनिंग (GSM8K, MATH500):
- VCM ने सभी सेटिंग्स में सटीकता को मैच किया या सुधारा।
- सुधार सबसे अधिक उच्च तापमान ( $T=2.0$ ) पर देखे गए, जहाँ बेसलाइन डिकोडिंग आमतौर पर खराब हो जाती है। स्केल-इनवेरिएंट डिज़ाइन ने विधि को वैध डेरिवेशंस के लिए आवश्यक सिम्बल्स और ऑपरेंड्स को संरक्षित करते हुए डिजेनरेट लूप्स से बाहर निकलने में सक्षम बनाया।
दक्षता तुलना (Efficiency Comparison):
- कॉन्ट्रास्टिव डिकोडिंग (CD) और डायनेमिक फोकस डिकोडिंग (DFD) की तुलना में, VCM न्यूनतम लेटेंसी ओवरहेड (~1.01× बेसलाइन) रखता है।
- इसके विपरीत, CD के लिए ~1.5× लेटेंसी (सहायक फॉरवर्ड पास के कारण) की आवश्यकता थी और DFD के लिए >2.5× लेटेंसी की आवश्यकता थी (हिडन-स्टेट डायनेमिक्स के कारण)।

5. महत्व और दावे (Significance and Claims)

पेपर का दावा है कि VCM एक प्लग-एंड-प्ले, ट्रेनिंग-फ्री समाधान प्रदान करता है जो वर्तमान डिकोडिंग रणनीतियों की मौलिक सीमाओं को संबोधित करता है: टेल ट्रंकेशन द्वारा कारण मिसअलाइनमेंट और फिक्स्ड पेनल्टी की कठोरता।

मानवीय प्राथमिकताओं के साथ संरेखण: प्रोबेबिलिटी मास को एक्सट्रीम हेड से मिड-टियर में पुनर्वितरित करके, VCM मशीन जनरेशन को मानव लेक्सिकल वितरण के अधिक निकट लाता है।
मजबूती (Robustness): पेनल्टी की स्केल-इनवेरिएंट प्रकृति VCM को विभिन्न स्तरों के मॉडल कॉन्फिडेंस और विभिन्न प्रकार के कार्यों (क्रिएटिव राइटिंग बनाम स्ट्रिक्ट रीजनिंग) में प्रभावी ढंग से कार्य करने की अनुमति देती है।
दक्षता: अन्य उन्नत हस्तक्षेपों के विपरीत जिन्हें अतिरिक्त मॉडल पास या जटिल स्टेट ट्रैकिंग की आवश्यकता होती है, VCM क्लोज्ड-फॉर्म लॉजिट मैनिपुलेशन के माध्यम से कार्य करता है, जिससे यह प्रोडक्शन उपयोग के लिए अत्यधिक कुशल हो जाता है।

लेखक सीमाओं को स्वीकार करते हुए कहते हैं कि VCM के लिए मिक्सिंग कोएफिशिएंट $\alpha$ के कार्य-निर्भर ट्यूनिंग की आवश्यकता होती है और हालांकि यह विविधता में सुधार करता है, यह सभी ओपन-एंडेड संदर्भों में तथ्यपरकता (factuality) की गारंटी नहीं देता है, जिससे पता चलता है कि इसे हैलुसिनेशन-संवेदनशील अनुप्रयोगों के लिए ग्राउंडिंग मैकेनिज्म के साथ जोड़ा जाना चाहिए।