💬 NLP

Top-b: Entropic Regulation of Relative Probability Bands in Autoregressive Language Processes

यह शोध पत्र Top-b को प्रस्तुत करता है, जो एक नवीन डिकोडिंग रणनीति है जो रचनात्मक सृजन और तार्किक तर्क के बीच संतुलन को अनुकूलित करने के लिए तात्कालिक शैनन एंट्रॉपी (Shannon entropy) के आधार पर कैंडिडेट सैंपलिंग बैंडविड्थ को गतिशील रूप से समायोजित करती है, जिससे रीजनिंग बेंचमार्क पर प्रतिस्पर्धी सटीकता बनाए रखते हुए इंटर-डिकोडिंग वेरिएंस को कम किया जा सके।

मूल लेखक: Deepon Halder, Raj Dabre

प्रकाशित 2026-03-17

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Deepon Halder, Raj Dabre

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप अपने एक बहुत ही बुद्धिमान, लेकिन थोड़े बिखरे हुए दोस्त (AI) के साथ "वाक्य पूरा करो" (Finish the Sentence) का खेल खेल रहे हैं।

हर बार जब आपके दोस्त को अगला शब्द चुनने की आवश्यकता होती है, तो उनके पास संभावनाओं की एक विशाल सूची होती है। कभी-कभी, वे पूरी तरह से सुनिश्चित होते हैं कि उन्हें क्या कहना है (जैसे 2 + 2 = ? हल करना)। अन्य समय में, वे एक कहानी शुरू करने के लिए लाखों समान रूप से अच्छे विचारों के साथ दिवास्वप्न देख रहे होते हैं।

समस्या यह है कि वर्तमान AI उपकरण यह तय करने के लिए एक कठोर नियम पुस्तिका का उपयोग करते हैं कि कौन से शब्द चुने जाएँ। वे कहते हैं, "ठीक है, हम हमेशा शीर्ष 50 शब्दों को देखेंगे," या "हम हमेशा शीर्ष 90% संभावित शब्दों में से चुनेंगे।"

यह मछली पकड़ने के लिए एक निश्चित आकार के जाल का उपयोग करने जैसा है:

एक शांत तालाब में (तर्क/गणित): मछलियाँ एक तंग घेरे में तैर रही हैं। एक बड़ा जाल बेकार है; यह बहुत सारा कचरा (भटकाव) पकड़ लेता है और शायद उस एक सटीक मछली को भी छेद के कारण जाने दे देता है क्योंकि जाल बहुत ढीला है।
एक तूफानी समुद्र में (रचनात्मक लेखन): मछलियाँ हर जगह हैं। एक छोटा जाल बेकार है; यह केवल कुछ मछलियाँ पकड़ता है और उन अद्भुत मछलियों को छोड़ देता है जो छोटे से घेरे के ठीक बाहर तैर रही हैं।

समाधान: Top-b (एक "स्मार्ट जाल")

यह पेपर Top-b नामक एक नई विधि पेश करता है। एक निश्चित जाल के बजाय, Top-b एक स्मार्ट, लचीले जाल का उपयोग करता है जो इस बात पर आधारित होता है कि AI उस सटीक क्षण में कितना भ्रमित है।

यह इस प्रकार काम करता है, एक सरल उपमा का उपयोग करते हुए:

1. "भ्रम मीटर" (एन्ट्रॉपी - Entropy)

AI लगातार अपने स्वयं के "भ्रम मीटर" (जिसे एन्ट्रॉपी कहा जाता है) की जाँच करता है।

कम भ्रम: AI जानता है कि उसे क्या कहना है (जैसे, "फ्रांस की राजधानी है...")। मीटर कम है।
उच्च भ्रम: AI अनिश्चित है और उसके पास कई विकल्प हैं (जैसे, "एक समय की बात है...")। मीटर उच्च है।

2. लचीली बैंडविड्थ

Top-b अपने "जाल" के आकार को सीधे इस मीटर से जोड़ता है।

जब AI आश्वस्त होता है (कम एन्ट्रॉपी): जाल सिकुड़ जाता है। यह बहुत तंग हो जाता है, केवल सबसे अच्छे, सबसे स्पष्ट शब्दों पर ध्यान केंद्रित करता है। यह उन अजीब, कम-संभावना वाले शब्दों को अनदेखा कर देता है जो AI को भ्रमित कर सकते हैं या गणित की गलती करने पर मजबूर कर सकते हैं।
- उपमा: एक सर्जन के बारे में सोचें जो एक नाजुक ऑपरेशन कर रहा है। वे उपकरणों का एक विस्तृत जाल नहीं चाहते; वे सटीक होने के लिए एक लेजर-केंद्रित, छोटा जाल चाहते हैं।
जब AI रचनात्मक होता है (उच्च एन्ट्रॉपी): जाल विस्तारित होता है। यह दिलचस्प शब्दों की एक विस्तृत विविधता को शामिल करने के लिए फैल जाता है, जिससे AI को रचनात्मकता और आश्चर्य की अनुमति मिलती है।
- उपमा: एक जैज़ संगीतकार के बारे में सोचें जो सुधार (improvising) कर रहा है। उन्हें नई धुनें खोजने के लिए नोट्स के एक व्यापक जाल की आवश्यकता होती है।

यह बेहतर क्यों है?

इस पेपर ने दो प्रकार के कार्यों पर इसका परीक्षण किया:

कठिन गणित और तर्क (GPQA/GSM8K): यहाँ, AI को एक रोबोट की तरह होने की आवश्यकता है। पुराने तरीके (जैसे Top-p) कभी-कभी "भटकाने वाले" शब्दों को अंदर आने देते हैं, जिससे AI अपने तर्क के रास्ते से भटक सकता है। Top-b एक सख्त संपादक के रूप में कार्य करता है, शोर को काट देता है और AI को तार्किक पथ पर टिके रहने के लिए मजबूर करता है। परिणाम? कम गलतियाँ और अधिक सुसंगत उत्तर।
रचनात्मक लेखन: यहाँ, AI को एक कलाकार होने की आवश्यकता है। Top-b स्वचालित रूप से नियमों को ढीला कर देता है जब AI "रचनात्मक महसूस कर रहा होता है," ताकि वह अच्छे विचारों को केवल इसलिए न काट दे क्योंकि नियम बहुत सख्त थे।

निचोड़

वर्तमान AI डिकोडिंग एक कार चलाने जैसा है जिसमें क्रूज कंट्रोल एक निश्चित गति पर सेट है, चाहे आप एक सीधे राजमार्ग पर हों या घुमावदार पहाड़ी सड़क पर। आप मोड़ों पर टकरा जाते हैं या राजमार्ग पर बहुत धीरे चलते हैं।

Top-b एक अनुकूली क्रूज कंट्रोल (adaptive cruise control) की तरह है। यह सड़क कठिन होने पर (तर्क/गणित) अपने नियंत्रण को सख्त करता है और गति को धीमा कर देता है, और जब सड़क खुली हो (रचनात्मकता) तो यह तेज होता है और ढीला हो जाता है।

परिणामस्वरूप, एक ऐसा AI मिलता है जो समस्याओं को हल करते समय कम मूर्खतापूर्ण गलतियाँ करता है, लेकिन कहानियाँ सुनाते समय अभी भी मजेदार और रचनात्मक रहता है, और यह सब बिना किसी सेटिंग को बदले किया जाता है।

यहाँ शोध पत्र "Top-b: Autoregressive Language Processes में Relative Probability Bands का Entropic Regulation" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

ऑटोरेग्रेसिव लार्ज लैंग्वेज मॉडल्स (LLMs) टेक्स्ट को एक डिस्क्रीट स्टोकेस्टिक प्रक्रिया के रूप में उत्पन्न करते हैं। डिकोडिंग की मुख्य चुनौती मॉडल के निरंतर संभाव्यता वितरण (continuous probability distribution) को एक एकल डिस्क्रीट टोकन चयन में बदलना है।

स्थिर डिकोडिंग की सीमा (The Limitation of Static Decoding): मानक रणनीतियाँ जैसे Top-k (निश्चित संख्या) और Top-p (निश्चित संचयी संभाव्यता द्रव्यमान) स्थिर हाइपरपैरामीटर्स पर निर्भर करती हैं। वे भाषा की गैर-स्थिर प्रकृति (non-stationary nature of language uncertainty) को समझने में विफल रहती हैं।
- निम्न-एन्ट्रॉपी अवस्थाएँ (जैसे तर्क/गणित): वितरण शिखर (peaked) पर होता है। स्थिर थ्रेशोल्ड (जैसे $p=0.9$ ) बहुत अधिक उदार होते हैं, जिससे कम संभाव्यता वाले "डिस्ट्रैक्टर" (distractor) टोकन सैंपलिंग पूल में प्रवेश कर जाते हैं, जिससे तार्किक त्रुटियाँ या मतिभ्रम (hallucinations) हो सकते हैं।
- उच्च-एन्ट्रॉपी अवस्थाएँ (जैसे रचनात्मक लेखन): वितरण सपाट होता है। स्थिर थ्रेशोल्ड बहुत अधिक प्रतिबंधात्मक हो सकते हैं, जो वैध रचनात्मक विकल्पों को मनमाने ढंग से काट देते हैं और विविधता को कम कर देते हैं।
अंतराल (The Gap): मौजूदा विधियों में जनरेशन स्टेप की तात्कालिक सूचना घनत्व (information density/uncertainty) के आधार पर सैंपलिंग पूल की "कठोरता" को गतिशील रूप से समायोजित करने वाले तंत्र का अभाव है।

2. कार्यप्रणाली: Top-b (Adaptive Relative Band Sampling)

लेखक Top-b प्रस्तावित करते हैं, जो मॉडल के वितरण के तात्कालिक शैनन एन्ट्रॉपी (instantaneous Shannon entropy) से सख्ती से जुड़े एक गतिशील बैंडविड्थ गुणांक के माध्यम से कैंडिडेट सेट को नियंत्रित करता है।

मुख्य औपचारिकता (Core Formalism)

स्टोकेस्टिक प्रक्रिया: जनरेशन को एक अनुक्रम $Y = \{Y_t\}$ के रूप में मॉडल किया गया है जहाँ $P(Y_t | Y_{<t})$ कंडीशनल प्रोबेबिलिटी वेक्टर है।
अनिश्चितता का परिमाणीकरण (Uncertainty Quantification): मॉडल के आत्मविश्वास को शैनन एन्ट्रॉपी ( $H$ ) का उपयोग करके मापा जाता है:
$H(p_t) = -\sum_{y \in V} p_t(y) \log p_t(y)$
- निम्न $H$ : उच्च आत्मविश्वास (peaked distribution)।
- उच्च $H$ : निम्न आत्मविश्वास (flat/uniform distribution)।
सापेक्ष संभाव्यता बैंड (Relative Probability Band): एक पूर्ण संभाव्यता कटऑफ के बजाय, Top-b मोड ( $p_{max}$ $p_{ma x}$ , सबसे संभावित टोकन की संभाव्यता) के सापेक्ष एक थ्रेशोल्ड को परिभाषित करता है।
- सपोर्ट सेट की परिभाषा: एक टोकन $y$ को सैंपलिंग पूल में शामिल किया जाता है यदि:
  $p_t(y) \ge (1 - \text{bandwidth}_t) \cdot p_{max}$
- अनुकूली बैंडविड्थ (Adaptive Bandwidth): बैंडविड्थ गुणांक को सामान्यीकृत एन्ट्रॉपी द्वारा गतिशील रूप से स्केल किया जाता है:
  $\text{bandwidth}_t = \text{base\_bandwidth} \times \left(1 + \frac{H(p_t)}{H_{max}}\right)$
  जहाँ $H_{max} = \log(|V|)$ अधिकतम संभव एन्ट्रॉपी है।

सैद्धांतिक व्यवहार (Theoretical Behavior)

निम्न-एन्ट्रॉपी शासन ( $H \to 0$ ): बैंडविड्थ बेस वैल्यू की ओर संकुचित होती है। थ्रेशोल्ड $p_{max}$ के बहुत करीब हो जाता है, जो प्रभावी रूप से डिस्ट्रैक्टर्स की लंबी पूंछ (long tail) को काट देता है और तार्किक तर्क के लिए ग्रीडी डिकोडिंग (greedy decoding) के करीब पहुँच जाता है।
उच्च-एन्ट्रॉपी शासन ( $H \to H_{max}$ ): बैंडविड्थ विस्तारित होती है (बेस का $2 \times$ तक)। थ्रेशोल्ड नीचे गिर जाता है, जिससे भाषाई विविधता बनाए रखने के लिए विविध टोकन की एक विस्तृत श्रृंखला उपलब्ध होती है।
वैरिएंस न्यूनीकरण (Variance Minimization): सैद्धांतिक रूप से, Top-b टेल डिस्ट्रीब्यूशन पर एक वैरिएंस-मिनिमाइजिंग ऑपरेटर के रूप में कार्य करता है, जो जनरेशन ट्राजेक्टरी को स्थिर करता है।

3. मुख्य योगदान (Key Contributions)

एन्ट्रॉपी-विनियमित डिकोडिंग (Entropy-Regulated Decoding): Top-b का परिचय, जो वितरण मोड पर आधारित और सामान्यीकृत शैनन एन्ट्रॉपी द्वारा स्केल किए गए सापेक्ष संभाव्यता बैंड के माध्यम से सैंपलिंग सपोर्ट को परिभाषित करता है।
सैद्धांतिक ढांचा (Theoretical Framework): Top-b को एक डायनेमिक कंट्रोल सिस्टम के रूप में औपचारिक रूप देना जो टेल वैरिएंस को कम करता है, जो ग्रीडी सर्च (उच्च परिशुद्धता) और रैंडम वॉक (उच्च विविधता) के बीच के अंतर को पाटता है।
अनुभवजन्य सत्यापन (Empirical Validation): यह प्रदर्शन करना कि Top-b जटिल बेंचमार्क पर रीजनिंग सटीकता बनाए रखते हुए जनरेशन एन्ट्रॉपी और इंटर-डिकोडिंग वैरिएंस को कम करता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने दो रीजनिंग-प्रधान बेंचमार्क: GPQA (स्नातक स्तर का विज्ञान) और GSM8K (अंकगणितीय तर्क) पर google/gemma-3-4b-it मॉडल का उपयोग करके Top-b का मूल्यांकन किया।

GPQA परिणाम (स्नातक स्तर का तर्क)

सटीकता (Accuracy): Top-b ने 0.2285 प्राप्त किया, जो Top-k (0.2333) के प्रतिस्पर्धी है और Top-p (0.2132) से काफी बेहतर है।
एन्ट्रॉपी: Top-b ने सबसे कम औसत एन्ट्रॉपी (0.1579) प्राप्त की, जो सभी विधियों में सबसे कम थी, जो उच्च निर्णायकता और कम भ्रम को दर्शाता है।
स्थिरता (Stability): Top-b ने रैंडम सीड्स के बीच सबसे कम वैरिएंस दिखाया, जो Top-p और Min-p की तुलना में तर्क श्रृंखलाओं में बेहतर पुनरुत्पादकता (reproducibility) का सुझाव देता है।

GSM8K परिणाम (अंकगणितीय तर्क)

सटीकता: Top-b ने उच्चतम सटीकता (0.2680) प्राप्त की, जो Top-p (0.2613) और Min-p (0.2427) से बेहतर है।
वैरिएंस: Top-b ने Top-p ( $1.1207 \times 10^{-3}$ ) की तुलना में एक क्रम का कम वैरिएंस ( $1.136 \times 10^{-4}$ ) दिखाया, जो तार्किक प्रवाह को बाधित करने वाले अंकगणितीय डिस्ट्रैक्टर्स को फ़िल्टर करने की इसकी क्षमता की पुष्टि करता है।

एन्ट्रॉपी गतिशीलता (Entropy Dynamics)

एन्ट्रॉपी ट्राजेक्टरी का विश्लेषण दिखाता है कि जबकि Top-p बाद के जनरेशन स्टेप्स में उच्च एन्ट्रॉपी बनाए रखता है (अपने संचयी थ्रेशोल्ड के कारण), Top-b एक मोनोटोनिक एन्ट्रॉपी कमी प्रेरित करता है, जो तर्क श्रृंखला के आगे बढ़ने के साथ विचलित शाखाओं (divergent branches) को प्रभावी ढंग से काट देता है।

5. महत्व और निहितार्थ (Significance and Implications)

स्व-विनियमित नियंत्रण प्रणाली (Self-Regulating Control System): Top-b डिकोडिंग को एक स्थिर ह्यूरिस्टिक से एक स्व-विनियमित प्रणाली में बदल देता है जो भाषा प्रक्रिया के स्थानीय सूचना घनत्व के अनुकूल होती है।
बेहतर विश्वसनीयता: जनरेशन एन्ट्रॉपी और वैरिएंस को कम करके, Top-b उच्च-दांव वाले रीजनिंग कार्यों (Chain-of-Thought) में LLMs की विश्वसनीयता बढ़ाता है, जिससे लंबे संदर्भों में त्रुटियों के संचय को कम किया जाता है।
अभिव्यक्ति-स्थिरता ट्रेड-ऑफ (Expressivity-Stability Trade-off): यह विधि रचनात्मक डोमेन में भी विस्तारित हो सकती है; उच्च-एन्ट्रॉपी रचनात्मक अवस्थाओं में, यह मैनुअल हाइपरपैरामीटर ट्यूनिंग के बिना अभिव्यक्ति बनाए रखने के लिए स्वाभाविक रूप से सैंपलिंग बैंड को विस्तृत करती है।
कंप्यूटेशनल दक्षता: इसका ओवरहेड नगण्य है, क्योंकि शैनॉन एन्ट्रॉपी की गणना करना वोकैबुलरी पर एक वेक्टर ऑपरेशन है, जो अटेंशन मैकेनिज्म की $O(N^2)$ जटिलता की तुलना में बहुत कम है।

निष्कर्षतः, Top-b एक स्थिर डिकोडिंग रणनीति के लिए सैद्धांतिक रूप से सुदृढ़, अनुकूलनीय विकल्प प्रदान करता है, जो तर्क-गहन कार्यों में ऑटोरेग्रेसिव जनरेशन की स्थिरता और सटीकता में महत्वपूर्ण सुधार करता है।