💬 NLP

ConfSpec: Efficient Step-Level Speculative Reasoning via Confidence-Gated Verification

ConfSpec एक कॉन्फिडेंस-गेटेड कैस्केडेड वेरिफिकेशन फ्रेमवर्क पेश करता है जो स्टेप-लेवल स्पेकुलेटिव रीजनिंग में सटीकता-गति के बीच के ट्रेड-ऑफ को हल करने के लिए जनरेशन और वेरिफिकेशन के बीच की विषमता का लाभ उठाता है, जिससे लक्ष्य-मॉडल की सटीकता से समझौता किए बिना या बाहरी जज मॉडल की आवश्यकता के बिना 2.24 $\times$ तक एंड-टू-एंड स्पीडअप प्राप्त होता है।

मूल लेखक: Siran Liu, Cyril Y. He

प्रकाशित 2026-02-24

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Siran Liu, Cyril Y. He

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक अत्यंत बुद्धिमान लेकिन धीमी गति से सोचने वाले ग्रैंडमास्टर चेस प्लेयर (लार्ज लैंग्वेज मॉडल) हैं। आप अविश्वसनीय रूप से स्मार्ट हैं और सबसे कठिन पहेलियों को हल कर सकते हैं, लेकिन आपको हर एक चाल के बारे में सोचने में बहुत समय लगता है।

अब, कल्पना कीजिए कि आपके पास एक जूनियर चेस प्लेयर (स्मॉल ड्राफ्ट मॉडल) है जो बहुत तेज़ है। वे उतने स्मार्ट नहीं हैं, लेकिन वे त्वरित हैं और अधिकांश समय अच्छे मूव्स बना सकते हैं।

समस्या: "टोकन" की बाधा (The "Token" Bottleneck)

पारंपरिक रूप से, ग्रैंडमास्टर को तेज़ बनाने के लिए, हमने जूनियर को एक चाल चलने दी, और फिर ग्रैंडमास्टर ने उसे अक्षर-दर-अक्षर (टोकन-दर-टोकन) चेक किया।

समस्या: यदि जूनियर कहता है, "मैं नाइट को राजा के बगल वाले वर्ग पर ले जाता हूँ," और ग्रैंडमास्टर सोचता है, "नहीं, मैं कहूँगा 'मैं नाइट को राजा के समीप वाले वर्ग पर ले जाता हूँ'," तो ग्रैंडमास्टर उसे खारिज कर देता है। भले ही अर्थ बिल्कुल समान हो, लेकिन शब्द थोड़े अलग हैं।
परिणाम: ग्रैंडमास्टर जूनियर के अच्छे विचारों को सिर्फ इसलिए खारिज कर देता है क्योंकि उन्होंने अलग-अलग पर्यायवाची शब्दों का उपयोग किया था। यह समय बर्बाद करता है और सब कुछ धीमा कर देता है।

पुराने समाधान (और वे क्यों विफल हुए)

"आशावादी" दृष्टिकोण (The "Optimistic" Approach): बस जूनियर पर भरोसा करें। परिणाम: जूनियर एक तार्किक त्रुटि करता है, और पूरा खेल बर्बाद हो जाता है।
"ब्रूट फोर्स" दृष्टिकोण (The "Brute Force" Approach): एक तीसरे, महंगे रेफरी से हर एक चाल की जांच करने के लिए कहें। परिणाम: यह सटीक है, लेकिन आप दो के बजाय तीन खिलाड़ियों के लिए भुगतान कर रहे हैं, इसलिए यह वास्तव में तेज़ नहीं है।
"अस्पष्ट" दृष्टिकोण (The "Vague" Approach): जूनियर से पूछें कि क्या चालें "महसूस" होने में समान हैं। परिणाम: वे जटिल तर्क में भ्रमित हो जाते हैं और गलत निर्णय लेते हैं।

नया समाधान: ConfSpec (द "कॉन्फिडेंस गेट")

लेखकों ने महसूस किया कि कुछ चीज़ है जो बहुत चतुर है: सभी चालें जांचने के लिए समान रूप से कठिन नहीं होती हैं।

आसान चालें: "प्यादे को एक वर्ग आगे बढ़ाएं।" जूनियर इसे तुरंत चेक कर सकता है और इसके बारे में 100% निश्चित हो सकता है।
कठिन चालें: "10 चालों में चेकमेट की जटिल संभावना की गणना करें।" जूनियर केवल अनुमान लगा रहा हो सकता है।

ConfSpec एक "कॉन्फिडेंस गेट" (एक क्लब के बाउंसर की तरह) पेश करता है:

जूनियर एक स्टेप प्रस्तावित करता है (तर्क का एक पूरा हिस्सा, न कि केवल एक शब्द)।
जूनियर खुद से पूछता है: "मैं इस स्टेप के सही होने के बारे में कितना आश्वस्त हूँ?"
- उच्च आत्मविश्वास (जैसे, 95%): जूनियर कहता है, "मुझे यकीन है!" गेट खुल जाता है। ग्रैंडमास्टर इस स्टेप को चेक करना छोड़ देता है और इसे तुरंत स्वीकार कर लेता है। गति: तेज़!
- कम आत्मविश्वास (जैसे, 60%): जूनियर कहता है, "मुझे यकीन नहीं है, यह थोड़ा पेचीदा लग रहा है।" गेट बंद हो जाता है। यह स्टेप पूरी और कठोर जांच के लिए ग्रैंडमास्टर को भेज दिया जाता है। गति: धीमी, लेकिन सुरक्षित।

जादुई उपमा: "ट्रैफिक लाइट" सिस्टम

तर्क प्रक्रिया (Reasoning process) को एक हाईवे के रूप में सोचें।

पुराना तरीका: हर कार (तर्क स्टेप) को आगे बढ़ने से पहले एक रेड लाइट पर रुकना पड़ता है और पुलिस अधिकारी (ग्रैंडमास्टर) द्वारा पूरी जांच करवानी पड़ती है।
ConfSpec: हम एक स्मार्ट ट्रैफिक लाइट लगाते हैं।
- यदि कार एक छोटा, साधारण सेडान है (एक आसान स्टेप) और ड्राइवर (जूनियर) आत्मविश्वासी दिखता है, तो लाइट बिना किसी रोक-टोक के अपने आप ग्रीन हो जाती है। किसी स्टॉप की आवश्यकता नहीं है।
- यदि कार खतरनाक सामग्री ले जाने वाला एक विशाल ट्रक है (एक जटिल स्टेप) या ड्राइवर घबराया हुआ दिखता है, तो लाइट रेड हो जाती है, और पुलिस अधिकारी (ग्रैंडमास्टर) सावधानीपूर्वक निरीक्षण करने के लिए आगे आता है।

यह एक बड़ी बात क्यों है

गति: क्योंकि तर्क श्रृंखला के अधिकांश स्टेप वास्तव में "आसान" होते हैं (जैसे बुनियादी गणित या सरल तर्क), यह सिस्टम अधिकांश काम के लिए ग्रैंडमास्टर को स्किप कर देता है। यह पूरी प्रक्रिया को 2.24 गुना तेज़ बना देता है।
सटीकता: क्योंकि सिस्टम केवल उन्हीं आसान स्टेप्स को स्किप करता है जिनके बारे में वह निश्चित है, और कठिन, भ्रमित करने वाले स्टेप्स को ग्रैंडमास्टर के पास भेजता है, इसलिए अंतिम उत्तर उतना ही सटीक होता है जितना कि यदि ग्रैंडमास्टर ने सब कुछ अकेले किया होता।
कोई अतिरिक्त लागत नहीं: आपको तीसरे रेफरी को काम पर रखने की ज़रूरत नहीं है। जूनियर खुद ही इसकी जांच करता है, अपने स्वयं के "अंतर्ज्ञान" (कॉन्फिडेंस स्कोर) का उपयोग करके।

सारांश

ConfSpec एक तेज़ लेकिन कम बुद्धिमान सहायक को यह सिखाने जैसा है कि उसे केवल तभी बॉस से मदद मांगनी चाहिए जब वह वास्तव में अनिश्चित हो। बाकी सब के लिए, सहायक बस अपना काम करता रहता है। यह बॉस का समय बचाता है, काम को सटीक रखता है, और काम को बहुत तेज़ी से पूरा करता है।

यहाँ शोध पत्र "ConfSpec: Efficient Step-Level Speculative Reasoning via Confidence-Gated Verification" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल्स (LLMs) जो चेन-ऑफ-थॉट (CoT) रीजनिंग का उपयोग करते हैं, वे जटिल कार्यों (जैसे गणित, विज्ञान, कोडिंग) पर उच्च प्रदर्शन प्राप्त करते हैं, लेकिन लंबे जनरेशन ट्रेसेस के कारण महत्वपूर्ण इन्फरेंस लेटेंसी (inference latency) से ग्रस्त होते हैं। जबकि स्पेक्युलेटिव डिकोडिंग (एक छोटे "ड्राफ्ट" मॉडल का उपयोग करके बड़े "टारगेट" मॉडल के लिए टोकन प्रस्तावित करना) एक मानक त्वरण तकनीक है, यह रीजनिंग कार्यों में सीमाओं का सामना करती है:

टोकन-लेवल रिजिडिटी (Token-Level Rigidity): मानक स्पेक्युलेटिव डिकोडिंग सख्त टोकन-स्तरीय समानता लागू करती है। रीजनिंग में, अर्थपूर्ण रूप से वैध स्टेप्स अक्सर टारगेट मॉडल के आउटपुट से भाषाई रूप से भिन्न होते हैं, जिससे बार-बार रिजेक्शन और दक्षता की बर्बादी होती है।
स्टेप-लेवल ट्रेड-ऑफ (Step-Level Trade-offs): मौजूदा स्टेप-लेवल स्पेक्युलेटिव रीजनिंग विधियाँ पूरे रीजनिंग स्टेप्स को सत्यापित करने का प्रयास करती हैं, लेकिन वे सटीकता (accuracy), गति (speed) और संसाधन दक्षता (resource efficiency) के बीच एक निरंतर संघर्ष से जूझती हैं:
- स्कोरिंग-आधारित विधियाँ तेज़ हैं लेकिन अक्सर प्रवाहपूर्ण (fluent) होने के बावजूद तार्किक रूप से गलत स्टेप्स को स्वीकार कर लेती हैं।
- लुकअहेड विधियाँ (बाहरी जजों का उपयोग करना) सटीकता बनाए रखती हैं लेकिन भारी संसाधन ओवरहेड उत्पन्न करती हैं।
- एम्बेडिंग-आधारित विधियाँ कुशल हैं लेकिन समृद्ध तार्किक संरचनाओं को निम्न-आयामी समानताओं में समेट देती हैं, जिससे निर्णय कमजोर हो जाते हैं।

पहचाना गया मुख्य बॉटलनेक अत्यधिक रूढ़िवादी सत्यापन (overly conservative verification) है: वर्तमान विधियाँ सभी रीजनिंग स्टेप्स को समान रूप से कठिन मानती हैं, जिससे उन सामान्य स्टेप्स के लिए भी महंगे टारगेट-मॉडल सत्यापन को मजबूर होना पड़ता है जिन्हें एक छोटा मॉडल विश्वसनीय रूप से सत्यापित कर सकता था।

2. कार्यप्रणाली: ConfSpec (Methodology: ConfSpec)

लेखक ConfSpec का प्रस्ताव करते हैं, जो एक कॉन्फिडेंस-गेटेड कैस्केड वेरिफिकेशन फ्रेमवर्क (confidence-gated cascaded verification framework) है। मुख्य अंतर्दृष्टि जनरेशन और वेरिफिकेशन के बीच एक असममिति (asymmetry) है:

जनरेशन के लिए एक बड़े आउटपुट स्पेस को एक्सप्लोर करने के लिए पर्याप्त मॉडल क्षमता की आवश्यकता होती है।
वेरिफिकेशन (यह निर्धारित करना कि दो स्टेप्स अर्थपूर्ण रूप से समान हैं या नहीं) एक सीमित डिस्क्रिमिनेटिव कार्य है। छोटे ड्राफ्ट मॉडल इस विशिष्ट कार्य के लिए अपनी क्षमता सीमा के भीतर आश्चर्यजनक रूप से अच्छी तरह से कैलिब्रेटेड होते हैं।

मुख्य घटक:

कॉन्फिडेंस-गाइडेड रूटिंग (Confidence-Guided Routing):
- ड्राफ्ट मॉडल ( $M_D$ ) संभावित रीजनिंग स्टेप्स जनरेट करता है।
- इसके बाद यह एक बाइनरी वेरीफायर के रूप में कार्य करता है, जो अपने ड्राफ्ट स्टेप की तुलना टारगेट मॉडल ( $M_T$ ) के समानांतर जनरेशन से करता है।
- महत्वपूर्ण रूप से, ड्राफ्ट मॉडल अपने वेरिफिकेशन निर्णय (Accept/Reject) के साथ एक कॉन्फिडेंस स्कोर ( $p_D$ ) भी आउटपुट करता है।
- कैस्केडिंग नियम (Cascading Rule):
  - यदि $p_D \geq \gamma$ (उच्च विश्वास): ड्राफ्ट के निर्णय को तुरंत स्वीकार कर लिया जाता है।
  - यदि $p_D < \gamma$ (कम विश्वास): मामले को निश्चित सत्यापन के लिए टारगेट मॉडल ( $M_T$ ) को भेज दिया जाता है।
- यह सिस्टम को "आसान" स्टेप्स के लिए टारगेट मॉडल को बायपास करने की अनुमति देता है, जबकि "कठिन" या संदिग्ध मामलों के लिए इसे सुरक्षित रखता है।
दो-चरणीय कैस्केड (Two-Stage Cascade - Algorithm 1):
- चरण 1 (Drafting): $M_D$ $k$ संभावित स्टेप्स जनरेट करता है।
- चरण 2 (Dual-Tier Verification): प्रत्येक स्टेप के लिए, $M_T$ एक संगत स्टेप जनरेट करता है। $M_D$ इस जोड़ी को सत्यापित करता है। उच्च-विश्वास वाले निर्णयों को स्वीकार किया जाता है; कम-विश्वास वाले निर्णयों के लिए $M_T$ वेरिफिकेशन ट्रिगर होता है।
- चरण 3 (Context Management): स्वीकृत स्टेप्स को कॉन्टेक्स्ट में जोड़ा जाता है। यदि कोई स्टेप रिजेक्ट हो जाता है, तो शुद्धता सुनिश्चित करने के लिए $M_T$ वर्तमान कॉन्टेक्स्ट से स्टेप को पुन: जनरेट करता है।
ट्री-स्ट्रक्चर्ड एक्सटेंशन (Tree-Structured Extension):
- ConfSpec को ट्री-स्ट्रक्चर्ड ड्राफ्टिंग तक बढ़ाया जा सकता है जहाँ कई संभावित शाखाएँ प्रस्तावित की जाती हैं। सिस्टम उस शाखा का चयन करता है जिसमें उच्चतम वेरिफिकेशन कॉन्फिडेंस होता है, हालांकि प्रयोग बताते हैं कि वर्तमान में स्पीड के लिए लीनियर ड्राफ्टिंग ही इष्टतम है।

3. मुख्य योगदान (Key Contributions)

सैद्धांतिक अंतर्दृष्टि (Theoretical Insight): प्रदर्शित किया गया कि स्टेप-लेवल वेरिफिकेशन की कठिनाई अत्यधिक विषम (heterogeneous) है और छोटे मॉडल अपनी क्षमता सीमा के भीतर डिस्क्रिमिनेटिव वेरिफिकेशन कार्यों के लिए अच्छी तरह से कैलिब्रेटेड होते हैं, जो इस धारणा के विपरीत है कि वे ओवरकॉन्फिडेंट होते हैं।
नया फ्रेमवर्क (Novel Framework): ConfSpec पेश किया गया, जो बाहरी जज मॉडल्स की आवश्यकता के बिना, ड्राफ्ट मॉडल से आंतरिक कॉन्फिडेंस स्कोर का उपयोग करने वाला पहला फ्रेमवर्क है जो वेरिफिकेशन कैस्केड्स को गेट करता है।
ऑर्थोगोनैलिटी (Orthogonality): सिद्ध किया गया कि ConfSpec, टोकन-लेवल स्पेक्युलेटिव डिकोडिंग के प्रति ऑर्थोगोनल है, जिससे इसे मिलाने पर मल्टीप्लिकेटिव एक्सेलेरेशन (multiplicative acceleration) प्राप्त होता है।
ट्रेड-ऑफ का समाधान: सफलतापूर्वक सटीकता-गति-संसाधन त्रिकोण (trilemma) को हल किया, जिससे टारगेट-मॉडल की सटीकता से समझौता किए बिना उच्च स्पीडअप प्राप्त हुआ।

4. प्रयोगात्मक परिणाम (Experimental Results)

इस पद्धति का मूल्यांकन DeepSeek-R1-Distill (1.5B/32B) और Qwen3 (1.7B/32B) मॉडल पेयर्स का उपयोग करके AIME24, AMC23, MATH500, GPQA, और HumanEval पर किया गया।

सटीकता बनाम गति (Accuracy vs. Speed):
- ConfSpec ने 2.24× एंड-टू-एंड स्पीडअप (जब टोकन-लेवल स्पेक्युलेटिव डिकोडिंग के साथ जोड़ा गया) प्राप्त किया, जबकि टारगेट मॉडल की सटीकता (Pass@1) को बनाए रखा।
- अकेले, ConfSpec ने DeepSeek पर 1.68× स्पीडअप और Qwen3 पर 1.30× स्पीडअप प्राप्त किया, जिसमें नगण्य सटीकता हानि (<0.5% ड्रॉप) हुई।
बेसलाइन के साथ तुलना (Comparison with Baselines):
- SpecReason: तेज़ था लेकिन फ्लोएंट (fluent) स्टेप्स को स्वीकार करने के कारण गंभीर सटीकता गिरावट (जैसे, AIME पर 68% $\to$ 38%) का सामना किया।
- LookaheadReasoning: सटीकता बनाए रखी लेकिन बाहरी जज के ओवरहेड के कारण धीमी थी।
- Embedding Methods: मध्यम स्पीडअप लेकिन सीमेंटिक मिसअलाइनमेंट के कारण कम सटीकता।
एब्लेशन स्टडीज (Ablation Studies):
- थ्रेशोल्ड ( $\gamma$ ): $\gamma=0.9$ के थ्रेशोल्ड ने इष्टतम संतुलन प्रदान किया। इसे कम करने से गति बढ़ी लेकिन सटीकता घटी; इसे बढ़ाने से सटीकता बनी रही लेकिन गति कम हुई।
- ट्री विड्थ (Tree Width): लीनियर ड्राफ्टिंग ( $W=1$ ) को ट्री-स्ट्रक्चर्ड ड्राफ्टिंग ( $W=2, 4$ ) की तुलना में अधिक कुशल पाया गया, क्योंकि समानांतर सत्यापन का ओवरहेड ब्रांचिंग के लाभों से अधिक था।

5. महत्व (Significance)

व्यावहारिक तैनाती (Practical Deployment): ConfSpec, अतिरिक्त हार्डवेयर या बाहरी जज मॉडल्स की आवश्यकता के बिना, CoT रीजनिंग के लेटेंसी बॉटलनेक के लिए एक सिद्धांतपूर्ण समाधान प्रदान करता है, जो इसे बड़े पैमाने पर तैनाती के लिए अत्यधिक उपयुक्त बनाता है।
दक्षता प्रतिमान (Efficiency Paradigm): यह "सब कुछ बड़े मॉडल के साथ सत्यापित करें" के बजाय "विश्वास के आधार पर चुनिंदा रूप से सत्यापित करें" के प्रतिमान को बदल देता है, जो डिस्क्रिमिनेटिव कार्यों के लिए छोटे मॉडल्स की विशिष्ट शक्तियों का लाभ उठाता है।
स्केलेबिलिटी (Scalability): टोकन-लेवल डिकोडिंग के प्रति ऑर्थोगोनल होकर, ConfSpec मल्टीप्लिकेटिव एक्सेलेरेशन को सक्षम करता है, जो टोकन-लेवल और स्टेप-लेवल तकनीकों के विकसित होने के साथ और भी अधिक दक्षता लाभ अनलॉक कर सकता है।

संक्षेप में, ConfSpec यह प्रदर्शित करता है कि रीजनिंग स्टेप्स की विषमता को पहचानकर और ड्राफ्ट मॉडल्स के कॉन्फिडेंस कैलिब्रेशन का उपयोग करके, न्यूनतम इन्फरेंस लागत के साथ लगभग पूर्ण सटीकता प्राप्त की जा सकती है।