📊 statistics

Reliable Chain-of-Thought via Prefix Consistency

यह शोध पत्र "प्रिफिक्स कंसिस्टेंसी" (prefix consistency) को प्रस्तुत करता है, जो एक टेस्ट-टाइम विश्वसनीयता सिग्नल है जो ट्रंकेशन (truncation) और पुनरुत्पादन (regeneration) के बाद उम्मीदवारों के उत्तरों की पुनरुत्पादकता के आधार पर उन्हें भारित करके चेन-ऑफ-थॉट (Chain-of-Thought) तर्किंग की दक्षता में सुधार करता है, जिससे लॉग-प्रोबेबिलिटीज़ (log-probabilities) या सेल्फ-रेटिंग प्रॉम्प्ट्स की आवश्यकता के बिना काफी कम जनरेट किए गए टोकन के साथ मानक मेजॉरिटी वोटिंग सटीकता प्राप्त की जा सकती है।

मूल लेखक: Naoto Iwase, Yuki Ichihara, Mohammad Atif Quamar, Junpei Komiyama

प्रकाशित 2026-05-11

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Naoto Iwase, Yuki Ichihara, Mohammad Atif Quamar, Junpei Komiyama

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक प्रतिभाशाली लेकिन कभी-कभी बिखरे हुए छात्र से एक कठिन गणित की समस्या हल करने के लिए कह रहे हैं। आप उससे "कदम-दर-कदम सोचने" (जिसे चेन-ऑफ-थॉट तकनीक कहा जाता है) के लिए कहते हैं। वह एक लंबा स्पष्टीकरण लिखता है और आपको एक उत्तर देता है।

कभी-कभी वह सही होता है। कभी-कभी वह गलत होता है।

अपनी संभावनाओं को सुधारने के लिए, आप छात्र को उसी समस्या को 100 बार हल करने के लिए कहते हैं। फिर आप उन सभी 100 उत्तरों को देखते हैं और उस उत्तर को चुनते हैं जो सबसे अधिक बार आता है। इसे मेजोरिटी वोटिंग (Majority Voting) कहा जाता है। यह अच्छा काम करता है, लेकिन यह महंगा है: छात्र को 100 पूर्ण स्पष्टीकरण लिखने के लिए कहना बहुत समय और ऊर्जा (टोकन) लेता है।

लेखकों ने इस प्रक्रिया को तेज़ और स्मार्ट बनाने के लिए एक चतुर शॉर्टकट खोजा है। वे इसे प्रिफिक्स कंसिस्टेंसी (Prefix Consistency) कहते हैं।

मुख्य विचार: "मिड-स्टोरी" टेस्ट

यहाँ उपमा दी गई है: कल्पना कीजिए कि छात्र अपने उत्तर को समझाने के लिए आपको एक कहानी सुना रहा है।

मानक तरीका: आप 100 बार पूरी कहानी सुनते हैं। यदि छात्र 51 कहानियों में कहता है "उत्तर 42 है" और 49 कहानियों में कहता है "उत्तर 17 है", तो आप 42 चुनते हैं।
नया तरीका (प्रिफिक्स कंसिस्टेंसी): आप छात्र की कहानी सुनते हैं, लेकिन आप उसे बीच में ही रोक देते हैं। आप कहते हैं, "ठीक है, आपने सेटअप और पहले कुछ कदम समझा दिए हैं। अब, मेरे लिए कहानी को पूरा करें।" आप उसी आधे रास्ते के बिंदु के लिए ऐसा 5 बार करते हैं।

जादुवी अवलोकन:
पेपर ने एक दिलचस्प पैटर्न पाया है:

यदि छात्र ने सही विचार के साथ शुरुआत की थी: जब आप उन्हें आधे बिंदु से कहानी पूरी करने के लिए कहते हैं, तो वे लगभग हमेशा उसी सही उत्तर के साथ समाप्त करते हैं जिससे उन्होंने शुरुआत की थी। उनका मार्ग स्थिर है।
यदि छात्र ने गलत विचार के साथ शुरुआत की थी: जब आप उन्हें आधे बिंदु से कहानी पूरी करने के लिए कहते हैं, तो वे अक्सर भ्रमित हो जाते हैं। वे या तो किसी अलग गलत उत्तर के साथ समाप्त कर सकते हैं, या यहाँ तक कि तीसरे गलत उत्तर के साथ भी। उनका मार्ग अस्थिर और असंगत है।

यह नया तरीका कैसे काम करता है

केवल अंतिम उत्तरों को गिनने के बजाय, यह नया तरीका उत्तरों को इस आधार पर भार (weight) देता है कि वे कितने "स्थिर" हैं।

जेनरेट (Generate): मॉडल कुछ शुरुआती उत्तर उत्पन्न करता है (उदाहरण के लिए, 10)।
ट्रंकेट (Truncate): प्रत्येक उत्तर के लिए, सिस्टम स्पष्टीकरण को आधा काट देता है।
रीजेनरेट (Regenerate): यह उस कट-ऑफ पॉइंट से स्पष्टीकरण को पूरा करने के लिए मॉडल से कुछ बार कहता है।
कंसिस्टेंसी की जाँच करें (Check Consistency):
- यदि मॉडल कट-ऑफ होने के बाद भी उसी उत्तर पर वापस आता है, तो उस उत्तर को उच्च भार (high weight) दिया जाता है (यह एक "विश्वसनीय" ट्रेस है)।
- यदि मॉडल अपना मन बदल लेता है या कट-ऑफ होने के बाद कोई अलग गलत उत्तर देता है, तो उसे कम भार (low weight) दिया जाता है।
वोट (Vote): अंतिम उत्तर इन भारित वोटों (weighted votes) के आधार पर चुना जाता है।

यह एक बड़ी बात क्यों है

पेपर दावा करता है कि तीन मुख्य बातें, कुछ प्रभावशाली नंबरों का उपयोग करते हुए:

यह एक बेहतर जासूस है: जब 100 उत्तरों में से यह पता लगाने की कोशिश की जा रही हो कि वास्तव में कौन सा सही है, तो यह "स्थिरता परीक्षण" पिछले तरीकों की तुलना में सही उत्तर को पहचानने में बहुत बेहतर है। पिछले तरीके आत्मविश्वास पूछकर ("क्या आप सुनिश्चित हैं?") या आंतरिक गणितीय स्कोर देखकर अनुमान लगाने की कोशिश करते थे, लेकिन वे कठिन समस्याओं पर अक्सर विफल हो जाते थे। यह नया तरीका बस यह देखता है कि क्या मॉडल अपने द्वारा शुरू किए गए विचार को लगातार पूरा कर सकता है।
यह भारी पैसा (टोकन) बचाता है: क्योंकि मॉडल सही उत्तर को जल्दी पहचानने में बेहतर है, इसलिए आपको इसे 100 पूर्ण स्पष्टीकरण लिखने के लिए कहने की आवश्यकता नहीं है। आप समान स्तर की सटीकता 21 गुना कम टोकन (शब्द/वर्ण उत्पन्न करना) के साथ प्राप्त कर सकते हैं।
- उपमा: यह महसूस करने जैसा है कि आपको सबसे अच्छी रचना खोजने के लिए एक किताब के 100 पूर्ण ड्राफ्ट पढ़ने की आवश्यकता नहीं है। आपको केवल 10 ड्राफ्ट के पहले आधे हिस्से को पढ़ने की आवश्यकता है, यह देखने के लिए कि कौन सा सुसंगत रूप से आगे बढ़ता है, और फिर आप बाकी को छोड़ सकते हैं।
यह "गुप्त" जानकारी के बिना काम करता है: कई पिछले तरीकों के लिए मॉडल के आंतरिक "कॉन्फिडेंस स्कोर" (लॉग-प्रोबेबिलिटीज़) तक पहुँच की आवश्यकता होती थी, जो अक्सर छिपे हुए होते हैं या प्राप्त करना कठिन होता है। इस नए तरीके को केवल मॉडल द्वारा लिखे गए टेक्स्ट की आवश्यकता होती है, जिससे इसे विभिन्न प्रकार के AI मॉडल के साथ उपयोग करना आसान हो जाता है।

निचोड़

यह पेपर एक तरीका पेश करता है जिससे AI तर्क (reasoning) अधिक विश्वसनीय और सस्ता हो जाता है। यह जाँच करके कि क्या एक AI अपने द्वारा शुरू किए गए विचार को लगातार पूरा कर सकता है, हम उसके उत्तर पर अधिक भरोसा कर सकते हैं और उन संसाधनों को बर्बाद करना बंद कर सकते हैं जो विफल होने की संभावना रखते हैं। यह AI की अपनी "अपनी कहानी पर टिके रहने" की क्षमता को सत्य के संकेत में बदल देता है।

तकनीकी सारांश: प्रिफिक्स कंसिस्टेंसी (Prefix Consistency) के माध्यम से विश्वसनीय चेन-ऑफ-थॉट (Chain-of-Thought)

समस्या विवरण

लार्ज लैंग्वेज मॉडल्स (LLMs) अक्सर कई चेन-ऑफ-थॉट (CoT) ट्रेसेस को जेनरेट करके और उन्हें मेजॉरिटी वोटिंग (Majority Voting - MV) के माध्यम से एकत्रित करके तर्क की सटीकता में सुधार करते हैं, जिसे 'सेल्फ-कंसिस्टेंसी' (self-consistency) नामक तकनीक के रूप में जाना जाता है। हालांकि, स्टैंडर्ड MV सभी जेनरेट किए गए ट्रेसेस को समान मानता है, जिससे यह तब विफल हो जाता है जब सही उत्तर अल्पसंख्यक (minority) में होता है। इसे संबोधित करने के लिए, वेटेड मेजॉरिटी वोटिंग (WMV) विधियाँ टोकन लॉग-प्रोबेबिलिटीज (जैसे DeepConf, Self-certainty) या मौखिक आत्म-मूल्यांकन (जैसे P(True)) से प्राप्त कॉन्फिडेंस सिग्नल के आधार पर ट्रेसेस को विश्वसनीयता स्कोर प्रदान करती हैं।

मौजूदा WMV विधियों की एक महत्वपूर्ण सीमा यह है कि उनके विश्वसनीयता सिग्नल कठिन समस्याओं पर सही और गलत ट्रेसेस के बीच अंतर करने में विफल रहते हैं। जैसा कि पेपर में प्रदर्शित किया गया है, चुनौतीपूर्ण बेंचमार्क पर जहाँ Pass@1 कम (जैसे, <50%) है, बेसलाइन कॉन्फिडेंस सिग्नल अक्सर सही और गलत ट्रेसेस को ओवरलैपिंग रेंज में रख देते हैं, जिससे वे उस समय सटीक पुन: भार (reweighting) करने में अप्रभावी हो जाते हैं जब उनकी सबसे अधिक आवश्यकता होती है। इसके अलावा, कई मौजूदा विधियों के लिए टोकन-लेवल लॉग-प्रोबेबिलिटीज तक पहुंच की आवश्यकता होती है, जो सभी परिनियोजन परिदृश्यों (deployment scenarios) में उपलब्ध नहीं हो सकती है।

कार्यप्रणाली: प्रिफिक्स कंसिस्टेंसी (Prefix Consistency)

लेखक प्रिफिक्स कंसिस्टेंसी का प्रस्ताव करते हैं, जो एक नवीन विश्वसनीयता सिग्नल है जिसके लिए टोकन लॉग-प्रोबेबिलिटीज तक पहुंच की आवश्यकता नहीं होती है। इस विधि को प्रेरित करने वाला मुख्य अवलोकन यह है कि गलत ट्रेसेस की तुलना में सही रीजनिंग ट्रेसेस पुनर्जन्म (regeneration) के तहत अधिक पुनरुत्पादनीय (reproducible) होते हैं।

तंत्र (The Mechanism)

ट्रंकेशन (Truncation): प्रत्येक जेनरेट किए गए CoT ट्रेस $y_i$ के लिए जिसका उत्तर $a_i$ है, विधि ट्रेस को एक निश्चित अंश $\tau$ (जैसे, टोकन का 75%) पर काट देती है, जिससे प्रिफिक्स (prefix) सुरक्षित रहता है।
पुनर्जन्म (Regeneration): मॉडल को इस कटे हुए प्रिफिक्स से निरंतरता (continuation) को $K$ बार पुन: जेनरेट करने के लिए प्रॉम्प्ट दिया जाता है, जिससे नए उत्तरों का एक सेट $\{ \tilde{a}_{i,1}, \dots, \tilde{a}_{i,K} \}$ प्राप्त होता है।
स्कोरिंग: प्रत्येक उम्मीदवार उत्तर $a$ के लिए एक प्रिफिक्स कंसिस्टेंसी स्कोर $c_i(a)$ की गणना समूह (प्रारंभिक उत्तर + पुनर्जन्म) के भीतर की जाती है। यह स्कोर समूह में $a$ के कितनी बार आने का प्रतिनिधित्व करता है:
$c_i(a) = \frac{|\{a' \in A_i^{(\tau, K)} : a' = a\}|}{K+1}$
यदि प्रारंभिक उत्तर $a_i$ सही है, तो पुनर्जन्म प्रक्रिया $a_i$ को पुन: उत्पन्न करने की प्रवृत्ति रखती है (उच्च $c_i(a_i)$ )। यदि $a_i$ गलत है, तो पुनर्जन्म अक्सर अलग-अलग गलत उत्तरों की ओर विचलित हो जाता है, जिसके परिणामस्वरूप प्रारंभिक गलत उत्तर के लिए कम कंसिस्टेंसी स्कोर प्राप्त होता है।

प्रिफिक्स-कंसिस्टेंसी-वेटेड मेजॉरिटी वोटिंग (PC-WMV)

यह विधि इस सिग्नल को एक वेटेड मेजॉरिटी वोटिंग फ्रेमवर्क में एकीकृत करती है। प्रारंभिक नमूने को एक बार वेट देने के बजाय, PC-WMV प्रत्येक विशिष्ट उम्मीदवार उत्तर $a$ को उसके पुनरुत्पादनीयता स्कोर $c_i(a)$ के आधार पर वेट देता है। अंतिम भविष्यवाणी वह उत्तर है जिसमें उच्चतम कुल वेटेड वोट होता है:
$\hat{a}_{PC} = \arg \max_{a \in \mathcal{A}} \sum_{i=1}^N w(c_i(a))$
जहाँ $w: [0, 1] \to \mathbb{R}_{\ge 0}$ एक वेटिंग फंक्शन है (जैसे, लीनियर, क्वाड्रेटिक, या क्यूबिक)।

सैद्धांतिक गारंटी: पेपर एक एसिम्प्टोटिक विश्लेषण (थ्योरम 1) प्रदान करता है जो दिखाता है कि यदि डिस्क्रिमिनेशन गैप (discrimination gap) $D(\tau) = r_C(\tau) - r_W(\tau)$ सकारात्मक है (जहाँ $r_C$ सही उत्तरों की पुनरुत्पादन दर है और $r_W$ गलत उत्तरों की है), तो PC-WMV सही उत्तर को प्राप्त कर सकता है, भले ही प्रारंभिक Pass@1 50% से कम हो और स्टैंडर्ड MV विफल हो जाए। विशेष रूप से, PC-WMV उस समय भी सही उत्तर की ओर अभिसरित (converge) होता है जब $\pi(a^*) > \frac{r_W}{r_C + r_W}$ हो, जो कि 0.5 के थ्रेशोल्ड से काफी कम है जो स्टैंडर्ड MV के लिए आवश्यक है।

मुख्य योगदान

नवीन विश्वसनीयता सिग्नल: प्रिफिक्स कंसिस्टेंसी का परिचय, जो पुनर्जन्म के तहत उत्तरों की पुनरुत्पादनीयता पर आधारित एक सिग्नल है जिसके लिए लॉग-प्रोबेबिलिटी एक्सेस की आवश्यकता नहीं है।
श्रेष्ठ शुद्धता भविष्यवाणी: पांच मॉडल्स और चार बेंचमार्क्स (FrontierScience-Olympiad, HMMT Feb 2026, AIME 2025, Brumo 2025) पर अनुभवजन्य साक्ष्य जो दिखाते हैं कि प्रिफिक्स कंसिस्टेंसी शुद्धता के प्रेडिक्टर के रूप में मौजूदा WMV बेसलाइन्स (DeepConf, P(True), Self-certainty) से बेहतर प्रदर्शन करती है। यह 20 (मॉडल, बेंचमार्क) सेटिंग्स में से 15 में उच्चतम मैक्रो-एवरेज्ड AUROC प्राप्त करती है।
लागत दक्षता: PC-WMV स्टैंडर्ड MV का उपयोग करके बहुत कम टोकन के साथ सटीकता के पठार (accuracy plateau) तक पहुँच जाता है। लागत-तुल्य तुलनाओं में, PC-WMV स्टैंडर्ड MV की तुलना में 4.6 गुना कम टोकन के साथ समान सटीकता प्राप्त करता है, और कठिन बेंचमार्क्स पर बचत 21 गुना तक पहुँच जाती है।
कठिनाई के प्रति मजबूती: बेसलाइन सिग्नल्स के विपरीत जो कठिन समस्याओं पर खराब हो जाते हैं, प्रिफिक्स कंसिस्टेंसी एक सकारात्मक डिस्क्रिमिनेशन गैप ( $r_C > r_W$ ) बनाए रखती है, भले ही Pass@1 50% से कम हो, जिससे यह उन स्थितियों में वोटों को प्रभावी ढंग से पुन: भारित करने की अनुमति देती है जहाँ स्टैंडर्ड MV विफल हो जाता है।

परिणाम

डिस्क्रिमिनेशन गैप: टेबल 1 पुष्टि करता है कि सभी मॉडल्स और बेंचमार्क्स में $r_C > r_W$ बना रहता है। डिस्क्रिमिनेशन गैप $D$ पर्याप्त है (उदाहरण के लिए, GPT-OSS-120B के लिए FrontierScience-Olympiad पर 43.7%), जो एक मजबूत व्यवहार संबंधी नियमितता को दर्शाता है जहाँ सही ट्रेसेस पुनर्जन्म के तहत अधिक स्थिर होते हैं।
सटीकता बनाम लागत: GPT-OSS-120B के साथ FrontierScience-Olympiad बेंचमार्क पर, PC-cubic (क्यूबिक वेटिंग) स्टैंडर्ड MV द्वारा आवश्यक टोकन के केवल 0.05× का उपयोग करके स्टैंडर्ड MV के प्लेटो एक्यूरेसी तक पहुँच जाता है (एक 21× बचत)। AIME 2025 के लिए Ministral3-14B पर भी इसी तरह के दक्षता लाभ देखे गए हैं।
एडैप्टिव स्टॉपिंग के साथ तुलना: PC-WMV, टोकन दक्षता के मामले में एडैप्टिव स्टॉपिंग बेसलाइन्स (Adaptive Consistency, Early-Stopping Self-Consistency) के प्रतिस्पर्धी या उनसे बेहतर है, विशेष रूप से कठिन कार्यों पर जहाँ एडैप्टिव तरीके अक्सर बजट के भीतर उच्च सटीकता लक्ष्यों तक पहुँचने में विफल रहते हैं।
हाइपरपैरामीटर संवेदनशीलता: विधि $\tau$ के ट्रंकेशन फ्रैक्शन और $K$ की पुनर्जन्म संख्या के चयन के प्रति मजबूत है। डिफॉल्ट सेटिंग ( $\tau=0.75, K=1$ ) बिना किसी विस्तृत ट्यूनिंग के विविध बेंचमार्क्स में अच्छा प्रदर्शन करती है।

महत्व और दावे

पेपर दावा करता है कि पुनर्जन्म स्थिरता (regeneration stability) एक व्यावहारिक रूप से उपयोगी टेस्ट-टाइम सिग्नल है, जो वोटों को एकत्रित करने के लिए लॉग-प्रोबेबिलिटीज या सेल्फ-रेटिंग से प्राप्त कॉन्फिडेंस-आधारित सिग्नल्स से अलग और अक्सर श्रेष्ठ है।

व्यावहारिक उपयोगिता: यह विधि तर्क की सटीकता में सुधार करने का एक लागत प्रभावी तरीका प्रदान करती है, विशेष रूप से कठिन समस्याओं के लिए जहाँ मानक स्व-संगति (self-consistency) सही उत्तर खोजने में विफल रहती है।
सैद्धांतिक अंतर्दृष्टि: यह कार्य "डिस्क्रिमिनेशन गैप" $D$ को प्रमुख मात्रा के रूप में उजागर करता है जो विधि की प्रभावशीलता को नियंत्रित करती है। यह प्रदर्शित करता है कि सही और गलत ट्रेसेस के बीच पुनरुत्पादनीयता की विषमता (asymmetry) रीजनिंग मॉडल्स का एक मौलिक गुण है जिसका उपयोग एकत्रीकरण के लिए किया जा सकता है।
सीमाएँ: लेखक नोट करते हैं कि यह विधि एक स्पष्ट CoT ट्रेस तक पहुंच मानती है जिसे काटा और जारी किया जा सकता है, जो छिपे हुए रीजनिंग वाले क्लोज्ड मॉडल्स पर लागू नहीं हो सकता है, और इसकी प्रभावशीलता इस बात पर निर्भर करती है कि क्या Pass@1 और स्टैंडर्ड MV प्लेटो के बीच एक सार्थक अंतर मौजूद है; यदि Pass@1 पहले से ही प्लेटो के करीब है, तो पुन: भारण (reweighting) से लाभ सीमित हैं।

संक्षेप में, यह पेपर स्थापित करता है कि प्रिफिक्स पुनर्जन्म के तहत उत्तरों की पुनरुत्पादनीयता की जाँच करना एक विश्वसनीय, लॉग-प्रोबेबिलिटी-मुक्त सिग्नल प्रदान करता है जो चेन-ऑफ-थॉट एकत्रीकरण की दक्षता और सटीकता में महत्वपूर्ण सुधार करता है।