💬 NLP

Thinking in Latents: Adaptive Anchor Refinement for Implicit Reasoning in LLMs

यह शोध पत्र AdaAnchor को प्रस्तुत करता है, जो एक लेटेंट रीजनिंग फ्रेमवर्क है जो इनपुट-अटैच्ड एंकर वेक्टर्स को एक एडेप्टिव हॉल्टिंग मैकेनिज्म के साथ रिफाइन करके साइलेंट इटरेटिव कंप्यूटेशन करता है, जिससे वर्बोज़ चेन-ऑफ-थॉट प्रॉम्प्टिंग और फिक्स्ड-स्टेप लेटेंट विधियों दोनों की तुलना में सटीकता में उल्लेखनीय सुधार होता है और इन्फरेंस लागत कम होती है।

मूल लेखक: Disha Sheshanarayana, Rajat Subhra Pal, Manjira Sinha, Tirthankar Dasgupta

प्रकाशित 2026-03-17

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Disha Sheshanarayana, Rajat Subhra Pal, Manjira Sinha, Tirthankar Dasgupta

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपका एक बहुत ही बुद्धिमान लेकिन बातूनी दोस्त है (एक AI) जो गणित की समस्याओं को हल करने में माहिर है। आमतौर पर, जब आप उससे कोई सवाल पूछते हैं, तो वह आपको केवल उत्तर नहीं देता। वह अपनी सोच की प्रक्रिया की एक लंबी, चरण-दर-चरण डायरी लिखता है: "ठीक है, पहले मुझे इन संख्याओं को जोड़ना होगा, फिर मुझे एहसास होता है कि मैंने एक गलती की है, इसलिए मैं उसे घटाता हूँ, फिर मैं गुणा करता हूँ..."

इसे चेन-ऑफ-थॉट (CoT) कहा जाता है। यह अच्छी तरह से काम करता है, लेकिन यह धीमा और महंगा है। यह एक ऐसे वकील को काम पर रखने जैसा है जो शब्द दर शब्द शुल्क लेता है; वह जितना अधिक अपनी तर्क प्रक्रिया समझाने के लिए बोलता है, आपकी लागत उतनी ही अधिक होती है, और आपको निर्णय का इंतजार करने में उतना ही अधिक समय लगता है।

समस्या: बहुत अधिक बातें, कम सोच

शोधकर्ताओं ने देखा कि कभी-कभी, AI को सही उत्तर पाने के लिए हर एक विचार को लिखने की आवश्यकता नहीं होती है। उसे बस इसके बारे में अपने भीतर "सोचना" होता है।

पिछले प्रयासों ने इस बात की कोशिश की कि AI अपने दिमाग के अंदर (एक छिपे हुए "लेटेंट स्पेस" में) चुपचाप सोचे बिना कुछ भी लिखे, लेकिन एक समस्या थी: AI को यह पता नहीं चलता था कि कब सोचना बंद करना है।

यह आपके दोस्त से यह पूछने जैसा था, "इसे हल करो, लेकिन ठीक 10 मिनट तक सोचो।"

यदि समस्या आसान थी (जैसे $2+2$ ), तो वे दीवार को घूरते हुए 9 मिनट 50 सेकंड बर्बाद कर देते थे।
यदि समस्या कठिन थी, तो 10 मिनट पर्याप्त नहीं होते थे, और वे बहुत जल्दी हार मान लेते थे।

समाधान: AdaAnchor (एक "स्मार्ट पॉज़ बटन")

यह शोध पत्र AdaAnchor नामक एक नई विधि पेश करता है। यह कैसे काम करता है, इसके लिए एक सरल उपमा देखें:

1. "मानसिक रफ कार्य" (Latent Anchors)

कागज पर लिखने (टोकन) के बजाय, AI एक विशेष मानसिक रफ कार्य (mental scratchpad) का उपयोग करता है। कल्पना कीजिए कि प्रश्न से जुड़ी अदृश्य स्टिकी नोट्स (sticky notes) का एक सेट है।

चरण 1: AI प्रश्न को देखता है और स्टिकी नोट्स पर एक मोटा विचार लिखता है।
चरण 2: वह नोट्स को देखता है, सोचता है, और नोट्स को एक बेहतर विचार के साथ फिर से लिखता है।
चरण 3: वह इसे बार-बार दोहराता है, नोट्स को बार-बार परिष्कृत (refine) करता है।

महत्वपूर्ण बात यह है कि यह सब आपके देखने के लिए लिखा नहीं जाता है। AI केवल अपने दिमाग में इन नोट्स को अपडेट कर रहा है।

2. "स्थिरता की जाँच" (Adaptive Halting)

यही असली जादू है। AI के पास एक अंतर्निहित नियम है: "सोचना तब बंद करें जब नोट्स बदलना बंद हो जाएं।"

परिदृश्य: कल्पना कीजिए कि आप एक पहेली सुलझाने की कोशिश कर रहे हैं। आप अपने दिमाग में उत्तरों का अनुमान लगाते रहते हैं।
- अनुमान 1: "शायद यह एक बिल्ली है?" (नोट्स बदल रहे हैं)
- अनुमान 2: "नहीं, शायद एक कुत्ता?" (नोट्स बदल रहे हैं)
- अनुमान 3: "रुको, यह निश्चित रूप से एक कुत्ता है।" (नोट्स थोड़ा बदल रहे हैं)
- अनुमान 4: "हाँ, यह एक कुत्ता है।" (नोट्स पहले की तुलना में बिल्कुल समान हैं)

जिस क्षण AI को एहसास होता है, "अरे, मेरे विचार अब बदल नहीं रहे हैं; मैंने उत्तर पा लिया है," वह स्टॉप बटन (Stop Button) दबा देता है।

आसान समस्या: AI 2 सेकंड तक सोचता है, महसूस करता है कि वह काम पूरा कर चुका है, और उत्तर देता है।
कठिन समस्या: AI 20 सेकंड तक सोचता है, अपने नोट्स को तब तक परिष्कृत करता है जब तक कि वे अंततः स्थिर न हो जाएं, फिर उत्तर देता है।

यह एक बड़ी बात क्यों है?

शोधकर्ताओं ने गणित की समस्याओं पर इसका परीक्षण किया और उन्हें तीन अद्भुत चीजें मिलीं:

यह तेज़ और सस्ता है: क्योंकि AI तुरंत बोलना (टेक्स्ट जेनरेट करना) बंद कर देता है, यह उन "शब्दों" को लगभग 92-93% बचा लेता है जिन्हें उसे आमतौर पर टाइप करना पड़ता है। यह एक 10 पन्नों के निबंध से एक शब्द के उत्तर तक जाने जैसा है, लेकिन समान बुद्धिमत्ता के साथ।
यह अधिक स्मार्ट है: AI को एक निश्चित समय के लिए सोचने के लिए मजबूर करने के बजाय, उसे यह तय करने देने से कि उसे कितनी देर सोचना है, यह वास्तव में इसे अधिक सटीक बनाता है। यह कठिन समस्याओं पर अधिक समय बिताता है और आसान समस्याओं पर कम।
यह कुशल है: यह पैसा और ऊर्जा बचाता है क्योंकि कंप्यूटर को उन हजारों अतिरिक्त शब्दों को प्रोसेस करने की आवश्यकता नहीं होती जिन्हें कोई पढ़ता भी नहीं है।

निष्कर्ष

AdaAnchor एक AI को "स्मार्ट पॉज़ बटन" देने जैसा है। हर समस्या के लिए लंबी डायरी लिखने के बजाय, यह AI को अदृश्य स्टिकी नोट्स पर चुपचाप सोचने की अनुमति देता है। यह उन नोट्स को तब तक परिष्कृत करता रहता है जब तक कि वे बदलना बंद न कर दें, और फिर यह आपको केवल अंतिम उत्तर दे देता है।

इसका मतलब है कि हमारे पास ऐसा AI हो सकता है जो गहराई से सोच सके और कठिन समस्याओं को हल कर सके, लेकिन यह बताने में समय या पैसा बर्बाद न करे कि उसने इसे कैसे किया।

यहाँ शोध पत्र "Thinking in Latents: Adaptive Anchor Refinement for Implicit Reasoning in LLMs" (AdaAnchor) का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल्स (LLMs) आमतौर पर चेन-ऑफ-थॉट (CoT) प्रॉम्पटिंग पर निर्भर करते हैं, जो जटिल समस्याओं (जैसे गणितीय शब्द समस्याओं) को हल करने के लिए स्पष्ट मध्यवर्ती रीजनिंग टोकन उत्पन्न करते हैं। हालांकि यह प्रभावी है, लेकिन इस दृष्टिकोण के महत्वपूर्ण नुकसान हैं:

गणना संबंधी लागत (Computational Cost): लंबे रीजनिंग ट्रेसेस को उत्पन्न करने से इन्फरेंस लेटेंसी (latency), टोकन उपयोग और सर्विंग लागत बढ़ जाती है, विशेष रूप से उच्च-कन्करेंसी डिप्लॉयमेंट में।
अक्षमता (Ineefficiency): मॉडल अक्सर आसान समस्याओं पर अनावश्यक गणना करते हैं, और टोकन जनरेशन की स्थिर प्रकृति गतिशील संसाधन आवंटन (dynamic resource allocation) को रोकती है।
मौजूदा लेटेंट विधियों की सीमाएँ: जबकि "लेटेंट रीजनिंग" दृष्टिकोण मौजूद हैं जो हिडन स्टेट्स (hidden states) में गणना को स्थानांतरित करने के लिए बनाए गए हैं (टोकन जनरेशन से बचने के लिए), उनमें से कई इन्फरेंस के समय एक निश्चित संख्या में रिफाइनमेंट स्टेप्स ( $K$ ) पर निर्भर करते हैं। यह एक ऐसा हाइपरपैरामीटर पेश करता जिसे सटीकता और दक्षता के बीच संतुलन बनाने के लिए प्रत्येक मॉडल और डेटासेट के लिए मैन्युअल रूप से ट्यून करना पड़ता है, जिससे यह समस्या की कठिनाई के अनुकूल होने में विफल रहता है।

लक्ष्य: एक ऐसा रीजनिंग फ्रेमवर्क विकसित करना जो मध्यवर्ती टोकन उत्पन्न किए बिना, इम्पलिसिट रूप से (लेटेंट स्पेस में) मल्टी-स्टेप गणना कर सके, और प्रत्येक विशिष्ट समस्या के कठिनाई स्तर के आधार पर कंप्यूटेशन बजट को गतिशील रूप से समायोजित कर सके।

2. कार्यप्रणाली: AdaAnchor

लेखक AdaAnchor प्रस्तावित करते हैं, जो एक फ्रेमवर्क है जो इनपुट से जुड़े सीखने योग्य (learnable) लेटेंट एंकर वेक्टर्स (latent anchor vectors) को रिफाइन करके "साइलेंट" इटरेटिव रीजनिंग को सक्षम बनाता है।

A. मुख्य आर्किटेक्चर (Core Architecture)

एंकर वेक्टर्स (Anchor Vectors): टेक्स्ट उत्पन्न करने के बजाय, मॉडल $m$ सीखने योग्य एंकर वेक्टर्स का एक संक्षिप्त सेट बनाए रखता है, $A^{(t)} \in \mathbb{R}^{m \times d}$ , जहाँ $t$ रिफाइनमेंट इटरेशन है।
इनपुट ऑग्मेंटेशन (Input Augmentation): प्रत्येक चरण में, इन एंकर्स को एम्बेडिंग स्पेस में प्रोजेक्ट किया जाता है और इनपुट टोकन एम्बेडिंग्स के आगे जोड़ा जाता है: $E^{(t)} = [P(A^{(t)}); \text{Emb}(x)]$ ।
इटरेटिव रिफाइनमेंट (Iterative Refinement): मॉडल इस ऑगमेंटेड इनपुट पर एक फॉरवर्ड पास करता है। एंकर पोजीशन के संगत हिडन स्टेट्स को निकाला जाता है और अगले इटरेशन के लिए एंकर वेक्टर्स को अपडेट करने के लिए उपयोग किया जाता है।
- अपडेट नियम (Update Rule): $A^{(t+1)} = (1-\beta)A^{(t)} + \beta A^{(t+1)}_{new}$ , जहाँ $\beta$ एक स्मूथिंग फैक्टर है ताकि स्थिर अभिसरण (stable convergence) सुनिश्चित हो सके।
केवल उत्तर डिकोडिंग (Answer-Only Decoding): एक बार रिफाइनमेंट समाप्त हो जाने के बाद, मॉडल केवल रिफाइंड एंकर्स और मूल प्रश्न की स्थिति में अंतिम उत्तर उत्पन्न करता है। कोई भी मध्यवर्ती रीजनिंग टोकन उत्सर्जित नहीं किए जाते हैं।

B. एडेप्टिव हॉल्टिंग मैकेनिज्म (Adaptive Halting Mechanism)

एक प्रमुख नवाचार स्टेबिलिटी-बेस्ड एडेप्टिव हॉल्टिंग रणनीति है, जो फिक्स्ड-स्टेप रिफाइनमेंट को डायनेमिक इंस्टेंस-वाइज कंप्यूटेशन से बदल देती है:

स्टेबिलिटी मेट्रिक (Stability Metric): सिस्टम इटरेशन के बीच एंकर स्टेट के परिवर्तन की निगरानी करता है। यह वर्तमान चरण के औसत एंकर रिप्रेजेंटेशन ( $\bar{a}^{(t)}$ ) और पिछले चरण ( $\bar{a}^{(t-1)}$ ) के बीच कोसाइन डिसिमिलरिटी (cosine dissimilarity) की गणना करता है:
$\Delta^{(t)} = 1 - \cos(\bar{a}^{(t)}, \bar{a}^{(t-1)})$
हॉल्टिंग नियम (Halting Rule): रिफाइनमेंट तब रुक जाता है जब अपडेट मैग्नीट्यूड $\Delta^{(t)}$ , लगातार $s$ चरणों तक एक थ्रेशोल्ड $\tau$ से नीचे रहता है।
लाभ: आसान उदाहरण जल्दी अभिसरित (converge) होते हैं (कम स्टेप्स), जबकि कठिन उदाहरण साझा अधिकतम बजट ( $K_{max}$ ) तक पहुँचने या अभिसरण तक रिफाइनमेंट जारी रखते हैं। यह प्रत्येक डेटासेट के लिए एक फिक्स्ड स्टेप काउंट को ट्यून करने की आवश्यकता को समाप्त करता है।

3. मुख्य योगदान (Key Contributions)

इम्पलिसिट रीजनिंग फ्रेमवर्क: सीखने योग्य एंकर वेक्टर्स का उपयोग करके पूरी तरह से लेटेंट स्पेस के भीतर मल्टी-स्टेप रीजनिंग करने के लिए एक विधि पेश करता है, जिससे मध्यवर्ती टेक्स्ट टोकन उत्पन्न करने का ओवरहेड बच जाता है।
एडेप्टिव हॉल्टिंग: एक कन्वर्जेंस-ड्रिवन स्टॉपिंग क्राइटेरिया प्रस्तावित करता है जो कंप्यूट रिसोर्सेज को डायने的に आवंटित करता है। यह बिना किसी अलग हॉल्टिंग कंट्रोलर या प्रति-डेटासेट हाइपरपैरामीटर ट्यूनिंग के, आसान समस्याओं पर ओवर-कंप्यूटेशन और कठिन समस्याओं पर अंडर-कंप्यूटेशन से बचाता है।
एफिशिएंसी-एक्यूरेसी ट्रेड-ऑफ: यह प्रदर्शित करता है कि गणना को साइलेंट लेटेंट रिफाइनमेंट में स्थानांतरित करके, मानक CoT की तुलना में प्रतिस्पर्धी या बेहतर सटीकता प्राप्त की जा सकती है, जबकि आउटपुट टोकन का उपयोग काफी कम हो जाता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

इस पद्धति का मूल्यांकन तीन गणितीय शब्द-समस्या बेंचमार्क: GSM8K, SVAMP, और MultiArith पर किया गया, जिसमें छोटे बैकबोन मॉडल्स (Qwen2.5-1.5B और Llama-3.2-1B) का उपयोग किया गया।

प्रदर्शन मेट्रिक्स (Performance Metrics)

सटीकता (Accuracy):
- एडेप्टिव हॉल्टिंग के साथ AdaAnchor ने फिक्स्ड-स्टेप लेटेंट रिफाइनमेंट ( $K=8$ ) की तुलना में सटीकता में 5% तक बेहतर प्रदर्शन किया।
- इसने "No CoT" बेसलाइन्स को काफी पीछे छोड़ दिया (मॉडल के आधार पर ~23–64% की वृद्धि)।
टोकन एफिशिएंसी (Token Efficiency):
- स्पष्ट चेन-ऑफ-थॉट (CoT) की तुलना में, AdaAnchor ने उत्पन्न आउटपुट टोकन को 92–93% कम कर दिया।
- इसने एक "आंसर-ओनली" फॉर्मेट बनाए रखा, जिससे इन्फरेंस लागत काफी कम हो गई।
स्टेप एफिशिएंसी (Step Efficiency):
- समान अधिकतम स्टेप बजट ( $K_{max}=8$ ) के तहत, एडेप्टिव हॉल्टिंग मैकेनिज्म ने औसत लेटेंट रिफाइनमेंट स्टेप्स को 48–60% कम कर दिया।
- स्टेप्स के वितरण ने दिखाया कि मॉडल स्वाभाविक रूप से ~60% उदाहरणों के लिए जल्दी रुक गया, जिससे कठिन उदाहरणों के लिए पूरा बजट सुरक्षित रहा।

एब्लेशन स्टडीज (Ablation Studies)

फिक्स्ड बनाम एडेप्टिव: फिक्स्ड-स्टेप रिफाइनमेंट ने $K$ बढ़ने के साथ घटते रिटर्न दिखाए, जबकि एडेप्टिव हॉल्टिंग ने कम औसत स्टेप्स के साथ उच्च सटीकता बनाए रखी।
स्टेबिलिटी क्राइटेरिया: कोसाइन-आधारित स्टेबिलिटी मेट्रिक अतिरिक्त ट्रेनिंग ओवरहेड के बिना कन्वर्जेंस पॉइंट्स की पहचान करने में प्रभावी साबित हुआ।

5. महत्व और भविष्य का कार्य (Significance and Future Work)

महत्व:
AdaAnchor, LLMs में "रीजनिंग बनाम लागत" के द्वंद्व के लिए एक व्यावहारिक समाधान प्रदान करता है। गणना को डिस्क्रीट टोकन स्पेस से निरंतर लेटेंट स्पेस में ले जाकर और एक एडेप्टिव स्टॉपिंग मैकेनिज्म पेश करके, यह इंस्टेंस-वाइज कंप्यूट एलोकेशन को सक्षम बनाता है। यह इम्पलिसिट रीजनिंग को वास्तविक दुनिया के परिदृश्यों में अधिक तैनात करने योग्य बनाता है जहाँ लेटेंसी और टोकन लागत महत्वपूर्ण बाधाएं हैं।

सीमाएं और भविष्य की दिशाएं:

ह्यूरिस्टिक पर निर्भरता: वर्तमान हॉल्टिंग मैकेनिज्म एक हैंड-डिज़ाइन किए गए स्टेबिलिटी ह्यूरिस्टिक पर निर्भर है, जो हाइपरपैरामीटर्स या डिस्ट्रीब्यूशन शिफ्ट के प्रति संवेदनशील हो सकता है। भविष्य का कार्य एक लर्निंग पॉलिसी को सुदृढीकरण शिक्षण (reinforcement learning) या सुपरवाइज्ड कंट्रोलर्स के माध्यम से विकसित करने का सुझाव देता है।
व्याख्यात्मकता (Interpretability): स्पष्ट CoT के विपरीत, लेटेंट एंकर वेक्टर्स के अर्थ सीधे व्याख्या योग्य नहीं हैं। भविष्य के अनुसंधान का लक्ष्य एंकर ट्राजेक्टरीज को विज़ुअलाइज़ करने और उन्हें मानव-व्याख्या योग्य सब-कंप्यूटेशन के साथ संरेखित करने के लिए प्रोबिंग टूल्स विकसित करना है।

संक्षेप में, AdaAnchor "ज़ोर से सोचने" (टोकन उत्पन्न करना) से "चुपचाप सोचने" (लेटेंट स्टेट्स को रिफाइन करना) की ओर एक बदलाव का प्रतिनिधित्व करता है, जो रीजनिंग क्षमता और कम्प्यूटेशनल दक्षता के बीच एक बेहतर संतुलन प्राप्त करता है।