← नवीनतम पेपर
🤖 AI

Latent Thought Flow: Efficient Latent Reasoning in Large Language Models

यह शोध पत्र लेटेंट थॉट फ्लो (LTF) को प्रस्तुत करता है, जो एक ढांचा है जो तर्क को एक निरंतर GFlowNet का उपयोग करके परिवर्तनीय-लंबाई वाले निरंतर प्रक्षेप पथों (trajectories) के रूप में मॉडल करता है ताकि उत्तर की गुणवत्ता और कम्प्यूटेशनल लागत के बीच संतुलन को अनुकूलित किया जा सके, जिससे यह सटीकता और दक्षता दोनों में स्पष्ट चेन-ऑफ-थॉट (Chain-of-Thought) और मौजूदा लेटेंट रीजनिंग विधियों से बेहतर प्रदर्शन करता है।

मूल लेखक: Xiandong Zou, Jing Huang, Jianshu Li, Pan Zhou

प्रकाशित 2026-06-16
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Xiandong Zou, Jing Huang, Jianshu Li, Pan Zhou

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक कठिन गणित की समस्या को हल करने की कोशिश कर रहे हैं। आपके पास इसे सोचने के दो तरीके हैं:

  1. "ज़ोर से बोलने वाला" तरीका (वर्तमान मानक): आप अपने सोचने के हर एक कदम को कागज़ पर लिखते जाते हैं। "पहले मैं 2 और 2 को जोड़ता हूँ, फिर मैं 5 से गुणा करता हूँ..." यह स्पष्ट है, लेकिन इसे लिखने और पढ़ने में बहुत समय लगता है। यह एक रोबोट की तरह है जिसे आपको उत्तर देने से पहले अपना हर विचार ज़ोर से बोलना पड़ता है।

  2. "मन ही मन फुसफुसाने वाला" तरीका (लेटेंट रीजनिंग): आप अपने दिमाग के अंदर ही चरणों के बारे में सोचते हैं, उन्हें कागज़ पर नहीं लिखते। यह तेज़ है, लेकिन कंप्यूटर को यह सिखाना मुश्किल है क्योंकि वह अपने ही विचारों में खो सकता है या चरणों को छोड़ सकता है।

यह शोध पत्र एक नई विधि प्रस्तुत करता है जिसे लेटेंट थॉट फ्लो (LTF) कहा जाता है। LTF को एक रोबोट के मस्तिष्क के लिए एक स्मार्ट, आंतरिक जीपीएस (GPS) की तरह समझें। यह इस प्रकार काम करता है:

1. समस्या: "भाषण" की बाधा (The "Speech" Bottleneck)

वर्तमान AI मॉडल (LLMs) तर्क करने में बेहतरीन हैं, लेकिन उन्हें उत्तर देने से पहले अपने विचारों को "ज़ोर से बोलने" (टेक्स्ट टोकन के रूप में) के लिए मजबूर किया जाता है।

  • उपमा: कल्पना कीजिए कि एक शेफ को सब्जी काटने के हर एक कट के लिए एक रेसिपी लिखनी पड़ती है इससे पहले कि वह वास्तव में सब्जी काट सके। यह सटीक है, लेकिन अविश्वसनीय रूप से धीमा और बर्बादी भरा है। शोध पत्र इसे "भाषाई स्थान की बाधा" (linguistic space bottleneck) कहता है।

2. समाधान: "निरंतर स्थान" में सोचना (Thinking in "Continuous Space")

LTF AI को शब्दों (डिस्क्रीट टोकन) के बजाय निरंतर, मौन विचारों में सोचने की अनुमति देता है।

  • उपमा: "चरण 1, चरण 2" लिखने के बजाय, AI विचारों के एक चिकने, अदृश्य परिदृश्य (landscape) के माध्यम से आगे बढ़ता है। उसे हर विचार के लिए एक शब्द टाइप करने के लिए रुकने की आवश्यकता नहीं होती। वह अपने सोचने की प्रक्रिया के माध्यम से सहजता से बह सकता है।

3. चुनौती: AI को कुशलतापूर्वक सोचना कैसे सिखाएं?

यदि आप एक AI को चुपचाप सोचने की अनुमति देते हैं, तो वह भटक सकता है, बहुत अधिक समय ले सकता है, या एक लूप में फंस सकता है। पिछले तरीकों ने AI को एक एकल पूर्ण पथ खोजने के लिए मजबूर करने की कोशिश की, जो एक हाइकर (पगडंडी पर चलने वाले) को यह बताने जैसा है, "शिखर तक जाने के लिए केवल एक ही रास्ता है।" वास्तव में, कई रास्ते होते हैं, और कुछ छोटे और आसान होते हैं, जबकि अन्य लंबे और कठिन होते हैं।

LTF GFlowNet नामक एक अवधारणा का उपयोग करता है।

  • उपमा: एक नदी की कल्पना करें जो एक झील (सही उत्तर) की ओर बह रही है।
    • पुराने तरीके केवल सबसे तेज़ धारा को खोजने और बाकी को अनदेखा करने की कोशिश करते थे।
    • LTF पूरे नदी तंत्र का मानचित्र बनाता है। यह सीखता है कि कुछ रास्ते छोटे हैं और सीधे झील तक ले जाते हैं (अच्छा), जबकि अन्य लंबे, घुमावदार या बंद रास्ते (dead ends) हैं (बुरा)।
    • यह AI को अच्छे रास्तों पर अपनी संभावना (probability) फैलाने के लिए प्रशिक्षित करता है। यह केवल एक को नहीं चुनता; यह उन रास्तों को प्राथमिकता देना सीखता है जो सटीक और छोटे दोनों हैं।

4. गुप्त नुस्खा: "एन्ट्रॉपी-वेटेड" पर्यवेक्षण (Entropy-Weighted Supervision)

AI को यह कैसे पता चलेगा कि उसके मौन विचार अच्छे थे यदि उसे केवल अंतिम उत्तर ही दिखाई देता है?

  • उपमा: कल्पना कीजिए कि एक शिक्षक एक छात्र की मौन सोच प्रक्रिया को ग्रेड दे रहा है। यदि छात्र की सोच बहुत अराजक (उच्च "एन्ट्रॉपी" या भ्रम) थी, तो शिक्षक उन्हें व्यवस्थित करने में मदद करने के लिए अतिरिक्त ध्यान देता है। यदि सोच पहले से ही बहुत केंद्रित थी, तो शिक्षक कम ध्यान देता है।
  • LTF एक विशेष गणितीय ट्रिक (एन्ट्रॉपी-वेटेड सबट्रैजेक्टरी बैलेंस) का उपयोग करता है ताकि वह सोचने की प्रक्रिया के उन हिस्सों को अधिक "क्रेडिट" दे सके जो अनिश्चित या जटिल थे, यह सुनिश्चित करते हुए कि AI उन कठिन जगहों को बिना भटके पार करना सीख सके।

5. परिणाम: तेज़ और स्मार्ट

इस शोध पत्र ने गणित की समस्याओं पर इसका परीक्षण किया और पाया कि LTF एक बड़ी प्रगति है:

  • सटीकता (Accuracy): इसने अन्य "मौन विचार" विधियों की तुलना में सही उत्तर अधिक बार दिए (लगभग 9.5% बेहतर)।
  • गति (Speed): इसने वहां तक पहुँचने के लिए काफी कम "सोचने के चरणों" (लगभग 27% कम) का उपयोग किया।
  • दक्षता (Efficiency): इसने उत्तर मिलने के बाद सोचना बंद करना सीख लिया, बजाय इसके कि वह बिना वजह बड़बड़ाता रहे।

सारांश:
LTF एक रोबोट को एक लिपिक (stenographer) (जो हर विचार को लिखता है) से एक मार्शल आर्टिस्ट (जो एक तरल, आंतरिक प्रवाह में सोचता है और कार्य करता है) में अपग्रेड करने जैसा है। यह विचारों के अदृश्य परिदृश्य में नेविगेट करना सीखता है, अंत तक एक शब्द भी बोले बिना, उत्तर तक सबसे छोटे और सबसे सटीक मार्ग को चुनता है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 🤖 cs.AI →