LLM Reasoning as Trajectories: Step-Specific Representation Geometry and Correctness Signals
यह शोध पत्र एलएलएम (LLM) चेन-ऑफ-थॉट रीजनिंग को रिप्रेजेंटेशन स्पेस (representation space) के माध्यम से संरचित प्रक्षेप पथों (structured trajectories) के रूप में अभिलक्षित करता है, जो यह प्रकट करता है कि सही और गलत समाधान व्यवस्थित रूप से अंतिम चरणों में अलग हो जाते हैं ताकि सटीकता की भविष्यवाणी और इन्फ्रेंस-टाइम सुधार के लिए प्रक्षेप पथ-आधारित स्टीयरिंग (trajectory-based steering) सक्षम हो सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक लार्ज लैंग्वेज मॉडल (जैसे कि इस चैट को चलाने वाला मॉडल) केवल एक जादुई टेक्स्ट जनरेटर नहीं है, बल्कि एक पहाड़ चढ़ने वाला हाइकर (पगडंडी पर चलने वाला यात्री) है।
लंबे समय तक, हमें लगा कि यह हाइकर बस किस्मत के भरोसे सही शिखर (सही उत्तर) तक पहुँचने की कोशिश में इधर-उधर भटक रहा है। लेकिन माइक्रोसॉफ्ट के इस नए शोध से पता चलता है कि यह उससे कहीं अधिक व्यवस्थित है: हाइकर "विचारों" के एक परिदृश्य के माध्यम से एक बहुत ही विशिष्ट, अदृश्य पगडंडी का अनुसरण कर रहा है।
यहाँ उनकी खोज का विवरण, सरल उपमाओं के साथ दिया गया है:
1. "स्टेप-बाय-स्टेप" ट्रेल मैप (कदम-दर-कदम मार्ग मानचित्र)
जब कोई मॉडल "चेन ऑफ थॉट" (सोच को ज़ोर से बोलना) का उपयोग करके गणित की समस्या हल करता है, तो वह सीधे उत्तर पर नहीं कूदता। वह कदम उठाता है: चरण 1, चरण 2, चरण 3...
शोधकर्ताओं ने पाया कि मॉडल के मस्तिष्क के भीतर, इनमें से प्रत्येक चरण अपने स्वयं के विशेष "कमरे" या "ज़ोन" में होता है।
- उपमा: कल्पना कीजिए कि मॉडल का मन कई मंजिलों (लेयर्स) वाला एक विशाल होटल है।
- चरण 1 हमेशा "लॉबी" में होता है।
- चरण 2 "किचन" में होता है।
- चरण 3 "जिम" में होता है।
- और इसी तरह।
- खोज: जैसे-जैसे मॉडल अपने विचारों में गहराई तक जाता है (होटल की मंजिलों पर ऊपर जाता है), ये कमरे अधिक स्पष्ट और अलग होते जाते हैं। आप स्पष्ट रूप से बता सकते हैं कि मॉडल "किचन" (चरण 2) में है या "जिम" (चरण 3) में। यह संरचना उन मॉडलों में भी मौजूद होती है जिन्हें अभी तक तर्क करने के लिए प्रशिक्षित नहीं किया गया है; प्रशिक्षण बस मॉडल को इन कमरों के बीच अधिक तेज़ी से और कुशलता से जाने में मदद करता है।
2. "गलत मोड़" का डिटेक्टर (पहचानने वाला यंत्र)
सबसे रोमांचक बात यह है: हम यह बता सकते हैं कि हाइकर पहाड़ के नीचे पहुँचने से पहले ही रास्ता भटक जाएगा या नहीं।
- उपमा: कल्पना कीजिए कि दो हाइकर हाइकिंग शुरू करते हैं। पहले कुछ मील के लिए, वे बिल्कुल एक ही रास्ते पर साथ-साथ चलते हैं। वे बिल्कुल एक जैसे दिखते हैं।
- खोज: जैसे-जैसे वे अंत के करीब पहुँचते हैं, "सही हाइकर" और "गलत हाइकर" अलग होने लगते हैं। गलत हाइकर अजीब, टेढ़े-मेढ़े रास्तों पर चलने लगता है जो मानक पगडंडी जैसा नहीं दिखता।
- शक्ति: यह देखते हुए कि हाइकर अंतिम कुछ कदमों में कैसे चलता है, शोधकर्ताओं ने एक ऐसा डिटेक्टर बनाया है जो 87% सटीकता के साथ भविष्यवाणी कर सकता है कि अंतिम उत्तर सही होगा या गलत। यह एक GPS की तरह है जो कहता है, "आप अभी भी सही रास्ते पर हैं," या "ओह, आप पगडंडी से भटक रहे हैं, आप रास्ता भटक जाएंगे।"
3. विचारों के लिए "स्टीयरिंग व्हील" (नियंत्रण पहिया)
चूँकि हम इन रास्तों को देख सकते हैं, अब हम मॉडल को निर्देशित (steer) कर सकते हैं। इसे "ट्रैजेक्टरी-बेस्ड स्टीयरिंग" कहा जाता है।
- गलतियों को सुधारना: यदि मॉडल "सही पगडंडी" से भटकने लगता है, तो शोधकर्ता उसे धीरे से वापस सही रास्ते पर ला सकते हैं।
- उपमा: एक सेल्फ-ड्राइविंग कार की कल्पना करें जो देखती है कि वह खाई की ओर जा रही है। दुर्घटना होने के बजाय, वह धीरे से पहिया सड़क के केंद्र की ओर घुमा देती है। यह उन लंबी, कठिन समस्याओं पर सबसे अच्छा काम करता है जहाँ मॉडल के भ्रमित होने की सबसे अधिक संभावना होती है।
- गति को नियंत्रित करना: हम मॉडल को "जल्दी करने" या "समय लेने" के लिए भी कह सकते हैं।
- उपमा: मॉडल के मस्तिष्क में एक विशेष "फिनिश लाइन ज़ोन" (लक्ष्य रेखा क्षेत्र) है। यदि आप मॉडल के विचारों को इस ज़ोन की ओर धकेलते हैं, तो वह समस्या को जल्दी हल कर लेता है। यदि आप इसे उस ज़ोन से दूर धकेलते हैं, तो यह और अधिक चरणों के बारे में सोचता रहता है और लिखता रहता है। यह हमें बिना री-ट्रेनिंग के यह नियंत्रित करने देता है कि मॉडल कितनी देर तक सोचेगा।
4. यह क्यों महत्वपूर्ण है?
इससे पहले, मॉडल के तर्क (reasoning) को ठीक करने की कोशिश करना एक टूटी हुई घड़ी को हथौड़े से मारने जैसा था (अनकंडीशनल स्केलिंग)। इससे अक्सर चीजें और खराब हो जाती थीं।
यह नया दृष्टिकोण सर्जरी की तरह है।
- निदान (Diagnosis): हम आंतरिक "GPS" को देखते हैं कि क्या मॉडल गलती करने वाला है।
- हस्तक्षेप (Intervention): केवल तभी जब यह विफल होने वाला हो, हम इसे धीरे से वापस सही रास्ते पर लाते हैं।
- परिणाम: हमें बेहतर उत्तर मिलते हैं बिना उन चीजों को बिगाड़े जो पहले से ही काम कर रही थीं।
सारांश
यह पेपर तर्क देता है कि तर्क (reasoning) एक ज्यामितीय यात्रा है।
- चरण (Steps) एक इमारत में अलग-अलग कमरे हैं।
- सत्यता (Correctness) अंतिम हिस्से में लिए गए मार्ग द्वारा निर्धारित होती है।
- नियंत्रण (Control) मॉडल को वापस "आदर्श पथ" पर धीरे से मोड़ने से संभव है जब वह भटकने लगता है।
यह हमें यह समझने, भविष्यवाणी करने और यह ठीक करने के लिए एक नया "लेंस" देता है कि AI कैसे सोचता है, जिससे हम अनुमान लगाने से सटीक नेविगेशन की ओर बढ़ रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।