How Do Answer Tokens Read Reasoning Traces? Self-Reading Patterns in Thinking LLMs for Quantitative Reasoning
यह शोध पत्र इस बात की जांच करता है कि थिंकिंग (thinking) एलएलएम में उत्तर टोकन मात्रात्मक कार्यों के दौरान रीजनिंग ट्रेसेस (reasoning traces) पर कैसे ध्यान केंद्रित करते हैं, एक "बेनाइन सेल्फ-रीडिंग" (benign self-reading) पैटर्न की पहचान करता है जो शुद्धता से जुड़ा है, और इस अंतर्दृष्टि का लाभ उठाते हुए एक प्रशिक्षण-मुक्त स्टीयरिंग पद्धति प्रस्तावित करता है जो अनुमान को व्यवस्थित, साक्ष्य-केंद्रित अटेंशन (attention) की ओर निर्देशित करके सटीकता में सुधार करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपका एक अत्यंत बुद्धिमान लेकिन थोड़ा बिखरा हुआ प्रतिभाशाली मित्र है जो एक जटिल गणितीय समस्या को हल करने की कोशिश कर रहा है। अंतिम उत्तर देने से पहले, वह अपने विचारों, गणनाओं और "रुको, मुझे इसे एक बार फिर से जांच लेने दो" जैसे क्षणों की एक लंबी, अस्त-व्यस्त नोटबुक लिखता है। आधुनिक "सोचने वाले AI" (Thinking AI) मॉडल बिल्कुल यही करते हैं: वे अंतिम उत्तर (Answer) देने से पहले एक रीजनिंग ट्रेस (Reasoning Trace - यानी वह नोटबुक) तैयार करते हैं।
यह शोध पत्र एक दिलचस्प सवाल पूछता है: AI का "उत्तर" वाला हिस्सा वास्तव में उस अस्त-व्यस्त नोटबुक को कैसे पढ़ता है?
शोधकर्ताओं ने पाया कि जब AI अपना उत्तर सही देता है, तो वह अपनी ही नोट्स को एक बहुत ही विशिष्ट और आत्मविश्वासी तरीके से पढ़ता है। जब वह गलत होता है, तो वह उन्हें भ्रमित और अराजक तरीके से पढ़ता है। इसके बाद उन्होंने एक ऐसा टूल बनाया जो AI को अपने नोट्स को "आत्मविश्वासी" तरीके से पढ़ने के लिए मजबूर करता है, जिससे वह अधिक स्मार्ट बन जाता है।
यहाँ सरल उपमाओं (analogies) का उपयोग करके इसका विवरण दिया गया है:
1. पढ़ने के दो तरीके: "टूर गाइड" बनाम "भटका हुआ पर्यटक"
शोधकर्ताओं ने पाया कि AI का "उत्तर" टोकन (token), उसके "रीजनिंग" टोकन को देखने के दो अलग-अलग पैटर्न होते हैं:
"बेनाइन" (अच्छा) पढ़ने का पैटर्न (आत्मविश्वासी टूर गाइड):
- फॉरवर्ड ड्रिफ्ट (Forward Drift): कल्पना कीजिए कि एक टूर गाइड एक संग्रहालय (museum) में घूम रहा है। जैसे-जैसे वे प्रदर्शनी के बारे में बताते हैं, वे लगातार आगे बढ़ते हैं, अगली पेंटिंग की ओर इशारा करते हैं, फिर अगली की ओर। वे बार-बार प्रवेश द्वार की ओर वापस नहीं भागते। AI भी ऐसा ही करता है: जैसे-जैसे वह उत्तर लिखता है, उसका ध्यान तर्क के प्रवाह (logical flow) का पालन करते हुए, रीजनिंग स्टेप्स के माध्यम से सुचारू रूप से आगे बढ़ता है।
- सिमेंटिक एंकर्स (Semantic Anchors): गाइड महत्वपूर्ण चीजों की ओर इशारा करने के लिए भी रुकता है: जैसे मुख्य मूर्ति, दुर्लभ कलाकृति, या निकास का संकेत। AI भी अपने नोट्स के मुख्य हिस्सों, जैसे कि समस्या के नियम या अंतिम गणना पर बार-बार ध्यान केंद्रित करके ऐसा करता है, और "शायद..." जैसे उलझन भरे विचारों को अनदेखा करता है।
- परिणाम: यह पैटर्न आंतरिक निश्चितता (Internal Certainty) का संकेत देता है। AI जानता है कि उसका रास्ता सही है और वह बस उसे लिख रहा है।
"अनसर्टेन" (खराब) पढ़ने का पैटर्न (भटका हुआ पर्यटक):
- डिफ्यूज अटेंशन (Diffuse Attention): कल्पना कीजिए कि एक पर्यटक रास्ता भटक गया है। वे गोल-गोल घूम रहे हैं, छत को देख रहे हैं, फिर फर्श को, फिर वापस पहले कमरे की ओर भाग रहे हैं, फिर गिफ्ट शॉप की ओर कूद रहे हैं। AI का ध्यान बेतरतीब ढंग से इधर-उधर कूदता है, अप्रासंगिक (irrelevant) हिस्सों को देखता है या लूप में फंस जाता है।
- कोई फोकस नहीं: यह मुख्य तथ्यों पर टिक नहीं पाता। यह एक ऐसे नक्शे को पढ़ने जैसा है जैसे कैमरा हिलाते हुए मैप देखा जा रहा हो।
- परिणाम: यह संज्ञानात्मक अनिश्चितता (Cognitive Uncertainty) का संकेत देता है। AI केवल अनुमान लगा रहा है और उसे अपने ही नोट्स पर भरोसा नहीं है।
2. समाधान: "सेल्फ-रीडिंग क्वालिटी" (SRQ) स्कोर
शोधकर्ताओं ने SRQ नामक एक स्कोरिंग सिस्टम बनाया जो यह मापता है कि AI अपने नोट्स को कितनी अच्छी तरह पढ़ रहा है।
- जियोमेट्रिक स्कोर (Geometric Score): क्या AI का ध्यान एक चिकनी, सीधी रेखा में आगे बढ़ता है? (जैसे एक सीधे तीर बनाम टेढ़े-मेढ़े ज़िगज़ैग पथ के बीच का अंतर)।
- सिमेंटिक स्कोर (Semantic Score): क्या AI नोट्स के महत्वपूर्ण हिस्सों (नियमों, निष्कर्षों) को देख रहा है या केवल शोर (noise) को?
यदि स्कोर उच्च है, तो AI "अच्छी तरह से पढ़" रहा है। यदि यह कम है, तो AI "खराब तरीके से पढ़" रहा है।
3. जादू का तरीका: AI को दिशा देना (Steering the AI)
आमतौर पर, AI को स्मार्ट बनाने के लिए, आपको इसे शुरू से फिर से प्रशिक्षित (retrain) करना पड़ता है, जिसमें महीनों और विशाल कंप्यूटर लगते हैं। यह शोध पत्र एक ट्रेनिंग-फ्री (training-free) विधि प्रस्तावित करता है।
AI के मस्तिष्क को एक कार की तरह समझें। शोधकर्ताओं ने इंजन को दोबारा नहीं बनाया; उन्होंने बस एक GPS स्टीयरिंग सुधार (steering correction) जोड़ा।
- उन्होंने हजारों उदाहरण देखे जहाँ AI ने अपने नोट्स को "अच्छी तरह" पढ़ा (उच्च SRQ) और जहाँ उसने उन्हें "बुरी तरह" पढ़ा (कम SRQ)।
- उन्होंने इन दोनों अवस्थाओं के बीच AI की मस्तिष्क गतिविधि के अंतर की गणना की।
- उन्होंने एक "स्टीयरिंग वेक्टर" (एक हल्का धक्का/नज) बनाया।
- परिणाम: जब AI उत्तर उत्पन्न करना शुरू करता है, तो वे इस 'नज' को लागू करते हैं। यह कार को सीधा और आत्मविश्वासी रास्ते पर रखने के लिए स्टीयरिंग व्हील को धीरे से घुमाने जैसा है, जिससे उसे "भटके हुए पर्यटक" के क्षेत्र में जाने से रोका जा सके।
4. यह क्यों महत्वपूर्ण है
- यह काम करता है: जब उन्होंने इस "नज" को लागू किया, तो गणित की समस्याओं पर AI की सटीकता काफी बढ़ गई (लगभग 2-3% की वृद्धि, जो AI की दुनिया में बहुत बड़ी बात है)।
- यह तेज़ है: उन्हें मॉडल को फिर से प्रशिक्षित करने की आवश्यकता नहीं पड़ी। उन्होंने बस उत्तर जनरेशन के दौरान उसके सोचने के तरीके को बदल दिया।
- यह सार्वभौमिक (Universal) है: यह विभिन्न प्रकार की गणितीय समस्याओं और विभिन्न AI मॉडलों पर काम कर गया।
बड़ी तस्वीर की उपमा (The Big Picture Analogy)
कल्पना कीजिए कि एक छात्र परीक्षा दे रहा है।
- पहले: छात्र एक लंबा, अस्त-व्यस्त ड्राफ्ट लिखता है। जब वह अंतिम उत्तर पर पहुँचता है, तो वह घबरा जाता है, अपने पूरे ड्राफ्ट को बेतरतीब ढंग से फिर से पढ़ता है, भ्रमित हो जाता है, और गलत उत्तर लिख देता है।
- बाद में (इस शोध पत्र की विधि के साथ): छात्र को एक मानसिक "कोच" दिया जाता है जो कहता है, "घबराओ मत। अपने ड्राफ्ट को देखो। उन चरणों का पालन करो जो तुमने अभी लिखे हैं। अपने द्वारा खोजे गए मुख्य सूत्र (formula) पर ध्यान केंद्रित करो। तुम्हें उत्तर पता है; बस उसे आत्मविश्वास के साथ लिखो।"
छात्र नया गणित नहीं सीख रहा है; वह बस अपने काम पर भरोसा करना और उसे बेहतर तरीके से पढ़ना सीख रहा है। यही वह चीज़ है जो यह शोध पत्र AI को सिखाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।