LLMs Faithfully and Iteratively Compute Answers During CoT: A Systematic Analysis With Multi-step Arithmetics
यह अध्ययन प्रदर्शित करता है कि बड़े भाषा मॉडल चेन-ऑफ-थॉट रीजनिंग के दौरान उत्तरों को पहले से निर्धारित करने के बजाय उन्हें पुनरावृत्ति (iteratively) के माध्यम से निष्ठापूर्वक गणना करते हैं, जो इस बात की पुष्टि करता है कि उनके द्वारा उत्पन्न रीजनिंग चेन उनकी आंतरिक कम्प्यूटेशनल प्रक्रिया को सटीक रूप से दर्शाती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य प्रश्न: क्या LLMs "दिखावा कर रहे हैं या सच में काम कर रहे हैं"?
कल्पना कीजिए कि आपने एक बहुत ही बुद्धिमान लेकिन थोड़े नाटकीय छात्र से गणित का एक सवाल हल करने को कहा। वह एक लंबी, चरण-दर-चरण व्याख्या लिखना शुरू करता है (इसे चेन-ऑफ-थॉट या CoT कहा जाता है)। अंत में, वह नीचे उत्तर लिख देता है।
शोधकर्ताओं के लिए बड़ी चिंता यह है: क्या छात्र वास्तव में लिखते समय गणित हल कर रहा है, या उसने लिखना शुरू करने से पहले ही उत्तर जान लिया था?
यदि उसे उत्तर पहले से पता था, तो उसकी चरण-दर-चरण व्याख्या केवल एक "स्क्रिप्ट" है जिसे वह स्मार्ट दिखने के लिए पढ़ रहा है। उस स्थिति में, व्याख्या इस बात के प्रति "वफादार" (faithful) नहीं है कि उसने उत्तर कैसे प्राप्त किया; यह केवल एक प्रदर्शन है।
यह शोध पत्र पूछता है: क्या लार्ज लैंग्वेज मॉडल्स (LLMs) वास्तव में चरणों को लिखते समय उत्तर की गणना करते हैं, या वे पहले ही उत्तर तय कर लेते हैं और फिर बस उसे लिख देते हैं?
प्रयोग: "एक्स-रे" मशीन
यह जानने के लिए, शोधकर्ताओं ने AI के मस्तिष्क के लिए एक विशेष "एक्स-रे" मशीन बनाई।
- परीक्षण: उन्होंने AI को सरल, बहु-चरणीय गणितीय पहेलियाँ दीं (जैसे: A = 1 + B, B = 2 + 3, तो A क्या है?)।
- एक्स-रे (लीनियर प्रोबिंग): जैसे-जैसे AI अपना उत्तर जेनरेट कर रहा था, शोधकर्ताओं ने उसे हर एक शब्द लिखने पर रोक दिया। उन्होंने AI के "मस्तिष्क" (हिडन स्टेट्स) के अंदर झाँका यह देखने के लिए कि क्या सही उत्तर पहले से ही वहाँ मौजूद था और बस लिखे जाने का इंतज़ार कर रहा था।
- उपमा: कल्पना कीजिए कि एक जादूगर टोपी से खरगोश निकाल रहा है। शोधकर्ता जादूगर की जेबों को जादू दिखाने से पहले चेक कर रहे हैं ताकि यह देख सकें कि क्या खरगोश पहले से ही वहाँ छिपा हुआ था।
खोज: जादू के दौरान खरगोश प्रकट होता है
परिणाम आश्चर्यजनक और आश्वस्त करने वाले थे।
- व्याख्या शुरू होने से पहले: जब AI पहली बार समस्या को पढ़ता है, तो "एक्स-रे" दिखाता है कि कोई उत्तर नहीं है। मस्तिष्क समाधान से खाली है। उसने अभी तक निर्णय नहीं लिया है।
- व्याख्या के दौरान: जैसे-जैसे AI चरणों को लिखता है (जैसे, "पहले, मैं B की गणना करता हूँ..."), उत्तर उसके मस्तिष्क में दिखाई देने लगता है।
- निष्कर्ष: AI कोई स्क्रिप्ट नहीं पढ़ रहा है। वह वास्तव में लिखते समय चलते-चलते (on the fly) गणित कर रहा है। उसके द्वारा दी गई व्याख्या उस सटीक क्षण में उसके मस्तिष्क में जो हो रहा है, उसका एक वफादार प्रतिबिंब है।
"रिसेंसी बायस" (हालिया पूर्वाग्रह) की उपमा: ताज़ा पेंट
पेपर ने यह भी देखा कि AI चरणों को कैसे जोड़ता है। उन्हें रिसेंसी बायस (Recency Bias) मिला।
- उपमा: कल्पना कीजिए कि आप एक दीवार पेंट कर रहे हैं। आपको यह जानने के लिए कि अभी कौन सा रंग इस्तेमाल करना है, यह याद रखने की ज़रूरत नहीं है कि आपने 10 साल पहले कौन सा रंग पेंट किया था। आपको बस यह याद रखने की ज़रूरत है कि आपने पाँच मिनट पहले दीवार पर कौन सा रंग लगाया था।
- निष्कर्ष: AI का अंतिम उत्तर उसके द्वारा लिखे गए अंतिम चरणों पर बहुत अधिक निर्भर करता है। ऐसा नहीं लगता कि वह समस्या के शुरुआती हिस्से को लगातार दोबारा पढ़ रहा है। वह अगले चरण का मार्गदर्शन करने के लिए सबसे हालिया "ताज़ा पेंट" (अंतिम गणना किए गए चरण) पर भरोसा करता है।
"सर्जरी" टेस्ट: मस्तिष्क को बदलना
पूरी तरह से आश्वस्त होने के लिए, शोधकर्ताओं ने "ब्रेन सर्जरी" (कॉज़ल इंटरवेंशन) की।
- सेटअप: उन्होंने समस्या A को हल करने वाले एक AI और समस्या B को हल करने वाले एक AI को लिया।
- स्वैप (बदलना): उन्होंने समस्या B को हल करने वाले AI के "ब्रेन स्टेट" (आंतरिक विचार प्रक्रिया) को लिया और उसे समस्या A को हल करने वाले AI में व्याख्या के ठीक बीच में डाल दिया।
- परिणाम: AI तुरंत समस्या A का उत्तर भूल गया और समस्या B का उत्तर देने लगा।
- इसका अर्थ: इसने साबित कर दिया कि उत्तर शुरुआत में "हार्ड-कोडेड" नहीं है। उत्तर उन चरणों पर कारण-निर्भर (causally dependent) है जो अभी जेनरेट किए जा रहे हैं। यदि आप तर्क (reasoning) को बदलते हैं, तो आप उत्तर को भी बदल देते हैं।
यह क्यों महत्वपूर्ण है
यह AI का उपयोग करने वाले किसी भी व्यक्ति के लिए अच्छी खबर है।
- प्रक्रिया पर भरोसा करें: जब AI आपको लंबी व्याख्या देता है, तो आप भरोसा कर सकते हैं कि वह वास्तव में समस्या को समझ रहा है, न कि केवल अनुमान लगा रहा है और फिर उसे सही ठहराने के लिए एक कहानी बना रहा है।
- डीबगिंग (गलती सुधारना): यदि AI गलती करता है, तो यह संभावना है कि उसने श्रृंखला के बीच में किसी विशिष्ट चरण में गड़बड़ी की है, न कि इसलिए कि वह शुरू से ही "झूठ" बोल रहा था।
- पारदर्शिता: "चेन ऑफ थॉट" केवल एक सुंदर आवरण नहीं है; यह वह वास्तविक इंजन रूम है जहाँ काम किया जा रहा है।
एक वाक्य में सारांश
यह पेपर सिद्ध करता है कि जब AI मॉडल समस्याओं को हल करने के लिए "चेन ऑफ थॉट" का उपयोग करते हैं, तो वे वास्तव में बोलते समय चरण-दर-चरण उत्तर की गणना कर रहे होते हैं, न कि पहले ही उत्तर तय करके सोचने का नाटक कर रहे होते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।