Reasoning-Trace Collapse: Evaluating the Loss of Explicit Reasoning During Fine-Tuning
यह शोध पत्र "रीजनिंग-ट्रेस कोलैप्स" (reasoning-trace collapse) की पहचान और मात्रा निर्धारण करता है, जो एक ऐसी घटना है जहाँ केवल उत्तर वाले डेटा पर रीजनिंग मॉडल्स को फाइन-ट्यून करने से वे सही अंतिम उत्तर बनाए रखने के बावजूद वैध मध्यवर्ती तर्क चरणों को खो देते हैं, और यह इस गिरावट का पता लगाने तथा इसे कम करने के लिए एक संरचनात्मक मूल्यांकन ढांचे और लॉस-मास्किंग रणनीतियों का प्रस्ताव करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने एक प्रतिभाशाली छात्र को काम पर रखा है जिसे हमेशा गणित के टेस्ट में अपना "काम दिखाने" (show their work) के लिए प्रशिक्षित किया गया है। वे केवल अंतिम उत्तर नहीं लिखते; वे अपने परिणाम को घेरने से पहले एक विशेष नोटबुक में अपने तर्क का हर चरण विस्तार से लिखते हैं। यही "काम दिखाना" उन्हें एक तर्क विशेषज्ञ बनाता है।
अब, कल्पना कीजिए कि आप इस छात्र को होमवर्क के कुछ नए सवाल देते हैं। इन नए सवालों में केवल किताब के पीछे अंतिम उत्तर दिए गए हैं; उनमें चरण (steps) नहीं दिखाए गए हैं। आप छात्र को इन नए सवालों पर अभ्यास करने के लिए कहते हैं।
समस्या: "मौन" पतन (The "Silent" Collapse)
लेख तर्क देता है कि जब छात्र इन "केवल-उत्तर वाले" सवालों पर अभ्यास करता है, तो कुछ अजीब होता है। वे सही उत्तर देने लगते हैं (तो आपको लगता है कि वे बहुत अच्छा कर रहे हैं), लेकिन वे नोटबुक में अपने चरण लिखना बंद कर देते हैं। वे "काम दिखाने" वाले हिस्से को पूरी तरह से छोड़ देते हैं और सीधे उत्तर पर पहुँच जाते हैं।
लेखक इसे "रीजनिंग-ट्रेस कोलैप्स" (Reasoning-Trace Collapse) कहते हैं।
यह एक ऐसे शेफ की तरह है जो पहले खाना बनाने से पहले एक विस्तृत रेसिपी लिखता था। कई ऐसे व्यंजन बनाने के बाद जहाँ रेसिपी प्रदान नहीं की गई थी, शेफ ने व्यंजन तो सही बनाना शुरू कर दिया लेकिन रेसिपी लिखना बंद कर दिया। यदि आप केवल भोजन का स्वाद लेते हैं (अंतिम उत्तर), तो आपको लगता है कि शेफ अभी भी एक बेहतरीन रेसिपी-लेखक है। लेकिन यदि आप उनसे रेसिपी मांगते हैं, तो वह गायब है। शेफ ने "काम दिखाने" की आदत खो दी है, भले ही भोजन अभी भी स्वादिष्ट है।
छिपा हुआ खतरा
पेपर चेतावनी देता है कि यदि हम केवल अंतिम उत्तर की जाँच करते हैं (क्या उन्होंने सही संख्या प्राप्त की?), तो हम इस विफलता को मिस कर देते हैं। मॉडल सफल दिखता है, लेकिन इसने उस विशिष्ट व्यवहार को खो दिया है जिसने इसे मूल रूप से "रीजनिंग मॉडल" बनाया था। यह एक संरचनात्मक विफलता है: मशीन ने मध्यवर्ती चरणों (intermediate steps) को बनाना बंद कर दिया है, भले ही अंतिम परिणाम सही हो।
समाधान: "मास्किंग" (Masking) का तरीका
शोधकर्ताओं ने परीक्षण किया कि हर समस्या के लिए नया शिक्षक नियुक्त किए बिना इन "केवल-उत्तर वाले" होमवर्क को कैसे ठीक किया जाए।
- "खाली बॉक्स" विधि (The "Empty Box" Method): जब वे छात्र को "केवल-उत्तर वाले" होमवर्क देते हैं, तो उन्होंने छात्र को एक खाली बॉक्स लिखने के लिए मजबूर करने की कोशिश की जहाँ चरण होने चाहिए थे, भले ही वह बॉक्स खाली हो। यह सभी के लिए अच्छी तरह काम नहीं किया; कुछ छात्र अभी भी चरण लिखना बंद कर देते थे।
- "शिक्षक" विधि (The "Teacher" Method): उन्होंने होमवर्क के लिए चरणों को लिखने के लिए एक सुपर-स्मार्ट शिक्षक को काम पर रखा, फिर छात्र को उन्हें कॉपी करने के लिए कहा। यह कुछ छात्रों के लिए अच्छा काम करता था लेकिन यह महंगा था और सभी के लिए काम नहीं करता था।
- "मास्किंग" विधि (The Winner): यह एक चतुर तरकीब है। जब छात्र "केवल-उत्तर वाले" होमवर्क पर अभ्यास करता है, तो कंप्यूटर स्कोर की गणना करते समय उस हिस्से को अनदेखा कर देता है जहाँ चरण होने चाहिए थे। यह केवल छात्र को सही अंतिम उत्तर के लिए पुरस्कृत करता है, लेकिन उन्हें चरण वाला बॉक्स खाली छोड़ने के लिए दंडित नहीं करता है।
इसे इस तरह सोचें: यदि आप एक बच्चे से कहते हैं, "मुझे परवाह नहीं है कि तुम चरण लिखते हो या नहीं, बस सही उत्तर दो," तो वह चरण लिखना बंद कर देता है। लेकिन यदि आप कहते हैं, "मैं केवल अंतिम उत्तर की जाँच करूँगा, इसलिए अभी चरणों की चिंता न करें," तो बच्चा अभी भी चरण लिखने की आदत बनाए रख सकता है क्योंकि उसे ऐसा करने से रोकने के लिए सक्रिय रूप से प्रशिक्षित नहीं किया जा रहा है।
पेपर ने पाया कि यह "मास्किंग" रणनीति बहुत प्रभावी थी। इसने मॉडलों को उनके "काम दिखाने" की आदत को भूले बिना नए कार्यों (सही उत्तर प्राप्त करना) को सीखने में मदद की।
निष्कर्ष (The Takeaway)
मुख्य संदेश सरल है: जब हम इन स्मार्ट AI मॉडलों को नए कार्यों के लिए प्रशिक्षित करते हैं, तो हम केवल यह देखकर नहीं रुक सकते कि क्या वे सही उत्तर प्राप्त कर रहे हैं। हमें यह भी जाँचना होगा कि क्या वे अभी भी अपना "काम दिखा" रहे हैं। यदि हम नहीं करते हैं, तो हमारे पास ऐसे मॉडल हो सकते हैं जो सही उत्तर तो देते हैं लेकिन उन्होंने समस्या के माध्यम से तर्क करने की प्रक्रिया खो दी है, जो एक बड़ी समस्या है यदि हमें इस बात पर भरोसा करने की आवश्यकता हो कि वे वहाँ तक कैसे पहुँचे।
लेखकों ने एक मुफ्त टूल भी जारी किया है जिसे THINKPACK (इन मॉडलों के लिए एक यूनिवर्सल ट्रांसलेटर की तरह) कहा जाता है, ताकि डेवलपर्स यह जाँच सकें कि क्या उनके मॉडल अभी भी अपने चरण लिख रहे हैं या वे इस "साइलेंट कोलैप्स" का शिकार हो गए हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।