Exploring Extrinsic and Intrinsic Properties for Effective Reasoning with Code Interpreter
यह शोध पत्र यह पहचानते हुए कि अधिक शक्तिशाली मॉडल महत्वपूर्ण टोकन और सत्यापन एवं बैकट्रैकिंग जैसे संज्ञानात्मक व्यवहारों की उच्च व्यापकता प्रदर्शित करते हैं, कोड इंटरप्रेटर्स के साथ प्रभावी तर्क (reasoning) को व्यवस्थित रूप से अभिलक्षित करता है, और यह प्रदर्शित करता है कि अनुमान (inference) और प्रशिक्षण दोनों के दौरान इन बाह्य और आंतरिक गुणों का लाभ उठाना तर्क प्रदर्शन को बढ़ाने के साथ-साथ टोकन दक्षता में सुधार कर सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही प्रतिभाशाली लेकिन कभी-कभी अति-आत्मविश्वासी छात्र (एक लार्ज लैंग्वेज मॉडल, या LLM) है, जो एक जटिल गणितीय पहेली को हल करने की कोशिश कर रहा है। आमतौर पर, यह छात्र सारा भारी काम अपने दिमाग में ही करने की कोशिश करता है। कभी-कभी वे सही होते हैं, लेकिन अक्सर वे छोटी-मोटी अंकगणितीय गलतियाँ करते हैं या अपने ही विचारों के भंवर में खो जाते हैं।
इसे ठीक करने के लिए, छात्र को एक कोड इंटरप्रेटर (Code Interpreter) दिया गया है—जो अनिवार्य रूप से एक सुपर-फास्ट, त्रुटि-रहित कैलकुलेटर और एक सैंडबॉक्स है जहाँ वे अपने विचारों का परीक्षण करने के लिए कोड लिख सकते हैं। यह शोध पत्र इस बात की जांच करता है कि सर्वश्रेष्ठ छात्र इस उपकरण का उपयोग कमजोर छात्रों की तुलना में कैसे करते हैं, और हम उन्हें इसका और भी बेहतर उपयोग करना कैसे सिखा सकते हैं।
शोधकर्ताओं ने मुख्य रूप से दो चीजों पर ध्यान केंद्रित किया: बाह्य गुण (Extrinsic Properties) (जो छात्र बोलकर व्यक्त करता है) और आंतरिक गुण (Intrinsic Properties) (जो वह आंतरिक रूप से सोचता है)।
1. "बाह्य" सुराग: जादुई शब्द
इसे छात्र के आंतरिक एकालाप (internal monologue) को सुनने के रूप में समझें। शोधकर्ताओं ने पाया कि सबसे बुद्धिमान छात्र सीधे उत्तर पर नहीं कूदते। वे अपनी सोचने की प्रक्रिया में विशिष्ट "जादुई शब्दों" या महत्वपूर्ण टोकन (crucial tokens) का उपयोग करते हैं।
- निष्कर्ष: शीर्ष प्रदर्शन करने वाले मॉडल अक्सर "let" (मान लीजिए), "check" (जांचें), और "wait" (रुको/इंतजार) जैसे शब्दों का उपयोग करते थे।
- "Let" का अर्थ है, "आइए इस विशिष्ट दृष्टिकोण को आजमाते हैं।"
- "Check" का अर्थ है, "रुको, आगे बढ़ने से पहले आइए मैं सत्यापित करूं कि क्या यह चरण सही है।"
- "Wait" एक संकेत है थोड़ा धीमा होने और थोड़ा और सोचने का।
- प्रयोग: शोधकर्ताओं ने कमजोर मॉडलों को एक परीक्षण के दौरान इन शब्दों को अधिक बार बोलने के लिए मजबूर किया।
- परिणाम: गणित, सूचियों को व्यवस्थित करने और अनुकूलन (optimization) समस्याओं के लिए यह जादू की तरह काम कर गया। मॉडल काफी बेहतर हो गए। हालांकि, स्थानिक तर्क (आकृतियों की कल्पना करना) या तार्किक पहेलियों के लिए, केवल ये शब्द जोड़ने से ज्यादा मदद नहीं मिली। यह ऐसा ही है जैसे किसी धावक को यह कहना कि "सांस लो" उन्हें मैराथन दौड़ने में मदद करता है, लेकिन यह उन्हें क्रॉसवर्ड पहेली सुलझाने में मदद नहीं करता।
2. "आंतरिक" आदतें: मानसिक कसरत (Mental Gymnastics)
यह हिस्सा छात्र की वास्तविक सोचने की आदतों को देखता है, न कि केवल उनके द्वारा उपयोग किए जाने वाले शब्दों को। शोधकर्ताओं ने चार "संज्ञानात्मक व्यवहारों" (या मानसिक कसरत) की पहचान की जो मजबूत मॉडल स्वाभाविक रूप से करते हैं:
- सत्यापन (Verification): अपने काम की जांच करना। "क्या उस कोड ने वास्तव में सही संख्या दी?"
- पीछे हटना (Backtracking): यह महसूस करना कि रास्ता गलत है और दूसरा रास्ता खोजने के लिए पीछे जाना।
- उप-लक्ष्य निर्धारण (Subgoal Setting): एक बड़ी समस्या को छोटे, प्रबंधनीय चरणों में तोड़ना।
- पश्च दिशा में श्रृंखला बनाना (Backward Chaining): अंतिम उत्तर से शुरू करना और पीछे की ओर काम करना यह देखने के लिए कि वहां तक पहुँचने के लिए किन चरणों की आवश्यकता है।
- निष्कर्ष: सर्वश्रेष्ठ मॉडल लगातार ये सभी कार्य करते थे। दिलचस्प बात यह है कि जबकि "बैकट्रैकिंग" (पीछे हटना) सामान्य सोच में आम है, कोड-आधारित तर्क में, उप-लक्ष्य निर्धारण (समस्या को तोड़ना) सबसे प्रमुख आदत थी।
- प्रयोग: शोधकर्ताओं ने एक मानक प्रशिक्षण ढांचे (training framework) को लिया और मॉडलों को उनके सीखने के चरण के दौरान इन आदतों को जबरन लागू करने के लिए प्रशिक्षित किया। उन्होंने अनिवार्य रूप से एक "मानसिक जिम" बनाया जहाँ मॉडलों ने इन विशिष्ट चालों का अभ्यास किया।
- परिणाम: अधिकांश मॉडलों (विशेष रूप से Qwen2.5 परिवार) के लिए, इस प्रशिक्षण ने उन्हें गणित में बहुत स्मार्ट बना दिया। उन्होंने "जरूरत से ज्यादा सोचने" (गलत रास्तों पर भटकने) को छोड़ना सीखा और वे अपने टोकन (शब्दों) के साथ अधिक कुशल बन गए।
- चुनौती: एक विशिष्ट, पहले से ही बहुत उन्नत मॉडल (Qwen3-8B) के लिए, इन आदतों को जबरदस्ती थोपना वास्तव में इसे खराब बना गया। क्यों? क्योंकि प्रशिक्षण ने अनजाने में मॉडल को उन "जादुई शब्दों" (बाह्य गुणों) का उपयोग करने से रोक दिया जिनकी उसे आवश्यकता थी। यह ऐसा है जैसे किसी मास्टर शेफ को सब्जियां काटने का नया तरीका सिखाना, लेकिन ऐसा करते समय आपने अनजाने में उसे चाकू पकड़ना ही भुला दिया। नई आदत उनके मौजूदा स्टाइल से टकरा गई।
बड़ी तस्वीर (The Big Picture)
शोध पत्र यह निष्कर्ष निकालता है कि कोड इंटरप्रेटर के साथ प्रभावी तर्क केवल एक शक्तिशाली मस्तिष्क या तेज़ कैलकुलेटर होने के बारे में नहीं है। यह इनके बीच के नृत्य (dance) के बारे में है:
- सही चीजें कहना ("चेक" और "वेट" का उपयोग करके रुकना और सत्यापित करना)।
- सही तरीके से सोचना (समस्याओं को तोड़ना, काम की जांच करना और यह जानना कि कब पीछे मुड़ना है)।
जब आप संतुलन सही रखते हैं, तो मॉडल एक बहुत अधिक विश्वसनीय समस्या समाधानकर्ता बन जाता है। लेकिन यदि आप एक तरफ बहुत अधिक जोर देते हैं (जैसे कि किसी ऐसे मॉडल पर नए स्वभाव थोपना जिसका अपना पहले से ही एक सटीक तालमेल है), तो आप सिस्टम को बिगाड़ सकते हैं।
संक्षेप में: एआई को कोड के साथ समस्याओं को हल करने में बेहतर बनाने के लिए, हमें उन्हें रुकना, अपने काम की जांच करना और समस्याओं को तोड़ना सिखाना होगा—लेकिन हमें सावधान रहना होगा कि हम उस मॉडल की अनूठी "व्यक्तित्व" को बाधित न करें जिसे हम प्रशिक्षित कर रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।