Teaching Language Models How to Code Like Learners: Conversational Serialization for Student Simulation
यह शोध पत्र टेम्पोरल प्रोसेस लॉग्स को संवादात्मक संवादों में बदलकर और एक सुपरवाइज्ड फाइन-ट्यूनिंग प्लस प्रेफरेंस ऑप्टिमाइजेशन पाइपलाइन लागू करके, ओपन-वेट लैंग्वेज मॉडल्स को छात्र प्रोग्रामिंग व्यवहार का अनुकरण करने के लिए प्रशिक्षित करने की एक विधि प्रस्तावित करता है, जो कोड-ओनली दृष्टिकोणों और प्रॉम्प्टेड बेसलाइन्स की तुलना में मॉडल्स की प्रामाणिक डिबगिंग पैटर्न को दोहराने की क्षमता में महत्वपूर्ण सुधार करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक शिक्षक हैं जो यह समझने की कोशिश कर रहे हैं कि किसी छात्र को कोडिंग सिखाने का सबसे अच्छा तरीका क्या है। आप विभिन्न शिक्षण रणनीतियों का परीक्षण करना चाहते हैं, लेकिन आप हर बार 1,000 वास्तविक छात्रों को उन्हें आज़माने के लिए नहीं कह सकते—यह बहुत महंगा है, इसमें बहुत समय लगता है, और यह उनकी गोपनीयता का उल्लंघन करता है।
इसलिए, आप एक छात्र का "डिजिटल ट्विन" (Digital Twin) चाहते हैं: एक कंप्यूटर प्रोग्राम जो एक वास्तविक शिक्षार्थी की तरह व्यवहार करे। वह ठीक वैसे ही गलतियाँ करे, ठीक उसी बिंदु पर हताश हो, और ठीक वैसे ही चीज़ों को समझे जैसे एक इंसान करता है।
यह शोध पत्र इस बारे में है कि AI का उपयोग करके उस डिजिटल ट्विन को कैसे बनाया जाए। यहाँ इसका सरल विवरण दिया गया है कि उन्होंने इसे कैसे किया और यह क्यों काम करता है।
1. समस्या: AI बहुत अधिक "परफेक्ट" है
आमतौर पर, जब हम बड़े AI मॉडल्स (जैसे वे जो निबंध या कोड लिखते हैं) से एक छात्र की तरह व्यवहार करने के लिए कहते हैं, तो वे विफल हो जाते हैं। क्यों? क्योंकि वे बहुत बुद्धिमान हैं। यदि आप उनसे कहें, "एक औसत (average) निकालने के लिए पायथन फंक्शन लिखें," तो वे तुरंत परफेक्ट कोड लिख देते हैं।
वास्तविक छात्र ऐसा नहीं करते। वास्तविक छात्र:
- कोड में टाइपो (typo) करते हैं।
- एक एरर मैसेज (error message) पाते हैं।
- थोड़ा घबरा जाते हैं।
- टाइपो को ठीक करते हैं।
- एक "आधा-सही" परिणाम प्राप्त करते हैं।
- फिर से प्रयास करते हैं।
AI इन सभी उलझे हुए मध्य चरणों को छोड़ देता है। वह सीधे उत्तर पर पहुँच जाता है, जिससे वह यह परीक्षण करने के लिए बेकार हो जाता है कि किसी को कैसे सिखाया जाए।
2. समाधान: लॉग्स (Logs) को बातचीत में बदलना
शोधकर्ताओं ने महसूस किया कि वास्तविक छात्र अपने काम का एक "डिजिटल निशान" छोड़ते हैं। हर बार जब कोई छात्र कोड सबमिट करता है, तो कंप्यूटर सिस्टम फीडबैक के साथ जवाब देता है (जैसे "Error: Variable not found" या "Test Passed: 8/8")।
टीम का बड़ा विचार इस इतिहास को एक बातचीत में बदलना था।
इसे एक छात्र और एक रोबोट शिक्षक के बीच चैट लॉग की तरह समझें:
- छात्र (Assistant): "यहाँ मेरा कोड है।"
- रोबोट शिक्षक (User): "Error! आप कोलन (colon) भूल गए।"
- छात्र (Assistant): "ओह, ठीक कर दिया। यहाँ नया कोड है।"
- रोबोट शिक्षक (User): "अच्छा, लेकिन अब 3 टेस्ट फेल हो गए।"
- छात्र (Assistant): "ठीक है, मैं पैटर्न समझ गया। यहाँ अगला प्रयास है।"
डेटा को इस तरह से फॉर्मेट करके, AI सीखता है कि सीखना एक संवाद (dialogue) है, न कि कोई जादुई ट्रिक। वह सीखता है कि आपको कंप्यूटर से बात करनी होगी, फीडबैक लेना होगा, और फिर से प्रयास करना होगा।
3. प्रशिक्षण: "सिर्फ बताओ मत, करके दिखाओ"
उन्होंने केवल AI को ये चैट नहीं दिखाईं; उन्होंने इसे दो मुख्य चरणों का उपयोग करके एक छात्र की तरह सोचना सिखाया:
चरण 1: होमवर्क (Supervised Fine-Tuning): उन्होंने AI को हजारों ऐसे चैट लॉग दिखाए ताकि वह पैटर्न को याद कर सके: "जब मैं एक एरर देखता हूँ, तो मैं आमतौर पर कोड के इस विशिष्ट हिस्से को बदलता हूँ।"
चरण 2: कोच (Preference Optimization): यही असली सफलता का मंत्र है। कल्पना कीजिए कि AI एक परीक्षा दे रहा है। वह दो संभावित अगले कदम उत्पन्न करता है:
- विकल्प A: एक परफेक्ट समाधान (बहुत स्मार्ट, वास्तविक नहीं)।
- विकल्प B: एक थोड़ा टूटा-फूटा समाधान जो बिल्कुल वैसा ही दिखता है जैसा कि एक वास्तविक छात्र अगला कदम उठाएगा।
"कोच" AI को बताता है: "नहीं, विकल्प A मत चुनो। विकल्प B चुनो। वास्तविक छात्र सही होने से पहले गलतियाँ करते हैं।" AI "मेसी" (messy) रास्ते को चुनना पसंद करता है क्योंकि वास्तविक इंसान ऐसा ही करते हैं।
4. परिणाम: एक वास्तविक छात्र
उन्होंने अपने नए AI छात्रों (जिन्हें "आर्टिफिशियल लर्नर्स" कहा जाता है) का परीक्षण एक विश्वविद्यालय के कंप्यूटर साइंस कोर्स के वास्तविक डेटा के विरुद्ध किया।
- पुराना तरीका (Prompting): AI ने एक छात्र की तरह व्यवहार करने की कोशिश की लेकिन अनजाने में परफेक्ट कोड लिखता रहा। यह एक ऐसे बाल कलाकार की तरह था जो अचानक शेक्सपियर की अंग्रेजी बोलने लगे।
- नया तरीका: उनके द्वारा प्रशिक्षित AI वास्तव में लड़खड़ाया। उसने उसी प्रकार की गलतियाँ कीं, समान ग्रेड प्राप्त किए, और किसी समस्या को हल करने के लिए वास्तविक छात्रों की तरह ही प्रयासों की संख्या ली।
यह क्यों मायने रखता है?
इसे शिक्षकों के लिए एक "फ्लाइट सिम्युलेटर" की तरह समझें।
जिस तरह पायलट वास्तविक विमान उड़ाने से पहले सिम्युलेटर में अभ्यास करते हैं, अब शिक्षक और शैक्षिक शोधकर्ता इन "आर्टिफिशियल छात्रों" का उपयोग अभ्यास करने के लिए कर सकते हैं।
- वे एक नए ट्यूटरिंग ऐप का परीक्षण 1,000 AI छात्रों पर कर सकते हैं यह देखने के लिए कि क्या यह वास्तव में मदद करता है।
- वे देख सकते हैं कि क्या किसी विशेष प्रकार का फीडबैक छात्रों को भ्रमित करता है या उनकी मदद करता है।
- वे यह सब बिना वास्तविक मनुष्यों को परेशान किए या वास्तविक ग्रेड को जोखिम में डाले कर सकते हैं।
निचोड़
शोधकर्ताओं ने यह पता लगा लिया है कि AI को सही तरीके से कोडिंग में खराब होना कैसे सिखाया जाए। चैट लॉग्स को बातचीत में बदलकर और AI को "परफेक्ट" उत्तरों के बजाय "मेसी" प्रगति को प्राथमिकता देने के लिए प्रशिक्षित करके, उन्होंने एक ऐसा उपकरण बनाया है जो कोडिंग सीखने की वास्तविक, निराशाजनक और पुरस्कृत यात्रा का अनुकरण कर सकता है। यह भविष्य में वास्तविक छात्रों के लिए बेहतर उपकरण बनाने की अनुमति देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।