Compete Then Collaborate: Frontier AI Teachers Build a Verifiable Curriculum to Improve a Coding Student Beyond Imitation
यह शोध पत्र एक "प्रतियोगिता-फिर-सहयोग" (compete-then-collaborate) ढांचे को प्रस्तुत करता है जहाँ फ्रंटियर एआई मॉडल्स को निष्पादन-आधारित सत्यापन (execution-based verification) के माध्यम से रैंक किया जाता है ताकि संयुक्त रूप से एक पाठ्यक्रम का निर्माण किया जा सके जो, सत्यापन योग्य पुरस्कारों के साथ सुदृढीकरण सीखने (reinforcement learning) के लिए उपयोग किए जाने पर, कठिन समस्याओं पर एक कोडिंग छात्र के प्रदर्शन में महत्वपूर्ण सुधार करता है, जबकि उन्हीं समाधानों पर पारंपरिक अनुकरण शिक्षण (imitation learning) इसे खराब कर देता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक कोडिंग क्लासरूम की कल्पना करें जहाँ चार अलग-अलग टेक दिग्गजों के सुपरस्टार शिक्षकों को—मान लीजिए कि हम उन्हें एंथ्रोपिक (Anthropic), ओपनएआई (OpenAI), एक्स-एआई (xAI) और गूगल (Google) स्क्वॉड कहते हैं—एक ही बहुत बुद्धिमान छात्र (एक मॉडल जिसका नाम Qwen2.5-Coder है) को पढ़ाने के लिए नियुक्त किया गया है। लक्ष्य क्या है? यह देखना कि कौन सा शिक्षक सबसे अच्छा है और उन्हें एक कोडिंग जादूगर बनाने के लिए उनके पाठों को कैसे मिलाया जाए।
शोधकर्ताओं ने एक विशाल, उच्च-दांव वाला कोडिंग टूर्नामेंट आयोजित किया। शिक्षकों को एक-दूसरे को ग्रेड देने देने के बजाय (जिससे अक्सर वे केवल दोस्ती के नाते एक-दूसरे को A+ दे देते हैं), उन्होंने एक सख्त, रोबोट जैसे रेफरी का उपयोग किया: स्वयं कंप्यूटर। यदि शिक्षक द्वारा लिखा गया कोड वास्तव में चला और छिपे हुए परीक्षणों (tests) को पास कर लिया, तो यह एक जीत थी। यदि वह क्रैश हो गया, तो यह एक हार थी।
टूर्नामेंट: सबसे अच्छा शिक्षक कौन है?
सबसे पहले, शिक्षकों का सामना दो प्रकार की चुनौतियों से हुआ:
- आसान चीजें: मानक कोडिंग समस्याएं। यहाँ, चारों शिक्षक इतने अच्छे थे कि थोड़े से "स्व-सुधार" (गलतियों को सुधारने के लिए दूसरा मौका मिलना) के बाद, उन सभी ने लगभग पूर्ण 99–100% स्कोर किया। पेपर सुझाव देता है कि यह इसलिए नहीं है क्योंकि वे सभी समान रूप से जीनियस हैं, बल्कि इसलिए है क्योंकि उन्होंने इन विशिष्ट समस्याओं को अपने प्रशिक्षण डेटा (training data) में पहले ही देख लिया है। यह एक छात्र के अभ्यास टेस्ट में टॉप करने जैसा है जिसे उसने पहले से ही रट लिया है।
- कठिन चीजें: पेचीदा, प्रतियोगिता-स्तर की समस्याएं। यहीं पर वास्तविक अंतर दिखाई दिए।
- जेमिनी (Gemini) ने बढ़त बनाई, और कठिन समस्याओं के 77% समाधान किए।
- क्लाउड (Claude) और कोडेक्स (Codex - OpenAI) एक-दूसरे के बेहद करीब थे, दोनों ने 69% समाधान किए।
- ग्रोक (Grok) पीछे रह गया, जिसने 50% समाधान किए।
पेपर इस बात पर सावधानी से ध्यान देता है कि हालांकि जेमिनी अग्रणी था, लेकिन अंतर बहुत बड़ा नहीं था, और रैंकिंग पूरी तरह से इस आधार पर है कि कोड ने वास्तव में क्या किया, न कि शिक्षकों ने क्या कहा कि उन्होंने क्या किया।
बड़ा आश्चर्य: शिक्षकों की नकल करना वास्तव में नुकसान पहुँचाता है
यहाँ एक ऐसा मोड़ आता है जो स्कूल के सामान्य नियमों को तोड़ देता है। आमतौर पर, यदि आपके पास कई बुद्धिमान शिक्षक हैं, तो आप सोचते हैं कि सीखने का सबसे अच्छा तरीका उनके होमवर्क की नकल करना है। शोधकर्ताओं ने यह आज़माया: उन्होंने सभी शिक्षकों के सत्यापित, काम करने वाले कोड को लिया और छात्र मॉडल को बस उसकी नकल (imitate) करने के लिए कहा (एक विधि जिसे SFT कहा जाता है)।
परिणाम क्या रहा? छात्र पहले से भी खराब हो गया।
- मानक परीक्षणों पर, छात्र का स्कोर 76.7% से गिरकर 72.7% हो गया।
- कठिन प्रतियोगिता समस्याओं पर, यह 5.9% से गिरकर 2.9% रह गया।
पेपर तर्क देता है कि एक सक्षम छात्र के लिए, केवल उत्तरों की नकल करना मददगार नहीं है; वास्तव में यह उन्हें भ्रमित कर देता है। यह एक प्रतिभाशाली बास्केटबॉल खिलाड़ी के लिए वैसा ही है जैसे वह चार अलग-अलग पेशेवरों के हाइलाइट रील देखकर सीखने की कोशिश करे और फिर उन सभी की चालों की एक साथ नकल करने की कोशिश करे—यह उसकी अपनी लय को बिगाड़ देता है। दूसरों जैसा बनने की कोशिश करने के अपने स्वयं के अस्तित्व के बीच का "ज्ञान संघर्ष" (knowledge conflict) उन्हें खुद होने में और भी कमजोर बना देता है।
जीतने वाली रणनीति: नकल करने के बजाय करके सीखना
तो, यदि नकल करना विफल रहता है, तो क्या काम करता है? शोधकर्ताओं ने RLVR (वेरिएबल रिवॉर्ड्स के साथ सुदृढीकरण लर्निंग - Reinforcement Learning with Verifiable Rewards) नामक एक अलग दृष्टिकोण आज़माया।
छात्र को शिक्षकों के अंतिम उत्तरों की नकल करने के लिए देने के बजाय, उन्होंने शिक्षकों के सत्यापित समस्याओं को एक अभ्यास क्षेत्र के रूप में उपयोग किया। छात्र को समस्याओं को अपने दम पर हल करने की अनुमति दी गई।
- यदि छात्र का कोड चला और परीक्षणों को पास कर लिया, तो उसे एक "इनाम" (कंप्यूटर की ओर से एक हाई-फाइव) मिला।
- यदि वह विफल रहा, तो उसे कोई इनाम नहीं मिला और उसे फिर से प्रयास करना पड़ा।
इसने काम किया!
- कठिन प्रतियोगिता समस्याओं पर छात्र का स्कोर अपने शिखर पर 5.9% से बढ़कर 8.8% हो गया।
- यह 49% का सापेक्ष सुधार (relative improvement) है।
पेपर सुझाव देता है कि कई शिक्षकों का मूल्य छात्र को नकल करने के लिए उनके उत्तरों को इकट्ठा करने में नहीं है, बल्कि एक विशाल, सत्यापित "जिम" बनाने में है जहाँ छात्र काम करके और इस फीडबैक के माध्यम से सीखता है कि क्या वास्तव में काम करता है।
निष्कर्ष
पेपर निष्कर्ष निकालता है कि हालांकि हम इन AI शिक्षकों को इस आधार पर रैंक कर सकते हैं कि उनका कोड कितनी अच्छी तरह चलता है, असली जादू तब होता है जब हम छात्र से शिक्षकों की नकल करने के लिए कहना बंद कर देते हैं और उनके काम का उपयोग एक चुनौतीपूर्ण वातावरण बनाने के लिए करते हैं जहाँ छात्र प्रयास और त्रुटि (trial and error) के माध्यम से सीखता है।
यह कमरे में सबसे स्मार्ट शिक्षक होने के बारे में नहीं है; यह एक ऐसा प्लेग्राउंड बनाने के बारे में है जहाँ छात्र अभ्यास कर सके, असफल हो सके, स्पष्ट संकेत प्राप्त कर सके कि कहाँ गलत हुआ, और तब तक प्रयास करता रहे जब तक कि वह सफल न हो जाए। शोधकर्ताओं ने अपना सारा कोड और डेटा जारी कर दिया है ताकि कोई भी इन परीक्षणों को स्वयं चला सके और देख सके कि नंबर सही हैं, जो यह साबित करता है कि कभी-कभी, सीखने का सबसे अच्छा तरीका नकल करना छोड़ना और काम करना शुरू करना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।