Lost in the Flow with Code Talkers: Unveiling the Instruction-Tuning Tax of Large Language Models in Code Tasks
यह शोध पत्र एक अनुभवजन्य अध्ययन प्रस्तुत करता है जो "इंस्ट्रक्शन-ट्यूनिंग टैक्स" (Instruction-Tuning Tax) को उजागर करता है, जो एक महत्वपूर्ण ट्रेड-ऑफ है जहाँ लार्ज लैंग्वेज मॉडल्स को इंस्ट्रक्शन-ट्यून करने से प्राकृतिक भाषा के कमांड्स का पालन करने की उनकी क्षमता तो बढ़ जाती है, लेकिन साथ ही कोड इनफिलिंग कार्यों में उनके प्रदर्शन में गिरावट आती है, जिससे प्रभावी एआई कोडिंग असिस्टेंट विकसित करने के लिए एक संतुलित दृष्टिकोण की आवश्यकता होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप कार चलाना सीख रहे हैं। आपके पास इसका उपयोग करने के दो अलग-अलग तरीके हैं:
- "फ्लो" (Flow) मोड: आप हाईवे पर गाड़ी चला रहे हैं, हाथ स्टीयरिंग पर हैं, और नज़रें सड़क पर हैं। आप रुककर रास्ता नहीं पूछना चाहते; आप बस चाहते हैं कि कार अगले मोड़, अगली लेन बदलने और अगले टर्न को अपने आप संभाल ले। आपको ज़रूरत है कि कार आपके अगले कदम का पूर्वानुमान लगाए, जो आपके ठीक सामने वाली सड़क पर आधारित हो।
- "कमांड" (Command) मोड: आप पार्क किए हुए हैं। आप एक नक्शा निकालते हैं, एक गंतव्य की ओर इशारा करते हैं, और कहते हैं, "मुझे समुद्र तट तक ले चलो।" आप एक विशिष्ट निर्देश दे रहे हैं, और आप उम्मीद करते हैं कि कार रास्ता खोज लेगी और वहां तक पहुँच जाएगी।
लंबे समय से, AI कोडिंग असिस्टेंट (वे उपकरण जो डेवलपर्स के लिए कोड लिखते हैं) कमांड मोड में बेहतर होते जा रहे हैं। वे किसी इंसान द्वारा यह कहने पर बहुत अच्छे से काम करते हैं कि, "इस लिस्ट को सॉर्ट करने के लिए एक फंक्शन लिखो," और वे बिल्कुल वही करते हैं। इसे इंस्ट्रक्शन ट्यूनिंग (Instruction Tuning) कहा जाता है। यह एक रोबोट को रेसिपी (विधि) का पालन करना सिखाने जैसा है।
हालाँकि, यह पेपर तर्क देता है कि कोडिंग AI को एक अच्छा "रेसिपी फॉलोअर" बनाने के लिए सिखाने में एक छिपा हुआ खर्च आता है। लेखक इस खर्च को "इंस्ट्रक्शन-ट्यूनिंग टैक्स" (Instruction-Tuning Tax) कहते हैं।
मुख्य समस्या: "फ्री लंच" का मिथक
शोधकर्ताओं ने पाया कि इंस्ट्रक्शन ट्यूनिंग मुफ्त का भोजन (free lunch) नहीं है। आप मॉडल को निर्देश मानना तो सिखा सकते हैं, लेकिन ऐसा करने के बिना वह अपने अन्य कौशल नहीं खो सकता।
- प्रशिक्षण से पहले (बेस मॉडल): एक प्रतिभाशाली प्रशिक्षु (apprentice) की कल्पना करें जिसने लाखों कोड पुस्तकें पढ़ी हैं। यदि आप उसे कोड की एक पंक्ति दिखाते हैं और उसे बीच में ही रोक देते हैं, तो वह स्वाभाविक रूप से उस पंक्ति को पूरा कर सकता है क्योंकि वह जानता है कि कहानी आमतौर पर कैसे आगे बढ़ती है। वे फ्लो मोड (खाली स्थान भरने) में बहुत अच्छे हैं।
- प्रशिक्षण के बाद (इंस्ट्रक्ट मॉडल): अब, कल्पना करें कि आप उसी प्रशिक्षु को एक सख्त स्कूल में ले जाते हैं जहाँ वे केवल आपके विशिष्ट प्रश्नों का उत्तर देना सीखते हैं जैसे, "2+2 क्या है?" वे प्रश्न पूछने (कमांड मोड) में उत्कृष्ट हो जाते हैं। लेकिन, जब आप वापस उन्हें एक वाक्य पूरा करने के लिए कहते हैं, तो वे भ्रमित हो जाते हैं। वे वाक्य के बारे में बात करने लगते हैं बजाय इसके कि वे बस उसे पूरा करें। वे अनावश्यक स्पष्टीकरण जोड़ने लगते हैं, खुद को दोहराते हैं, या "यहाँ वह कोड है जिसे आपने मांगा था..." के लूप में फंस जाते हैं।
"टैक्स" का प्रभाव
इस पेपर ने "बेस" मॉडल (कच्चे प्रशिक्षु) बनाम "इंस्ट्रक्ट" मॉडल (प्रशिक्षित मॉडल) की तुलना दो प्रकार के कार्यों पर करके इसका परीक्षण किया:
- बीच में भरना (फ्लो): आप AI को कोड देते हैं जिसके बीच में एक छेद है, जैसे पहेली का कोई गायब टुकड़ा।
- परिणाम: प्रशिक्षित मॉडल इसमें बदतर हो गए। वे अतिरिक्त, बेकार कोड जोड़ने लगे या बहुत अधिक बातें करने लगे, जिससे कंप्यूटर के लिए कोड को समझना कठिन हो गया। यह एक मैकेनिक की तरह है जो, जब उससे सिर्फ एक बोल्ट कसने को कहा जाए, तो वह आपको रिंच (wrench) के इतिहास पर लेक्चर देने लगता है।
- निर्देशों का पालन करना (कमांड): आप पूछते हैं कि "टैक्स की गणना करने के लिए एक फंक्शन लिखें।"
- परिणाम: प्रशिक्षित मॉडल इसमें बेहतर हुए। वे अनुरोध को समझ गए और नियमों का अच्छी तरह पालन किया।
"वर्बोसिटी" (Verbosity) की समस्या
सबसे दिलचस्प निष्कर्षों में से एक यह है कि प्रशिक्षित मॉडल कैसे विफल होते हैं। जब वे गलती करते हैं, तो वे केवल गलत कोड नहीं लिखते; वे बहुत अधिक लिखते हैं।
- बेस मॉडल एक छोटी, टूटी हुई पंक्ति लिखकर विफल हो सकता है।
- इंस्ट्रक्ट मॉडल अक्सर एक लंबे पैराग्राफ के रूप में विफल होते हैं जिसमें कोड और चैट जैसी व्याख्याएं मिली होती हैं ("यहाँ आपका अनुरोधित समाधान है...")।
शोधकर्ता इसे "वर्बोसिटी" (verbosity) कहते हैं। यह एक वेटर की तरह है जो, आपकी कॉफी लाने के बजाय, कॉफी लाता है, बीन्स के मूल के बारे में बताता है, मौसम के बारे में बताता है, और फिर मेज पर चीनी रखना भूल जाता है। कोडिंग वातावरण में, यह "बकबक" कोड को तोड़ देती है और उसे अनुपयोगी बना देती है।
सभी मॉडल एक जैसे नहीं हैं
पेपर ने यह भी पाया कि यह "टैक्स" हर AI के लिए एक समान नहीं है।
- कुछ AI परिवार (जैसे Qwen) सख्त छात्रों की तरह हैं; वे निर्देशों को सीखते हैं लेकिन फिर भी वाक्य पूरा करने की क्षमता बनाए रखते हैं।
- अन्य AI परिवार (जैसे DeepSeek) उन छात्रों की तरह हैं जो, एक बार निर्देश सुनना शुरू करने के बाद, पूरी तरह से भूल जाते हैं कि अपने आप वाक्य कैसे पूरा किया जाए। उनके लिए "टैक्स" बहुत भारी है।
"ट्रेनिंग प्रोसेस" का रहस्य
शोधकर्ताओं ने प्रशिक्षण को स्लो मोशन में देखा। उन्होंने केवल शुरुआत और अंत को नहीं देखा; उन्होंने बीच के हिस्से को भी देखा।
- उन्होंने पाया कि AI एक साथ सब कुछ नहीं सीखता है।
- शुरुआत में, AI निर्देशों का पालन करने में बहुत तेज़ी से कुशल हो जाता है।
- लेकिन जैसे-जैसे प्रशिक्षण जारी रहता है, यह खाली स्थान भरने की अपनी क्षमता खोने लगता है (फ्लो मोड)।
- यह एक ट्रेड-ऑफ है: कमांड मोड में लाभ = फ्लो मोड में हानि।
निचोड़ (The Bottom Line)
पेपर निष्कर्ष निकालता है कि हम केवल यह मानकर नहीं चल सकते कि "अधिक प्रशिक्षण" का अर्थ हर काम के लिए "बेहतर AI" है।
- यदि आपको एक ऐसे AI की आवश्यकता है जो आपसे चैट करे और शून्य से नई विशेषताएं बनाए (कमांड मोड), तो प्रशिक्षित मॉडल बेहतरीन हैं।
- यदि आपको एक ऐसे AI की आवश्यकता है जो आपके काम करते समय आपके बगल में बैठकर अगली लाइन टाइप करे (फ्लो मोड), तो कच्चे, अप्रशिक्षित मॉडल वास्तव में बेहतर हो सकते हैं क्योंकि वे "बात करने" से विचलित नहीं होते और केवल कोड पूरा करने पर ध्यान केंद्रित रहते हैं।
लेखक सुझाव देते हैं कि डेवलपर्स और टूल बनाने वालों को सावधान रहना चाहिए। उन्हें केवल "सबसे स्मार्ट" मॉडल नहीं चुनना चाहिए; उन्हें उस विशिष्ट "मूड" (फ्लो बनाम कमांड) के लिए सही मॉडल चुनना चाहिए जिसमें डेवलपर हो। कभी-कभी, वह "नासमझ" प्रशिक्षु जो बस वाक्य को पूरा करता है, उस "स्मार्ट" व्यक्ति से अधिक उपयोगी होता है जो बस चीजें समझाता रहता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।