💬 NLP

DeCoVec: Building Decoding Space based Task Vector for Large Language Models via In-Context Learning

DeCoVec एक ट्रेनिंग-फ्री, नॉन-इनवेसिव फ्रेमवर्क है जो लार्ज लैंग्वेज मॉडल्स को निर्देशित करने के लिए फ्यू-शॉट और जीरो-शॉट लॉजिट डिस्ट्रीब्यूशंस के बीच के अंतर का लाभ उठाकर डिकोडिंग स्पेस में टास्क वेक्टर्स का निर्माण करता है, जिससे बिना किसी फाइन-ट्यूनिंग या अतिरिक्त टोकन लागत के महत्वपूर्ण सटीकता सुधार और मजबूती प्राप्त होती है।

मूल लेखक: Feiyang Li, Yile Wang

प्रकाशित 2026-04-14

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Feiyang Li, Yile Wang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, लेकिन थोड़ा भ्रमित, रोबोट शेफ (Large Language Model या LLM) है। यह शेफ लगभग सब कुछ बनाना जानता है, लेकिन कभी-कभी यह रेसिपी गलत कर देता है, चरणों को भूल जाता है, या इसमें बहुत अधिक नमक डाल देता है।

पारंपरिक रूप से, यदि आप चाहते थे कि यह शेफ किसी विशिष्ट व्यंजन (जैसे "गणित" या "सत्य तथ्य") में बेहतर हो जाए, तो आपको दो में से एक काम करना पड़ता था:

उसे कुलीनरी स्कूल भेजना (Fine-tuning): इसमें बहुत समय लगता है, बहुत पैसा खर्च होता है, और आपको हर नए व्यंजन के लिए उसे फिर से प्रशिक्षित करना पड़ता है।
उसके मस्तिष्क में सर्जरी करना (Internal Manipulation): आप उसके खाना बनाते समय उसके आंतरिक वायरिंग को बदलने की कोशिश करते हैं। यह जोखिम भरा, आक्रामक है, और रोबोट को खराब कर सकता है।

DeCoVec से मिलिए: "जादुई रेसिपी कार्ड"

यह शोध पत्र एक नई विधि पेश करता है जिसे DeCoVec (Decoding Space based Task Vector) कहा जाता है। शेफ के मस्तिष्क को बदलने या उसे वापस स्कूल भेजने के बजाय, DeCoVec शेफ को ठीक उसी क्षण एक विशेष "धक्का" (nudge) देता है जब वह अगला शब्द तय करने वाला होता है।

यह कैसे काम करता है, यहाँ सरल उपमाओं के साथ समझाया गया है:

1. "पहले और बाद का" स्नैपशॉट

कल्पना कीजिए कि आप शेफ से पूछते हैं: "इंसानों में कितनी पसलियां होती हैं?"

परिदृश्य A (Zero-Shot): आप बस सवाल पूछते हैं। शेफ अनुमान लगा सकता है, "शायद 12?" (यह उसका स्वाभाविक, बिना मार्गदर्शन वाला अनुमान है)।
परिदृश्य B (Few-Shot): आप पहले शेफ को तीन उदाहरण दिखाते हैं: "एक इंसान में 24 पसलियां होती हैं। एक बिल्ली में 12। एक कुत्ते में 14।" फिर आप वही सवाल पूछते हैं। अब शेफ सोचता है, "आह, मुझे पैटर्न देखना चाहिए। यह 24 है।"

DeCoVec का गुप्त नुस्खा:
शोधकर्ताओं ने महसूस किया कि परिदृश्य A और परिदृश्य B में शेफ की मस्तिष्क अवस्था के बीच का अंतर ही कार्य (task) के "सार" को समाहित करता है।

वे "भ्रमित अनुमान" और "स्मार्ट अनुमान" को लेते हैं।
वे भ्रमित वाले को स्मार्ट वाले में से घटा देते हैं।
परिणाम एक Task Vector है। इस वेक्टर को एक चुंबकीय तीर के रूप में सोचें जो ठीक "सही तर्क" की ओर इशारा करता है और "रैंडम अनुमान लगाने" से दूर ले जाता है।

2. "GPS धक्का" (Decoding Space)

अन्य अधिकांश विधियाँ रोबोट के खाना शुरू करने से पहले उसके मस्तिष्क को बदलने की कोशिश करती हैं। DeCoVec अलग है। यह तब तक इंतजार करता है जब तक रोबोट खाना बनाने के बीच में होता है (टेक्स्ट जेनरेट कर रहा होता है) और फिर एक छोटा, अदृश्य GPS धक्का लगाता है।

प्रक्रिया: हर बार जब रोबोट अगला शब्द चुनने वाला होता है, DeCoVec "Task Vector" (चुंबकीय तीर) को देखता है और रोबोट के चुनाव को धीरे से सही दिशा में धकेलता है।
परिणाम: रोबोट को फिर से प्रशिक्षित करने की आवश्यकता नहीं है। उसे बस सही रास्ते पर रहने के लिए थोड़े से सहयोग की आवश्यकता है। यह एक को-पायलट की तरह है जो फुसफुसाता है, "हे, बाएं मत मुड़ो, उत्तर वास्तव में दाएं है," बिना स्टीयरिंग व्हील को छुए।

3. यह एक बड़ी बात क्यों है?

यह शोध पत्र दिखाता है कि यह विधि तीन कारणों से अद्भुत है:

यह गैर-आक्रामक (Non-Invasive) है: आपको रोबोट का सीना खोलने या उसे फिर से प्रशिक्षित करने की आवश्यकता नहीं है। यह रोबोट के बिल्कुल वैसे ही काम करता है जैसा वह है।
यह प्रशिक्षण-मुक्त (Training-Free) है: आपको रोबोट को सिखाने के लिए सुपरकंप्यूटर की आवश्यकता नहीं है। आपको बस कुछ उदाहरणों (जैसे ऊपर दिए गए 3 पसलियों के उदाहरण) की आवश्यकता है ताकि "चुंबकीय तीर" बनाया जा सके।
यह "दिमागी धुंध" (Brain Fog) को ठीक करता है: शोध पत्र ने पाया कि यह विधि रोबोट को तार्किक त्रुटियां करने या खुद को दोहराने (जिसे 'डिसजनरेशन' कहा जाता है) से रोकती है। यह रोबोट को अधिक स्पष्ट रूप से सोचने में मदद करता है, चाहे वह एक छोटा रोबोट (जैसे 0.5 बिलियन पैरामीटर मॉडल) हो या बड़ा (9 बिलियन)।

उपमा सारांश

पारंपरिक Fine-Tuning: एक नया शेफ किराए पर लेना जो पहले से ही रेसिपी को पूरी तरह जानता है। (महंगा, धीमा)।
Internal Manipulation: वर्तमान शेफ के मस्तिष्क का ऑपरेशन करना ताकि उसे रेसिपी याद दिलाने के लिए मजबूर किया जा सके। (जोखिम भरा, जटिल)।
DeCoVec: वर्तमान शेफ को एक हाइलाइट की हुई रेसिपी कार्ड देना और हर बार उसके कंधे पर एक हल्का हाथ रखना, जो उसे याद दिलाता है, "याद रखो, हमें 24 पसलियां चाहिए, 12 नहीं।"

निष्कर्ष

DeCoVec एक चतुर, हल्का तरीका है जो "उदाहरण दिखाने" (In-Context Learning) की शक्ति का उपयोग करके AI के लिए एक स्टीयरिंग व्हील बनाता है। यह Large Language Models को बिना फिर से प्रशिक्षित किए या उनके आंतरिक कोड को बदले अधिक स्मार्ट, अधिक तार्किक और अधिक सत्यनिष्ठ होने में मदद करता है। यह एक स्मार्ट लेकिन विचलित छात्र को चीट शीट देने जैसा है जो जादुई रूप से हर बार उसका हाथ सही उत्तर की ओर निर्देशित करती है।

यहाँ शोध पत्र "DeCoVec: Building Decoding Space based Task Vector for Large Language Models via In-Context Learning" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल्स (LLMs) को फाइन-ट्यूनिंग की भारी कम्प्यूटेशनल लागत के बिना विशिष्ट कार्यों की ओर निर्देशित करने के लिए प्रभावी तरीकों की आवश्यकता होती है। मौजूदा टास्क वेक्टर (Task Vector) दृष्टिकोण आम तौर पर दो श्रेणियों में आते हैं:

वेट-स्पेस वेक्टर्स (Weight-space vectors): इनके लिए किसी विशिष्ट कार्य के लिए मॉडल को फाइन-ट्यून करने और बेस मॉडल से वेट्स को घटाने की आवश्यकता होती है (जैसे, Arithmetic Task Vectors)। यह कम्प्यूटेशनल रूप से महंगा है और गतिशील कार्यों (dynamic tasks) के लिए स्केलेबल नहीं है।
एक्टिवेशन-स्पेस वेक्टर्स (Activation-space vectors): इनमें इन्फरेंस के दौरान आंतरिक हिडन स्टेट्स (hidden states) में आक्रामक हेरफेर शामिल होता है, जिसके लिए अक्सर सहायक मॉडल्स या जटिल अनुकूलन (optimization) की आवश्यकता होती है।

अंतराल (The Gap): वर्तमान तरीकों में एक ऐसा ट्रेनिंग-फ्री, नॉन-इनवेसिव (non-invasive), और स्केलेबल समाधान की कमी है जो वेट्स या आंतरिक अवस्थाओं को बदले बिना सीधे एक फ्रोजन (frozen) मॉडल से कार्य-विशिष्ट दिशाओं (task-specific directions) को निकाल सके। इसके अलावा, मौजूदा डिकोडिंग रणनीतियाँ अक्सर सहायक मॉडल्स या जटिल कंट्रास्टिव सेटअप पर निर्भर करती हैं।

2. कार्यप्रणाली: DeCoVec (Methodology: DeCoVec)

लेखक DeCoVec (Decoding Space based Task Vector) का प्रस्ताव करते हैं, जो इन-कॉन्टेक्स्ट लर्निंग (ICL) का लाभ उठाकर सीधे डिकोडिंग स्पेस (आउटपुट लॉजिट स्पेस) में टास्क वेक्टर्स का निर्माण करता है।

मुख्य अवधारणा (Core Concept)

मॉडल वेट्स ( $\Delta\theta$ ) या हिडन स्टेट्स ( $\Delta h$ ) को संशोधित करने के बजाय, DeCoVec दो कॉन्टेक्स्ट के बीच आउटपुट लॉजिट डिस्ट्रीब्यूशन ( $\Delta z$ ) के अंतर के रूप में टास्क वेक्टर को परिभाषित करता है:

ज़ीरो-शॉट कॉन्टेक्स्ट ( $C_{zs}$ ): मॉडल को केवल कार्य निर्देश और क्वेरी प्राप्त होती है (कोई उदाहरण नहीं)।
फ्यू-शॉट ICL कॉन्टेक्स्ट ( $C_{icl}$ ): मॉडल को निर्देश, क्वेरी और $k$ प्रदर्शन उदाहरणों का एक सेट प्राप्त होता है।

पाइपलाइन (The Pipeline)

कॉन्टेक्स निर्माण (Context Construction):
- एक कार्य-विशिष्ट निर्देश टेम्पलेट का उपयोग किया जाता है।
- एक प्रदर्शन सैंपलर (Random, KATE, या BM25) $k$ उदाहरणों को रिट्रिव करता है ताकि फ्यू-शॉट कॉन्टेक्स्ट बनाया जा सके।
वेक्टर निर्माण (Vector Construction):
- मॉडल दोनों कॉन्टेक्स्ट के तहत एक ही प्रीफिक्स $y_{1:t}$ के लिए लॉजिट्स जनरेट करता है।
- ज़ीरो-शॉट लॉजिट्स: $z_t^{zs} = f_\theta(C_{zs}, y_{1:t})$
- फ्यू-शॉट लॉजिट्स: $z_t^{icl} = f_\theta(C_{icl}, y_{1:t})$
- टास्क वेक्टर ( $v_t^T$ ): अंतर के रूप में गणना की जाती है:
  $v_t^T = z_t^{icl} - z_t^{zs}$
- यह वेक्टर उदाहरणों द्वारा प्रेरित "डिस्टिल्ड" कार्य सार (semantic shift) को कैप्चर करता है।
स्टीयरिंग मैकेनिज्म (Steering Mechanism):
- एक टेस्ट सैंपल के वास्तविक जनरेशन के दौरान, मॉडल बेस लॉजिट्स ( $z_t^{de}$ ) उत्पन्न करने के लिए एक मानक फ्यू-शट कॉन्टेक्स्ट ( $C_{de}$ ) का उपयोग करता है।
- टास्क वेक्टर को डिकोडिंग प्रक्रिया में इंजेक्ट किया जाता है:
  $\tilde{z}_t = z_t^{de} + \lambda \cdot v_t^T$
- यहाँ, $\lambda$ एक स्केलिंग फैक्टर है जो स्टीयरिंग की तीव्रता को नियंत्रित करता है।
- अंतिम टोकन $\text{argmax}(\tilde{z}_t)$ के माध्यम से चुना जाता है।

3. प्रमुख योगदान (Key Contributions)

नया ऑपरेशनल स्पेस: पहली बार टास्क वेक्टर्स को सख्ती से डिकोडिंग स्पेस (लॉगिट्स) के भीतर परिभाषित और उपयोग किया गया है, जिससे वेट अपडेट या इंटरनल स्टेट हेरफेर की आवश्यकता समाप्त हो गई है।
ट्रेनिंग-फ्री और नॉन-इनवेसिव: इस विधि के लिए किसी ग्रेडिएंट अपडेट, फाइन-ट्यूनिंग या सहायक मॉडल की आवश्यकता नहीं है। यह किसी भी फ्रोजन LLM के साथ काम करता है।
प्लग-एंड-प्ले डिज़ाइन: टास्क वेक्टर को इन्फरेंस के दौरान विशिष्ट फ्यू-शॉट कॉन्टेक्स्ट के आधार पर गतिशील रूप से बनाया जाता है, जो इसे अत्यधिक लचीला बनाता है।
शोर के प्रति मजबूती (Robustness to Noise): यह विधि एक "डिनोइजिंग फ़िल्टर" के रूप में कार्य करती है, जो सब-ऑप्टिमल या शोर वाले फ्यू-शॉट उदाहरणों के बावजूद प्रभावी रूप से कार्य अर्थ (semantics) को निकालती है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने तीन बेंचमार्क पर 7 LLMs (0.5B से 9B पैरामीटर्स तक, जिसमें Qwen2, Yi, Llama-2/3, और Gemma-2 शामिल हैं) पर DeCoVec का मूल्यांकन किया:

TruthfulQA: ज्ञान-गहन सत्यनिष्ठा (Knowledge-intensive truthfulness)।
Math-500: गणितीय तर्क (Mathematical reasoning)।
AQUA-RAT: बीजगणितीय शब्द समस्याएँ (Algebraic word problems)।

मुख्य निष्कर्ष:

प्रदर्शन में सुधार: DeCoVec ने सभी मॉडल्स और कार्यों में स्टैंडर्ड फ्यू-शॉट बेसलाइन्स को लगातार पछाड़ दिया।
- पीक इम्प्रूवमेंट: Qwen2-1.5B पर +5.50 औसत सटीकता तक।
- निरंतरता: छोटे मॉडल्स (0.5B) को बड़े मॉडल्स (9B) की तरह ही महत्वपूर्ण लाभ हुआ, जो सिद्ध करता है कि यह विधि स्केल-अग्नोस्टिक है।
क्रम के प्रति मजबूती (Robustness to Ordering): स्टैंडर्ड ICL के विपरीत, जो "रेसेन्सी बायस" (उदाहरणों का क्रम मायने रखता है) से प्रभावित होता है, DeCoVec ने प्रदर्शनों के क्रमिक (sequential), रिवर्स और रैंडम ऑर्डरिंग के प्रति मजबूत मजबूती दिखाई।
त्रुटि में कमी: Math-500 पर विश्लेषण ने दिखाया कि DeCoVec ने लॉजिकल/रीज़निंग फ्लॉस (LR) और डिजनरेशन (DG) त्रुटियों को काफी कम कर दिया, हालांकि इसने गणना संबंधी त्रुटियों (calculation errors) को थोड़ा बढ़ा दिया (जो यह सुझाव देता है कि यह लो-लेवल अरिथमेटिक प्रेसिजन के बजाय हाई-लेवल लॉजिक को स्टीयर करता है)।
दक्षता: इस विधि ने बेसलाइन्स की तुलना में प्रति रिस्पॉन्स आउटपुट टोकन की औसत संख्या को 10–40 टोकन कम कर दिया, जिससे "जनरेशन डिजनरेशन" की समस्या कम हुई जहाँ मॉडल्स बहुत अधिक विस्तार में चले जाते हैं।

5. महत्व और निहितार्थ (Significance and Implications)

कुशल स्टीयरिंग: DeCoVec, पैरामीटर-एफिशिएंट फाइन-ट्यूनिंग (PEFT) और जटिल एक्टिवेशन इंटरवेंशन के लिए एक लाइटवेट विकल्प प्रदान करता है, जिससे कम्प्यूटेशनल ओवरहेड के बिना कार्य अनुकूलन सुलभ हो जाता है।
व्याख्यात्मकता (Interpretability): इस विधि की सफलता यह सुझाव देती है कि ज़ीरो-शॉट और फ्यू-शॉट लॉजिट डिस्ट्रीब्यूशन के बीच का अंतर हाई-लेवल टास्क सेमैंटिक्स को एनकोड करता है, जो यह समझने के लिए एक नया दृष्टिकोण प्रदान करता है कि LLMs ICL के माध्यम से कार्य निर्देशों को कैसे आत्मसात करते हैं।
व्यावहारिक तैनाती: चूंकि इसके लिए वेट अपडेट या सहायक मॉडल्स की आवश्यकता नहीं है, इसलिए DeCoVec को उन प्रोडक्शन एनवायरनमेंट में तुरंत तैनात किया जा सकता है जहाँ मॉडल वेट्स को फ्रोजन रहना चाहिए या जहाँ लेटेंसी/लागत बाधाएं भारी फाइन-ट्यूनिंग को रोकती हैं।

सीमाएं (Limitations)

हाइपरपैरामीटर संवेदनशीलता: $\lambda$ के स्केलिंग फैक्टर के लिए प्रत्येक डेटासेट के अनुसार ट्यूनिंग की आवश्यकता होती; यह अभी तक व्यक्तिगत इनपुट इंस्टेंस के प्रति अनुकूलनीय (adaptive) नहीं है।
रीज़निंग मॉडल्स: लंबे "चेन-ऑफ-थॉट" प्रक्रियाओं वाले मॉडल्स पर इसके प्रभाव के लिए कई रीजनिंग स्टेप्स में स्थिरता सुनिश्चित करने हेतु और सत्यापन की आवश्यकता है।
कंपोजिशनलिटी (Compositionality): अलग-अलग डिकोडिंग-स्पेस वेक्टर्स (जैसे, सेफ्टी और रीजनिंग वेक्टर्स को मर्ज करना) को गणितीय रूप से संयोजित करने की क्षमता का तुलनात्मक रूप से कम अन्वेषण किया गया है।