💬 NLP

Distributional Alignment as a Criterion for Designing Task Vectors in In-Context Learning

यह शोध पत्र लीनियर टास्क वेक्टर (LTV) प्रस्तुत करता है, जो एक ऐसी विधि है जो टास्क वेक्टर-आधारित और इन-कॉन्टेक्स्ट लर्निंग इन्फरेंस के बीच वितरण संबंधी विसंगति (distributional discrepancy) को न्यूनतम करके टास्क वेक्टर डिजाइन करती है, जिससे वर्गीकरण (classification), प्रतिगमन (regression) और क्रॉस-मॉडल ट्रांसफर कार्यों में सटीकता और दक्षता में महत्वपूर्ण सुधार होता है।

मूल लेखक: Jihoon Kwon, Jiwon Choi, Jy-yong Sohn

प्रकाशित 2026-05-21

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Jihoon Kwon, Jiwon Choi, Jy-yong Sohn

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ एक सरल भाषा और रचनात्मक उपमाओं (analogies) का उपयोग करके शोध पत्र (paper) का स्पष्टीकरण दिया गया है।

बड़ी समस्या: सीखने का "भारी बैकपैक" (The Heavy Backpack)

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान रोबोट है (एक लार्ज लैंग्वेज मॉडल) जो केवल उदाहरणों को पढ़कर नए कार्य सीख सकता है। इसे इन-कॉन्टेक्स्ट लर्निंग (ICL) कहा जाता है।

यदि आप चाहते हैं कि रोबोट शेक्सपियर की शैली में कविता लिखे, तो आपको रोबोट के दिमाग को फिर से प्रशिक्षित करने की आवश्यकता नहीं है। आपको बस उसकी स्क्रीन के ऊपर शेक्सपियर की कविताओं के कुछ उदाहरण देने होंगे, और फिर उसे एक कविता लिखने के लिए कहना होगा। यह बहुत अच्छा काम करता है!

लेकिन एक पेंच है: हर बार जब आप एक उदाहरण जोड़ते हैं, तो रोबोट को जानकारी का एक भारी "बैकपैक" ढोना पड़ता है। यदि आप उसे 50 उदाहरण देते हैं, तो बैकपैक बहुत बड़ा हो जाता है। इससे रोबोट धीमा और महंगा हो जाता है क्योंकि उसे हर बार सवाल का जवाब देने के लिए उन सभी उदाहरणों को फिर से पढ़ना पड़ता है।

प्रस्तावित समाधान: "चीट शीट" (टास्क वेक्टर्स - Task Vectors)

शोधकर्ताओं ने एक ऐसा तरीका ढूंढना चाहा जिससे रोबोट तेज़ भी रहे और बुद्धिमान भी। उन्होंने टास्क वेक्टर (Task Vector) का विचार निकाला।

टास्क वेक्टर को एक संक्षिप्त चीट शीट (condensed cheat sheet) के रूप में सोचें। रोबोट को हर बार 50 उदाहरण पढ़ने देने के बजाय, आप उन्हें एक बार पढ़ते हैं, कार्य के "सार" (essence) को निकालते हैं, और उसे एक छोटी सी चिट (sticky note) पर लिख देते हैं (जिसे वेक्टर कहते हैं)। फिर, आप वह चिट रोबोट के माथे पर चिपका देते हैं। अब, रोबोट बिना भारी बैकपैक पढ़े वह कार्य कर सकता है।

पुरानी चीट शीट्स की समस्या:
अब तक, किसी को नहीं पता था कि सबसे अच्छी चीट शीट कैसे लिखी जाए। शोधकर्ता बस अलग-अलग तरीकों से उन्हें बनाने की कोशिश करते थे और देखते थे कि किस एक से सबसे अच्छे टेस्ट स्कोर मिलते हैं। यह केक बनाने की रेसिपी का अनुमान लगाने जैसा था: "शायद मैं इसमें थोड़ा नमक डालूँ? नहीं, इसका स्वाद खराब है। शायद थोड़ा कम आटा? " उनके पास यह मापने का कोई तरीका नहीं था कि एक रेसिपी दूसरी से बेहतर क्यों थी, जब तक कि उन्होंने अंतिम केक चखा नहीं।

नया विचार: "स्वाद का मिलान करना" (डिस्ट्रीब्यूशनल अलाइनमेंट - Distributional Alignment)

इस पेपर के लेखक इन चीट शीट्स को परखने का एक नया तरीका प्रस्तावित करते हैं। वे कहते हैं: "एक अच्छी चीट शीट रोबोट को बिल्कुल उसी तरह सोचने पर मजबूर करती है जैसे वह तब सोचता जब उसने सभी उदाहरण पढ़े होते।"

उन्होंने एक मीट्रिक बनाया जिसे dNTP कहा जाता है (जो सुनने में एक फैंसी गणितीय शब्द लगता है, लेकिन इसे "फ्लेवर मिसमैच स्कोर" समझें)।

परिदृश्य A (भारी बैकपैक): रोबोट उदाहरण पढ़ता है और अगले शब्द का अनुमान लगाता है।
परिदृश्य B (चीट शीट): रोबोट चिट (sticky note) को देखता है और अगले शब्द का अनुमान लगाता है।

यदि "फ्लेवर मिसमैच स्कोर" अधिक है, तो चीट शीट खराब है क्योंकि रोबोट उस तरह से अनुमान नहीं लगा रहा है जैसा उसे लगाना चाहिए। यदि स्कोर कम है, तो चीट शीट एकदम सही है क्योंकि रोबोट बिल्कुल वैसे ही सोच रहा है जैसे वह पूरे बैकपैक के साथ सोचता।

खोज: उन्होंने पाया कि यदि आप इस "फ्लेवर मिसमैच" को कम करते हैं, तो रोबोट वास्तव में टेस्ट में बेहतर प्रदर्शन करता है! इसका मतलब है कि आपको अनुमान लगाने की ज़रूरत नहीं है; आपको बस चीट शीट को पूर्ण उदाहरणों के "स्वाद" से मिलाना है।

नई विधि: "लीनियर टास्क वेक्टर" (LTV)

इस नए नियम का उपयोग करते हुए, लेखकों ने एक नई विधि बनाई जिसे लीनियर टास्क वेक्टर (LTV) कहा जाता है।

कल्पना कीजिए कि आप यह पता लगाने की कोशिश कर रहे हैं कि उदाहरण रोबोट के दिमाग को कितना बदलते हैं।

पुराने तरीके रोबोट के दिमाग को बहुत जटिल और घुमावदार तरीके से देखने के माध्यम से बदलाव का अनुमान लगाने जैसे थे।
LTV एक सीधी स्केल (straight ruler) का उपयोग करने जैसा है। यह बिना उदाहरणों के रोबोट के दिमाग को देखता है, उदाहरणों के साथ वाले दिमाग को देखता है, और एक सीधी रेखा खींचकर गणना करता है कि उदाहरणों ने चीज़ों को कितना बदला।

क्योंकि यह एक सरल, सीधी-रेखा वाली गणितीय ट्रिक (जिसे लीनियर रिग्रेशन कहा जाता है) का उपयोग करता है, इसलिए इसकी गणना करना अविश्वसनीय रूप से तेज़ है। आप गणित को एक बार करते हैं, चीट शीट लिखते हैं, और फिर रोबोट जाने के लिए तैयार होता है।

परिणाम: तेज़, स्मार्ट और ट्रांसफर करने योग्य

लेखकों ने इसका परीक्षण आठ अलग-अलग कार्यों (जैसे समाचार लेखों को छाँटना या मूवी रिव्यू का विश्लेषण करना) और पांच अलग-अलग रोबोट मॉडल पर किया।

बेहतर सटीकता (Accuracy): नया LTV तरीका हर चीज़ में सर्वश्रेष्ठ था। औसतन, इसने पुराने तरीकों की तुलना में रोबोट की सटीकता में 9.2% का सुधार किया।
तेज़ गति: क्योंकि गणित सरल है, रोबोट सवालों के जवाब लगभग उतनी ही तेज़ी से देता है जितना कि तब देता जब उसके पास कोई चीट शीट ही न होती। यह बहुत सारा समय और पैसा बचाता है।
"बड़े भाई" का प्रभाव (The Big Brother Effect): उन्होंने कुछ दिलचस्प खोजा: आप एक विशाल, सुपर-स्मार्ट रोबोट (जैसे 72-बिलियन पैरामीटर वाला मॉडल) का उपयोग करके एक चीट शीट बना सकते हैं और उसे एक छोटे, कमजोर रोब de (जैसे 7-बिलियन पैरामीटर वाला मॉडल) को दे सकते हैं।
- उपमा: कल्पना कीजिए कि एक जीनियस प्रोफेसर एक कठिन परीक्षा के लिए स्टडी गाइड लिखता है। वे वह गाइड एक हाई स्कूल के छात्र को सौंप देते हैं। भले ही छात्र प्रोफेसर जितना स्मार्ट नहीं है, लेकिन उस विशिष्ट गाइड के होने से उन्हें टेस्ट में अपने दम पर करने की तुलना में बहुत बेहतर प्रदर्शन करने में मदद मिलती है।
- परिणाम: छोटे रोबोट ने बड़े रोबोट द्वारा बनाई गई चीट शीट का उपयोग करके कार्यों में 6.4% बेहतर प्रदर्शन किया।

सारांश

समस्या: उदाहरण पढ़ना AI को धीमा और महंगा बनाता है।
पुराना समाधान: उदाहरणों को एक "वेक्टर" में संकुचित (compress) करने की कोशिश करना, लेकिन हमें यह नहीं पता था कि संपीड़न (compression) अच्छा है या नहीं।
नया अंतर्दृष्टि: एक अच्छा संपीड़न AI को ठीक उसी तरह सोचने पर मजबूर करता है जैसे वह पूर्ण उदाहरणों के साथ करता।
नया टूल: एक सरल, तेज़ गणितीय ट्रिक (LTV) जो सबसे अच्छा संभव संपीड़न (compression) बनाती है।
जीत: यह अधिक सटीक है, तेज़ है, और यहाँ तक कि बड़े रोबोटों को छोटे रोबोटों को बेहतर तरीके से सीखने में मदद करने की अनुमति भी देता है।

तकनीकी सारांश: इन-कॉन्टेक्स्ट लर्निंग में टास्क वेक्टर्स को डिजाइन करने के लिए डिस्ट्रीब्यूशनल अलाइनमेंट एक मानदंड के रूप में

समस्या विवरण

इन-कॉन्टेक्स्ट लर्निंग (ICL) इनपुट क्वेरी के साथ लेबल किए गए प्रदर्शनों (demonstrations) को जोड़कर लार्ज लैंग्वेज मॉडल्स (LLMs) को नए कार्यों के अनुकूल बनाने में सक्षम बनाती है। हालांकि यह प्रभावी है, लेकिन जैसे-जैसे कॉन्टेक्स्ट की लंबाई बढ़ती है, ICL से इन्फरेंस लागत और मेमोरी ओवरहेड बढ़ता जाता है, जो संसाधन संबंधी बाधाओं के तहत इसकी व्यावहारिक उपयोगिता में बाधा डालता है। इसे संबोधित करने के लिए, हालिया शोध ने टास्क वेक्टर्स (Task Vectors - TVs) का प्रस्ताव दिया है: ICL के दौरान एक LLM के आंतरिक एक्टिवेशन्स से निकाले गए संक्षिप्त हिडन-स्टेट रिप्रेजेंटेशन। ये वेक्टर्स उन प्रदर्शनों से अनुमानित कार्य जानकारी को संपुटित (encapsulate) करते हैं, जिससे मॉडल बिना प्रदर्शनों को पुन: प्रोसेस किए ज़ीरो-शॉट इन्फरेंस के दौरान कार्य अनुकूलन कर सकता है।

हालांकि, मौजूदा टास्क वेक्टर निष्कर्षण विधियों में एक सिद्धांतगत डिजाइन मानदंड का अभाव है। वर्तमान में, टास्क वेक्टर निष्कर्षण विधि की गुणवत्ता का मूल्यांकन केवल डाउनस्ट्रीम टास्क सटीकता के माध्यम से किया जाता है। यह अप्रत्यक्ष मीट्रिक इस बारे में सीमित अंतर्द зрения प्रदान करता है कि एक विधि दूसरी विधि से बेहतर क्यों है या अधिक प्रभावी निष्कर्षण तंत्रों को कैसे डिजाइन किया जाए। टास्क वेक्टर की गुणवत्ता का मूल्यांकन और अनुकूलन करने के लिए एक प्रत्यक्ष, सैद्धांतिक रूप से सुदृढ़ मानदंड की आवश्यकता है।

कार्यप्रणाली

1. प्रस्तावित मानदंड: डिस्ट्रीब्यूशनल अलाइनमेंट (Distributional Alignment)

लेखक यह तर्क देते हैं कि एक टास्क वेक्टर का प्राथमिक लक्ष्य प्रदर्शनों के प्रभाव को इस तरह संकुचित करना है कि परिणामी प्रेडिक्टिव डिस्ट्रीब्यूशन मानक ICL के समान हो। इस अलाइनमेंट को मापने के लिए, वे dNTP (नेक्स्ट-टोकन प्रोबेबिलिटी में विसंगति) पेश करते हैं।

परिभाषा: dNTP, ICL के तहत अगले टोकन की प्रेडिक्टिव डिस्ट्रीब्यूशन ( $P_{icl}$ ) और टास्क वेक्टर-आधारित इन्फरेंस के तहत डिस्ट्रीब्यूशन ( $P_{tv}$ ) के बीच कुलबैक-लीब्लर (KL) डाइवर्जेंस को मापता है।
$dNTP(f; Z) = \mathbb{E}_{x \sim D} \left[ D_{KL} \left( P_{icl}(\cdot | x, Z) \parallel P_{tv}(\cdot | x, f(Z)) \right) \right]$
जहाँ $f$ निष्कर्षण फलन (extraction function) है और $Z$ प्रदर्शनों (demonstrations) का प्रतिनिधित्व करता है।
वैधीकरण: कई मॉडलों और बेंचमार्क पर अनुभवजन्य विश्लेषण से पता चलता है कि dNTP और डाउनस्ट्रीम सटीकता के बीच एक मजबूत नकारात्मक सहसंबंध (negative correlation) है। कम dNTP लगातार उच्च सटीकता की भविष्यवाणी करता है, जो dNTP को टास्क वेक्टर गुणवत्ता के एक वैध प्रॉक्सी के रूप में स्थापित करता है जिसके लिए टेस्ट सेट लेबल की आवश्यकता नहीं होती है।

2. प्रस्तावित विधि: लीनियर टास्क वेक्टर (Linear Task Vector - LTV)

dNTP को न्यूनतम करने के लक्ष्य से प्रेरित होकर, लेखक लीनियर टास्क वेक्टर (LTV) का प्रस्ताव करते हैं। यह विधि एक प्रॉक्सी ऑप्टिमाइज़ेशन समस्या से व्युत्पन्न है।

तर्क: dNTP को सीधे न्यूनतम करना अव्यवहारिक है क्योंकि इसमें क्लोज्ड-फॉर्म समाधान का अभाव है और इसके लिए इटरेटिव अपडेट की आवश्यकता होती है। लेखक यह सिद्ध करते हैं कि ICL के हिडन स्टेट्स ( $h_{icl}$ ) और ज़ीरो-शॉट हिडन स्टेट प्लस टास्क वेक्टर ( $h_{zs} + v$ ) के बीच मीन स्क्वेर्ड एरर (MSE) को न्यूनतम करना dNTP के लिए एक अपर बाउंड (upper bound) के रूप में कार्य करता है।
$LMSE(f) = \mathbb{E} \left[ \| h_{icl} - (h_{zs} + f(Z)) \|_2^2 \right]$
लीनियर मैपिंग: ICL के "ट्रेनिंग-फ्री" लाभ को बनाए रखने के लिए (मॉडल पैरामीटर अपडेट से बचने के लिए), LTV निष्कर्षण फलन $f$ को एक लीनियर मैपिंग तक सीमित करता है। टास्क वेक्टर $v$ को ज़ीरो-शॉट हिडन स्टेट $h_{zs}$ के एक लीनियर ट्रांसफॉर्मेशन के रूप में अनुमानित किया जाता है:
$v = W h_{zs}(x)$
क्लोज्ड-फॉर्म समाधान: इष्टतम लीनियर मैपिंग $W^*$ की गणना अनलेबल ट्रेनिंग क्वेरीज के एक सेट पर रिज प्रतिगमन (ridge regression) के माध्यम से की जाती है। प्रतिगमन ICL हिडन स्टेट और ज़ीरो-शॉट हिडन स्टेट के अंतर ( $h_{icl} - h_{zs}$ ) को लक्षित करता है।
$W^* = \arg\min_W \left( \| Y - W H \|_F^2 + \lambda \| W \|_F^2 \right)$
जहाँ $H$ ज़ीरो-शॉट हिडन स्टेट्स को और $Y$ लक्षित अंतरों को समाहित करता है। यह एक क्लोज्ड-फॉर्म समाधान प्रदान करता है, जो दक्षता सुनिश्चित करता है।

मुख्य योगदान

dNTP मीट्रिक: टास्क वेक्टर-आधारित और ICL-आधारित इन्फरेंस डिस्ट्रीब्यूशन के बीच विसंगति को मापने वाले एक मीट्रिक का परिचय। पेपर यह प्रदर्शित करता है कि dNTP एक मजबूत प्रदर्शन प्रॉक्सी है, जो डाउनस्ट्रीम सटीकता के साथ नकारात्मक रूप से सहसंबंधित है।
लीनियर टास्क वेक्टर (LTV): एक क्लोज्ड-फॉर्म लीनियर मैपिंग के माध्यम से dNTP को न्यूनतम करने वाली एक टास्क वेक्टर निष्कर्षण विधि का विकास। यह दृष्टिकोण इटरेटिव ऑप्टिमाइज़ेशन और मॉडल फाइन-ट्यूनिंग से बचता है।
अनुभवजन्य श्रेष्ठता: व्यापक प्रयोग जो दिखाते हैं कि LTV आठ वर्गीकरण बेंचमार्क और पांच LLMs में मौजूदा ट्रेनिंग-फ्री बेसलाइन्स (Function Vector, Task Vector, State Vector, I2CL) से बेहतर प्रदर्शन करता है।
क्रॉस-मॉडल ट्रांसफर: यह प्रदर्शन दिखाना कि एक बड़े मॉडल (जैसे, 72B) से निकाले गए टास्क वेक्टर्स को एक छोटे मॉडल (जैसे, 7B) में स्थानांतरित किया जा सकता है ताकि प्रदर्शन बढ़ाया जा सके, जो उन परिदृश्यों को संबोधित करता है जहाँ इन्फरेंस मॉडल की क्षमता या कॉन्टेक्स्ट लेंथ सीमित है।

प्रयोगात्मक परिणाम

वर्गीकरण प्रदर्शन: पांच LLMs (LLaMA-2/3 और Qwen वेरिएंट सहित) और आठ बेंचमार्क (जैसे, SST-2, AGNews, DBPedia) में, LTV ने उच्चतम औसत सटीकता प्राप्त की। विशेष रूप से, LLaMA-2-13B पर, LTV ने सर्वश्रेष्ठ बेसलाइन (State Vector) की तुलना में औसत सटीकता में 9.2% का सुधार किया, जो 79.46% तक पहुँच गया।
दक्षता: LTV ज़ीरो-शॉट इन्फरेंस के तुलनीय इन्फरेंस लेटेंसी (लगभग 0.0226s प्रति सैंपल) बनाए रखता है, जो ICL की तुलना में काफी तेज़ है। हालांकि निष्कर्षण के लिए एक बार का प्री-कंप्यूटेशन लागत आवश्यक है, लेकिन यह टेस्ट सेट पर अमोर्टाइज (amortized) हो जाता है।
रिग्रेशन कार्य: LTV का मूल्यांकन लीनियर और ReLU रिग्रेशन कार्यों पर भी किया गया, जिसमें सभी टास्क वेक्टर बेसलाइन्स के बीच सबसे कम मीन स्क्वेर्ड एरर (MSE) प्राप्त हुआ।
मजबूती (Robustness): विधि हाइपरपैरामीटर्स (प्रशिक्षण क्वेरीज की संख्या $N$ और रेगुलराइजेशन $\lambda$ ) और प्रदर्शनों की संख्या ( $k$ ) में बदलाव के प्रति मजबूत बनी रहती है।
स्थानांतरणीयता (Transferability): Qwen-2.5-72B मॉडल से Qwen-2.5-7B मॉडल में LTV को स्थानांतरित करने से छोटे मॉडल की औसत वर्गीकरण सटीकता में 6.43% का सुधार हुआ, यहाँ तक कि कुछ मामलों में यह बड़े मॉडल के अपने LTV के प्रदर्शन के बराबर भी पहुँच गया।

महत्व और दावे

पेपर दावा करता है कि डिस्ट्रीब्यूशनल अलाइनमेंट टास्क वेक्टर निष्कर्षण विधियों को डिजाइन करने के लिए एक मौलिक और उपयोगी मानदंड है। अप्रत्यक्ष डाउनस्ट्रीम सटीकता से प्रत्यक्ष डिस्ट्रीब्यूशनल विसंगति (dNTP) पर मूल्यांकन के फोकस को बदलकर, लेखक टास्क वेक्टर्स को समझने और सुधारने के लिए एक सिद्धांतगत ढांचा प्रदान करते हैं।

LTV का महत्व इसकी क्षमता में निहित है:

द अंतर को पाटना: ICL के सैद्धांतिक लक्ष्य (निहित बेयसियन इन्फरेंस) और व्यावहारिक कार्यान्वयन (संक्षिप्त वेक्टर्स) के बीच के अंतर को बिना मॉडल अपडेट के पाटना।
एक कम्प्यूटेशनल रूप से कुशल विकल्प प्रदान करना: यह उच्च सटीकता बनाए रखते हुए इन्फरेंस लेटेंसी को कम करके ICL का एक कुशल विकल्प प्रदान करता है।
क्रॉस-मॉडल ट्रांसफर सक्षम करना: यह सुझाव देना कि बड़े, अधिक सक्षम मॉडलों से निकाले गए टास्क रिप्रेजेंटेशन छोटे मॉडलों के लिए एक संसाधन के रूप में कार्य कर सकते हैं जिनमें सीमित कॉन्टेक्स्ट या क्षमता है।

लेखक निष्कर्ष निकालते हैं कि LTV, LLMs में टास्क कंप्रेशन के लिए अधिक कुशल और प्रभावी फ्रेमवर्क प्रदान करता है, जो इस परिकल्पना की पुष्टि करता है कि TV और ICL डिस्ट्रीब्यूशन के बीच की विसंगति को न्यूनतम करने से बेहतर टास्क अडैप्टेशन प्राप्त होता है।