🤖 machine learning

Efficient Estimation of Kernel Surrogate Models for Task Attribution

यह शोध पत्र स्केलेबल टास्क एट्रिब्यूशन के लिए गैररेखीय टास्क इंटरैक्शन को सटीक रूप से पकड़ने हेतु एक कुशल ग्रेडिएंट-आधारित अनुमान प्रक्रिया के साथ कर्नेल सरोगेट मॉडल पेश करता है, जो ग्राउंड ट्रुथ के साथ सहसंबंध और डाउनस्ट्रीम डेटा चयन प्रदर्शन के मामले में लीनियर सरोगेट्स और इन्फ्लुएंस फंक्शन्स से काफी बेहतर प्रदर्शन करता है।

मूल लेखक: Zhenshuo Zhang, Minxuan Duan, Hongyang R. Zhang

प्रकाशित 2026-05-12

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Zhenshuo Zhang, Minxuan Duan, Hongyang R. Zhang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक शेफ हैं जिसने एक विश्व प्रसिद्ध व्यंजन बनाया है। यह व्यंजन केवल एक सामग्री से नहीं बना था; यह पांच अलग-अलग देशों के मसालों, तीन बगीचों की सब्जियों और एक गुप्त सॉस का एक जटिल मिश्रण है।

अब, एक फूड क्रिटिक आपसे पूछता है: "किस विशिष्ट सामग्री ने इस व्यंजन को इतना स्वादिष्ट बनाया? क्या यह भारत से आया केसर था, इटली के टमाटर थे, या वह गुप्त सॉस था?"

यह टास्क एट्रीब्यूशन (Task Attribution) की समस्या है। आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में, मॉडल को हजारों अलग-अलग "टास्क" (जैसे भाषा अनुवाद करना, कोड लिखना, या गणित की समस्या हल करना) पर प्रशिक्षित किया जाता है। शोधकर्ता यह जानना चाहते हैं कि: किन विशिष्ट प्रशिक्षण कार्यों (training tasks) ने वास्तव में AI को एक विशेष काम में बेहतर बनाने में मदद की?

पुराना तरीका: "टेस्ट-टेस्ट" का दुःस्वप्न

इस प्रश्न का उत्तर देने का सबसे स्पष्ट तरीका "लीव-वन-आउट" (Leave-One-Out) विधि है। यह देखने के लिए कि क्या केसर मायने रखता है, आप केसर के बिना व्यंजन बनाते हैं और देखते हैं कि क्या इसका स्वाद खराब हो गया। यह देखने के लिए कि क्या टमाटर मायने रखते हैं, आप टमाटरों के बिना इसे बनाते हैं।

एक मानव शेफ के लिए, यह कष्टदायक है। एक AI के लिए, यह असंभव है। यदि AI को 1,000 अलग-अलग कार्यों पर प्रशिक्षित किया गया था, तो आपको पूरे AI को 1,000 बार फिर से प्रशिक्षित करना होगा (प्रत्येक गायब सामग्री के लिए एक बार)। इसमें बहुत अधिक समय और कंप्यूटर पावर लगती है। यह एक व्यंजन का स्वाद लेने के लिए उसे 1,000 बार नए सिरे से बनाने जैसा है, सिर्फ यह देखने के लिए कि कौन सा मसाला महत्वपूर्ण है।

पिछला शॉर्टकट: "लीनियर" का अनुमान

वैज्ञानिकों ने एक शॉर्टकट बनाने की कोशिश की। उन्होंने एक "सरोगेट मॉडल" (surrogate model) बनाया—एक सरल, तेज़ कैलकुलेटर जो सामग्रियों के आधार पर परिणाम का अनुमान लगाता है।

हालाँकि, पुराने कैलकुलेटर लीनियर (Linear) थे। वे मानते थे कि सामग्रियां स्वतंत्र रूप से काम करती हैं। उन्होंने सोचा:

"केसर स्वाद में 5 अंक जोड़ता है।"
"टमाटर 3 अंक जोड़ते हैं।"
"कुल स्वाद = 8।"

लेकिन खाना बनाना (और AI) शायद ही कभी इतना सरल होता है। कभी-कभी, सामग्रियां अजीब तरीके से परस्पर क्रिया (interact) करती हैं। हो सकता है कि केसर केवल तभी काम करता है जब आपके पास टमाटर भी हों। हो सकता है कि केसर और टमाटर एक-दूसरे को बेअसर कर दें (जैसे तेल और पानी का मिश्रण)। ये नॉन-लीनर इंटरैक्शन (non-linear interactions) हैं (सिनर्जी या विरोध)। पुराने लीनियर कैलकुलेटर कार्यों के बीच इन "रासायनिक प्रतिक्रियाओं" को पकड़ने में विफल रहे।

नया समाधान: "कर्नेल" सरोगेट

यह पेपर KERNELSM (Kernel Surrogate Models) नामक एक नई विधि पेश करता है।

इस नई विधि को एक सुपर-स्मार्ट फूड क्रिटिक के रूप में सोचें जो खाना पकाने के रसायन विज्ञान (chemistry) को समझता है। केवल अंक जोड़ने के बजाय, यह देखता है कि सामग्रियां एक साथ कैसे नृत्य करती हैं।

यह जानता है कि "केसर + टमाटर" एक जादुई स्वाद पैदा करता है जो अकेले इनमें से किसी के पास भी नहीं होता।
यह जानता है कि "केसर + लहसुन" व्यंजन को खराब कर सकता है।

यह एक कर्नेल (Kernel) (विशेष रूप से रेडियल बेसिस फंक्शन, या RBF) का उपयोग करता है। कल्पना करें कि यह एक मानचित्र है जो सामग्रियों के विभिन्न संयोजनों के बीच "दूरी" को मापता है। यदि सामग्रियों के दो संयोजन समान हैं, तो मॉडल मानता है कि वे समान परिणाम देंगे। यदि वे बहुत भिन्न हैं, तो यह उन्हें अलग मानता है। यह मॉडल कार्यों के बीच उन जटिल, नॉन-लीनर "नृत्यों" को पकड़ने की अनुमति देता है।

जादू का कमाल: दोबारा पकाने की आवश्यकता नहीं

आप पूछ सकते हैं: "यदि यह नया मॉडल इतना स्मार्ट है, तो क्या इसे इन इंटरैक्शन को सीखने के लिए अभी भी हजारों बार AI को फिर से प्रशिक्षित करने की आवश्यकता नहीं है?"

पेपर कहता है नहीं। उन्होंने एक चतुर "ग्रेडिएंट-आधारित एस्टीमेशन" (gradient-based estimation) ट्रिक विकसित की है।

कल्पना कीजिए कि आपके पास एक बहुत भारी, महंगा बर्तन (प्री-ट्रेंड AI) है। पूरे बर्तन को उठाने के बजाय कि यह कैसे बदलता है, आप बस उसके हैंडल (gradients) को देखते हैं।

शोधकर्ता AI के "हैंडल" (उसकी वर्तमान स्थिति और छोटे बदलावों के प्रति उसकी प्रतिक्रिया) का एक स्नैपशॉट लेते हैं।
वे एक गणितीय शॉर्टकट (first-order approximation) का उपयोग करते हैं यह अनुमान लगाने के लिए कि यदि आप एक कार्य को हटा देते या जोड़ देते तो AI कैसा व्यवहार करता, बिना वास्तव में इसे फिर से प्रशिक्षित किए।
वे इन भविष्यवाणियों को अपने "सुपर-स्मार्ट क्रिटिक" (कर्नेल मॉडल) में फीड करते हैं।

परिणाम: उन्हें यह पता चल जाता है कि कौन से कार्य महत्वपूर्ण हैं, 2% से भी कम त्रुटि के साथ, और वे यह बिना AI को फिर से प्रशिक्षित किए करते हैं।

उन्होंने क्या पाया

टीम ने परीक्षण के लिए तीन बहुत अलग "किचन" का उपयोग किया:

मैथ रीजनिंग (Math Reasoning): AI को मॉड्यूलर अरिथमेटिक (जैसे घड़ी वाला गणित) सिखाना।
इन-कॉन्टेक्स्ट लर्निंग (In-Context Learning): उदाहरणों के आधार पर AI को अगला शब्द पहचानने के लिए सिखाना (जैसे चैटबॉट)।
रोबोटिक्स (Robotics): एक रोबोटिक हाथ को विभिन्न कार्य करने के लिए सिखाना (जैसे दराज खोलना या बटन दबाना)।

निष्कर्ष:

सटीकता (Accuracy): नया "कर्नेल" तरीका पुराने लीनियर तरीकों की तुलना में यह भविष्यवाणी करने में 25% अधिक सटीक था कि कौन से कार्य महत्वपूर्ण थे। यह "ग्राउंड ट्रुथ" (जिसे करना असंभव था - पुन: प्रशिक्षण) के बहुत करीब था।
सिनर्जी (Synergy): इसने सफलतापूर्वक उन मामलों की पहचान की जहाँ कार्य मिलकर काम करते थे (सिनर्जी) या एक-दूसरे के विरुद्ध लड़ते थे (एंटागोनिज्म), जिन्हें पुराने तरीके पूरी तरह से मिस कर गए थे।
डाउनस्ट्रीम सफलता (Downstream Success): जब उन्होंने इस विधि का उपयोग AI को दिखाने के लिए सर्वश्रेष्ठ उदाहरण चुनने के लिए किया (उदाहरण के लिए, किसी चैटबॉट को समस्या हल करने में मदद करने के लिए 4 उदाहरण दिखाना), तो AI पुराने तरीकों की तुलना में 40% बेहतर प्रदर्शन करता है।

मुख्य बात

यह पेपर हमें यह समझने का एक तेज़ और स्मार्ट तरीका देता है कि AI कैसे सीखता है। यह साधारण "हिस्सों को जोड़ने" वाले तर्क से आगे बढ़कर विभिन्न प्रशिक्षण कार्यों के बीच जटिल "रसायन विज्ञान" को समझने की ओर बढ़ता है। और सबसे अच्छी बात? यह बिना भारी कंप्यूटेशनल लागत के किया जाता है। यह बिल्कुल वैसा ही है जैसे यह जानना कि अपने सूप में कौन सा मसाला डालना है, बिना सूप को 1,000 बार पकाए।

तकनीकी सारांश: टास्क एट्रिब्यूशन के लिए कर्नेल सरोगेट मॉडल्स का कुशल अनुमान

समस्या विवरण
आधुनिक AI सिस्टम, विशेष रूप से लार्ज लैंग्वेज मॉडल्स (LLMs) और मल्टी-टास्क लर्नर्स, विविध कार्यों (जैसे अनुवाद, कोड जनरेशन, रीजनिंग) के सेट पर प्रशिक्षित होते हैं। व्याख्यात्मकता (interpretability) में एक मौलिक चुनौती टास्क एट्रिब्यूशन (task attribution) है: यह मापना कि एक विशिष्ट लक्षित कार्य (target task) पर मॉडल के प्रदर्शन पर प्रत्येक व्यक्तिगत प्रशिक्षण कार्य का कितना प्रभाव है। इसके लिए ग्राउंड-ट्रुथ मेट्रिक लीव-वन-आउट (LOO) रिट्रेनिंग है, जो यह मापता है कि एक विशिष्ट कार्य को प्रशिक्षण से बाहर करने पर प्रदर्शन में क्या परिवर्तन आता है। हालाँकि, बड़े पैमाने पर LOO गणनात्मक रूप से अत्यधिक कठिन है, क्योंकि इसमें $K$ कार्यों के लिए $K+1$ पूर्ण प्रशिक्षण रन की आवश्यकता होती है।

मौजूदा कुशल विकल्प इन्फ्लुएंस फंक्शन्स (हेसियन-वेक्टर उत्पादों के माध्यम से सूक्ष्म डेटा परिवर्तनों के प्रभाव का अनुमान लगाना) और लीनियर सरोगेट मॉडल्स (कार्य समावेश संकेतकों से प्रदर्शन का एक रैखिक मानचित्र सीखने) शामिल हैं। जबकि लीनियर सरोगेट्स स्केलेबल हैं, वे प्रथम-क्रम (first-order), योगात्मक (additive) संबंधों तक ही सीमित हैं। वे कार्यों के बीच नॉन-लीनियर इंटरैक्शन (nonlinear interactions), जैसे सिनर्जी (synergy), एंटागोनिज्म (antagonism), या XOR-प्रकार के प्रभावों को मॉडल करने में विफल रहते हैं, जो जटिल लर्निंग लैंडस्केप में सामान्य हैं।

कार्यप्रणाली (Methodology)
यह शोध पत्र KERNELSM (कर्नेल सरोगेट मॉडल्स) प्रस्तावित करता है, जो एक ऐसा फ्रेमवर्क है जो प्रशिक्षण कार्यों के बीच दूसरे-क्रम (second-order) और उच्च-क्रम के नॉन-लीनियर इंटरैक्शन को कैप्चर करने के लिए टास्क एट्रिब्यूशन का विस्तार करता है।

लीनियर सरोगेट्स का सैद्धांतिक विश्लेषण:
लेखक पहले एक एकीकृत टास्क-वेटिंग फ्रेमवर्क स्थापित करते हैं। यूनिफॉर्म वेट वेक्टर $s^* = [1]^K$ के आसपास परफॉरमेंस फंक्शन $F(s)$ के सेकंड-ऑर्डर टेलर एक्सपेंशन के माध्यम से, वे लीनियर सरोगेट मॉडल्स का विश्लेषण करते हैं।

वे सिद्ध करते हैं कि लीनियर सरोगेट गुणांक ( $\hat{\beta}$ ), सैंपलिंग डिस्ट्रीब्यूशन और सेकंड-ऑर्डर इंटरैक्शन प्रभावों द्वारा प्रेरित पदों तक, परफॉरमेंस लैंडस्केप के ग्रेडिएंट ( $\nabla_s F(s^*)$ ) का सन्निकटन (approximate) करते हैं।
महत्वपूर्ण रूप से, वे प्रदर्शित करते हैं कि छोटे सेकंड-ऑर्डर इंटरैक्शन (अर्थात, एक लगभग लीनियर लैंडस्केप) के धारणा के तहत, लीनियर सरोगेट मॉडल इन्फ्लुएंस फंक्शन्स के लगभग समकक्ष होते हैं। यह समझाता है कि क्यों लीनियर तरीके कुछ सेटिंग्स में अच्छी तरह काम करते हैं लेकिन जब टास्क इंटरैक्शन नॉन-एडिटिव होते हैं, तो विफल हो जाते हैं।

कर्नेल सरोगेट मॉडलिंग:
नॉन-एडिटिविटी को संबोधित करने के लिए, लेखक लीनियर मैपिंग के स्थान पर कर्नेल रिज रिग्रेशन (KRR) का उपयोग करके एक नॉन-लीनियर फंक्शन सीखते हैं जो रिप्रोडसिंग कर्नेल हिलबर्ट स्पेस (RKHS) में होता है।

कर्नेल का चयन: वे रेडियल बेसिस फंक्शन (RBF) कर्नेल ( $k(s^{(a)}, s^{(b)}) = \exp(-\gamma \|s^{(a)} - s^{(b)}\|^2)$ ) का उपयोग करते हैं। इस चुनाव का औचित्य बाइनरी सबसेट स्पेस $\{0, 1\}^K$ की ज्यामिति में निहित है, जहाँ RBF कर्नेल हैमिंग डिस्टेंस (Hamming distance) के आधार पर लोकैलिटी (locality) को स्वाभाविक रूप से एनकोड करता है, जिससे मॉडल टास्क कॉम्बिनेशन के बीच जटिल निर्भरताओं को कैप्चर कर सकता है।
उद्देश्य: सरोगेट फंक्शन $g_\theta$ , देखे गए परफॉरमेंस $F(s^{(i)})$ और प्रेडिक्शंस के बीच एम्पिरिकल लॉस को कम करता है, जिसे RKHS नॉर्म द्वारा रेगुलराइज किया जाता है।

कुशल ग्रेडिएंट-आधारित अनुमान:
सरोगेट मॉडलिंग में एक बड़ी बाधा $m$ देखे गए सबसेट्स के लिए $m$ अलग-अलग मॉडल्स को प्रशिक्षित करना है ताकि परफॉरमेंस वैल्यूज $F(s^{(i)})$ प्राप्त की जा सकें। लेखक बार-बार प्रशिक्षण से बचने के लिए एक कुशल अनुमान प्रक्रिया पेश करते हैं:

फर्स्ट-ऑर्डर एप्रोक्सिमेशन: वे एक प्री-ट्रेन्ड इनिशियलाइजेशन $W_0$ के आसपास मॉडल आउटपुट $f_W(x)$ के फर्स्ट-ऑर्डर टेलर एक्सपेंशन का लाभ उठाते हैं: $f_W(x) \approx f_{W_0}(x) + \langle \nabla f_{W_0}(x), W - W_0 \rangle$ ।
ग्रेडिएंट फीचर्स: बार-बार प्रशिक्षण के बजाय, वे एक सबसेट $s$ के लिए ऑप्टिमल पैरामीटर परटर्बेशन $Z^*_s$ का अनुमान लगाने के लिए एक रेगुलराइज्ड रिग्रेशन समस्या को हल करते हैं जहाँ फीचर्स प्री-ट्रेन्ड मॉडल के ग्रेडिएंट्स ( $\nabla f_{W_0}$ ) हैं।
डायमेंशनलिटी रिडक्शन: हाई-डायमेंशनल ग्रेडिएंट्स को संभालने के लिए, वे फीचर स्पेस को कंप्रेस करने के लिए गॉसियन रैंडम प्रोजेक्शन (जॉन्सन-लिंडेनस्ट्रॉस लेम्मा) लागू करते हैं, जिससे CPU पर तेज़ गणना संभव होती है।
सटीकता: एम्पिरिकल परिणाम दिखाते हैं कि यह फर्स्ट-ऑर्डर एप्रोक्सिमेशन विविध डेटासेट्स और मॉडल साइज़ (34B पैरामीटर्स तक) में 2% से कम रिलेटिव एरर रखता है।

प्रमुख योगदान

सैद्धांतिक एकीकरण: यह पेपर इन्फ्लुएंस फंक्शन्स और लीनियर सरोगेट मॉडल्स के बीच एक औपचारिक संबंध स्थापित करता है, जो दिखाता है कि नगण्य सेकंड-ऑर्डर टास्क इंटरैक्शन की स्थितियों के तहत वे समकक्ष हैं।
कर्नेल सरोगेट मॉडल्स (KERNELSM): एक कर्नेल-आधारित दृष्टिकोण (विशेष रूप से RBF) का परिचय, जो प्रभावी रूप से उन नॉन-लीनियर टास्क इंटरैक्शन (सिनर्जी/एंटागोनिज्म) को कैप्चर करता है जिन्हें लीनियर मॉडल्स मिस कर देते हैं।
स्केलेबल एस्टीमेशन एल्गोरिदम: एक ग्रेडिएंट-आधारित अनुमान प्रक्रिया जो एकल प्री-ट्रेन्ड मॉडल से ग्रेडिएंट्स का उपयोग करके किसी भी टास्क सबसेट के प्रदर्शन का अनुमान लगाती है, जो उच्च सटीकता बनाए रखते हुए बार-बार प्रशिक्षण की आवश्यकता को समाप्त करती है।
एम्पिरिकल वैलिडेशन: मॉड्यूलर अरिथमेटिक रीजनिंग, इन-कॉन्टेक्स्ट लर्निंग (ICL), और मल्टी-ऑब्जेक्टिव रिइन्फोर्समेंट लर्निंग (RL) में व्यापक मूल्यांकन।

प्रायोगिक परिणाम
लेखक KERNELSM का मूल्यांकन इन्फ्लुएंस फंक्शन्स, TracIn, TRAK, SOURCE, और लीनियर सरोगेट मॉडल्स सहित बेसलाइन्स के विरुद्ध करते हैं।

एट्रिब्यूशन एक्यूरेसी: KERNELSM लगातार बेसलाइन्स को पछाड़ता है। मॉड्यूलर अरिथमेटिक टास्क (जिसमें XOR और क्वाड्रेटिक स्ट्रक्चर शामिल हैं) में, यह मौजूदा तरीकों की तुलना में एट्रिब्यूशन एक्यूरेसी में 42% तक सुधार करता है। सभी डोमेन में, यह लीनियर सरोगेट्स और इन्फ्लुएंस फंक्शन्स की तुलना में LOO ग्राउंड ट्रुथ के साथ 25% उच्च सहसंबंध (correlation) प्राप्त करता है।
डाउनस्ट्रीम टास्क सिलेक्शन: डाउनस्ट्रीम टास्क के लिए ऑप्टिमल सबसेट्स चुनने के लिए उपयोग किए जाने पर:
- इन-कॉन्टेक्स्ट लर्निंग: KERNELSM, लीनियर सरोगेट्स की तुलना में डेमोंस्ट्रेशन सिलेक्शन में 40% कम लॉस देता है।
- मल्टी-ऑब्जेक्टिव RL: यह Meta-World MT10 बेंचमार्क में टारगेट रिवार्ड्स में 15% का सुधार करता है।
स्केलेबिलिटी: यह विधि बिना किसी प्रदर्शन गिरावट के कार्यों की बड़ी संख्या (जैसे 500 प्रॉम्प्ट्स) तक स्केल करती है और CPU पर कुशलतापूर्वक चलती है।
रोबस्टनेस: कर्नेल दृष्टिकोण विभिन्न ऑप्टिमाइज़र्स (SGD, SAM, NSO) और हेसियन रेगुलराइजेशन के तहत भी मजबूत रहता है, जबकि लीनियर सरोगेट्स तब काफी खराब हो जाते हैं जब लॉस लैंडस्केप अत्यधिक घुमावदार (हाई हेसियन ट्रेस) होता है।

महत्व और दावे
पेपर का दावा है कि KERNELSM ब्लैक-बॉक्स सिस्टम के लिए टास्क एट्रिब्यूशन के लिए एक स्केलेबल और फ्लेक्सिबल समाधान प्रदान करता है। लीनियर मॉडल्स के एडिटिव धारणाओं से आगे बढ़कर, यह अधिक सटीक समझ सक्षम बनाता है कि कैसे प्रशिक्षण कार्यों के बीच जटिल, नॉन-लीनियर इंटरैक्शन मॉडल के व्यवहार को आकार देते हैं। लेखक इस बात पर जोर देते हैं कि उनका दृष्टिकोण प्री-ट्रेन्ड मॉडल के फर्स्ट-ऑर्डर एप्रोक्सिमेशन के अलावा प्रशिक्षण प्रक्रिया के बारे में किसी विशिष्ट धारणा पर निर्भर नहीं करता है और इन-कॉन्टेक्स्ट लर्निंग और रिइन्फोर्समेंट लर्निंग जैसे उभरते प्रतिमानों (paradigms) के लिए व्यापक रूप से लागू है। यह कार्य सैद्धांतिक इन्फ्लुएंस फंक्शन्स और आधुनिक बड़े पैमाने के AI सिस्टम के लिए व्यावहारिक, स्केलेबल डेटा एट्रिब्यूशन के बीच के अंतर को पाटता है।