← नवीनतम पेपर
📊 statistics

Extending Kernel Trick to Influence Functions

यह शोध पत्र इन्फ्लुएंस फंक्शन्स (influence functions) का एक दोहरा प्रतिनिधित्व प्रस्तुत करता है जो मॉडल के आकार के बजाय डेटासेट के आकार के साथ स्केल करता है, जो बड़े लीनियरलाइज़ेबल (linearizable) मॉडल्स पर डेटा हटाने के प्रभाव का अनुमान लगाने के लिए एक कुशल विकल्प प्रदान करता है, हालांकि इसके बदले में एक ऐसे मैट्रिक्स की आवश्यकता होती है जिसका आकार मॉडल के आउटपुट आयाम और डेटासेट के आकार के गुणनफल के साथ बढ़ता है।

मूल लेखक: Zhenhuan Sun, Shahrokh Valaee

प्रकाशित 2026-05-13
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Zhenhuan Sun, Shahrokh Valaee

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "Extending Kernel Trick to Influence Functions" शोध पत्र की सरल भाषा और रोजमर्रा के उदाहरणों का हिंदी अनुवाद दिया गया है।

बड़ी समस्या: "ब्लैक बॉक्स" और "अनडू" (Undo) बटन

कल्पना कीजिए कि आपने बिल्लियों और कुत्तों को पहचानने के लिए एक बहुत ही स्मार्ट AI (एक मशीन लर्निंग मॉडल) को प्रशिक्षित किया है। आपने इसे सीखने के लिए तस्वीरों की एक विशाल लाइब्रेरी दी है। अब, कल्पना कीजिए कि एक उपयोगकर्ता कहता है, "हे, मैं चाहता हूँ कि तुम अपनी याददाश्त से मेरे कुत्ते की वह एक फोटो हटा दो। मैं चाहता हूँ कि तुम उसे पूरी तरह से भूल जाओ, जैसे कि तुमने उसे कभी देखा ही न हो।"

AI की दुनिया में, इसे मशीन अनलर्निंग (Machine Unlearning) कहा जाता है। इसका लक्ष्य विशिष्ट डेटा पॉइंट्स के प्रभाव को हटाना है ताकि मॉडल बिल्कुल वैसा ही व्यवहार करे जैसा कि वह उस डेटा के बिना शून्य से फिर से प्रशिक्षित (retrain) करने पर करता।

यह करने का मानक तरीका इन्फ्लुएंस फंक्शन्स (Influence Functions) नामक एक गणितीय उपकरण का उपयोग करता है। इस उपकरण को एक "आवर्धक लेंस" (magnifying glass) की तरह समझें जो यह गणना करने की कोशिश करता है कि उस एक विशिष्ट फोटो ने मॉडल के मस्तिष्क को कितना बदला है।

चुनौती:
छोटे मॉडलों के लिए, यह आवर्धक लेंस ठीक काम करता है। लेकिन आधुनिक, विशाल AI मॉडलों के लिए (जैसे कि वे जो कोड लिखते हैं या कला उत्पन्न करते हैं), "मस्तिष्क" इतना बड़ा है (अरबों पैरामीटर्स के साथ) कि इस प्रभाव की गणना करना समुद्र तट पर रेत के हर कण को गिनने की कोशिश करने जैसा है ताकि यह देखा जा सके कि एक कण ज्वार को कैसे प्रभावित करता है। इसमें बहुत अधिक समय लगता है और बहुत अधिक कंप्यूटर शक्ति की आवश्यकता होती है। वर्तमान विधि इसलिए अटक जाती है क्योंकि यह एक ऐसी गणितीय समस्या को हल करने की कोशिश करती है जो मॉडल के आकार के साथ बढ़ती जाती है।

समाधान: एक नया दृष्टिकोण (The "Dual" View)

इस पेपर के लेखक, झेनहुआन सन और शाहरोख वाला, एक चतुर शॉर्टकट का प्रस्ताव देते हैं। वे कहते हैं: "समस्या को मॉडल के मस्तिष्क (जो बहुत बड़ा है) के दृष्टिकोण से देखने के बजाय, आइए इसे डेटासेट (जो आमतौर पर छोटा होता है) के दृष्टिकोण से देखें।"

वे इसे डुअल रिप्रेजेंटेशन (Dual Representation) कहते हैं।

उपमा: शेफ और रेसिपी बुक

कल्पना कीजिए कि AI मॉडल एक शेफ (मॉडल) है और प्रशिक्षण डेटा एक रेसिपी बुक (डेटासेट) है।

  • पुराना तरीका (पैरामीटर स्पेस): एक रेसिपी हटाने से शेफ की खाना पकाने की शैली में क्या बदलाव आता है, यह देखने के लिए पुराना तरीका शेफ के पूरे मस्तिष्क, मांसपेशियों और स्मृति का विश्लेषण करने की कोशिश करता है। यदि शेफ एक विश्व प्रसिद्ध हस्ती है जिसका मस्तिष्क बहुत बड़ा है, तो यह अविश्वसनीय रूप से धीमा और महंगा है।
  • नया तरीका (डुअल/अल्फा स्पेस): लेखक कहते हैं, "रुकिए जरा। शेफ केवल उन रेसिपीज़ के आधार पर अपना खाना पकाने का तरीका बदलता है जिन्हें उसने पढ़ा है। यदि हमारे पास 1,000 रेसिपीज़ हैं और शेफ बहुत बड़ा है, तो शेफ के मस्तिष्क के बजाय 1,000 रेसिपीज़ का विश्लेषण करना वास्तव में तेज़ है।"

गणित को डेटा पॉइंट्स के बीच के संबंधों (रेसिपीज़) पर ध्यान केंद्रित करने के लिए स्थानांतरित करके, वे मॉडल के आंतरिक भार (weights) के बजाय डेटा पॉइंट्स के प्रभाव को बहुत तेज़ी से गणना कर सकते हैं।

यह कैसे काम करता है: "लीनियर" (Linear) शॉर्टकट

यह नया तरीका एक विशिष्ट शर्त पर निर्भर करता है: मॉडल को "लिनियराइज़ेबल" (Linearizable) होना चाहिए।

इसका क्या अर्थ है?
एक जटिल, घुमावदार पहाड़ी सड़क की कल्पना करें। यदि आप उस सड़क के एक बहुत छोटे हिस्से को बहुत करीब से देखते हैं, तो वह पूरी तरह से सीधी दिखाई देती है।

  • लिनियराइज़ेबल मॉडल: ये वे मॉडल हैं जहाँ प्रशिक्षण के दौरान, "सड़क" बहुत अधिक मुड़ती या घूमती नहीं है। मॉडल अपने शुरुआती बिंदु के करीब रहता है, इसलिए हम गणना के उद्देश्य से सड़क को सीधा (linear) मान सकते हैं।
  • ट्रिक: लेखक न्यूरल टेंगेंट कर्नेल (Neural Tangent Kernel - NTK) नामक एक गणितीय उपकरण का उपयोग करते हैं। आप NTK को एक मानचित्र (map) के रूप में समझ सकते हैं जो बताता है कि प्रत्येक डेटा पॉइंट दूसरे डेटा पॉइंट से कैसे बात करता है। मॉडल के जटिल आंतरिक परिवर्तनों को ट्रैक करने के बजाय, वे केवल यह ट्रैक करते हैं कि इस मानचित्र पर डेटा पॉइंट्स एक-दूसरे को कैसे प्रभावित करते हैं।

परिणाम: गति बनाम सटीकता

इस पेपर ने पुराने तरीके के मुकाबले इस नए तरीके का परीक्षण दो परिदृश्यों में किया:

  1. गति: जब मॉडल बहुत बड़ा होता है (जैसे कि एक विशाल न्यूरल नेटवर्क) लेकिन डेटासेट अपेक्षाकृत छोटा होता है, तो नया तरीका बहुत तेज़ होता है। यह पूरे शहर के ब्लॉक के चारों ओर घूमने के बजाय पार्क के माध्यम से शॉर्टकट लेने जैसा है।

    • उपमा: यदि आपके पास 10,000 किताबों (डेटा) वाली एक लाइब्रेरी है और एक लाइब्रेरियन है जिसका मस्तिष्क एक ग्रह के आकार का है (मॉडल), तो लाइब्रेरियन को एक किताब के लिए अपनी याददाश्त को फिर से कैलकुलेट करने के लिए कहना बहुत समय लेता है। लेकिन यदि आप केवल किताबों की सूची को देखते हैं और देखते हैं कि वे एक-दूसरे से कैसे संबंधित हैं, तो आप इसे जल्दी से समझ सकते हैं।
  2. सटीकता: नया तरीका पुराने तरीके (और मॉडल को शून्य से फिर से प्रशिक्षित करने) के लगभग समान परिणाम देता है। "शेफ" नए शॉर्टकट का उपयोग करके रेसिपी को उतनी ही प्रभावी ढंग से भूल जाता है।

  3. "अनंत" (Infinite) मामला: पेपर यह भी दिखाता है कि यह तरीका उन मॉडलों के लिए भी काम करता है जो सैद्धांतिक रूप से अनंत रूप से चौड़े (अनंत पैरामीटर्स वाले मॉडल) हैं। इस मामले में, पुराने तरीके का उपयोग करना असंभव है, लेकिन नया तरीका पूरी तरह से काम करता है क्योंकि यह केवल डेटा पर ध्यान देता है, मॉडल के आकार पर नहीं।

सीमाएँ (बारीक बातें)

लेखक इस बारे में ईमानदार हैं कि यह ट्रिक कहाँ काम नहीं करती है:

  • यह केवल "लिनियराइज़ेबल" मॉडलों पर काम करता है: यदि मॉडल बहुत अधिक अराजक (chaotic) है या प्रशिक्षण के दौरान अपने "मस्तिष्क" को बहुत अधिक नाटकीय रूप से बदल देता है (जैसे कि एक मॉडल जो अपने शुरुआती बिंदु से बहुत दूर चला जाता है), तो सीधा-सड़क वाला अनुमान टूट जाता है।
  • इसे एक बड़े मानचित्र की आवश्यकता है: इस शॉर्टकट का उपयोग करने के लिए, आपको एक विशाल मानचित्र (NTK मैट्रिक्स) बनाना होगा जो प्रत्येक डेटा पॉइंट को दूसरे से जोड़ता है। यदि आपका डेटासेट बहुत बड़ा है (लाखों तस्वीरें), तो इस मानचित्र को बनाना और स्टोर करना महंगा हो जाता है, ठीक मूल समस्या की तरह।

सारांश

संक्षेप में, यह पेपर AI मॉडलों से डेटा को "अनलर्न" करने का एक नया तरीका पेश करता है। AI के विशाल, जटिल मस्तिष्क को सुलझाने के बजाय (जो धीमा है), यह डेटा पॉइंट्स के बीच के संबंधों को देखता है (जो तेज़ है)। यह एक गणितीय "दृष्टिकोण का परिवर्तन" है जो मशीन अनलर्निंग को बड़े मॉडलों के लिए संभव बनाता है, बशर्ते कि मॉडल कुछ हद तक अनुमानित, रैखिक (linear) तरीके से व्यवहार करे।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →