Learning to Weight Parameters for Training Data Attribution

यहाँ पेपर "Learning to Weight Parameters for Training Data Attribution" (ICLR 2026) का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

डेटा एट्रिब्यूशन (Data Attribution) का लक्ष्य यह पहचानना है कि कौन से प्रशिक्षण उदाहरण (training examples) एक विशिष्ट मॉडल आउटपुट को सबसे अधिक प्रभावित करते हैं। जबकि ग्रेडिएंट-आधारित विधियाँ (जैसे TracIn, Influence Functions, TRAK) गणना की दृष्टि से कुशल हैं, वे एक गंभीर सीमा से ग्रस्त हैं: वे नेटवर्क मापदंडों (parameters) के साथ समान व्यवहार करती हैं।

मौजूदा दृष्टिकोण यह मान लेते हैं कि सभी पैरामीटर एट्रिब्यूशन सिग्नल में समान रूप से योगदान देते हैं या हेसियन अनुमानों (Hessian approximations, जैसे EK-FAC) से प्राप्त अंतर्निहित वेटिंग (implicit weighting) पर निर्भर करते हैं। हालाँकि, लेखक तर्क देते हैं कि:

1. कार्यात्मक विषमता (Functional Heterogeneity): विभिन्न पैरामीटर समूह (परतें, ब्लॉक्स, अटेंशन हेड्स) अलग-अलग अर्थपूर्ण जानकारी (जैसे विषय बनाम शैली बनाम पृष्ठभूमि) को एनकोड करते हैं और विशिष्ट कार्यों के लिए उनकी महत्व का स्तर भिन्न होता है।
2. अप्रभावी अंतर्निहित वेटिंग (Ineffective Implicit Weighting): हेसियन के अनुमान शोर युक्त (noisy) और अप्रत्यक्ष होते हैं, जो विशिष्ट पैरामीटर समूहों के वास्तविक महत्व को सटीक रूप से पकड़ने में विफल रहते हैं।
3. इष्टतम प्रदर्शन का अभाव (Suboptimal Performance): समान वेटिंग (uniform weighting), महत्वपूर्ण मापदंडों से मिलने वाले मजबूत संकेतों को कम प्रासंगिक मापदंडों के शोर के साथ मिला देती है, जिससे एट्रिब्यूशन सटीकता कम हो जाती है।

2. कार्यप्रणाली (Methodology)

लेखक एक डेटा-संचालित ढांचे (data-driven framework) का प्रस्ताव करते हैं जो बिना किसी ग्राउंड-ट्रुथ एट्रिब्यूशन लेबल की आवश्यकता के, सीधे डेटा से पैरामीटर महत्व के भार ($w$) को सीखने के लिए है।

A. पैरामीटर-वेटेड एट्रिब्यूशन फॉर्मूलेशन (Parameter-Weighted Attribution Formulation)

मॉडल मापदंडों $\theta$ को $M$ विलगित समूहों (disjoint groups, जैसे परतें या ब्लॉक्स) में विभाजित किया जाता है। कच्चे ग्रेडिएंट फीचर्स $g(x)$ का उपयोग करने के बजाय, यह विधि एक सीखने योग्य, गैर-ऋणात्मक वेट वेक्टर $w = \{w_1, \dots, w_M\}$ पेश करती है।
पुनः भारित क्वेरी फीचर (reweighted query feature) को इस प्रकार परिभाषित किया गया है:
$$\tilde{g}(x; w) = \text{Diag}(w) \cdot g(x)$$
एक क्वेरी $x_{query}$ और एक प्रशिक्षण नमूना $x_n$ के बीच एट्रिब्यूशन स्कोर बनता है:
$$\tilde{\tau}(x_{query}, x_n; w) = g(x_{query})^\top \cdot \text{Diag}(w) \cdot K \cdot g(x_n)$$
जहाँ $K$ एक समानता कर्नेल (similarity kernel) है (जैसे TracIn के लिए आइडेंटिटी, या TRAK के लिए कर्नेल मैट्रिक्स)। महत्वपूर्ण रूप से, गणनात्मक दक्षता बनाए रखने के लिए भार केवल क्वेरी पक्ष पर लागू किए जाते हैं।

B. स्व-पर्यवेक्षित भार शिक्षण (Self-Supervised Weight Learning)

चूँकि ग्राउंड-ट्रुथ एट्रिब्यूशन लेबल उपलब्ध नहीं हैं, लेखक सिग्नल-टू-नॉइज़ रेशियो (SNR) मैक्सिमाइजेशन पर आधारित एक स्व-पर्यवेक्षित उद्देश्य (self-supervised objective) डिजाइन करते हैं।

• मुख्य धारणा: एक आधार एट्रिब्यूशन विधि से प्राप्त शीर्ष-$k$ स्कोरिंग प्रशिक्षण उदाहरण "छद्म-सकारात्मक" (pseudo-positives) के रूप में कार्य करते हैं।
• लॉस फंक्शन: यह विधि $w$ को इन शीर्ष-$k$ छद्म-सकारात्मकों के औसत स्कोर को अधिकतम करने के लिए अनुकूलित करती है, जिसे स्कोर वेक्टर के समग्र $\ell_2$ नॉर्म द्वारा सामान्यीकृत (normalize) किया जाता है। यह नॉर्मलाइजेशन एक नॉइज़ एस्टिमेटर के रूप में कार्य करता है।
  $$\mathcal{L}_{SSL}(w) = - \frac{1}{\| \tilde{\tau} \|_2} \left( \frac{1}{k} \sum_{i \in I_{top-k}(w)} \tilde{\tau}(x_{query}, x_i; w) \right)$$
• सैद्धांतिक औचित्य: लेखक यह सिद्ध करते हैं कि इस लॉस को कम करना 'सिग्नल-प्लस-नॉइज़' मॉडल के तहत एट्रिब्यूशन स्कोर के SNR को अधिकतम करने के समान है। अंश (numerator) सिग्नल की शक्ति का अनुमान लगाता है, जबकि हर (denominator) नॉइज़ पावर का अनुमान लगाता है।

C. सूक्ष्म-स्तरीय एट्रिब्यूशन (Fine-Grained Attribution)

यह ढांचा अर्थपूर्ण-विशिष्ट एट्रिब्यूशन (semantic-specific attribution) के लिए विस्तारित है। विशिष्ट गुणों (जैसे कि "विषय" को स्थिर रखते हुए केवल "शैली" में परिवर्तन करने वाले प्रॉम्प्ट्स) पर जोर देने वाले क्वेरी सेट्स को क्यूरेट करके, मॉडल विशिष्ट वेट वेक्टर्स ($w_{style}, w_{subject}, w_{background}$) सीखता है। यह सिस्टम को यह अलग करने की अनुमति देता है कि कौन से पैरामीटर समूह विशिष्ट अर्थपूर्ण अवधारणाओं के लिए जिम्मेदार हैं।

3. मुख्य योगदान (Key Contributions)

1. विषमता की अनुभवजन्य खोज (Empirical Discovery of Heterogeneity): यह पेपर प्रदर्शित करता है कि एट्रिब्यूशन की शक्ति पैरामीटर समूहों में काफी भिन्न होती है। डिफ्यूजन मॉडल्स में, "Up Blocks" और विशिष्ट अटेंशन आउटपुट प्रोजेक्शन अन्य परतों की तुलना में बहुत उच्च लीनियर डेटा-मॉडलिंग स्कोर (LDS) दिखाते हैं।
2. एकीकृत वेटिंग फ्रेमवर्क (Unified Weighting Framework): एक सामान्य फॉर्मूलेशन जो मौजूदा ग्रेडिएंट-आधारित विधियों (TracIn, TRAK, आदि) को समाहित करता है और उन्हें सीखे गए पैरामीटर भारों से लाभान्वित होने की अनुमति देता है।
3. स्व-पर्यवेक्षित शिक्षण (Self-Supervised Learning): एक नवीन, कुशल उद्देश्य जो मौजूदा एट्रिब्यूशन रैंकिंग से बूटस्ट्रैपिंग करके, बिना ग्राउंड-ट्रुथ लेबल के भार सीखता है, जो SNR सिद्धांत पर आधारित है।
4. अर्थपूर्ण पृथक्करण (Semantic Disentanglement): विभिन्न अर्थपूर्ण तत्वों (विषय, शैली, पृष्ठभूमि) के लिए अलग-अलग भार सीखने की क्षमता, जो सूक्ष्म एट्रिब्यूशन नियंत्रण को सक्षम बनाती है।

4. प्रयोगात्मक परिणाम (Experimental Results)

इस पद्धति का मूल्यांकन इमेज क्लासिफिकेशन, लैंग्वेज मॉडलिंग और इमेज जनरेशन (डिफ्यूजन मॉडल्स) में किया गया।

• इमेज क्लासिफिकेशन (ImageNet):

  • ResNet-18 और ViT-B/16 पर लागू किया गया।
  • परिणाम: LDS (Linear Datamodeling Score) में महत्वपूर्ण सुधार। ResNet-18 पर TracIn के लिए, LDS 11.39% से बढ़कर 23.92% हो गया।
  • गलत लेबल का पता लगाना (Mislabel Detection): शोर युक्त लेबल (जैसे ResNet-18 AUC 54.40 से 61.46) का पता लगाने के लिए बेहतर AUC।

• लैंग्वेज मॉडलिंग (WikiText-103):

  • GPT-2-small पर लागू किया गया।
  • परिणाम: TracIn, TRAK, LoGRA, और EKFAC में निरंतर LDS सुधार।
  • टेल-पैच स्कोर (Tail-Patch Score): भारित विधि ने उन प्रशिक्षण उदाहरणों की पहचान की, जिन्हें वृद्धिशील प्रशिक्षण (incremental training) के लिए उपयोग करने पर, बेसलाइन की तुलना में क्वेरी अनुक्रमों के लिए उच्च संभाव्यता लाभ (probability gains) प्राप्त हुए।

• इमेज जनरेशन (डिफ्यूजन मॉडल्स):

  • ArtBench-2, Naruto, और SB-Pokemon पर फाइन-ट्यून किए गए Stable Diffusion पर मूल्यांकन।
  • परिणाम: सभी बेसलाइन्स (TracIn, TRAK, JourneyTRAK, D-TRAK, DAS) में पर्याप्त LDS लाभ। ArtBench-2 पर D-TRAK के लिए, LDS 22.72% से बढ़कर 25.15% हो गया।
  • सूक्ष्म विश्लेषण (Fine-Grained Analysis): विशिष्ट भारों ने प्रभावों को सफलतापूर्वक अलग किया। उदाहरण के लिए, शैली-विशिष्ट भारों ने स्टाइल एट्रिब्यूशन Recall@10 को 64.9% (बेसलाइन) से बढ़ाकर 82.1% कर दिया।

• सामान्यीकरण और मजबूती (Generalization & Robustness):

  • सीखे गए भार विभिन्न डेटासेट्स और यहाँ तक कि विभिन्न एट्रिब्यूशन विधियों (जैसे TRAK के लिए सीखे गए भार TracIn के प्रदर्शन में सुधार करते हैं) के बीच अच्छी तरह से सामान्यीकृत होते हैं।
  • यह विधि प्रारंभिक एट्रिब्यूशन स्कोर के शोर के प्रति मजबूत है और तेजी से अभिसरित (converge) होती है (आमतौर पर <1 मिनट)।

5. महत्व (Significance)

यह पेपर डेटा एट्रिब्यूशन के प्रतिमान को स्थिर, समान धारणाओं से बदलकर गतिशील, सीखे गए महत्व की ओर मौलिक रूप से स्थानांतरित करता है।

• सटीकता: यह मौजूदा एट्रिब्यूशन उपकरणों की सटीकता को मॉडल को पुन: प्रशिक्षित किए बिना या महंगे ग्राउंड-ट्रुथ लेबल की आवश्यकता के बिना, महत्वपूर्ण रूप से बढ़ाने का एक व्यावहारिक, कम लागत वाला तरीका प्रदान करता है।
• व्याख्यात्मकता (Interpretability): विभिन्न अर्थपूर्ण अवधारणाओं के लिए अलग-अलग भार सीखकर, यह इस बात की गहरी अंतर्दृष्टि प्रदान करता है कि मॉडल प्रशिक्षण डेटा का उपयोग कैसे करता है (उदाहरण के लिए, शैली और विषय के बीच अंतर करना)।
• स्केलेबिलिटी (Scalability): यह दृष्टिकोण गणनात्मक रूप से कुशल है, जिससे यह बड़े पैमाने के जनरेटिव मॉडल्स (LLMs और डिफ्यूजन मॉडल्स) के लिए लागू करने योग्य बनता है जहाँ पारंपरिक हेसियन-आधारित विधियाँ अव्यवहार्य हैं।

संक्षेप में, लेखक प्रदर्शित करते हैं कि पैरामीटर विषमता एक सीखने योग्य संकेत (learnable signal) है, और इसे स्पष्ट रूप से मॉडल करने से विविध AI डोमेन में अधिक सटीक, विश्वसनीय और व्याख्या योग्य डेटा एट्रिब्यूशन प्राप्त होता है।