💬 NLP

Data Attribution in Large Language Models via Bidirectional Gradient Optimization

यह शोध पत्र बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) में प्रशिक्षण डेटा एट्रिब्यूशन के लिए एक द्विदिशीय ग्रेडिएंट अनुकूलन ढांचे (बाइडायरेक्शनल ग्रेडिएंट ऑप्टिमाइज़ेशन फ्रेमवर्क) को प्रस्तुत करता है जो जनित आउटपुट के आधार पर मूल मॉडल को विचलित करता है ताकि प्रशिक्षण नमूनों में लॉस परिवर्तनों को मापा जा सके, जिससे यह बेहतर मॉडल व्याख्यात्मकता और जवाबदेही के लिए प्रभावशाली डेटा की पहचान करने में मौजूदा विधियों से बेहतर प्रदर्शन करता है।

मूल लेखक: Frédéric Berdoz, Luca A. Lanzendörfer, Kaan Bayraktar, Roger Wattenhofer

प्रकाशित 2026-06-04

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Frédéric Berdoz, Luca A. Lanzendörfer, Kaan Bayraktar, Roger Wattenhofer

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक प्रतिभाशाली शेफ है (लार्ज लैंग्वेज मॉडल) जिसने व्यंजनों की एक विशाल लाइब्रेरी (ट्रेनिंग डेटा) के आधार पर हजारों व्यंजन पकाए हैं। एक दिन, वह शेफ आपको एक विशिष्ट व्यंजन परोसता है, जैसे कि "स्पाइसी टोमेटो पास्ता।" आप सोच सकते हैं: उस लाइब्रेरी के कौन से विशिष्ट व्यंजन वास्तव में इस व्यंजन के लिए प्रेरणा बने? क्या यह किसी इतालवी दादी माँ की रेसिपी थी? या कोई आधुनिक फ्यूजन ब्लॉग? या दोनों का मिश्रण?

यह डेटा एट्रीब्यूशन (Data Attribution) की समस्या है। यह पेपर एक नई विधि पेश करता है जिसे DABGO (बाइडायरेक्शनल ग्रेडिएंट ऑप्टिमाइज़ेशन के माध्यम से डेटा एट्रीब्यूशन) कहा जाता है ताकि इस प्रश्न का उत्तर दिया जा सके।

DABGO कैसे काम करता है, इसे सरल उपमाओं के माध्यम से समझाया गया है:

समस्या: "ब्लैक बॉक्स" किचन

आमतौर पर, जब एक शेफ कोई व्यंजन बनाता है, तो हम आसानी से यह नहीं बता सकते कि लाइब्रेरी के कौन से सटीक सामग्रियां सबसे अधिक महत्वपूर्ण थीं। पारंपरिक तरीके शब्दों को खोजने की कोशिश करते हैं जो मेल खाते हों (जैसे लाइब्रेरी में "टोमेटो" शब्द खोजना), लेकिन यह खाना पकाने के अंदाज या वाइब को मिस कर देता है। अन्य तरीके गणितीय रूप से प्रभाव की गणना करने की कोशिश करते हैं, लेकिन वे जटिल, रचनात्मक व्यंजनों के लिए अक्सर बहुत धीमे या गलत होते हैं।

समाधान: "क्या होगा अगर?" प्रयोग

DABGO एक चतुर "क्या होगा अगर?" रणनीति का उपयोग करता है। केवल लाइब्रेरी को देखने के बजाय, यह अस्थायी रूप से शेफ के मस्तिष्क को बदल देता है ताकि यह देखा जा सके कि वह उस विशिष्ट व्यंजन के प्रति कैसी प्रतिक्रिया देता है।

इसे इस प्रकार समझें:

सेटअप: शेफ पहले से ही "स्पाइसी टोमेटो पास्ता" (जेनेरेटेड आउटपुट) बना चुका है।
प्रयोग: शोधकर्ता शेफ के मस्तिष्क को लेते हैं और उस विशिष्ट पास्ता डिश पर दो त्वरित, विपरीत सिमुलेशन चलाते हैं:
- सिमुलेशन A (ग्रेडिएंट एसेंट): वे शेफ के मस्तिष्क को इस तरह बदलते हैं कि वह इस पास्ता को और भी अधिक पसंद करे। वे शेफ को ऐसा सोचने पर मजबूर करते हैं, "यह सबसे अच्छा पास्ता है! मुझे इसे पूरी तरह से याद रखना चाहिए!"
- सिमुलेशन B (ग्रेडिएंट डिसेंट): वे शेफ के मस्तिष्क को इस तरह बदलते हैं कि वह इस पास्ते से नफरत करे। वे शेफ को ऐसा सोचने पर मजबूर करते हैं, "मैं इस रेसिपी को पूरी तरह से भूल जाना चाहता हूँ।"
परीक्षण: अब, वे "पसंद करने वाले" शेफ के मस्तिष्क और "नफरत करने वाले" शेफ के मस्तिष्क को मूल लाइब्रेरी के व्यंजनों को देखने के लिए कहते हैं।
- यदि कोई विशिष्ट पुरानी रेसिपी "पसंद करने वाले" शेफ को बहुत खुश करती है और "नफरत करने वाले" शेफ को बहुत दुखी करती है (या इसके विपरीत), तो वह रेसिपी उस पास्ता पर एक प्रमुख प्रभाव है।
- यदि कोई रेसिपी दोनों सिमुलेशन में शेफ की भावनाओं को ज्यादा नहीं बदलती है, तो वह शायद अंतिम व्यंजन के लिए महत्वपूर्ण नहीं थी।

"बाइडायरेक्शनल" क्यों महत्वपूर्ण है

पेपर में पाया गया कि केवल एक सिमुलेशन करना (केवल शेफ को डिश से प्यार करना, या केवल उससे नफरत करना) पर्याप्त नहीं है। यह एक गाने को समझने जैसा है जिसे या तो केवल अधिकतम वॉल्यूम पर सुनना या केवल फुसफुसाहट पर सुनना। पूर्ण चित्र प्राप्त करने के लिए आपको दोनों दिशाओं की आवश्यकता है।

"लव" (प्यार) की दिशा उन रेसिपी को खोजने में मदद करती है जिन्हें मॉडल स्वाभाविक रूप से कॉपी करना चाहता था।
"हेट" (नफरत) की दिशा उन रेसिपी को खोजने में मदद करती है जिनसे मॉडल बचना चाह रहा था या खुद को अलग दिखाना चाह रहा था।
दोनों को मिलाकर, DABGO को कहीं अधिक स्पष्ट मानचित्र मिलता है कि विचार कहाँ से आए।

उन्होंने क्या पाया?

शोधकर्ताओं ने इसे दो प्रकार के "खाना पकाने" पर परखा:

तथ्यात्मक कुकिंग: तथ्यों के बयान बनाना (जैसे, "पेरिस फ्रांस की राजधानी है")।
शैलीगत कुकिंग: किसी विशिष्ट लेखक की लेखन शैली की नकल करना (जैसे, शेक्सपियर या जेन ऑस्टेन की तरह लिखना)।

परिणाम:

प्रतियोगियों से बेहतर: DABGO सही स्रोत रेसिपी खोजने में पुराने तरीकों की तुलना में बहुत बेहतर था। पुराने तरीके कीवर्ड सर्च इंजन की तरह थे; उन्होंने सही शब्द तो खोज लिए लेकिन अक्सर सही संदर्भ या शैली को मिस कर दिया।
शैली मायने रखती है: जब कार्य किसी विशिष्ट लेखक की शैली की नकल करना था, तो DABGO सफलतापूर्वक उसी लेखक द्वारा लिखे गए अन्य ग्रंथों की ओर इशारा कर सका, जबकि साधारण वर्ड-मैचिंग टूल्स विफल रहे।
ज़ूम इन करना: DABGO इतना सटीक है कि यह केवल पूरी रेसिपी ही नहीं, बल्कि रेसिपी के भीतर विशिष्ट वाक्यों या यहाँ तक कि शब्दों की ओर भी इशारा कर सकता है जो सबसे अधिक प्रभावशाली थे।

कमी (सीमाएं)

पेपर इसकी कमियों के बारे में ईमानदार है। यह "क्या होगा अगर?" प्रयोग कम्प्यूटेशनल रूप से भारी है। यह पूरी लाइब्रेरी के व्यंजनों को एक नए व्यंजन का परीक्षण करने के लिए दो बार फिर से पकाने जैसा है।

यह छोटे, नियंत्रित प्रयोगों के लिए बहुत अच्छा काम करता है।
यह वर्तमान में उन विशाल, औद्योगिक स्तर के मॉडलों के लिए बहुत धीमा और महंगा है जिनका उपयोग आज बड़ी टेक कंपनियां करती हैं (जिन्हें अरबों शब्दों पर प्रशिक्षित किया जाता है)।

निष्कर्ष

DABGO एक नया टूल है जो हमें यह समझने में मदद करता है कि AI ने जो कहा वह क्यों कहा। यह सिमुलेट करके कि यदि AI किसी विशिष्ट आउटपुट को अपनाने या भूलने की कोशिश करता है तो वह कैसे बदलेगा, यह उस आउटपुट को सबसे प्रभावशाली ट्रेनिंग डेटा तक ट्रैक कर सकता है। यह AI को अधिक पारदर्शी और जवाबदेह बनाता है, जिससे हमें "व्यंजन" के पीछे के "सामग्री" को देखने में मदद मिलती है।

तकनीकी सारांश: द्वि-दिशीय ग्रेडिएंट अनुकूलन (DABGO) के माध्यम से लार्ज लैंग्वेज मॉडल्स में डेटा एट्रिब्यूशन

समस्या विवरण

लार्ज लैंग्वेज मॉडल्स (LLMs) को कानूनी मसौदा तैयार करने, चिकित्सा निदान और वैज्ञानिक अनुसंधान जैसे महत्वपूर्ण क्षेत्रों में तेजी से तैनात किया जा रहा है। हालांकि ये मॉडल विशाल प्रशिक्षण कॉर्पोरा (corpora) से अपनी क्षमताओं को प्राप्त करते हैं, लेकिन एक मौलिक खुला प्रश्न बना हुआ है: यह पहचानना कि किस विशिष्ट प्रशिक्षण डेटा ने मॉडल के आउटपुट को सबसे अधिक प्रभावित किया। वर्तमान शोध मुख्य रूप से एक डेटासेट के आधार पर मॉडल के प्रदर्शन पर केंद्रित है, जबकि इसका विपरीत समस्या—मॉडल के व्यवहार को विशिष्ट डेटा स्रोतों तक पीछे ट्रैक करना—अभी भी कम खोजा गया है। यह ट्रेसिबिलिटी (traceability) की कमी शासन, जवाबदेही और विशिष्ट डेटा बिंदुओं को "अनलर्न" (unlearn) करने या डिबग करने की क्षमता में बाधा डालती है। मौजूदा ट्रेनिंग डेटा एट्रिब्यूशन (TDA) विधियाँ, जैसे कि इन्फ्लुएंस फंक्शन्स (Influence Functions), व्यावहारिक सीमाओं का सामना करती हैं, जिनमें गणना की अव्यवहारिकता (जिसके लिए पुन: प्रशिक्षण की आवश्यकता होती है) और बड़े पैमाने के मॉडल्स में हेसियन इनवर्जन (Hessian inversion) से जुड़ी मौलिक समस्याएँ शामिल हैं। इसके अलावा, पूर्व एनएलपी (NLP) एट्रिब्यूशन अध्ययन अक्सर एकल-शब्द भविष्यवाणियों या डेटासेट-स्तरीय सूक्ष्मता तक सीमित रहे हैं, जो पूरी तरह से ओपन-एंडेड टेक्स्ट जनरेशन को संबोधित करने में विफल रहे हैं।

कार्यप्रणाली

लेखक DABGO (Data Attribution via Bidirectional Gradient Optimization) का प्रस्ताव करते हैं, जो ऑटो-रिग्रेसिव (autoregressive) LLMs के लिए बैकवर्ड इन्फ्लुएंस फंक्शन्स का अनुमान लगाने के लिए डिज़ाइन किया गया एक ढांचा है। मुख्य परिकल्पना "मिरर्ड इन्फ्लुएंस" (mirrored influence) की अवधारणा पर आधारित है: एक मॉडल प्रेडिक्शन पर एक ट्रेनिंग सैंपल का प्रभाव, इस अवलोकन से अनुमानित किया जा सकता है कि उस प्रेडिक्शन पर मॉडल को अनुकूलित (optimize) करने से ट्रेनिंग सैंपल पर मॉडल का व्यवहार कैसे प्रभावित होता है।

मुख्य एल्गोरिदम

द्वि-दिशीय अनुकूलन (Bidirectional Optimization): एक प्री-ट्रेन्ड मॉडल $\pi_{\theta^*}$ और एक जनरेटेड आउटपुट सीक्वेंस $\hat{x}$ (जो $\hat{x}_0$ द्वारा प्रेरित है) दिए जाने पर, यह विधि दो विक्षेपित (perturbed) मॉडल वेरिएंट बनाती है:
- ग्रेडिएंट एसेंट ( $\theta_+$ ): मॉडल को जनरेट किए गए टेक्स्ट $\hat{x}$ की संभावना (likelihood) को बढ़ाने के लिए अनुकूलित करता है (यह "अनलर्निंग" या प्रभाव को अधिकतम करने का अनुकरण करता है)।
- ग्रेडिएंट डिसेंट ( $\theta_-$ ): मॉडल को $\hat{x}$ की संभावना को कम करने के लिए अनुकूलित करता है (यह फाइन-ट्यूनिंग या प्रभाव को न्यूनतम करने का अनुकरण करता है)।
- दोनों अनुकूलन एक फिशर-रेगुलराइज्ड अपडेट (एलास्टिक वेट कंसोलिडेशन) का उपयोग करते हैं ताकि कैटास्ट्रोफिक फॉरगेटिंग (catastrophic forgetting) को कम किया जा सके, जिसे कम्प्यूटेशनल सुगमता सुनिश्चित करने के लिए एक डायगोनल फिशर इंफॉर्मेशन मैट्रिक्स (FIM) के माध्यम से अनुमानित किया जाता है।
द्वि-दिशीय प्रभाव स्कोर (Bidirectional Influence Score - BIS): डेटासेट $D$ में प्रत्येक ट्रेनिंग सैंपल $x_i$ के लिए, विधि दोनों विक्षेपित मॉडल्स ( $\theta_+$ और $\theta_-$ ) के तहत लॉस (loss) की गणना करती है। प्रभाव स्कोर लॉस में पूर्ण परिवर्तन (absolute change) है:
$I(x_i; \hat{x}) = |\ell(x_i, \theta_-) - \ell(x_i, \theta_+)|$
वे सैंपल्स जो लॉस में बड़े पूर्ण परिवर्तन प्रदर्शित करते हैं, उन्हें $\hat{x}$ के जनरेशन के लिए सबसे प्रभावशाली के रूप में रैंक किया जाता है।
सूक्ष्मता (Granularity): यह ढांचा पूर्ण ट्रेनिंग सैंपल से लेकर टोकन स्तर तक, मनचाहे स्तर पर एट्रिब्यूशन का समर्थन करता है, जो प्रति-टोकन लॉग-लाइक्लीहुड अंतर को मापकर किया जाता है।

मुख्य योगदान

नवीन ढांचा: ओपन-एंडेड टेक्स्ट जनरेशन के लिए एक सरल लेकिन प्रभावी एट्रिब्यूशन विधि के रूप में DABGO का परिचय, जो महंगे प्रति-सैंपल ग्रेडिएंट कंप्यूटेशन या हेसियन इनवर्जन से बचता है।
द्वि-दिशीय दृष्टिकोण: पेपर यह प्रदर्शित करता है कि ग्रेडिएंट एसेंट या केवल डिसेंट का उपयोग करने वाले यूनिडायरेक्शनल (एकदिशीय) दृष्टिकोणों की तुलना में, दोनों दिशाओं (एसेंट और डिसेंट) को संयोजित करने से बेहतर एट्रिब्यूशन सटीकता प्राप्त होती है, जो जेनेरेटिव मॉडल्स में पूरक संकेतों (complementary signals) को कैप्चर करता है।
सूक्ष्म एट्रिब्यूशन (Granular Attribution): विधि मनचाहे डेटा ग्रैनुलैरिटी पर एट्रिब्यूशन सक्षम करती है, जो एट्रिब्यूटेड टेक्स्ट में तथ्यात्मक सामग्री और शैलीगत विशेषताओं (जैसे लेखकत्व, सिंटैक्स) दोनों को सफलतापूर्वक कैप्चर करती है।
मूल्यांकन प्रोटोकॉल: लेखक प्रभाव के एक कम्प्यूटेशनल रूप से कुशल प्रॉक्सी के रूप में टेल-पैच एब्सोल्यूट (Tail-Patch Absolute - TPA) स्कोर का उपयोग करते हैं, जिसे फुल रिट्रेनिंग प्रयोगों के माध्यम से ग्राउंड-ट्रुथ परिभाषा के विरुद्ध मान्य किया गया है।

प्रयोगात्मक परिणाम

लेखकों ने दो अलग-अलग कॉर्पोरा पर स्क्रैच से प्रशिक्षित GPT-2 शैली के मॉडल्स पर DABGO का मूल्यांकन किया:

तथ्यात्मक एट्रिब्यूशन (Factual Attribution): एक क्यूरेटेड विकिपीडिया कॉर्पस (230M टोकन) का उपयोग करके।
शैलीगत एट्रिब्यूशन (Stylistic Attribution): विविध लेखकों के साथ प्रोजेक्ट गुटेनबर्ग साहित्यिक ग्रंथों (2M टोकन) का उपयोग करके।

मात्रात्मक प्रदर्शन:

तथ्यात्मक सेटिंग: DABGO अधिकांश $k$ मानों (टॉप एट्रिब्यूटेड सैंपल्स की संख्या) के लिए बेसलाइन (BM25, TRACKSTAR, GECKO) से लगातार बेहतर प्रदर्शन करता है। जबकि $k=1$ पर BM25 मजबूत लेक्सिकल ओवरलैप के कारण अच्छा प्रदर्शन करता है, DABGO जैसे-जैसे $k$ बढ़ता है, बेहतर प्रदर्शन करता है, जो वितरित तथ्यात्मक प्रभाव (distributed factual influence) की बेहतर पहचान को दर्शाता है।
शैलीगत सेटिंग: जैसे-जैसे $k$ बढ़ता है, DABGO शब्द-आधारित रिट्रीवल (BM25) और एम्बेडिंग-आधारित विधियों (GECKO) से काफी बेहतर प्रदर्शन करता है। यह सिंगल पैसेज पर निर्भर रहने के बजाय कई ट्रेनिंग सैंपल्स में वितरित शैलीगत संकेतों को कैप्चर करने की इसकी क्षमता को उजागर करता है।
रिट्रेनिंग के माध्यम से सत्यापन: उन काउंटरफैक्टुअल प्रयोगों में जहाँ टॉप- $k$ एट्रिब्यूटेड सैंपल्स को हटा दिया गया और मॉडल्स को फिर से प्रशिक्षित किया गया, DABGO द्वारा एट्रिब्यूटेड सैंपल्स के बिना रिट्रेन किए गए मॉडल्स ने अन्य विधियों द्वारा एट्रिब्यूट किए गए सैंपल्स की तुलना में टेस्ट आउटपुट पर काफी अधिक लॉस दिखाया। यह पुष्टि करता है कि DABGO प्रभाव की ग्राउंड-ट्रुथ परिभाषा के साथ संरेखित है।

एब्लेशन स्टडीज (Ablation Studies):
ग्रेडिएंट एसेंट और डिसेंट को अलग करने वाले प्रयोगों ने दिखाया कि जबकि केवल एसेंट पर्याप्त प्रदर्शन प्रदान करता है, दोनों दिशाओं (DABGO) का संयोजन उच्चतम सटीकता प्राप्त करता है, जो जेनेरेटिव कार्यों के लिए द्वि-दिशीय दृष्टिकोण की आवश्यकता को प्रमाणित करता है।

महत्व और दावे

पेपर का दावा है कि DABGO मॉडल की व्याख्यात्मकता (interpretability) को बढ़ाता है, जो जवाबदेह AI सिस्टम के लिए एक महत्वपूर्ण आवश्यकता है। ओपन-एंडेड जनरेशन को उनके सबसे प्रभावशाली ट्रेनिंग डेटा तक सफलतापूर्वक ट्रैक करके, यह विधि:

फीडबैक लूप को बंद करती है: यह ट्रेनिंग डेटा को सीधे मॉडल व्यवहार से जोड़ती है, जिससे मॉडल डिबगिंग और डेटा अनलर्निंग जैसे अनुप्रयोगों को सक्षम बनाया जाता है।
पूर्व सीमाओं को दूर करती है: क्यूरेटेड तथ्यों या एकल-शब्द भविष्यवाणियों तक सीमित पिछले कार्यों के विपरीत, DABGO पूरी तरह से ओपन-एंडेड जनरेशन सेटिंग्स में प्रभावी ढंग से कार्य करता है।
पारदर्शिता प्रदान करती है: टोकन स्तर पर प्रभाव को एट्रिब्यूट करने की क्षमता सूक्ष्म व्याख्यात्मकता प्रदान करती है, जो तथ्यात्मक योगदान और शैलीगत बारीकियों के बीच अंतर करती है।

लेखक अपनी सीमाओं को स्वीकार करते हैं, यह नोट करते हुए कि DABGO कम्प्यूटेशनल रूप से महंगा बना हुआ है (इसके लिए कॉर्पस पर दो पास की आवश्यकता होती है) और वर्तमान में सैकड़ों अरबों टोकन वाले औद्योगिक-स्तर के मॉडल्स के लिए अव्यवहारिक है। इसके अतिरिक्त, जबकि यह प्रभावशाली सैंपल्स की पहचान करता है, यह वर्तमान में डेटा के उप-समूहों के बीच सहक्रियात्मक (synergistic) या प्रतिकूल (adversarial) इंटरैक्शन को ध्यान में नहीं रखता है, न ही यह देखे गए लॉस परिवर्तनों के परे विशिष्ट हाइलाइट किए गए टोकन की कारण भूमिका (causal role) स्थापित करता है। फिर भी, यह कार्य ट्रैक करने योग्य और ऑडिट करने योग्य AI सिस्टम की दिशा में एक महत्वपूर्ण कदम है।