🤖 machine learning

The Attribution Contract: Feature Attribution for Generative Language Models

यह शोध पत्र "एट्रिब्यूशन कॉन्ट्रैक्ट" (आरोपण अनुबंध) प्रस्तुत करता है, जो एक वैचारिक ढांचा है जो आउटपुट, पात्र विशेषताओं, जनरेटिव प्रक्रिया, स्थिर स्थितियों और मॉडल स्कोर को स्पष्ट रूप से परिभाषित करके जनरेटिव भाषा मॉडलों के लिए फीचर एट्रिब्यूशन में अस्पष्टताओं को हल करता है, जिससे एट्रिब्यूशन संबंधी असहमतियों को एल्गोरिद्मिक दोषों के बजाय व्याख्यात्मक अनुबंधों के अंतर के रूप में पुनर्गठित किया जाता है।

मूल लेखक: Giang Nguyen

प्रकाशित 2026-05-25

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Giang Nguyen

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप यह समझने की कोशिश कर रहे हैं कि एक शेफ ने एक विशिष्ट व्यंजन क्यों बनाया। आप जानना चाहते हैं कि अंतिम स्वाद के लिए कौन सी सामग्रियां सबसे महत्वपूर्ण थीं।

पुराने दिनों में (सरल "क्लासिफायर" मॉडलों के साथ), यह आसान था। आप शेफ को सामग्रियों की एक सूची देते थे (इनपुट), वे एक व्यंजन बनाते थे (आउटपुट), और आप नमक या काली मिर्च की ओर इशारा करके कह सकते थे, "आह, नमक ने इसे नमकीन बनाया।" सामग्रियां स्थिर थीं, और व्यंजन तैयार हो चुका था।

लेकिन जेनरेटिव लैंग्वेज मॉडल्स (जैसे कि यह टेक्स्ट लिख रहा AI) के साथ, खाना पकाने की प्रक्रिया बहुत अधिक जटिल है। शेफ केवल एक व्यंजन नहीं बनाता; वह एक पूरा भोज (बंक्वेट) तैयार करता है, एक बार में एक निवाला। और यहाँ पेचीदा बात यह है: पहला निवाला जो शेफ बनाता है, वह दूसरे निवाले के लिए एक सामग्री बन जाता है।

यदि शेफ पहले "Le" (फ्रेंच में "The") बनाता है, तो वह "Le" अब काउंटर पर रखा हुआ है, अगले शब्द, "chien" (कुत्ता) के लिए एक सामग्री के रूप में उपयोग होने के लिए प्रतीक्षा कर रहा है।

समस्या: "किसने क्या किया?" का भ्रम

पेपर का तर्क है कि जब हम यह समझाने की कोशिश करते हैं कि AI ने एक विशिष्ट शब्द क्यों लिखा, तो हम अक्सर भ्रमित हो जाते हैं क्योंकि हमें यह स्पष्ट नहीं होता कि हम वास्तव में क्या सवाल पूछ रहे हैं।

लेखक इस भ्रम को "सेल्फ-एट्रिब्यूशन फैलेसी" (Self-Attribution Fallacy) कहते हैं।

यहाँ एक सरल उपमा है:
कल्पना कीजिए कि आप एक रिले रेस देख रहे हैं।

धावक A ने धावक B को बैटन (baton) सौंपा।
धावक B तेज़ी से दौड़ता है और रेस जीत जाता है।

यदि आप पूछते हैं, "धावक B के तेज़ दौड़ने के लिए कौन जिम्मेदार था?"

प्रश्न A: "अभी इस समय धावक B को तेज़ दौड़ने में किस चीज़ ने मदद की?"
- उत्तर: धावक A द्वारा दिया गया बैटन! (पिछला शब्द सबसे महत्वपूर्ण कारक है)।
प्रश्न B: "मूल योजना का कौन सा हिस्सा था जिसके कारण टीम जीती?"
- उत्तर: कोच के निर्देश जिन्होंने धावक A को निर्देशित किया था! (मूल प्रॉम्प्ट सबसे महत्वपूर्ण कारक है)।

पेपर कहता है कि कई AI शोधकर्ता एक ही टूल का उपयोग दोनों प्रश्नों का उत्तर देने के लिए कर रहे हैं, और वे आपस में उलझ रहे हैं। वे देखते हैं कि "धावक A" (पिछला शब्द) "धावक B" की गति के लिए जिम्मेदार है, और वे निष्कर्ष निकालते हैं, "कोच के निर्देशों का कोई महत्व नहीं था!" लेकिन यह गलत है। उन्होंने बस गलत सवाल पूछा था।

समाधान: "एट्रिब्यूशन कॉन्ट्रैक्ट" (Attribution Contract)

इसे ठीक करने के लिए, लेखक एक नया नियम पुस्तिका प्रस्तावित करता है जिसे "एट्रिब्यूशन कॉन्ट्रैक्ट" कहा जाता है। इसे एक वर्क ऑर्डर या रेसिपी कार्ड की तरह समझें जिसे आपको AI का विश्लेषण शुरू करने से पहले भरना ही होगा।

AI से यह पूछने से पहले कि "आपने यह क्यों लिखा?", आपको एक अनुबंध (कॉन्ट्रैक्ट) पर हस्ताक्षर करना होगा जो पाँच चीजों को परिभाषित करता है (SCOPE):

S (Score): हम क्या माप रहे हैं? (क्या यह अगले शब्द की संभावना है? पूरा वाक्य?)
C (Conditioning): हम किसे स्थिर रख रहे हैं? (क्या हम उन शब्दों को अनदेखा कर रहे हैं जो AI पहले ही लिख चुका है, या हम उन्हें सामग्रियों के रूप में मान रहे हैं?)
O (Output): हम वास्तव में किसकी व्याख्या कर रहे हैं? (केवल अगला शब्द? पूरा पैराग्राफ?)
P (Process): AI ने इसे कैसे बनाया? (क्या इसने बाएँ-से-दाएँ लिखा? क्या इसने डिफ्यूजन मॉडल की तरह मिटाया और फिर से लिखा?)
E (Eligible Features): हम किसे दोष देने या प्रशंसा करने के लिए अधिकृत हैं? (केवल उपयोगकर्ता का मूल प्रॉम्प्ट? या AI के अपने पिछले शब्द भी?)

यह क्यों मायने रखता है: "जादुई चश्मे" की उपमा

कल्पना कीजिए कि AI ने जादुई चश्मा पहना हुआ है।

यदि आप AI से कॉन्ट्रैक्ट A (लोकल नेक्स्ट-टोकन) का उपयोग करके एक शब्द की व्याख्या करने के लिए कहते हैं, तो चश्मा आपको दिखाएगा कि पिछला शब्द चमकीले लाल रंग में चमक रहा है। यह कह रहा है, "यह शब्द यहाँ है क्योंकि इससे पहले वाले शब्द ने इसे संभावित बनाया!"
यदि आप AI से उसी शब्द की व्याख्या करने के लिए कॉन्ट्रैक्ट B (प्रॉम्प्ट-कंडीशन्ड) का उपयोग करते हैं, तो चश्मा पिछले शब्द की चमक को बंद कर देता है और मूल प्रॉम्प्ट को चमकीले लाल रंग में चमकाता है। यह कह रहा है, "यह शब्द यहाँ है क्योंकि आपने प्रॉम्प्ट में इसकी मांग की थी!"

पेपर का मुख्य बिंदु यह है: आप यह नहीं कह सकते कि AI "गलत" है या "सही" है क्योंकि आपने चश्मे का उपयोग किया। आपको यह स्वीकार करना होगा कि कॉन्ट्रैक्ट A और कॉन्ट्रैक्ट B दो अलग-अलग सवाल पूछ रहे हैं।

यदि एक शोधकर्ता कहता है, "AI मतिभ्रम (hallucinating) कर रहा है क्योंकि यह स्रोत दस्तावेज़ को अनदेखा कर रहा है," लेकिन वे वास्तव में कॉन्ट्रैक्ट A (जो पिछले शब्दों को देखता है) का उपयोग कर रहे हैं, तो वे परिणाम की गलत व्याख्या कर रहे हैं। उन्हें कॉन्ट्रैक्ट B (जो पिछले शब्दों को स्थिर रखता है और केवल स्रोत को देखता है) पर स्विच करने की आवश्यकता है ताकि यह देखा जा सके कि क्या स्रोत दस्तावेज़ वास्तव में उसका कारण था।

निष्कर्ष (Takeaway)

यह पेपर नए तरीके से नंबरों की गणना करने का आविष्कार नहीं करता है। इसके बजाय, यह नंबरों के बारे में बात करने का एक नया तरीका विकसित करता है।

यह हमें बताता है कि जेनरेटिव AI की दुनिया में, इस बारे में कोई एक "सत्य" नहीं है कि कौन सा इनपुट सबसे अधिक महत्वपूर्ण था। केवल अनुबंध (कॉन्ट्रैक्ट) के सापेक्ष सत्य मौजूद है।

यदि आप जानना चाहते हैं कि AI कैसे स्टेप-बाय-स्टेप सोचता है, तो "लोकल" कॉन्ट्रैक्ट का उपयोग करें।
यदि आप जानना चाहते हैं कि आपकी सूचनाओं (instructions) ने अंतिम कहानी को कैसे आकार दिया, तो "प्रॉम्प्ट-कंडीशन्ड" कॉन्ट्रैक्ट का उपयोग करें।

जब तक हम इन्हें एक ही चीज़ मानने के बजाय अलग-अलग नहीं समझेंगे, हम AI स्पष्टीकरणों पर बहस करते रहेंगे जबकि वास्तव में हम अलग-अलग सवाल पूछ रहे होंगे। "एट्रिब्यूशन कॉन्ट्रैक्ट" बस एक ऐसा उपकरण है जो यह सुनिश्चित करता है कि उत्तर खोजने से पहले हम सभी एक ही सवाल पूछ रहे हैं।

तकनीकी सारांश: द एट्रिब्यूशन कॉन्ट्रैक्ट (The Attribution Contract)

समस्या विवरण (Problem Statement)
फीचर एट्रिब्यूशन (विशेषता आरोपण) विधियाँ, जिन्हें यह पहचानने के लिए डिज़ाइन किया गया है कि कौन से इनपुट फीचर्स किसी मॉडल के आउटपुट को संचालित करते हैं, जनरेटिव लैंग्वेज मॉडल्स (LMs) पर लागू होने पर एक मौलिक वैचारिक अस्पष्टता का सामना करती हैं। क्लासिकल क्लासिफिकेशन सेटिंग्स में, इनपुट-आउटपुट स्कीमा स्थिर ( $x \to f(x)$ ) होता है, और फीचर्स को स्पष्ट रूप से इनपुट घटकों के रूप में परिभाषित किया जाता है। हालाँकि, जनरेटिव LMs गतिशील प्रक्रियाओं के माध्यम से कार्य करते हैं जहाँ पिछले आउटपुट अगले प्रेडिक्शन के लिए इनपुट बन जाते हैं (ऑटोरेग्रेसिव मॉडल्स में) या जहाँ जनरेशन इटरेटिव डिनोइजिंग (diffusion models में) के माध्यम से आगे बढ़ता है।

यह संरचनात्मक अंतर एक "एट्रिब्यूशन अस्पष्टता" (attribution ambiguity) पैदा करता है: यह समझना अक्सर कठिन होता है कि क्या एक "फीचर" है या किस विशिष्ट "आउटपुट" की व्याख्या की जा रही है। उदाहरण के लिए, एक ऑटोरेग्रेसिव मॉडल में, पहले से जनरेट किए गए टोकन मॉडल के आउटपुट भी होते हैं और अगले प्रेडिक्शन के लिए इनपुट भी। फलस्वरूप, एक ही एट्रिब्यूशन एल्गोरिदम अलग-अलग परिणाम दे सकता है, यह इस बात पर निर्भर करता है कि लक्ष्य एक स्थानीय 'नेक्स्ट-टोकन प्रेडिक्शन' की व्याख्या करना है या पूरे जनरेटेड सीक्वेंस पर मूल प्रॉम्प्ट के प्रभाव की। पेपर का तर्क है कि जनरेटिव मॉडल्स में फीचर एट्रिब्यूशन के संबंध में साहित्य में दिखने वाले कई मतभेद एल्गोरिदम के बीच संघर्ष नहीं हैं, बल्कि अनकहे या बेमेल 'एक्सप्लेनेटरी कॉन्ट्रैक्ट्स' (व्याख्यात्मक अनुबंधों) से उत्पन्न संघर्ष हैं।

कार्यप्रणाली: द एट्रिब्यूशन कॉन्ट्रैक्ट (The Attribution Contract)
इस अस्पष्टता को हल करने के लिए, लेखक एट्रिब्यूशन कॉन्ट्रैक्ट पेश करते हैं, जो एक औपचारिक स्पेसिफिकेशन टुपल $A = (S, C, O, P, E)$ है जो किसी भी फीचर-एट्रिब्यूशन दावे के व्याख्यात्मक दायरे (explanatory scope) को परिभाषित करता है। इसके घटक हैं:

$S$ (स्कोर): वह विशिष्ट मॉडल मात्रा जिसका एट्रिब्यूशन किया जा रहा है (जैसे, लॉजिट, प्रोबेबिलिटी, लॉस, या लॉग-लाइक्लीहुड)।
$C$ (कंडीशनिंग): वे चर (variables) जिन्हें एट्रिब्यूशन गणना के दौरान स्थिर रखा जाता है (जैसे, केवल प्रॉम्प्ट को एट्रिब्यूट करने के लिए जनरेटेड प्रीफिक्स को फिक्स्ड रखना)।
$O$ (आउटपुट): वह विशिष्ट लक्ष्य जिसकी व्याख्या की जा रही है (जैसे, एक सिंगल नेक्स्ट टोकन, एक इंटरमीडिएट डिफ्यूजन स्टेट, या एक फुल जनरेटेड स्पैन)।
$P$ (प्रोसेस): माना गया जनरेटिव प्रोसेस (जैसे, ऑटोरेग्रेसिव चेन $x \to y_1 \to \dots \to y_t$ या डिफ्यूजन चेन $z_T \to \dots \to z_0 \to y$ )।
$E$ (एलिजिबल फीचर्स): वे फीचर्स का सेट जिन्हें एट्रिब्यूशन प्राप्त करने की अनुमति है (जैसे, केवल प्रॉम्प्ट टोकन्स, प्रॉम्प्ट प्लस जनरेटेड प्रीफिक्स, या डिनोइजिंग स्टेज)।

पेपर यह प्रदर्शित करता है कि "एट्रिब्यूशन कॉन्ट्रैक्ट" फ्रेमवर्क विभिन्न सेटिंग्स के सटीक इंस्टेंशिएशन (instantiation) की अनुमति देता है। यह मौजूदा और संभावित सेटिंग्स को वर्गीकृत करता है:

ऑटोरेग्रेसिव सेटिंग्स:
- लोकल नेक्स्ट-टोकन: टोकन $y_t$ के प्रेडिक्शन को प्रॉम्प्ट और जनरेटेड प्रीफिक्स टोकन्स दोनों के लिए एट्रिब्यूट करता है।
- प्रॉम्प्ट-कंडीशन्ड टोकन: जनरेटेड प्रीफिक्स को फिक्स्ड रखते हुए, $y_t$ को केवल प्रॉम्प्ट टोकन्स के लिए एट्रिब्यूट करता है।
- स्पैन-लेवल प्रॉम्प्ट: एक पूर्ण जनरेटेड स्पैन $y_{1:T}$ की प्रोबेबिलिटी को प्रॉम्प्ट टोकन्स के लिए एट्रिब्यूट करता है, स्पैन को फिक्स्ड रखते हुए।
डिफ्यूजन सेटिंग्स:
- स्टेट-लेवल: एक इंटरमीडिएट स्टेट $z_t$ को प्रॉम्प्ट और पूर्ववर्ती अवस्थाओं (prior states) के लिए एट्रिब्यूट करता है।
- डिनोइजिंग-स्टेज: डिनोइजिंग प्रक्रिया के विशिष्ट चरणों को अंतिम आउटपुट के गुणों के लिए एट्रिब्यूट करता है।
- प्रॉम्प्ट-टू-आउटपुट: अंतिम आउटपुट $y$ को प्रॉम्प्ट टोकन्स के लिए एट्रिब्यूट करता है, डिनोइजिंग चेन को प्रोसेस के रूप में मानते हुए।

प्रमुख योगदान (Key Contributions)
पेपर चार प्राथमिक योगदान देता है:

कॉन्ट्रैक्ट एम्बिग्युइटी की पहचान: यह जनरेटिव फीचर एट्रिब्यूशन में एक विशिष्ट विफलता मोड के रूप में "कॉन्ट्रैक्ट एम्बिग्युइटी" की पहचान करता है, जहाँ निर्दिष्ट व्याख्यात्मक सेटिंग की कमी गलत व्याख्या की ओर ले जाती है।
द एट्रिब्यूशन कॉन्ट्रैक्ट फ्रेमवर्क: यह किसी भी दावे के लिए लक्ष्य, एलिजिबल फीचर्स, जनरेटिव प्रोसेस, कंडीशनिंग रिजीम और एट्रिब्यूटेड स्कोर को स्पष्ट रूप से परिभाषित करने के लिए $(S, C, O, P, E)$ टुपल का प्रस्ताव करता है।
द सेल्फ-एट्रिब्यूशन फैलेसी (The Self-Attribution Fallacy): यह एक विशिष्ट व्याख्यात्मक त्रुटि को परिभाषित करता है जहाँ जनरेटेड-प्रीफिक्स टोकन्स को एट्रिब्यूट करना (जो कि लोकल नेक्स्ट-टोकन कॉन्ट्रैक्ट के तहत वैध है) गलत तरीके से प्रॉम्प्ट-लेवल प्रश्न का उत्तर देने के रूप में व्याख्या किया जाता है (जैसे, "क्या सोर्स डॉक्यूमेंट ने इस हैलुसिनेशन को जन्म दिया?")। पेपर स्पष्ट करता है कि बाद वाले का उत्तर देने के लिए एक प्रॉम्प्ट-कंडीशन्ड कॉन्ट्रैक्ट की आवश्यकता होती है जहाँ प्रीफिक्स को फिक्स्ड रखा जाता है।
मेथड-कॉन्ट्रैक्ट इवैल्यूएशन: यह तर्क देता है कि जनरेटिव एलएम में फीचर-एट्रिब्यूशन विधियों का मूल्यांकन संदर्भ-मुक्त एल्गोरिदम के बजाय मेथड-कॉन्ट्रैक्ट पेयर्स के रूप में किया जाना चाहिए। एक विधि को अकेले "अच्छा" या "बुरा" नहीं माना जा सकता; इसकी वैधता इस बात पर निर्भर करती है कि यह परीक्षण किए जा रहे विशिष्ट कॉन्ट्रैक्ट के साथ कितनी संरेखित है।

परिणाम और विश्लेषण (Results and Analysis)
पेपर नए एम्पिरिकल बेंचमार्क्स या नवीन एल्गोरिदम प्रस्तुत नहीं करता है, बल्कि एट्रिब्यूशन कॉन्ट्रैक्ट के लेंस के माध्यम से मौजूदा साहित्य का सैद्धांतिक विश्लेषण और पुनर्मूल्यांकन प्रदान करता है।

साहित्य का समाधान (Reconciliation of Literature): लेखक दिखाते हैं कि जिन विधियों को अक्सर प्रतिस्पर्धी माना जाता है (जैसे, ContextCite बनाम Inseq), वे वास्तव में अलग-अलग कॉन्ट्रैक्ट्स द्वारा परिभाषित अलग-अलग प्रश्नों के उत्तर दे रहे हैं। ContextCite एक प्रॉम्प्ट-टू-आउटपुट कॉन्ट्रक्ट के तहत कार्य करता है, जबकि Inseq आमतौर पर एक लोकल नेक्स्ट-टोकन कॉन्ट्रक्ट के तहत कार्य करता है।
मूल्यांकन के निहितार्थ: पेपर विवरण देता है कि कॉन्ट्रक्ट के आधार पर मूल्यांकन मेट्रिक्स कैसे बदलने चाहिए। उदाहरण के लिए, "स्पैन-लेवल प्रॉम्प्ट एट्रिब्यूशन" का मूल्यांकन करने के लिए, मूल फिक्स्ड जनरेशन के लॉग-प्रोबेबिलिटी में परिवर्तन को मापने के लिए प्रॉम्प्ट को पर्टर्ब (perturb) करना आवश्यक है, न कि एक नया सीक्वेंस रीजेनरेट करना। एक नया सीक्वेंस रीजेनरेट करना एक अलग कॉन्ट्रैक्ट (जैसे, प्रॉम्प्ट-टू-आउटपुट) का परीक्षण करेगा।
डिफ्यूजन विशिष्टताएं: विश्लेषण इस बात पर प्रकाश डालता है कि डिफ्यूजन मॉडल्स को ऐसे कॉन्ट्रैक्ट्स की आवश्यकता होती है जो इंटरमीडिएट स्टेट्स और डिनोइजिंग स्टेज को ध्यान में रखते हैं, जिनका ऑटोरेग्रेसिव मॉडल्स में कोई सीधा एनालॉग नहीं है।

महत्ता और दावे (Significance and Claims)
पेपर का दावा है कि जनरेटिव मॉडलिंग में फीचर एट्रिब्यूशन में कठोरता लाने के लिए एट्रिब्यूशन कॉन्ट्रैक्ट आवश्यक है। व्याख्यात्मक सेटिंग को स्पष्ट करके, यह फ्रेमवर्क:

स्पष्ट करता है कि क्यों एक ही एट्रिब्यूशन विधि इंस्टेंशिएशन के आधार पर अलग-अलग मैप बना सकती है।
"सेल्फ-एट्रिब्यूशन फैलेसी" को रोकता है, यह सुनिश्चित करता है कि अभ्यासकर्ता प्रॉम्प्ट को जनरेशन का कारण मानने की गलती न करें जब एट्रिब्यूशन वास्तव में मॉडल के अपने पूर्ववर्ती टोकन्स द्वारा संचालित था।
यह स्थापित करता है कि जनरेटिव मॉडल्स के लिए कोई एक एकल "अच्छा" एट्रिब्यूशन मैप नहीं है; मूल्यांकन कॉन्ट्रैक्ट-विशिष्ट होना चाहिए।

लेखक इस कार्य को मौजूदा एट्रिब्यूशन एल्गोरिदम के प्रतिस्थापन के रूप में नहीं, बल्कि एक आवश्यक स्पेसिफिकेशन लेयर के रूप में प्रस्तुत करते हैं ताकि इन विधियों के दावों को तुलनीय और व्याख्या योग्य बनाया जा सके। इसकी महत्ता चर्चा को एल्गोरिदमों पर बहस करने से हटाकर उन सटीक व्याख्यात्मक प्रश्नों को परिभाषित करने की ओर ले जाने में है जिनका उत्तर देने के लिए वे एल्गोरिदम बनाए गए हैं।

समस्या: "किसने क्या किया?" का भ्रम

समाधान: "एट्रिब्यूशन कॉन्ट्रैक्ट" (Attribution Contract)

यह क्यों मायने रखता है: "जादुई चश्मे" की उपमा

निष्कर्ष (Takeaway)

इसी तरह के और पेपर