💻 computer science

Context Attribution with Multi-Armed Bandit Optimization

यह शोध पत्र रिट्रीवल-ऑगमेंटेड जनरेशन में कॉन्टेक्स्ट एट्रिब्यूशन के लिए एक नवीन ढांचे का प्रस्ताव करता है जो इस समस्या को एक कॉम्बिनेटरियल मल्टी-आर्म्ड बैंडिट कार्य के रूप में स्वरूपित करता है, जिसमें लीनियर थॉमसन सैंपलिंग का उपयोग करके प्रभावशाली कॉन्टेक्स्ट सेगमेंट की कुशलतापूर्वक पहचान की जाती है, जो मौजूदा विधियों की एट्रिब्यूशन गुणवत्ता के बराबर या उससे बेहतर होते हुए मॉडल क्वेरीज़ को 30% तक कम कर देता है।

मूल लेखक: Deng Pan, Keerthiram Murugesan, Ting Hua, Nuno Moniz, Nitesh Chawla

प्रकाशित 2026-04-23

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Deng Pan, Keerthiram Murugesan, Ting Hua, Nuno Moniz, Nitesh Chawla

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रहस्य सुलझाने वाले जासूस हैं। आपके पास हजारों दस्तावेजों से भरी एक विशाल फाइल कैबिनेट (जिसे context कहा जाता है) है और एक बहुत ही बुद्धिमान लेकिन कभी-कभी भ्रमित होने वाला सहायक (जो AI है) है जो उन फाइलों के आधार पर एक रिपोर्ट लिखता है।

आपका काम यह पता लगाना है: फाइल कैबिनेट के कौन से विशिष्ट पन्ने वास्तव में सहायक को रिपोर्ट लिखने में मदद कर रहे थे?

यह Context Attribution की समस्या है। यदि सहायक कोई गलती करता है, तो आपको यह जानना होगा कि क्या यह किसी विशेष खराब पन्ने के कारण था, या उसने खुद से कुछ मनगढ़ंत बातें बनाईं।

पुराना तरीका: "शॉटगन" दृष्टिकोण (The "Shotgun" Approach)

पारंपरिक रूप से, शोधकर्ताओं ने इसे "क्या होगा अगर?" का खेल खेलकर हल करने की कोशिश की:

"क्या होगा अगर मैं पन्ना 1 हटा दूँ? क्या रिपोर्ट बदलती है?"
"क्या होगा अगर मैं पन्ना 2 हटा दूँ? क्या रिपोर्ट बदलती है?"
"क्या होगा अगर मैं पन्ना 3 हटा दूँ?"

एक सही उत्तर पाने के लिए, उन्हें पन्नों के लगभग हर संभावित संयोजन (combination) का परीक्षण करना पड़ता था। यदि आपके पास 100 पन्ने हैं, तो अरबों संयोजन हो सकते हैं। यह घास के ढेर में सुई खोजने जैसा है, जहाँ आपको एक-एक करके घास का हर एक तिनका बाहर निकालना पड़ता है। इसमें बहुत समय लगता है, बहुत पैसा खर्च होता है (क्योंकि AI को रिपोर्ट फिर से लिखने के लिए कहना महंगा होता है), और लंबे दस्तावेजों के लिए यह अक्सर असंभव होता है।

नया तरीका: CAMAB (The "Smart Detective")

यह पेपर एक नई विधि पेश करता है जिसे CAMAB कहा जाता है। पन्नों का रैंडम परीक्षण करने के बजाय, यह समस्या को एक स्लॉट मशीन (या "Multi-Armed Bandit") की तरह देखता है।

यह इस प्रकार काम करता है, एक सरल उदाहरण के साथ:

1. स्लॉट मशीन का उदाहरण

कल्पना कीजिए कि आप एक कैसीनो में 100 स्लॉट मशीनों (प्रत्येक मशीन टेक्स्ट का एक पन्ना दर्शाती है) के साथ हैं। आपके पास खेलने के लिए सीमित संख्या में सिक्के (एक बजट) हैं।

लक्ष्य: उन मशीनों को खोजना जो सबसे अधिक भुगतान करती हैं (वे पन्ने जो AI के उत्तर के लिए सबसे महत्वपूर्ण हैं)।
समस्या: आप हर मशीन को नहीं खेल सकते। आपको स्मार्ट होना होगा।

2. "स्मार्ट डिटेक्टिव" रणनीति (Thompson Sampling)

CAMAB एक चतुर रणनीति का उपयोग करता है जिसे Linear Thompson Sampling कहा जाता है। इसे एक ऐसे जासूस के रूप में सोचें जो काम करते-करते सीखता है:

राउंड 1: जासूस परीक्षण के लिए पन्नों का एक रैंडम समूह चुनता है।
राउंड 2: परिणामों के आधार पर, जासूस सोचता है, "हम्म, पन्ना 5 और 12 वास्तव में मददगार लग रहे थे। चलिए उन्हें फिर से आजमाते हैं, लेकिन शायद पन्ना 3 को भी साथ में मिलाते हैं ताकि देखते हैं कि क्या वह मदद करता है।"
राउंड 3: जासूस उन पन्नों पर समय बर्बाद करना बंद कर देता है जो स्पष्ट रूप से काम के नहीं थे और अपना पूरा ध्यान उन पन्नों पर केंद्रित करता है जो "विजेता" लग रहे हैं।

सब कुछ टेस्ट करने के बजाय, CAMAB बहुत जल्दी सीख जाता है कि कौन से पन्ने महत्वपूर्ण हैं और बेकार वाले पन्नों पर समय बर्बाद करना बंद कर देता है।

यह एक बड़ी बात क्यों है?

यह तेज़ और सस्ता है: क्योंकि यह बेकार पन्नों का परीक्षण जल्दी ही बंद कर देता है, यह समान उत्तर प्राप्त करने के लिए 30% तक कम प्रश्नों (queries) का उपयोग करता है। वास्तविक दुनिया में, AI से सवाल पूछने में पैसा और समय लगता है। 30% बचाना बहुत बड़ी बात है।
यह "ब्लैक बॉक्स" AI के साथ काम करता है: आपको AI के आंतरिक मस्तिष्क (जो अक्सर छिपा हुआ होता है) को देखने की आवश्यकता नहीं है। आपको बस अंतिम उत्तर और उसके शब्दों में AI का आत्मविश्वास देखने की आवश्यकता है।
यह "टीमवर्क" को खोज लेता है: कभी-कभी, दो पन्ने केवल तभी समझ में आते हैं जब उन्हें एक साथ पढ़ा जाए। CAMAB स्मार्ट है और यह नोटिस कर सकता है कि "पन्ना A और पन्ना B एक साथ मिलकर अच्छा काम करते हैं," भले ही वे अकेले महत्वपूर्ण न दिखें।

परिणाम

शोधकर्ताओं ने इसे तीन अलग-अलग प्रकार के कार्यों (ट्रिविया के उत्तर देना, समाचारों का सारांश बनाना और विभिन्न भाषाओं में तथ्य खोजना) पर परखा।

परिणाम: CAMAB ने पुराने, धीमे तरीकों की तरह ही महत्वपूर्ण पन्नों को खोज लिया, लेकिन इसने यह काम बहुत तेज़ी से और कम प्रयासों के साथ किया।
उदाहरण: यदि पुराना तरीका लाइब्रेरी में मौजूद हर किताब को पढ़ने जैसा था ताकि आपको वह एक उद्धरण मिल सके जिसकी आपको आवश्यकता है, तो CAMAB एक ऐसे लाइब्रेरियन की तरह है जो जानता है कि ठीक किस शेल्फ पर जाना है, सही किताब उठाता है, और सेकंडों में उसे आपके हाथ में थमा देता है।

संक्षेप में

CAMAB यह पता लगाने का एक स्मार्ट और कुशल तरीका है कि एक AI वास्तव में क्या पढ़ रहा है। यह AI को अंदाज़ा लगाने में समय बर्बाद करने से रोकता है और सटीक रूप से उन तथ्यों को चिह्नित करके हमें उसके उत्तरों पर भरोसा करने में मदद करता है जिनका उपयोग उसने अपनी कहानी बनाने के लिए किया है। यह अंधेरे में अंदाज़ा लगाने और टॉर्च का उपयोग करने के बीच का अंतर है, जो आपके देखने के साथ-साथ और भी चमकदार होती जाती है।

यहाँ शोध पत्र "Context Attribution with Multi-Armed Bandit Optimization" (CAMAB) का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) में, लार्ज लैंग्वेज मॉडल्स (LLMs) अक्सर प्राप्त बाहरी संदर्भों (external contexts) के आधार पर उत्तर उत्पन्न करते हैं। हालाँकि, यह सुनिश्चित करना कठिन है कि ये उत्तर दिए गए संदर्भों पर वास्तव में आधारित हैं या नहीं, क्योंकि मॉडल अक्सर मतिभ्रम (hallucination) का शिकार होते हैं या बिना आधार वाली जानकारी पर निर्भर हो जाते हैं।

मुख्य चुनौती:

एट्रिब्यूशन (Attribution): यह पहचानना कि प्राप्त संदर्भ के कौन से विशिष्ट खंड (वाक्य या पैराग्राफ) किसी विशिष्ट उत्पन्न टोकन या उत्तर में योगदान दे रहे हैं।
गणना लागत (Computational Cost): मौजूदा पोस्ट-हॉक एट्रिब्यूशन विधियाँ (जैसे SHAP, LIME, ContextCite) परटर्बेशन-आधारित दृष्टिकोणों पर निर्भर करती हैं। उन्हें संदर्भ खंडों को व्यवस्थित रूप से मास्क करने या हटाने और आउटपुट प्रोबेबिलिटी (संभावना) को मापने के लिए LLM को पुनः क्वेरी करने की आवश्यकता होती है।
स्केलेबिलिटी (Scalability): $N$ खंडों वाले लंबे संदर्भों के लिए, संभावित उपसमुच्चयों (subsets) की संख्या घातीय (exponential) ( $2^N$ ) होती है। यूनिफॉर्म या पूर्ण अन्वेषण (exhaustive sampling) गणनात्मक रूप से अत्यधिक महंगा है, विशेष रूप से ब्लैक-बॉक्स मॉडल के लिए जिन्हें API के माध्यम से एक्सेस किया जाता है जहाँ क्वेरी लागत और लेटेंसी अधिक होती है।

2. कार्यप्रणाली: CAMAB फ्रेमवर्क (Methodology: CAMAB Framework)

लेखक CAMAB (Context Attribution with Multi-Armed Bandit) प्रस्तावित करते हैं, जो क्वेरी दक्षता को अनुकूलित करने के लिए संदर्भ एट्रिब्यूशन को एक कॉम्बिनेटोरियल मल्टी-आर्म्ड बैंडिट (CMAB) समस्या के रूप में पुनर्गठित करता है।

A. समस्या का निरूपण (Problem Formulation)

आर्म्स (Arms): प्रत्येक संदर्भ खंड $s_i$ को एक "आर्म" माना जाता है।
एक्शन/सुपर-आर्म्स (Actions/Super-arms): एक एक्शन खंडों के एक उपसमुच्चय (subset) $S \subseteq C$ के चयन का एक समूह है।
रिवॉर्ड (Reward): रिवॉर्ड $V(S)$ को मूल रिस्पॉन्स टोकन्स $R$ के लिए मूल सबसेट $S$ के दिए जाने पर औसत लॉग-प्रोबेबिलिटी के रूप में परिभाषित किया गया है:
$V(S) = \frac{1}{T} \sum_{t=1}^{T} \log P_M(r_t | Q, S, r_{1:t-1})$
यह मापता है कि उपसमुच्चय $S$ मूल उत्तर के निर्माण में कितनी अच्छी तरह सहायता करता है। उच्च लॉग-प्रोबेबिलिटी बेहतर समर्थन का संकेत देती है।

B. लीनियर थॉमसन सैंपलिंग (Linear Thompson Sampling - LinTS)

व्यापक खोज के बिना कुशलतापूर्वक कॉम्बिनेटोरियल स्पेस को नेविगेट करने के लिए, CAMAB लीनियर थॉमसन सैंपलिंग का उपयोग करता है:

लीनियर धारणा (Linear Assumption): रिवॉर्ड को शामिल किए गए खंडों के एक लीनियर फंक्शन के रूप में मॉडल किया गया है:
$V(S) = \mathbf{w}^\top \mathbf{x} + \epsilon$
जहाँ $\mathbf{x}$ खंड समावेश को दर्शाने वाला एक बाइनरी वेक्टर है, और $\mathbf{w}$ प्रत्येक खंड के गुप्त योगदान भार (latent contribution weights) को दर्शाता है।
बायेसियन इन्फरेंस (Bayesian Inference): एल्गोरिदम वेट वेक्टर $\mathbf{w}$ पर एक पोस्टीरियर डिस्ट्रीब्यूशन बनाए रखता है। यह खंडों के बीच सहसंबंधों को ट्रैक करने के लिए एक प्रिसिजन मैट्रिक्स $B_t$ का उपयोग करता है।
अनुकूली अन्वेषण (Adaptive Exploration):
- प्रत्येक राउंड $t$ पर, एल्गोरिदम वर्तमान पोस्टीरियर से एक वेट वेक्टर $\tilde{\mathbf{w}}^{(t)}$ सैंपल करता है।
- यह उन सभी खंडों को शामिल करके एक उपसमुच्चय $S_t$ बनाता है जहाँ $\tilde{w}_j > 0$ है।
- यह रिवॉर्ड देखने के लिए $S_t$ के साथ LLM को क्वेरी करता है और पोस्टीरियर डिस्ट्रीब्यूशन को अपडेट करता है।
निहित इंटरैक्शन मॉडलिंग (Implicit Interaction Modeling): हालांकि मॉडल लीनियरिटी मानकर चलता है, लेकिन प्रिसिजन मैट्रिक्स $B_t$ ऑफ-डायगोनल सहसंबंधों के माध्यम से खंडों के बीच इंटरैक्शन (सिनर्जी) को स्पष्ट रूप से कैप्चर करता है, जिससे मॉडल यह सीख पाता है कि कुछ खंड एक साथ मिलकर बेहतर प्रदर्शन करते हैं।

C. आउटपुट (Output)

एक निश्चित क्वेरी बजट ( $T_{max}$ ) के बाद, पोस्टीरियर मीन वेट्स $\hat{\mathbf{w}}$ अंतिम एट्रिब्यूशन स्कोर के रूप में कार्य करते हैं। सबसे प्रभावशाली संदर्भ की पहचान करने के लिए इन स्कोर्स के आधार पर खंडों को रैंक किया जाता है।

3. मुख्य योगदान (Key Contributions)

नया निरूपण: संदर्भ एट्रिब्यूशन को कॉम्बिनेटोरियल मल्टी-आर्म्ड बैंडिट समस्या के रूप में फ्रेम करने वाला पहला कार्य।
कुशल एल्गोरिदम: CAMAB का परिचय, जो संदर्भ उपसमुच्चयों के स्पेस को अनुकूल रूप से एक्सप्लोर करने के लिए लीनियर थॉमसन सैंपलिंग का उपयोग करता है, जिससे यूनिफॉर्म सैंपलिंग की तुलना में आवश्यक मॉडल क्वेरी की संख्या काफी कम हो जाती है।
ब्लैक-बॉक्स कम्पैटिबिलिटी: यह विधि केवल टोकन-लेवल लॉग-प्रोबेबिलिटी पर निर्भर करती है (जो अधिकांश कमर्शियल API द्वारा उपलब्ध है), जिससे यह आंतरिक मॉडल एक्सेस (ग्रेडिएंट्स/लॉगिट्स) की आवश्यकता के बिना ओपन-सोर्स और प्रोप्रायटरी ब्लैक-बॉक्स मॉडल्स दोनों के लिए लागू करने योग्य बन जाती है।
निहित इंटरैक्शन कैप्चर: यह प्रदर्शित करता है कि LinTS में प्रिसिजन मैट्रिक्स खंडों की निर्भरता और प्रतिस्थापन क्षमता (substitutability) को स्पष्ट रूप से कैप्चर कर सकता है, जो सरल लीनियर धारणाओं की सीमाओं को दूर करता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने LLaMA-3.1-8B और Qwen2.5-7B का उपयोग करके तीन विविध बेंचमार्क (HotpotQA, CNN/DailyMail, TyDi QA) पर CAMAB का मूल्यांकन किया।

क्वेरी दक्षता (Query Efficiency): CAMAB मौजूदा तरीकों की तुलना में मॉडल क्वेरी में 30% तक की कमी लाता है जबकि उनके प्रदर्शन के बराबर या उससे बेहतर प्रदर्शन करता है।
- सूचना-खोज कार्यों (HotpotQA, TyDi QA) में, $s=40$ के बजट पर CAMAB अक्सर $s=60$ पर SHAP से बेहतर प्रदर्शन करता है।
- CAMAB, SHAP या ContextCite की तुलना में बहुत तेज़ी से निकट-इष्टतम (near-optimal) प्रदर्शन की ओर अभिसरित (converge) होता है।
एट्रिब्यूशन की गुणवत्ता (Attribution Quality):
- लॉग-प्रोबेबिलिटी ड्रॉप: शीर्ष-रैंक वाले खंडों को हटाने पर CAMAB लगातार उच्च ड्रॉप दिखाता है, जो इंगित करता है कि यह सही ढंग से महत्वपूर्ण साक्ष्य की पहचान करता है।
- BERTScore: एट्रिब्यूटेड खंडों को हटाने पर CAMAB कम BERTScore (बेहतर सिमेंटिक कंसिस्टेंसी) प्राप्त करता है, जो उच्च निष्ठा (fidelity) की पुष्टि करता है।
- गोल्ड फैक्ट अलाइनमेंट: HotpotQA पर, मानव-एनोटेटेड गोल्ड सपोर्टिंग फैक्ट्स के विरुद्ध तुलना करने पर, CAMAB Precision@1 और F1 स्कोर में SHAP से बेहतर प्रदर्शन करता है।
मजबूती (Robustness): अत्यंत सीमित बजट ( $s=20$ ) के तहत भी विधि प्रभावी रहती है, जहाँ SHAP का प्रदर्शन काफी गिर जाता है।

5. महत्व और प्रभाव (Significance and Impact)

RAG के लिए स्केलेबिलिटी: CAMAB संसाधन-बाधित वातावरणों (जैसे उच्च-लागत API कॉल या रियल-टाइम एप्लिकेशन) में RAG सिस्टम की व्याख्या करने के लिए एक स्केलेबल समाधान प्रदान करता है।
विश्वसनीयता (Trustworthiness): विशिष्ट संदर्भ खंडों की पहचान करके जो एक उत्तर के लिए जिम्मेदार हैं, यह LLMs की व्याख्यात्मकता और विश्वसनीयता को बढ़ाता है, जिससे मतिभ्रम (hallucinations) का पता लगाने में मदद मिलती है।
व्यावहारिकता: पूर्ण लॉगिट एक्सेस या भारी कंप्यूटेशनल संसाधनों की आवश्यकता वाली विधियों के विपरीत, CAMAB आधुनिक LLM डिप्लॉयमेंट की "ब्लैक-बॉक्स" वास्तविकता के लिए डिज़ाइन किया गया है, जिससे यह वाणिज्यिक प्रणालियों के लिए तुरंत लागू करने योग्य बन जाता है।

सीमाएँ: यह विधि एक लीनियर रिवॉर्ड स्ट्रक्चर मानती है (हालांकि इंटरैक्शन को स्पष्ट रूप से कैप्चर किया जाता है) और इसके लिए टोकन-लेवल लॉग-प्रोबेबिलिटी तक पहुंच की आवश्यकता होती है, जो सभी API प्रदाताओं से सार्वभौमिक रूप से उपलब्ध नहीं है। उन परिदृश्यों में जहाँ बजट की कोई बाधा नहीं है, पारंपरिक पूर्ण अन्वेषण (exhaustive) विधियाँ अभी भी थोड़े अधिक तर्कसंगत एट्रिब्यूशन दे सकती हैं।