Attributing Response to Context: A Jensen-Shannon Divergence Driven Mechanistic Study of Context Attribution in Retrieval-Augmented Generation
यह शोध पत्र ARC-JSD पेश करता है, जो एक गणनात्मक रूप से कुशल विधि है जो फाइन-ट्यूनिंग की आवश्यकता के बिना RAG सिस्टम में विशिष्ट संदर्भ खंडों (context segments) के प्रति जनरेट की गई प्रतिक्रियाओं को सटीक रूप से एट्रिब्यूट करने के लिए जेन्सन-शैनन डायवर्जेंस (Jensen-Shannon Divergence) का उपयोग करता है, और साथ ही इस एट्रिब्यूशन के लिए जिम्मेदार विशिष्ट अटेंशन हेड्स (attention heads) और MLP परतों में यांत्रिक अंतर्दृष्टि भी प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जासूस हैं जो यह पता लगाने की कोशिश कर रहे हैं कि भीड़ भरे कमरे में किस गवाह ने वह एक महत्वपूर्ण सबूत दिया जिसने अपराध को सुलझा दिया।
आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में, विशेष रूप से रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) में, यह एक बहुत बड़ी समस्या है। RAG एक ऐसी तकनीक है जहाँ AI (जैसे ChatGPT) केवल अपनी याददाश्त पर निर्भर नहीं रहता; यह पहले दस्तावेजों के पुस्तकालय में जानकारी "ढूंढता" है और फिर उत्तर लिखता है।
समस्या: "मेसी लाइब्रेरी" (अव्यवस्थित पुस्तकालय) प्रभाव
जब AI आपको कोई उत्तर देता है, तो वह अक्सर एक साथ दर्जनों अलग-अलग वाक्यों को देख रहा होता है। यदि AI कहता है, "फ्रांस की राजधानी पेरिस है," और वह एक विशाल पाठ्यपुस्तक देख रहा था, तो हमें कैसे पता चलेगा कि वास्तव में किस विशिष्ट वाक्य ने उसे यह सिखाया?
वर्तमान तरीके इस "स्मोकिंग गन" (निर्णायक सबूत) वाक्य को खोजने के लिए या तो:
- बहुत धीमे हैं: इनके लिए AI को एक बार में एक शब्द बदलकर, पूरे उत्तर पर सैकड़ों बार "पुनर्विचार" करने की आवश्यकता होती है।
- बहुत महंगे हैं: इनके लिए मनुष्यों को वहां बैठकर मैन्युअल रूप से हर वाक्य को लेबल करने की आवश्यकता होती है।
समाधान: ARC-JSD (द "इन्फॉर्मेशन इको" मेथड)
शोधकर्ताओं ने एक नई विधि बनाई जिसे ARC-JSD कहा जाता है। इसे समझने के लिए, आइए हम दो उपमाओं (analogies) का उपयोग करें।
1. "मिसिंग इंग्रीडिएंट" टेस्ट (मुख्य तर्क)
कल्पना कीजिए कि आप एक जटिल सूप का स्वाद चख रहे हैं। आप जानना चाहते हैं कि क्या लहसुन ही वह कारण है जिससे इसका स्वाद इतना लाजवाब है।
- पुराना तरीका: आपको लहसुन के साथ 100 अलग-अलग बैच बनाने होंगे, जिनमें से प्रत्येक में लहसुन की मात्रा थोड़ी अलग होगी, और उन सभी की तुलना करनी होगी। (यह वर्तमान AI विधियों के माध्यम से किया जाता है—यह थका देने वाला है!)
- ARC-JSD का तरीका: आप सूप का एक चम्मच लेते हैं, फिर बिना लहसुन वाला सूप का एक चम्मच लेते हैं। आप दोनों के "फ्लेवर प्रोफाइल" (संभावित वितरण/probability distribution) की तुलना करते हैं। यदि स्वाद नाटकीय रूप रूप से बदल जाता है, तो आपने अपना घटक (ingredient) ढूंढ लिया है। यदि स्वाद लगभग वैसा ही रहता है, तो लहसुन महत्वपूर्ण नहीं था।
2. "जेन्सन-शैनन डाइवर्जेंस" (मापने का फीता)
आप उस "स्वाद के परिवर्तन" को गणितीय रूप से कैसे मापते हैं? वे जेन्सन-शैनन डाइवर्जेंस (JSD) नामक चीज़ का उपयोग करते हैं।
JSD को एक अत्यधिक संवेदनशील म्यूजिकल ट्यूनर के रूप में सोचें। यदि आप एक कॉर्ड (पूरा संदर्भ) बजाते हैं और फिर वही कॉर्ड बजाते हैं लेकिन एक नोट (वह वाक्य जिसे हम टेस्ट कर रहे हैं) हटा देते हैं, तो JSD मापता है कि संगीत की "हारमनी" (तालमेल) कितनी बदल जाती है।
- यदि हारमनी एकदम सही रहती है, तो वह नोट गाने का हिस्सा नहीं था।
- यदि हारमनी अचानक "ऑफ" या पूरी तरह से अलग लगने लगती है, तो वह नोट आवश्यक था।
यह एक बड़ी बात क्यों है?
1. यह तेज़ और कुशल है (स्पीड डेमन)
क्योंकि वे AI को पुन: प्रशिक्षित नहीं कर रहे हैं या सैकड़ों बार "री-टेस्ट" नहीं कर रहे हैं, यह विधि पिछले तरीकों की तुलना में तीन गुना तेज़ है। यह 100 बर्तन बनाने के बजाय एक त्वरित सूँघने (sniff) द्वारा गायब घटक को खोजने जैसा है।
2. यह हुड के नीचे झांकता है (एक्स-रे विजन)
शोधकर्ताओं ने न केवल वाक्यों को खोजा; उन्होंने इस विधि का उपयोग AI के "दिमाग" के अंदर देखने के लिए किया। उन्होंने पाया कि कुछ विशेष "गियर्स" (जिन्हें अटेंशन हेड्स और MLP लेयर्स कहा जाता है) विशेष रूप से इस रिट्रीव की गई जानकारी को संभालने के लिए जिम्मेदार हैं। यह ऐसा है जैसे यह पता लगाना कि एक कार में एक विशिष्ट गियर है जो केवल तब लगता है जब आप GPS का उपयोग कर रहे होते हैं।
3. यह "हैलुसिनेशन" (भ्रम) को रोकता है (झूठ पकड़ने वाला यंत्र)
चूंकि अब हम सटीक रूप से पहचान सकते हैं कि AI किस वाक्य का उपयोग कर रहा है, हम AI को "गेट" (नियंत्रित) कर सकते हैं। यदि AI कुछ ऐसा कहने की कोशिश करता है जिसका दिए गए टेक्स्ट से कोई मजबूत "इको" (गूँज) नहीं है, तो हम उसे पकड़ सकते हैं। यह AI को मनगढ़ंत बातें (हैलुसिनेट) करने से रोकने में मदद करता है।
संक्षेप में
यह पेपर एक तेज़, सस्ता और अधिक सटीक तरीका प्रदान करता है जिससे यह साबित किया जा सके कि AI वास्तव में उन तथ्यों के आधार पर सच बोल रहा है जो उसे दिए गए थे, न कि केवल एक आकर्षक कहानी बना रहा है। यह AI को एक "ब्लैक बॉक्स" से बदलकर एक पारदर्शी शोधकर्ता बना देता है जो अपनी उंगली उठाकर कह सकता है, "मुझे यह पता है क्योंकि यह रहा यह वाक्य।"
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।