Tool-Schema Compression Enables Agentic RAG Under Constrained Context Budgets
यह शोध पत्र यह प्रदर्शित करता है कि टूल-स्कीमा संपीड़न (tool-schema compression) एजेंटिक RAG सिस्टम के लिए एक महत्वपूर्ण बुनियादी ढांचा है, जो टूल परिभाषाओं को कॉन्टेक्स्ट विंडो से बाहर होने से रोककर और अनकंप्रेस्ड स्कीमा की तुलना में सटीक-मैच स्कोर में महत्वपूर्ण सुधार करके, सीमित कॉन्टेक्स्ट बजट के तहत कार्यात्मक प्रदर्शन को सक्षम बनाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जटिल समस्या को हल करने के लिए एक सुपर-स्मार्ट असिस्टेंट (एक AI) को काम पर रख रहे हैं। इस काम को करने के लिए, आप असिस्टेंट को दो चीजें देते हैं:
- एक विशाल निर्देश पुस्तिका (जिसे "टूल स्कीमा" कहा जाता है) जिसमें सैकड़ों टूल्स की सूची है जिन्हें असिस्टेंट इस्तेमाल कर सकता है, जैसे "डेटाबेस खोजें," "बजट की गणना करें," या "दस्तावेज़ ढूंढें।"
- संदर्भ पत्रों (जिसे "रिट्रीवल चंक्स" कहा जाता है) का एक ढेर जिसमें प्रश्न का उत्तर देने के लिए आवश्यक विशिष्ट तथ्य मौजूद हैं।
समस्या यह है कि असिस्टेंट के पास एक सीमित डेस्क स्पेस (जिसे "कॉन्टेक्स्ट विंडो" कहा जाता है) है। वह एक बार में कागज की कितनी मात्रा रख सकता है, इसकी एक सीमा है।
समस्या: डेस्क बहुत छोटी है
इस शोध पत्र में, शोधकर्ता ने एक महत्वपूर्ण बाधा (bottleneck) पाई। जब असिस्टेंट को एक मानक, विस्तृत निर्देश पुस्तिका (जिसे "JSON Schema" प्रारूप में लिखा गया है) दी जाती है, तो वह मैनुअल खुद इतना अधिक डेस्क स्पेस घेर लेता है कि संदर्भ पत्रों के लिए कोई जगह नहीं बचती।
- उपमा (Analogy): कल्पना कीजिए कि आप एक 100 पन्नों की निर्देश पुस्तिका और एक 50 पन्नों की रिसर्च रिपोर्ट को केवल 80 पन्नों के डेस्क पर रखने की कोशिश कर रहे हैं। यदि आप पहले मैनुअल रखते हैं, तो रिसर्च रिपोर्ट के लिए कोई जगह नहीं बचेगी। असिस्टेंट अंततः केवल मैनुअल को ही देखता रह जाता है, क्योंकि वह उन तथ्यों को देखने में असमर्थ होता है जिनकी उसे समस्या हल करने के लिए आवश्यकता है।
- परिणाम: जब डेस्क छोटी होती है (8,000 टोकन), तो असिस्टेंट लगभग पूरी तरह से विफल हो जाता है। इसका स्कोर लगभग शून्य होता है क्योंकि वह साक्ष्य देखने में ही असमर्थ है।
समाधान: मैनुअल को कंप्रेस करना
शोधकर्ता ने TSCG (टूल-स्कीमा कंप्रेशन) नामक एक नई विधि का परीक्षण किया। इसे ऐसे समझें कि आप उस 100 पन्नों की निर्देश पुस्तिका को एक अत्यधिक कुशल, संक्षिप्त प्रारूप में फिर से लिख रहे हैं जो सभी महत्वपूर्ण नियमों को बनाए रखता है लेकिन अनावश्यक बातों को हटा देता है।
- उपमा: एक भारी, मोटे मैनुअल के बजाय, अब आपके पास एक पतला, पॉकेट-साइज गाइड है। यह आधे स्थान में सिमट जाता है।
- परिणाम: अचानक, डेस्क पर जगह बन जाती है! आप कंप्रेस्ड मैनुअल और संदर्भ पत्र दोनों को फिट कर सकते हैं। असिस्टेंट अब तथ्यों को पढ़ सकता है और समस्या को हल कर सकता है।
मुख्य निष्कर्ष (The "Binary Enablement")
यह शोध पत्र इसे एक "बाइनरी इनेबलमेंट" प्रभाव कहता है। यह कोई मामूली सुधार नहीं है; यह एक ऑन/ऑफ स्विच की तरह है।
- कंप्रेशन के बिना: सिस्टम टूटा हुआ है। असिस्टेंट तथ्यों के प्रति अंधा है। (स्कोर: ~2.6%)
- कंप्रेशन के साथ: सिस्टम काम करता है। असिस्टेंट तथ्यों को देख सकता है और सही उत्तर दे सकता है। (स्कोर बढ़कर ~23% या उससे अधिक हो जाता है)।
यह एक ऐसी कार की तरह है जिसमें पेट्रोल ही नहीं है (वह बिल्कुल भी नहीं चलेगी) और एक ऐसी कार की तरह जिसमें बस स्टोर तक जाने के लिए पर्याप्त पेट्रोल है। आपको फेरारी इंजन की जरूरत नहीं है; आपको बस कार को चलाने के लिए पर्याप्त ईंधन की आवश्यकता है।
जब डेस्क बहुत बड़ी हो तो क्या होता है?
शोधकर्ता ने एक विशाल डेस्क (32,000 टोकन) पर भी इसका परीक्षण किया जहाँ बिना मैनुअल को कंप्रेस किए भी मैनुअल और पत्रों दोनों के लिए पर्याप्त जगह थी।
- निष्कर्ष: विशाल डेस्क पर, मैनुअल को कंप्रेस करने से स्कोर पर कोई खास फर्क नहीं पड़ा। असिस्टेंट बड़े मैनुअल के साथ भी उतना ही अच्छा प्रदर्शन कर रहा था जितना छोटे मैनुअल के साथ।
- सबक: कंप्रेशन का उद्देश्य AI को "स्मार्ट" बनाना नहीं है। यह पूरी तरह से जगह बनाने के बारे में है। यदि आपके पास पहले से ही पर्याप्त जगह है, तो आपको कंप्रेशन की आवश्यकता नहीं है। लेकिन यदि आपकी जगह कम है, तो कंप्रेशन ही एकमात्र तरीका है जिससे सिस्टम काम कर सकता है।
"बहुत अधिक जानकारी" का जाल
दिलचस्प रूप से, शोध पत्र में पाया गया कि जब डेस्क मध्यम आकार की होती है, तो असिस्टेंट को बहुत अधिक संदर्भ पत्र देने से कभी-कभी छोटे, कम शक्तिशाली AI मॉडल भ्रमित हो सकते हैं।
- उपमा: यदि आप एक छात्र को एक स्पष्ट टेक्स्टबुक पेज देते हैं, तो वे उत्तर पा सकते हैं। यदि आप उन्हें उसी पेज के साथ 20 अन्य अप्रासंगिक पेज भी दे देते हैं, तो वे अभिभूत हो सकते हैं और मुख्य बिंदु से भटक सकते हैं।
- निष्कर्ष: मैनुअल को कंप्रेस करने से कभी-कभी अधिक संदर्भ पत्रों के लिए जगह बन जाती है। छोटे AI मॉडल्स के लिए, बहुत अधिक अतिरिक्त कागजात होने से उनके प्रदर्शन में थोड़ी गिरावट आई क्योंकि वे विचलित हो गए थे।
भविष्य: स्केल अप करना
अंत में, शोधकर्ता ने परीक्षण किया कि यदि आपके पास सैकड़ों टूल्स (जैसे 800 अलग-अलग टूल्स) हों तो क्या होगा।
- निष्कर्ष: मानक मैनुअल्स के साथ, डेस्क लगभग 494 टूल्स पर ओवरफ्लो (ब्रेक) हो जाती है। कंप्रेस्ड मैनुअल्स के साथ, सिस्टम 800 टूल्स से आगे भी सुचारू रूप से काम करता रहता है।
- टेकअवे: जैसे-जैसे कंपनियां अपने AI असिस्टेंट को अधिक से अधिक टूल्स देने की कोशिश करेंगी, वे अंततः एक ऐसी दीवार से टकराएंगी जहाँ निर्देश उनकी मेमोरी का सारा हिस्सा ले लेंगे। इन निर्देशों को कंप्रेस करना ही सिस्टम को चलते रहने का एकमात्र तरीका है।
सारांश
यह शोध पत्र सिद्ध करता है कि सीमित मेमोरी वाले AI असिस्टेंट के लिए, टूल निर्देशों को कंप्रेस करना केवल एक अच्छा "ऑप्टिमाइज़ेशन" नहीं है; यह एक अनिवार्यता है। इसके बिना, सिस्टम क्रैश हो जाता है क्योंकि तथ्यों के लिए कोई जगह नहीं बचती। इसके साथ, सिस्टम जीवंत हो उठता है। यह एक बंद दरवाजे और एक खुले दरवाजे के बीच का अंतर है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।