💻 computer science

Retrieve Only Relevant Tables Whether Few or Many: Adaptive Table Retrieval Method

यह शोध पत्र एक अनुकूली तालिका पुनर्प्राप्ति (adaptive table retrieval) विधि प्रस्तावित करता है जो एडेप्टिव थ्रेशोल्डिंग और स्लाइडिंग-विंडो रीरैंकिंग का उपयोग करके क्वेरी आवश्यकताओं के आधार पर पुनर्प्राप्त तालिकाओं की संख्या को गतिशील रूप से समायोजित करता है, जिससे फिक्स्ड टॉप-k रणनीतियों की सीमाओं को दूर किया जा सके और स्पाइडर (Spider) और बर्ड (BIRD) जैसे टेक्स्ट-टू-एसक्यूएल (text-to-SQL) बेंचमार्क पर प्रदर्शन में सुधार किया जा सके।

मूल लेखक: Taehee Kim, Seungbin Yang, Jihwan Kim, Jaegul Choo

प्रकाशित 2026-05-20

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Taehee Kim, Seungbin Yang, Jihwan Kim, Jaegul Choo

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रहस्य सुलझाने की कोशिश कर रहे एक जासूस हैं। आपके पास फाइलों का एक विशाल पुस्तकालय (एक डेटाबेस) है जिसमें हजारों दस्तावेज़ हैं, और आपके पास एक विशिष्ट प्रश्न है जिसका उत्तर आपको देना है।

पुराना तरीका (Fixed Top-K):
अतीत में, जासूसों के पास एक सख्त नियम था: "चाहे सवाल कुछ भी हो, आपको अपनी जांच शुरू करने के लिए लाइब्रेरी से ठीक 5 फाइलें उठानी ही होंगी।"

समस्या: यदि आपका सवाल सरल है (जैसे, "मेयर कौन है?"), तो 5 फाइलें उठाना बर्बादी है। आप 4 अप्रासंगिक फाइलें उठा सकते हैं जो आपके डेस्क को फैला देंगी और आपको भ्रमित कर देंगी।
समस्या: यदि आपका सवाल जटिल है (जैसे, "पांच वर्षों में तीन कंपनियों के बीच धन के प्रवाह का पता लगाएं"), तो केवल 5 फाइलें पर्याप्त नहीं हैं। आप उस महत्वपूर्ण फाइल को मिस कर सकते हैं जिसमें केस की कुंजी छिपी है, और आपकी जांच विफल हो जाती है।

यह बिल्कुल वही होता है जो वर्तमान कंप्यूटर सिस्टम के साथ होता है जो डेटाबेस के बारे में सवालों के जवाब देने की कोशिश करते हैं (जैसे "स्पिलबर्ग की फिल्में दिखाएं" को डेटाबेस क्वेरी में बदलना)। वे सिस्टम को एक निश्चित संख्या में टेबल (जैसे 5 या 10) चुनने के लिए मजबूर करते हैं, चाहे उन्हें 1 टेबल की आवश्यकता हो या 100 की।

नया तरीका (ATR - Adaptive Table Retrieval):
इस पेपर के लेखक, ताही किम (Taehee Kim) और उनके सहयोगियों ने एक स्मार्ट जासूस प्रणाली बनाई है जिसे ATR (Adaptive Table Retrieval) कहा जाता है।

एक कठोर नियम के बजाय, ATR एक अनुभवी जासूस की तरह काम करता है जो पहले सवाल को देखता है और पूछता है: "इस सवाल को हल करने के लिए मुझे वास्तव में कितनी फाइलों की आवश्यकता है?"

ATR कैसे काम करता है, इसे सरल उपमाओं का उपयोग करके यहाँ समझाया गया है:

1. "जादुई सीमा" (Adaptive Thresholding)

कल्पना कीजिए कि ATR के पास फर्श पर खींची गई एक विशेष "जादुई रेखा" है।

जब जासूस एक फाइल को देखता है, तो वह सवाल के आधार पर उसे एक स्कोर देता है कि वह कितना प्रासंगिक है।
यदि किसी फाइल का स्कोर जादुई रेखा से ऊपर है, तो उसे चुन लिया जाता है।
यदि किसी फाइल का स्कोर रेखा से नीचे है, तो उसे छोड़ दिया जाता है।
जादू: इस जादुई रेखा की ऊंचाई सवाल के आधार पर बदलती है। एक सरल सवाल के लिए, रेखा ऊँची होती है, इसलिए केवल सबसे स्पष्ट फाइलें चुनी जाती हैं। एक जटिल सवाल के लिए, रेखा नीचे आती है, जिससे अधिक आवश्यक फाइलें एकत्र की जा सकती हैं। इसका मतलब है कि ATR कभी भी बहुत कम चीजें नहीं उठाता (सुराग छूट जाना) और न ही बहुत अधिक (शोर पैदा करना)।

2. "स्लाइडिंग विंडो" (Efficiency)

कल्पना कीजिए कि लाइब्रेरी इतनी विशाल है कि जासूस एक साथ हर एक फाइल को नहीं देख सकता वरना उसे सिरदर्द हो जाएगा (कंप्यूटर की मेमोरी खत्म हो जाती है)।

ATR एक स्लाइडिंग विंडो का उपयोग करता है। यह फाइलों के एक छोटे समूह (विंडो) को देखता है, सबसे अच्छी फाइलों को चुनता है, और फिर अगली विंडो की ओर खिसक जाता है।
यह एक किताब को एक बार में पूरा पढ़ने के बजाय, कुछ पन्ने देखने, सबसे अच्छे हिस्सों को याद रखने और आगे बढ़ने जैसा है। यह प्रक्रिया को तेज़ और कुशल बनाता है, भले ही डेटाबेस बहुत बड़ा क्यों न हो।

3. "टीम हडल" (Semantic Grouping)

कभी-कभी, फाइलें अकेले बेकार होती हैं लेकिन जुड़ने पर वे सोना बन जाती हैं।

ATR को यह समझने के लिए प्रशिक्षित किया गया है कि कुछ फाइलें एक साथ आती हैं (जैसे, एक "ग्राहक" फाइल और एक "ऑर्डर" फाइल)। यह सीखता है कि इन "जोड़ने योग्य" (joinable) फाइलों को अपने दिमाग में करीब लाता है, यह सुनिश्चित करते हुए कि यदि वह एक को चुनता है, तो यदि आवश्यक हो तो वह दूसरे को भी चुनेगा।

परिणाम: उन्होंने क्या पाया?

टीम ने इस नए जासूस (ATR) का तीन प्रमुख "रहस्य मामलों" (Spider, BIRD, और Spider 2.0 नामक डेटासेट) पर पुराने कठोर तरीकों के विरुद्ध परीक्षण किया।

बेहतर सटीकता: क्योंकि ATR ठीक उतनी ही फाइलें उठाता है जितनी जरूरत है, कंप्यूटर का अंतिम उत्तर (SQL क्वेरी) बहुत सटीक था।
कम शोर: ATR ने अप्रासंगिक फाइलें पढ़ने में समय बर्बाद नहीं किया। पुराने तरीके में, अप्रासंगिक फाइलें अक्सर कंप्यूटर को भ्रमित कर देती थीं, जिससे गलत उत्तर मिलते थे। ATR ने इस "शोर" से परहेज किया।
गति और दक्षता: अनावश्यक फाइलें न उठाकर, ATR ने कम कंप्यूटर मेमोरी का उपयोग किया और अपना काम तेजी से पूरा किया।
जटिलता को संभालना: सबसे कठिन टेस्ट (Spider 2.0) में, जहाँ कुछ सवालों के लिए 366 अलग-अलग टेबल की आवश्यकता थी, पुराने तरीके बुरी तरह विफल रहे क्योंकि वे एक निश्चित, छोटी संख्या में फंस गए थे। ATR ने जरूरत पड़ने पर सफलतापूर्वक सभी 366 फाइलों को पकड़ा, और जब 1 की जरूरत थी तो केवल 1 ही ली।

संक्षेप में:
पेपर का दावा है कि कंप्यूटर को यह तय करने देने से कि उसे कितनी टेबल्स को देखना है—एक निश्चित संख्या थोपने के बजाय—हमें बेहतर उत्तर, तेज़ परिणाम और कम गलतियाँ मिलती हैं। यह एक रोबोट द्वारा अंधे होकर शेल्फ से 5 किताबें उठाने और एक स्मार्ट लाइब्रेरियन के बीच का अंतर है जो आपके सवाल का जवाब देने के लिए ठीक उतनी ही किताबें उठाता है जितनी आवश्यक हैं।

तकनीकी सारांश: एडेप्टिव टेबल रिट्रीवल (ATR)

समस्या की परिभाषा

टेक्स्ट-टू-एसक्यूएल (text-to-SQL) जैसे कार्यों के लिए रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) में, मौजूदा टेबल रिट्रीवल विधियाँ एक फिक्स्ड टॉप- $k$ रणनीति पर निर्भर करती हैं। ये दृष्टिकोण प्राकृतिक भाषा क्वेरी के साथ उच्चतम समानता स्कोर वाले पूर्व-निर्धारित संख्या में टेबल्स ( $k$ ) का चयन करते हैं। हालाँकि, किसी विशिष्ट क्वेरी का उत्तर देने के लिए आवश्यक टेबल्स की संख्या स्वाभाविक रूप से परिवर्तनशील है और पहले से ज्ञात नहीं होती है। जटिल, एंटरप्राइज-लेवल डेटाबेस (जैसे, Spider 2.0) में, ग्राउंड-ट्रुथ टेबल की आवश्यकता प्रति क्वेरी 1 से लेकर 300 से अधिक टेबल्स तक हो सकती है।

एक फिक्स्ड $k$ रणनीति एक मौलिक ट्रेड-ऑफ (trade-off) पैदा करती है:

छोटा $k$ : आवश्यक टेबल्स के छूट जाने का जोखिम (कम रिकॉल), जिससे सटीक तर्क के लिए अपर्याप्त साक्ष्य मिलते हैं।
बड़ा $k$ : अत्यधिक अप्रासंगिक टेबल्स (शोर/नॉइज़) को रिट्रीव करना, जो इन्फरेंस लेटेंसी (inference latency) को बढ़ाता है, टोकन उपयोग को बढ़ाता है, और जेनरेटर को भ्रमित करके डाउनस्ट्रीम प्रदर्शन को कम करता है।

वर्तमान विधियाँ इस परिवर्तनशीलता के अनुकूल होने में विफल रहती हैं, और अक्सर या तो बहुत छोटे सेट या बहुत बड़े शोर वाले पूल रिट्रीव करती हैं।

कार्यप्रणाली: एडेप्टिव टेबल रिट्रीवल (ATR)

लेखक एडेप्टिव टेबल रिट्रीवल (ATR) का प्रस्ताव करते हैं, जो एक स्थिर कटऑफ पर निर्भर रहने के बजाय प्रत्येक क्वेरी की विशिष्ट आवश्यकताओं के आधार पर रिट्रीव किए जाने वाले टेबल्स की संख्या को गतिशील रूप से निर्धारित करता है।

मुख्य तंत्र

एडेप्टिव थ्रेशोल्डिंग (Adaptive Thresholding):
- ATR क्वेरी और कैंडिडेट टेबल्स के साथ इनपुट सीक्वेंस में एक सीखनीय (learnable) थ्रेशोल्ड टोकन ( $T_{th}$ ) पेश करता है।
- इन्फरेंस के दौरान, मॉडल टेबल टोकन्स ( $T_i$ ) और थ्रेशोल्ड टोकन दोनों के लिए लॉजिट्स (logits) की गणना करता है।
- एक टेबल को तब चुना जाता है यदि उसका लॉजिट स्कोर थ्रेशोल्ड टोकन के लॉजिट से अधिक हो। यह सुनिश्चित करता है कि रिट्रीव किए गए टेबल्स की संख्या ( $k_q$ ) प्रति क्वेरी भिन्न हो सके।
- ट्रेनिंग ऑब्जेक्टिव ( $L_{AT}$ ): मॉडल को प्रासंगिक टेबल्स के लॉजिट्स को $T_{th}$ से ऊपर और अप्रासंगिक टेबल्स को उससे नीचे धकेलने के लिए बाइनरी क्रॉस-एन्ट्रॉपी लॉस फॉर्मूलेशन का उपयोग करके प्रशिक्षित किया जाता है।
प्रासंगिकता अंशांकन (Relevance Calibration - $L_{RC}$ ):
- प्रासंगिक और अप्रासंगिक टेबल्स के बीच अंतर को स्पष्ट करने के लिए, एक बाइनरी क्रॉस-एन्ट्रॉपी लॉस दोनों समूहों के बीच लॉजिट गैप को अधिकतम करता है, जिससे यह सुनिश्चित होता है कि थ्रेशोल्ड एक मजबूत निर्णय सीमा (decision boundary) के रूप में कार्य करे।
सिमेंटिक ग्रुपिंग (Semantic Grouping - $L_{SG}$ ):
- यह पहचानते हुए कि मल्टी-टेबल क्वेरीज़ में अक्सर टेबल्स को जॉइन करने की आवश्यकता होती है, ATR एक कंट्रास्टिव लर्निंग ऑब्जेक्टिव का उपयोग करता है। यह जॉइन करने योग्य टेबल्स (वे जो जॉइन कीज़ साझा करते हैं) के एम्बेडिंग्स को एक-दूसरे के करीब खींचता है और नॉन-जॉइन करने योग्य टेबल्स को दूर धकेलता है। यह जटिल तर्क के लिए महत्वपूर्ण इंटर-टेबल संबंधों को कैप्चर करता है।
स्लाइडिंग-विंडो रेंकिंग (Sliding-Window Reranking):
- ट्रांसफार्मर एनकोडर की क्वाड्रेटिक कॉम्प्लेक्सिटी और लेंथ कंस्ट्रेंट्स को पार किए बिना बड़े टेबल कॉर्पोरा को कुशलतापूर्वक संभालने के लिए, ATR एक स्लाइडिंग-विंडो रेंकिंग एल्गोरिदम का उपयोग करता है।
- सभी टेबल्स को एक साथ स्कोर करने के बजाय, यह विधि ओवरलैपिंग विंडोज़ में टेबल्स को प्रोसेस करती है। यह प्रत्येक विंडो से टॉप- $R$ टेबल्स को रिटेन करती है और उन्हें अगले बैच के साथ मर्ज करती है, जब तक कि सभी कैंडिडेट प्रोसेस न हो जाएं, तब तक रैंकिंग को पुनरावर्ती रूप से परिष्कृत करती है। यह पूर्ण कैंडिडेट लिस्ट को रेंक करने की कम्प्यूटेशनल लागत के बिना स्केलेबिलिटी सुनिश्चित करता है।

मुख्य योगदान

फिक्स्ड- $k$ सीमाओं की पहचान: पेपर प्रदर्शित करता है कि फिक्स्ड- $k$ रणनीतियाँ टेक्स्ट-टू-एसक्यूएल कार्यों के लिए उपयुक्त नहीं हैं जहाँ ग्राउंड-ट्रुथ टेबल काउंट काफी भिन्न होता है, जिससे या तो साक्ष्य की कमी होती है या शोर का समावेश होता है।
एडेप्टिव फ्रेमवर्क: ATR का प्रस्ताव, जो क्वेरी-डिपेंडेंट थ्रेशोल्डिंग, प्रासंगिकता अंशांकन और सिमेंटिक ग्रुपिंग लॉस का लाभ उठाकर सटीक रूप से आवश्यक टेबल्स को रिट्रीव करता है, बिना बार-बार LLM इंटरैक्शन के।
स्केलेबल इन्फरेंस: स्लाइडिंग-विंडो रेंकिंग तंत्र का एकीकरण जो व्यापक टेबल कॉर्पोरा को कुशलतापूर्वक प्रोसेस करने में सक्षम बनाता है, जिससे फुल-लिस्ट रेंकिंग की कम्प्यूटेशनल लागत से बचा जा सकता है।

प्रयोगात्मक परिणाम

लेखकों ने तीन बेंचमार्क पर ATR का मूल्यांकन किया: Spider, BIRD, और Spider 2.0 (एक एंटरप्राइज-लेवल बेंचमार्क जिसमें क्वेरीज़ के लिए 366 टेबल्स तक की आवश्यकता होती है)।

रिट्रीवल प्रदर्शन: ATR ने सभी डेटासेट्स पर टॉप- $k$ $k$ बेसलाइन्स (एनकोडर-आधारित, LLM-आधारित और रेंकर-आधारित विधियों सहित) को लगातार पछाड़ दिया।
- Spider पर, ATR ने बेसलाइन्स की तुलना में प्रिसिजन (Precision) में >20% और F1 में >15% का सुधार किया।
- Spider 2.0 पर, जहाँ टेबल की आवश्यकताएं बहुत अधिक बदलती हैं, ATR ने अन्य मॉडलों की तुलना में कम से कम 10% अधिक कम्प्लीट रिकॉल (Complete Recall) स्कोर प्राप्त किया, जो विभिन्न क्वेरी जटिलताओं के प्रति मजबूती को दर्शाता है।
डाउनस्ट्रीम टेक्स्ट-टू-एसक्यूएल प्रदर्शन:
- ATR ने सभी परीक्षण किए गए जेनरेटर्स (Llama, Qwen, Gemma) और डेटासेट्स में निष्पादन सटीकता (execution accuracy) में सुधार किया।
- Spider 2.0 पर, ATR ने Qwen2.5-Coder-7B का उपयोग करके "ओरेकल" सेटिंग (जहाँ जेनरेटर को परफेक्ट ग्राउंड-ट्रुथ टेबल्स मिलते हैं) के साथ प्रदर्शन के अंतर को 1.4% के भीतर ला दिया।
दक्षता (Efficiency):
- ATR ने टॉप- $k$ बेसलाइन्स की तुलना में कम इनपुट टोकन्स के साथ उच्च निष्पादन सटीकता प्राप्त की। उदाहरण के लिए, Spider पर, इसने सबसे अच्छा प्रदर्शन करने वाले फिक्स्ड- $k$ दृष्टिकोण की तुलना में 430 कम टोकन का उपयोग किया।
- स्लाइडिंग-विंडो रणनीति ने सभी टेबल्स को एक साथ प्रोसेस करने की तुलना में GPU मेमोरी खपत को काफी कम कर दिया (Spider 2.0 के लिए पीक मेमोरी में 80.5% तक की कमी)।
- ATR ने सटीकता और एंड-टू-एंड लेटेंसी दोनों में मौजूदा एडेप्टिव डॉक्यूमेंट रिट्रीवल विधियों (जैसे, FLARE, Adaptive-RAG) को पछाड़ दिया, क्योंकि यह बार-बार होने वाले इटरेटिव जेनरेटर इंटरैक्शन से बचता है।

महत्व और दावे

पेपर का दावा है कि ATR बड़े पैमाने के डेटाबेस रिट्रीवल अनुप्रयोगों के लिए एक व्यावहारिक और मजबूत समाधान प्रदान करता है। फिक्स्ड- $k$ रिट्रीवल की कठोरता से हटकर, ATR प्रभावी रूप से रिकॉल और नॉइज़ के बीच संतुलन बनाता है, जिससे यह सुनिश्चित होता है कि डाउनस्ट्रीम LLMs को सटीक तर्क के लिए आवश्यक साक्ष्य का सटीक सेट प्राप्त हो।

लेखक इस बात पर जोर देते हैं कि उनकी विधि:

मैनुअल $k$ ट्यूनिंग की आवश्यकता को समाप्त करती है, जो क्वेरी जटिलता की परिवर्तनशीलता को देखते हुए असंभव है।
इटरेटिव LLM-आधारित रिट्रीवल लूप के उच्च कम्प्यूटेशनल खर्च के बिना कुशलता से कार्य करती है।
हजारों टेबल्स और जटिल स्कीमा वाले एंटरप्राइज-लेवल डेटाबेस तक प्रभावी ढंग से स्केल करती है।

कार्य यह निष्कर्ष निकालता है कि स्ट्रक्चर्ड डेटा डोमेन में RAG को आगे बढ़ाने के लिए एडेप्टिव रिट्रीवल आवश्यक है, जो विविध डेटा प्रकारों में रिट्रीवल-ऑगमेंटेड जनरेशन को सामान्य बनाने के लिए भविष्य के अनुसंधान के लिए एक आधार प्रदान करता है।