💬 NLP

FT-RAG: A Fine-grained Retrieval-Augmented Generation Framework for Complex Table Reasoning

यह शोध पत्र FT-RAG प्रस्तुत करता है, जो एक सूक्ष्म-स्तरीय रिट्रीवल-ऑगमेंटेड जनरेशन फ्रेमवर्क है जो तालिकाओं को प्रविष्टि-स्तर की सिमेंटिक इकाइयों में विभाजित करता है और जटिल तालिका तर्क (टेबल रीजनिंग) में मौजूदा बेसलाइन से काफी बेहतर प्रदर्शन करने के लिए स्ट्रक्चरल नेबर एक्सपेंशन का उपयोग करता है, जिसे नए प्रस्तावित Multi-Table-RAG-Lib बेंचमार्क द्वारा समर्थित किया गया है।

मूल लेखक: Zebin Guo, Weidong Geng, Ruichen Mao

प्रकाशित 2026-05-05

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Zebin Guo, Weidong Geng, Ruichen Mao

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जासूस हैं जो एक जटिल केस को सुलझाने की कोशिश कर रहे हैं। आपका सबूत केवल बिखरे हुए नोट्स का ढेर नहीं है; यह हजारों स्प्रेडशीट्स (टेबल्स) और लंबी रिपोर्टों (टेक्स्ट) से भरी एक विशाल फाइलिंग कैबिनेट है।

वर्तमान AI जासूस (लार्ज लैंग्वेज मॉडल्स) लंबी रिपोर्टों को पढ़ने में बहुत अच्छे हैं, लेकिन जब वे स्प्रेडशीट्स पर पहुँचते हैं, तो वे भ्रमित हो जाते हैं। वे अक्सर एक पूरी स्प्रेडशीट को एक ही, अस्त-व्यस्त पैराग्राफ की तरह देखते हैं, या वे इसे एक लिस्ट में बदलने की कोशिश करते हैं। इससे वे विशिष्ट सेल में छिपे सूक्ष्म और महत्वपूर्ण विवरणों को 놓 (miss) कर देते हैं, जैसे कि किसी विशिष्ट पंक्ति और कॉलम में कोई विशिष्ट संख्या। वे सही विषय तो ढूंढ सकते हैं, लेकिन गलत संख्या उठा सकते हैं।

यह शोध पत्र FT-RAG (फाइन-ग्रेन्ड टेबल-अवेयर रिट्रीवल-ऑगमेंटेड जनरेशन) पेश करता है, जो एक नया सिस्टम है जिसे इसे ठीक करने के लिए डिज़ाइन किया गया है। यह कैसे काम करता है, इसका सरल अवधारणाओं में विवरण यहाँ दिया गया है:

1. समस्या: "पूरा पाई" बनाम "एक टुकड़ा"

एक पारंपरिक AI के बारे में सोचें जो एक टेबल को ऐसे पढ़ता है जैसे कोई एक ही बार में पूरा पिज्जा खाने की कोशिश कर रहा हो। वे पूरे पिज्जा को बिना स्वाद लिए निगल लेते हैं (पूरा टेबल)। यदि आप पूछते हैं, "मार्च में लाभ क्या था?" और AI केवल पूरा "वित्तीय रिपोर्ट" वाला पेज उठा लेता है, तो उसे यह अनुमान लगाने के लिए संघर्ष करना पड़ता है कि कौन सी संख्या लाभ की है और कौन सी लागत की। यह अव्यवस्थित है और गलतियों की संभावना अधिक है।

2. समाधान: FT-RAG का "लेगो" दृष्टिकोण

FT-RAG खेल बदल देता है क्योंकि यह AI के देखने से पहले ही टेबल को उसके सबसे छोटे, सबसे सार्थक टुकड़ों में तोड़ देता है।

चरण 1: माइक्रो-स्कैनिंग (एंट्री-लेवल डिकंपोजिशन)
टेबल को एक बड़े ब्लॉक के रूप में देखने के बजाय, FT-RG इसे व्यक्तिगत "सेल ग्रुप्स" में तोड़ देता है। कल्पना करें कि आप स्प्रेडशीट के हर एक वर्ग को एक सुरक्षात्मक बुलबुले में लपेट रहे हैं। उस बुलबुले के अंदर, AI केवल संख्या "500" नहीं देखता; वह "500," प्लस कॉलम हेडर "राजस्व (Revenue)," रो हेडर "Q1," और डॉक्यूमेंट टाइटल "2024 वार्षिक रिपोर्ट" भी देखता है। वह बिल्कुल जानता है कि वह संख्या कहाँ रहती है।
चरण 2: "SAT" मैप बनाना (स्ट्रक्चर्ड ग्राफ)
एक बार जब डेटा इन छोटे बुलबुलों में टूट जाता है, तो FT-RAG एक विशाल, व्यवस्थित मानचित्र बनाता है जिसे SAT ग्राफ कहा जाता है।
- S (Subject/विषय): यह किसके बारे में है? (जैसे, "कंपनी A")
- A (Attribute/विशेषता): हम क्या माप रहे हैं? (जैसे, "राजस्व")
- T (Temporal/समय): यह कब हुआ था? (जैसे, "2024")
इस मैप को एक सबवे सिस्टम की तरह समझें। पूरे दस्तावेज़ (शहर) में बिना किसी दिशा के भटकने के बजाय, AI एक ट्रेन पर चढ़ता है जो सीधे "कंपनी A" से "राजस्व" और फिर "2024" तक जाती है। यह डॉट्स को तार्किक रूप से जोड़ता है, यह सुनिश्चित करता है कि जो संख्या वह ढूंढ रहा है वह वास्तव में सही समय और सही कंपनी से जुड़ी है।
चरण 3: "पड़ोसी" की जाँच (स्ट्रक्चरल नेबर एक्सपेंशन)
कभी-कभी, उत्तर केवल एक संख्या नहीं होता; यह एक ट्रेंड (प्रवृत्ति) होता है। यदि आप पूछते हैं, "राजस्व में कैसे वृद्धि हुई?", तो AI को 2023 और 2024 का डेटा देखने की आवश्यकता होगी। FT-RAG में एक विशेष फीचर है जो मैप पर अपने "पड़ोसियों" की स्वचालित रूप से जाँच करता है। यदि इसे 2024 का डेटा मिलता है, तो यह तुरंत उसके बगल वाले 2023 के डेटा को भी निकाल लेता है, ठीक वैसे ही जैसे एक जासूस पूरी तस्वीर पाने के लिए संदिग्ध के पड़ोसी के अलबी (alibi) की जाँच करता है।
चरण 4: सामग्रियों को मिलाना (मल्टी-मोडल फ्यूजन)
टेबल्स अक्सर शुष्क होते हैं और उनमें संदर्भ (context) की कमी होती है। रिपोर्ट के आसपास के टेक्स्ट के आधार पर एक संख्या एक रिपोर्ट में "लाभ" और दूसरी में "हानि" हो सकती है। FT-RAG मैप पर पाए गए सटीक नंबर को लेता है और यह समझाने के लिए कि वह नंबर क्यों महत्वपूर्ण है, रिपोर्ट से पास के वाक्यों को भी साथ ले आता है। यह हार्ड डेटा (टेबल) को कहानी (टेक्स्ट) के साथ जोड़ देता है ताकि AI पूर्ण संदर्भ समझ सके।

3. नया प्रशिक्षण मैदान: Multi-Table-RAG-Lib

लेखकों ने महसूस किया कि इस नए जासूस को टेस्ट करने के लिए उन्हें पहले से मौजूद परीक्षणों से कठिन टेस्ट की आवश्यकता है। अधिकांश टेस्ट केवल एक सिंगल टेबल के बारे में सरल प्रश्न पूछते हैं (जैसे "आइटम X की कीमत क्या है?")।

उन्होंने एक नई, विशाल लाइब्रेरी बनाई जिसे Multi-Table-RAG-Lib कहा जाता है।

चुनौती: इस लाइब्रेरी में लगभग 10,000 प्रश्न हैं जिनके लिए AI को कई अलग-अलग टेबल्स के बीच कूदने और उस डेटा को टेक्स्ट के साथ मिलाने की आवश्यकता होती है।
लक्ष्य: यह AI को एक साधारण सर्च इंजन होने के बजाय, एकीकरण (integration) का मास्टर बनने के लिए मजबूर करता है।

4. परिणाम: एक स्पष्ट विजय

जब उन्होंने FT-RAG को अन्य शीर्ष AI सिस्टमों के खिलाफ टेस्ट किया:

सटीकता (Accuracy): इसने अन्य सभी की तुलना में बहुत अधिक बार सही विशिष्ट डेटा पॉइंट (सेल) खोजे। इसने सही सेल खोजने की क्षमता में लगभग 60% का सुधार किया।
सत्यता (Truthfulness): जब AI ने उत्तर जेनरेट किया, तो इसकी संभावना बहुत अधिक थी कि वह वास्तविक संख्याओं को सही ढंग से बताएगा (सटीक मान सटीकता में 62% का सुधार)।
निरंतरता (Consistency):적으로: यह केवल भाग्यशाली नहीं था; इसने सभी प्रकार के कठिन, मल्टी-टेबल प्रश्नों में लगातार प्रतिस्पर्धा को पछाड़ दिया।

सारांश

संक्षेप में, FT-RAG एक जासूस को एक ऐसे व्यक्ति से अपग्रेड करने जैसा है जो सुराग खोजने के लिए पूरी फाइल फोल्डर को पढ़ने की उम्मीद करता है, बजाय एक ऐसे फोरेंसिक विशेषज्ञ के जिसके पास हर एक सबूत का हाई-टेक मैप है, उसे पता है कि वे कैसे जुड़ते हैं, और वह संख्याओं का अर्थ समझने के लिए तुरंत आसपास की कहानी को भी साथ ले सकता है। यह AI को भ्रमित होने या अनुमान लगाने से रोकता है और उसके उत्तरों को डेटा की सटीक, संरचित वास्तविकता पर आधारित होने के लिए मजबूर करता है।

तकनीकी सारांश: जटिल तालिका तर्क के लिए FT-RAG

समस्या विवरण

रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) सिस्टम असंरचित टेक्स्ट के लिए प्रभावी सिद्ध हुए हैं, लेकिन वे संरचित सारणीबद्ध डेटा (tabular data) के साथ काफी संघर्ष करते हैं। पारंपरिक RAG दृष्टिकोण तालिकाओं को अखंड इकाइयों के रूप में मानते हैं या उन्हें सादे टेक्स्ट में समतल (flatten) कर देते हैं, जिसके परिणामस्वरूप कोर्स रिट्रीवल ग्रैनुलैरिटी (coarse retrieval granularity) और सेल-स्तरीय सूक्ष्म अर्थ संबंधी संबंधों का नुकसान होता है, जो उच्च-सटीक तर्क के लिए आवश्यक हैं। यह सरलीकरण तालिकाओं में निहित स्थानिक और संरचनात्मक तर्क को अस्पष्ट कर देता है, जिससे विषम दस्तावेजों (टेक्स्ट और कई तालिकाओं) से खंडित डेटा को एकीकृत करके जटिल प्रतिक्रियाएं उत्पन्न करने की क्षमता कठिन हो जाती है। इसके अलावा, मौजूदा बेंचमार्क मुख्य रूप से सरल तथ्यात्मक उत्तरों के साथ एकल-तालिका रिट्रीवल पर ध्यान केंद्रित करते हैं, जो जटिल प्रतिक्रियाओं को उत्पन्न करने के लिए विविध दस्तावेजों (टेक्स्ट और कई तालिकाओं) से खंडित डेटा को एकीकृत करने की क्षमता का मूल्यांकन करने में विफल रहते हैं।

कार्यप्रणाली: FT-RAG फ्रेमवर्क

इन सीमाओं को दूर करने के लिए, लेखक FT-RAG (फाइन-ग्रेन्ड टेबल-अवेयर रिट्रीवल-ऑगमेंटेड जनरेशन) प्रस्तावित करते हैं, जो एक ऐसा फ्रेमवर्क है जिसे सारणीबद्ध डेटा को एंट्री-स्तर पर संसाधित करने के लिए डिज़ाइन किया गया है। यह कार्यप्रणाली तीन मुख्य मॉड्यूल से बनी है:

1. फाइन-ग्रेन्ड टेबल पार्सिंग

तालिकाओं को ब्लॉक्स के रूप में संसाधित करने के बजाय, FT-RAG कच्चे तालिकाओं को सेल समूहों (Cell Groups) में विभाजित करता है। प्रत्येक सेल समूह कच्चे सेल मान के साथ व्यापक प्रासंगिक मेटाडेटा को समाहित करता है, जिसमें शामिल हैं:

ग्लोबल मेटाडेटा: दस्तावेज़ शीर्षक और कैप्शन।
टेबल-लेवल मेटाडेटा: स्कीमा और हेडर।
पदानुक्रमित पथ (Hierarchical paths): इंडेक्स (पूर्ण निर्देशांक), प्रकार (रो/कॉलम हेडर भूमिकाएं), और पदानुक्रम गहराई (नेस्टिंग स्तर) का स्पष्ट एन्कोडिंग।

2. स्ट्रक्चर-अवेयर सिमेंटिक लिफ्टिंग (SAT ग्राफ)

फ्रेमवर्क एक एकीकृत सब्जेक्ट-एट्रीब्यूट-टेम्पोरल (SAT) ग्राफ का निर्माण करता है, जो एक संयुक्त निर्देशित अचक्रीय ग्राफ ( $G = (V, E)$ ) है, जो सेल समूहों को परस्पर जुड़े ज्ञान इकाइयों में व्यवस्थित करता है। यह ग्राफ तीन आयामों पर निर्मित है:

सब्जेक्ट सब-ट्री ( $T_S$ ): संरचनात्मक वंशावली और इकाई पदानुक्रम (जैसे, "हार्डवेयर" के तहत "लैपटॉप") स्थापित करने के लिए LLM इन्फरेंस के माध्यम से निर्मित।
टेम्पोरल सब-ट्री ( $T_T$ ): पैटर्न-आधारित पार्सिंग का उपयोग करके समय अंतराल को कालानुक्रमिक रूप से व्यवस्थित करता है, जिससे टेम्पोरल वैधता सुनिश्चित होती है (जैसे, वर्षों के भीतर विशिष्ट तिथियां)।
एट्रीब्यूट नोड सेट ( $V_A$ ): अर्थ संबंधी अभिसरण बिंदुओं (semantic convergence points) के रूप में कार्य करता है, जो अलग-अलग सब्जेक्ट-टेम्पोरल संदर्भों को जोड़ता है।
वैल्यू लीफ नोड सेट ( $V_L$ ): एक मिश्रित इंडेक्स ( $\langle s_i, t_j, a_k \rangle$ ) के माध्यम से विशिष्ट SAT संयोजनों से जुड़े की-वैल्यू पेयर्स के रूप में परमाणु डेटा प्रविष्टियों को संग्रहीत करता है।

3. ग्राफ रिट्रीवल और मल्टी-मोडल फ्यूजन

संरचनात्मक सटीकता और अर्थ संबंधी पूर्णता सुनिश्चित करने के लिए रिट्रीवल दो चरणों में होता है:

चरण I: पदानुक्रमित ग्राफ नेविगेशन: सिस्टम ग्राफ के आयामों के साथ उपयोगकर्ता प्रश्नों को संरेखित करने के लिए एक डुअल-पाथ ट्रैवर्सल स्ट्रैटेजी (एंकर-ड्रिवन फॉरवर्ड और एट्रीब्यूट-ड्रिवन रिवर्स) का उपयोग करता है। यह वेक्टर समानता पर पूरी तरह निर्भर रहने के बजाय (जो तथ्यात्मक विचलन का कारण बन सकता है) अर्थ संबंधी रूप से जुड़े संस्थाओं (जैसे, विकास दर गणना के लिए आसन्न समय नोड्स) को रिट्रीव करने के लिए एक स्ट्रक्चरल नेबर एक्सपेंशन तंत्र का उपयोग करता है।
चरण II: टेक्स्ट-ब्रिज्ड ऑग्मेंटेशन: रिट्रीव किए गए संरचित तथ्यों को प्राकृतिक भाषा टेम्पलेट्स में लीनियर किया जाता है और संबंधित टेक्स्ट कॉर्पस को क्वेरी करने के लिए उपयोग किया जाता है। यह सटीक सारणीबद्ध मेट्रिक्स को आसपास के नैरेटिव संदर्भ (गुणात्मक अंतर्दृष्टि, चेतावनी) के साथ फ्यूज करता है, जिससे LLM को एक समग्र साक्ष्य पैकेज प्राप्त होता है।

प्रमुख योगदान

FT-RAG फ्रेमवर्क: एक अभिनव फाइन-ग्रेन्ड दृष्टिकोण जो तालिकाओं को अर्थ संबंधी इकाइयों में विभाजित करता है और उन्हें एक स्कीमा-अवेयर SAT ग्राफ में व्यवस्थित करता है, जिससे सटीक सेल-स्तरीय रिट्रीवल और तर्क सक्षम होता है।
Multi-Table-RAG-Lib बेंचमार्क: एक नया डेटासेट जिसमें 81 दस्तावेजों में 308 बड़ी तालिकाओं से प्राप्त 9,870 QA जोड़े शामिल हैं। मौजूदा बेंचमार्क के विपरीत, यह विशेष रूप से जटिल, मल्टी-हॉप रीजनिंग को लक्षित करता है जिसमें कई तालिकाओं और टेक्स्ट-टेबल फ्यूजन को एकीकृत करने की आवश्यकता होती है। इसमें "प्योर टैबुलर" और "कॉन्टेक्स्ट-ऑगमेंटेड" दोनों रिट्रीवल कार्य शामिल हैं।
स्ट्रक्चरल नेबर एक्सपेंशन: एक तंत्र जो ग्राफ टोपोलॉजी (जैसे, टेम्पोरल नेबर्स) के साथ रिट्रीवल के दायरे का विस्तार करता है ताकि सटीकता से समझौता किए बिना जटिल प्रश्नों के लिए आवश्यक संदर्भ को कैप्चर किया जा सके।

प्रयोगात्मक परिणाम

लेखकों ने Multi-Table-RAG-Lib बेंचमार्क पर Standard RAG, LangChain, Self-RAG, और MixRAG सहित बेसलाइन्स के विरुद्ध FT-RAG का मूल्यांकन किया।

रिट्रीवल प्रदर्शन: FT-RAG ने स्टेट-ऑफ-द-आर्ट परिणाम प्राप्त किए।
- टेबल-लेवल हिट रेट: सर्वश्रेष्ठ बेसलाइन से 23.5% सुधार हुआ।
- सेल-लेवल हिट रेट: 59.2% सुधार हुआ, जो विशिष्ट परमाणु मानों को खोजने की बेहतर क्षमता प्रदर्शित करता है।
- कॉन्टेक्स्ट-ऑगमेंटेड कार्यों में, FT-RAG ने उच्च सटीकता बनाए रखी जहाँ अन्य मॉडल टेक्स्ट चंक्स द्वारा उत्पन्न शोर (noise) से प्रभावित हुए।
जनरेशन प्रदर्शन:
- एक्जैक्ट वैल्यू एक्यूरेसी रिकॉल: बेसलाइन्स की तुलना में 62.2% बढ़ा।
- FT-RAG ने संख्यात्मक गुणों को ग्राउंड करने में महत्वपूर्ण लाभ दिखाया, 54.5% की वैल्यू एक्यूरेसी प्राप्त की, जबकि अन्य विधियों के लिए यह 22.0–33.9% थी।
एब्लेशन स्टडी: SAT-Graph को हटाने से प्रदर्शन गिरकर 40% से नीचे चला गया, जो ग्राफ संरचना की आवश्यकता की पुष्टि करता है। मल्टी-मोडल फ्यूजन मॉड्यूल को वैल्यू एक्यूरेसी के लिए महत्वपूर्ण पाया गया, जबकि स्ट्रक्चरल नेबर एक्सपेंशन ने साक्ष्य की व्यापकता में सुधार किया।

महत्व और दावे

पेपर का दावा है कि FT-RAG मिश्रित-मोडैलिटी दस्तावेजों (तालिकाओं और टेक्स्ट) पर जटिल तर्क के लिए एक नया स्टेट-ऑफ-द-आर्ट प्रदर्शन स्थापित करता है। मोटे-स्तर के टेक्स्ट रिट्रीवल से सूक्ष्म, संरचना-जागरूक ग्राफ नेविगेशन की ओर शिफ्ट होकर, यह फ्रेमवर्क तालिकाओं पर आधारित RAG में सामान्य हैल्यूसिनेशन और तथ्यात्मक त्रुटियों को प्रभावी ढंग से कम करता है। लेखक दावा करते हैं कि उनकी विधि सफलतापूर्वक संरचित डेटा के कठोर तर्क और असंरचित टेक्स्ट की वर्णनात्मक शक्ति के बीच के अंतर को पाटती है, जो वित्तीय विश्लेषण और वैज्ञानिक समीक्षा जैसे डोमेन में उच्च-मूल्य वाले ज्ञान निष्कर्षण के लिए एक मजबूत समाधान प्रदान करती है। Multi-Table-RAG-Lib बेंचमार्क का परिचय भी तालिका-केंद्रित RAG सिस्टम के अधिक यथार्थवादी और चुनौतीपूर्ण मूल्यांकन की दिशा में एक महत्वपूर्ण कदम के रूप में प्रस्तुत किया गया है।