💬 NLP

SCAR: Semantic Continuity-Aware Retrieval for Efficient Context Expansion in RAG

यह शोध पत्र SCAR का प्रस्ताव करता है, जो एक अनुकूली रिट्रीवल पॉलिसी (adaptive retrieval policy) है जो एक सापेक्ष प्रासंगिकता थ्रेशोल्ड (relative relevance threshold) के आधार पर पड़ोसी चंक्स को चुनिंदा रूप से विस्तारित करके RAG में बाउंड्री फ्रैगमेंटेशन (boundary fragmentation) को कम करता है, जिससे कम टोकन के साथ काफी अधिक रिकॉल प्राप्त होता है और बिना पुन: अंशांकन (recalibration) के विभिन्न एम्बेडिंग मॉडल्स के बीच मजबूत स्थानांतरणीयता (transferability) प्रदर्शित करता है।

मूल लेखक: Nathanaël Langlois

प्रकाशित 2026-06-16

📖 4 मिनट में पढ़ें☕ कॉफ़ी ब्रेक में पढ़ें

CC BY 4.0

मूल लेखक: Nathanaël Langlois

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल, 500 पन्नों के जासूसी उपन्यास को पढ़कर किसी रहस्य को सुलझाने की कोशिश कर रहे हैं। आपके पास एक बहुत ही बुद्धिमान सहायक (AI) है जो आपके लिए वह किताब पढ़ सकता है, लेकिन किताब को छोटे, कठोर 10-पन्नों के टुकड़ों में काट दिया गया है।

समस्या: "कटी हुई" किताब
कभी-कभी सबसे महत्वपूर्ण सुराग केवल एक टुकड़े में नहीं होता। यह ठीक बीच से विभाजित हो सकता है। उदाहरण के लिए, प्रश्न एक विशिष्ट वित्तीय तालिका (financial table) के बारे में पूछ रहा है, लेकिन तालिका का "हेडर" (Header) पेज 10 पर है, और नंबरों वाली "रोज़" (Rows) पेज 11 पर हैं।

यदि आपका सहायक केवल पेज 10 लेता है, तो उसे शीर्षक तो दिखेगा लेकिन नंबर नहीं। यदि वह पेज 11 लेता है, तो उसे नंबर तो दिखेंगे लेकिन शीर्षक नहीं। सुराग खंडित (fragmented) है।

इसे ठीक करने के लिए, अधिकांश सिस्टम "स्टैटिक विंडो" (Static Window) रणनीति का उपयोग करते हैं। यह ऐसा है जैसे कहना, "जब भी आपको कोई पेज मिले, तो बस सावधानी के तौर पर उससे पहले का और उसके बाद का पेज भी ले लें।"

नुकसान: यह संसाधनों की बर्बादी है। आप 10 पन्नों का टेक्स्ट ले लेते हैं जबकि आपको केवल 2 की आवश्यकता थी। यह बिल्कुल वैसा ही है जैसे एक ढीले पेंच को कसने के लिए पूरा टूलबॉक्स साथ ले जाना। यह AI को धीमा कर देता है और इसे बहुत अधिक "शोर" (अप्रासंगिक जानकारी) के साथ भ्रमित कर देता है।

समाधान: SCAR (एक स्मार्ट लाइब्रेरियन)
पेपर में SCAR (सेमेंटिक कॉन्टिन्यूटी-अवेयर रिट्रीवल) पेश किया गया है। SCAR को एक ऐसे रोबोट के रूप में न सोचें जो सब कुछ आस-पास से उठा लेता है, बल्कि इसे एक स्मार्ट लाइब्रेरियन के रूप में देखें जो कहानी को समझती है।

जब लाइब्रेरियन को आपके प्रश्न से मेल खाता हुआ एक पेज मिलता है, तो वह स्वचालित रूप से उसके पड़ोसी पन्नों को नहीं उठा लेती। इसके बजाय, वह दो प्रश्न पूछती है:

प्रासंगिकता (Relevance): क्या पड़ोसी पेज वास्तव में प्रश्न का उत्तर देने में मदद करता है?
निरंतरता (Continuity): क्या पड़ोसी पेज वर्तमान पेज से स्वाभाविक रूप से मेल खाता है? (क्या यह उसी वाक्य, तालिका या पैराग्राफ का हिस्सा है, या यह पूरी तरह से एक नया विषय है?)

SCAR कैसे निर्णय लेता है ("कंटीन्यूटी पेनल्टी")
SCAR एक चतुर तकनीक का उपयोग करता है। यह एक नए पेज पर जाने के लिए एक "पेनल्टी" (जुर्माना) की गणना करता है।

यदि पड़ोसी पेज कहानी का एक सटीक विस्तार है (उच्च सेमेंटिक समानता), तो पेनल्टी कम होती है, और SCار उसे ले लेती है।
यदि पड़ोसी पेज पूरी तरह से अलग विषय है (जैसे वित्तीय तालिका से कानूनी डिस्क्लेमर पर जाना), तो पेनल्टी अधिक होती है। भले ही पड़ोसी पेज में कुछ कीवर्ड हों, SCAR तय करती है, "नहीं, यह प्रवाह को तोड़ता है," और उसे पीछे छोड़ देती है।

परिणाम: कम शोर, वही उत्तर
लेखकों ने चार अलग-अलग प्रकार के जटिल दस्तावेजों (जैसे कानूनी अनुबंध और वित्तीय रिपोर्ट) और 320 विभिन्न प्रश्नों पर इसका परीक्षण किया।

पुराना तरीका (Static Window): सही उत्तर प्राप्त करने के लिए, सिस्टम को प्रति प्रश्न औसतन 10.16 चंक्स (पेज) पढ़ने पड़ते थे।
SCAR का तरीका: SCAR ने केवल 7.84 चंक्स का उपयोग करके सही उत्तर खोज लिया।

साधारण भाषा में इसका अर्थ क्या है:

दक्षता (Efficiency): SCAR ने AI द्वारा किए जाने वाले पढ़ने के काम को लगभग 23% कम कर दिया, और वह भी सही उत्तर खोजने की क्षमता खोए बिना।
गुणवत्ता (Quality): AI के उत्तर उतने ही सटीक और स्रोत टेक्स्ट के प्रति "वफादार" थे जितने पहले थे। इसने गलत जानकारी या मनगढ़ंत बातें (hallucinations) नहीं बनाईं, भले ही इसने कम पढ़ा हो।
अनुकूलन क्षमता (Adaptability): यह सिस्टम तब भी अच्छी तरह काम करता है जब आप उस "डिक्शनरी" (एम्बेडिंग मॉडल) को बदलते हैं जिसका उपयोग यह शब्दों को समझने के लिए करता है। आपको सेटिंग्स को फिर से ट्यून करने की आवश्यकता नहीं है; यह बस काम करता है।

निष्कर्ष
SCAR उन AI सिस्टम के लिए एक "ड्रॉप-इन" अपग्रेड है जो दस्तावेजों को पढ़ते हैं। यह AI को अप्रासंगिक पन्ने केवल इसलिए उठाने से रोकता है क्योंकि वे सही वाले के बगल में हैं। यह एक ऐसे मानव पाठक की तरह कार्य करता है जो जानता है कि कब पन्ना पलटना है और कब रुकना है, जिससे समय और कंप्यूटिंग शक्ति की बचत होती है और उत्तर भी सटीक रहते हैं।

तकनीकी सारांश: SCAR (सिमेंटिक कंटीन्यूटी-अवेयर रिट्रीवल)

समस्या विवरण

रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) सिस्टम अक्सर बाउंड्री फ्रैगमेंटेशन (सीमा विखंडन) से ग्रस्त होते हैं, जो एक ऐसी घटना है जहाँ किसी क्वेरी का उत्तर देने के लिए आवश्यक महत्वपूर्ण साक्ष्य (evidence) निश्चित-लंबाई वाली इंडेक्सिंग रणनीतियों (जैसे, रिकर्सिव कैरेक्टर स्प्लिटिंग) के कारण आसन्न दस्तावेज़ चंक्स (adjacent document chunks) में विभाजित हो जाते हैं। जबकि मानक डेंस रिट्रीवर्स एक विभाजित तार्किक इकाई के एक टुकड़े की पहचान कर सकते हैं, वे अक्सर आवश्यक पड़ोसी खंड को प्राप्त करने में विफल रहते हैं, जिससे डाउनस्ट्रीम लार्ज लैंग्वेज मॉडल (LLM) के लिए अपूर्ण संदर्भ (context) रह जाता है।

मौजूदा समाधान इस समस्या के लिए महत्वपूर्ण ट्रेड-ऑफ पेश करते हैं:

स्टैटिक विंडोइंग (Static Windowing): हमेशा निकटतम पड़ोसियों (जैसे, $c_{i \pm 1}$ ) को प्राप्त करना निरंतरता सुनिश्चित करता है, लेकिन यह अप्रासंगिक "शोर" के साथ संदर्भ विंडो को फुला देता है, जिससे टोकन लागत बढ़ती है और संभावित रूप से LLM प्रदर्शन में गिरावट आती है।
पैरेंट रिट्रीवल (Parent Retrieval): पूरे दस्तावेज़ अनुभागों को प्राप्त करना और भी अधिक टोकन-अक्षम (token-inefficient) है।
इटरेटिव/ट्रेनिंग-आधारित विधियाँ: Self-RAG या SCARLet जैसी दृष्टिकोणों के लिए कई LLM कॉल्स या विशेष प्रशिक्षण डेटा की आवश्यकता होती है, जिससे विलंबता (latency) और जटिलता बढ़ जाती है।

मुख्य चुनौती यह है कि क्वेरी प्रासंगिकता और संरचनात्मक निरंतरता के बीच संतुलन बनाकर केवल आवश्यकता होने पर ही रिट्रीवल संदर्भ को अनुकूल रूप से विस्तारित करना।

कार्यप्रणाली: SCAR

लेखक SCAR (सिमेंटिक कंटीन्यूटी-अवेयर रिट्रीवल) का प्रस्ताव करते हैं, जो एक ट्रेनिंग-फ्री, सिंगल-शॉट रिट्रीवल पॉलिसी है जो क्वेरी प्रासंगिकता और संरचनात्मक निरंतरता के बीच के ट्रेड-ऑफ के आधार पर रनटाइम पर संदर्भ विंडो को गतिशील रूप से विस्तारित करती है।

1. कंटीन्यूटी स्कोर (Continuity Score)

एक प्राप्त किए गए चंक $c$ और एक संभावित पड़ोसी $n$ के लिए, SCAR एक बाउंड्री पेनल्टी ( $b_{c,n}$ ) की गणना करता है जो दोनों के बीच सिमेंटिक विच्छेदन (semantic discontinuity) पर आधारित है:
$b_{c,n} = 1 - \cos(e_c, e_n)$
जहाँ $e_c$ और $e_n$ चंक्स के एम्बेडिंग्स हैं। कम पेनल्टी (उच्च कोसाइन सिमिलरिटी) मजबूत सिमेंटिक निरंतरता को दर्शाती है।

2. एक्सपेंशन डिसीजन (Expansion Decision)

संदर्भ में एक पड़ोसी $n$ को जोड़ने का निर्णय एक एक्सपेंशन स्कोर ( $S_{c,n}$ ) द्वारा शासित होता है:
$S_{c,n} = \cos(e_q, e_n) - \lambda b_{c,n}$
यहाँ $e_q$ क्वेरी एम्बेडिंग है, और $\lambda$ एक हाइपरपैरामीटर है जो कंटीन्यूटी पेनल्टी को वेटेज देता है।

एक पड़ोसी को तब शामिल किया जाता है यदि उसका एक्सपेंशन स्कोर प्राप्त किए गए चंक की क्वेरी के प्रति अपनी स्वयं की प्रासंगिकता ( $\cos(e_q, e_c)$ ) से जुड़े एक रिलेटिव थ्रेशोल्ड से अधिक हो:
$S_{c,n} > \gamma \cdot \cos(e_q, e_c)$
जहाँ $\gamma \in (0, 1)$ एक रेशियो हाइपरपैरामीटर है।

मुख्य डिज़ाइन गुण

स्केल रोबस्टनेस (Scale Robustness): क्योंकि थ्रेशोल्ड प्राप्त किए गए चंक की प्रासंगिकता ( $\cos(e_q, e_c)$ ) के सापेक्ष है, इसलिए निर्णय नियम लगभग स्केल-इनवेरिएंट है। यह नीति को बिना थ्रेशोल्ड पुन: अंशांकन (recalibration) के विभिन्न एम्बेडिंग मॉडल्स (जैसे, text-embedding-3-large, BGE-large-en-v1.5, zembed-1) के बीच स्थानांतरित होने की अनुमति देता है।
एडाप्टिव थ्रेशोल्डिंग (Adaptive Thresholding): एक्सपेंशन बार प्रत्येक चंक के अनुसार बदलता है। यदि कोई चंक कमजोर रूप से प्राप्त किया गया है (कम प्रासंगिकता), तो विस्तार के लिए थ्रेशोल्ड भी आनुपातिक रूप से कम हो जाता है, जो अनिश्चितता को समायोजित करता है।

प्रयोगात्मक सेटअप

लेखकों ने जटिल संरचनात्मक निर्भरताओं वाले चार विविध कॉर्पोरा पर SCAR का मूल्यांकन किया:

TCP स्पेसिफिकेशन (RFC 9293): तकनीकी।
GDPR रेगुलेशन: कानूनी।
माइक्रोसॉफ्ट 10-K रिपोर्ट: वित्तीय।
कॉर्पोरेट मर्जर एग्रीमेंट: संविदात्मक (Contractual)।

डेटासेट: कुल 320 क्वेरी (प्रत्येक कॉर्पस के लिए 80), जो "एटॉमिक क्वेरीज़" (एक चंक में निहित) और "बाउंड्री-फ्रैगमेंटेड क्वेरीज़" (कई चंक्स में फैली हुई) के बीच संतुलित हैं।
बेसलाइन: Top- $k$ रिट्रीवल, स्टैटिक विंडोइंग ( $\pm 1, \pm 2$ ), पैरेंट रिट्रीवल, और क्रॉस-एनकोडर रीरैंकिंग।
मेट्रिक्स: रिकॉल (गोल्ड चंक्स का अनुपात जो प्राप्त किए गए) और चंक एफिशिएंसी (रिकॉल / औसत अद्वितीय चंक्स प्राप्त)।

मुख्य परिणाम

1. बाउंड्री-फ्रैगमेंटेड क्वेरीज़ पर एफिशिएंसी और रिकॉल

160 बाउंड्री-फ्रैगमेंटेड क्वेरीज़ पर, SCAR ( $\pm 1$ ) ने प्राप्त किया:

92.8% रिकॉल, जो स्टैटिक विंडो बेसलाइन (96.7%) के तुलनीय है।
7.84 औसत चंक्स प्राप्त किए, जबकि स्टैटिक विंडो के लिए यह 10.16 था।
22.9% संदर्भ वॉल्यूम (चंक्स) में कमी, जिसमें रिकॉल में केवल 3.9 प्रतिशत अंक की गिरावट आई।

पेयर्ड बूटस्ट्रैप ( $B=10,000$ ) के सांख्यिकीय विश्लेषण ने पुष्टि की कि चंक में कमी अत्यधिक महत्वपूर्ण है ( $p < 0.0001$ , कोहेन का $d = -1.49$ , बड़ा प्रभाव), जबकि रिकॉल का अंतर छोटा था ( $d = -0.33$ )।

2. ट्रांसफरैबिलिटी और रोबस्टनेस

मॉडल ट्रांसफर: एकल हाइपरपैरामीटर सेटिंग ( $\lambda=0.1, \gamma=0.80$ ) बिना पुन: अंशांकन के BGE-large-en-v1.5 और zembed-1 पर सफलतापूर्वक स्थानांतरित हो गई, जिससे महत्वपूर्ण चंक कटौती बनी रही (क्रमशः 12.7% और 17.2%)।
एब्लेशन (Ablation): कंटीन्यूटी पेनल्टी ( $\lambda=0$ ) को हटाने से रिकॉल लाभ के बिना चंक वॉल्यूम में 7.2% तक वृद्धि हुई, जो पुष्टि करता है कि पेनल्टी प्रभावी रूप से अनावश्यक पड़ोसियों को फ़िल्टर करती है।
एटॉमिक क्वेरीज़: उन क्वेरीज़ पर जिनके लिए विस्तार की आवश्यकता नहीं थी, SCAR ने औसतन 7.6 चंक्स प्राप्त किए बनाम स्टैटिक विंडो के 11.3, जो अनावश्यक विस्तार से बचकर एक "जीरो-रिग्रेट" प्रोफाइल प्रदर्शित करता है।

3. डाउनस्ट्रीम जनरेशन क्वालिटी

GPT-4o-mini और RAGAS मेट्रिक्स का उपयोग करके माइक्रोसॉफ्ट 10-K कॉर्पस पर मूल्यांकन ने दिखाया कि SCAR के लीन (lean) संदर्भ ने जनरेशन क्वालिटी को कम नहीं किया:

फेथफुलनेस (Faithfulness): स्टैटिक विंडो के समान (4.99/5)।
आंसर रेलेवेंसी (Answer Relevancy): थोड़ा अधिक (4.79 बनाम 4.74)।
टोकन रिडक्शन: उच्च संदर्भ रिकॉल बनाए रखते हुए 27.1% कम टोकन (934 बनाम 1,281)।

महत्व और दावे

यह पेपर SCAR को प्रोडक्शन RAG सिस्टम के लिए एक ड्रॉप-इन एफिशिएंसी अपग्रेड के रूप में प्रस्तुत करता है। इसके प्राथमिक योगदान हैं:

एडाप्टिव एफिशिएंसी: यह स्टैटिक विंडोइंग के टोकन ओवरहेड या इटरेटिव रिट्रीवल की जटिलता के बिना बाउंड्री फ्रैगमेंटेशन की समस्या को हल करता है।
ट्रेनिंग-फ्री: इसके लिए किसी विशेष डेटा सिंथेसिस या मॉडल फाइन-ट्यूनिंग की आवश्यकता नहीं है, और यह किसी भी मौजूदा इंडेक्सिंग रणनीति के साथ ऑर्थोगोनल रूप से काम करता है।
जनरलाइजेबिलिटी: रिलेटिव-थ्रेशोल्ड फॉर्मूलेशन यह सुनिश्चित करता है कि नीति बिना प्रति-मॉडल ट्यूनिंग के विविध एम्बेडिंग मॉडल्स और डोमेन में काम करे।

लेखक सीमाओं को स्वीकार करते हैं: SCAR उस साक्ष्य को रिकवर नहीं कर सकता जिसे रिट्रीवर टॉप- $k$ में रैंक करने में विफल रहता है, और न ही यह गैर-आसन्न तार्किक पड़ोसियों को संभाल सकता है। इसके अलावा, यह मानता है कि आसन्न चंक्स पर्याप्त स्टैंडअलोन क्वेरी प्रासंगिकता बनाए रखते हैं ताकि एक्सपेंशन गेट को पार कर सकें; सिमेंटिकली पतले निरंतरता (जैसे, हेडर से अलग टेबल वैल्यूज) अभी भी मिस हो सकते हैं यदि पड़ोसी में प्रत्यक्ष प्रासंगिकता की कमी है, हालांकि लेखक नोट करते हैं कि स्ट्रक्चर-अवेयर चंकिंग (जैसे, कॉन्टेक्स्टुअल प्रीपेंडिंग) इसे कम करता है।

संक्षेप में, SCAR एक सरल, गणितीय रूप से ठोस रिट्रीवल पॉलिसी के माध्यम से रिकॉल और जनरेशन फेथफुलनेस को बनाए रखते हुए संदर्भ वॉल्यूम में सांख्यिकीय रूप से महत्वपूर्ण कमी लाता है, जो RAG पाइपलाइनों में एक मौलिक बाधा को संबोधित करता है।