Beyond Semantic Similarity: Rethinking Retrieval for Agentic Search via Direct Corpus Interaction
यह शोध पत्र डायरेक्ट कॉर्पस इंटरैक्शन (DCI) का प्रस्ताव करता है, जो एक ऐसा रिट्रीवल प्रतिमान (retrieval paradigm) है जहाँ एजेंट निश्चित अर्थ संबंधी इंटरफेस (semantic interfaces) को दरकिनार कर सामान्य प्रयोजन वाले उपकरणों (general-purpose tools) का उपयोग करके सीधे कच्चे कॉर्पस (raw corpora) के साथ संवाद करते हैं, और यह प्रदर्शित करता है कि यह दृष्टिकोण ऑफलाइन इंडेक्सिंग की आवश्यकता के बिना लचीले, बहु-चरणीय साक्ष्य अन्वेषण (multi-step evidence exploration) को सक्षम करके जटिल एजेंटिक खोज कार्यों पर पारंपरिक लेक्सिकल और सिमेंटिक रिट्रीवर्स की तुलना में काफी बेहतर प्रदर्शन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जासूस हैं जो एक जटिल रहस्य को सुलझाने की कोशिश कर रहे हैं। आपके पास किताबों का एक विशाल पुस्तकालय (द "कॉर्पस") है जिसमें आपके सभी सुराग मौजूद हैं।
पुराना तरीका: एक फ़िल्टर के साथ लाइब्रेरियन
परंपरागत रूप से, जब एक जासूस (एक AI एजेंट) को किसी सुराग की आवश्यकता होती है, तो वह मदद के लिए एक लाइब्रेरियन (एक "रिट्रीवर") से पूछता है। जासूस कहता है, "मैं हीरे के बारे में कुछ ढूंढ रहा हूँ," और लाइब्रेरियन एक विशेष स्कैनर का उपयोग करके उन शीर्ष 5 किताबों को खोजने की कोशिश करता है जो सुनने में हीरे के बारे में लग सकती हैं। लाइब्रेरियन केवल वे 5 पन्ने ही सौंप देता है।
समस्या यह है कि यदि सुराग वास्तव में उस किताब के पेज नंबर 400 पर एक वाक्य में छिपा है जिसे लाइब्रेरियन ने नहीं चुना था, तो जासूस उसे कभी देख ही नहीं पाएगा। इसके अलावा, यदि जासूस को यह जांचना है कि क्या कोई विशिष्ट शब्द बिल्कुल उसी तरह दिखाई देता है जैसा लिखा गया है, या दो कमजोर सुरागों को जोड़ना है ("वह किताब खोजें जिसमें 'हीरा' AND 'लाल' AND '2024' हो"), तो लाइब्रेरियन की पूर्व-फ़िल्टर की गई सूची अक्सर विफल हो जाती है। जासूस लाइब्रेरियन द्वारा दिए गए परिणामों तक ही सीमित रहता है, भले ही लाइब्रेरियन ने वास्तविक उत्तर मिस कर दिया हो।
नया तरीका: टॉर्च के साथ जासूस
यह शोध पत्र एक नई विधि प्रस्तावित करता है जिसे डायरेक्ट कॉर्पस इंटरैक्शन (DCI) कहा जाता है। किताबों को फ़िल्टर करने के लिए लाइब्रेरियन से पूछने के बजाय, जासूस को स्वयं एक टॉर्च और एक चाबी दी जाती है, और वे खुद पुस्तकालय में प्रवेश करते हैं।
वे किसी फैंसी स्कैनर का उपयोग नहीं करते हैं। इसके बजाय, वे उन सरल, शक्तिशाली उपकरणों का उपयोग करते हैं जिन्हें वे पहले से जानते हैं:
grep: एक उपकरण जिसका उपयोग यह चिल्लाने के लिए किया जाता है कि "हर वह पेज ढूंढो जहाँ 'हीरा' लिखा है!" और तुरंत हर एक मैच प्राप्त करना!find: एक उपकरण जो सटीक रूप से पता लगाता है कि किताब किस शेल्फ पर है।head/tail: पूरे पन्ने को पढ़ने के बजाय केवल शुरुआत या अंत की झलक देखने के टूल्स।
यह बेहतर क्यों है?
लेखकों का तर्क है कि आधुनिक AI एजेंट इतने स्मार्ट होते जा रहे हैं कि वे अपने स्वयं के लाइब्रेरियन बन सकें। जब एजेंट स्वयं पुस्तकालय में जा सकता है और इन सरल उपकरणों का उपयोग कर सकता है, तो वे:
- सटीक हो सकते हैं: वे मांग सकते हैं, "मुझे केवल वे पन्ने दिखाएं जहां 'हीरा' और 'लाल' एक ही वाक्य में आते हैं।" एक मानक लाइब्रेरियन इसे मिस कर सकता है यदि शब्द एक-दूसरे से दूर हों।
- निशान का पीछा कर सकते हैं: यदि उन्हें कोई सुराग मिलता है, तो वे बिना किसी नए "खोज" अनुरोध की प्रतीक्षा किए, तुरंत आस-पास के टेक्स्ट की जांच कर सकते हैं कि क्या यह दूसरे सुराग से जुड़ता है।
- "टॉप 5" के जाल से बच सकते हैं: वे शीर्ष 5 परिणामों तक सीमित नहीं हैं। यदि उत्तर 500वीं किताब में है, तो भी वे उसे ढूंढ सकते हैं।
परिणाम
शोधकर्ताओं ने कई कठिन कार्यों पर इस "टॉर्च" विधि का "लाइब्रेरियन" विधि के विरुद्ध परीक्षण किया:
- गहन शोध (Deep Research): BrowseComp-Plus नामक एक परीक्षण पर, जहाँ एजेंटों को टेक्स्ट के एक बंद पुस्तकालय का उपयोग करके जटिल पहेलियों को हल करना था, टॉर्च विधि ने 80% उत्तर सही दिए, जबकि सबसे अच्छे लाइब्रेरियन तरीके ने केवल 69% प्राप्त किए। इसने चलाने में कम लागत भी ली।
- बहु-चरणीय प्रश्न (Multi-Step Questions): ऐसे प्रश्नों पर जिनमें तर्क के कई चरण आवश्यक थे (जैसे "उस व्यक्ति का भाई कौन है जिसने 2020 में पुरस्कार जीता था?"), टॉर्च विधि ने 83% स्कोर किया, जिसने पिछले सर्वश्रेष्ठ तरीके को पछाड़ दिया जो केवल 52% स्कोर कर पाया था।
- रैंकिंग (Ranking): यहाँ तक कि जब कार्य केवल दस्तावेजों को प्रासंगिकता के आधार पर रैंक करना था, तब भी टॉर्च विधि काफी अधिक सटीक थी।
"रेज़ोल्यूशन" (Resolution) की अवधारणा
यह पत्र एक शानदार अवधारणा पेश करता है जिसे रेज़ोल्यूशन कहा जाता है।
- लो रेज़ोल्यूशन (लाइब्रेरियन): आप पूरी किताब को एक धुंधले धब्बे के रूप में देखते हैं। आप जानते हैं कि यह विषय के बारे में है, लेकिन आप सूक्ष्म विवरण नहीं देख सकते।
- हाई रेज़ोल्यूशन (टॉर्च): आप एक एकल शब्द, एक विशिष्ट वाक्य या एक विशिष्ट पैराग्राफ पर ज़ूम इन कर सकते हैं। आप सटीक वर्तनी और संदर्भ को सत्यापित कर सकते हैं।
लेखकों ने पाया कि टॉर्च विधि इसलिए नहीं जीती क्योंकि उसने अधिक किताबें ढूँढ लीं, बल्कि इसलिए क्योंकि एक बार जब उसे एक प्रासंगिक किताब मिल गई, तो वह पहेली को सुलझाने के लिए आवश्यक सटीक, छोटे टुकड़े को निकालने के लिए ज़ूम इन कर सकी। लाइब्रेरियन विधि अक्सर सही किताब तो ढूंढ लेती थी लेकिन उसके अंदर के विशिष्ट सुराग को स्पष्ट रूप से "देख" नहीं पाती थी।
चुनौती (The Catch)
यहाँ एक ट्रेड-ऑफ (समझौता) है। यदि पुस्तकालय छोटा है, तो लाइब्रेरियन तेज़ है। लेकिन यदि पुस्तकालय बहुत बड़ा है और जासूस को लाखों फाइलों के माध्यम से खोज करनी पड़ती है, तो टॉर्च विधि धीमी और महंगी हो सकती है क्योंकि एजेंट को घास के ढेर में सुई खोजने के लिए अधिक काम करना पड़ता है। हालाँकि, एक बार जब एजेंट एक आशाजनक फाइल ढूंढ लेता है, तो टॉर्च विधि सच्चाई को खोद निकालने में बेजोड़ है।
सारांश में
यह शोध पत्र सुझाव देता है कि स्मार्ट AI एजेंटों के लिए, हमें "खोज" (search) चरण को एक ब्लैक बॉक्स के रूप में मानना बंद कर देना चाहिए जो एक पूर्व-फ़िल्टर की गई सूची सौंप देता है। इसके बजाय, हमें एजेंट को सरल कमांड-लाइन टूल्स का उपयोग करके कच्चे डेटा तक सीधी, उच्च-रिज़ॉल्यूशन पहुंच देनी चाहिए। यह एजेंट को एक मानव शोधकर्ता की तरह कार्य करने की अनुमति देता है: सुरागों की तलाश करना, सटीक विवरणों की जांच करना और साक्ष्य को चरण-दर-चरण जोड़ना, न कि केवल इस उम्मीद में रहना कि लाइब्रेरियन ने सही पन्ने चुने होंगे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।