When Failures Propagate: Causal Failure Attribution in Agentic Retrieval-Augmented Generation
यह शोध पत्र AgenticRAG-FP को प्रस्तुत करता है, जो एजेंटिक RAG में कारण-संबंधी विफलता एट्रिब्यूशन (causal failure attribution) के लिए एक हस्तक्षेप संबंधी बेंचमार्क है, जो यह प्रकट करता है कि कई रीजनिंग हॉप्स के माध्यम से विफलताओं के प्रसार के दौरान निदान करने में पोस्ट-हॉक सिग्नल लॉस (post-hoc signal loss) काफी अधिक होता है, जहाँ कवरेज-आधारित निदान पहले हॉप पर 0.91 से गिरकर बाद के हॉप्स पर 0.00 हो जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक आर्टिफिशियल इंटेलिजेंस के परिदृश्य में, 'रिट्रीवल-ऑगमेंटेड जनरेशन' (retrieval-augmented generation) नामक एक लोकप्रिय विधि है, जो कंप्यूटर प्रोग्रामों को बोलने से पहले दस्तावेजों के एक विशाल पुस्तकालय से जानकारी खोजकर सवालों के जवाब देने की अनुमति देती है। केवल उस पर निर्भर रहने के बजाय जो मशीन ने याद कर रखा है, यह प्रतिक्रिया बनाने के लिए ताज़ा तथ्यों को प्राप्त करती है। इसका एक अधिक उन्नत संस्करण, जिसे 'एजेंटिक रिट्रीवल' (agentic retrieval) कहा जाता है, कंप्यूटर को थोड़ी अधिक स्वायत्तता देता है। यह एक शोधकर्ता की तरह कार्य करता है जो यह तय कर सकता है कि उसे कोई तथ्य खोजने की आवश्यकता है, उसे पढ़ना है, और फिर यह निर्णय लेना है कि क्या वह तथ्य प्रश्न का उत्तर देने के लिए पर्याप्त है या उसे फिर से खोजने की आवश्यकता है। यह प्रक्रिया एक श्रृंखला (chain) में हो सकती है, जहाँ एक खोज से एक नया प्रश्न जन्म लेता है, जिससे एक और खोज होती है, और यह तब तक चलती रहती है जब तक कि अंतिम उत्तर तक नहीं पहुँच जाता। हालाँकि यह बहु-चरणीय दृष्टिकोण शक्तिशाली है, लेकिन यह एक छिपी हुई समस्या पैदा करता है: यदि कंप्यूटर गलत उत्तर देता है, तो अक्सर यह बताना कठिन होता है कि गलती ठीक कहाँ हुई। त्रुटि पहले चरण में एक खराब खोज के साथ शुरू हुई होगी, लेकिन कंप्यूटर ने बाद में इसे सुधारने का कोई तरीका ढूंढ लिया होगा, या इसने उस गलत जानकारी को अंत तक आगे बढ़ाया होगा। जहाँ यह त्रुटि हुई, उसे समझना इन प्रणालियों को ठीक करने के लिए महत्वपूर्ण है, लेकिन एक एकल त्रुटि से अंतिम गलत उत्तर तक का मार्ग बाद के चरणों द्वारा अक्सर धुंधला कर दिया जाता है।
शोधकर्ताओं ने यह परीक्षण करने का एक नया तरीका विकसित किया है कि हम इन छिपी हुई गलतियों को कितनी अच्छी तरह से खोज सकते हैं। उन्होंने एक नियंत्रित प्रयोग बनाया जहाँ उन्होंने जानबूझकर कंप्यूटर की खोज प्रक्रिया में एक सटीक क्षण पर एक विशिष्ट त्रुटि डाली। कल्पना कीजिए कि एक कंप्यूटर तीन-चरणीय पहेली को हल करने की कोशिश कर रहा है। शोधकर्ता पहले ही चरण में सही दस्तावेज़ को गलत दस्तावेज़ से बदल सकते हैं, या वे प्रक्रिया के बीच में किसी मुख्य तथ्य को बदल सकते हैं। महत्वपूर्ण रूप से, वे केवल अंतिम उत्तर को संपादित नहीं करते हैं; वे कंप्यूटर को उस बिंदु से काम करना जारी रखने देते हैं, जिससे वह उस नए, दोषपूर्ण डेटा के प्रति प्रतिक्रिया दे सके। यह सेटअप उन्हें यह देखने की अनुमति देता है कि क्या एक नैदानिक उपकरण (diagnostic tool), जो घटना के बाद कंप्यूटर के विचारों और कार्यों के पूरे निशान को देखता है, अभी भी उस सटीक क्षण की पहचान कर सकता है जब त्रुटि उत्पन्न हुई थी। मुख्य प्रश्न यह है कि क्या उस प्रारंभिक गलती का संकेत प्रक्रिया के शेष भाग की यात्रा के दौरान जीवित रहता है, या वह बाद के चरणों के शोर में खो जाता है।
इस प्रयोग के परिणाम इन प्रणालियों के माध्यम से त्रुटियों के यात्रा करने के तरीके के बारे में एक कठोर वास्तविकता प्रकट करते हैं। जब शोधकर्ताओं ने एक स्पष्ट, संरचनात्मक त्रुटि डाली—जैसे कि कंप्यूटर को पढ़ने के लिए कोई दस्तावेज़ न देना या उसे पूरी तरह से अप्रासंगिक दस्तावेज़ थमा देना—पहले ही चरण में, तो एक मानक नैदानिक उपकरण उच्च सटीकता के साथ समस्या की पहचान करने में सक्षम था। हालाँकि, जैसे ही त्रुटि को श्रृंखला के दूसरे या तीसरे चरण में पेश किया गया, उसी उपकरण विफल हो गया, और बाद के चरणों से मूल गलती को अलग करने में असमर्थ रहा। अस्सी जटिल प्रश्नों वाले एक कठोर परीक्षण में, उपकरण ने पिचानवे प्रतिशत बार पहले चरण को विफलता के स्रोत के रूप में सही ढंग से पहचाना। लेकिन जब त्रुटि दूसरे या तीसरे चरण में हुई, तो उपकरण की सटीकता शून्य हो गई। श्रृंखला के बाद के चरणों ने प्रारंभिक गलती के स्पष्ट हस्ताक्षर को मिटा दिया, जिससे अंतिम आउटपुट की एक साधारण समीक्षा से यह बताना असंभव हो गया कि समस्या कहाँ से शुरू हुई थी।
शोधकर्ताओं ने एक अधिक सूक्ष्म प्रकार की त्रुटि का भी अन्वेषण किया, जहाँ कंप्यूटर को एक ऐसा दस्तावेज़ दिया जाता है जो पूरी तरह से प्रासंगिक दिखता है लेकिन उसमें एक गलत तथ्य होता है, जैसे कि गलत तारीख या बदला हुआ नाम। ऐसे मामलों में, कंप्यूटर अक्सर बिना तुरंत क्रैश हुए अपना काम जारी रखता है, कभी-कभी भाग्य से सही उत्तर पा लेता है या बाद में अन्य सही जानकारी प्राप्त कर लेता है। जब शोधकर्ताओं ने इस तरह के सूक्ष्म भ्रष्टाचार के बाद कंप्यूटर के विफल होने के कुछ मामलों का विश्लेषण किया, तो उन्होंने पाया कि एक अधिक परिष्कृत विधि, जो यह सिम्युलेट (simulate) करती है कि क्या होता यदि उस विशिष्ट चरण को ठीक कर दिया गया होता, लगभग दो-तिहाई समय में समस्या की पहचान कर सकती थी। यह सुझाव देता है कि जबकि प्रारंभिक त्रुटि एक साधारण नज़र से छिपी हो सकती है, यदि आप यह देखने के लिए अधिक जटिल सिमुलेशन चलाने को तैयार हैं कि कंप्यूटर अलग तरह से व्यवहार करता, तो वह पूरी तरह से अदृश्य नहीं है।
इस कार्य का एक प्रमुख निष्कर्ष यह है कि गलती को पकड़ने की क्षमता इस बात पर बहुत अधिक निर्भर करती है कि कंप्यूटर अपने आप कितनी अच्छी तरह रिकवर (recover) कर पाता है। कई उदाहरणों में, कंप्यूटर एक गलत तथ्य प्राप्त करेगा, लेकिन फिर, बाद के चरण में, एक नया दस्तावेज़ खोज लेगा जो उस गलती को सुधार देता है, जिससे वास्तव में सही उत्तर मिलता है। शोधकर्ताओं ने इन सफल रिकवरी को एक अलग श्रेणी के रूप में माना, यह नोट करते हुए कि वे सिस्टम की लचीलापन (resilience) का प्रतिनिधित्व करते हैं, न कि विफलता का। हालाँकि, उन मामलों के लिए जहाँ कंप्यूटर विफल हुआ, अध्ययन ने दिखाया कि त्रुटि के सटीक मूल को पहचानने के लिए आवश्यक जानकारी अक्सर गायब हो जाती है जैसे ही कंप्यूटर उस गलती के बिंदु से आगे बढ़ता है। एक बाद का चरण एक नया दस्तावेज़ प्राप्त कर सकता है जो अपने आप में ठीक दिखता है, लेकिन वास्तव में वह पिछले त्रुटि का परिणाम होता है, जिससे घटनाओं की एक ऐसी श्रृंखला बनती है जो मूल कारण को छिपा देती है।
यह शोध इन बुद्धिमान प्रणालियों को डीबग (debug) करने के हमारे वर्तमान तरीकों में एक मौलिक सीमा को उजागर करता है। केवल अंतिम उत्तर या प्रक्रिया के अंतिम कुछ चरणों को देखना अक्सर समस्या के स्रोत को खोजने के लिए पर्याप्त नहीं होता है। अध्ययन बताता है कि जैसे-जैसे ये प्रणालियाँ अधिक जटिल होती जाती हैं और निष्कर्ष तक पहुँचने के लिए अधिक कदम उठाती हैं, प्रारंभिक त्रुटि द्वारा छोड़े गए साक्ष्य का निशान पीछा करना कठिन होता जाता है। शोधकर्ता निष्कर्ष निकालते हैं कि इन प्रणालियों के विफल होने के कारणों को वास्तव में समझने के लिए, हमें ऐसे उपकरणों की आवश्यकता है जो अंतिम आउटपुट की सतह से कहीं अधिक गहराई में देख सकें, जो संभावित रूप से सूचना के पथ को पीछे की ओर ट्रेस करने के लिए सिमुलेशन का उपयोग कर सकें। जब तक इन विधियों को परिष्कृत नहीं किया जाता, हमें यह स्वीकार करना होगा कि एक बहु-चरणीय तर्क प्रक्रिया में, शुरुआत में की गई गलती एक ऐसा पदचिह्न छोड़ सकती है जिसे बाद के चरणों द्वारा आसानी से धो दिया जाता है, जिससे हमारे पास एक गलत उत्तर तो होता है लेकिन यह स्पष्ट विचार नहीं होता कि यह कहाँ से शुरू हुआ था।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।