A Retrieval-Augmented Generation Method for Industrial Documents based on Reinforcement Learning
यह शोध पत्र RLo-RAG का प्रस्ताव करता है, जो LoRA के साथ संवर्धित एक सुदृढीकरण लर्निंग-आधारित मल्टी-राउंड रिट्रीवल-ऑगमेंटेड जनरेशन मॉडल है, जो उच्च-प्रासंगिकता वाले दस्तावेज़ चंक्स को पुनरावृत्ति से खोजने के लिए एक गतिशील रिवॉर्ड फंक्शन का उपयोग करता है और पारंपरिक RAG विधियों की तुलना में औद्योगिक दस्तावेज़ों के लिए रिट्रीवल प्रिसिजन और जनरेशन की गुणवत्ता में महत्वपूर्ण सुधार करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक औद्योगिक दुनिया में, कारखाने और इंजीनियरिंग फर्में जटिल दस्तावेजों का अंबार पैदा करती हैं। ये साधारण मैनुअल नहीं हैं, बल्कि तकनीकी रिपोर्टों, उपकरण लॉग और परीक्षण रिकॉर्डों के सघन संग्रह हैं जो महत्वपूर्ण समस्याओं को हल करने की कुंजी रखते हैं। दशकों से, इन विशाल अभिलेखागारों के भीतर विशिष्ट जानकारी खोजना एक धीमा, मैनुअल कार्य रहा है, जो अक्सर किसी कर्मचारी की व्यक्तिगत स्मृति या विशेषज्ञता पर निर्भर करता है। हाल ही में, बड़े भाषा मॉडल (large language models) नामक शक्तिशाली कंप्यूटर प्रोग्रामों ने एक नया रास्ता दिखाया है। ये मॉडल मानवीय भाषा को उल्लेखनीय कौशल के साथ पढ़ और समझ सकते हैं, जो एक सुपर-इंटेलिजेंट सहायक की तरह कार्य करते हैं। हालांकि, जब विशिष्ट औद्योगिक विवरणों के बारे में पूछा जाता है, तो ये सहायक संघर्ष करते हैं क्योंकि उन्हें सामान्य इंटरनेट डेटा पर प्रशिक्षित किया गया था, न कि कारखाने के फर्श के विशिष्ट, खंडित रिकॉर्ड पर। इसे ठीक करने के लिए, शोधकर्ताओं ने 'रिट्रीवल-ऑगमेंटेड जनरेशन' (retrieval-augmented generation) नामक एक विधि विकसित की, जो इस सिद्धांत पर काम करती है कि कंप्यूटर किसी प्रश्न का उत्तर देने से पहले एक निजी डेटाबेस से प्रासंगिक तथ्यों को खोज ले। फिर भी, यह उन्नत विधि भी तब विफल हो जाती है जब किसी प्रश्न के लिए कई दस्तावेजों के बीच कड़ियों को जोड़ने की आवश्यकता होती है, जिससे अधूरे या भ्रमित करने वाले उत्तर मिलते हैं।
तोंगजी विश्वविद्यालय (Tongji University) के शोधकर्ताओं की एक टीम ने इस विशिष्ट चुनौती को हल करने के लिए एक नया सिस्टम बनाया है जो औद्योगिक ज्ञान की अव्यवस्थित और बिखरी हुई प्रकृति को संभालने के लिए डिज़ाइन किया गया है। वे अपने दृष्टिकोण को RLo-RAG कहते हैं, जो एक ऐसी विधि है जो बड़े भाषा मॉडल की शक्ति को 'रीइन्फोर्समेंट लर्निंग' (reinforcement learning) नामक एक तकनीक के साथ जोड़ती है। सरल शब्दों में, रीइन्फोर्समेंट लर्निंग एक कंप्यूटर प्रोग्राम को विभिन्न कार्यों को आज़माने देकर और सही विकल्प चुनने पर उसे पुरस्कृत करके सिखाने का एक तरीका है, ठीक वैसे ही जैसे सही व्यवहार के लिए कुत्ते को ट्रीट देकर प्रशिक्षित किया जाता है। इस प्रणाली में, कंप्यूटर एक जिज्ञासु एजेंट के रूप में कार्य करता है जो केवल एक बार उत्तर खोजने तक सीमित नहीं रहता। इसके बजाय, वह प्रश्नों की एक श्रृंखला पूछता है, प्रत्येक खोज के परिणामों से सीखता है, और सूचना के छूटे हुए हिस्सों को भरने के लिए अपने अगले प्रश्न को परिष्कृत करता है। यह प्रक्रिया तब तक जारी रहती है जब तक कि कंप्यूटर को लगता है कि उसने एक पूर्ण और सटीक उत्तर बनाने के लिए पर्याप्त साक्ष्य एकत्र कर लिए हैं।
शोधकर्ताओं ने पाया कि औद्योगिक दस्तावेज अक्सर 'सिमेंटिक फ्रैगमेंटेशन' (semantic fragmentation) नामक समस्या से ग्रस्त होते हैं। इसका अर्थ यह है कि एक एकल प्रश्न का उत्तर देने के लिए आवश्यक जानकारी विभिन्न अनुभागों, तालिकाओं और यहाँ तक कि अलग-अलग फाइलों में बिखरी हुई होती है। एक पारंपरिक खोज एक परीक्षण प्रक्रिया का वर्णन करने वाला पैराग्राफ तो ढूंढ सकती है, लेकिन दूसरे पृष्ठ पर स्थित एक तालिका में मौजूद विशिष्ट संख्याओं को छोड़ सकती है। यह नया सिस्टम इसे एक गतिशील पुरस्कार प्रणाली (dynamic reward system) का उपयोग करके हल करता है। जैसे-जैसे कंप्यूटर खोज करता है, उसे तीन कारकों के आधार पर फीडबैक मिलता है: मिली हुई जानकारी कितनी प्रासंगिक है, क्या वह उस जानकारी को दोहरा रहा है जिसे वह पहले ही देख चुका है, और वह उत्तर खोजने में कितना तेज़ है। यदि कंप्यूटर एक अत्यधिक प्रासंगिक दस्तावेज़ पाता है, तो उसे पुरस्कार मिलता है। यदि वह एक ही जानकारी को दो बार देखने में समय बर्बाद करता है, तो उसे दंड (penalty) मिलता है। महत्वपूर्ण रूप से, सिस्टम समय के साथ इन पुरस्कारों को समायोजित करता है। सीखने के शुरुआती चरणों में, यह उच्च गुणवत्ता वाली जानकारी खोजने पर भारी ध्यान केंद्रित करता है, लेकिन जैसे-जैसे यह बेहतर होता जाता है, यह अच्छी जानकारी खोजने और कार्य को कुशलतापूर्वक पूरा करने के बीच संतुलन बनाना सीख जाता है।
इस विचार का परीक्षण करने के लिए, शोधकर्ताओं ने एक प्रोटोटाइप सिस्टम बनाया और इसे LoRA नामक एक तकनीक का उपयोग करके प्रशिक्षित किया, जो उन्हें कंप्यूटर को उसके पूरे मस्तिष्क को शून्य से बनाए बिना विशिष्ट कौशल सिखाने की अनुमति देता है। उन्होंने सिस्टम का परीक्षण दो प्रसिद्ध डेटासेट्स पर किया जिन्हें कंप्यूटर को उन प्रश्नों के साथ चुनौती देने के लिए डिज़ाइन किया गया था जिनमें कई तथ्यों को जोड़ने की आवश्यकता होती है। परिणामों ने दिखाया कि उनकी नई विधि मौजूदा दृष्टिकोणों से काफी बेहतर प्रदर्शन करती है। जहाँ पुराने तरीके अक्सर मुख्य विवरणों को मिस कर देते थे या एक ही जानकारी खोजने के लूप में फंस जाते थे, वहीं नए सिस्टम ने एक टेस्ट सेट पर 88.9 प्रतिशत मामलों में सही जानकारी सफलतापूर्वक प्राप्त की। इसने ऐसे उत्तर भी उत्पन्न किए जो अन्य उन्नत मॉडलों द्वारा दिए गए उत्तरों की तुलना में अधिक सटीक और बेहतर व्यवस्थित थे। शोधकर्ताओं ने नोट किया कि सिस्टम की यह निर्णय लेने की क्षमता कि कब खोजना बंद करना है और कब खोज जारी रखनी है, इसकी सफलता का एक प्रमुख कारक थी, जिससे यह अनावश्यक समय बर्बाद करने से बच सका और यह भी सुनिश्चित हुआ कि कोई महत्वपूर्ण तथ्य छूट न जाए।
टीम ने अपने तरीके की तुलना रीइन्फोर्समेंट लर्निंग के अन्य तरीकों से भी की ताकि यह देखा जा सके कि क्या उनका विशिष्ट दृष्टिकोण सबसे अच्छा विकल्प है। उन्होंने पाया कि उनकी रणनीति, जो कंप्यूटर की सीखने की प्रक्रिया को सावधानीपूर्वक संतुलित करती है, अन्य लोकप्रिय तरीकों की तुलना में अधिक स्थिर और प्रभावी थी। यह स्थिरता औद्योगिक सेटिंग्स में अत्यंत महत्वपूर्ण है जहाँ एक गलत उत्तर महंगे नुकसान का कारण बन सकता है। अपने सीखने के लक्ष्यों का सहज, चरण-दर-चरण समायोजन करके, सिस्टम उस भ्रम से बच गया जो तब होता है जब एक कंप्यूटर एक साथ बहुत सी चीजें सीखने की कोशिश करता है। शोधकर्ताओं ने अपने निष्कर्षों को कई बार प्रयोग करके मान्य किया ताकि यह सुनिश्चित हो सके कि परिणाम सुसंगत हैं और केवल एक इत्तेफाक नहीं हैं। उन्होंने नागरिक विमान निर्माण (civil aircraft manufacturing) से जुड़े एक वास्तविक उदाहरण के साथ सिस्टम की क्षमता का प्रदर्शन भी किया, जिससे दिखाया गया कि कैसे यह पाठ, तालिकाओं और आरेखों से विद्युत परीक्षण आवश्यकताओं के बारे में जानकारी को जोड़कर एक पूर्ण उत्तर प्रदान कर सकता है।
हालाँकि यह सिस्टम बहुत आशाजनक है, शोधकर्ता स्वीकार करते हैं कि अभी भी काम किया जाना बाकी है। वर्तमान में, सिस्टम छवियों और तालिकाओं से जुड़ने के लिए टेक्स्ट विवरणों पर निर्भर करता है, जिसका अर्थ है कि यह समझता है कि एक पैराग्राफ किसी विशिष्ट चार्ट का उल्लेख करता है, लेकिन यह उस चार्ट की दृश्य सामग्री का गहराई से विश्लेषण नहीं करता है। भविष्य के सुधारों से सिस्टम सीधे छवियों और आरेखों को "देखने" और समझने में सक्षम हो सकेंगे, न कि केवल उस टेक्स्ट को पढ़ने में जो उनकी ओर संकेत करता है। इस सीमा के बावजूद, यह अध्ययन जटिल, वास्तविक दुनिया के औद्योगिक कार्यों के लिए आर्टिफिशियल इंटेलिजेंस को उपयोगी बनाने की दिशा में एक महत्वपूर्ण कदम प्रदर्शित करता है। कंप्यूटर को मानव विशेषज्ञों की तरह सोचने के लिए सिखाकर—पुनरावृत्ति करना, अपने काम की जाँच करना और यह जानना कि उनके पास पर्याप्त जानकारी है या नहीं—शोधकर्ताओं ने एक ऐसा उपकरण बनाया है जो कारखानों और इंजीनियरों को उनके विशाल दस्तावेज़ अभिलेखागारों का पूरा मूल्य अनलॉक करने में मदद कर सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।