Toward Effective and Reliable LLM Agents via Dynamic Ontology
यह शोध पत्र OaK को प्रस्तुत करता है, जो एक ऐसा ढांचा है जो ज्ञान और संबंधों को स्पष्ट रूप से ग्राउंड करने के लिए कार्य-उन्मुख ऑन्टोलॉजी (ontologies) का गतिशील रूप से निर्माण और परिशोधन करता है, जिससे लार्ज लैंग्वेज मॉडल एजेंटों में बहु-चरणीय तर्क (multi-step reasoning) की साक्ष्य उपयोगिता और विश्वसनीयता में वृद्धि होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की तेजी से बदलती दुनिया में, "लार्ज लैंग्वेज मॉडल" के रूप में ज्ञात एक विशिष्ट प्रकार का सॉफ्टवेयर मानव भाषा को समझने और उत्पन्न करने के लिए एक शक्तिशाली उपकरण के रूप में उभरा है। इन मॉडलों का उपयोग अक्सर "एजेंट्स" बनाने के लिए किया जाता है, जो ऐसे प्रोग्राम हैं जिन्हें न केवल चैट करने के लिए, बल्कि कार्यों को छोटे चरणों में तोड़कर जटिल कार्य करने के लिए डिज़ाइन किया गया है, जैसे कि जानकारी खोजना, डिजिटल उपकरणों का उपयोग करना और जो वे पाते हैं उसके आधार पर निर्णय लेना। हालाँकि, जैसे-जैसे ये एजेंट लंबे और अधिक जटिल कार्यों को करने का प्रयास करते हैं, वे अक्सर संघर्ष करते हैं। वे उन तथ्यों को ट्रैक करने में असमर्थ हो जाते हैं जिनकी उन्हें आवश्यकता होती है, ऐसी तार्किक छलांग लगा देते हैं जो टिक नहीं पातीं, या त्रुटियों के चक्र में फंस जाते हैं क्योंकि वे अपनी स्वयं की मेमोरी में संग्रहीत विशाल, असंरचित ज्ञान पर बहुत अधिक निर्भर होते हैं। इसे हल करने के लिए, शोधकर्ता इन एजेंटों को उस दुनिया का एक स्पष्ट, अधिक व्यवस्थित मानचित्र देने के तरीके तलाश रहे हैं जिसमें वे नेविगेट कर रहे हैं, यह सुनिश्चित करते हुए कि उनका हर कदम अनुमान के बजाय विश्वसनीय साक्ष्य पर आधारित हो।
नांजिंग यूनिवर्सिटी और अन्य संस्थानों के शोधकर्ताओं ने इन विश्वसनीयता संबंधी समस्याओं को संबोधित करने के लिए OaK नामक एक नया ढांचा विकसित किया है। उनका कार्य एक अवधारणा पर केंद्रित है जिसे "ऑन्टोलॉजी" (ontology) कहा जाता है, जो अनिवार्य रूप से अवधारणाओं का एक संरचित शब्दकोश है और उनके बीच के संबंधों का विवरण है, जिसे इस तरह लिखा गया है कि कंप्यूटर सख्ती से इसकी व्याख्या कर सकें। जबकि इन संरचनाओं को बनाने के पारंपरिक तरीकों के लिए विशेषज्ञों को हर नियम को मैन्युअल रूप से परिभाषित करने की आवश्यकता होती है—जो एक धीमी और कठिन प्रक्रिया है—नया सिस्टम विशेष रूप से उस कार्य के लिए इन मानचित्रों के निर्माण को स्वचालित करता है। शोधकर्ताओं ने पाया कि प्रत्येक कार्य के लिए एक कस्टम, गतिशील संरचना बनाकर, वे एक एजेंट के बहु-चरणीय कार्यों की योजना बनाने और उन्हें निष्पादित करने की क्षमता में काफी सुधार कर सकते हैं, जिससे यह प्रक्रिया अधिक पारदर्शी और विफलता के प्रति कम संवेदनशील हो जाती है।
O-a-K सिस्टम का मूल एक दो-चरणीय प्रक्रिया है जो एजेंट द्वारा वास्तविक दुनिया के कार्य को करने से पहले ही घटित होती है। सबसे पहले, सिस्टम प्रशिक्षण उदाहरणों के एक सेट और किसी कार्य की विशिष्ट आवश्यकताओं को देखता है, जैसे कि यात्रा की योजना बनाना या ग्राहक डेटा प्रबंधित करना। इसके बाद, यह स्वचालित रूप से एक 'स्कीमा' (schema) का मसौदा तैयार करता है, जो एक ब्लूप्रिंट है जो शामिल महत्वपूर्ण सूचना प्रकारों, जैसे कि "होटल", "फ्लाइट्स" या "बजट", और उनके बीच के जुड़ाव को परिभाषित करता है। यह ब्लूप्रिंट केवल एक सूची नहीं है; इसे एक लॉजिकल रीज़नर (logical reasoner) द्वारा कड़ाई से जांचा जाता है ताकि यह सुनिश्चित किया जा सके कि इसमें कोई विरोधाभास या छूटे हुए नियम न हों। यदि ब्लूप्रिंट दोषपूर्ण है, तो सिस्टम आगे बढ़ने से पहले इसे ठीक करता है। एक बार जब ब्लूप्रिंट ठोस हो जाता है, तो सिस्टम एक नॉलेज ग्राफ बनाता है, जो प्रशिक्षण सामग्री से प्राप्त वास्तविक डेटा बिंदुओं का एक नेटवर्क है, जिसे ब्लूप्रिंट के नियमों के अनुसार सटीक रूप से व्यवस्थित किया गया है।
इस संरचित आधार के साथ, सिस्टम विशेष उपकरणों, या 'फंक्शन्स' का एक सेट बनाता है जिन्हें एजेंट उपयोग कर सकता है। एजेंट से खुद से फ्लाइट खोजने, कीमत के आधार पर फ़िल्टर करने और उपलब्धता की जांच करने के लिए पूछने के बजाय, सिस्टम पूर्व-निर्मित उपकरण प्रदान करता है जो इन विशिष्ट कार्यों को सही ढंग से करते हैं। एजेंट फिर इन उपकरणों का उपयोग समस्याओं को हल करने के लिए करता है, जिसका मार्गदर्शन ब्लूप्रिंट के सख्त नियमों द्वारा किया जाता है। यदि एजेंट कोई गलती करता है या कार्य विफल हो जाता है, तो एक "जज" मॉडल पूरी प्रक्रिया की समीक्षा करता है, पहचानता है कि ब्लूप्रिंट या टूल्स में कहाँ गलती हुई, और सुधार के सुझाव देता है। निर्माण, परीक्षण और शोधन का यह चक्र कई बार दोहराया जाता है जब तक कि सिस्टम अनदेखे प्रश्नों को संभालने के लिए पर्याप्त मजबूत न हो जाए। परिणाम एक "कर्नेल" (kernel) है, जो एक स्थिर, विश्वसनीय इंटरफेस है जिसका उपयोग एजेंट डेटा के साथ बातचीत करने के लिए करता है, यह सुनिश्चित करते हुए कि एजेंट का हर निर्णय साक्ष्य द्वारा समर्थित है और वह गलती से तथ्य गढ़ नहीं सकता या बाधाओं को अनदेखा नहीं कर सकता।
शोधकर्ताओं ने इस दृष्टिकोण का परीक्षण तीन बहुत अलग प्रकार की चुनौतियों पर किया ताकि यह देखा जा सके कि क्या यह वास्तविक दुनिया में टिकता है। पहला एक यात्रा योजना कार्य था जहाँ एक एजेंट को बजट और समय सारणी की सख्त सीमाओं का पालन करते हुए फ्लाइट, होटल, भोजन और गतिविधियों की व्यवस्था करनी थी। दूसरे में व्यावसायिक सेटिंग में ग्राहक संबंधों का प्रबंधन करना शामिल था, जिसके लिए एजेंट को जटिल कंपनी नीतियों का पालन करने और विशिष्ट रिकॉर्ड प्राप्त करने की आवश्यकता थी। तीसरे ने विस्तृत प्रश्नों के उत्तर देने के लिए विभिन्न बाहरी स्रोतों, जैसे कि फ्लाइट डेटाबेस और रेस्टोरेंट समीक्षाओं, से जानकारी को संयोजित करने की क्षमता का परीक्षण किया। हर मामले में, O-a-K सिस्टम ने मानक तरीकों से बेहतर प्रदर्शन किया। उदाहरण के लिए, यात्रा योजना कार्य पर, सिस्टम ने एक बेस मॉडल का उपयोग करते हुए एक पूर्ण, वैध यात्रा कार्यक्रम को पूरा करने की सफलता दर को लगभग 15 प्रतिशत से बढ़ाकर लगभग 56 प्रतिशत कर दिया, और दूसरे मॉडल के साथ लगभग 4 प्रतिशत से लगभग 20 प्रतिशत तक पहुँचा दिया। इसने व्यावसायिक और डेटा कार्यों में भी महत्वपूर्ण लाभ दिखाया, विशेष रूप से उन परिदृश्यों में जहाँ एजेंट को सख्त नियमों का पालन करने या कई तालिकाओं से डेटा संयोजित करने की आवश्यकता थी।
अध्ययन ने यह भी खुलासा किया कि ये सुधार क्यों हुए। जब शोधकर्ताओं ने कस्टम-निर्मित टूल्स को हटा दिया या सिस्टम को कई दौर में अपने ब्लूप्रिंट को परिष्कृत करने से रोक दिया, तो प्रदर्शन में भारी गिरावट आई। यह इंगित करता है कि एजेंट को केवल डेटा तक पहुंच देना ही पर्याप्त नहीं था; एजेंट को अपने कार्यों को प्रभावी ढंग से समन्वित करने के लिए संरचित नियमों और पूर्व-पैकेज्ड टूल्स की आवश्यकता थी। सिस्टम ने काम किया क्योंकि इसने एजेंट की तर्क प्रक्रिया को दृश्यमान और नियंत्रित बनाया, जिससे उसे बिना समर्थित धारणाओं के भटकने से रोका जा सका। हालांकि नए तरीके को चलने के लिए थोड़ा अधिक समय की आवश्यकता थी और इसने कुछ सरल दृष्टिकोणों की तुलना में अधिक आउटपुट टेक्स्ट उत्पन्न किया, लेकिन इसने कम 'इनपुट टोकन' का उपयोग किया, जो बताता है कि संरचित इंटरफेस ने एजेंट को आवश्यक जानकारी को संसाधित करने में अधिक कुशल बनाया। शोधकर्ताओं ने निष्कर्ष निकाला कि डोमेन ज्ञान को एक निष्पादन योग्य, स्व-सुधार योग्य इंटरफेस में बदलकर, वे आर्टिफिशियल इंटेलिजेंस एजेंटों को अधिक विश्वसनीय, भरोसेमंद और वास्तविक दुनिया के अनुप्रयोगों के लिए आवश्यक जटिल, बहु-चरणीय तर्क को संभालने में सक्षम बना सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।