Agentic AI for Complex Decision-Making: A Systematic Critical Review of Planning, Memory, Tools, Safety and Assurance in Autonomous Systems
जून 2026 तक के 98 स्रोतों की यह व्यवस्थित आलोचनात्मक समीक्षा एक नए क्लोज्ड-लूप फ्रेमवर्क के माध्यम से एजेंटिक एआई (Agentic AI) के नियोजन, स्मृति, टूल और सुरक्षा का मूल्यांकन करती है, जो यह प्रकट करती है कि अंतर्निहित आत्म-सुधार अविश्वसनीय है, दीर्घकालिक नियोजन अभी भी कमजोर है, और टूल का उपयोग करने वाले एजेंट इंजेक्शन के प्रति संवेदनशील हैं, जबकि एक ऑडिट योग्य साक्ष्य मैट्रिक्स और भविष्य के विकास के लिए एक प्राथमिकता प्राप्त रोडमैप प्रदान करती है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसे कंप्यूटर प्रोग्राम की कल्पना करें जो केवल पूछे जाने पर प्रश्न का उत्तर नहीं देता, बल्कि अपने आप में एक समस्या को हल करने का लक्ष्य रखता है। यह एक अव्यवस्थित स्थिति को देख सकता है, उसे चरणों में तोड़ सकता है, जो कुछ उसने सीखा है उसे याद रख सकता है, वेब ब्राउज़र या कोड एडिटर जैसे डिजिटल उपकरणों का उपयोग कर सकता है, और काम पूरा करने के लिए अन्य प्रोग्रामों से बात भी कर सकता है। यह "एजेंटिक" (agentic) आर्टिफिशियल इंटेलिजेंस का वादा है। वर्षों तक, कंप्यूटर वाक्य में अगले शब्द का अनुमान लगाने या फोटो में चेहरे को पहचानने में उत्कृष्ट थे, लेकिन वे प्रतिक्रियात्मक (reactive) थे; वे एक कमांड का इंतजार करते थे। इन प्रणालियों की नई पीढ़ी सक्रिय (proactive) है। उन्हें लंबी अवधि तक कार्य करने के लिए डिज़ाइन किया गया है, जिससे एक लक्ष्य तक पहुँचने के लिए निर्णयों का एक क्रम बनाया जा सके, ठीक वैसे ही जैसे एक इंसान किसी जटिल सॉफ्टवेयर बग को ठीक करते समय या वैज्ञानिक प्रयोग की योजना बनाते समय करता है। वह प्रश्न जिसने शोधकर्ताओं को कुछ समय से प्रेरित किया है, वह यह है कि क्या इन डिजिटल एजेंटों पर निरंतर मानवीय पर्यवेक्षण के बिना इस कार्य को विश्वसनीय रूप से करने के लिए भरोसा किया जा सकता है।
वैलोर इंस्टीट्यूट ऑफ टेक्नोलॉजी और यूनिवर्सिटी टंकु अब्दुल रहमान के शोधकर्ताओं द्वारा प्रकाशित एक नया, व्यापक समीक्षा, इस प्रश्न पर कड़ी नज़र डालती है। लेखकों ने केवल नवीनतम आविष्कारों की सूची नहीं बनाई या यह वर्णन नहीं किया कि ये सिस्टम कैसे बनाए जाते हैं। इसके बजाय, उन्होंने ऑडिटरों की तरह काम किया, जो मध्य-2026 तक प्रकाशित लगभग एक सौ अध्ययनों से साक्ष्य एकत्र करते हैं और उनका वजन करते हैं। उनका लक्ष्य इन एजेंटों की वास्तविक क्षमताओं को उनके प्रचार (hype) से अलग करना था, यह जांचना कि क्या ये सिस्टम कठिन, बहु-चरणीय कार्यों का सामना करने पर विज्ञापित प्रदर्शन के अनुरूप काम करते हैं। उन्होंने पाया कि हालांकि तकनीक तेजी से आगे बढ़ रही है, लेकिन इन एजेंटों के जो एक नियंत्रित परीक्षण में कर सकते हैं और जो वे वास्तविक दुनिया में कर सकते हैं, उनके बीच महत्वपूर्ण अंतर हैं। समीक्षा बताती है कि इन प्रことで प्रणालियों की वर्तमान पीढ़ी अभी उच्च-दांव वाले, स्वतंत्र कार्य के लिए तैयार नहीं है, और आगे का रास्ता केवल कंप्यूटर के अधिक स्मार्ट होने की प्रतीक्षा करने के बजाय विशिष्ट सुरक्षा संरचनाएं बनाने की आवश्यकता पर बल देता है।
शोधकर्ताओं ने एजेंट अनुसंधान के अराजक परिदृश्य को एक स्पष्ट मानचित्र में व्यवस्थित करके शुरुआत की। उन्होंने पहचान की कि ये प्रणालियाँ चार मुख्य क्षमताओं पर निर्भर करती हैं: कार्य की योजना बनाना, समय के साथ जानकारी को याद रखना, बाहरी उपकरणों का उपयोग करना, और अन्य एजेंटों के साथ समन्वय करना। उन्होंने यह भी नोट किया कि एक प्रणाली जो केवल पहले से लिखे गए स्क्रिप्ट का पालन करती है और एक जो वास्तव में अपने स्वयं के विकल्प चुनती है, के बीच एक महत्वपूर्ण अंतर है। इन प्रणालियों की विश्वसनीयता का परीक्षण करने के लिए, लेखकों ने एक मानक ढांचा प्रस्तावित किया जिसमें दो सुरक्षा चेकपॉइंट शामिल हैं जो वर्तमान में अधिकांश डिजाइनों में गायब हैं। पहला चेकपॉइंट एक सत्यापन (verification) चरण है, जहाँ एक अलग प्रक्रिया कार्य निष्पादित करने से पहले एजेंट की योजना की जाँच करती है। दूसरा एक सुरक्षा द्वार (safety gate) है, जो एक नियम-आधारित बाधा है जो एजेंट को खतरनाक कार्य करने से रोकती है, जैसे कि महत्वपूर्ण फाइलों को हटाना या निजी डेटा को गलत जगह भेजना।
जब टीम ने वर्तमान में मौजूद दस सबसे प्रमुख एजेंट प्रणालियों पर इस ढांचे को लागू किया, तो परिणाम निराशाजनक थे। दस में से कोई भी प्रणाली इन दोनों महत्वपूर्ण सुरक्षा चेकपॉइंट्स को पूरी तरह से लागू नहीं करती है। अधिकांश प्रणालियाँ "करने" वाले हिस्सों में उत्कृष्ट थीं—विचार उत्पन्न करना, टूल्स को कॉल करना और आगे बढ़ना—लेकिन वे "जांचने" वाले हिस्सों में आश्चर्यजनक रूप से कमजोर थीं। उनमें अक्सर कार्य करने से पहले अपनी ही योजनाओं को सत्यापित करने का तरीका नहीं था, और उनके पास हानिकारक गलतियों को रोकने के लिए कोई सख्त रोक (hard stop) भी नहीं थी। लेखकों ने पाया कि कार्य करने वाली मशीनरी, कार्य को सुरक्षित सुनिश्चित करने वाली मशीनरी की तुलना में बहुत अधिक विकसित थी। यह असंतुलन खतरनाक है क्योंकि, जैसा कि शोधकर्ताओं ने दिखाया, योजना में छोटी त्रुटियां समय के साथ जमा होती जाती हैं। यदि एक एजेंट लंबे कार्य के पहले चरण में गलती करता है, तो वह त्रुटि एक श्रृंखला (cascade) बना सकती है, जिससे अंत में पूर्ण विफलता हो सकती है, भले ही एजेंट प्रगति करता हुआ प्रतीत हो रहा हो।
सबसे महत्वपूर्ण निष्कर्षों में से एक स्व-सुधार (self-correction) के विचार से संबंधित है। कई डेवलपर्स ने आशा की थी कि ये एजेंट अपने काम को देख सकेंगे, गलती पहचान सकेंगे और उसे ठीक कर सकेंगे। समीक्षा ने पाया कि यह उम्मीद काफी हद तक गलत है। जब एक एजेंट बाहरी मदद के बिना खुद को सुधारने की कोशिश करता है, तो वह अक्सर अपनी गलतियों को पहचानने में विफल रहता है या, और भी बुरा, समस्या को और बिगाड़ देता है। साक्ष्य बताते हैं कि स्व-सुधार केवल तभी विश्वसनीय रूप से काम करता है जब एजेंट को एक बाहरी स्रोत से फीडबैक मिलता है, जैसे कि एक टेस्ट रिजल्ट, एक मानव समीक्षक, या एक टूल जो पुष्टि करता है कि क्या कोई चरण सफल रहा। उस बाहरी आवाज के बिना, एजेंट आत्मविश्वासी लेकिन गलत तर्क के चक्र में फंसने के प्रति संवेदनशील होता है।
समीक्षा ने इस लोकप्रिय विचार की भी जांच की कि कई एजेंटों का एक साथ मिलकर काम करना हमेशा एक अकेले एजेंट से बेहतर होता है। शोधकर्ताओं ने पाया कि यह स्वतः ही सत्य नहीं है। जबकि एजेंटों की टीमें जटिल समस्याओं को हल कर सकती हैं, वे अक्सर एक ही मात्रा में कंप्यूटिंग शक्ति दिए जाने पर एक अच्छी तरह से डिज़ाइन किए गए एकल एजेंट से बेहतर प्रदर्शन करने में विफल रहती हैं। कई मामलों में, टीम के एजेंट एक ही गलती को दोहराते हैं या एक-दूसरे से भ्रमित हो जाते हैं, जिसे "ग्रुप हैलुसिनेशन" (group hallucination) कहा जाता है। टीम वर्क के लाभ केवल विशिष्ट परिस्थितियों में ही दिखाई देते हैं, जैसे कि जब एजेंटों के पास अलग-अलग, गैर-अतिव्यापी कौशल हों और जब उनकी त्रुटियां एक-दूसरे को सुदृढ़ न करें।
समीक्षा के सबसे महत्वपूर्ण अंतर्दृष्टि में से एक सुरक्षा के बारे में है। लेखक तर्क देते हैं कि सुरक्षा कोई बाद में जोड़ी जाने वाली चीज़ या प्रक्रिया के अंत में जोड़ा गया एक साधारण फिल्टर नहीं हो सकती। क्योंकि ये एजेंट वास्तविक दुनिया के कार्य कर सकते हैं, इसलिए सुरक्षा को उनके निर्णय लेने के तरीके के मूल ढांचे में बनाया जाना चाहिए। समीक्षा इस बात पर प्रकाश डालती है कि वर्तमान सुरक्षा उपाय, जो कंप्यूटर को हानिकारक अनुरोधों को अस्वीकार करने के लिए प्रशिक्षित करने पर केंद्रित हैं, पर्याप्त नहीं हैं। एक सिस्टम को विनम्र होने और कुछ बुरा कहने से मना करने के लिए प्रशिक्षित किया जा सकता है, लेकिन यदि इसे उस वेबसाइट द्वारा दिए गए किसी छिपे हुए निर्देश द्वारा धोखा दिया जाता है जिसे वह विज़िट करता है, तो यह फिर भी एक हानिकारक कार्य कर सकता है। शोधकर्ता निष्कर्ष निकालते हैं कि विश्वसनीय एजेंटों को "डिफेंस इन डेप्थ" (defense in depth) दृष्टिकोण की आवश्यकता है, जहाँ अनुमति जाँच और सैंडबॉक्स्ड वातावरण सहित सुरक्षा की कई परतें एजेंट के निर्णय और वास्तविक दुनिया के बीच खड़ी हों।
अंत में, टीम ने देखा कि स्वास्थ्य सेवा, वित्त और सार्वजनिक सेवाओं जैसे महत्वपूर्ण क्षेत्रों में ये प्रणालियाँ वास्तविक दुनिया के उपयोग के लिए कितनी तैयार हैं। उन्होंने पाया कि उच्चतम-दांव वाले क्षेत्रों के लिए, इन एजेंटों के स्वतंत्र रूप से काम करने का लगभग कोई प्रमाण नहीं है। सॉफ्टवेयर इंजीनियरिंग जैसे डोमेन में, जहाँ जोखिम कम है और गलतियों को आसानी से सुधारा जा सकता है, सफलता के कुछ प्रमाण हैं, लेकिन वहाँ भी, सिस्टम लंबे, जटिल कार्यों के साथ संघर्ष करते हैं। समीक्षा का सुझाव है कि वर्तमान तकनीक को एक "उभरती हुई क्षमता" के रूप में वर्णित किया जा सकता है जो अभी भी इसे विश्वसनीय बनाने के लिए आवश्यक बुनियादी ढांचे की प्रतीक्षा कर रही है। आगे का रास्ता केवल स्मार्ट मॉडल बनाने के बारे में नहीं है, बल्कि सत्यापन, सुरक्षा और जवाबदेही के लिए बेहतर सिस्टम बनाने के बारे में है। शोधकर्ता अगले कुछ वर्षों के लिए एक रोडमैप का प्रस्ताव करते हैं जो इन संरचनात्मक सुधारों को प्राथमिकता देता है, और उनका तर्क है कि जब तक ये नींव स्थापित नहीं हो जाती, तब तक महत्वपूर्ण क्षेत्रों में पूरी तरह से स्वायत्त एजेंटों की तैनाती करना अत्यधिक जोखिम भरा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।