From Understanding to Action: A Survey on Closed-Loop Multimodal Agents
यह सर्वेक्षण क्लोज्ड-लूप मल्टीमॉडल एजेंटों के लिए एक साक्ष्य-केंद्रित ढांचे का प्रस्ताव करता है, जो 105 शोध पत्रों को पांच साक्ष्य ऑपरेशनों के इर्द-गिर्द व्यवस्थित करता है और प्रक्रिया, ग्राउंडिंग तथा लागत-जोखिम विश्लेषण पर जोर देकर वर्तमान केवल-परिणाम (outcome-only) बेंचमार्क की सीमाओं को संबोधित करने के लिए एक O-P-G-C मूल्यांकन लेंस पेश करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसे कंप्यूटर की कल्पना करें जो न केवल एक तस्वीर को देखकर उसका वर्णन करता है, बल्कि जो देखता है उसका उपयोग वास्तविक दुनिया में कुछ करने के लिए करता है। वर्षों से, आर्टिफिशियल इंटेलिजेंस छवियों, टेक्स्ट और ध्वनि को समझने में बहुत कुशल होता जा रहा है, जो अक्सर एक अत्यंत बुद्धिमान लाइब्रेरियन की तरह कार्य करता है जो सही किताब तो ढूंढ सकता है लेकिन उसे बाहर नहीं ले जा सकता। अब, ये सिस्टम एजेंटों के रूप में विकसित हो रहे हैं जो वेब ब्राउज़र खोल सकते हैं, बटनों पर क्लिक कर सकते हैं, रोबोटिक हाथ हिला सकते हैं, या जानकारी खोज सकते हैं, और यह सब अपने स्वयं के कार्यों के परिणामों को देखते हुए कर सकते हैं। यह बदलाव एक स्थिर पर्यवेक्षक को एक प्रतिभागी में बदल देता है जो अपने परिवेश को बदल सकता है। हालाँकि, जब ये एजेंट गलती करते हैं, तो यह समझना अक्सर कठिन होता है कि ऐसा क्यों हुआ। क्या कंप्यूटर ने स्क्रीन के गलत हिस्से को देखा? क्या इसने उपयोग किए जा रहे उपकरण को गलत समझा? या इसने गलत कारणों से सही उत्तर का अनुमान लगा लिया?
ऑकलैंड विश्वविद्यालय, कैम्ब्रिज विश्वविद्यालय और एडिलेड विश्वविद्यालय के शोधकर्ताओं का एक नया सर्वेक्षण इस बात पर एक नया दृष्टिकोण प्रदान करता है कि ये मल्टीमॉडल एजेंट कैसे काम करते हैं। इन प्रणालियों के बारे में केवल यह सूचीबद्ध करने के बजाय कि वे क्या कर सकते हैं, लेखक उन्हें समझने का एक नया तरीका प्रस्तावित करते हैं: साक्ष्य के पदचिह्नों (trail of evidence) का पीछा करके। उनका तर्क है कि एक एजेंट के वास्तव में विश्वसनीय होने के लिए, उसका प्रत्येक कदम स्पष्ट, निरीक्षण योग्य प्रमाण द्वारा समर्थित होना चाहिए। शोधकर्ताओं ने 105 हालिया अध्ययनों की समीक्षा की ताकि यह मानचित्र बनाया जा सके कि ये एजेंट जानकारी कैसे एकत्र करते हैं, उसे व्यवस्थित करते हैं, बाहरी उपकरणों का उपयोग करते हैं, दुनिया पर कार्य करते हैं, और अपनी गलतियों से सीखते हैं। उन्होंने पाया कि जबकि वर्तमान सिस्टम कार्य पूरा करने में बेहतर हो रहे हैं, हमारे पास अभी भी यह देखने के उपकरण नहीं हैं कि वे इसे कैसे कर रहे हैं, जो अक्सर हमें एक सही उत्तर के साथ छोड़ देता है जो एक अस्थिर या खतरनाक रास्ते से प्राप्त किया गया था।
इस कार्य का मूल विचार यह है कि एक एजेंट की सफलता को केवल इस आधार पर नहीं मापा जाना चाहिए कि उसने काम पूरा किया या नहीं। लेखक सुझाव देते हैं कि हमें हर चरण में एजेंट द्वारा उपयोग किए जाने वाले "साक्ष्य" (evidence) को देखना चाहिए। साक्ष्य को एक दृश्य नोट या हाइलाइट किए गए अनुभाग के रूप में सोचें जो एजेंट द्वारा देखे जाने वाले विवरण को उसके अगले निर्णय से जोड़ता है। यदि कोई एजेंट टिकट खरीदने के लिए बटन पर क्लिक करता है, तो साक्ष्य स्क्रीन का वह विशिष्ट भाग है जिसे उसने बटन खोजने के लिए देखा था। यदि वह साक्ष्य गायब है, धुंधला है, या गलत समझा गया है, तो वह कार्य जोखिम भरा है, भले ही अंततः टिकट खरीदा ही क्यों न गया हो। शोधकर्ताओं ने पूरे अध्ययन क्षेत्र को साक्ष्य को संभालने के पांच प्रमुख तरीकों के इर्द-गिर्द व्यवस्थित किया है। पहला, उन्हें सक्रिय रूप से यह चुनना होगा कि वे कहाँ देखेंगे, न कि केवल सब कुछ एक साथ घूरना। दूसरा, उन्हें उन अवलोकनों को रखने और व्यवस्थित करने के लिए एक मानसिक कार्यक्षेत्र (mental workspace) की आवश्यकता है जबकि वे सोच रहे होते हैं। तीसरा, उन्हें खाली स्थानों को भरने के लिए बाहरी स्रोतों, जैसे कि सर्च इंजन या कैलकुलेटर, तक पहुँचने का ज्ञान होना चाहिए। चौथा, उन्हें ऐसे कार्य करने होते हैं जो दुनिया को बदलते हैं, जैसे कर्सर को हिलाना या रोबोट को, और यह देखना होता है कि दुनिया वापस कैसे बदलती है। अंत में, उन्हें उन कार्यों के परिणामों का उपयोग अपने भविष्य के व्यवहार को सुधारने के लिए करना होता है।
यह सर्वेक्षण बताता है कि वर्तमान में इन प्रणालियों के परीक्षण में एक महत्वपूर्ण अंतर है। अधिकांश मौजूदा बेंचमार्क, जो आर्टिफिशियल इंटेलिजेंस के लिए मानकीकृत परीक्षणों की तरह हैं, लगभग पूरी तरह से अंतिम परिणाम पर ध्यान केंद्रित करते हैं: क्या एजेंट सफल हुआ या विफल हुआ? शोधकर्ताओं ने पाया कि ये परीक्षण प्रक्रिया की जांच शायद ही कभी करते हैं। एक एजेंट एक जटिल कार्य पूरा कर सकता है, लेकिन उसने यह अनुमान लगाकर, महत्वपूर्ण विवरणों को अनदेखा करके, या अनावश्यक जोखिम उठाकर किया होगा जो नुकसान पहुंचा सकता था। लेखक मूल्यांकन के लिए एक नया ढांचा पेश करते हैं जो चार अलग-अलग चीजों को देखता है: परिणाम (outcome), प्रक्रिया (process), ग्राउंडिंग (grounding), और लागत या जोखिम (cost/risk)। 'परिणाम' पूछता है कि क्या काम हो गया है। 'प्रक्रिया' पूछती है कि क्या उठाए गए कदम तार्किक और आवश्यक थे। 'ग्राउंडिंग' यह जाँचती है कि क्या एजेंट ने कार्य करने से पहले वास्तव में सही चीज़ को देखा था। 'लागत-जोखिम' मापता है कि परिणाम प्राप्त करने में कितना समय, पैसा या खतरा शामिल था।
जब शोधकर्ताओं ने इस ढांचे को समीक्षा किए गए 105 शोध पत्रों पर लागू किया, तो एक स्पष्ट पैटर्न सामने आया। क्षेत्र इस मामले में बहुत अच्छा है कि एजेंट कार्य पूरा करता है या नहीं, लेकिन यह जाँचने में बहुत कमजोर है कि क्या एजेंट वहां तक पहुँचने के लिए सही साक्ष्य का उपयोग कर रहा था। उदाहरण के लिए, कंप्यूटर स्क्रीन या रोबट से जुड़े कार्यों में, कई सिस्टम एक लक्ष्य पूरा कर सकते हैं, लेकिन परीक्षण हमेशा यह नहीं दिखाते कि क्या एजेंट ने सही बटन पर क्लिक किया या क्या उसने रोबोट को सुरक्षित रूप से चलाया। लेखक बताते हैं कि साक्ष्य के निशान की जाँच किए बिना, हम यह नहीं जान सकते कि एजेंट वास्तव में बुद्धिमान है या केवल भाग्यशाली है। उन्होंने यह भी पाया कि जब एजेंट विफल होते हैं, तो यह समझना अक्सर कठिन होता है कि त्रुटि कहाँ से शुरू हुई। स्क्रीन को देखने की एक गलती एक खराब योजना की ओर ले जा सकती है, जो एक गलत कार्य की ओर ले जाती है, जो फिर पर्यावरण को इस तरह बदल देती है कि अगला कदम असंभव हो जाता है।
यह शोध पत्र निष्कर्ष निकालता है कि इन एजेंटों को वास्तविक दुनिया की स्थितियों में भरोसेमंद बनाने के लिए, हमें उनके निर्णय लेने की प्रक्रिया को रिकॉर्ड करने और निरीक्षण करने के बेहतर तरीकों की आवश्यकता है। शोधकर्ता सुझाव देते हैं कि भविष्य के परीक्षणों के लिए एजेंटों को अपना काम दिखाना आवश्यक होना चाहिए, ठीक वैसे ही जैसे एक छात्र गणित के चरणों को दिखाता है। इसका अर्थ है कि यह रिकॉर्ड करना कि छवि के किन हिस्सों को देखा गया था, किन उपकरणों का उपयोग किया गया था, और प्रत्येक क्रिया के बाद पर्यावरण कैसे बदला। वे यह भी चेतावनी देते हैं कि जैसे-जैसे ये सिस्टम अधिक शक्तिशाली होते जा रहे हैं, गलत होने के जोखिम भी बढ़ते जा रहे हैं। एक एजेंट जो वीडियो गेम में गलती करता है वह हानिरहित है, लेकिन एक एजेंट जो बैंक खाता प्रबंधित करने या भौतिक रोबोट को नियंत्रित करने के दौरान गलती करता है, वह वास्तविक नुकसान पहुँचा सकता है। इसलिए, साक्ष्य को ट्रैक करने और हर क्रिया की लागत को समझने की क्षमता केवल एक तकनीकी विवरण नहीं है; यह एक सुरक्षा आवश्यकता है।
यह सर्वेक्षण यह दावा नहीं करता है कि इसने पूर्ण एजेंट बनाने की समस्या को हल कर दिया है। इसके बजाय, यह आगे की यात्रा के लिए एक नया मानचित्र प्रदान करता है। अंतिम उत्तर के बजाय साक्ष्य पर ध्यान केंद्रित करके, शोधकर्ता उम्मीद करते हैं कि वे ऐसी प्रणालियों के विकास का मार्गदर्शन करेंगे जो न केवल सक्षम बल्कि पारदर्शी और सुरक्षित भी हों। उनका तर्क है कि अगली पीढ़ी के आर्टिफिशियल इंटेलिजेंस का मूल्यांकन केवल इस आधार पर नहीं किया जाना चाहिए कि वह क्या प्राप्त करता है, बल्कि इस आधार पर किया जाना चाहिए कि वह इसे कैसे प्राप्त करता है। यदि हम ऐसे सिस्टम बना सकते हैं जो अपने प्रत्येक निर्णय के लिए साक्ष्य का एक स्पष्ट, ईमानदार मार्ग छोड़ते हैं, तो हम उन्हें समझने, उनकी कमजोरियों को ठीक करने और उन जटिल, उच्च-जोखिम वाले वातावरणों में तैनात करने के लिए बेहतर रूप से सुसज्जित होंगे जहाँ उनकी सबसे अधिक आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।