AdvPlan-Bench: Adversarial Evaluation of Structured Plan-Generation Agents
यह शोध पत्र AdvPlan-Bench प्रस्तुत करता है, जो एक पुनरुत्पादक ऑफलाइन बेंचमार्क है जिसे टाइप किए गए एक्शन चेन्स (typed action chains), नैश-गैप डायग्नोस्टिक्स (Nash-gap diagnostics) और मल्टी-एजेंट क्रिटीक (multi-agent critique) का उपयोग करते हुए, योजना की मजबूती (plan robustness) और रिस्पॉन्स-बजट संवेदनशीलता (response-budget sensitivity) को मापने के लिए प्रतिकूल प्रतिक्रिया परिदृश्यों (adversarial response scenarios) के माध्यम से संरचित योजना-निर्माण एजेंटों (structured plan-generation agents) का मूल्यांकन करने के लिए डिज़ाइन किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक शतरंज का मैच देख रहे हैं, लेकिन आप केवल अंतिम चाल को नहीं देखना चाहते, बल्कि आप यह जानना चाहते हैं कि यदि आपका प्रतिद्वंद्वी हर एक कदम पर एक सुपरकंप्यूटर की मदद से सबसे सटीक जवाबी चाल खोजने की कोशिश करे, तो खेल कैसे बदल जाएगा। यह कृत्रिम बुद्धिमत्ता (AI) में "एडवर्सरियल इवैल्यूएशन" (प्रतिपक्षी मूल्यांकन) की दुनिया है। सरल शब्दों में, यह एक स्मार्ट कंप्यूटर प्रोग्राम का परीक्षण करने के बारे में है कि वह केवल एक पहेली को हल करने में सक्षम है या नहीं, बल्कि इस पर भी कि वह तब कैसा प्रदर्शन करता है जब एक प्रतिद्वंद्वी सक्रिय रूप से उसके समाधान को तोड़ने की कोशिश कर रहा हो। आमतौर पर, हम AI से पूछते हैं, "क्या आपने कार्य पूरा किया?" लेकिन वास्तविक दुनिया में, योजनाएं अक्सर इसलिए विफल हो जाती हैं क्योंकि कोई दूसरा व्यक्ति सोच रहा होता है, "मैं इसे कैसे रोक सकता हूँ?" यह शोध पत्र इस जटिल, प्रतिस्पर्धी क्षेत्र में कदम रखता है ताकि यह देख सके कि हमारे AI प्लानर्स वास्तव में मजबूत हैं या केवल भाग्यशाली।
इस अध्ययन के पीछे के शोधकर्ता, जो अनोट AI (Anote AI) और कई विश्वविद्यालयों की एक टीम है, ने देखा कि हम इन "प्लान-जनरेशन एजेंट्स" (योजना बनाने वाले एजेंटों) का परीक्षण करने के तरीके में एक कमी है। अधिकांश परीक्षण एक छात्र को गणित का सवाल देने और यह जांचने जैसे हैं कि उत्तर सही है या नहीं। लेकिन एक वास्तविक लड़ाई या जटिल रणनीति वाले खेल में, उत्तर पूरी तरह से इस पर निर्भर करता है कि दूसरा पक्ष क्या करता है। इसे ठीक करने के लिए, उन्होंने AdvPlan-Bench बनाया है। इसे एक नया रोबोट न समझें जो आपका होमवर्क कर सकता है, बल्कि इसे AI प्लानर्स के लिए एक बहुत ही सख्त, बहुत ही विशिष्ट "स्ट्रेस-टेस्ट जिम" के रूप में देखें। यह एक ऐसा खेल का मैदान है जहाँ एक नीला दल (प्लानर) एक संरचित योजना बनाने की कोशिश करता है, और एक लाल दल (प्रतिद्वंद्वी) उसे विफल करने का सबसे अच्छा तरीका खोजने की कोशिश करता है। इसका लक्ष्य एक सुपर-सोल्जर बनाना नहीं है; बल्कि एक बेहतर पैमाना बनाना है जिससे यह मापा जा सके कि दबाव के समय सैनिक वास्तव में कितने मजबूत होते हैं।
ब्लू बनाम रेड का खेल
AdvPlan-Bench का मूल विचार योजना को एक स्थिर कागज के टुकड़े की तरह मानना बंद करना है। इसके बजाय, वे इसे एक खेल में एक चाल की तरह मानते हैं जहाँ प्रतिद्वंद्वी को पहले सोचने का मौका मिलता है। उनके सेटअप में, एक "ब्लू" एजेंट एक योजना बनाता है—लक्ष्यों और नियमों के साथ कार्यों की एक श्रृंखला। फिर, एक "रेड" एजेंट एक प्रतिक्रिया उत्पन्न करने की कोशिश करता है। मोड़ क्या है? रेड एजेंट केवल एक प्रतिक्रिया का अनुमान नहीं लगाता; यह सबसे प्रभावी प्रतिक्रिया खोजने के लिए कई संभावित प्रतिक्रियाओं का नमूना लेता है जो ब्लू योजना को सबसे अधिक नुकसान पहुँचा सके।
शोधकर्ताओं ने इस सिमुलेशन को पांच अलग-अलग "टेम्पलेट्स" के माध्यम से 150 बार चलाया, जो विभिन्न प्रकार के परिदृश्यों की तरह हैं: शहरी स्थिरता, समुद्री अवरोध (जहाजों को रोकना), हवाई रक्षा, और मानवीय निकासी। ये वास्तविक दुनिया के सैन्य अभियान नहीं हैं; ये सिंथेटिक, काल्पनिक कहानियाँ हैं जिन्हें यह परीक्षण करने के लिए बनाया गया है कि एक AI संसाधनों का समन्वय कैसे करता है और आश्चर्यों को कैसे संभालता है।
उन्होंने क्या पाया: आप जितना अधिक प्रयास करेंगे, यह उतना ही कठिन होगा
सबसे रोमांचक खोज यह है कि परीक्षण कैसे किया जाता है, यह बहुत मायने रखता है। जब रेड टीम ने केवल एक जवाबी चाल की कोशिश की, तो ब्लू टीम अद्भुत दिखी। वे 90% बार जीते, और उनका "एडवांटेज स्कोर" 0.518 था। ऐसा लगा जैसे ब्लू योजनाएं अपराजेय थीं।
लेकिन जब शोधकर्ताओं ने रेड टीम को स्मार्ट बनाया और उन्हें सबसे अच्छी जवाबी चाल खोजने के लिए आठ अलग-अलग जवाबी चालों को आज़माने के लिए कहा, तो ब्लू टीम का प्रदर्शन गिर गया। अचानक, जीत की दर गिरकर 82% हो गई, और एडवांटेज स्कोर फिसलकर 0.486 रह गया। यह सुझाव देता है कि कई योजनाएं जो अलग-थलग रहने पर एकदम सही दिखती हैं, वास्तव में काफी नाजुक होती हैं। वे केवल इसलिए अच्छी दिखती हैं क्योंकि प्रतिद्वंद्वी उन्हें तोड़ने की पूरी कोशिश नहीं कर रहा था।
पेपर ने एक "कन्स्ट्रेंट-अवेयर" (बाधा-जागरूक) रणनीति का भी परीक्षण किया। कल्पना कीजिए कि एक जज जो केवल यह नहीं देखता कि किसने सबसे अधिक अंक प्राप्त किए, बल्कि यह भी जाँचता है कि क्या नियमों का पालन किया गया था। जब रेड टीम ने इस स्मार्ट दृष्टिकोण का उपयोग किया, तो ब्लू टीम की जीत दर और भी गिरकर 80.7% हो गई। यह दर्शाता है कि एक योजना में उच्च "सिंथेटिक क्वालिटी" (यह कागज पर अच्छी दिखती है) हो सकती है, लेकिन यदि वह वास्तविक दुनिया की जटिल बाधाओं की अनदेखी करती है, तो वह कमजोर हो सकती है।
"काउंसिल" प्रयोग
ब्लू टीम को और अधिक मजबूत बनाने के लिए, शोधकर्ताओं ने एक "मल्टी-एजेंट काउंसिल" का परीक्षण किया। एक अकेले AI द्वारा योजना बनाने के बजाय, उन्होंने पांच अलग-अलग AI एजेंटों को विचार प्रस्तावित करने के लिए कहा, फिर एक रेड टीम को उनकी आलोचना करने के लिए कहा, और अंत में, एक "जज" ने सबसे अच्छे दो को संशोधित करने और ठीक करने के लिए चुना।
इस काउंसिल दृष्टिकोण ने ब्लू टीम को कुछ जमीन वापस पाने में मदद की। काउंसिल के साथ, जीत की दर बढ़कर 81.3% हो गई, और एडवांटेज स्कोर 0.509 हो गया। दिलचस्प बात यह है कि 75.3% मामलों में, अंतिम विजेता योजना "संशोधित" सेट से आई थी—वह जिसे आलोचना के बाद ठीक किया गया था। यह सुझाव देता है कि एआई के एक समूह का आपस में बहस करना, आलोचना करना और एक-दूसरे के काम की मरम्मत करना, एक अकेले AI के अनुमान लगाने की तुलना में कहीं अधिक मजबूत योजना बनाता है।
छिपा हुआ ग्लिच: "फ्रेमिंग" का एक सबक
शोध पत्र में सबसे चंचल और महत्वपूर्ण खोजों में से एक वह "साइलेंट फेलियर" (मौन विफलता) थी जो उन्होंने अपने स्वयं के कोड में पाई। शुरू में, उन्हें लगा कि किसी परिदृश्य की "फ्रेमिंग" (जैसे कि उसे "मानवीय मिशन" के रूप में वर्णित किया गया है या "सैन्य अभियान" के रूप में) से कोई फर्क नहीं पड़ता। उन्होंने एक परीक्षण चलाया, और परिणाम बिल्कुल शून्य बदलाव था। AI को कहानी की परवाह नहीं थी; इसने संदर्भ को पूरी तरह से अनदेखा कर दिया।
उन्हें एहसास हुआ कि उनका जनरेटर वास्तव में कहानी का उपयोग योजना बदलने के लिए नहीं कर रहा था। एक बार जब उन्होंने कोड को "पैच" किया ताकि AI वास्तव में कहानी को पढ़े और अपने लक्ष्यों को समायोजित करे, तो परिणाम बदल गए। "फ्रेमिंग सेंसिटिविटी" उछलकर 0.066 हो गई। यह किसी भी AI बनाने वाले के लिए एक बड़ा सबक है: सिर्फ इसलिए कि आपका परीक्षण "कोई प्रभाव नहीं" कहता है, इसका मतलब यह नहीं है कि AI स्मार्ट है; इसका मतलब यह हो सकता है कि आपका परीक्षण AI से सही ढंग से बात नहीं कर रहा है।
निचोड़
AdvPlan-Bench यह दावा नहीं करता है कि इसने वास्तविक दुनिया के युद्धों या आपदाओं के लिए एक आदर्श प्लानर बनाया है। वास्तव में, लेखक बहुत स्पष्ट हैं: यह एक परिचालन प्रणाली (operational system) नहीं है। यह एक सिंथेटिक बेंचमार्क है, शोधकर्ताओं के लिए एक उपकरण यह देखने के लिए कि उनके विचार दबाव में कैसे टिकते हैं।
शोध पत्र सुझाव देता है कि यदि हम AI प्लानर्स पर भरोसा करना चाहते हैं, तो हम केवल उन्हें एक बार समस्या को हल करने के लिए नहीं कह सकते। हमें उन्हें इसे तब हल करने के लिए कहना होगा जब एक स्मार्ट प्रतिद्वंद्वी उन्हें रोकने की कोशिश कर रहा हो, और हमें केवल एक सबसे अच्छे उत्तर के बजाय, संभावित उत्तरों के पूरे "फ्रंटियर" को देखना होगा। इन स्ट्रेस टेस्ट का उपयोग करके, हम पता लगा सकते हैं कि कौन सी योजनाएं वास्तव में मजबूत हैं और कौन सी केवल भाग्यशाली हैं। जैसा कि लेखकों ने कहा, यह बेंचमार्क "एडवर्सरियल प्लानिंग" की जटिल कला को कुछ ऐसा बना देता है जिसे हम माप सकते हैं, तुलना कर सकते हैं और सुधार सकते हैं, एक समय में एक सिंथेटिक परिदृश्य के साथ।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।