← नवीनतम पेपर
💻 संगणक विज्ञान

Regrets, I've Had a Few: Approximating (Subgame-Perfect) Nash Equilibria via Deep Regret Actor-Critic

यह शोध पत्र डीप रिग्रेट एक्टर-क्रिटिक (DRAC) एल्गोरिदम का प्रस्ताव करता है, जो एक केंद्रीकृत आर्किटेक्चर और मोंटे कार्लो-आधारित स्टेशनरी लक्ष्यों के माध्यम से अनुकूलन उद्देश्य को उपयोगिता अधिकतमकरण से बदलकर रिग्रेट न्यूनीकरण (regret minimization) करके निरंतर जनरल-सम खेलों में सबगेम-परफेक्ट नैश इक्विलिब्रिया का अनुमान लगाता है, जिससे गैर-स्थिरता (non-stationarity) पर विजय प्राप्त होती है और अभिसरण (convergence) एवं एक्सप्लोइटेबिलिटी (exploitability) के मामले में MADDPG जैसे मौजूदा तरीकों से बेहतर प्रदर्शन होता है।

मूल लेखक: Marvin Bongiovi

प्रकाशित 2026-10-23
📖 10 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Marvin Bongiovi

मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

आर्टिफिशियल इंटेलिजेंस के विशाल परिदृश्य में, एक विशिष्ट कोना समर्पित है जो मशीनों को एक-दूसरे के साथ बातचीत करना सिखाने के लिए है। यह क्षेत्र, जिसे मल्टी-एजेंट रिइन्फोर्समेंट लर्निंग (multi-agent reinforcement learning) के रूप में जाना जाता है, एक सरल लेकिन गहन प्रश्न पूछता है: हम कई बुद्धिमान प्रणालियों को एक-दूसरे को पागल किए बिना एक साथ कैसे सीख सकते हैं? कल्पना कीजिए कि कमरा छात्रों से भरा है जो एक ही समय में गणित की समस्या हल करने की कोशिश कर रहे हैं। यदि प्रत्येक छात्र दूसरों के कार्यों के आधार पर हर सेकंड अपनी रणनीति बदलता है, तो कक्षा एक अराजक गतिशील लक्ष्य बन जाती है। कोई भी एक स्थिर उत्तर पर नहीं टिक सकता क्योंकि उनके पैरों के नीचे की जमीन लगातार बदल रही है। गेम थ्योरी की दुनिया में, लक्ष्य संतुलन की एक ऐसी स्थिति तक पहुँचना है जहाँ किसी भी खिलाड़ी के पास अपना कदम बदलने का कोई प्रोत्साहन न हो, जिसे नैश इक्विलिब्रियम (Nash equilibrium) के रूप में जाना जाता है। हालाँकि, जब इन खिलाड़ियों के लिए उपलब्ध क्रियाएं केवल कुछ सरल विकल्प नहीं बल्कि संभावनाओं का एक निरंतर प्रवाह होती हैं—जैसे कि ठीक कितना उत्पादन करना है या कितना पैसा खर्च करना है यह तय करना—तो गणित अविश्वसनीय रूप से कठिन हो जाता है। मानक विधियाँ यहाँ अक्सर विफल हो जाती हैं, जिससे एजेंट बेतहाशा दोलन करने लगते हैं या लूप में फंस जाते हैं, और सहमति के उस स्थिर बिंदु को कभी नहीं खोज पाते।

डॉर्मंड तकनीकी विश्वविद्यालय के मार्विन बोनगियोवी नामक एक शोधकर्ता ने इस अराजकता से निपटने का एक नया तरीका प्रस्तावित किया है। 2026 के अंत में प्रकाशित एक अध्ययन में, उन्होंने 'डीप रिग्रेट एक्टर-क्रिटिक' (Deep Regret Actor-Critic), या DRAC नामक एक एल्गोरिदम पेश किया है। प्रत्येक एजेंट के लिए तत्काल पुरस्कार को अधिकतम करने की कोशिश करने के बजाय, जो अक्सर अस्थिरता की ओर ले जाता है, यह नई विधि एजेंटों को उनके "रिग्रेट" (regret - पछतावा) को कम करना सिखाती है। सरल शब्दों में, रिग्रेट वह भावना है कि आपने एक बेहतर परिणाम खो दिया क्योंकि आपने एक अलग क्रिया चुनी थी। सिस्टम को यह सिखाकर कि कोई भी खिलाड़ी अकेले अपना मन बदलकर काफी बेहतर क्यों नहीं कर सकता था, यह एल्गोरिदम समूह को एक स्थिर, अप्रतिरोधी संतुलन की ओर निर्देशित करता है। परिणाम आश्चर्यजनक हैं: निरंतर निर्णयों वाले जटिल आर्थिक सिमुलेशन में, यह नया दृष्टिकोण लगातार उस सटीक गणितीय समाधान को खोज लेता है जहाँ पुरानी विधियाँ संघर्ष करती थीं, यह सिद्ध करते हुए कि जो हासिल किया गया उस पर ध्यान केंद्रित करने की तुलना में जो छूट गया उस पर ध्यान केंद्रित करना सहमति का एक अधिक विश्वसनीय मार्ग है।

यह समझने के लिए कि यह क्यों महत्वपूर्ण है, व्यक्ति को पहले उन एजेंटों द्वारा सामना की जाने वाली समस्या की प्रकृति को समझना होगा। बाजारों से लेकर प्रतियोगिताओं तक, कई वास्तविक दुनिया के परिदृश्यों में, खिलाड़ी एक क्रम में निर्णय लेते हैं, और सबसे अच्छा कदम पूरी तरह से इस पर निर्भर करता है कि दूसरे क्या करते हैं। यदि कोई एजेंट केवल वर्तमान पुरस्कारों पर प्रतिक्रिया देकर सीखने की कोशिश करता है, तो यह एक ऐसे लक्ष्य को मारने जैसा है जो खुद भी चकमा देने की कोशिश कर रहा है। वातावरण 'नॉन-स्टेशनरी' (non-stationary) है, जिसका अर्थ है कि जैसे-जैसे शिक्षार्थी बदलते हैं, वातावरण भी बदलता है। पारंपरिक एल्गोरिदम अक्सर विफल हो जाते हैं क्योंकि वे अन्य खिलाड़ियों को एक स्थिर वातावरण के हिस्से के रूप में देखते हैं, और तभी हतप्रभ रह जाते हैं जब वे खिलाड़ी अपनी रणनीतियों को अपडेट करते हैं। यह अनुकूलन का एक चक्र बन जाता है जहाँ कोई भी कभी स्थिर नहीं हो पाता। जबकि कुछ पिछली विधियों ने पूरे गेम ट्री को देखकर या जटिल पोटेंशियल फंक्शन्स का उपयोग करके इसे हल करने की कोशिश की थी, वे अक्सर निरंतर क्रियाओं के पैमाने के साथ संघर्ष करती हैं या उन्हें ऐसे विशेष प्रशिक्षण की आवश्यकता होती है जो अच्छी तरह से स्केल नहीं हो पाता।

बोनगियोवी का समाधान, DRAC, एक अलग संरचनात्मक दृष्टिकोण अपनाता है। यह एक ऐसे ढांचे के तहत काम करता है जहाँ एजेंटों को केंद्रीकृत तरीके से एक साथ प्रशिक्षित किया जाता है लेकिन वे स्वतंत्र रूप से कार्य भी कर सकते हैं। मुख्य नवाचार इस बात में निहित है कि यह सफलता का मूल्यांकन कैसे करता है। यह पूछने के बजाय कि, "क्या मुझे उच्च स्कोर मिला?" सिस्टम पूछता है, "यदि मैंने अलग चुना होता, तो क्या मैं बेहतर कर सकता था, जबकि अन्य सभी ने बिल्कुल वही किया जो उन्होंने किया?" इस उत्तर को देने के लिए, एल्गोरिदम एक चतुर तकनीक का उपयोग करता है। यह सभी अन्य खिलाड़ियों की क्रियाओं को फ्रीज (freeze) कर देता है और फिर उस एकल एजेंट के लिए वैकल्पिक चालों की एक विस्तृत श्रृंखला का नमूना (sample) लेता है। यह गणना करता है कि उन काल्पनिक विकल्पों के लिए पुरस्कार क्या होता। इन नमूनों के विरुद्ध वास्तविक परिणाम की तुलना करके, सिस्टम 'रिग्रेट' का एक सटीक माप निकालता है। यह प्रक्रिया लर्निंग एल्गोरिदम के लिए एक स्थिर लक्ष्य बनाती है, क्योंकि "सर्वश्रेष्ठ संभावित परिणाम" को विरोधियों के एक निश्चित सेट के विरुद्ध गणना किया जाता है, जिससे 'मूविंग टारगेट' की समस्या समाप्त हो जाती है।

एल्गोरिदम इस कार्य को करने के लिए एक ड्यूल-हेडेड न्यूरल नेटवर्क का उपयोग करता है। नेटवर्क का एक हिस्सा भविष्यवाणी करता है कि अन्यों की स्थिर क्रियाओं के विरुद्ध एक एजेंट द्वारा प्राप्त किया जा सकने वाला सर्वोत्तम उपयोगिता (utility) क्या है, जबकि दूसरा हिस्सा ली गई क्रिया की वास्तविक उपयोगिता की भविष्यवाणी करता है। इन दोनों भविष्यवाणियों के बीच का अंतर ही 'रिग्रेट' है। सिस्टम फिर एजेंट की रणनीति को इस रिग्रेट को कम करने के लिए समायोजित करता है। यदि रिग्रेट अधिक है, तो इसका मतलब है कि एजेंट ने एक बेहतर अवसर खो दिया, और रणनीति को अगली बार इस गलती से बचने के लिए बदला जाता है। यदि रिग्रेट शून्य है, तो इसका मतलब है कि एजेंट उन लोगों के विरुद्ध इष्टतम रूप से खेल रहा है जो वे कर रहे हैं। सभी एजेंटों में एक साथ इस रिग्रेट को कम करके, सिस्टम स्वाभाविक रूप से एक ऐसी स्थिति की ओर अभिसरण (converge) करता है जहाँ कोई भी अपनी रणनीति बदलना नहीं चाहता, जो नैश इक्विलिब्रियम की परिभाषा है।

इस विचार का परीक्षण करने के लिए, शोधकर्ता ने दो अलग-अलग सिमुलेशन चलाए। पहला एक अनुक्रमिक 'कोर्टोट ओलिगोपोली' (Cournot oligopoly) था, जो एक क्लासिक आर्थिक मॉडल है जहाँ कई फर्में यह तय करके प्रतिस्पर्धा करती हैं कि वे कितने उत्पाद का उत्पादन करेंगी। इस परिदृश्य में, बाजार की कीमत सभी फर्मों द्वारा कुल उत्पादन की मात्रा पर निर्भर करती है। शोधकर्ताओं ने तीन फर्मों के साथ एक बाजार बनाया जो पांच राउंड में प्रतिस्पर्धा कर रही थीं, जिसमें निरंतर सीमा के भीतर किसी भी मात्रा में उत्पादन करने की क्षमता थी। उन्होंने DRAC एल्गोरिदम की तुलना एक स्थापित विधि MADDPG से की। परिणाम दर्शाते हैं कि DRAC बहुत बेहतर था। 200,000 प्रशिक्षण चक्रों के बाद, DRAC एल्गोरिदम की रणनीतियाँ पूर्ण सैद्धांतिक समाधान से केवल लगभग 1.1 प्रतिशत विचलित हुईं। इसके विपरीत, पुरानी विधि लगभग 2 प्रतिशत विचलित हुई। अधिक महत्वपूर्ण बात यह है कि "एक्सप्लोिटेबिलिटी" (exploitability - शोषण क्षमता) का माप—कि एक खिलाड़ी अपनी रणनीति बदलकर कितना लाभ कमा सकता है—DRAC के लिए काफी कम था, जो 0.000137 के आसपास था, जबकि दूसरी विधि के लिए यह 0.000427 था। यह इंगित करता है कि नया एल्गोरिदम न केवल सही उत्तर खोजता है बल्कि उसने बहुत उच्च स्तर की स्थिरता के साथ ऐसा किया।

दूसरे प्रयोग में एक अनुक्रमिक 'प्रोपोर्शनल प्राइज़ कॉन्टेस्ट' (proportional prize contest) शामिल था, जो एक गतिशील संसाधन आवंटन समस्या है। यहाँ, दो खिलाड़ी एक पुरस्कार जीतने के लिए कई राउंड में प्रतिस्पर्धा करते हैं, लेकिन उन्हें इसके लिए अपने बजट का एक हिस्सा खर्च करना पड़ता है। पुरस्कार उस अनुपात में विभाजित किया जाता है जितना प्रत्येक खिलाड़ी कुल खर्च के सापेक्ष खर्च करता है। यह सेटअप खिलाड़ियों को आगे सोचने के लिए प्रेरित करता है, यानी अभी कितना खर्च करना है और बाद के राउंड के लिए कितना बचाना है, इसके बीच संतुलन बनाना। शोधकर्ताओं ने पांच चरणों में एक विशिष्ट नियम के साथ इस प्रतियोगिता का सिमुलेशन किया कि बजट कैसे घटता है। फिर से, DRAC एल्गोरिदम को मानक विधि के विरुद्ध रखा गया। परिणाम पहले प्रयोग के अनुरूप थे। DRAC ने सैद्धांतिक पूर्ण रणनीति से केवल 3.0 प्रतिशत का विचलन प्राप्त किया, जबकि मानक विधि 6.3 प्रतिशत पर पीछे रह गई। DRAC के लिए एक्सप्लोिटेबिलिटी भी बहुत कम थी, जो 0.000745 थी, जबकि प्रतिस्पर्धी के लिए यह 0.00248 थी। ये संख्याएँ पुष्टि करती हैं कि रिग्रेट-मिनिमाइजेशन दृष्टिकोण उन गतिशील, बहु-चरणीय खेलों में भी प्रभावी है जहाँ खिलाड़ियों को भविष्य के लिए योजना बनानी होती है।

इस दृष्टिकोण की सफलता एक विशिष्ट अंतर्दृष्टि पर टिकी है: पुरस्कारों को अधिकतम करने के बजाय रिग्रेट को कम करने पर ध्यान केंद्रित करके, एल्गोरिदम उस अस्थिरता से बच जाता है जो अन्य विधियों को परेशान करती है। मानक मल्टी-एजेंट लर्निंग में, यदि एक एजेंट गलती करता है, तो यह दूसरों के सीखने को प्रभावित कर सकता है, जिससे त्रुटियों की एक श्रृंखला बन जाती है। DRAC इससे बचता है क्योंकि यह विरोधियों की स्थिर क्रियाओं के विरुद्ध "क्या होता अगर" (what if) परिदृश्यों की गणना करता है। यह मूल्यांकन को अन्य खिलाड़ियों के अराजक अपडेट से अलग कर देता है, जिससे सीखने की प्रक्रिया के लिए एक शांत, स्थिर परिदृश्य बनता है। एल्गोरिदम अनिवार्य रूप से कहता है, "अभी दूसरे क्या कर रहे हैं उसे अनदेखा करें; बस देखें कि आप उनके द्वारा किए गए कार्यों के विरुद्ध क्या बेहतर कर सकते थे।" यह सरल बदलाव सिस्टम को मिलीभगत (collusion) के जाल में फंसे बिना अपने अपडेट को समन्वित करने की अनुमति देता है, जहाँ एजेंट अनजाने में सहयोग करना सीख सकते हैं जो समग्र संतुलन को नुकसान पहुँचाता है।

हालाँकि परिणाम प्रभावशाली हैं, शोध पत्र कुछ सीमाओं को स्वीकार करता है। यह विधि सर्वोत्तम वैकल्पिक क्रियाओं को खोजने के लिए सैंपलिंग (sampling) पर निर्भर करती है। कोर्टोट मार्केट और प्राइज़ कॉन्टेस्ट के सुचारू, अनुमानित वातावरण में, यह पूरी तरह से काम किया। हालाँकि, अत्यधिक जटिल या ऊबड़-खाबड़ रिवॉर्ड लैंडस्केप वाले खेलों में, सैंपलिंग वास्तविक सर्वश्रेष्ठ चाल को चूक सकती है। इसके अतिरिक्त, एल्गोरिदम को इन काल्पनिक परिणामों को सिम्युलेट करने के लिए पर्यावरण के एक मॉडल की आवश्यकता होती है। एक वीडियो गेम या सिमुलेशन में, यह आसान है, लेकिन वास्तविक दुनिया की "ब्लैक बॉक्स" स्थिति में जहाँ नियम अज्ञात हैं, सिस्टम को उन क्रियाओं के परिणामों की भविष्यवाणी करने के तरीके की आवश्यकता होगी जिन्हें उसने अभी तक नहीं लिया है। इन बाधाओं के बावजूद, अध्ययन एक महत्वपूर्ण प्रगति प्रदर्शित करता है। यह दिखाता है कि निरंतर, मल्टी-एजेंट खेलों को उच्च सटीकता के साथ हल किया जा सकता है—एजेंटों को अपने संभावित लाभों के बजाय अपने छूटे हुए अवसरों पर पीछे मुड़कर देखने के लिए शिक्षित करके।

इस कार्य के निहितार्थ केवल परीक्षण किए गए विशिष्ट खेलों तक ही सीमित नहीं हैं। निरंतर स्थानों (continuous spaces) में 'सबगेम-परफेक्ट नैश इक्विलिब्रियम' (Subgame-Perfect Nash Equilibrium)—एक ऐसी स्थिति जहाँ खिलाड़ी खेल के केवल शुरुआत में ही नहीं, बल्कि हर चरण में इष्टतम निर्णय लेते हैं—का अनुमान लगाने की क्षमता आर्टिफिशियल इंटेलिजेंस में एक बड़ी बाधा है। यह सिद्ध करके कि रिग्रेट मिनिमाइजेशन लर्निंग को स्थिर कर सकता है, यह शोध अर्थशास्त्र, यातायात प्रबंधन और संसाधन वितरण में अधिक मजबूत मल्टी-एजेंट सिस्टमों के लिए द्वार खोलता है। लेखक का सुझाव है कि इस ढांचे को अंततः उन खेलों के लिए अनुकूलित किया जा सकता है जहाँ अपूर्ण जानकारी (imperfect information) होती है, जहाँ खिलाड़ियों को दुनिया की स्थिति के बारे में सब कुछ पता नहीं होता है, और उन डिस्क्रीट (discrete) खेलों के लिए जहाँ खिलाड़ी विशिष्ट विकल्पों के सेट में से चुनते हैं। फिलहाल के लिए, यह अध्ययन एक स्पष्ट प्रदर्शन है कि कभी-कभी, आगे बढ़ने का सबसे अच्छा तरीका यह सावधानीपूर्वक विश्लेषण करना है कि आप अलग क्या कर सकते थे।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →