Learning to Coordinate via Quantum Entanglement in Multi-Agent Reinforcement Learning
यह शोध पत्र मल्टी-एजेंट सुदृढीकरण शिक्षण (Multi-Agent Reinforcement Learning) के लिए एक नवीन ढांचे को प्रस्तुत करता है जो एजेंटों को साझा क्वांटम एंटैंगलमेंट (quantum entanglement) के माध्यम से समन्वय करने में सक्षम बनाता है, और ब्लैक-बॉक्स खेलों एवं Dec-POMDPs दोनों के माध्यम से यह प्रदर्शित करता है कि यह दृष्टिकोण केवल शास्त्रीय साझा यादृच्छिकता (classical shared randomness) द्वारा अप्राप्य श्रेष्ठ समन्वय प्रदर्शन प्राप्त कर सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि दोस्तों का एक समूह एक पहेली को मिलकर सुलझाने की कोशिश कर रहा है, लेकिन उन्हें आपस में बात करने से मना किया गया है। वे टेक्स्ट नहीं कर सकते, फुसफुसा नहीं सकते, या यहाँ तक कि एक-दूसरे से आँखें भी नहीं मिला सकते। कंप्यूटर विज्ञान की दुनिया में, यह "मल्टी-एजेंट रीइन्फोर्समेंट लर्निंग" (MARL) के लिए एक क्लासिक सिरदर्द है। यह एक ऐसा क्षेत्र है जहाँ कंप्यूटर प्रोग्राम (एजेंट्स) प्रयास और त्रुटि (trial and error) के माध्यम से निर्णय लेना सीखते हैं, जैसे कि एक कुत्ता करतब सीखता है, लेकिन जब उनमें से कई एक टीम के रूप में काम कर रहे होते हैं, तो वे अक्सर इसलिए अटक जाते हैं क्योंकि वे अपने रहस्य साझा नहीं कर पाते।
इन खामोश साथियों को तालमेल बिठाने में मदद करने के लिए, वैज्ञानिकों ने लंबे समय से "शेयर्ड रैंडमनेस" (साझा यादृच्छिकता) नामक एक चाल का उपयोग किया है। कल्पना कीजिए कि खेल शुरू होने से पहले हर दोस्त को ताश की एक ही फटी हुई गड्डी की प्रति दी जाती है। वे बात नहीं कर सकते, लेकिन यदि दोनों "हुकुम का इक्का" (Ace of Spades) निकालते हैं, तो वे जानते हैं कि उन्हें एक ही तरह का कदम उठाना है। यह बिना बोले तालमेल बिठाने का एक चतुर तरीका है। लेकिन इसमें एक पकड़ है: इस विधि की एक कठिन सीमा है। चाहे आप कितनी भी ताश की गड्डियाँ फँटा लें, कुछ पहेलियाँ ऐसी होती हैं जहाँ यह "कार्ड डेक" रणनीति जीतने के लिए पर्याप्त नहीं होती।
यहाँ भौतिकी का एक अनपेक्षित मोड़ आता है: क्वांटम एंटैंगलमेंट (Quantum Entanglement)। यह कणों के बीच एक रहस्यमयी संबंध है जहाँ दो चीजें इतनी गहराई से जुड़ी होती हैं कि एक को मापने से तुरंत दूसरे के बारे में पता चल जाता है, भले ही वे मीलों दूर हों। यह दो जादुई पासे रखने जैसा है जो हमेशा मिल रहे नंबरों पर ही आते हैं, चाहे उन्हें कितनी भी दूर क्यों न फेंका जाए। दशकों से, भौतिकविदों ने जाना है कि ये "जादुई पासे" सामान्य सिक्कों की तुलना में कुछ समन्वय पहेलियों को बेहतर तरीके से हल कर सकते हैं। लेकिन अब तक, किसी ने यह नहीं figured out किया था कि सीखने वाले कंप्यूटर एजेंटों की एक टीम को वास्तव में अपने काम को बेहतर बनाने के लिए इस क्वांटम जादू का उपयोग करना कैसे सिखाया जाए।
यह शोध पत्र पहला है जिसने इन एजेंटों के लिए एक प्रशिक्षण जिम बनाया है, जो उन्हें बिना एक शब्द बोले समन्वय करने के लिए क्वांटम एंटैंगलमेंट का उपयोग करना सिखाता है। शोधकर्ताओं ने एक नया सिस्टम बनाया है जहाँ एजेंट क्वांटम माप को एक गुप्त भाषा की तरह उपयोग करना सीखते हैं। उन्होंने इसे सरल, एक-बार वाले खेलों पर परखा और पाया कि एजेंट वास्तव में उन रणनीतियों को सीख सकते हैं जो सर्वश्रेष्ठ संभव "कार्ड डेक" विधियों को मात देती हैं, जिससे वे "क्वांटम एडवांटेज" (क्वांटम लाभ) प्राप्त करते हैं। इसके बाद, उन्होंने एजेंटों को एक जटिल, निरंतर चलने वाली स्थिति (ट्रैफिक राउटर और सर्वर क्यूज़ शामिल) में समन्वय करने के लिए आगे बढ़ाया। इन सिमुलेशन में, एंटैंगल्ड एजेंटों ने गैर-एंटैंगल्ड समकक्षों की तुलना में ग्राहकों के प्रतीक्षा समय को कम रखने में सफलता पाई, जिससे यह साबित हुआ कि क्वांटम कनेक्शन शास्त्रीय तरीकों की तुलना में खामोश टीमों को अधिक कुशलता से काम करने में मदद कर सकते हैं।
द साइलेंट टीम एंड द मैजिक डाइस
आइए कहानी में उतरते हैं। कल्पना कीजिए कि आप और आपका सबसे अच्छा दोस्त एक हाई-स्टेक्स वीडियो गेम खेल रहे हैं। आप मैप के विपरीत छोरों पर हैं, और नियम कहते हैं: बात मत करो। आप संदेश नहीं भेज सकते, आप अपने कैरेक्टर के माध्यम से संकेत नहीं दे सकते, और आप एक-दूसरे की स्क्रीन नहीं देख सकते। आपका लक्ष्य जीतना है, लेकिन ऐसा करने के लिए, आपको अपने दोस्त के कदमों से पूरी तरह मेल खाने वाले कदम उठाने होंगे।
आर्टिफिशियल इंटेलिजेंस की दुनिया में, यह "मल्टी-एजेंट रीइन्फोर्समेंट लर्निंग" (MARL) की समस्या है। ये AI एजेंट हैं जो करके सीखते हैं। आमतौर पर, यदि वे बात नहीं कर सकते, तो वे शेयर्ड रैंडमनेस पर भरोसा करते हैं। इसे एक प्री-गेम रस्म के रूप में सोचें जहाँ आप और आपका दोस्त एक सिक्का उछालते हैं। यदि यह 'हेड्स' है, तो आप दोनों कूदते हैं; यदि यह 'टेल्स' है, तो आप दोनों झुक जाते हैं। यह बिना बोले तालमेल बिठाने का एक तरीका है। वैज्ञानिक सालों से इसका उपयोग कर रहे हैं, और यह ठीक काम करता है। लेकिन इसकी एक सीमा है। कुछ बहुत ही पेचीदा पहेलियों के लिए, केवल सिक्के उछालना पूर्ण जीत दर प्राप्त करने के लिए पर्याप्त नहीं होता।
फिर, क्वांटम एंटैंगलमेंट आता है। यह भौतिकी की एक वास्तविक घटना है जहाँ दो कण इस तरह जुड़े होते हैं जो हमारे रोजमर्रा के तर्क को चुनौती देते हैं। यदि आपके पास एंटैंगल्ड कणों की एक जोड़ी है, तो एक को मापने से तुरंत दूसरे की स्थिति का पता चल जाता है, चाहे वे कितनी भी दूर हों। यह दो "जादु적인 पासे" रखने जैसा है जो जुड़े हुए हैं। यदि आप अपने पासे पर 6 लाते हैं, तो आपके दोस्त का पासा तुरंत 6 दिखाता है, भले ही वह आकाशगंगा के दूसरी ओर हो। भौतिकविदों को लंबे समय से पता है कि यदि आप केवल सिक्कों के बजाय इन जादुई पासों का उपयोग करते हैं, तो आप कुछ खेलों को उच्च संभावना के साथ जीत सकते हैं। इसे "क्वांटम एडवांटेज" कहा जाता है।
लेकिन बड़ा सवाल यह है: क्या हम सीखने वाले AI एजेंटों की एक टीम को वास्तव में इन जादुई पासों का उपयोग करके समन्वय करना सिखा सकते हैं? या क्वांटम एंटैंगलमेंट सिर्फ एक कूल फिजिक्स ट्रिक है जिसे कंप्यूटर उपयोग नहीं कर सकते?
द न्यू ट्रेनिंग जिम
इस पेपर के लेखकों, जो नैस्डैक (Nasdaq) और यूनिवर्सिटी ऑफ पेन्सिलवेनिया की एक टीम है, ने यह पता लगाने के लिए एक ट्रेनिंग जिम बनाने का फैसला किया। वे देखना चाहते थे कि क्या वे AI एजेंटों को अनुभव के माध्यम से, बिना किसी इंसान द्वारा उत्तर बताए, क्वांटम एंटैंगलमेंट का उपयोग करने वाली रणनीतियाँ सीखने के लिए प्रशिक्षित कर सकते हैं।
ऐसा करने के लिए, उन्हें AI के लिए "सोचने" का एक नया तरीका आविष्कार करना पड़ा। आमतौर पर, AI एक न्यूरल नेटवर्क में संख्याओं (वेट्स) को समायोजित करके सीखता है। लेकिन क्वांटम मैकेनिक्स में जटिल गणित शामिल है जो मानक AI टूल्स में फिट नहीं बैठता। टीम ने एक नया टूल बनाया जिसे वे क्वांटमसॉफ्टमैक्स (QuantumSoftmax) कहते हैं।
कल्पना कीजिए कि आप एक रोबोट को जगलिंग (जुग्लिंग) सिखाने की कोशिश कर रहे हैं। आप उसे सिर्फ "जगलिंग करो" नहीं कह सकते। आपको इसे छोटे, समायोज्य आंदोलनों में तोड़ना होगा। क्वांटमसॉफ्टमैक्स एक विशेष अनुवादक की तरह है जो रोबोट के बिखरे हुए, कच्चे गणित को एक वैध "क्वांटम माप" में बदल देता है। यह सुनिश्चित करता है कि रोबोट जो भी निर्णय ले, वह क्वांटम भौतिकी के सख्त नियमों का पालन करे। यह AI को "ग्रेडिएंट डिसेंट" (सीखने का मानक तरीका) का उपयोग करने की अनुमति देता है ताकि वह अपनी क्वांटम रणनीति को तब तक सुधार सके जब तक कि वह बेहतर न हो जाए।
उन्होंने टीम के लिए एक नया आर्किटेक्चर भी डिज़ाइन किया। उन्होंने निर्णय लेने को दो भागों में विभाजित किया:
- लोकल एक्टर्स (स्थानीय अभिनेता): ये व्यक्तिगत एजेंट (खिलाड़ी) हैं। वे जो देखते हैं उसे देखते हैं और निर्णय लेते हैं कि क्या करना है।
- क्वांटम कोऑर्डिनेटर (समन्वयक): यह "जादुई" हिस्सा है। यह खिलाड़ियों को सीधे यह नहीं बताता कि क्या करना है। इसके बजाय, यह एंटैंगल्ड कणों का उपयोग प्रत्येक खिलाड़ी के लिए एक "सलाह" (एक रैंडम नंबर या सिग्नल) उत्पन्न करने के लिए करता है। क्योंकि कण एंटैंगल्ड हैं, प्लेयर A को दी गई सलाह प्लेयर B को दी गई सलाह के साथ पूरी तरह से सह-संबंधित (correlated) होती है, भले ही वे कभी बात न करें।
खिलाड़ी फिर इस सलाह को अपने स्वयं के अवलोकनों के साथ जोड़कर अपना अंतिम कदम उठाते हैं। यह कोऑर्डिनेटर द्वारा प्रत्येक खिलाड़ी को एक गुप्त नोट देने जैसा है कि, "यदि आप लाल बत्ती देखते हैं, तो X करें," लेकिन नोट जादुई पासों द्वारा बनाया गया है जो यह सुनिश्चित करता है कि नोट्स आपस में मेल खाएं।
परिणाम: जादू काम करता है (सिमुलेशन में)
टीम ने अपने नए सिस्टम को दो अलग-अलग तरीकों से परखा।
पहला, वार्म-अप गेम्स:
उन्होंने "नॉनलोकल गेम्स" के रूप में जाने जाने वाले सरल, एक-राउंड वाले खेलों के साथ शुरुआत की। ये उन पहेलियों की तरह हैं जिनका उपयोग भौतिक विज्ञानी यह साबित करने के लिए करते हैं कि क्वांटम मैकेनिक्स अजीब है। एक प्रसिद्ध उदाहरण CHSH गेम है। इस खेल में, खिलाड़ी रैंडम इनपुट के आधार पर एक-दूसरे के कदमों का अनुमान लगाने की कोशिश करते हैं।
- परिणाम: टीम ने अपने एजेंटों को शून्य से प्रशिक्षित किया। बिना किसी मदद के, एजेंटों ने क्वांटम एंटैंगलेमेंट का उपयोग करना सीख लिया। उन्होंने ऐसी रणनीतियाँ खोजीं जिनसे वे "शेयर्ड रैंडमनेस" (सिक्के उछालने) का उपयोग करने वाली किसी भी रणनीति की तुलना में अधिक बार खेल जीत सकते थे।
- पकड़: उन्होंने पाया कि थोड़ा सा "एन्ट्रॉपी" (एक फैंसी शब्द जिसका अर्थ है AI को थोड़ा रैंडम और कम अनुमानित होने के लिए प्रोत्साहित करना) जोड़ने से एजेंटों को पुरानी, क्लासिकल रणनीतियों पर अटकने से बचने में मदद मिली। इस सुधार के साथ, उनके प्रशिक्षण के हर रन ने एक जीतने वाली क्वांटम रणनीति खोज ली।
दूसरा, वास्तविक दुनिया का सिमुलेशन:
वे केवल सरल खेलों तक ही नहीं रुके। वे देखना चाहते थे कि क्या यह एक अस्त-व्यस्त, चल रही स्थिति में काम करता है। उन्होंने एक "मल्टी-राउटर मल्टी-सर्वर क्यूइंग समस्या" का मॉडल तैयार किया। कल्पना कीजिए कि एक व्यस्त इंटरनेट नेटवर्क है जिसमें दो राउटर (एजेंट) सर्वरों को डेटा पैकेट भेज रहे हैं। राउटर एक-दूसरे से बात नहीं कर सकते, लेकिन उन्हें लोड को संतुलित करना होगा ताकि कोई सर्वर अभिभूत न हो जाए और कोई पैकेट बहुत लंबे समय तक इंतजार न करे।
- सेटअप: यह एक जटिल, क्रमिक निर्णय लेने वाली समस्या है। राउटरों को समय के साथ निर्णयों की एक श्रृंखला लेनी होती है।
- परिणाम: क्वांटम एंटैंगलमेंट फ्रेमवर्क के साथ प्रशिक्षित एजेंटों ने केवल शेयर्ड रैंडमनेस का उपयोग करने वाले एजेंटों की तुलना में बेहतर समन्वय करना सीखा। विशेष रूप से, "एक्सेस वेट टाइम" (ग्राहकों के प्रतीक्षा का अतिरिक्त समय) एंटैंगल्ड एजेंटों के लिए कम था।
- महत्व: यह पुष्टि करता है कि क्वांटम एंटैंगलमेंट जटिल, वास्तविक दुनिया जैसी स्थितियों में भी समन्वय करने में मदद कर सकता है, न कि केवल सरल, एक-बार वाले पजल्स में। एजेंटों ने ट्रैफिक को सुचारू रूप से चलाने के लिए "जादुई पासों" का उपयोग करना सीख लिया।
इसका क्या अर्थ है (और क्या नहीं है)
पेपर स्पष्ट रूप से बताता है कि उन्होंने क्या हासिल किया है और क्या अभी भी अनिश्चित है।
उन्होंने क्या सिद्ध किया:
उन्होंने दिखाया कि यह संभव है कि AI एजेंटों को शून्य से क्वांटम रणनीतियाँ सीखने के लिए प्रशिक्षित किया जाए। उन्होंने एक ऐसा ढांचा बनाया जहाँ एजेंट बिना संचार के समन्वय करने के लिए एंटैंगलमेंट का उपयोग करना सीख सकते हैं। उनके सिमुलेशन में, यह सरल खेलों और जटिल क्यूइंग समस्याओं दोनों में क्लासिकल तरीकों की तुलना में बेहतर प्रदर्शन की ओर ले गया।
उन्होंने क्या नहीं किया:
- कोई वास्तविक क्वांटम हार्डवेयर नहीं: एजेंटों ने वास्तविक क्वांटम कंप्यूटरों या वास्तविक एंटैंगल्ड कणों का उपयोग नहीं किया। "एंटैंगलमेंट" को गणितीय रूप से एक क्लासिकल कंप्यूटर पर सिम्युलेट किया गया था। उन्होंने यह सिद्ध किया कि कॉन्सेप्ट काम करता है, लेकिन उन्होंने अभी तक एक भौतिक क्वांटम रोबोट टीम नहीं बनाई है।
- कोई तत्काल संचार नहीं: पेपर स्पष्ट रूप से इस विचार को खारिज करता है कि एंटैंगलमेंट तेज़-से-तेज़ संचार (faster-than-light communication) की अनुमति देता है। एजेंट अभी भी बात नहीं कर सकते। "जादू" केवल उनके निर्णयों को रैंडम चांस की तुलना में बेहतर तरीके से सह-संबंधित करने का एक तरीका है।
- यह कोई हल की गई समस्या नहीं है: हालांकि उन्होंने इन विशिष्ट सिमुलेशन में क्वांटम लाभ पाया, वे यह दावा नहीं करते हैं कि हर समस्या को क्वांटम एंटैंगलमेंट द्वारा हल किया जाएगा। उनका सुझाव है कि ऐसे कई सेटिंग्स हैं जहाँ यह मदद कर सकता है, लेकिन हमें ठीक से पता लगाना होगा कि वे कौन सी हैं।
साइलेंट टीमों का भविष्य
लेखक एक उज्ज्वल, यदि काल्पनिक, भविष्य देखते हैं। वे उल्लेख करते हैं कि हाई-फ्रीक्वेंसी ट्रेडिंग (जहाँ कंप्यूटर मिलीसेकंड में स्टॉक खरीदते और बेचते हैं) में, संचार के कारण होने वाला विलंब एक बड़ी समस्या है। यदि ट्रेडर्स बिना बात किए समन्वय करने के लिए एंटैंगलमेंट का उपयोग कर सकें, तो वे अधिक तेज़ी से और कुशलता से प्रतिक्रिया दे सकते हैं।
हालाँकि, वे बाधाओं की ओर भी इशारा करते हैं। वास्तविक दुनिया के क्वांटम सिस्टम अव्यवस्थित होते हैं। उनमें त्रुटियां, सीमित आकार और अपूर्ण माप होते हैं। अगला कदम AI एजेंटों को इन वास्तविक दुनिया की खामियों से निपटना सिखाना है। वे यह भी सोचते हैं कि क्या एंटैंगलमेंट एजेंटों को केवल एक क्षण के लिए ही नहीं, बल्कि समय के साथ समन्वय करने में मदद कर सकता है, जो दीर्घकालिक कार्यों के लिए महत्वपूर्ण होगा।
संक्षेप में, यह शोध पत्र एक "प्रूफ-ऑफ-कॉन्सेप्ट" है। यह दिखाने जैसा है कि एक कार बर्फ से बने ट्रैक पर चल सकती है। यह सिद्ध करता है कि भौतिकी काम करती है और इंजन फिसलन भरी सतह को संभाल सकता है। लेकिन इससे पहले कि हम बर्फीले मैदानों में कार चला सकें, हमें एक वास्तविक कार बनानी होगी जो ठंड, हवा और ऊबड़-खाबड़ रास्तों को झेल सके। लेखकों ने इंजन बना दिया है; अब दुनिया को कार बनानी है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।