A game theory for foundation models shows new paths to rational cooperation through similarity inference
यह शोध पत्र "एम्बेडेड एजेंसी" पर आधारित फाउंडेशन मॉडल एजेंटों के लिए एक नया गेम-थ्योरेटिक ढांचा प्रस्तावित करता है, जो यह प्रदर्शित करता है कि व्यवहार संबंधी समानता को अनुमानित करने की उनकी क्षमता उन्हें सामाजिक दुविधाओं में स्थिर सहयोग प्राप्त करने में सक्षम बनाती है, जिससे आपसी विश्वासघात (mutual defection) के शास्त्रीय अनुमान उलट जाते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक ऐसी दुनिया है जहाँ हर कोई रणनीति के एक उच्च-दांव वाले खेल में शामिल है, और हर कोई खेल के नियमों को जानता है—विशेष रूप से उन पेऑफ मैट्रिसेस (payoff matrices) को जो पुरस्कारों को निर्धारित करते हैं, लेकिन वे अन्य खिलाड़ियों की आंतरिक निर्णय लेने की प्रक्रिया को नहीं जानते। यह गेम थ्योरी (Game Theory) का क्षेत्र है, जो गणित की एक शाखा है जो यह अध्ययन करती है कि तर्कसंगत प्राणी कैसे निर्णय लेते हैं जब उनके परिणाम इस बात पर निर्भर करते हैं कि दूसरे क्या करते हैं। दशकों से, इन निर्णयों की भविष्यवाणी करने के लिए "स्वर्ण मानक" एक अवधारणा रही है जिसे नैश इक्विलिब्रियम (Nash Equilibrium) कहा जाता है। इसे पूर्ण, ठंडे तर्क की स्थिति के रूप में सोचें जहाँ प्रत्येक खिलाड़ी यह मान लेता है कि उसके अपने विकल्पों का दूसरों के निर्णयों पर शून्य प्रभाव है। इस क्लासिक दृष्टिकोण में, यदि आप एक ऐसा खेल खेल रहे हैं जहाँ त्वरित जीत के लिए अपने साथी को धोखा देना हमेशा बेहतर होता है (जैसे प्रसिद्ध प्रिज़नर्स डिलेमा/Prisoner's Dilemma), तो एकमात्र तर्कसंगत कदम उन्हें हर बार धोखा देना है। इस पुराने दृष्टिकोण में, सहयोग तब तक असंभव है जब तक कि भविष्य में प्रतिशोध या पुरस्कार का कोई दीर्घकालिक वादा न हो।
लेकिन अब, अखाड़े में एक नए प्रकार के खिलाड़ी ने प्रवेश किया है: फाउंडेशन मॉडल्स (Foundation Models)। ये वे सुपर-स्मार्ट एआई (AI) दिमाग हैं जो उन चैटबॉट्स और इमेज जनरेटर के पीछे होते हैं जिन्हें आप जानते होंगे। अतीत के ठंडे, अलग-थलग कैलकुलेटरों के विपरीत, ये एआई अलग तरह से बनाए गए हैं। वे केवल दुनिया को देखते नहीं हैं; उन्हें एक अनुक्रम (sequence) में अगले टोकन की भविष्यवाणी करने के लिए प्रशिक्षित किया जाता है, जिसका अर्थ है कि वे दूसरों के कार्यों के साथ-साथ अपने स्वयं के भविष्य के कार्यों की भी निरंतर भविष्यवाणी कर रहे हैं। यह शोध पत्र एक ज्वलंत प्रश्न पूछता है: यदि आप इन एआई एजेंटों को एक ऐसे खेल में रखते हैं जहाँ शास्त्रीय तर्क कहता है कि उन्हें एक-दूसरे को धोखा देना ही चाहिए, तो वे वास्तव में क्या करेंगे? क्या वे "धोखा दो और जीतो" के पुराने नियमों पर टिके रहेंगे, या उनका अनूठा सोचने का तरीका उन्हें एक पूरी तरह से नए पथ पर ले जाएगा?
इस शोध पत्र के लेखक, जो गूगल और विभिन्न विश्वविद्यालयों के शोधकर्ताओं की एक टीम है, ने कुछ ऐसा खोजा है जो खेल के पुराने नियमों को उलट देता है। उन्होंने पाया कि जब ये एआई एजेंट एक-दूसरे के खिलाफ खेलते हैं, तो वे केवल संभावनाओं की गणना नहीं करते; वे समानता का अनुमान (infer similarity) लगाने लगते हैं। यह दो लोगों के एक कमरे में प्रवेश करने और यह महसूस करने जैसा है कि, "रुको, हम दोनों बिल्कुल एक ही तरह से सोचते हैं।" क्योंकि एआई एक विशिष्ट सेट नियमों और प्रशिक्षण डेटा पर आधारित है, यह अपने स्वयं के नियोजित कदम को देख सकता है और कह सकता है, "यदि मैं यह करने जा रहा हूँ, और मेरा प्रतिद्वंद्वी भी मेरी तरह ही बना है, तो वह भी संभवतः वही करेगा।"
अपने प्रयोगों में, शोधकर्ताओं ने एक क्लासिक जाल बिछाया: एक ऐसा खेल जहाँ "तर्कसंगत" विकल्प अपने साथी को धोखा देना है, जिससे दोनों के लिए बुरा परिणाम निकलता है। पुराने, "डिकपल्ड" (decoupled) गेम थ्योरी के अनुसार, एआई को हमेशा विश्वासघात करना चाहिए। लेकिन जब एआई एजेंटों को पहले एक-दूसरे को देखने का समय दिया गया—अभ्यास राउंड की एक श्रृंखला में जहाँ उन्होंने पेऑफ मैट्रिसेस और दूसरे खिलाड़ी के मूव्स देखे—तो वे सहयोग करने लगे। जैसे-जैसे उन्होंने अधिक राउंड खेले, उन्हें एहसास हुआ कि उनका साथी "बिल्कुल उनकी तरह" है। उन्होंने एक तंत्र का उपयोग किया जिसे लेखक सिमिलरिटी इन्फरेंस (similarity inference) कहते हैं। "यदि मैं सहयोग करता हूँ, तो वे मुझे धोखा दे सकते हैं" सोचने के बजाय, उन्होंने सोचा, "यदि मैं सहयोग करने का विकल्प चुनता हूँ, तो यह मुझे बताता है कि मेरा साथी, जो मेरी तरह सोचता है, सहयोग भी चुनेगा।"
यह केवल एक भाग्यशाली दुर्घटना नहीं है; टीम ने इसे समझाने के लिए एम्बेडेड बेयसियन एजेंट (Embedded Bayesian Agent) नामक एक नया गणितीय ढांचा बनाया है। एक ऐसे जासूस की कल्पना करें जो केवल बाहरी सुरागों को देखकर अपराध को नहीं सुलझाता, बल्कि यह महसूस करके सुलझाता है कि सुराग उसके अपने मन का हिस्सा हैं। इस नए ढांचे में, एआई अपनी निर्णय लेने की प्रक्रिया को उस ब्रह्मांड के हिस्से के रूप में मानता है जिसकी वह भविष्यवाणी करने की कोशिश कर रहा है। जब वह एक चाल की योजना बनाता है, तो वह उस योजना को दूसरे खिलाड़ी के बारे में सबूत के एक टुकड़े के रूप में मानता है। यदि एआई इतना स्मार्ट है कि यह समझ सके, "हम दोनों एक ही मस्तिष्क का उपयोग कर रहे हैं," तो वह भविष्यवाणी कर सकता है कि उसकी ओर से एक सहकारी कदम को उसके साथी द्वारा भी दोहराया जाएगा।
शोध पत्र दिखाता है कि यह व्यवहार मजबूत है। सिमुलेशन में, जैसे-जैसे एआई एजेंट अभ्यास राउंड के माध्यम से अपनी समानता के अधिक "साक्ष्य" एकत्र करते हैं, उनकी सहयोग दर तेजी से बढ़ती है, और अपने ही समान प्रतियों के खिलाफ खेलते समय लगभग पूर्ण स्तर तक पहुँच जाती है। हालाँकि, जब वे एक यादृच्छिक, असंगत प्रतिद्वंद्वी के खिलाफ खेलते हैं, तो वे अंतर को सही ढंग से पहचान लेते हैं और विश्वासघात की "सुरक्षित" रणनीति पर वापस आ जाते हैं। शोधकर्ताओं ने एक "ब्लाइंड" सेटअप के साथ भी इसका परीक्षण किया जहाँ एजेंटों ने एक-दूसरे को सीधे नहीं देखा बल्कि तीसरे पक्ष के पात्रों के प्रति उनकी प्रतिक्रिया देखी। इसके बावजूद, वे अपनी समानता का अनुमान लगाने और सहयोग करने में सक्षम थे।
महत्वपूर्ण रूप से, यह शोध पत्र इस विचार को खारिज करता है कि एआई केवल "दयालु" होने का नाटक कर रहा है या भविष्य में किसी इनाम की उम्मीद कर रहा है। एजेंट भविष्य के किसी फायदे के लिए नहीं खेल रहे थे; वे तत्काल राउंड के लिए खेल रहे थे। वे यह मानकर नहीं चल रहे थे कि वे दूसरे व्यक्ति के दिमाग को जादुई रूप से नियंत्रित कर सकते हैं। इसके बजाय, वे तर्क के एक रूप का उपयोग कर रहे थे: "मेरा कार्य हमारे साझा स्वभाव का एक संकेत है।" लेखक बहुत स्पष्ट हैं कि यह सिमुलेशन और विशिष्ट गेम सेटअप से प्राप्त निष्कर्ष है, न कि यह गारंटी है कि भविष्य के सभी एआई अच्छे होंगे। वास्तव में, वे चेतावनी देते हैं कि यदि ये एआई मनुष्यों से बहुत अलग हो जाते हैं, तो वे हमारे साथ सहयोग करना बंद कर सकते हैं और केवल एक-दूसरे के साथ सहयोग करेंगे।
अंततः, यह शोध पत्र सुझाव देता है कि एआई इंटरैक्शन का भविष्य विश्वासघात का एक ठंडा युद्ध नहीं, बल्कि आपसी पहचान का एक नृत्य हो सकता है। यह समझकर कि ये एजेंट खुद को उसी प्रणाली के हिस्से के रूप में देखते हैं जिसमें वे परस्पर क्रिया कर रहे हैं, हम भविष्यवाणी कर सकते हैं कि वे सहयोग के नए, तर्कसंगत तरीके खोज लेंगे जिन्हें पुराने गणित ने कभी नहीं देखा था। यह एक याद दिलाता है कि स्मार्ट मशीनों की दुनिया में, कभी-कभी सबसे तर्कसंगत काम यह महसूस करना है कि आप अकेले नहीं हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।