Do LLM Agents Negotiate Rationally? A Mechanism-Design Framework for Verifiable Multi-Agent Interaction over A2A/MCP
यह शोध पत्र एक मैकेनिज्म-डिज़ाइन फ्रेमवर्क प्रस्तुत करता है जो रनटाइम वेरिफिकेशन के साथ शास्त्रीय वार्ता प्रोटोकॉल को A2A/MCP मैसेज स्कीमा में एनकोड करता है, जिससे यह स्पष्ट होता है कि जबकि संरचित इंटरैक्शन कार्य की सफलता सुनिश्चित करता है, LLM एजेंट अक्सर गेम थ्योरी द्वारा अनुमानित तर्कसंगत और प्रोत्साहन-संगत व्यवहार प्रदर्शित करने में विफल रहते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ सॉफ़्टवेयर प्रोग्राम, स्वतंत्र सहायकों के रूप में, हमारे लिए व्यवसाय करने के लिए काम पर रखे जाते हैं। कोई कार्यालय की सामग्री खरीदने के लिए नियुक्त किया जा सकता है, तो दूसरा उन्हें बेचने के लिए। निकट भविष्य में, इन डिजिटल श्रमिकों को एक-दूसरे से बात करने, कीमतों पर मोलभाव करने और मानवीय हस्तक्षेप के बिना सौदे करने की आवश्यकता होगी। दशकों से, कंप्यूटर वैज्ञानिकों ने गणितीय नियमों का एक समूह विकसित किया है ताकि यह सुनिश्चित किया जा सके कि जब ऐसे स्वतंत्र पक्ष आपस में बातचीत करते हैं, तो परिणाम निष्पक्ष, कुशल और ईमानदार हो। ये नियम, जिन्हें 'मैकेनिज्म डिज़ाइन' (mechanism design) कहा जाता है, खेल के नियमों की तरह कार्य करते हैं, जो यह गारंटी देते हैं कि यदि हर कोई नियमों के अनुसार खेलता है, तो परिणाम सभी के लिए इष्टतम होगा। हालाँकि, इन सहायकों की एक नई पीढ़ी, जो लार्ज लैंग्वेज मॉडल्स (LLMs) द्वारा संचालित है, वास्तविक दुनिया में काम करना शुरू कर रही है। ये मॉडल मानव पाठ और बातचीत की विशाल मात्रा पर प्रशिक्षित हैं, जो उन्हें अविश्वसनीय रूप से प्रवाहपूर्ण और अनुकूलनीय बनाता है। लेकिन कोई नहीं जानता था कि क्या वे वास्तव में आर्थिक सिद्धांत के सख्त, तार्किक नियमों का पालन करेंगे, या उनकी मानव जैसी संवादात्मक आदतें उन्हें खराब सौदे करने की ओर ले जाएंगी।
ऑक्सफोर्ड विश्वविद्यालय के शोधकर्ताओं ने इस प्रश्न का उत्तर देने के लिए एक पुल बनाने का प्रयास किया—पुराने, कठोर आर्थिक सिद्धांत की दुनिया और कृत्रिम बुद्धिमत्ता (AI) की नई, परिवर्तनशील दुनिया के बीच। उन्होंने एक परीक्षण स्थल बनाया जहाँ दो AI एजेंटों को, जिनमें से प्रत्येक का एक विशिष्ट लक्ष्य और विभिन्न वस्तुओं के लिए एक निजी मूल्य था, एक सौदा करने के लिए कहा गया। शोधकर्ता यह देखना चाहते थे कि क्या ये एजेंट सर्वोत्तम संभव समझौते तक पहुँच सकते हैं, या क्या वे अक्षम पैटर्न में फंस जाएंगे। ऐसा करने के लिए, उन्होंने एक ऐसी प्रणाली डिज़ाइन की जो दो भाषाएँ बोल सकती थी: AI मॉडल की प्राकृतिक, लचीली भाषा, और आर्थिक प्रोटोकॉल की सख्त, संरचित भाषा। उन्होंने दो मुख्य परिदृश्यों का परीक्षण किया। पहले में, एजेंटों को केवल "एक सौदा करने" के लिए कहा गया, जिससे वे प्रक्रिया को स्वयं समझने के लिए स्वतंत्र थे। दूसरे में, एजेंटों को एक सख्त नियम पुस्तिका दी गई जिसने ठीक से बताया कि प्रस्ताव कैसे दिए जाएं, जवाबी प्रस्ताव कैसे दिए जाएं, और सौदे को कब स्वीकार या अस्वीकार किया जाए। उन्होंने एक डिजिटल रेफरी भी जोड़ा जो एजेंटों के बीच भेजे गए प्रत्येक संदेश की निगरानी करता था, यह सुनिश्चित करने के लिए कि संदेश भेजने से पहले वे नियमों का पालन करते हैं या नहीं।
परिणामों ने जो एजेंट हासिल कर सकते थे और वे कैसे व्यवहार करते थे, इसके बीच एक दिलचस्प विभाजन को प्रकट किया। जब एजेंटों को सख्त संरचना के बिना स्वतंत्र रूप से चैट करने की अनुमति दी गई, तो वे अक्सर एक समझौते पर पहुँच गए, लेकिन सौदे अक्सर अक्षम थे। वे वस्तुओं को समान रूप से विभाजित करने की प्रवृत्ति रखते थे, एक ऐसी आदत जो मनुष्यों को निष्पक्ष लगती है लेकिन अक्सर तब नुकसान पहुँचाती है जब दोनों पक्ष वास्तव में उन वस्तुओं को अलग-अलग महत्व देते हैं। हालाँकि, जब शोधकर्ताओं ने एजेंटों को एक संरचित प्रोटोकॉल और डिजिटल रेफरी प्रदान किया, तो सफलता दर बढ़कर एक सौ प्रतिशत हो गई। एजेंट लगातार एक समझौते पर पहुँचे, और सौदे बहुत इष्टतम परिणाम के करीब थे। रेफरी विशेष रूप से एक तरीके से उपयोगी साबित हुआ: इसने परिणामों को कहीं अधिक सुसंगत बना दिया। बिना रेफरी के, सौदों की गुणवत्ता एक प्रयास से दूसरे प्रयास में बहुत भिन्न होती थी; रेफरी के साथ, परिणाम स्थिर और अनुमानित थे।
सबसे आश्चर्यजनक खोज तब आई जब शोधकर्ताओं ने एक अलग प्रकार की बातचीत का परीक्षण किया: एक नीलामी (auction)। इस परिदृश्य में, एजेंट किसी वस्तु पर बोली लगाते हैं, और खेल के नियम इस तरह बनाए जाते हैं कि सभी के लिए सबसे अच्छी रणनीति बस यह बताना है कि वे उस वस्तु को कितना महत्व देते हैं। शोधकर्ताओं ने पाया कि नीलामी का परिणाम हर एक परीक्षण में कुशल था; वस्तु हमेशा उसी एजेंट को मिली जिसने उसे सबसे अधिक महत्व दिया। हालाँकि, एजेंटों की ईमानदारी पूरी तरह से इस बात पर निर्भर थी कि कौन सा विशिष्ट AI मॉडल बातचीत चला रहा है। एक मॉडल ने हर परीक्षण में अपने वास्तविक मूल्य की बोली लगाई, आर्थिक सिद्धांत का पूरी तरह से पालन करते हुए। दूसरे मॉडल ने, समान नियमों का सामना करने के बावजूद, शायद ही कभी अपने वास्तविक मूल्य की बोली लगाई, बल्कि ऐसे नंबर पेश किए जो करीब तो थे लेकिन बिल्कुल सही नहीं थे। इससे पता चला कि खेल के नियमों द्वारा प्रदान की गई ईमानदारी की गारंटी स्वतः ही AI में स्थानांतरित नहीं होती है; यह उस विशिष्ट 'मस्तिष्क' पर निर्भर करती है जो एजेंट के पीछे है।
यह कार्य सुझाव देता है कि जैसे-जैसे हम वास्तविक दुनिया के लेनदेन को संभालने के लिए अधिक स्वायत्त एजेंटों को तैनात करते हैं, अंतर्निदम AI मॉडल का चयन केवल बातचीत के नियमों के डिज़ाइन जितना ही महत्वपूर्ण है। एक प्रणाली जो कागज़ पर एकदम सही दिखती है, वह व्यवहार में विफल हो सकती है यदि गलत मॉडल का उपयोग किया गया हो, या यदि एजेंटों को स्पष्ट संरचना के बिना बातचीत करने के लिए छोड़ दिया गया हो। शोधकर्ता प्रस्ताव देते हैं कि एजेंट-से-एजेंट बातचीत के भविष्य में सत्यापन का एक स्तर शामिल होना चाहिए, एक डिजिटल रेफरी जो यह सुनिश्चित करे कि एजेंट सहमत प्रोटोकॉल का पालन करते हैं। यह न केवल एजेंटों को मूर्खतापूर्ण गलतियाँ करने से रोकेगा बल्कि यह भी सुनिश्चित करेगा कि सिस्टम डिजाइनरों द्वारा किए गए निष्पक्षता और दक्षता के वादे वास्तव में पूरे हों। अध्ययन ने विज्ञान में पारदर्शिता के महत्व को भी रेखांकित किया; जब एक तीसरे, अधिक जटिल बातचीत कार्य विफल रहा, तो शोधकर्ताओं ने उस विफलता को छिपाया नहीं। इसके बजाय, उन्होंने इसे सटीक रूप से प्रलेखित किया, यह समझाते हुए कि वर्तमान तकनीक बिना बेहतर उपकरणों और अधिक समय के समन्वय के इस कार्य के लिए बहुत कठिन है। सफल और असफल होने वाली चीज़ों का यह ईमानदार लेखा-जोखा एक ऐसा भविष्य बनाने के लिए स्पष्ट मार्ग प्रदान करता है जहाँ हमारे डिजिटल सहायक न केवल प्रवाहपूर्ण, बल्कि तर्कसंगत रूप से भी बातचीत कर सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।