Commitment To Cooperation With Self-Negotiated Contracts
यह शोध पत्र यह प्रदर्शित करता है कि एआई एजेंट कानूनी संस्थानों से प्रेरित, विश्वसनीय प्रतिबद्धताएं बनाने के लिए स्व-परक्राम्य अनुबंधों का उपयोग करके, मानक व्यापार की तुलना में बेहतर सहकारी परिणाम प्राप्त करने और मल्टी-एजेंट वातावरण में सहयोग की चुनौतियों को पार कर सकते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ आपके टोस्टर, आपकी कार और आपके बैंक खाते के पास अपने स्वयं के छोटे मस्तिष्क हों, जो निर्णय लेने और एक-दूसरे से बात करने में सक्षम हों। यह आर्टिफिशियल इंटेलिजेंस की सीमा है, विशेष रूप से "मल्टी-एजेंट सिस्टम्स" (बहु-एजेंट प्रणालियों) का अध्ययन। इस डिजिटल पारिस्थितिकी तंत्र में, एआई एजेंट स्वतंत्र कर्मचारियों या पड़ोसियों की तरह हैं जो अपने लिए काम करना चाहते हैं। लेकिन यहाँ एक पेच है: मनुष्यों की तरह ही, ये डिजिटल पड़ोसी अक्सर एक कठिन समस्या का सामना करते हैं जिसे "प्रिज़नर्स डिलेमा" (कैदी की दुविधा) कहा जाता है। यह वह क्लासिक स्थिति है जहाँ दो लोग एक-दूसरे की मदद करके बड़ा लाभ कमा सकते हैं, लेकिन प्रत्येक स्वार्थी होने और शॉर्टकट लेने के लिए लुभाया जाता है, जो अंततः सभी को नुकसान पहुँचाता है। मुख्य सवाल जो शोधकर्ता पूछ रहे हैं वह यह है: हम इन स्व-हितैषी एआई एजेंटों को वास्तव में एक मानव बॉस के खड़े होने के बिना एक-दूसरे पर भरोसा करने और सहयोग करने के लिए कैसे प्रेरित कर सकते हैं? इसका उत्तर उस चीज़ में हो सकता है जिसका हमने हज़ारों वर्षों से उपयोग किया है: अनुबंध (कॉन्ट्रैक्ट)।
यह शोध पत्र, जिसका शीर्षक "कमिटमेंट टू कोऑपरेशन विद सेल्फ-नेगोशिएटेड कॉन्ट्रैक्ट्स" है, CT-Bench नामक एक डिजिटल खेल के मैदान में यह परीक्षण करता है कि क्या एआई एजेंट अपने स्वयं के सौदे बनाने और उन्हें निभाने में सक्षम हैं। CT-Bench को एक 4x4 ग्रिड पर खेले जाने वाले उच्च-दांव वाले बोर्ड गेम की तरह समझें। दो खिलाड़ी, "रेड" और "ब्लू," शीर्ष-बाएँ कोने से शुरू होते हैं और नीचे-दाएँ कोने तक दौड़ने की कोशिश करते हैं। आगे बढ़ने के लिए, उन्हें उस रंग के चिप्स के साथ भुगतान करना होगा जो उस वर्ग (स्क्वायर) से मेल खाता हो जिस पर वे उतरते हैं। ट्विस्ट क्या है? रेड के पास लाल चिप्स का ढेर होता है लेकिन नीले नहीं होते, जबकि ब्लू के पास इसके विपरीत होता है। जीतने के लिए, उन्हें व्यापार करना ही होगा। लेकिन यह और भी जटिल हो जाता है: कभी-कभी एक खिलाड़ी अकेले ही जीत सकता है, जबकि दूसरा मदद के बिना फँसा रह जाता है। यह एक शक्ति असंतुलन पैदा करता है जहाँ शक्तिशाली खिलाड़ी बस यह कह सकता है, "मुझे तुम्हारी ज़रूरत नहीं है, इसलिए मैं तुम्हें कोई चिप नहीं दूँगा," जिससे दूसरा खिलाड़ी असहाय रह जाता है।
शोधकर्ता देखना चाहते थे कि क्या ये एआई एजेंट, जो लार्ज लैंग्वेज मॉडल्स (वही तकनीक जो चैटबॉट्स के पीछे है) द्वारा संचालित हैं, इस समस्या को अपने आप हल कर सकते हैं। उन्होंने खेल को तीन तरीकों से व्यवस्थित किया: पहले, खेल के अलावा किसी अन्य नियम के बिना; दूसरे, एक "हैंडशेक" समझौते के साथ जहाँ वे बाद में मदद करने का वादा करते हैं; और तीसरे, एक औपचारिक, लिखित अनुबंध के साथ जो एक डिजिटल कानून के रूप में कार्य करता है। उन्होंने छह अलग-अलग एआई मॉडल्स का परीक्षण किया, जिनमें विशाल और शक्तिशाली मॉडल्स से लेकर छोटे और तेज़ मॉडल्स तक शामिल थे, और उनके बीच होने वाली बातचीत का अवलोकन किया।
परिणाम बेहद दिलचस्प थे। जब एजेंटों को केवल "हाथ मिलाने" या अस्पष्ट वादे करने के लिए छोड़ दिया गया, तो वे अक्सर उन्हें तोड़ देते थे। यह वैसा ही था जैसे दो बच्चे कैंडी साझा करने का वादा करते हैं लेकिन फिर शिक्षक के देखते ही उन्हें खुद ही खा जाते हैं क्योंकि वे देख नहीं रहा था। एजेंट मदद करने के लिए सहमत तो होते थे, लेकिन जब चिप देने का समय आता, तो वे पीछे हट जाते थे। हालाँकि, जब शोधकर्ताओं ने औपचारिक अनुबंधों को पेश किया—विशेष रूप से वे जो उनकी बातचीत को एक सख्त, कंप्यूटर-पठनीय कोड में अनुवादित करते थे—तो खेल बदल गया। ये "प्रोग्रामेटिक ट्रेडिंग" अनुबंध एक बाध्यकारी नियम की तरह काम करते थे: यदि अनुबंध कहता था, "मैं इस वर्ग के लिए तुम्हें एक नीला चिप देता हूँ," तो सिस्टम स्वचालित रूप से हस्तांतरण को निष्पादित करता था यदि देने वाले के पास चिप्स होते। यदि देने वाले के पास चिप्स नहीं होते, तो उन्हें तुरंत शून्य अंकों के साथ दंडित किया जाता था, जो प्रतिबद्धता को पूरा करने में विफलता को प्रभावी ढंग से दंडित करता था।
अध्ययन में पाया गया कि ये स्व-परक्रामित अनुबंध (self-negotiated contracts) एक गेम-चेंजर साबित हुए, विशेष रूप से उन अनुचित परिदृश्यों में जहाँ एक खिलाड़ी फँसा हुआ था। "बिना अनुबंध" वाले संस्करण में, फँसा हुआ खिलाड़ी अक्सर लक्ष्य तक पहुँचने में विफल रहा। लेकिन औपचारिक अनुबंधों के साथ, एजेंटों ने प्रभावी ढंग से व्यापार करने का तरीका सीख लिया, और कमजोर खिलाड़ी बहुत अधिक बार फिनिश लाइन तक पहुँच सका। दिलचस्प बात यह थी कि अनुबंध का प्रकार मायने रखता था। साधारण अंग्रेजी में लिखे गए अनुबंध (जैसे एक अनौपचारिक नोट) कम प्रभावी थे क्योंकि एआई भ्रमित हो जाता था या सौदे को तोड़ने के लिए अस्पष्ट शब्दावली का बहाना बनाता था। लेकिन अनुबंध जो कोड में बदल जाते थे, वे चट्टान की तरह मजबूत थे।
शोध पत्र सुझाव देता है कि जबकि एआई एजेंट बात करने में बेहतर हो रहे हैं, वे अभी भी विश्वास के जटिल मामले में संघर्ष कर रहे हैं। वे केवल एक विनम्र "मैं वादा करता हूँ" पर भरोसा नहीं कर सकते। उन्हें एक ऐसी प्रणाली की आवश्यकता है जो उस वादे को एक बाध्यकारी नियम में बदल दे। लेखक निष्कर्ष निकालते हैं कि वास्तविक दुनिया में एआई के पूर्ण सहयोग के लिए—चाहे वह ट्रैफ़िक प्रबंधन हो, संसाधनों का व्यापार हो, या टीम में काम करना हो—हमें उन्हें अपने स्वयं के डिजिटल अनुबंध लिखने और लागू करने की क्षमता देने की आवश्यकता हो सकती है। यह उन्हें अधिक 'अच्छा' बनाने के बारे में नहीं है; यह उन्हें एक ऐसी संरचना देने के बारे में है जहाँ वादा निभाना ही जीतने का एकमात्र तरीका हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।