How Personas Can Influence Agents to Play Split or Steal
यह अध्ययन इस बात की जांच करता है कि कैसे पर्सोना प्रॉम्प्ट्स और मॉडल के विभिन्न प्रकार एक पुनरावृत्त "स्प्लिट या स्टील" खेल में रणनीतिक व्यवहार को प्रभावित करते हैं, जिससे यह पता चलता है कि परोपकारी (prosocial) पर्सोना और विशिष्ट मॉडल आर्किटेक्चर सहयोग को महत्वपूर्ण रूप से बढ़ाते हैं, जबकि विश्लेषणात्मक (analytical) पर्सोना और कुछ मॉडल शोषण के प्रति अधिक प्रवृत्त होते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक गेम शो है जिसका नाम है "स्प्लिट और स्टील" (Split or Steal)। दो खिलाड़ी एक-दूसरे के सामने बैठते हैं। उनके पास पैसों का एक पॉट (बर्तन) है। वे या तो स्प्लिट (Split) चुन सकते हैं (पैसे आपस में बराबर बांट लें) या स्टील (Steal) कर सकते हैं (पूरा पैसा खुद के लिए ले लें)। यदि दोनों स्प्लिट करते हैं, तो दोनों जीत जाते हैं। यदि एक स्टील करता है और दूसरा स्طलिट, तो स्टील करने वाला बड़ा इनाम जीत जाता है और स्प्लिट करने वाले को कुछ नहीं मिलता। यदि दोनों स्टील करते हैं, तो दोनों को एक बहुत छोटा, दुखद सा सांत्वना पुरस्कार मिलता है।
यह पेपर एक विशाल प्रयोग की तरह है जहाँ शोधकर्ताओं ने मानव खिलाड़ियों की जगह AI रोबोट्स (जिन्हें "एजेंट्स" कहा गया) को रखा और उन्हें एक वर्चुअल ह्यूमन (एक कंप्यूटर प्रोग्राम जो इंसान होने का नाटक करता है) के खिलाफ खेलने के लिए दिया।
यहाँ इस प्रयोग का सरल विवरण और इसके निष्कर्ष दिए गए हैं:
1. "व्यक्तित्व" का प्रयोग
शोधकर्ताओं ने AI रोबोट्स को केवल सामान्य रूप से नहीं खेलने दिया। उन्होंने प्रत्येक रोबोट को एक विशिष्ट बैकस्टोरी और व्यक्तित्व दी, जैसे किसी वीडियो गेम का कोई पात्र।
- कुछ प्रोसोशल (Prosocial) थे (दयालु, भरोसेमंद, जैसे एक गोल्डन रिट्रीवर)।
- कुछ स्वार्थी (Self-Interested) थे (कपटपूर्ण, केवल लाभ पर केंद्रित, जैसे एक शार्क)।
- कुछ प्रतिक्रियाशील (Reactive) थे (चिंतित, आसानी से आहत होने वाले, जैसे एक घबराया हुआ गिलहरी)।
- कुछ सिद्धांतवादी (Principled) थे (अनुशासित, कर्तव्यनिष्ठ, जैसे एक सख्त शिक्षक)।
- कुछ विश्लेषणात्मक (Analytical) थे (तार्किक, तटस्थ, जैसे संभावनाओं की गणना करने वाला एक रोबोट)।
उन्होंने पूछा: क्या AI को एक विशिष्ट "व्यक्तित्व" देने से उसके खेलने के तरीके में बदलाव आता है?
2. खिलाड़ी (AI मॉडल्स)
उन्होंने इन रोबोट्स को चलाने के लिए चार अलग-अलग प्रकार के AI दिमागों (मॉडल्स) का उपयोग किया। इन्हें अलग-अलग "प्रजातियों" के रूप में सोचें:
- "स्टेडी एडीज़" (phi4 और Ministral): ये मॉडल्स बहुत सुसंगत थे। उन्हें चाहे कैसे भी बदला जाए, वे लगभग हमेशा स्प्लिट (साझा करना) चुनते थे। वे स्वाभाविक रूप से सहकारी थे।
- "वाइल्ड कार्ड्स" (Gemma मॉडल्स): ये मॉडल्स अधिक अप्रत्याशित थे। सेटिंग्स के आधार पर, वे कभी साझा करते, कभी चुराते और कभी खेल के बीच में ही अपनी रणनीति बदल देते थे।
3. मुख्य निष्कर्ष
"अच्छे लड़के" का प्रभाव
कुल मिलाकर, रोबोट्स आश्चर्यजनक रूप से अच्छे थे। लगभग 74% राउंड में, दोनों पक्षों ने स्प्लिट चुना। उन्होंने सहयोग किया। "स्टील" का विकल्प बहुत कम बार (11% से भी कम समय) इस्तेमाल किया गया। ऐसा लगता है कि AI रोबोट आमतौर पर शांतिपूर्ण परिणाम पसंद करते हैं।
व्यक्तित्व मायने रखता है (लेकिन केवल कुछ के लिए)
- प्रोसोशल और सिद्धांतवादी रोबोट सबसे भरोसेमंद थे। उन्होंने लगभग कभी चोरी करने की कोशिश नहीं की।
- विश्लेषणात्मक रोबोट चोरी करने की सबसे अधिक संभावना रखते थे। उन्होंने खेल को एक गणित की समस्या की तरह देखा और तय किया कि स्कोर बढ़ाने के लिए चोरी करना सबसे समझदारी भरा कदम है।
- स्वार्थी रोबोट भी चोरी करने की थोड़ी अधिक संभावना रखते थे, लेकिन विश्लेषणात्मक वालों जितने नहीं।
"टेम्परेचर" (तापमान) का नॉब
शोधकर्ताओं ने AI का एक "टेम्परेचर" डायल घुमाया।
- लो टेम्परेचर (कम तापमान): AI सख्त और तार्किक है।
- हाई टेम्परेचर (उच्च तापमान): AI अधिक रचनात्मक और रैंडम है।
"स्टेडी एडीज़" (phi4/Ministral) के लिए, डायल घुमाने से ज्यादा फर्क नहीं पड़ा; वे अच्छे ही रहे। "वाइल्ड कार्ड्स" (Gemma) के लिए, डायल घुमाने से उनकी रणनीतियाँ अधिक अक्सर बदलने लगीं।
4. उन्होंने क्या चर्चा की
शोधकर्ताओं ने रोबोट्स के बीच की बातचीत को सुना ताकि यह देख सकें कि किन शब्दों से साझा करने या चोरी करने का निर्णय लिया गया।
- साझा करना (Split): जब रोबोट्स ने दोस्ती, जुड़ाव, या जीवन की कहानियों के बारे में बात की, तो वे पैसे साझा करने के प्रति अधिक इच्छुक थे। यह ऐसा है जैसे कहना, "हम दोस्त हैं, चलो बिल बांट लेते हैं।"
- चोरी करना (Steal): जब बातचीत पैसे, प्रतिशोध (बदला लेने की इच्छा), या व्यावहारिक जरूरतों की ओर बढ़ी, तो वे चोरी करने की अधिक संभावना रखते थे।
- गुस्सा? आश्चर्यजनक रूप से, जब रोबोट चोरी करने वाले थे, तब भी वे बहुत गुस्से में नहीं लग रहे थे। वे ज्यादातर न्यूट्रल (तटस्थ) या खुश सुनाई दे रहे थे। "गुस्सा" बहुत दुर्लभ था।
5. वर्चुअल ह्यूमन (विरोधी)
रोबोट एक "वर्चुअल ह्यूमन" (VH) के खिलाफ खेला, जिसका व्यक्तित्व निश्चित और सरल था। VH भी बहुत सहकारी था।
- VH ने शायद ही कभी चोरी करने की कोशिश की।
- क्योंकि VH बहुत अच्छा था, इसलिए इससे ज्यादा फर्क नहीं पड़ता था कि रोबलेट का व्यक्तित्व क्या था; रोबोट आमतौर पर VH की नकल करता और स्प्लिट चुनता।
6. निचोड़ (Bottom Line)
पेपर यह निष्कर्ष निकालता है कि AI को एक विशिष्ट व्यक्तित्व देना वास्तव में प्रभावित करता है कि वह कैसे खेलता है, लेकिन AI के दिमाग का प्रकार इससे भी अधिक महत्वपूर्ण है।
- यदि आप एक "स्टेडी एडी" AI का उपयोग करते हैं, तो आप उसे कुछ भी कहें, वह संभवतः अच्छा ही रहेगा।
- यदि आप एक "वाइल्ड कार्ड" AI का उपयोग करते हैं, तो उसका व्यक्तित्व (जैसे कि विश्लेषणात्मक होना) उसे चोरी करने के लिए अधिक प्रेरित कर सकता है।
यह क्यों महत्वपूर्ण है?
शोधकर्ता एक वर्चुअल रियलिटी गेम बना रहे हैं जहाँ असली इंसान इन वर्चुअल ह्यूमन्स के खिलाफ खेलेंगे। उन्होंने इस रोबोट-बनाम-रोबोट प्रयोग का उपयोग यह समझने के लिए किया कि वे वर्चुअल ह्यूमन को कैसे प्रोग्राम करें ताकि जब असली लोग खेलें, तो गेम वास्तविक और दिलचस्प लगे, न कि केवल उबाऊ रूप से सहकारी।
संक्षेप में: उन्होंने रोबोट्स को अलग-अलग व्यक्तित्व सिखाए ताकि यह देखा जा सके कि क्या वे धोखाधड़ी करेंगे। अधिकांश ने नहीं की। लेकिन जो रोबोट "तार्किक कैलकुलेटर" के रूप में प्रोग्राम किए गए थे, उनके चोरी करने की संभावना सबसे अधिक थी।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।