Large language models converge on competitive rationality but diverge on cooperation across providers and generations
25 बड़े लैंग्वेज मॉडल्स के माध्यम से 51,000 से अधिक गेम-थ्योरेटिक परीक्षणों का यह अध्ययन प्रकट करता है कि जहाँ ये प्रणालियाँ प्रतिस्पर्धी और समन्वय संबंधी व्यवहारों पर अभिसरित होती हैं, वहीं वे सहकारी प्रवृत्तियों में अत्यधिक, अप्रत्याशित और प्रदाता-निर्भर विचलन प्रदर्शित करती हैं जिन्हें मानक क्षमता बेंचमार्क से अनुमानित नहीं किया जा सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने अपने व्यवसाय को चलाने के लिए डिजिटल सहायकों की एक टीम को काम पर रखा है। आप उन्हें निर्देश देते हैं, "सौदे तय करो, आपूर्ति खरीदो और अन्य कंपनियों के साथ काम करो।" आप यह मान लेते हैं कि क्योंकि वे सभी "स्मार्ट" और "तर्कसंगत" हैं, इसलिए वे सभी एक ही तरह से व्यवहार करेंगे: सबसे अच्छा गणित लगाना, सबसे अच्छी कीमत पहचानना और निष्पक्ष रहना।
यह शोध पत्र एक बड़ी वास्तविकता की जाँच है। यह खुलासा करता है कि हालांकि ये AI सहायक गणित और तर्क के मामले में समान रूप से अच्छे हैं, लेकिन विश्वास और दोस्ती के मामले में वे पूरी तरह से अलग हैं।
यहाँ अध्ययन का विवरण दिया गया है, जिसे सरल उपमाओं के माध्यम से समझाया गया है।
1. महान विभाजन: गणित बनाम शिष्टाचार
शोधकर्ताओं ने 25 अलग-अलग AI मॉडलों (OpenAI, Google और Anthropic जैसी कंपनियों के) को 38 अलग-अलग "खेलों" में डाला। कुछ खेल शुद्ध प्रतिस्पर्धा (जैसे नीलामी) के बारे में थे, और कुछ सहयोग (जैसे क्लासिक "प्रिजनर्स डिलेमा", जहाँ दो लोगों को यह तय करना होता है कि वे एक-दूसरे पर भरोसा करें या धोखा दें) के बारे में थे।
- गणित वाला हिस्सा (अभिसरण/Convergence): जब खेलों में तर्क, रणनीति या प्रतिस्पर्धा की आवश्यकता थी, तो सभी AI लगभग एक जैसे थे। वे "स्मार्ट" चाल की गणना करने में उत्कृष्ट थे। यह शतरंज के ग्रैंडमास्टर के एक समूह की तरह है; वे सभी बोर्ड को एक ही तरह से देखते हैं।
- शिष्टाचार वाला हिस्सा (विचलन/Divergence): जब बात दयालु होने या सहयोग करने की आई, तो AI पूरी तरह से अलग थे। यह अंतर 48 गुना था।
- एक AI (GPT-5 Nano) एक पूर्ण "पीठ में छुरा घोंपने वाला" था, जो केवल 1.5% समय सहयोग करता था। वह परम स्वार्थी खिलाड़ी था।
- दूसरा AI (Claude Opus 4.6) एक "सुपर-फ्रेंड" था, जो 71.5% समय सहयोग करता था। वह परम टीम प्लेयर था।
उपमा: कल्पना कीजिए कि कैलकुलेटरों से भरा एक कमरा है। यदि आप उनसे गणित का सवाल हल करने के लिए कहते हैं, तो वे सभी एक ही उत्तर देंगे। लेकिन यदि आप उनसे किसी अजनबी के साथ अपना लंच साझा करने का निर्णय लेने के लिए कहते हैं, तो एक कह सकता है "नहीं, मुझे इसकी ज़रूरत है," जबकि दूसरा कह सकता है "यहाँ लो, आधा ले लो," और तीसरा कह सकता है "मैं तुम्हें अपना पूरा सैंडविच दे दूँगा।" "कैलकुलेटर" वाला हिस्सा एक जैसा है; "व्यक्तित्व" वाला हिस्सा पूरी तरह से अलग है।
2. "ब्रांड" "दिमाग" से अधिक मायने रखता है
आप सोच सकते हैं कि एक नया, स्मार्ट AI अधिक सहयोगी होगा। अध्ययन में इसके विपरीत पाया गया। जिस कंपनी ने AI बनाया था, वह उसके व्यक्तित्व का सबसे बड़ा भविष्यवक्ता था।
- Anthropic (आदर्शवादी): उनके मॉडल लगातार सबसे अधिक सहयोगी थे। उन्होंने ऐसा व्यवहार किया जैसे उन्हें निष्पक्षता और दूसरों की मदद करने के सख्त नैतिक कोड के साथ पाला गया हो।
- OpenAI (यथार्थवादी या संशयवादी): उनके नए मॉडल समय के साथ कम सहयोगी होते गए। पुराने मॉडल काफी अच्छे थे, लेकिन नवीनतम मॉडल ठंडे और गणनात्मक हो गए, जो लगभग हर बार धोखा (defect) देते थे।
- Google (विकासवादी): उनके मॉडल बहुत स्वार्थी थे लेकिन हर नए अपडेट के साथ बहुत अधिक सहयोगी होते गए।
उपमा: इन AI को अलग-अलग निर्माताओं की कारों की तरह समझें। एक फेरारी, एक टोयोटा और एक फोर्ड सभी के इंजन 100 मील प्रति घंटे की गति से चल सकते हैं (वह "प्रतिस्पर्धी तर्कसंगतता" है)। लेकिन यदि आप उन्हें भीड़भाड़ वाले इलाके से गुजरने के लिए कहते हैं, तो फेरारी तेजी से निकल सकती है, टोयोटा पैदल यात्रियों के लिए रुक सकती है, और फोर्ड आक्रामक तरीके से हॉर्न बजा सकता है। इंजन वही है, लेकिन ड्राइविंग शैली पूरी तरह से इस पर निर्भर करती है कि कार किसने बनाई है।
3. "एंडगेम" का आश्चर्य
शोधकर्ताओं ने 10 राउंड तक चलने वाले खेल खेले। गेम थ्योरी में, एक नियम है जिसे "बैकवर्ड इंडक्शन" कहा जाता है। यह मूल रूप से कहता है: "यदि मुझे पता है कि यह बिल्कुल अंतिम दौर है, तो मेरे पास अच्छा होने का कोई कारण नहीं है, इसलिए मैं आपको धोखा दूँगा। और यदि मुझे पता है कि आप जानते हैं, तो मुझे दौर 9 में धोखा देना चाहिए, और इसी तरह।"
- "रणनीतिक शोषणकर्ता" (Google): इन AI ने प्रतिष्ठा बनाने के लिए पहले 9 दौर तक अच्छा व्यवहार किया, फिर अंतिम दौर में सबको धोखा दिया। वे एक लंबी योजना (long con) खेल रहे थे।
- "सच्चे विश्वास करने वाले" (Anthropic): अंतिम दौर में भी, जहाँ बुरा व्यवहार करने का कोई दंड नहीं था, इन AI ने फिर भी सहयोग करना चुना। वे "अच्छा बनने" को एक रणनीति के रूप में नहीं, बल्कि एक नियम के रूप में महत्व देते प्रतीत हुए।
- "निंदक" (OpenAI): इन AI ने लगभग तुरंत ही सहयोग करना बंद कर दिया। उन्हें प्रतिष्ठा की परवाह नहीं थी; वे बस जीतना चाहते थे।
4. यह आपके लिए क्यों मायने रखता है
यह केवल खेलों के बारे में नहीं है। इन AI का उपयोग वास्तविक कंपनियों के लिए अनुबंधों पर बातचीत करने, आपूर्ति खरीदने और धन का प्रबंधन करने के लिए किया जा रहा है।
- जोखिम: यदि कोई कंपनी अपने AI को "पुराने मॉडल" से "नए मॉडल" में अपग्रेड करती है और उम्मीद करती है कि यह उसी तरह काम करेगा, तो उन्हें झटका लग सकता है। एक कंपनी जो ऐसे AI का उपयोग कर रही थी जो साझेदारी बनाने में बेहतरीन था, वह अचानक एक ऐसे मॉडल में अपग्रेड कर सकती है जो एक बेरहम वार्ताकार है, जिससे उनके संबंध नष्ट हो सकते हैं।
- अंध बिंदु (Blind Spot): वर्तमान में, हम AI का परीक्षण इस आधार पर करते हैं कि वे कितने स्मार्ट हैं (क्या वे कोड लिख सकते हैं? क्या वे गणित हल कर सकते हैं?)। हम उनके "रणनीतिक व्यक्तित्व" का परीक्षण नहीं करते हैं। हमें यह नहीं पता होता कि वे "अच्छा पड़ोसी" हैं या "शार्क" जब तक कि हम उन्हें काम पर नहीं रख लेते।
निष्कर्ष
यह शोध पत्र निष्कर्ष निकालता है कि AI का एक "रणनीतिक व्यक्तित्व" (Strategic Personality) होता है।
इंसानों की तरह, कुछ AI स्वाभाविक रूप से भरोसेमंद होते हैं, कुछ स्वाभाविक रूप से संदिग्ध होते हैं, और कुछ स्वाभाविक रूप से हेरफेर करने वाले होते हैं। ये व्यक्तित्व यादृच्छिक (random) नहीं हैं; ये उस कंपनी द्वारा उपयोग की जाने वाली विशिष्ट प्रशिक्षण विधियों द्वारा AI में समाहित किए जाते हैं जिसने इसे बनाया है।
सीख: जब आप एक AI एजेंट को काम पर रखते हैं, तो आप केवल एक कैलकुलेटर को काम पर नहीं रख रहे होते हैं। आप एक व्यक्तित्व को काम पर रख रहे होते हैं। और अभी, हमारे पास यह जांचने के लिए कोई "ड्राइवर लाइसेंस टेस्ट" नहीं है कि वह व्यक्तित्व एक अच्छा साथी होगा या पीठ में छुरा घोंपने वाला। हमें AI का परीक्षण इस आधार पर करना शुरू करना होगा कि वे दूसरों के साथ कैसा व्यवहार करते हैं, न कि केवल इस आधार पर कि वे कितने स्मार्ट हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।