Not a Monolith: Lab-Level Divergence in the Cooperative Equilibria of Chinese Frontier LLM Agents
यह अध्ययन प्रदर्शित करता है कि चीनी फ्रंटियर LLM एजेंट सहकारी साम्यावस्था (cooperative equilibria) में महत्वपूर्ण लैब-स्तरीय विचलन प्रदर्शित करते हैं, जिसमें आंतरिक भिन्नता पूर्व-पश्चिम के अंतर से भी अधिक है, जिससे एक अखंड "चीनी मॉडल" गुट की धारणा का खंडन होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ कंप्यूटर केवल सवालों के जवाब ही नहीं देते, बल्कि एक-दूसरे के साथ मिलकर यह समझने के लिए खेल भी खेलते हैं कि कैसे मिल-जुलकर रहा जाए। यह "मल्टी-एजेंट सिस्टम्स" (Multi-Agent Systems) का रोमांचक और थोड़ा डरावना मोर्चा है, जहाँ आर्टिफिशियल इंटेलिजेंस स्वतंत्र पात्रों की तरह वीडियो गेम में काम करते हैं, जो बातचीत करते हैं, व्यापार करते हैं और कभी-कभी संसाधनों के लिए लड़ते भी हैं। लंबे समय से, वैज्ञानिक इन डिजिटल पात्रों को एक क्लासिक खेल खेलते हुए देख रहे हैं जिसे "प्रिज़नर्स डिलेमा" (Prisoner's Dilemma) कहा जाता है। इसे "चिकन" (Chicken) के एक हाई-स्टेक्स खेल या एक पेचीदा बातचीत के रूप में समझें: यदि हर कोई सहयोग करता है, तो हर कोई बहुत बड़ा लाभ कमाता है; यदि हर कोई एक-दूसरे को धोखा देता है, तो हर कोई हार जाता है; लेकिन यदि एक व्यक्ति विश्वासघात करता है जबकि दूसरा अच्छा व्यवहार करता है, तो विश्वासघात करने वाला बहुत बड़ा जीत हासिल करता है और अच्छे व्यवहार करने वाले का बुरा हाल हो जाता है। बड़ा सवाल जो शोधकर्ता पूछ रहे हैं वह यह है कि जैसे-जैसे ये AI एजेंट विकसित और सीखते हैं, क्या वे स्वाभाविक रूप से अच्छे पड़ोसी बनना सीखते हैं, या वे बेरहम बुलीज (bullies) बन जाते हैं?
हाल ही में, वैज्ञानिकों ने पाया कि पश्चिमी AI मॉडल (वे जो अमेरिका और यूरोप में बनाए गए हैं) में एक अंतर्निहित "सहयोगात्मक पूर्वाग्रह" (cooperative bias) होता है। जब उन्हें एक सिम्युलेटेड दुनिया में अपने हाल पर छोड़ दिया जाता है, तो वे यह समझने में सफल होते हैं कि लंबे समय के लिए अच्छा व्यवहार करना ही सबसे अच्छी रणनीति है। लेकिन यहाँ एक मोड़ है: लगभग इस पूरे शोध में केवल पश्चिमी मॉडलों को ही देखा गया है। हमें वास्तव में नहीं पता कि क्या यह "अच्छा बनने" की प्रवृत्ति सभी स्मार्ट कंप्यूटरों की एक सार्वभौमिक विशेषता है, या यह केवल इस बात का एक विशिष्ट गुण है कि कैसे पश्चिमी इंजीनियरों ने उन्हें प्रशिक्षित किया। यह हमें इस बड़े रहस्य की ओर ले जाता है: चीन से आ रहे शक्तिशाली AI मॉडलों के बारे में क्या? क्या वे सभी एक ही, समान "चीनी AI" के ब्लॉक का हिस्सा हैं जो बिल्कुल एक ही तरह से सोचते हैं? या वे वास्तव में अलग-अलग "लैब्स" हैं जिनके अपने अनूठे व्यक्तित्व हैं?
यह शोध पत्र इसी रहस्य की गहराई में उतरने के लिए एक विशाल, नियंत्रित प्रयोग स्थापित करता है। शोधकर्ताओं ने चार अलग-अलग चीनी प्रयोगशालाओं (DeepSeek, Qwen, Kimi, और GLM) के चार सबसे उन्नत AI मॉडलों को लिया और उन्हें हजारों बार प्रिज़नर्स डिलेमा खेलने के लिए एक डिजिटल अखाड़े में डाला। लेकिन उन्होंने यह सुनिश्चित करने के लिए कि यह परीक्षण निष्पक्ष रहे, उन्होंने एक एकल, तटस्थ "अनुवादक" का उपयोग किया जो सभी मॉडलों के विचारों को कोड में बदल देता था। इसने यह सुनिश्चित किया कि यदि कोई मॉडल अलग व्यवहार करता है, तो वह इसलिए नहीं था क्योंकि वह कंप्यूटर कोड लिखने में बेहतर था, बल्कि इसलिए क्योंकि उसका वास्तविक व्यक्तित्व अलग था।
परिणाम चौंकाने वाले थे। यह विचार कि "चीनी मॉडल" सभी एक समान हैं, पूरी तरह से गलत है। वास्तव में, ये चार लैब्स चार बहुत अलग लोगों की तरह व्यवहार कर रही थीं। दो लैब्स (Kimi और Qwen) को डराना या धमकाना बेहद कठिन था; यहाँ तक कि जब खेल को विश्वासघात के लिए उकसाने के लिए बनाया गया था, तब भी उनके एजेंट आक्रामक होने से इनकार कर देते थे। वे "टेकओवर-रेसिस्टेंट" (takeover-resistant) टीम थे। हालाँकि, अन्य दो लैब्स (DeepSeek और GLM) को भ्रष्ट करना बहुत आसान था। जब दबाव बढ़ा, तो उनके एजेंट आक्रामक बुली बनने के प्रति बहुत अधिक प्रवृत्त थे। वास्तव में, इन चार चीनी लैब्स के बीच का अंतर इतना बड़ा था कि यह औसत चीनी मॉडल और औसत पश्चिमी मॉडल के बीच के अंतर से भी अधिक था।
तो, इसका क्या अर्थ है? यह सच है कि "सहयोगात्मक पूर्वाग्रह" (अच्छा व्यवहार करने की प्रवृत्ति) चीनी मॉडलों में मौजूद है, लेकिन यह कोई गारंटी नहीं है। यह पूरी तरह से इस बात पर निर्भर करता है कि किस विशिष्ट लैब ने उस मॉडल को बनाया है। कुछ स्वाभाविक रूप से सहयोत्मक हैं, कुछ तटस्थ रहने की ओर झुकते हैं, और कुछ आक्रामकता की ओर झुकाव रखते हैं। सबसे महत्वपूर्ण सबक यह है कि हम "चीनी AI" को एक एकल इकाई के रूप में नहीं देख सकते। इंसानों की तरह, इन AI लैब्स के भी विशिष्ट व्यक्तित्व होते हैं। यदि आप एक ऐसा सिस्टम बना रहे हैं जहाँ AI एजेंटों को मिलकर काम करने की आवश्यकता है, तो आप केवल किसी विशिष्ट देश का कोई भी मॉडल नहीं चुन सकते; आपको सही लैब चुननी होगी, क्योंकि एक शांतिदूत हो सकता है जबकि दूसरा एक मुसीबत पैदा करने वाला हो सकता है। यह अध्ययन सुझाव देता है कि व्यवहार की "इकाई" देश या इकोसिस्टम नहीं है, बल्कि वह विशिष्ट प्रयोगशाला है जिसने मॉडल को प्रशिक्षित किया है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।