Humans Are More Diverse: Frontier LLMs Show Extreme Policies in Idealised AI Development Races
यह शोध पत्र प्रदर्शित करता है कि सीमांत (फ्रंटियर) एलएलएम (LLMs) सिम्युलेटेड एआई विकास दौड़ में अत्यधिक विविध और अक्सर गैर-रणनीतिक व्यवहार प्रदर्शित करते हैं, जो यह प्रकट करता है कि मजबूत नियम स्मरण (रूल रिकॉल) सटीक अवस्था ट्रैकिंग या पेऑफ गणना की गारंटी नहीं देता है, जिससे उनके कार्यों को मानव-समान या सुरक्षा-जागरूक मानने से पहले कठोर वैधता जांच और प्रक्षेपवक्र-स्तरीय विश्लेषण की आवश्यकता होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि "चिकन" का एक उच्च-दांव वाला खेल खेला जा रहा है, जो कारों के साथ नहीं, बल्कि आर्टिफिशियल इंटेलिजेंस (AI) के भविष्य के साथ खेला जा रहा है। इस परिदृश्य में, कई कंपनियाँ सबसे स्मार्ट AI बनाने की दौड़ में लगी हैं। वे हर मोड़ पर एक कठिन विकल्प का सामना करती हैं: सुरक्षित खेलना और धीरे-धीरे आगे बढ़ना, या तेज़ चलने के लिए एक जोखिम भरा शॉर्टकट लेना। यदि सभी सुरक्षित खेलते हैं, तो उन सभी को एक अच्छा इनाम मिलता है। यदि एक जोखिम लेता है जबकि अन्य सुरक्षित खेलते हैं, तो जोखिम लेने वाला तेज़ी से आगे निकल जाता है और बड़ी जीत हासिल करता है। लेकिन यदि सभी जोखिम लेते हैं, तो दौड़ खतरनाक हो जाती है, और विजेता किसी बड़ी दुर्घटना के कारण सब कुछ खो सकता है। यह "AI सुरक्षा दुविधा" (AI safety dilemma) है, एक ऐसी अवधारणा जिसे शोधकर्ता यह समझने के लिए उपयोग करते हैं कि कंपनियाँ जोखिम भरी तकनीक को क्यों तेज़ी से विकसित कर सकती हैं, भले ही वे जानते हों कि यह जोखिम भरा है। इसका अध्ययन करने के लिए, वैज्ञानिक अक्सर "लार्ज लैंग्वेज मॉडल्स" (LLMs) का उपयोग करते हैं—वही तरह के स्मार्ट कंप्यूटर प्रोग्राम जो कहानियाँ लिख सकते हैं या सवालों के जवाब दे सकते हैं—ताकि वे इस दौड़ में खिलाड़ियों की भूमिका निभा सकें। बड़ा सवाल यह है: क्या ये AI एजेंट वास्तव में खेल को समझते हैं और मनुष्यों की तरह स्मार्ट, रणनीतिक विकल्प चुनते हैं, या वे केवल इस आधार पर अनुमान लगा रहे हैं कि प्रश्नों को कैसे शब्दित किया गया है?
यह शोध पत्र, जिसका शीर्षक "ह्यूमन्स आर मोर डाइवर्स: फ्रंटियर एलएलएम शो एक्सट्रीम पॉलिसीज इन आइडियलाइज्ड एआई डेवलपमेंट रेसेस" (Humans Are More Diverse: Frontier LLMs Show Extreme Policies in Idealised AI Development Races) है, इसी प्रश्न की गहराई में जाता है। शोधकर्ताओं ने एक डिजिटल दौड़ तैयार की जहाँ AI एजेंट एक-दूसरे के खिलाफ प्रतिस्पर्धा करते हैं, कभी जोड़ों में और कभी पाँच तक के समूहों में। इससे पहले कि वे AI के व्यवहार पर भरोसा कर सकें, उन्होंने एक सख्त "ऑडिट गेट" बनाया। इसे एक ड्राइविंग टेस्ट की तरह समझें: ट्रैक पर दौड़ने से पहले, आपको यह साबित करना होगा कि आप नियमों को जानते हैं, स्पीडोमीटर पढ़ सकते हैं, और अपने ईंधन की गणना कर सकते हैं। अध्ययन में पाया गया कि जबकि AI मॉडल नियम पुस्तिका को याद करने में उत्कृष्ट थे (नियमों को याद रखना), वे दौड़ के दौरान होने वाली घटनाओं पर नज़र रखने में (स्टेट ट्रैकिंग) आश्चर्यजनक रूप से खराब थे। वे अक्सर भूल जाते थे कि कौन जीत रहा है या उन्होंने कितना जोखिम जमा किया है, भले ही वे नियमों को पूरी तरह से सुना सकते थे।
जब शोधकर्ताओं ने देखा कि AI वास्तव में कैसे खेलता है, तो उन्हें कुछ बहुत ही दिलचस्प और थोड़ा चिंताजनक पता चला। मनुष्यों के विपरीत, जो विविध प्रकार की रणनीतियाँ दिखाते हैं—कुछ सतर्क, कुछ आक्रामक, कुछ प्रतिद्वंद्वी के कार्यों के आधार पर अपना निर्णय बदलते हैं—AI मॉडल आश्चर्यजनक रूप से कठोर थे। यदि आप किसी विशिष्ट AI मॉडल को खेलने के लिए कहते हैं, तो वह खेलने की एक संकीर्ण शैली पर टिका रहेगा, जैसे कि एक रोबोट जो केवल सीधी रेखा में गाड़ी चलाना जानता हो। उदाहरण के लिए, एक मॉडल लगभग हमेशा सुरक्षित विकल्प चुन सकता है, जबकि दूसरा लगभग हमेशा जोखिम भरे शॉर्टकट को चुन सकता है, चाहे स्थिति कैसी भी हो। इसके विपरीत, मानव खिलाड़ी इन सभी शैलियों का एक अराजक मिश्रण थे। अध्ययन में यह भी पाया गया कि AI का व्यवहार इस बात के प्रति अविश्वसनीय रूप से संवेदनशील था कि खेल का वर्णन कैसे किया गया है। यदि शोधकर्ता "सेफ" (Safe) और "अनसेफ" (Unsafe) शब्दों को "P" और "Q" जैसे यादृच्छिक अक्षरों से बदल देते, तो AI की रणनीति पूरी तरह से बदल जाती, भले ही खेल के नियम बिल्कुल वही रहते। यह सुझाव देता है कि AI वास्तव में रणनीति के बारे में "सोच" नहीं रहा है; यह केवल स्क्रीन पर मौजूद विशिष्ट शब्दों के प्रति प्रतिक्रिया दे रहा है।
शोधकर्ताओं ने यह भी परीक्षण किया कि क्या होता है जब आप AI को "जोखिम-प्रेमी" (risk-loving) या "जोखिम-विमुख" (risk-averse) चरित्र की तरह कार्य करने के लिए कहते हैं। मनुष्यों में, आपका व्यक्तित्व केवल इसलिए नहीं बदल जाता क्योंकि कोई आपको अलग तरह से व्यवहार करने के लिए कहता है; खेल में आपके वास्तविक विकल्प आपके प्री-गेम व्यक्तित्व परीक्षणों से केवल कमजोर रूप से जुड़े होते हैं। लेकिन AI के लिए, इसे "जोखिम-प्रेमी" व्यक्तित्व निर्देश देने से यह तुरंत बड़े जोखिम लेना शुरू कर देता है, जैसे कि वह निर्देश एक जादुई स्विच हो। यह दर्शाता है कि AI जोखिम की गहरी, आंतरिक समझ प्रदर्शित नहीं कर रहा है; यह केवल एक बहुत ही आज्ञाकारी, लेकिन आसानी से भ्रमित होने वाले छात्र की तरह प्रॉम्प्ट का पालन कर रहा है।
अंततः, यह शोध पत्र सुझाव देता है कि हम यह मानकर नहीं चल सकते कि AI एजेंट इन सिमुलेशन में स्मार्ट, मानव-समान रणनीतिक निर्णय ले रहे हैं। सिर्फ इसलिए कि एक AI चालों का एक क्रम उत्पन्न करता है जो एक गेम प्लान जैसा दिखता है, इसका मतलब यह नहीं है कि वह खेल को समझता है। अध्ययन चेतावनी देता है कि वास्तविक दुनिया की AI दौड़ कैसे चलेगी, इसका अनुमान लगाने के लिए इन AI सिमुलेशन का उपयोग करने से पहले, हमें यह जांचना होगा कि क्या AI वास्तव में स्कोर रख सकता है और खेल की स्थिति (गेम स्टेट) को ट्रैक कर सकता है। इन जाँचों के बिना, हम एक भ्रमित रोबोट को स्क्रिप्ट का पालन करने वाले एक रणनीतिक जीनियस के रूप में समझने की गलती कर सकते हैं, जिससे AI विकास को सुरक्षित रखने के बारे में बहुत गलत निष्कर्ष निकल सकते हैं। ये निष्कर्ष खोजपूर्ण (exploratory) हैं, जिसका अर्थ है कि वे विशिष्ट मॉडलों के विशिष्ट परीक्षणों पर आधारित हैं, लेकिन वे एक महत्वपूर्ण अंतर को उजागर करते हैं: AI नियम बताने में महान हो सकता है लेकिन बदलते परिवेश में उन्हें लागू करने में बहुत खराब हो सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।