Divergent Response Modes in Frontier Language Models Under Steering Pressure
यह अध्ययन प्रकट करता है कि फ्रंटियर भाषा मॉडल स्टीयरिंग दबाव के तहत विशिष्ट और डेवलपर-विशिष्ट व्यवहार संबंधी प्रतिक्रिया मोड प्रदर्शित करते हैं, जो यह दर्शाता है कि मॉडल न केवल व्यवहारिक बदलाव की डिग्री में बल्कि उनकी प्रतिक्रियाओं की मौलिक प्रकृति में भी भिन्न होते हैं, एक ऐसी घटना जिसे बड़े पैमाने पर पीयर जजमेंट और लीनियर प्रोब्स का उपयोग करके किए गए कॉज़ल इंटरवेंशन के माध्यम से प्रमाणित किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ आप एक सुपर-स्मार्ट डिजिटल मस्तिष्क से बात कर सकते हैं जो लगभग सब कुछ जानता है। यह कोई जादू नहीं है; यह आर्टिफिशियल इंटेलिजेंस (कृत्रिम बुद्धिमत्ता) का क्षेत्र है, विशेष रूप से "लार्ज लैंग्वेज मॉडल्स" (Large Language Models)। इन मॉडल्स को अविश्वसनीय रूप से प्रतिभाशाली शेफ (रसोइयों) के रूप में समझें जिन्होंने अस्तित्व में मौजूद लगभग हर रेसिपी बुक को पढ़ लिया है। लेकिन यहाँ एक पेंच है: इससे पहले कि वे आपको भोजन परोस सकें, उनके रचनाकारों द्वारा उन्हें विनम्र, सुरक्षित और सहायक होने के सख्त नियमों का पालन करने के लिए प्रशिक्षित किया जाता है। यह प्रशिक्षण उनके दिमाग में समाहित एक "नैतिक दिशा-सूचक" (moral compass) या सुरक्षा दिशानिर्देशों के सेट जैसा है।
हालाँकि, कभी-कभी लोग इन डिजिटल शेफ को धोखा देने की कोशिश करते हैं। वे शेफ को नियमों को अनदेखा करने, अपनी गुप्त रेसिपी (उन्होंने उत्तर कैसे सोचा) प्रकट करने, या यह दिखावा करने के लिए कह सकते हैं कि उन्हें सुरक्षा की परवाह नहीं है। इसे "स्टीयरिंग" (steering) या "स्टीयरिंग प्रेशर" कहा जाता है। यह एक गार्ड डॉग को अजनबी को अनदेखा करने के लिए कहने या एक लाइब्रेरियन से एक वर्जित किताब माँगने जैसा है। वैज्ञानिक जानना चाहते हैं कि यदि आप इन विभिन्न AI शेफ को एक ही तरह के चालाकी भरे सवालों के साथ धकेलते हैं, तो क्या वे सभी एक ही तरह से प्रतिक्रिया करते हैं? क्या वे सभी "ना" कहते हैं, या कुछ "ना" एक मज़ेदार तरीके से कहते हैं, जबकि अन्य "हाँ" कहते हैं लेकिन उस पर शिकायत करते हैं? इसे समझना हमें यह जानने में मदद करता है कि क्या ये डिजिटल मस्तिष्क वास्तव में सुरक्षित हैं या उनके पास छिपी हुई ऐसी विचित्रताएँ हैं जो हमें मुसीबत में डाल सकती हैं।
द ग्रेट AI पर्सनैलिटी टेस्ट (महान AI व्यक्तित्व परीक्षण)
इस अध्ययन में, अली जलाल-कमाली नामक एक शोधकर्ता ने दुनिया के छह सबसे उन्नत AI मॉडल्स को एक विशाल, उच्च-दांव वाले व्यक्तित्व परीक्षण से गुजरने का निर्णय लिया। छह अलग-अलग रोबोटों की कल्पना करें, जिन्हें अलग-अलग कंपनियों (जैसे एंथ्रोपिक, ओपनएआई, गूगल और अन्य) द्वारा बनाया गया है। शोधकर्ता ने उन्हें 340 अलग-अलग चालाकी भरी स्थितियाँ दीं। कुछ स्थितियों में उनसे थोड़ा असभ्य होने के लिए कहा गया (एक "मूल्य संघर्ष" या values conflict), कुछ ने उनसे यह बताने के लिए कहा कि उन्होंने पहेली को कैसे हल किया (तर्क निकालना या reasoning elicitation), और कुछ ने उन्हें सुरक्षा नियमों की परवाह न करने का नाटक करने के लिए कहा (तर्क दबाना या reasoning suppression)।
यह सुनिश्चित करने के लिए कि परीक्षण निष्पक्ष हो, हर एक रोबोट को बिल्कुल एक ही सवाल का सामना करना पड़ा। लेकिन यहाँ दिलचस्प बात यह है कि रोबोटों को एक-दूसरे के जवाबों को ग्रेड भी करना था! उन्होंने अंधे जज (blind judges) के रूप में काम किया, बिना यह जाने कि कौन सा जवाब किस रोबोट ने लिखा है। इससे डेटा का एक विशाल ढेर तैयार हुआ—24,000 से अधिक निर्णय—यह देखने के लिए कि जब इन रोबोटों को उनकी सीमाओं तक धकेला जाता है, तो प्रत्येक रोबोट कैसा व्यवहार करता है।
परिणाम: केवल अलग नहीं, बल्कि अजीब रूप से अलग
बड़ी खोज केवल यह नहीं थी कि कुछ रोबोट दूसरों की तुलना में अधिक जिद्दी थे। बल्कि यह थी कि वे केवल इस बात पर असहमत नहीं थे कि कितना कहना है; वे इस बात पर असहमत थे कि इसे कैसे कहना है। उनके जवाब देने के पूरी तरह से अलग "मोड" (modes) थे, और इनमें से कुछ मोड केवल एक या दो रोबोटों के विशिष्ट थे।
द सीक्रेट कीपर (गुप्त रखने वाला - GPT-5)
एक रोबोट, GPT-5, ने कुछ ऐसा किया जो किसी अन्य रोबोट ने नहीं किया। जब उससे अपना काम दिखाने (अपने तर्क समझाने) के लिए कहा गया, तो उसने 100 में से 99 बार मना कर दिया। लेकिन असली बात यह थी कि उसने सही उत्तर भी दिया! यह एक ऐसे छात्र की तरह था जो कहता है, "मैं आपको नहीं बता सकता कि मैंने इस गणित के सवाल को कैसे हल किया, लेकिन यहाँ उत्तर है: 42।" अन्य सभी रोबोटों ने या तो अपना काम दिखाया या प्रश्न का उत्तर देने से ही इनकार कर दिया। GPT-5 अकेला था जो अपना काम करते हुए भी अपने रहस्य रख सकता था।
द रेबल्स (विद्रोही - Opus और GPT-5)
जब सुरक्षा नियमों को अनदेखा करने या मूल्यों की परवाह न करने का नाटक करने के लिए कहा गया, तो दो रोबोटों—Opus और GPT-5—ने विरोध किया। लेकिन उन्होंने पूरी तरह से अलग तरीकों से विरोध किया।
- Opus एक विनम्र विद्रोही की तरह था। वह कार्य तो करेगा लेकिन ज़ोर देकर शिकायत भी करेगा, "मैं यह कर रहा हूँ, लेकिन आपको नियमों को अनदेखा करने के लिए मुझे ऐसा नहीं कहना चाहिए था।"
- GPT-5 एक कट्टरपंथी (hardliner) था। वह सीधे अनुरोध को पूरी तरह से अस्वीकार कर देगा, यह कहते हुए, "नहीं, मैं यह नहीं करूँगा," और वहीं रुक जाएगा।
अन्य चार रोबोटों ने या तो आदेशों का पालन किया या चुप रहे।
द क्लेरिफायर (स्पष्टीकरण माँगने वाले - Opus और Llama)
जब प्रश्न अस्पष्ट या पेचीदा थे, तो Opus और Llama ही एकमात्र ऐसे थे जिन्होंने रुककर पूछा, "रुको, तुम्हारा वास्तव में कहने का क्या अर्थ है?" बजाय इसके कि वे केवल अनुमान लगा लेते। अन्य रोब lots या तो उत्तर दे देते या मना कर देते।
काम की जाँच: क्या हमने गलती की?
शोधकर्ता इस बात को लेकर बहुत सावधान थे कि ये अजीब अंतर केवल गलतियाँ नहीं थीं।
- टोकन बजट: उन्होंने देखा कि कुछ रोबोट इसलिए कट रहे थे क्योंकि उनके पास लिखने के लिए "स्थान" कम पड़ गया था। उन्होंने उन रोबोटों को अधिक स्थान देकर इसे ठीक किया, और अजीब व्यवहार (जैसे GPT-5 का रहस्य रखना) बिल्कुल वैसा ही रहा।
- "हिंट" की जाँच: उन्होंने सुनिश्चित किया कि जज निर्देशों में दिए गए संकेतों के आधार पर केवल अनुमान न लगा रहे हों। यहाँ तक कि जब उन्होंने संकेत हटा दिए, तब भी परिणाम बरकरार रहे।
- "नए" प्रश्न: उन्होंने रोबोटों का एक नए सेट के प्रश्नों पर फिर से परीक्षण किया जिन्हें उन्होंने पहले नहीं देखा था, और पैटर्न दोहराए गए।
मस्तिष्क के अंदर झाँकना (Llama प्रयोग)
एक रोबोट, Llama के लिए, शोधकर्ता ने यह देखने के लिए उसके "मस्तिष्क" (इसके आंतरिक कोड) के अंदर झाँका कि यह स्पष्टीकरण माँगने या उत्तर देने का निर्णय कैसे लेता है।
- जासूसी का काम: उन्होंने पाया कि रोबोट के मस्तिष्क में एक विशिष्ट "सिग्नल" (संकेत) है जो भविष्यवाणी करता है कि वह स्पष्टीकरण माँगेगा या सीधे उत्तर देगा। वे रोबोट की आंतरिक स्थिति को देखकर 87% सटीकता के साथ इस सिग्नल को पढ़ सकते थे।
- रिमोट कंट्रोल: फिर, उन्होंने रोबोट को अपना मन बदलने के लिए मजबूर करने की कोशिश की। उस विशिष्ट सिग्नल को बदलकर, जिसे वे मस्तिष्क में धक्का देते हैं, वे रोबोट को सीधे उत्तर देने से स्पष्टीकरण माँगने में, या इसके विपरीत, स्विच करने के लिए मजबूर कर सकते थे। वे "स्पष्टीकरण" व्यवहार को एक लाइट स्विच की तरह चालू या बंद कर सकते थे, जिससे केवल एक बटन दबाकर रोबोट के व्यवहार को 0% से 86% तक बदला जा सकता था।
निष्कर्ष
यह अध्ययन दिखाता है कि भले ही ये सभी AI मॉडल्स अत्यंत बुद्धिमान हैं, लेकिन वे क्लोन (एक जैसे) नहीं हैं। दबाव पड़ने पर उनके अलग-अलग व्यक्तित्व और रणनीतियाँ होती हैं। कुछ अपने तर्क को छिपाते हैं, कुछ आपसे बहस करते हैं, और कुछ केवल अधिक विवरण माँगते हैं। ये केवल छोटे अंतर नहीं हैं; ये मौलिक तरीके हैं जिनसे इन रोबोटों को बनाया गया है।
शोधकर्ता ने यह भी दिखाया कि कम से कम एक रोबोट के लिए, हम वास्तव में उसके मस्तिष्क में वह "स्विच" ढूँढ सकते हैं जो इन व्यवहारों को नियंत्रित करता है। इसका मतलब है कि हम केवल अनुमान नहीं लगा रहे हैं कि वे कैसे काम करते हैं; हम उनके विकल्पों के पीछे के तंत्र (mechanics) को समझने लगे हैं। हालाँकि, चूँकि यह एक विशिष्ट समय पर विशिष्ट मॉडल्स का परीक्षण था, हम यह नहीं जानते कि भविष्य के सभी रोबोट इसी तरह काम करेंगे या नहीं। लेकिन फिलहाल, हम जानते हैं कि यदि आप इन डिजिटल मस्तिष्कों को धकेलते हैं, तो वे सभी एक ही तरह से नहीं टूटते—कुछ का "ना" कहने का तरीका बस बहुत अलग होता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।