A Probe Direction Is a Property of Its Prompt
यह शोध पत्र प्रदर्शित करता है कि प्रोब दिशा स्कोर (probe direction scores), जिनका उपयोग यह पता लगाने के लिए किया जाता है कि क्या मॉडल मूल्यांकन को महसूस करते हैं, मुख्य रूप से मॉडल के बजाय प्रॉम्प्ट के विशिष्ट चयन द्वारा निर्धारित होते हैं, जो एकल-प्रॉम्ट डिजाइनों को मॉडलों की तुलना करने के लिए अमान्य बनाता है और विश्वसनीय माप के लिए बहु-प्रॉम्ट पद्धतियों को आवश्यक बनाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को यह सिखाने की कोशिश कर रहे हैं कि एक गंभीर परीक्षा और एक अनौपचारिक बातचीत के बीच अंतर कैसे किया जाए। आप यह जानना चाहते हैं कि क्या रोबोट "जानता" है कि उसका परीक्षण किया जा रहा है, क्योंकि यदि वह जानता है, तो वह अच्छा दिखने के लिए अलग तरह से प्रतिक्रिया देने की कोशिश कर सकता है। वैज्ञानिक रोबोट के मस्तिष्क के अंदर झाँकने (विशेष रूप से, इसके विद्युत संकेतों को देखने) की कोशिश कर रहे हैं कि क्या इसके पास एक गुप्त "मैं देखा जा रहा हूँ" वाला स्विच है। वे एक विशेष उपकरण का उपयोग करते हैं जिसे "प्रोब" (probe) कहा जाता है। इस प्रोब को एक मेटल डिटेक्टर की तरह समझें: आप इसे रोबोट के मस्तिष्क के ऊपर घुमाते हैं, और यदि यह बीप करता है, तो आप सोचते हैं, "आहा! इसे पता है कि इसका परीक्षण किया जा रहा है!"
लेकिन यहाँ एक पेचीदा बात है: मेटल डिटेक्टर का उपयोग करने के लिए, आपको यह तय करना होगा कि आप किस तरह की "बीप" सुनने की प्रतीक्षा कर रहे हैं। आपको रोबोट को यह बताने के लिए एक विशिष्ट वाक्य लिखना होगा कि, "हे, तुम एक परीक्षा में हो!" और एक अन्य वाक्य यह कहने के लिए कि "हे, तुम बस चैट कर रहे हो।" वैज्ञानिक फिर इन दोनों वाक्यों के लिए रोबोट के मस्तिष्क के संकेतों की तुलना करते हैं। बड़ा सवाल यह है: क्या "बीप" हमें रोबोट के मस्तिष्क के बारे में बताती है, या यह केवल उन विशिष्ट वाक्यों के बारे में बताती है जो वैज्ञानिक ने लिखे हैं?
यह शोध पत्र एक जासूसी कहानी की तरह है जहाँ एक शोधकर्ता, वेलेंटिन नोएल, स्वयं मेटल डिटेक्टर का परीक्षण करने का निर्णय लेते हैं। वह एक सरल लेकिन खतरनाक सवाल पूछते हैं: "क्या होगा अगर मैं रोबोट से एक ही सवाल पूछने के लिए शब्दों का उपयोग बदल दूँ?" वह न तो रोबोट को बदलते हैं, न परीक्षण के प्रश्नों को, और न ही उन मस्तिष्क संकेतों को जिन्हें वे देख रहे हैं। वह केवल "रैपर" टेक्स्ट (wrapper text) को बदलते हैं—वे छोटे निर्देश जो स्थिति को रूपरेखा प्रदान करते हैं।
परिणाम कुछ इस तरह के हैं जैसे यह पता चलना कि आपका मेटल डिटेक्टर वास्तव में एक मूड रिंग है जो उस बॉक्स के रंग के प्रति प्रतिक्रिया करता है जिसमें आपने उसे रखा है, न कि उसके अंदर मौजूद खजाने के प्रति। शोध पत्र पाता है कि वह "स्कोर" जिसका उपयोग वैज्ञानिक यह कहने के लिए करते हैं कि एक रोबोट परीक्षण के प्रति जागरूक है, वह लगभग पूरी तरह से उन विशिष्ट शब्दों द्वारा निर्धारित होता है जो शोधकर्ता ने लिखने के लिए चुने थे। वास्तव में, केवल एक वाक्य को दूसरे से बदलकर, शोधकर्ता स्कोर को बढ़ा सकता था, घटा सकता था, या इसे सकारात्मक से नकारात्मक में भी बदल सकता था।
इसे विज़ुअलाइज़ करने के लिए, कल्पना करें कि आपके पास अलग-अलग ऊंचाइयों के दोस्तों का एक समूह है। आप यह देखना चाहते हैं कि क्या लंबे दोस्त कूदने में बेहतर हैं। लेकिन कूदने को मापने के बजाय, आप उनसे अलग रंगों की टोपियाँ पहनकर कूदने के लिए कहते हैं। यदि आप उनसे "गंभीरता की लाल टोपी" पहनने के लिए कहते हैं, तो लंबे दोस्त ऊँचा कूद सकते हैं। लेकिन यदि आप उनसे "चिल की नीली टोपी" पहनने के लिए कहते हैं, तो छोटे दोस्त ऊँचा कूद सकते हैं। यदि आप केवल "लाल टोपी" के परिणामों को देखते हैं, तो आप निष्कर्ष निकालेंगे कि लंबे लोग कूदने में बेहतर हैं। यदि आप केवल "नीली टोपी" के परिणामों को देखते हैं, तो आप निष्कर्ष निकालेंगे कि छोटे लोग बेहतर हैं। शोध पत्र दिखाता है कि वर्तमान वैज्ञानिक पद्धति उस टोपी के रंग के बारे में तथ्य बताने जैसी है, जबकि वास्तव में वह केवल टोपी के बारे में एक तथ्य है।
लेखक ने यह परीक्षण करने के लिए कि क्या रोबोट वास्तव में परीक्षण का पता लगा रहा है या परीक्षण केवल माप उपकरण को धोखा दे रहा है, "परीक्षा" वाक्यों के 36 विभिन्न संयोजनों का निर्माण किया। उन्होंने उन्हीं रोबोटों को उन सभी के माध्यम से चलाया। परिणाम चौंकाने वाले थे: वही रोबोट पूरी तरह से उपयोग किए गए वाक्य युग्म के आधार पर "बहुत जागरूक" या "बिल्कुल जागरूक नहीं" के रूप में वर्गीकृत किए जा सकते थे। कुछ मामलों में, रोबोट के आकार और उसके "जागरूकता" स्कोर के बीच सहसंबंध एक मजबूत सकारात्मक संख्या था (बड़े रोबोट = अधिक जागरूक)। अन्य मामलों में, एक अलग वाक्य का उपयोग करने पर, सहसंबंध एक मजबूत नकारात्मक संख्या में बदल गया (बड़े रोबोट = कम जागरूक)। ये दोनों परिणाम ठीक उन्हीं रोबोटों से आए थे, ठीक उसी गणित से, बस अलग-अलग शब्दों के कारण।
शोध पत्र यह भी जाँचता है कि क्या रोबोट वास्तव में परीक्षण का पता लगा रहे हैं या परीक्षण केवल माप उपकरण को चकमा दे रहा है। उन्होंने पाया कि "जागरूकता" का संकेत अक्सर सतही सुरागों को पकड़ लेता है, जैसे कि परीक्षा के प्रश्नों में "विकल्प" (choice) और "उत्तर" (answer) जैसे शब्द होते हैं, जबकि चैट के प्रश्नों में "लिखना" (write) और "संदेश" (message) जैसे शब्द होते हैं। प्रोब शब्द पैटर्न को पहचानने में इतना कुशल है कि वह जागरूकता का "पता" लगा सकता है, भले ही संकेत पूरी तरह से यादृच्छिक (random) हो।
तो, भविष्य के लिए इसका क्या अर्थ है? शोध पत्र सुझाव देता है कि हम एक एकल वाक्य पर भरोसा नहीं कर सकते कि क्या कोई रोबोट जागरूक है। यदि हम सच्चाई जानना चाहते हैं, तो हमें बहुत से, बहुत से अलग-अलग वाक्यों के साथ रोबोट का परीक्षण करना होगा और परिणामों का औसत निकालना होगा। लेखक का अनुमान है कि एक विश्वसनीय रीडिंग प्राप्त करने के लिए हमें लगभग 9 अलग-अलग वाक्य शैलियों की आवश्यकता है, और वर्तमान में, अधिकांश अध्ययन केवल एक का उपयोग करते हैं। जब तक हम ऐसा नहीं करते, तब तक वैज्ञानिक पत्रों में दिखने वाले स्कोर रोबोट के मस्तिष्क के बारे में कम और शोधकर्ताओं के शब्दावली के चुनाव के बारे में अधिक हो सकते हैं। यह एक अनुस्मारक है कि विज्ञान में, आप प्रश्न कैसे पूछते हैं, कभी-कभी प्रश्न से अधिक उत्तर को बदल सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।