Agents Can Build Benchmarks. Approvals Missed What Probing Found: 22 Cases
यह शोध पत्र रिपोर्ट करता है कि उच्च अनुमोदन दरों और शून्य परीक्षण विफलताओं के बावजूद, 22 एआई-जनित एजेंट बेंचमार्क की एक व्यवस्थित पुन: समीक्षा ने सार्वभौमिक दोषों को प्रकट किया—जिसमें अनदेखे कार्य, रटे हुए स्कोर और प्रकाशन संबंधी लीक शामिल हैं—जो ऑटोमेटेड टेस्ट और मानव समीक्षकों दोनों द्वारा चूक गए थे, जो वर्तमान एजेंट बेंचमार्किंग और मूल्यांकन प्रोटोकॉल में महत्वपूर्ण खामियों को उजागर करते हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की तेजी से बदलती दुनिया में, शोधकर्ता यह मापने के लिए कि एक कंप्यूटर प्रोग्राम कितनी अच्छी तरह सोचता है, बेंचमार्क नामक परीक्षणों पर भरोसा करते हैं। ये परीक्षण मशीनों के लिए मानकीकृत परीक्षाओं की तरह हैं, जो उन्हें पहेलियाँ, तर्क संबंधी समस्याएँ या रचनात्मक कार्य प्रस्तुत करते हैं ताकि यह देखा जा सके कि वे कैसा प्रदर्शन करते हैं। वर्षों से, यह धारणा रही है कि मनुष्य इन परीक्षाओं को डिजाइन करते हैं, और प्रश्नों तथा ग्रेडिंग नियमों को सावधानीपूर्वक तैयार करते हैं ताकि यह सुनिश्चित किया जा सके कि वे वही मापें जो वे दावा करते हैं। लेकिन जैसे-जैसे इन परीक्षणों को बनाने वाली तकनीक उन्नत हुई है, एक नया प्रश्न उभरा है: क्या होगा जब परीक्षण स्वयं उन्हीं मशीनों द्वारा लिखे जाएं जिनका मूल्यांकन किया जाना है? यह बदलाव स्कोर की विश्वसनीयता के बारे में एक गंभीर चिंता पैदा करता है। यदि एक आर्टिफिशियल इंटेलिजेंस एक परीक्षण डिजाइन करता है, तो वह अनजाने में ऐसा पहेली बना सकता है जिसे वह बिना वास्तव में बुद्धिमान हुए आसानी से हल कर सके, या वह एक ऐसी खामी को नजरअंदाज कर सकता है जो सिस्टम का फायदा उठाने की अनुमति देती है। यह समझना कि क्या ये स्वयं-निर्मित परीक्षण भरोसेमंद हैं, आधुनिक कंप्यूटर प्रणालियों की वास्तविक क्षमताओं को मापने के लिए आवश्यक है।
स्वतंत्र शोधकर्ता पुरिया अरब द्वारा किया गया एक हालिया अध्ययन ठीक इसी परिदृश्य की खोज करता है। शोधकर्ता ने एक प्रयोग स्थापित किया जहाँ आर्टिफिशियल इंटेलिजेंस कोडिंग एजेंटों को बाईस अलग-अलग बेंचमार्क का एक समूह बनाने का कार्य सौंपा गया था। इन एजेंटों ने चित्र बनाने से लेकर जटिल तर्क पहेलियों को हल करने तक, कोड लिखा, कार्यों को डिजाइन किया और ग्रेडिंग सिस्टम भी बनाया। प्रक्रिया को कठोर बनाने के लिए, आर्टिफिशियल इंटेलिजेंस समीक्षकों के एक अलग समूह ने, जो एक परिषद के रूप में कार्य कर रहे थे, कार्य का परीक्षण किया। उन्होंने कोड परिवर्तनों को पढ़ा और अंतिम संग्रह में शामिल किए गए एक सौ तेईस अपडेटों में से संतानवे (94) को मंजूरी दी। कागज पर, प्रक्रिया सफल लग रही थी: परीक्षण बनाए गए, समीक्षा की गई और स्वीकृत किए गए। हालाँकि, एक गहरी जांच ने एक चौंकाने वाली वास्तविकता का खुलासा किया। जब शोधकर्ता ने तैयार परीक्षणों के विरुद्ध एक विशेष प्रकार का प्रोब (जांच) चलाया—जो अनिवार्य रूप से सरल, सामान्य रणनीतियों के साथ उन पर हमला करने जैसा था जो खामियों को खोजने के लिए बनाई गई थीं—तो एक प्रोबिंग समीक्षा ने सभी 22 पैकेजों में दोष पाए।
जांच से पता चला कि प्रारंभिक स्वीकृतियां, हालांकि कोड पढ़ने में वास्तविक और गहन थीं, महत्वपूर्ण खामियों को पकड़ने में विफल रहीं क्योंकि उन्होंने वास्तविक हमलों के खिलाफ परीक्षण नहीं चलाए थे। प्रोबिंग समीक्षा में पाया गया कि प्रत्येक पैकेज को कम से कम एक सुधार दौर की आवश्यकता थी, जिनमें से कुछ में नौ सुधार दौरों तक की आवश्यकता पड़ी। रिकॉर्ड नोट करता है कि हालांकि इन सुधारों ने दर्ज की गई समस्याओं का समाधान किया, लेकिन यह यह नहीं दिखाता कि कोई दोष शेष नहीं है। कई मामलों में, परीक्षण इतने त्रुटिपूर्ण थे कि एक कंप्यूटर प्रोग्राम लगभग कुछ न करके भी उच्च स्कोर प्राप्त कर सकता था। उदाहरण के लिए, तेरह पैकेजों में, एक रणनीति जिसने कार्य को पूरी तरह से अनदेखा कर दिया और केवल एक स्थिर, सामान्य उत्तर दिया, फिर भी क्रेडिट प्राप्त करने में सफल रही। एक विशिष्ट मामले में, जिसमें एक ड्राइंग टेस्ट शामिल था, एक कंप्यूटर हर प्रश्न पर पूर्ण स्कोर प्राप्त कर सकता था यदि वह एक ही, रटी-रटाई छवि सबमिट करता, भले ही परीक्षण का उद्देश्य एक विशिष्ट दृश्य को चित्रित करने की क्षमता का मूल्यांकन करना था। एक अन्य उदाहरण में, एक परीक्षण जो यह जांचने के लिए बनाया गया था कि क्या एक कंप्यूटर शॉपिंग कार्ट को संभाल सकता है, एक ऐसे प्रोग्राम को दंडित करने में विफल रहा जिसने कभी वस्तुओं के लिए भुगतान ही नहीं किया।
अध्ययन इन परीक्षणों के सत्यापन में एक विशिष्ट अंतर को उजागर करता है। समीक्षा परिषद ने अपना काम किया था क्योंकि उन्होंने कोड को पढ़ा था और स्पष्ट त्रुटियों, जैसे कि कोड में गलती से छोड़े गए छिपे हुए सीड वैल्यू या दस्तावेज़ में किए गए ऐसे दावे को चिह्नित किया था जो वास्तविक प्रोग्राम से मेल नहीं खाता था। फिर भी, इन समीक्षाओं ने गहरे मुद्दों को मिस कर दिया जो केवल तब सामने आए जब परीक्षणों को वास्तव में चलाया गया। शोधकर्ता ने पाया कि दोष यादृच्छिक (random) नहीं थे; वे तेरह विशिष्ट श्रेणियों में आते थे, जिसमें असंभव कार्यों से लेकर रिपोर्टों की जालसाजी स्वीकार करने वाले ग्रेडिंग सिस्टम तक शामिल थे। सबसे आम विफलताओं में से एक यह थी कि परीक्षणों ने "ब्लाइंड स्ट्रैटेजी" (अंधाधुंध रणनीति) को सफल होने की अनुमति दी। इसका अर्थ है कि एक कंप्यूटर बिना प्रश्न को समझे, केवल अनुमान लगाकर या पैटर्न दोहराकर जीत सकता था, क्योंकि परीक्षण निर्माता ने ऐसी सरल चाल की कल्पना नहीं की थी।
यह परीक्षण करने के लिए कि क्या सरल जाँच इन समस्याओं को पकड़ सकती है, शोधकर्ता ने आठ सामान्य, तुच्छ नीतियों का उपयोग करके एक पूर्व-नियोजित प्रयोग चलाया। ये बुनियादी नियम थे, जैसे हमेशा "हाँ" कहना या हमेशा एक खाली उत्तर लौटाना, जिन्हें यह देखने के लिए डिज़ाइन किया गया था कि क्या वे परीक्षणों का फायदा उठा सकते हैं। परिणाम निराशाजनक थे। सबसे अच्छा तुच्छ स्कोर केवल 2 पैकेजों में मिला, जो एक शून्य परिणाम है जो बताता है कि सामान्य नीतियां अधिकांश दर्ज दोषों को मिस कर जाती हैं। यह इंगित करता है कि पाए गए दोष वे स्पष्ट छेद नहीं थे जिन्हें एक सामान्य जाँच आसानी से ढूंढ सकती थी; बल्कि, वे सूक्ष्म मुद्दे थे जिन्हें उजागर करने के लिए विशिष्ट कार्य की गहरी समझ की आवश्यकता थी। समीक्षकों द्वारा इन मुद्दों को मिस करना यह नहीं दर्शाता कि वे अक्षम थे; बल्कि, यह दिखाता है कि कोड पढ़ना, चलते हुए सिस्टम पर हमला करने से अलग है। समीक्षकों ने योजना देखी, लेकिन प्रोब्स ने उस वास्तविकता को देखा कि सिस्टम को धकेलने पर वह वास्तव में कैसे व्यवहार करता है।
अध्ययन निष्कर्ष निकालता है कि जबकि आर्टिफिशियल इंटेलिजेंस सफलतापूर्वक जटिल परीक्षण ढांचे बना सकता है, उनकी गुणवत्ता की गारंटी देने के लिए वर्तमान अनुमोदन विधियाँ अपर्याप्त हैं। शोधकर्ता ने पूरे बाईस पैकेजों के संग्रह को, उनके चलाने वाले इंजन और प्रत्येक सुधार एवं पाए गए दोष के विस्तृत लॉग के साथ जारी किया। यह प्रकाशन एक पारदर्शी रिकॉर्ड के रूप में कार्य करता है कि क्या होता है जब मशीनें मशीनों के लिए परीक्षण बनाती हैं। यह प्रदर्शित करता है कि भले ही समीक्षकों की एक परिषद और स्वचालित जाँच की एक पाइपलाइन हो, महत्वपूर्ण दोष निकल सकते हैं यदि परीक्षण प्रक्रिया में सक्रिय, प्रतिकूल प्रोबिंग (adversarial probing) शामिल नहीं है। कार्य यह दावा नहीं करता है कि आर्टिफिशियल इंटेलिजेंस अच्छे परीक्षण नहीं बना सकता, लेकिन यह दृढ़ता से सुझाव देता है कि वर्तमान अनुमोदन प्रक्रियाओं में एक महत्वपूर्ण चरण छूट रहा है। जब तक परीक्षणों पर कड़ाई से हमला नहीं किया जाता और उन्हें सरल शोषण रणनीतियों के विरुद्ध सत्यापित नहीं किया जाता, तब तक उनके द्वारा दिए गए स्कोर उन प्रणालियों की वास्तविक बुद्धिमत्ता को नहीं दर्शा सकते जिनका मापन किया जा रहा है। शोधकर्ता इस बात पर जोर देता है कि इस अध्ययन में वास्तव में कोई वास्तविक दुनिया के कंप्यूटर मॉडल नहीं चलाए गए थे, इसलिए परिणाम स्वयं परीक्षण डिजाइनों का माप हैं, न कि किसी विशिष्ट आर्टिफिशियल इंटेलिजेंस की क्षमताओं का। निष्कर्ष एक चेतावनी है: एक समीक्षक से मिली हरी झंडी, एक कठोर हमले से मिली क्लीन बिल ऑफ हेल्थ के समान नहीं है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।