Position: Evaluation Scores Are Perishable Knowledge Claims
यह शोध पत्र तर्क देता है कि मूल्यांकन स्कोर अल्पकालिक ज्ञान दावे हैं जो औसत निकालकर एकत्रित किए जाने पर "विश्वास मुद्रास्फीति" (trust inflation) के प्रति संवेदनशील होते हैं, और इसके बजाय एक रूढ़िवादी "कमजोर कड़ी" (weakest-link) दृष्टिकोण का प्रस्ताव देता है जो भ्रामक रैंकिंग को रोकने के लिए स्कोर की औपचारिकता, विस्तार और वैधता अवधि को स्पष्ट रूप से ट्रैक करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
स्कोरकार्ड का जाल: क्यों "औसत" एक झूठ हो सकता है
कल्पना कीजिए कि आप एक जासूस हैं जो तीन अलग-अलग गवाहों के सुरागों का उपयोग करके एक रहस्य को सुलझाने की कोशिश कर रहे हैं। एक गवाह एक अत्यंत सटीक रोबोट है जो कभी झूठ नहीं बोलता लेकिन उसने अपराध को बहुत दूर से देखा है। दूसरा एक बातूनी इंसान है जिसने सब कुछ करीब से देखा लेकिन वह कूल दिखने के लिए कभी-कभी बातें बना भी लेता है। तीसरा एक दर्पण है जो बस संदिग्ध द्वारा कही गई बातों को दोहराता है। यदि आप उनकी कहानियों का "औसत" लेते हैं, तो आपको घटनाओं का एक सुंदर, मध्यम मार्ग वाला संस्करण मिल सकता है जो पूरी तरह से तर्कसंगत लगता है। लेकिन यहाँ एक पेंच है: यदि मानव गवाह कहता है कि संदिग्ध ने लाल टोपी पहनी थी (जबकि वास्तव में उसने नीली पहनी थी), तो वह एक गलत विवरण पूरी कहानी को खराब कर देता है, चाहे रोबोट का मौसम का वर्णन कितना भी सटीक क्यों न रहा हो। आर्टिफिशियल इंटेलिजेंस की दुनिया में, विशेष रूप से जब हम यह मापने की कोशिश करते हैं कि ये कंप्यूटर दिमाग कितने स्मार्ट हैं, तो हम अक्सर यही गलती करते हैं। हम टेस्ट स्कोर को सरल गणितीय समस्याओं की तरह मानते हैं जहाँ हम बस उन्हें जोड़ सकते हैं और "अंतिम ग्रेड" प्राप्त करने के लिए परीक्षणों की संख्या से विभाजित कर सकते हैं। लेकिन इस शोध पत्र के लेखक तर्क देते हैं कि ये स्कोर केवल नंबर नहीं हैं; वे सत्य के बारे में ऐसे दावे हैं जिनकी समाप्ति तिथियां होती हैं, जिनका अनुप्रयोग विशिष्ट सीमाओं तक होता है, और विश्वसनीयता के विभिन्न स्तर होते हैं। यदि हम इन छिपे हुए नियमों को अनदेखा करते हैं और सब कुछ एक साथ औसत कर देते हैं, तो हम "ट्रस्ट इन्फ्लेशन" (विश्वास मुद्रास्फीति) की ओर बढ़ते हैं—जो एक फैंसी तरीका है यह कहने का कि हम एक ऐसी प्रणाली पर अत्यधिक आत्मविश्वासी हो जाते हैं जो वास्तव में सबसे खतरनाक तरीकों से टूट सकती है।
शोध पत्र का बड़ा विचार: औसत निकालना बंद करें, सबसे कमजोर कड़ी को पहचानें
यह शोध पत्र, जिसे संकल्प और श्लोक गिल्डा ने लिखा गया है, तर्क देता है कि AI मॉडल को रैंक करने का वर्तमान तरीका मौलिक रूप से त्रुटिपूर्ण है क्योंकि यह सभी परीक्षण परिणामों को इस तरह मानता है जैसे कि वे समान रूप से मजबूत और स्थायी हों। लेखक इस समस्या को ट्रस्ट इन्फ्लेशन कहते हैं। यह तब होता है जब हम विभिन्न प्रकार के साक्ष्यों—जैसे स्वचालित कंप्यूटर जांच, मानवीय राय और AI न्यायाधीशों—को एक एकल "औसत" स्कोर में मिला देते हैं। समस्या यह है कि एक एकल कमजोर बिंदु पूरी तस्वीर को नष्ट कर सकता है, लेकिन औसत उस कमजोरी को छिपा देता है।
इसे समझाने के लिए, लेखक एक सरल उपमा का उपयोग करते हैं: एक जंजीर की कल्पना करें। पूरी जंजीर की ताकत उसके सभी कड़ियों के औसत सामर्थ्य से निर्धारित नहीं होती है; यह उसकी सबसे कमजोर कड़ी से निर्धारित होती है। यदि आपके पास एक ऐसी जंजीर है जिसमें 99 कड़ियाँ स्टील की हैं और एक कागज की है, तो पूरी जंजीर एक पंख के वजन से भी टूट जाएगी। इसी तरह, यदि एक AI मॉडल कविता लिखने में बहुत अच्छा है लेकिन सच बोलने (तथ्यात्मकता) में बहुत खराब है, तो एक "औसत" स्कोर इसे एक अच्छे ऑल-राउंडर के रूप में दिखा सकता है। लेकिन वास्तविक दुनिया में, यदि उस AI का उपयोग चिकित्सा सलाह देने के लिए किया जाता है, तो उसकी सच बोलने में असमर्थता एक आपदा है, चाहे उसकी कविता कितनी भी सुंदर क्यों न हो।
शोध पत्र सुझाव देता है कि हम "औसत" को अपने डिफ़ॉल्ट तरीके के रूप में उपयोग करना बंद कर दें। इसके बजाय, हमें विशेष रूप से सुरक्षा-महत्वपूर्ण कार्यों के लिए "कमजोर-लिंक" (weakest-link) दृष्टिकोण अपनाना चाहिए। इसका अर्थ है कि यदि एक AI मॉडल एक भी महत्वपूर्ण परीक्षण में विफल रहता है, तो उसकी समग्र रेटिंग को उस विफलता को दर्शाने के लिए गिर जाना चाहिए, न कि उसे अपने अन्य अच्छे स्कोर के दम पर ऊपर बनाए रखना चाहिए।
AI सत्य के तीन नियम
लेखक प्रस्तावित करते हैं कि प्रत्येक AI टेस्ट स्कोर के साथ एक "लेबल" होना चाहिए जो हमें तीन विशिष्ट चीजें बताता है, ठीक वैसे ही जैसे भोजन का पैकेट आपको बताता है कि उसके अंदर क्या है, वह कहाँ से आया है, और उसकी समाप्ति तिथि क्या है:
औपचारिकता (साक्ष्य कितना मजबूत है?): सभी परीक्षण समान नहीं होते। शोध पत्र एक "टियर" (स्तर) प्रणाली बनाता है।
- टियर F0 (सबसे कमजोर): इसमें काम का न्याय करने वाले अन्य AI मॉडल या क्राउडसोर्स्ड राय शामिल हैं। लेखक सुझाव देते हैं कि इन्हें केवल 0.70 की विश्वसनीयता सीमा तक ही विश्वसनीय माना जा सकता है क्योंकि AI न्यायाधीश अक्सर लंबे, फैंसी उत्तरों को पसंद करते हैं भले ही वे गलत हों।
- टियर F1 और F2 (अधिक मजबूत): ये संरचित कंप्यूटर जांच या नियंत्रित मानव परीक्षण हैं। ये अधिक विश्वसनीय हैं, लेकिन मानव परीक्षणों की भी सीमाएं होती हैं (विश्वसनीयता 0.95 तक)।
- टियर F3 (सबसे मजबूत): यह एक औपचारिक गणितीय प्रमाण है। यही एकमात्र चीज़ है जो 1.00 की पूर्ण विश्वसनीयता तक पहुँच सकती है।
- नियम: यदि आप एक टियर F0 स्कोर को टियर F2 स्कोर के साथ मिलाते हैं, तो पूरा परिणाम F0 स्तर (0.70) पर सीमित हो जाता है। आप एक कमजोर परीक्षण को एक मजबूत परीक्षण के साथ जोड़कर मजबूत नहीं बना सकते।
स्कोप/क्षेत्र (यह कहाँ लागू होता है?): एक परीक्षण स्कोर केवल उस विशिष्ट स्थिति के लिए सत्य है जिसमें उसका परीक्षण किया गया था। यदि किसी AI का परीक्षण अंग्रेजी के प्रश्नों पर किया गया है, तो इसका मतलब यह नहीं है कि वह स्पेनिश में भी अच्छा है। यदि इसका परीक्षण सामान्य ज्ञान पर किया गया है, तो इसका मतलब यह नहीं है कि वह कानूनी सलाह देने में अच्छा है। शोध पत्र का तर्क है कि स्कोर को स्पष्ट रूप से अपनी सीमाओं को बताना चाहिए ताकि हम गलती से उन्हें गलत जगह पर उपयोग न करें।
वैधता विंडो (यह कब समाप्त होता है?): परीक्षण स्कोर की एक शेल्फ लाइफ होती है। जैसे दूध, वे खराब हो जाते हैं। लेखक बताते हैं कि एक बार जब किसी AI मॉडल ने अपने प्रशिक्षण के दौरान परीक्षण प्रश्नों को देख लिया (एक समस्या जिसे "कंटैमिनेशन" या संदूषण कहा जाता है), तो स्कोर अर्थहीन हो जाता है। वे सुझाव देते हैं कि प्रत्येक स्कोर की एक समाप्ति तिथि होनी चाहिए। एक AI-जनित राय कुछ हफ्तटों के लिए ही वैध हो सकती है, जबकि एक औपचारिक गणितीय प्रमाण हमेशा के लिए रह सकता है।
वास्तविक दुनिया का प्रमाण: "ट्रस्ट इन्फ्लेशन" क्रिया में
लेखकों ने केवल सिद्धांत की बात नहीं की; उन्होंने AI एजेंटों के लिए एक वास्तविक परीक्षण प्रणाली बनाई और कुछ डरावने बग्स पाए।
- साइलेंट बग (मौन दोष): उन्होंने पाया कि उनकी कंप्यूटर कोडिंग भाषाओं के बीच एक बेमेल (mismatch) के कारण हर एक विफलता को सफलता के रूप में दर्ज किया गया। सिस्टम उन्हें झूठ बोल रहा था, बिना किसी के ध्यान दिए स्कोर को बढ़ा रहा था। यह बुनियादी ढांचे के स्तर पर "ट्रस्ट इन्फ्लेशन" है।
- "औसत" का झूठ: उन्होंने HELM नामक एक प्रसिद्ध सार्वजनिक लीडरबोर्ड पर इस सिद्धांत का परीक्षण किया। उन्होंने 10 अलग-अलग परिदृश्यों में 54 शीर्ष AI मॉडलों का परीक्षण किया।
- जब उन्होंने मॉडलों को औसत स्कोर के आधार पर रैंक किया, तो शीर्ष 5 मॉडल एक समूह थे।
- जब उन्होंने कमजोर-लिंक (किसी भी श्रेणी में सबसे कम स्कोर) के आधार पर रैंक किया, तो शीर्ष 5 मॉडल एक बिल्कुल अलग समूह थे।
- वास्तव में, दोनों शीर्ष-5 सूचियों के बीच ओवरलैप शून्य था। जो मॉडल पुराने तरीके से औसत के रूप में सबसे अच्छे "ऑल-राउंडर" दिख रहे थे, वे वास्तव में सबसे बड़ी छिपी हुई कमजोरियों वाले थे। जो मॉडल पुराने तरीके से "औसत" दिख रहे थे, वे वास्तव में सबसे विश्वसनीय थे क्योंकि उनमें कोई विनाशकारी विफलता नहीं थी।
भविष्य के लिए इसका क्या अर्थ है
शोध पत्र AI समुदाय के लिए कार्रवाई का आह्वान करता है। वे चाहते हैं कि हम स्कोर के पीछे के गणित को छिपाना बंद करें।
- अपना काम दिखाएं: प्रत्येक स्कोर के साथ एक लेबल होना चाहिए जो बताता है कि साक्ष्य कितने मजबूत हैं, वे किस पर लागू होते हैं, और वे कब समाप्त होते हैं।
- विकल्प चुनें: यदि हमें स्कोर को मिलाना ही है, तो हमें यह स्वीकार करना चाहिए कि हम किस पद्धति का उपयोग कर रहे हैं। क्या हम आशावादी (औसत का उपयोग करना) हो रहे हैं या रूढ़िवादी (कमजोर लिंक का उपयोग करना)? शोध पत्र का तर्क है कि सुरक्षा के लिए, हमें रूढ़िवादी "कमजोर लिंक" पद्धति को डिफ़ॉल्ट रूप से अपनाना चाहिए, लेकिन कम से कम हमें यह स्वीकार करना चाहिए कि हमने यह चुनाव किया है।
- वर्जन कंट्रोल: ठीक वैसे ही जैसे सॉफ्टवेयर कोड होता है, परीक्षण परिणामों को रिकॉर्ड करने के तरीके का भी वर्जन होना चाहिए ताकि हम गलती से सेब की तुलना संतरों से न कर दें।
लेखक स्वीकार करते हैं कि यह एक "पोजीशन पेपर" है, जिसका अर्थ है कि वे एक नए तरीके से सोचने का प्रस्ताव दे रहे हैं जो मजबूत तर्क और इंजीनियरिंग अनुभव पर आधारित है, न कि एक विशाल नए प्रयोग पर जो सब कुछ 100% सही साबित करता है। वे स्वीकार करते हैं कि बहुत अधिक रूढ़िवादी होने से अच्छे मॉडल भी बुरे दिख सकते हैं, लेकिन उनका तर्क है कि एक ऐसी प्रणाली को तैनात करने से बेहतर है जो औसत में महान दिखती है लेकिन विफल होने पर लोगों को नुकसान पहुँचा सकती है। स्कोर की "एपिस्टेमिक स्टेटस" (ज्ञान संबंधी स्थिति - यानी सत्यता और सीमाएं) को पारदर्शी बनाकर, हम यह बेहतर निर्णय ले सकते हैं कि किन AI प्रणालियों पर भरोसा किया जाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।