CleanScore: Black-Box Benchmark Audits with Negative Controls and Sensitivity Bounds

स्मार्ट मशीनें बनाने की दौड़ में, शोधकर्ता इस बात को मापने के लिए कि एक आर्टिफिशियल इंटेलिजेंस समस्याओं को कितनी अच्छी तरह हल कर सकता है, मानक परीक्षणों पर भरोसा करते हैं। ये परीक्षण स्कूल की परीक्षाओं की तरह हैं: प्रश्नों का एक समूह जिनके उत्तर ज्ञात हैं और जिन्हें एक मॉडल को स्कोर अर्जित करने के लिए हल करना होता है। स्कोर जितना अधिक होगा, मशीन को उतना ही अधिक सक्षम माना जाएगा। हालाँकि, इन परिणामों पर एक साया मंडरा रहा है। क्योंकि ये परीक्षण ऑनलाइन प्रकाशित होते हैं, इसलिए प्रश्न और उत्तर अक्सर इंटरनेट पर उपलब्ध होते हैं, जहाँ मशीनें सीखती हैं। यह डर बढ़ रहा है कि उच्च स्कोर हमेशा यह सिद्ध नहीं करते कि मशीन स्मार्ट है; वे केवल यह सिद्ध कर सकते हैं कि उसने अपने प्रशिक्षण के दौरान परीक्षण के प्रश्नों को रट लिया है। यदि किसी मशीन ने पहले से ही सटीक प्रश्न देखे हैं, तो उसका स्कोर बढ़ा हुआ होता है, और विभिन्न मॉडलों की रैंकिंग तर्क के बजाय स्मृति (मेमोरी) की प्रतियोगिता बन जाती है।

यह उन सभी के लिए एक कठिन समस्या पैदा करता है जो इन मशीनों का निष्पक्ष रूप से निर्णय लेने की कोशिश कर रहे हैं। अधिकांश शक्तिशाली मॉडल "ब्लैक बॉक्स" हैं, जिसका अर्थ है कि उनका आंतरिक प्रशिक्षण डेटा गुप्त है। एक ऑडिटर मशीन के अंदर झाँककर यह नहीं देख सकता कि क्या उसने किसी विशिष्ट प्रश्न को रट लिया है। वे केवल अंतिम स्कोर देख सकते हैं। वर्षों तक, रटने (मेमोराइजेशन) की जाँच करने का सबसे अच्छा तरीका प्रश्नों को फिर से लिखना था। यदि कोई मशीन वास्तव में उस गणित या विज्ञान के पीछे के सिद्धांत को समझती है, तो उसे मूल संस्करण की तरह ही पुनर्गठित संस्करण को भी हल करना चाहिए। यदि वह पुनर्गठित संस्करण में विफल रहती है, तो संभावना है कि उसने मूल को केवल रट लिया है। लेकिन इस पद्धति में एक छिपा हुआ दोष है: यह मान लेती है कि यदि कोई मशीन पुनर्गठित प्रश्न को सही हल करती है, तो उसने अवधारणा को सीख लिया है। यदि मशीन पुनर्गठित प्रश्न को केवल इसलिए सही हल करती है क्योंकि उसने उत्तर कुंजी (आंसर की) को रट लिया है, तो परीक्षण रटने को पकड़ने में विफल रहता है।

शोधकर्ताओं की एक टीम ने बिना ब्लैक बॉक्स के अंदर देखे इन स्कोर्स का ऑडिट करने का एक बेहतर तरीका विकसित करने का लक्ष्य रखा। उन्होंने 'क्लीनस्कोर' (CleanScore) नामक एक विधि विकसित की, जो प्रत्येक परीक्षण प्रश्न को एक माता-पिता के रूप में मानती है जिसके तीन बच्चे हैं: मूल सार्वजनिक प्रश्न, और दो नए, निजी तौर पर लिखे गए संस्करण जो समान संख्याओं और तथ्यों को रखते हैं लेकिन अलग शब्दों का उपयोग करते हैं। शोधकर्ताओं ने पाँच अलग-अलग ओपन-सोर्स मॉडलों से दो प्रमुख बेंचमार्क (एक गणित और दूसरा विज्ञान पर केंद्रित) के 200 प्रश्नों को हल करने के लिए कहा। प्रत्येक प्रश्न के लिए, उन्होंने मूल सार्वजनिक संस्करण बनाम दो ताज़ा संस्करणों पर मॉडलों के प्रदर्शन की तुलना की। यदि मॉडल सार्वजनिक संस्करण पर लगातार बेहतर स्कोर करते, तो यह संकेत देता कि उन्होंने परीक्षण को रट लिया था।

ऑडिट में इस तरह के रटने का कोई प्रमाण नहीं मिला। सभी पाँच मॉडलों और दोनों बेंचमार्क में, सार्वजनिक प्रश्नों पर स्कोर ताज़ा, पुनर्गठित प्रश्नों की तुलना में महत्वपूर्ण रूप से अधिक नहीं था। शोधकर्ताओं ने गणना की कि सार्वजनिक शब्दावली को देखने से प्राप्त कोई भी लाभ पाँच प्रतिशत से कम था। यह परिणाम तब भी कायम रहा जब टीम ने अपने प्रारंभिक सेटअप में एक तकनीकी त्रुटि को ठीक किया, जहाँ कुछ मॉडलों को उनके उत्तर पूरे करने से पहले ही रोक दिया गया था। अध्ययन में एक "नेगेटिव कंट्रोल" (negative control) भी शामिल था, जिसमें ऐसे प्रश्न थे जिन्हें मॉडलों ने कभी नहीं देखा था और न ही वे उन्हें रट सकते थे, ताकि यह सुनिश्चित किया जा सके कि पुनर्गठन प्रक्रिया स्वयं प्रश्नों को कठिन या आसान नहीं बना रही है। परिणामों ने दिखाया कि पुनर्गठन प्रक्रिया निष्पक्ष थी, और स्कोर का अंतर न होना एक वास्तविक खोज थी, न कि परीक्षण डिजाइन का कोई प्रभाव।

हालाँकि, अध्ययन का सबसे चौंकाने वाला हिस्सा उन प्रयोगों की श्रृंखला से आया जो यह देखने के लिए डिज़ाइन किए गए थे कि ऑडिट क्या छोड़ देगा। शोधकर्ताओं ने जानबूझकर 100 परीक्षण प्रश्नों की सटीक शब्दावली पर चार अलग-अलग मॉडलों को प्रशिक्षित किया। फिर उन्होंने उसी ऑडिट को चलाया यह देखने के लिए कि क्या यह रटने को पकड़ पाता है। गणित बेंचमार्क पर, जिन मॉडलों ने प्रश्नों को रटा था, उनकी सटीकता रटे हुए शब्दों पर 26 अंक सुधरी। लेकिन जब उन्हीं प्रश्नों के ताज़ा, पुनर्गठित संस्करणों पर परीक्षण किया गया, तो वे उन्हीं प्रश्नों पर 20 अंक भी सुधरे। ऑडिट, जो केवल मूल और पुनर्गठन के बीच के अंतर को देखता है, ने केवल लगभग छह अंकों का अंतर देखा। दूसरे शब्दों में, ऑडिट ने रटने का केवल एक छोटा सा हिस्सा ही पकड़ा। अधिकांश लाभ—वह हिस्सा जो केवल शब्दों को रटने के बजाय समस्या को समझने से आया था—परीक्षण के लिए अदृश्य था।

यह अंधापन विज्ञान बेंचमार्क पर और भी अधिक चरम था। एक प्रयोग में, शोधकर्ताओं ने एक मॉडल को 100 विज्ञान प्रश्नों पर प्रशिक्षित किया और फिर पुनर्गठित संस्करणों पर उसका परीक्षण किया। मॉडल ने रटे हुए प्रश्नों पर अपनी सटीकता में 49 अंकों का सुधार किया। क्योंकि पुनर्गठित संस्करणों में बहुविकल्पीय उत्तर बिल्कुल समान रखे गए थे, मॉडल ने रटे हुए उत्तर स्ट्रिंग को पहचानकर पुनर्गठित प्रश्नों पर भी पूर्ण स्कोर प्राप्त किया। ऑडिट ने नकारात्मक दो अंकों का अंतर निकाला, जिससे प्रभावी रूप से कोई रटना ही नहीं दिखा। मॉडल ने उत्तर सीख लिए थे, लेकिन परीक्षण डिजाइन ने, जिसने उत्तर विकल्पों को स्थिर रखा था, उस ज्ञान को सामने ही छिपने का अवसर दे दिया।

शोधकर्ताओं ने निष्कर्ष निकाला कि हालांकि उनकी विधि सफलतापूर्वक यह मापने में सफल रही कि क्या एक मॉडल प्रश्न की विशिष्ट सतही शब्दावली पर निर्भर था, लेकिन यह कुल संदूषण (contamination) को नहीं माप सकी। एक मॉडल को एक डेटासेट पर भारी मात्रा में प्रशिक्षित किया जा सकता है और फिर भी वह 'साफ' दिखाई दे सकता है यदि परीक्षण प्रश्नों को इस तरह से पुनर्गscribed किया जाए कि मुख्य उत्तर सुरक्षित रहे। अध्ययन ने दिखाया कि उनके द्वारा ऑडिट किए गए पाँच मॉडलों के लिए, इस बात का कोई पुख्ता सबूत नहीं था कि उन्होंने परीक्षण के प्रश्नों की विशिष्ट शब्दावली को रटा था। लेकिन इसने यह भी सिद्ध कर दिया कि एक "क्लीन" स्कोर यह गारंटी नहीं देता कि मॉडल ने सामग्री को पहले नहीं देखा है; यह केवल यह गारंटी देता है कि मॉडल ने सटीक वाक्यांश पर निर्भरता नहीं दिखाई। ऑडिट ने सतही स्तर के मुद्रास्फीति (inflation) को सफलतापूर्वक सीमित किया, लेकिन यह यह खारिज नहीं कर सका कि मॉडलों ने सामग्री को इस तरह सीखा है जो पुनर्गठन प्रक्रिया में भी जीवित रहता है।

अध्ययन ने यह भी रेखांकित किया कि एक ऑडिट कितना छोटा हो सकता है। शोधकर्ताओं ने पाया कि एक महत्वपूर्ण लाभ का विश्वसनीय रूप से पता लगाने के लिए, एक ऑडिट को कम से कम 200 प्रश्नों का परीक्षण करने की आवश्यकता होती है। कम प्रश्नों के साथ, सांख्यिकीय अनिश्चितता इतनी बड़ी होती है कि परीक्षण वास्तविक लाभ और यादृच्छिक शोर (random noise) के बीच अंतर नहीं कर पाता। उन्होंने यह भी दिखाया कि जबकि कम प्रश्नों के साथ मॉडलों को सही ढंग से रैंक करना संभव है, प्रदर्शन के सटीक क्रम को निर्धारित करने के लिए बहुत बड़े नमूना आकार (sample size) की आवश्यकता होती है। यह कार्य एक कठोर, पंजीकृत प्रयोग के रूप में कार्य करता है जो एआई परीक्षण में अनिश्चितता के बारेंे बात करने के लिए एक नया मानक स्थापित करता है। यह मॉडलों को सभी प्रकार के रटने से निर्दोष घोषित नहीं करता है, बल्कि यह डेटा के बारे में स्पष्ट और ईमानदार बयान प्रदान करता है कि जब केवल अंतिम स्कोर उपलब्ध हों तो वह क्या दिखा सकता है और क्या नहीं।