A Controlled Audit of Pretraining Contamination in Public Medical Vision-Language Benchmarks
यह शोध पत्र प्रीट्रेनिंग संदूषण (pretraining contamination) के लिए सार्वजनिक चिकित्सा विजन-लैंग्वेज बेंचमार्क का ऑडिट करता है और मापने योग्य इमेज-सोर्स ओवरलैप और टेक्स्ट-एक्सचेंजेबिलिटी सिग्नल पाता है, जबकि यह प्रदर्शित करता है कि मिंक++ (Min-K%++) जैसे कोहॉर्ट-रिलेटिव डिटेक्टर गैर-चिकित्सा मॉडलों से होने वाले फॉल्स पॉजिटिव के कारण छोटे चिकित्सा कोहॉर्ट्स के लिए अविश्वसनीय हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक शिक्षक हैं जो एक छात्र की अंतिम परीक्षा का ग्रेड देने की कोशिश कर रहे हैं। आप यह जानना चाहते हैं कि क्या छात्र ने वास्तव में सामग्री को समझा है या उसने केवल उस चीट शीट से उत्तर रट लिए हैं जो उसे लाइब्रेरी में मिली थी।
यह पेपर उस स्थिति का एक बहुत ही सख्त, वैज्ञानिक ऑडिट की तरह है, लेकिन छात्र के बजाय, हम AI मॉडल्स (विशेष रूप से, "विज़न-लैंग्वेज मॉडल्स" जो मेडिकल इमेज देख सकते हैं और सवालों के जवाब दे सकते हैं) को देख रहे हैं। लाइब्रेरी के बजाय, "चीट शीट" वह विशाल डेटा है जिस पर इन AI मॉडल्स को परीक्षा के सवालों को देखने से पहले प्रशिक्षित (train) किया गया था।
यहाँ शोधकर्ताओं ने क्या किया और क्या पाया, इसका विवरण सरल उपमाओं (analogies) का उपयोग करके दिया गया है:
सेटअप: "लीक" हुई परीक्षा
मेडिकल AI मॉडल्स का परीक्षण सार्वजनिक डेटासेट्स (जैसे SLAKE, PathVQA, और VQA-RAD) पर किया जाता है। ये डेटासेट्स 3 से 7 साल से ऑनलाइन उपलब्ध हैं। समस्या यह है कि ये समान डेटासेट्स गलती से "ट्रेनिंग लाइब्रेरी" (इंटरनेट डेटा) में शामिल हो सकते हैं जिसे AI ने परीक्षा देने से पहले पढ़ा था। यदि AI ने प्रशिक्षण के दौरान ठीक वही प्रश्न और चित्र देखे हैं, तो उसका उच्च स्कोर बुद्धिमत्ता का प्रमाण नहीं है; यह धोखाधड़ी (या "कंटैमिनेशन") का प्रमाण है।
शोधकर्ता यह पता लगाना चाहते थे: क्या AI ने धोखाधड़ी की? और अधिक महत्वपूर्ण बात यह है कि क्या हम उन उपकरणों पर भरोसा कर सकते हैं जिनका उपयोग नकल करने वालों को पकड़ने के लिए किया जाता है?
चार "जासूस"
टीम ने AI को पकड़ने की कोशिश करने के लिए चार अलग-अलग तरीकों (डिटेक्टर्स) का उपयोग किया। इन्हें नकल करने वाले को पहचानने के चार अलग-अलग तरीकों के रूप में समझें:
- "एक जैसा दिखने वाला" जासूस (इमेज साइड): यह जासूस मेडिकल चित्रों को देखता है और पूछता है, "क्या यह चित्र ट्रेनिंग लाइब्रेरी में मौजूद किसी चित्र जैसा ही दिखता है?"
- "क्रम" का जासूस (टेक्स्ट साइड): यह जासूस यह जाँचता है कि क्या AI का प्रदर्शन बेहतर होता है जब प्रश्न उसी क्रम में होते हैं जिसमें वे मूल रूप से ऑनलाइन जारी किए गए थे। यदि AI को क्रम पता है, तो हो सकता है कि उसने अनुक्रम (sequence) को याद कर लिया हो।
- "समूह औसत" का जासूस (टेल एनरिचमेंट): यह जासूस एक AI के उत्तरों की तुलना अन्य AI के समूह के औसत से करता है। यदि एक AI अपने दोस्तों की तुलना में विशिष्ट कठिन प्रश्नों पर बहुत बेहतर है, तो हो सकता है कि उसने उन्हें पहले देखा हो।
- "दोस्ती" का जासूस (क्रॉस-मॉडल ओवरलैप): यह दो अलग-अलग AI को देखता है। यदि वे दोनों एक ही विशिष्ट कठिन प्रश्नों को सही पाते हैं, तो हो सकता है कि वे एक ही चीट शीट साझा कर रहे हों।
निष्कर्ष: किसे पकड़ा गया?
1. "एक जैसा दिखने वाला" जासूस ने SLAKE पर काफी "सोर्स ओवरलैप" पाया।
- निष्कर्ष: SLAKE टेस्ट के लगभग 20% चित्रों के "जुड़वां" ट्रेनिंग लाइब्रेरी में मौजूद थे।
- ट्विस्ट: जब शोधकर्ताओं ने बारीकी से देखा, तो उन्होंने महसूस किया कि ये सटीक प्रतियां (जैसे फोटोकॉपी) नहीं थीं। वे अलग-अलग मरीजों के चित्र थे लेकिन एक ही एंगल और एक ही प्रकार की मशीन (जैसे, दो अलग-अलग लोगों के चेस्ट एक्स-रे) से लिए गए थे।
- निष्कर्ष: AI ने विशिष्ट मरीज की फोटो को याद नहीं किया। हालांकि, टेस्ट और ट्रेनिंग डेटा एक ही "पड़ोस" से आए थे। यह वैसा ही है जैसे छात्र ने एक ऐसी पाठ्यपुस्तक पढ़ी हो जिसमें परीक्षा के समान ही प्रकार के डायग्राम थे। यह एक सोर्स ओवरलैप है, सीधा कॉपी-पेस्ट वाला चीटिंग नहीं।
2. "क्रम" के जासूस ने एक असली नकलची पकड़ा।
- निष्कर्ष: एक मॉडल (Qwen2.5-VL) ने SLAKE टेस्ट के सवालों को उनके मूल क्रम में बहुत अच्छी तरह से जान लिया था।
- सत्यापन: शोधकर्ताओं ने सवालों को बदलकर AI को चकमा देने की कोशिश की। AI का "चीटिंग" सिग्नल गायब हो गया। उन्होंने एक गैर-मेडिकल AI (BLIP-2) का भी उसी टेस्ट पर परीक्षण किया, और इसमें यह सिग्नल नहीं दिखा।
- निष्कर्ष: यह इस विशिष्ट मॉडल के बारे में मजबूत सबूत है कि उसने संभवतः ट्रेनिंग के दौरान SLAKE के सवालों को देखा था।
3. "समूह औसत" और "दोस्ती" के जासूस अविश्वसनीय थे।
- निष्कर्ष: इन डिटेक्टर्स ने कई मॉडल्स को नकलची के रूप में चिह्नित किया।
- ट्विस्ट: जब शोधकर्ताओं ने एक "कंट्रोल" मॉडल (BLIP-2) जोड़ा जिसने निश्चित रूप से मेडिकल डेटा का अध्ययन नहीं किया था, तो उस कंट्रोल मॉडल को भी चिह्नित किया गया!
- निष्कर्ष: ये डिटेक्टर्स मेडिकल AI के छोटे समूहों के लिए टूटे हुए (unreliable) हैं। वे "सरल प्रश्नों में अच्छा होने" को "धोखाधड़ी" समझने में भ्रमित हो रहे हैं। यह एक शिक्षक के ऐसा सोचने जैसा है कि एक छात्र गणित में नकल कर रहा है क्योंकि क्लास के अन्य छात्र गणित में कमजोर थे। सही ढंग से काम करने के लिए इन डिटेक्टर्स को एक "गैर-मेडिकल" बेसलाइन की आवश्यकता है।
4. "क्लीन" बेंचमार्क: VQA-RAD।
- निष्कर्ष: VQA-RAD टेस्ट साफ था। किसी भी डिटेक्टर ने इस विशिष्ट डेटासेट पर धोखाधड़ी का कोई सबूत नहीं पाया।
- निष्कर्ष: यदि आप मेडिकल AI का सुरक्षित परीक्षण करना चाहते हैं, तो VQA-RAD का उपयोग करें। यह "सबसे सुरक्षित" परीक्षा है।
बड़ा सबक: ऑडिट का ऑडिट कैसे करें
इस पेपर का सबसे महत्वपूर्ण हिस्सा यह नहीं है कि किस AI ने धोखाधड़ी की; बल्कि यह है कि हम नकल करने वालों को कैसे पकड़ते हैं।
शोधकर्ताओं ने पाया कि डेटा लीक का पता लगाने वाले कुछ लोकप्रिय उपकरण (जैसे "ग्रुप एवरेज" और "फ्रेंडशिप" डिटेक्टर्स) गलत अलार्म देते हैं यदि आपके पास तुलना करने के लिए एक "कंट्रोल ग्रुप" (एक ऐसा मॉडल जिसने निश्चित रूप से धोखाधड़ी नहीं की है) नहीं है। बिना उस कंट्रोल के, आप एक ईमानदार छात्र पर धोखाधड़ी का आरोप लगा सकते हैं क्योंकि अन्य छात्र संघर्ष कर रहे थे।
सिफारिशों का सारांश
उनके ऑडिट के आधार पर, लेखक सुझाव देते हैं:
- मेडिकल AI के लिए सबसे सुरक्षित टेस्ट के रूप में VQA-RAD का उपयोग करें।
- SLAKE के साथ सावधान रहें: इसके कई चित्र ट्रेनिंग डेटा के समान दिखते हैं, इसलिए परिणाम बढ़ा-चढ़ाकर दिखाए जा सकते हैं।
- "ग्रुप एवरेज" डिटेक्टर्स पर भरोसा न करें जब तक कि आप उनकी तुलना एक गैर-मेडिकल बेसलाइन से न करें।
- OmniMedVQA संदूषित (contaminated) है: टेस्टिंग के लिए इस डेटासेट के पब्लिक वर्जन का उपयोग न करें; इसकी ट्रेनिंग डेटा में होने की संभावना बहुत अधिक है।
संक्षेप में, शोधकर्ताओं ने AI टेस्टिंग के लिए एक बेहतर "झूठ पकड़ने वाला यंत्र" बनाया, पाया कि कुछ मौजूदा झूठ पकड़ने वाले यंत्र खराब हैं, और पहचाना कि कौन सी मेडिकल परीक्षाएं सुरक्षित हैं और कौन सी शायद हेरफेर की गई हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।