Frozen Brain-MRI Foundation Models Are Site Fingerprints
यह शोध पत्र प्रकट करता है कि फ्रोजन ब्रेन-एमआरआई फाउंडेशन मॉडल्स स्वाभाविक रूप से अधिग्रहण स्थल (acquisition site) की जानकारी को एक प्रमुख, रैखिक रूप से डिकोडेबल फिंगरप्रिंट के रूप में समाहित करते हैं जो अक्सर नैदानिक चरों (clinical variables) से अधिक होता है, जिससे महत्वपूर्ण एट्रिब्यूशन जोखिम उत्पन्न होते हैं और साइट बायस (site bias) को हटाने और शारीरिक विभाजन सटीकता (anatomical segmentation accuracy) को बनाए रखने के बीच एक समझौता पैदा होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जासूस हैं जो एक सुपर-स्मार्ट एआई (AI) सहायक का उपयोग करके एक रहस्य को सुलझाने की कोशिश कर रहे हैं। चिकित्सा विज्ञान की दुनिया में, यह एआई एक "फाउंडेशन मॉडल" है—एक विशाल, पूर्व-प्रशिक्षित मस्तिष्क जिसने मानव सिर के लाखों एमआरआई (MRI) स्कैन पढ़े हैं। वैज्ञानिक इन मॉडलों को इसलिए पसंद करते हैं क्योंकि ये एक जीनियस मेडिकल छात्र की तरह हैं जिसने हर प्रकार के मस्तिष्क को देखा है, जो बिना दोबारा प्रशिक्षित हुए बीमारियों का निदान करने या शरीर रचना (anatomy) का अध्ययन करने के लिए तैयार है। बड़ी उम्मीद यह है कि जब आप इस एआई को एक नया स्कैन देखने के लिए कहेंगे, तो यह केवल जीव विज्ञान को देखेगा: मस्तिष्क का आकार, वेंट्रिकल्स का आकार और ऊतकों (tissue) का स्वास्थ्य। इसे मानव शरीर की एक शुद्ध खिड़की होना चाहिए, जो बाकी सब कुछ को अनदेखा कर दे।
लेकिन यहाँ एक पेंच है: मेडिकल स्कैन शून्य में नहीं लिए जाते। उन्हें अस्पतालों में, विशिष्ट मशीनों (स्कैनर) का उपयोग करके लिया जाता है, जो अलग-अलग कंपनियों द्वारा बनाई जा सकती हैं, या अलग-अलग गति या सेटिंग्स पर ट्यून की जा सकती हैं। ठीक वैसे ही जैसे आईफोन से ली गई फोटो सैमसंग से ली गई फोटो से अलग दिखती है, भले ही वह एक ही व्यक्ति हो, एमआरआई स्कैन में उस मशीन का "फिंगरप्रिंट" होता है जिसने उसे लिया था। वर्षों से, वैज्ञानिक इस बात को लेकर चिंतित थे कि ये मशीन संबंधी अंतर एआई को धोखा दे सकते हैं, जिससे एआई को लग सकता है कि अस्पताल A का एक स्वस्थ मस्तिष्क बीमार है क्योंकि तस्वीर अस्पताल B से थोड़ी अलग दिखती है। बड़ा सवाल यह था: क्या एआई वास्तव में मस्तिष्क को देख रहा है, या वह गुप्त रूप से कैमरे की शैली को याद कर रहा है?
यह शोध पत्र ठीक इसी की जांच करता है। शोधकर्ताओं ने इन कई "फ्रोजन" (frozen) एआई मॉडलों को लिया—जिसका अर्थ है कि उन्होंने एआई के मस्तिष्क को लॉक कर दिया ताकि वह कुछ भी नया न सीख सके—और परीक्षण किया कि वह वास्तव में क्या देख रहा था। उन्होंने एआई के साथ एक संदिग्ध की तरह व्यवहार किया और पूछा: "यदि मैं तुम्हें एक मस्तिष्क का स्कैन दिखाऊं, तो क्या तुम बता सकते हो कि यह किस अस्पताल से आया है?" उत्तर चौंकाने वाला था। एआई ने केवल मस्तिष्क को नहीं देखा; उसने स्पष्ट दृष्टि के साथ अस्पताल को देखा। वास्तव में, एआई लगभग 90% सटीकता के साथ अस्पताल (साइट) की पहचान कर सका, जो रोगी की आयु, लिंग, या ऑटिज्म होने की पहचान करने की उसकी क्षमता से कहीं बेहतर था।
सबसे आश्चर्यजनक मोड़? यह इसलिए नहीं था क्योंकि एआई को "जासूस" बनने के लिए प्रशिक्षित किया गया था। शोधकर्ताओं ने इस मामले में एक ऐसे एआई संस्करण का परीक्षण किया जिसे कभी किसी डेटा पर प्रशिक्षित ही नहीं किया गया था—यह केवल संख्याओं का एक यादृच्छिक संग्रह था। यहाँ तक कि यह "मूर्ख", यादृच्छिक एआई भी लगभग 90% की समान सटीकता के साथ अस्पताल की पहचान कर सका। इसका मतलब है कि "फिंगरप्रिंट" कोई गुप्त कोड नहीं है जिसे एआई ने सीखा है; यह स्वयं कच्ची तस्वीरों में रचा-बसा है। जिस तरह से मशीनें मस्तिष्क की रोशनी और बनावट को कैप्चर करती हैं, वह इतना विशिष्ट है कि कोई भी सिस्टम, चाहे वह स्मार्ट हो या मूर्ख, यह बता सकता है कि वह कहाँ से आया है।
शोध पत्र ने यह भी पता लगाया कि क्या हम इसे ठीक कर सकते थे। उन्होंने गणितीय युक्तियों का उपयोग करके एआई के मस्तिष्क से अस्पताल की जानकारी को "साफ" (scrub) करने की कोशिश की। उन्होंने पाया कि सरल कार्यों के लिए, जैसे कि पूरे मस्तिष्क को देखना और "हाँ" या "ना" कहना, वे अस्पताल के फिंगरप्रिंट को परिणामों को नुकसान पहुँचाए बिना हटा सकते थे। हालाँकि, मस्तिष्क के हर छोटे हिस्से का नक्शा बनाने जैसे विस्तृत कार्यों के लिए, फिंगरप्रिंट हटाना विनाशकारी था। यह पता चला कि "अस्पताल की शैली" और "मस्तिष्क की शरीर रचना" एआई के मस्तिष्क में आपस में उलझे हुए थे। जब उन्होंने अस्पताल वाले हिस्से को काटा, तो उन्होंने अनजाने में मस्तिष्क के सूक्ष्म, गहरे हिस्सों को भी काट दिया, जैसे कि थैलेमस और हिप्पोकैम्पस, जिससे एआई उन्हें देखने में असमर्थ हो गया।
तो, मुख्य निष्कर्ष वैज्ञानिकों के लिए एक चेतावनी है: यह मान न लें कि ये शक्तिशाली एआई उपकरण पूरी तरह से शरीर रचना को देख रहे हैं। वे स्कैनर को भी देख रहे हैं। और चूंकि यह "फिंगरप्रिंट" स्वयं छवि में बहुत गहराई से निहित है, इसलिए आप एआई को इसे अनदेखा करने के लिए बेहतर तरीके से प्रशिक्षित नहीं कर सकते; आपको एआई के जवाबों का उपयोग करते समय बहुत सावधान रहना होगा, खासकर जब आप मानव मस्तिष्क के सूक्ष्म, जटिल विवरणों का मानचित्रण करने का प्रयास कर रहे हों।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।