Selective data curation enables efficient pretraining of chest radiograph foundation models
यह शोध पत्र CheXficient को प्रस्तुत करता है, जो एक चेस्ट एक्स-रे फाउंडेशन मॉडल है जो पारंपरिक बड़े पैमाने के प्रीट्रेनिंग दृष्टिकोणों की तुलना में डेटा और कम्प्यूटेशनल संसाधनों के केवल एक अंश का उपयोग करके विविध नैदानिक कार्यों में प्रतिस्पर्धी प्रदर्शन प्राप्त करने के लिए रिप्रेजेंटेशन-गाइडेड सेलेक्टिव डेटा क्यूरेशन का लाभ उठाता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मेडिकल इमेजिंग की दुनिया में, कंप्यूटर यह सीखने की कोशिश कर रहे हैं जो डॉक्टर देखते हैं। वर्षों से, प्रचलित धारणा यह रही है कि इन आर्टिफिशियल इंटेलिजेंस सिस्टम को स्मार्ट बनाने के लिए, आपको बस उन्हें अधिक डेटा खिलाने की आवश्यकता है। तर्क तर्कसंगत लग रहा था: कंप्यूटर जितने अधिक चेस्ट एक्स-रे और रेडियोलॉजी रिपोर्ट पढ़ेगा, वह बीमारियों को पहचानने में उतना ही बेहतर होता जाएगा। इस दृष्टिकोण को, जिसे अक्सर "हर कीमत पर स्केल करना" (scale at all costs) कहा जाता है, ने शोधकर्ताओं को दुनिया भर के अस्पतालों से लाखों चित्र एकत्र करने के लिए प्रेरित किया है। हालाँकि, इस रणनीति की एक भारी कीमत है। इन विशाल प्रणालियों को प्रशिक्षित करने के लिए अत्यधिक बिजली और समय की आवश्यकता होती है, जिसमें शक्तिशाली सुपरकंप्यूटरों पर अक्सर हफ्तों लग जाते हैं। इसके अलावा, मेडिकल डेटा शायद ही कभी पूर्ण होता है; यह अक्सर डुप्लिकेट्स से भरा होता है, सामान्य बीमारियों की ओर झुका हुआ होता है, और उन दुर्लभ लेकिन महत्वपूर्ण स्थितियों की कमी होता है जिन्हें डॉक्टर सबसे अधिक तत्काल पहचानना चाहते हैं। क्षेत्र के सामने प्रश्न यह है कि क्या इन मशीनों को सिखाने का कोई स्मार्ट तरीका है जिससे संसाधनों को जलाने या अनावश्यक जानकारी के समुद्र में खो जाने की आवश्यकता न हो।
स्टैनफोर्ड यूनिवर्सिटी के शोधकर्ताओं की एक टीम ने एक अलग रास्ता प्रस्तावित किया है, जो मात्रा के बजाय गुणवत्ता पर ध्यान केंद्रित करता है। उन्होंने एक नई विधि पेश की जिसे CheXefficient कहा जाता है, जो मेडिकल एआई के प्रशिक्षण के लिए उपयोग किए जाने वाले डेटा के लिए एक सावधानीपूर्वक संपादक (editor) के रूप में कार्य करता है। कंप्यूटर को मिलने वाले हर एक एक्स-रे और रिपोर्ट को आँख मूंदकर खिलाने के बजाय, यह सिस्टम केवल सबसे उपयोगी उदाहरणों को चुनने के लिए एक "डेटा क्यूरेटर" का उपयोग करता है। एक ऐसी लाइब्रेरी की कल्पना करें जहाँ एक लाइब्रेरियन यह तय करता है कि शेल्फ पर कौन सी किताबें रखनी हैं, इस आधार पर कि वे कितनी नई जानकारी प्रदान करती हैं, न कि केवल आने वाली हर किताब को ढेर करने के आधार पर। इस मामले में, कंप्यूटर उन छवियों और रिपोर्टों को देखता है जिन्हें उसने पहले देखा है और उन नए उदाहरणों की पहचान करता है जो उसके ज्ञान से सबसे भिन्न हैं। यह उन छवियों को प्राथमिकता देता है जो दुर्लभ या असामान्य स्थितियों को दर्शाती हैं और उन छवियों को कम महत्व देता है जो सामान्य और दोहराव वाली हैं। ऐसा करके, सिस्टम बहुत कम उदाहरणों के साथ मानव स्वास्थ्य की अधिक पूर्ण तस्वीर सीखता है।
शोधकर्ताओं ने इस विचार का परीक्षण 1.2 मिलियन से अधिक युग्मित (paired) चेस्ट एक्स-रे और उनके संबंधित रेडियोलॉजी रिपोर्ट के एक विशाल संग्रह का उपयोग करके किया। उन्होंने परिणामों की तुलना करने के लिए उनके एआई मॉडल के तीन अलग-अलग संस्करणों को प्रशिक्षित किया। पहला संस्करण, जिसे वे CheXfull कहते हैं, को 1.2 मिलियन छवियों के पूरे डेटासेट पर प्रशिक्षित किया गया था। दूसरा, CheXrandom, को 280,000 छवियों के यादृच्छिक (random) चयन पर प्रशिक्षित किया गया था, जो डेटा के आकार में एक विशिष्ट कमी को दर्शाता है। तीसरा, CheXefficient, को 280,000 चुनिते हुए छवियों के एक सावधानीपूर्वक क्यूरेट किए गए सेट पर प्रशिक्षित किया गया था, जिन्हें विशेष रूप से इसलिए चुना गया था क्योंकि वे सबसे अधिक नई जानकारी प्रदान करते थे और चिकित्सा स्थितियों की विस्तृत श्रृंखला को कवर करते थे। परिणाम चौंकाने वाले थे। CheXefficient ने, केवल 23 प्रतिशत डेटा और पूर्ण मॉडल द्वारा आवश्यक कंप्यूटिंग शक्ति के 28 प्रतिशत से भी कम का उपयोग करके, पूरे 1.2 मिलियन छवियों पर प्रशिक्षित विशाल मॉडल के समान प्रदर्शन किया। कई परीक्षणों में, इसने यादृच्छिक डेटा चयन पर प्रशिक्षित मॉडल से बेहतर प्रदर्शन किया, जिससे यह सिद्ध हुआ कि डेटा का विशिष्ट चयन उसके केवल विशाल आयतन (volume) से कहीं अधिक महत्वपूर्ण था।
इस दृष्टिकोण ने न केवल समय और ऊर्जा बचाई; बल्कि इसने एआई को उन दुर्लभ बीमारियों को पहचानने में भी बेहतर बनाया जिन्हें अक्सर छोड़ दिया जाता है। पूर्ण डेटासेट में, सामान्य स्थितियां जैसे सामान्य फेफड़े या मामूली तरल पदार्थ का जमा होना संख्या में हावी होते हैं, जबकि दुर्लभ समस्याएं जैसे विशिष्ट प्रकार के फ्रैक्चर या असामान्य संक्रमण बहुत कम बार दिखाई देते हैं। क्योंकि डेटा क्यूरेटर ने सक्रिय रूप रूप से इन कम प्रतिनिधित्व वाले उदाहरणों की खोज की, इसलिए CheXefficient मॉडल ने उन्हें बहुत अधिक प्रभावी ढंग से पहचानना सीख लिया। जब दुर्लभ बीमारियों पर परीक्षण किया गया जो प्रशिक्षण डेटा में कम थीं, तो क्यूरेटेड मॉडल ने महत्वपूर्ण क्षमता दिखाई, जिसका अर्थ है कि यह नए, अनदेखे रोगियों पर जो कुछ सीखा था उसे अधिक सटीकता के साथ लागू कर सका। यह सुझाव देता है कि सूचना के आहार को जानबूझकर संतुलित करके, शोधकर्ता ऐसे सिस्टम बना सकते हैं जो न केवल प्रशिक्षित करने में सस्ते हैं, बल्कि अस्पताल के कठिन मामलों के लिए अधिक विश्वसनीय भी हैं।
लाभ केवल बीमारियों की पहचान करने तक ही सीमित नहीं थे। शोधकर्ताओं ने यह भी परीक्षण किया कि उनके मॉडल अन्य जटिल कार्यों को कितनी अच्छी तरह से कर सकते हैं, जैसे कि छवि में शरीर रचना (anatomy) का वर्णन करना, विशिष्ट अंगों का विभाजन (segmentation) करना, या यहाँ तक कि शून्य से रेडियोलॉजी रिपोर्ट लिखना। प्रत्येक श्रेणी में, क्यूरेटेड डेटा पर प्रशिक्षित मॉडल ने विशाल पूर्ण-डेटा मॉडल का डटकर मुकाबला किया। इसे नए कार्यों को सीखने के लिए बहुत कम लेबल वाले उदाहरणों की आवश्यकता थी, जिसका अर्थ है कि डॉक्टरों को एआई के काम को मैन्युअल रूप से सुधारने में कम समय बिताना होगा। अध्ययन में यह भी पाया गया कि क्यूरेटेड डेटा में स्वाभाविक रूप से विभिन्न आयु समूहों और पृष्ठभूमियों के रोगियों का एक बेहतर मिश्रण शामिल था, विशेष रूप से बच्चों और वृद्धों की अधिक छवियां मिलीं, जो ऐसे समूह हैं जिन्हें अक्सर मानक मेडिकल डेटासेट में कम प्रतिनिधित्व दिया जाता है। यह इंगित करता है कि चयन प्रक्रिया ने सख्त कोटा लागू करने की आवश्यकता के बिना स्वाभाविक रूप से एआई के ज्ञान की निष्पक्षता और विविधता में सुधार किया।
ये निष्कर्ष मेडिकल आर्टिफिशियल इंटेलिजेंस की दुनिया में इस लंबे समय से चली आ रही धारणा को चुनौती देते हैं कि बड़ा होना हमेशा बेहतर होता है। शोधकर्ताओं ने प्रदर्शित किया कि डेटा चयन के रणनीतिक दृष्टिकोण से संसाधनों के एक अंश के साथ समान उच्च प्रदर्शन प्राप्त किया जा सकता है। यह मेडिकल एआई के भविष्य के लिए एक महत्वपूर्ण विकास है, क्योंकि यह सुझाव देता है कि सीमित बजट वाले अस्पताल और अनुसंधान केंद्र भी शक्तिशाली, अत्याधुनिक नैदानिक उपकरण बना सकते हैं। सबसे अधिक सूचनात्मक उदाहरणों पर ध्यान केंद्रित करके और अनावश्यक डेटा के शोर से बचकर, स्मार्ट मेडिकल एआई का मार्ग अधिक कुशल और सुलभ हो जाता है। अध्ययन का निष्कर्ष है कि इन फाउंडेशन मॉडल्स का भविष्य हर उपलब्ध छवि को इकट्ठा करने में नहीं, बल्कि एक स्मार्ट, अधिक प्रतिनिधि संग्रह को क्यूरेट करने में निहित है जो कंप्यूटर को मानव स्वास्थ्य के पूर्ण स्पेक्ट्रम को देखने की शिक्षा देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।