FRAME: separating sampling variation from representational cause in medical imaging fairness
यह शोध पत्र FRAME को प्रस्तुत करता है, जो एक दो-चरणीय ढांचा है जो एक निष्पक्ष-मॉडल संदर्भ स्थापित करके और शेष अंतरों का परीक्षण करके मेडिकल इमेजिंग निष्पक्षता में सैंपलिंग भिन्नता और वास्तविक प्रतिनिधिक पूर्वाग्रह के बीच अंतर करता है, जिससे यह पता चलता है कि रिपोर्ट की गई उपसमूह असमानताओं का एक महत्वपूर्ण हिस्सा मॉडल तंत्र के बजाय सांख्यिकीय शोर के कारण हो सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मेडिकल इमेजिंग एक ऐसा क्षेत्र है जहाँ आर्टिफिशियल इंटेलिजेंस ने एक्स-रे, त्वचा के फोटोग्राफ और रेटिनल स्कैन को उल्लेखनीय गति से पढ़ना शुरू कर दिया है, जो अक्सर उन बीमारियों को भी पकड़ लेता है जिन्हें मानवीय आँखें शायद मिस कर दें। फिर भी, ये सिस्टम हर व्यक्ति के लिए समान रूप से प्रदर्शन नहीं करते हैं। जब एक कंप्यूटर प्रोग्राम का परीक्षण मरीजों के विभिन्न समूहों पर किया जाता है, तो यह कभी-कभी एक समूह के लिए दूसरे समूह की तुलना में अधिक गलतियाँ करता है। उदाहरण के लिए, एक सिस्टम श्वेत रोगियों की तुलना में अश्वेत रोगियों में हृदय रोगों के निदान में थोड़ा कम सटीक हो सकता है, या पुरुषों की तुलना में महिलाओं में। यह विसंगति एक गंभीर चिंता का विषय है। यदि कोई चिकित्सा उपकरण कुछ लोगों के लिए दूसरों की तुलना में बेहतर काम करता है, तो यह मौजूदा स्वास्थ्य असमानताओं को गहरा करने का जोखिम उठाता है। इस क्षेत्र में मानक प्रतिक्रिया यह रही है कि यह मान लिया गया कि कंप्यूटर चित्र से ही रोगी की नस्ल या उम्र के बारे में "सीख" रहा है और उस जानकारी का उपयोग पक्षपाती निर्णय लेने के लिए कर रहा है। फलस्वरूप, शोधकर्ताओं ने वर्षों तक ऐसे मॉडल बनाने में समय बिताया है जो इन जनसांख्यिकीय विवरणों को भूल जाते हैं, इस उम्मीद में कि इस जानकारी को मिटाने से सिस्टम स्वतः ही निष्पक्ष हो जाएगा।
शोधकर्ताओं की एक टीम ने अब इस धारणा को 'FRAME' नामक एक नए दृष्टिकोण के साथ चुनौती दी है। मॉडल को तुरंत पक्षपात के लिए दोषी ठहराने के बजाय, उन्होंने एक सरल, अधिक मौलिक प्रश्न पूछा: देखा गया अंतर वास्तव में प्रत्येक समूह में रोगियों की संख्या के कारण होने वाले गणित के परिणाम के रूप में कितना है? जब एक अध्ययन मरीजों के एक बड़े समूह की तुलना एक बहुत छोटे समूह से करता है, तो छोटा समूह स्वाभाविक रूप से अधिक अनियमित परिणाम देता है क्योंकि वहां यादृच्छिकता (रैंडमनेस) को सुचारू करने के लिए डेटा बिंदु कम होते हैं। शोधकर्ताओं ने महसूस किया कि यह सांख्यिकीय शोर, जिसे 'सैंपलिंग वेरिएशन' कहा जाता है, निष्पक्षता का भ्रम पैदा करता है, भले ही मॉडल पूरी तरह से निष्पक्ष हो। इसे परखने के लिए, उन्होंने एक ढांचा बनाया जो पहले यह गणना करता है कि यदि मॉडल पूरी तरह से निष्पक्ष होता, तो समूहों के सटीक आकार को देखते हुए अंतर कैसा होना चाहिए था। यह एक "फेयर-मॉडल रेफरेंस" (निष्पक्ष-मॉडल संदर्भ) बनाता है, जो छोटे सैंपल साइज के प्राकृतिक उतार-चढ़ाव को ध्यान में रखता है। केवल तभी जब वास्तविक अंतर इस आधार रेखा से अधिक हो, शोधकर्ता इसे ठीक करने की आवश्यकता वाला एक वास्तविक मुद्दा मानते हैं।
टीम ने 7,00,000 से अधिक मेडिकल इमेजेस के एक विशाल डेटासेट पर इस ढांचे को लागू किया, जिसमें चेस्ट एक्स-रे, त्वचा के फोटोग्राफ और आंखों के स्कैन शामिल थे, जो कई अस्पतालों के हजारों रोगियों को कवर करते हैं। उन्होंने दर्जनों अलग-अलग एआई मॉडलों का परीक्षण किया और नस्ल, आयु और लिंग द्वारा परिभाषित विभिन्न समूहों में उनके प्रदर्शन को देखा। परिणाम चौंकाने वाले थे। जब उन्होंने रिपोर्ट किए गए अंतरों की तुलना अपने फेयर-मॉडल रेफरेंस से की, तो उन्होंने पाया कि समूहों के आकार में प्राकृतिक भिन्नता ने समस्या के एक बड़े हिस्से की व्याख्या की। चेस्ट एक्स-रे में नस्ल संबंधी अंतरों के लिए, फेयर-मॉडल रेफरेंस ने रिपोर्ट किए गए अंतर के मध्य मान (median) का 41% हिस्सा समझाया। आयु संबंधी अंतरों के लिए, इसने 22% की व्याख्या की। कई मामलों में, शोधकर्ताओं द्वारा देखा गया अंतर शुद्ध संयोग से होने वाले अंतर से अधिक नहीं था, भले ही मॉडल सभी के साथ बिल्कुल एक जैसा व्यवहार कर रहा हो। यह सुझाव देता है कि पक्षपात का दावा करने वाले कई अध्ययन वास्तव में एआई के तर्क की खामी के बजाय सांख्यिकीय शोर को माप रहे हैं।
इसके बाद, शोधकर्ताओं ने अगला कदम उठाया यह देखने के लिए कि क्या शेष अंतर वास्तव में मॉडल द्वारा नस्ल या उम्र को "जानने" के कारण थे। उन्होंने एक ऐसी विधि का उपयोग किया जहाँ उन्होंने कृत्रिम रूप से जनसांख्यिकीय जानकारी को मॉडल की आंतरिक मेमोरी में इंजेक्ट किया ताकि यह देखा जा सके कि क्या इससे परिणामों में बदलाव आता है। उन्होंने पाया कि केवल मॉडल को नस्ल पहचानने में बेहतर बनाने से प्रदर्शन के अंतर में कोई बदलाव नहीं आया। हालांकि, जब उन्होंने कृत्रिम रूप से बीमारी के पैटर्न को जनसांख्यिकीय समूहों से जोड़ा, तो अंतर काफी बढ़ गया। यह इंगित करता है कि समस्या यह नहीं है कि मॉडल शॉर्टकट के रूप में नस्ल का उपयोग कर रहा है, बल्कि यह है कि बीमारी स्वयं अलग दिख सकती है या कुछ समूहों में पहचानना कठिन हो सकती है, जो मॉडल के नियंत्रण से बाहर के कारकों के कारण है। इसके अलावा, उन्होंने नौ अलग-अलग तरीकों का परीक्षण किया जो इन पक्षपातों को ठीक करने के लिए आमतौर पर उपयोग किए जाते हैं, जैसे कि मॉडल को फिर से प्रशिक्षित करना या उसके स्कोर को समायोजित करना। उन्होंने पाया कि इन हस्तक्षेपों ने परिणामों को बहुत मामूली मात्रा में बदला, जो अक्सर उसी मॉडल को एक अलग रैंडम स्टार्टिंग सीड के साथ चलाने से होने वाले बदलाव से भी कम था। वास्तव में, सबसे वंचित समूह के लिए सिस्टम के प्रदर्शन को बेहतर बनाने का सबसे प्रभावी तरीका जनसांख्यिकीय डेटा को हटाना नहीं था, बल्कि मॉडल को छवियों और टेक्स्ट विवरणों के संयोजन का उपयोग करके प्रशिक्षित करना था, जिससे सबसे वंचित समूह के लिए प्रदर्शन लगभग 0.05 बढ़ गया।
अध्ययन निष्कर्ष निकालता है कि क्षेत्र गलत नंबरों को देख रहा है। समूहों के बीच कच्चे अंतर को पक्षपात के प्रमाण के रूप में मानकर, शोधकर्ता सांख्यिकीय शोर को तकनीक की विफलता के रूप में गिन रहे हैं। FRAME ढांचा दोनों को अलग करने का एक तरीका प्रदान करता है। यह दिखाता है कि कई मामलों में, रिपोर्ट की गई अननिष्पक्षता उस स्थिति के अनुरूप है जो एक पूरी तरह से निष्पक्ष मॉडल द्वारा कुछ समूहों में मरीजों की कम संख्या के कारण उत्पन्न होती है। इसका मतलब यह नहीं है कि पक्षपात मौजूद नहीं है, बल्कि यह सुझाव देता है कि वास्तविक समस्याओं को स्पष्ट रूप से देखने के लिए हमें बड़े और अधिक विविध डेटासेट की आवश्यकता है। तब तक, मेडिकल एआई के लिए लागू किए जा रहे कई "फिक्स" एक काल्पनिक मुद्दे को संबोधित कर रहे होंगे, जबकि निष्पक्षता का वास्तविक मार्ग अधिक डेटा एकत्र करने और यह समझने में निहित है कि बीमारियां विभिन्न आबादी में अलग-अलग क्यों प्रस्तुत होती हैं। शोधकर्ता तर्क देते हैं कि मॉडल को बदलने से पहले, हमें उस समूह को समझना चाहिए जिसका हम परीक्षण कर रहे हैं, यह सुनिश्चित करते हुए कि हम वास्तविक समस्याओं को हल कर रहे हैं न कि गणितीय भूतों का पीछा कर रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।