Population representativeness cannot be assessed for most FDA-authorized AI medical devices targeting high-disparity conditions
यह अध्ययन प्रकट करता है कि उच्च-असमानता वाली स्थितियों को लक्षित करने वाले 76.6% एफडीए-अधिकृत एआई चिकित्सा उपकरणों के लिए, अप्राप्त नस्लीय डेटा के कारण सार्वजनिक रिकॉर्ड से जनसंख्या प्रतिनिधित्व का आकलन नहीं किया जा सकता है, जो एक ऐसा अंतराल है जो अंतर्निहित सहकर्मी-समीक्षित साहित्य की समीक्षा करने पर भी बना रहता है और समानता मूल्यांकन क्षमता सुनिश्चित करने में वर्तमान प्रकटीकरण मार्गदर्शन की विफलता को उजागर करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस ने चुपचाप आधुनिक चिकित्सा में एक मानक उपकरण के रूप में अपनी जगह बना ली है, जो डॉक्टरों को एक्स-रे पढ़ने, ट्यूमर का पता लगाने और हृदय संबंधी जोखिमों का पूर्वानुमान लगाने में मदद कर रहा है। ये उपकरण कोई जादू नहीं हैं; ये कंप्यूटर प्रोग्राम हैं जिन्हें पैटर्न पहचानने के लिए मरीजों के विशाल डेटा पर प्रशिक्षित किया गया है। एक प्रोग्राम को सभी के लिए अच्छी तरह से काम करने के लिए, इसे उन लोगों के मिश्रण पर प्रशिक्षित किया जाना चाहिए जो उन मरीजों की तरह दिखते हैं जिनका यह अंततः इलाज करेगा। यदि कोई उपकरण केवल एक प्रकार के व्यक्ति से सीखता है, तो यह किसी अलग व्यक्ति पर उपयोग किए जाने पर विफल हो सकता है, जिससे गलत निदान या गलत उपचार हो सकता है। यह निष्पक्षता और सुरक्षा का मामला है। जब किसी चिकित्सा उपकरण को उपयोग के लिए अनुमोदित किया जाता है, तो नियामक एजेंसी, खाद्य एवं औषधि प्रशासन (FDA), साक्ष्यों का एक सारांश प्रकाशित करती है। ये दस्तावेज़ सार्वजनिक रिकॉर्ड होने चाहिए, जो यह दर्शाते हैं कि किन लोगों का परीक्षण किया गया था और उस उपकरण ने कैसा प्रदर्शन किया। महत्वपूर्ण प्रश्न यह है कि क्या ये सारांश पूरी कहानी बताते हैं कि उपकरण का परीक्षण किन लोगों पर किया गया था, विशेष रूप से उन बीमारियों के लिए जो कुछ नस्लीय और जातीय समूहों को अधिक गंभीर रूप से प्रभावित करती हैं।
शोधकर्ताओं की एक टीम ने इस प्रश्न का उत्तर देने के उद्देश्य से 2025 के अंत तक संयुक्त राज्य अमेरिका में अनुमोदित लगभग प्रत्येक आर्टिफिशियल इंटेलिजेंस चिकित्सा उपकरण की जांच करने का निर्णय लिया। उन्होंने 1,428 उपकरणों का परीक्षण किया, जिनमें मस्तिष्क के चित्रों को स्कैन करने वाले उपकरणों से लेकर हृदय की लय का विश्लेषण करने वाले उपकरण तक शामिल थे। उनका लक्ष्य यह देखना था कि क्या सार्वजनिक दस्तावेज़ों के माध्यम से कोई यह निर्णय ले सकता है कि जिन लोगों पर उपकरणों का परीक्षण किया गया था, क्या वे उन लोगों से मेल खाते हैं जो वास्तव में उन बीमारियों से पीड़ित होते हैं जिनका इलाज ये उपकरण करने के लिए बनाए गए हैं। शोधकर्ताओं ने उपलब्ध जानकारी में एक महत्वपूर्ण अंतर पाया। उन स्थितियों के लिए डिज़ाइन किए गए हर चार में से लगभग तीन उपकरणों के लिए, जहाँ नस्लीय असमानताएं ज्ञात रूप से मौजूद हैं, सार्वजनिक दस्तावेजों में परीक्षण डेटा में शामिल लोगों की नस्ल या जातीयता की रिपोर्ट नहीं की गई थी। इस बुनियादी जानकारी के बिना, यह बताना असंभव है कि उपकरण का परीक्षण निष्पक्ष मिश्रण वाले रोगियों पर किया गया था या केवल एक ऐसे समूह पर किया गया था जो व्यापक आबादी का प्रतिनिधित्व नहीं करता है।
शोधकर्ताओं ने इन दस्तावेजों का मूल्यांकन करने के लिए एक विशिष्ट चेकलिस्ट विकसित की, जिसमें परीक्षण में शामिल रोगियों की नस्ल, आयु और स्थान जैसे विवरणों की तलाश की गई। उन्होंने पाया कि हालांकि कुछ जानकारी मौजूद थी, लेकिन नस्ल और जातीयता से संबंधित सबसे महत्वपूर्ण डेटा अधिकांश मामलों में गायब था। यह कमी केवल सारांशों के बहुत संक्षिप्त होने का मामला नहीं था; शोधकर्ताओं ने गहराई से जांच की और इन उपकरणों के पीछे के मूल वैज्ञानिक अध्ययनों को भी देखा। यहाँ तक कि जब उन्हें पूर्ण शोध पत्र मिले, तब भी अधिकांश मामलों में डेटा गायब था। यह सुझाव देता है कि समस्या केवल सरकार द्वारा जानकारी के सारांश प्रस्तुत करने के तरीके में नहीं है, बल्कि स्वयं अनुसंधान में है। इन उपकरणों को सिद्ध करने के लिए उपयोग किए जाने वाले अध्ययन अक्सर इसमें पर्याप्त विवरण शामिल नहीं करते हैं कि शामिल रोगियों की जनसांख्यिकी क्या थी।
अध्ययन ने यह भी खुलासा किया कि जब डेटा मौजूद था, तो वह अक्सर उन समूहों से मेल नहीं खाता था जो बीमारी से सर्वाधिक प्रभावित होते हैं। उदाहरण के लिए, त्वचा कैंसर का पता लगाने के लिए डिज़ाइन किए गए कुछ उपकरण, जो गहरे रंग की त्वचा वाले लोगों में निदान के लिए कठिन हो सकता है, लगभग पूरी तरह से हल्के रंग की त्वचा वाले लोगों पर परीक्षण किए गए थे। अन्य मामलों में, हृदय रोगों के लिए उपकरणों का परीक्षण उन आबादी पर किया गया जो कुछ अल्पसंख्यक समुदायों में हृदय रोग की उच्च दरों को प्रतिबिंबित नहीं करते थे। शोधकर्ताओं ने उल्लेख किया कि जबकि कुछ उपकरणों ने अपने परीक्षण समूहों के बारे में उत्कृष्ट, विस्तृत जानकारी प्रदान की, लेकिन वे नियम के बजाय अपवाद थे। अधिकांश समय, सार्वजनिक रिकॉर्ड में वे संख्याएँ नहीं थीं जो एक निष्पक्ष निर्णय लेने के लिए आवश्यक थीं।
सबसे चौंकाने वाले निष्कर्षों में से एक यह था कि शोधकर्ता केवल पाठ के आधार पर उपकरणों की निष्पक्षता को विश्वसनीय रूप से ग्रेड नहीं दे सके। उन्होंने पाया कि अस्पष्ट विवरणों की व्याख्या करने या किसी समूह के रोगियों के रोग से कितनी अच्छी तरह मेल खाते हैं, इसका निर्णय करने के लिए जब विशेषज्ञों से पूछा गया, तो वे अक्सर असहमत थे। हालाँकि, वे सरल, बाइनरी तथ्यों पर विश्वसनीय रूप से सहमत हो सके: कि कोई संख्या रिपोर्ट की गई थी या नहीं। इसके आधार पर टीम ने निष्कर्ष निकाला कि रिपोर्टिंग की वर्तमान प्रणाली समानता सुनिश्चित करने के लिए अपर्याप्त है। दस्तावेज़ अक्सर उन विवरणों पर मौन रहते हैं जो निष्पक्षता के लिए सबसे अधिक महत्वपूर्ण हैं। शोधकर्ता इन रिपोर्टों के लिए एक नया, सरल मानक प्रस्तावित करते हैं, जिसमें निर्माताओं को परीक्षण किए गए लोगों की नस्ल, आयु और पृष्ठभूमि के बारे में विशिष्ट संख्याएँ सूचीबद्ध करने की आवश्यकता होती है, न कि केवल सामान्य कथन लिखने की।
इस कार्य के निहितार्थ स्पष्ट हैं। यदि कोई अस्पताल किसी बीमारी के निदान में मदद करने के लिए एक नया आर्टिफिशियल इंटेलिजेंस टूल खरीदना चाहता है, तो वर्तमान में वे यह देखने के लिए सार्वजनिक अनुमोदन दस्तावेजों का उपयोग नहीं कर सकते कि क्या उस टूल का परीक्षण उनके अपने मरीजों जैसे लोगों पर किया गया था। वे अनुमान लगाने के लिए मजबूर हैं। अध्ययन दर्शाता है कि सबसे आम और घातक बीमारियों के लिए, तैनात किए जा रहे उपकरण अक्सर ऐसे डेटा पर निर्मित होते हैं जो उन लोगों की वास्तविकता को नहीं दर्शाते जिन्हें उनकी सबसे अधिक आवश्यकता है। शोधकर्ता इस बात पर जोर देते हैं कि यह केवल अधिक पाठ (टेक्स्ट) माँगने से हल होने वाली समस्या नहीं है; उद्योग को विशिष्ट, संरचित डेटा रिपोर्ट करना शुरू करना चाहिए। तब तक, सार्वजनिक रिकॉर्ड अधूरा रहता है, जो अमेरिकी स्वास्थ्य सेवा को आकार देने वाली चिकित्सा तकनीक की सुरक्षा और निष्पक्षता में एक महत्वपूर्ण अंध बिंदु छोड़ देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।