Demographically-Conditioned Synthetic Medical Images for Bias Mitigation and Bias Detection in Disease Classifiers
यह शोध पत्र प्रीट्रेनिंग के माध्यम से प्रशिक्षण पूर्वाग्रह (training bias) को कम करने और मेडिकल इमेज क्लासिफायर में मूल्यांकन पूर्वाग्रह (evaluation bias) का पता लगाने के लिए एक जनसांख्यिकीय-सशर्त सिंथेटिक जनरेटर (demographically-conditioned synthetic generator) का उपयोग करने का प्रस्ताव करता है, जो यह प्रदर्शित करता है कि सिंथेटिक अल्पसंख्यक समूह (synthetic minority cohorts) नमूना-आकार की सीमाओं को दूर करने के लिए क्लासिफायर की दक्षता में सुधार कर सकते हैं और वहां विश्वसनीय निष्पक्षता ऑडिट प्रदान कर सकते हैं जहाँ वास्तविक डेटा दुर्लभ है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को विभिन्न प्रकार के फलों को पहचानना सिखाने की कोशिश कर रहे हैं। आप उसे लाल सेब की हजारों तस्वीरें दिखाते हैं, लेकिन हरे नाशपाती की केवल कुछ ही तस्वीरें दिखाते हैं। रोबोट सेब पहचानने में तो माहिर हो जाएगा, लेकिन जब वह नाशपाती देखेगा तो भ्रमित हो सकता है या गलतियाँ कर सकता है, क्योंकि उसने पर्याप्त मात्रा में उन्हें नहीं देखा है। यह "मशीन लर्निंग" में एक आम समस्या है, जहाँ कंप्यूटर डेटा देखकर सीखते हैं। मेडिकल इमेजिंग की दुनिया में, यह बहुत अधिक गंभीर हो जाता है। यदि कोई कंप्यूटर प्रोग्राम सीटी स्कैन (CT scans) में बीमारियों का पता लगाने के लिए प्रशिक्षित किया जाता है, लेकिन उसका प्रशिक्षण डेटा मुख्य रूप से युवा पुरुषों से आता है, तो वह प्रोग्राम वृद्ध महिलाओं में बीमारी का पता लगाने में विफल हो सकता है। यह केवल एक तकनीकी खराबी नहीं है; यह पूर्वाग्रह (bias) का एक रूप है जो अनुचित या खतरनाक चिकित्सा निर्णयों की ओर ले जा सकता है।
इसे ठीक करने के लिए, वैज्ञानिक अक्सर कंप्यूटर का "ऑडिट" करने की कोशिश करते हैं, यह जाँचते हुए कि वह लोगों के विभिन्न समूहों पर कितनी अच्छी तरह काम करता है। लेकिन यहाँ एक पेच है: वास्तविक दुनिया में, उन अल्पसंख्यक समूहों (जैसे वृद्ध महिलाएं) की बहुत कम तस्वीरें होती हैं जिनका परीक्षण किया जाना है। यह एक शेफ के शाकाहारी व्यंजन बनाने की क्षमता को परखने जैसा है जब आपके पास चखने के लिए केवल तीन शाकाहारी भोजन हों। सैंपल साइज इतना छोटा है कि यह जानना असंभव है कि शेफ वास्तव में बुरा है या आप बस बदकिस्मत थे और आपको केवल वे तीन भोजन मिले। यह शोध पत्र ठीक इसी समस्या पर प्रहार करता है: जब हमारे पास पर्याप्त वास्तविक डेटा न हो तो हम निष्पक्ष मेडिकल AI को कैसे प्रशिक्षित करें, और जब हमारे टेस्ट सेट बहुत छोटे हों तो हम निष्पक्षता से इसका परीक्षण कैसे करें?
इस अध्ययन के पीछे के शोधकर्ताओं ने एक चतुर तरकीब अपनाने का निर्णय लिया: उन्होंने एक "डिजिटल ट्विन" जनरेटर बनाया। इसे एक जादुई कला मशीन की तरह समझें जो बिल्कुल नई, नकली मेडिकल इमेज बना सकती है जो असली दिखती हैं लेकिन कंप्यूटर द्वारा बनाई गई काल्पनिक छवियां हैं। उन्होंने इस मशीन को विशेष रूप से उन समूहों के लिए सीटी स्कैन बनाने के लिए प्रशिक्षित किया जो आमतौर पर गायब होते हैं, जैसे वृद्ध महिलाएं या युवा पुरुष। फिर उन्होंने इन नकली छवियों का दो तरीकों से उपयोग किया। पहले, उन्होंने इन छवियों का उपयोग मेडिकल AI को "प्री-ट्रेन" करने के लिए किया, जिससे उसे वास्तविक छवियों को दिखाने से पहले एक व्यापक और संतुलित आधार मिल सके। दूसरा, उन्होंने नकली छवियों का उपयोग एक विशाल टेस्ट सेट के रूप में किया यह देखने के लिए कि क्या AI वास्तव में सभी के प्रति निष्पक्ष है।
परिणाम आश्चर्यजनक रूप से प्रभावी रहे। जब उन्होंने नकली छवियों का उपयोग केवल डेटा को प्रशिक्षण के ढेर में जोड़ने के लिए किया (उन्हें वास्तविक छवियों के साथ मिला दिया), तो इसने अकेले वास्तविक डेटा का उपयोग करने की तुलना में AI के प्रदर्शन में सुधार किया, लेकिन यह सबसे अच्छा दृष्टिकोण नहीं था। यह एक भाषा सीखने जैसा था जहाँ आप एक ही समय में शब्दकोश और उपन्यास दोनों पढ़ रहे हों; कंप्यूटर संतुलन को लेकर थोड़ा भ्रमित हो गया। हालाँकि, जब उन्होंने नकली छवियों का उपयोग पहले एक मजबूत नींव बनाने के लिए किया, और फिर AI को वास्तविक डेटा की बहुत कम मात्रा (सामान्य मात्रा का केवल 1%) के साथ 'फाइन-ट्यून' किया, तो परिणाम अद्भुत थे। AI अविश्वसनीय रूप से सटीक और निष्पक्ष हो गया, और इसने उन मॉडलों से भी बेहतर प्रदर्शन किया जिन्हें भारी मात्रा में वास्तविक डेटा पर प्रशिक्षित किया गया था। यह ऐसा था मानो AI ने नकली किताबों से बीमारी का "व्याकरण" सीखा और फिर उसे अपने लहजे को निखारने के लिए बस कुछ वास्तविक वाक्यों की आवश्यकता पड़ी।
परीक्षण के मामले में, नकली छवियों ने निष्पक्षता की जाँच के लिए एक सुपरहीरो की भूमिका निभाई। जब शोधकर्ताओं ने वास्तविक रोगियों के एक छोटे समूह पर AI का परीक्षण करने की कोशिश की, तो परिणाम अस्थिर और अविश्वसनीय थे क्योंकि टेस्ट ग्रुप में बहुत कम लोग थे। लेकिन जब उन्होंने अपने मशीन द्वारा उत्पन्न "नकली" रोगियों के एक बड़े समूह पर परीक्षण किया, तो परिणाम बहुत अधिक स्थिर थे। नकली टेस्ट सेट सफलतापूर्वक यह भविष्यवाणी कर सका कि AI किन समूहों के साथ संघर्ष कर रहा है (उन्हें सही ढंग से रैंक करना), जो उन परिणामों से मेल खाता था जो आपको एक विशाल, पूर्ण वास्तविक दुनिया के टेस्ट सेट से मिलते। वास्तव में, जिन समूहों में वास्तविक मरीज सबसे कम थे, उनके लिए नकली टेस्ट सेट वास्तविक वाले की तुलना में कई गुना अधिक विश्वसनीय था। हालाँकि, यह ध्यान रखना महत्वपूर्ण है कि जबकि नकली डेटा इस बात को पहचानने में महान था कि पूर्वाग्रह कहाँ है, सटीक संख्याएँ (जैसे विशिष्ट सटीकता स्कोर) वास्तविक डेटा की तुलना में थोड़े भिन्न थे, जो इस बात पर निर्भर करता था कि कंप्यूटर अंतिम निर्णय कैसे लेता है।
यह शोध पत्र स्पष्ट रूप से इस विचार का खंडन करता है कि आपको प्रशिक्षण के दौरान नकली और वास्तविक डेटा को एक बड़े बर्तन में मिला देना चाहिए। उन्होंने पाया कि हालांकि यह "जॉइंट ऑग्मेंटेशन" (संयुक्त संवर्धन) दृष्टिकोण मदद करता था, लेकिन "टू-स्टेज" (दो-चरणीय) दृष्टिकोण (पहले नकली डेटा से सीखना, फिर वास्तविक डेटा के साथ परिष्कृत करना) कहीं अधिक श्रेष्ठ था। असली मंत्र संचालन के क्रम में था: पहले संतुलित नकली डेटा से बुनियादी बातें सीखें, फिर बाद में वास्तविक डेटा के साथ परिष्कृत करें। उन्होंने यह भी दिखाया कि जबकि नकली डेटा यह पहचानने में महान है कि पूर्वाग्रह कहाँ है (समूहों को रैंक करना), फिर भी आपको उन समूहों के लिए सटीक संख्याएँ प्राप्त करने के लिए कुछ वास्तविक डेटा की आवश्यकता होती है जो अच्छी तरह से प्रतिनिधित्व किए गए हैं।
संक्षेप में, यह शोध पत्र सुझाव देता है कि हमें निष्पक्ष मेडिकल AI बनाने के लिए पर्याप्त वास्तविक डेटा एकत्र करने के लिए दशकों तक इंतजार करने की आवश्यकता नहीं है। सिंथेटिक छवियों के साथ एक स्मार्ट, दो-चरणीय प्रशिक्षण पद्धति का उपयोग करके, हम वास्तविक डेटा के एक अंश के साथ निष्पक्ष क्लासिफायर बना सकते हैं, और हम उन्हीं सिंथेटिक छवियों का उपयोग सिस्टम के ऑडिट के लिए विश्वसनीयता से पूर्वाग्रह की जाँच करने के लिए कर सकते हैं, विशेष रूप से उन लोगों के लिए जिन्हें आमतौर पर चर्चा से बाहर रखा जाता है। यह सुनिश्चित करने की दिशा में एक आशाजनक कदम है कि चिकित्सा तकनीक सभी के लिए काम करे, न कि केवल बहुमत के लिए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।