Eliminating False-Negative Discharges in Tuberculosis Screening: Multi-Cohort Development and Independent External Stress-Testing of an Auditable Conformal AI Safety Architecture

तपेदिक (टीबी) दुनिया की सबसे घातक संक्रामक बीमारियों में से एक बना हुआ है, जिससे सालाना दस लाख से अधिक लोगों की मृत्यु होती है। कई ऐसे क्षेत्रों में जहाँ यह बीमारी सबसे अधिक आम है, इसे खोजने के लिए प्राथमिक उपकरण चेस्ट एक्स-रे है, जो फेफड़ों के स्वास्थ्य को दर्शाने वाली एक त्वरित छवि है। हालाँकि, जो लोग इन छवियों को पढ़ने के लिए सबसे बेहतर प्रशिक्षित होते हैं, यानी थोरैसिक रेडियोलॉजिस्ट, उनकी भारी कमी है। यह कमी एक ऐसी बाधा उत्पन्न करती है जहाँ मरीजों को निदान के लिए हफ्तों इंतजार करना पड़ता है, या इससे भी बुरा, उन्हें बिना किसी निदान के घर भेज दिया जाता है, जिससे संक्रमण फैलता रहता है। इसे हल करने के लिए, वैज्ञानिकों ने आर्टिफिशियल इंटेलिजेंस (AI) की ओर रुख किया है, इस उम्मीद में कि वे ऐसे कंप्यूटर प्रोग्राम बना सकें जो एक्स-रे को स्कैन कर सकें और मानवीय समीक्षा के लिए संदिग्ध मामलों को चिह्नित कर सकें। चुनौती यह रही है कि ये कंप्यूटर प्रोग्राम अक्सर अत्यधिक आत्मविश्वासी हो जाते हैं। जब उन्हें कोई असामान्य छवि या अलग उपकरणों से ली गई छवि दिखाई जाती है, तो कंप्यूटर पूरी निश्चितता के साथ घोषित कर सकता है कि मरीज स्वस्थ है, भले ही वह बीमार हो। यह "साइलेंट फॉल्स नेगेटिव" (मौन गलत नकारात्मक परिणाम) खतरनाक है क्योंकि इससे एक संक्रामक व्यक्ति को बिना किसी चिकित्सीय जांच के तुरंत छुट्टी दे दी जाती है।

एक शोधकर्ता ने इस समस्या के समाधान के लिए एक नया दृष्टिकोण विकसित किया है, जिससे एक सुरक्षा प्रणाली बनाई गई है जो कंप्यूटर को ऐसी खतरनाक गलतियाँ करने से रोकती है। केवल एक एल्गोरिदम पर अंतिम निर्णय के लिए निर्भर रहने के बजाय, उन्होंने एक ऐसा ढांचा बनाया है जो एक सख्त द्वारपाल (गेटकीपर) की तरह कार्य करता है। यह प्रणाली एक्स-रे छवि का विश्लेषण करने से पहले ही उसकी गुणवत्ता की जाँच करती है, यह सुनिश्चित करती है कि तस्वीर स्पष्ट है और खराब स्कैनिंग या भारी संपीड़न (कंप्रेशन) से विकृत नहीं हुई है। यदि छवि बहुत धुंधली या क्षतिग्रस्त है, तो प्रणाली निदान करने से इनकार कर देती है और इसके बजाय मामला एक मानव डॉक्टर को भेज देती है। इसके अलावा, प्रणाली को यह पहचानने के लिए डिज़ाइन किया गया है कि वह कब अनिश्चित है। अनुमान लगाने के बजाय, यह अपनी अनिश्चितता को स्वीकार करती है और मरीज को चिकित्सक के पास भेज देती है। शोधकर्ता ने इस प्रणाली का परीक्षण भारत और पाकिस्तान के अस्पतालों से प्राप्त हजारों एक्स-रे पर किया, जिसमें ग्रामीण क्लीनिकों के पुराने उपकरणों से ली गई छवियां और वेब देखने के लिए संपीड़ित (कंप्रेस) की गई छवियां भी शामिल थीं। उन्होंने पाया कि जबकि अकेले कंप्यूटर ने कुछ बीमार मरीजों को गलती से स्वस्थ घोषित कर दिया होता, वहीं इन सुरक्षा जाँचों के जुड़ने से वे त्रुटियाँ पूरी तरह समाप्त हो गईं। परिणाम स्वरूप, यह एक ऐसा उपकरण है जो दूरदराज के क्लीनिकों में साधारण, ऑफलाइन कंप्यूटरों पर चल सकता है, जो सबसे गंभीर मामलों को तत्काल परीक्षण के लिए चिह्नित करता है और यह भी सुनिश्चित करता है कि कोई भी व्यक्ति मानवीय पेशेवर की दूसरी नज़र के बिना घर न जाए।

इस कार्य का मूल आधार यह है कि आर्टिफिशियल इंटेलिजेंस कैसे देखना सीखता है, इसकी एक विशिष्ट कमजोरी को संबोधित करता है। डीप लर्निंग मॉडल, जो आधुनिक इमेज रिकग्निशन के पीछे का मस्तिष्क हैं, उन्हें चिकित्सा छवियों के विशाल पुस्तकालयों पर प्रशिक्षित किया जाता है। एक नियंत्रित सेटिंग में, ये मॉडल लगभग पूर्ण सटीकता प्राप्त कर सकते हैं। हालाँकि, जब वे वास्तविक दुनिया की स्थितियों का सामना करते—जैसे कि एक एक्स-रे मशीन जो प्रशिक्षण के दौरान उपयोग की गई मशीनों से थोड़ी भिन्न है, या एक इमेज फ़ाइल जिसे स्पेस बचाने के लिए छोटा किया गया है—तो उनका प्रदर्शन ढह जाता है। शोधकर्ता ने पाया कि एक परीक्षण सेट में, एक मानक कंप्यूटर मॉडल पूरी तरह विफल रहा जब उसे पाकिस्तान के एक अस्पताल की छवियां दिखाई गईं जिन्हें वेब के लिए भारी रूप से संपीड़ित किया गया था। डिजिटल आर्टिफैक्ट्स (विकृतियों) से कंप्यूटर इतना भ्रमित हो गया कि उसने हर एक मरीज को, चाहे वह स्वस्थ हो या बीमार, संक्रमित घोषित कर दिया। इसने एक महत्वपूर्ण खामी को उजागर किया: एक मॉडल जो बहुत कठोर है, वह वैश्विक स्वास्थ्य सेवा की अव्यवस्थित वास्तविकता के अनुकूल नहीं हो सकता, जहाँ उपकरण भिन्न होते हैं और डेटा की गुणवत्ता असंगत होती है।

इसे ठीक करने के लिए, शोधकर्ता ने कंप्यूटर को हर संभव खराब छवि के बदलाव को सीखने के लिए मजबूर नहीं किया, क्योंकि यह एक ऐसी रणनीति है जो अक्सर मॉडल को अच्छी, उच्च-गुणवत्ता वाली छवियों को देखने में और भी खराब बना देती है। इसके बजाय, उन्होंने कंप्यूटर की निर्णय लेने की प्रक्रिया के चारों ओर फिल्टर की एक श्रृंखला बनाई। पहला फिल्टर एक प्री-चेक है जो छवि में क्षति के संकेतों की जांच करता है, जैसे कि भारी फाइल कंप्रेशन के कारण होने वाले ब्लॉक वाले विरूपण या उल्टी तस्वीरें। यदि कोई छवि इस जांच में विफल रहती है, तो प्रणाली रुक जाती है और निदान का प्रयास नहीं करती है। दूसरा स्तर एक ऐसी विधि को शामिल करता है जो कंप्यूटर के आत्मविश्वास को मापती है। यदि कंप्यूटर पूरी तरह से आश्वस्त नहीं है कि मरीज स्वस्थ है, तो उसे रुकने और मामले को मानव को रेफर करने के लिए प्रोग्राम किया गया है। यह सुनिश्चित करता है कि सिस्टम कभी भी मरीज को छुट्टी देने का अंतिम निर्णय तब तक नहीं लेगा जब तक कि वह सांख्यिकीय रूप से सुनिश्चित न हो, और तब भी, केवल तभी जब इमेज की गुणवत्ता उत्तम हो।

शोधकर्ता ने इस बहु-स्तरीय प्रणाली का परीक्षण दुनिया भर के आठ अलग-अलग स्थानों से प्राप्त 16,000 से अधिक चेस्ट एक्स-रे पर किया, जिसमें चीन, संयुक्त राज्य अमेरिका, बेलारूस और भारत के अस्पताल शामिल थे। उन्होंने पहले कंप्यूटर को छवियों के एक बड़े, विविध सेट पर प्रशिक्षित किया और फिर पूरी तरह से नए डेटा पर इसका परीक्षण किया जो उसने पहले कभी नहीं देखा था। आंतरिक परीक्षणों में, प्रणाली ने अत्यंत उच्च सटीकता के साथ प्रदर्शन किया, लगभग सभी तपेदिक के मामलों की सही पहचान की और अधिकांश स्वस्थ मरीजों को सही ढंग से स्वस्थ घोषित किया। हालाँकि, असली परीक्षा तब आई जब उन्होंने भारत और पाकिस्तान के स्वतंत्र समूहों के मरीजों पर इस प्रणाली को लागू किया। भारत के एक ग्रामीण जिला अस्पताल की उच्च-गुणवत्ता वाली छवियों पर, प्रणाली ने अपने आप लगभग 70% बीमार मरीजों की सही पहचान की, जो इसके आंतरिक प्रदर्शन से काफी कम है लेकिन फिर भी उपयोगी है। इससे भी महत्वपूर्ण बात यह है कि जब उन्होंने सुरक्षा नियमों को लागू किया, तो प्रणाली ने किसी भी बीमार मरीज को बिना समीक्षा के घर जाने से सफलतापूर्वक रोक दिया। भारतीय समूह में, सुरक्षा इंटरलॉक ने यह सुनिश्चित किया कि सक्रिय तपेदिक के शून्य मामलों को चिकित्सक द्वारा देखे बिना छुट्टी न दी जाए।

पाकिस्तान की छवियों के साथ स्थिति और भी नाटकीय थी। इन छवियों को इतनी अधिक संपीड़ित किया गया था कि एक मानक कंप्यूटर मॉडल पूरी तरह विफल हो गया, और उसने भविष्यवाणी की कि डेटासेट का हर एक व्यक्ति बीमार है। शोधकर्ता ने दिखाया कि कंप्यूटर को इन खराब छवियों को संभालने के लिए पुन: प्रशिक्षित करने का प्रयास वास्तव में इसे अच्छी, स्पष्ट छवियों को पढ़ने में और भी खराब बना देता है। इन खराब छवियों के अनुकूल ढलने के लिए कंप्यूटर को मजबूर करने के बजाय, उनके सुरक्षा तंत्र ने बस यह पहचान लिया कि पाकिस्तानी छवियां भरोसे के लायक नहीं थीं। इसने कंप्रेशन आर्टिफैक्ट्स को चिह्नित किया और उन मामलों को मानव डॉक्टरों को भेज दिया, जिससे कंप्यूटर के भ्रम के खिलाफ एक ढाल के रूप में कार्य किया। इसने प्रदर्शित किया कि खराब गुणवत्ता वाले डेटा को संभालने का सबसे अच्छा तरीका कंप्यूटर को शोर (नॉइज़) के प्रति मजबूत बनाना नहीं है, बल्कि एक ऐसी प्रणाली बनाना है जो यह जान सके कि उसे कब कहना है "मुझे नहीं पता" और मदद मांगनी है।

अध्ययन ने यह भी खुलासा किया कि कंप्यूटर कभी-कभी शॉर्टकट सीख रहा था। कुछ मामलों में, मॉडल केवल छवि को देखकर यह अनुमान लगाने में सक्षम था कि एक्स-रे किस अस्पताल से आया है, और उसने उस सुराग का उपयोग निदान का अनुमान लगाने के लिए किया। उदाहरण के लिए, इसने सीखा कि बेलारूस के एक विशिष्ट अस्पताल की छवियां लगभग हमेशा बीमार होती हैं, जबकि अमेरिका के एक विशिष्ट डेटाबेस की छवियां लगभग हमेशा स्वस्थ होती हैं। यह एक खतरनाक शॉर्टकट है क्योंकि यदि कंप्यूटर किसी नए अस्पताल की छवि देखता है, तो वह निदान गलत कर सकता है। शोधकर्ता ने एक तकनीक का उपयोग किया जिससे यह देखा जा सका कि कंप्यूटर वास्तव में क्या देख रहा था, और उन्होंने पाया कि हालांकि कंप्यूटर ने इन अस्पताल-विशिष्ट सुरागों को नोट किया था, लेकिन उसका मुख्य ध्यान अभी भी वास्तविक फेफड़ों के ऊतकों (टिश्यू) पर था। जब उन्होंने छवियों में फेफड़ों को ढक दिया, तो बीमारी का निदान करने की कंप्यूटर की क्षमता समाप्त हो गई, जिससे सिद्ध हुआ कि वह सही चीजों पर ही ध्यान केंद्रित कर रहा था, भले ही उसने कुछ अतिरिक्त आदतें पकड़ ली हों।

अंतिम परिणाम एक ऐसा सिस्टम है जो वास्तविक दुनिया के लिए डिज़ाइन किया गया है, जहाँ संसाधन कम हैं और स्थितियाँ अप्रत्याशित हैं। पूरा सॉफ्टवेयर पैकेज इतना छोटा है कि इसे बिना किसी शक्तिशाली ग्राफिक्स कार्ड या इंटरनेट कनेक्शन के एक मानक कंप्यूटर पर चलाया जा सकता है। इसे बिना बिजली या इंटरनेट वाले क्लिनिक में भी एक सेकंड से भी कम समय में निर्णय लेने के लिए चलाया जा सकता है। शोधकर्ता ने गणना की कि एक विशिष्ट क्लिनिक में इस प्रणाली का उपयोग करने से अनावश्यक लैब परीक्षणों की संख्या लगभग 80% कम हो सकती है, जिससे पैसा और समय बचता है, जबकि यह अधिकांश बीमार मरीजों को पकड़ लेता है। सबसे महत्वपूर्ण बात यह है कि यह प्रणाली इस सिद्धांत पर बनी है कि "सावधानी हटी दुर्घटना घटी" (बेहतर है कि हम सुरक्षित रहें)। अनिश्चित या खराब गुणवत्ता वाली छवियों पर अंतिम निर्णय लेने से इनकार करके, यह सुनिश्चित करता है कि किसी भी मरीज को सुरक्षा की झूठी भावना के साथ घर न भेजा जाए। यह दृष्टिकोण आर्टिफिशियल इंटेलिजेंस को डॉक्टरों को बदलने वाले उपकरण के बजाय, उन्हें सहायता देने वाले एक उपकरण में बदल देता है, जो नियमित काम को संभालता है और सबसे कमजोर मरीजों को छूट जाने से बचाता है।