MIRROR: Multimodal Intelligent Radiology Reasoning and Observation Reporter

मेडिकल इमेजिंग की दुनिया में, एक कंप्यूटर प्रोग्राम जो मानव छाती की तस्वीर देखता है और किसी बीमारी का पता लगाता है, अब कोई कल्पना नहीं है; यह एक वास्तविकता है जो पहले ही आ चुकी है। डीप लर्निंग पर आधारित ये प्रोग्राम हजारों एक्स-रे को स्कैन कर सकते हैं और बीमारी के उन पैटर्न की पहचान कर सकते हैं जो अक्सर एक मानव विशेषज्ञ के कौशल से मेल खाते हैं। फिर भी, एक डॉक्टर द्वारा ऐसे मशीन पर भरोसा करने के लिए, कंप्यूटर को केवल एक संख्या बताने से कहीं अधिक करना होगा। उसे खुद को स्पष्ट करना होगा। इसे उस स्थान की ओर इशारा करने की आवश्यकता है जहाँ इसे समस्या दिख रही है और यह वर्णन करने की आवश्यकता है कि यह क्यों सोचता है कि वह स्थान बीमार है। खतरा तब उत्पन्न होता है जब एक कंप्यूटर डॉक्टर के लिए रिपोर्ट लिखने की कोशिश करता है। यदि कंप्यूटर को रिपोर्ट लिखते समय तस्वीर देखने की अनुमति दी जाती है, तो वह ऐसे विवरण गढ़ सकता है जो पूरी तरह से पेशेवर लग सकते हैं लेकिन वे वास्तव में उस सिस्टम के उस हिस्से द्वारा नहीं देखे गए थे जो निदान (डायग्नोसिस) करता है। यह एक मौन अंतराल पैदा करता है जो मशीन जो जानती है और जो वह कहती है कि वह जानती है, उसके बीच होता है, एक ऐसा अंतराल जो डॉक्टर को खतरनाक गलती करने की ओर ले जा सकता है।

एक शोध टीम ने इस विश्वास की विशिष्ट समस्या को हल करने के लिए MIRROR नामक एक प्रोटोटाइप सिस्टम बनाया है। इस सिस्टम को एक सख्त नियम के साथ डिज़ाइन किया गया है: सॉफ्टवेयर का वह हिस्सा जो रिपोर्ट लिखता है, उसे एक्स-रे इमेज देखने की अनुमति कभी नहीं दी जाती है। इसके बजाय, छवि का पहले एक क्लासिफायर द्वारा विश्लेषण किया जाता है जो केवल यह सूचीबद्ध करता है कि कौन सी बीमारियाँ मौजूद हैं और उनकी संभावना कितनी है। दूसरा टूल फिर छवि पर उस सामान्य क्षेत्र को उजागर करता है जहाँ वे बीमारियाँ दिखाई देती हैं। केवल इन निष्कर्षों और स्थानों की सूची ही लेखन इंजन (राइटिंग इंजन) को सौंपी जाती है। क्योंकि लेखक चित्र को नहीं देख सकता, इसलिए उसके लिए एक नई बीमारी को गढ़ना या किसी ऐसे विवरण का वर्णन करना भौतिक रूप से असंभव है जिसे उसने प्राप्त नहीं किया है। शोधकर्ताओं ने चेस्ट एक्स-रे पर इस सिस्टम का परीक्षण किया और पाया कि हालांकि कंप्यूटर इस बात को रैंक करने में बहुत अच्छा था कि कौन सी बीमारियाँ सबसे अधिक संभावित थीं, लेकिन वह उनमें से अधिकांश पर अंतिम निर्णय लेने में संघर्ष करता रहा। अधिक महत्वपूर्ण बात यह है कि उन्होंने पाया कि भले ही कंप्यूटर ने एक प्रवाहपूर्ण, पेशेवर दिखने वाली रिपोर्ट लिखी, लेकिन इसमें अक्सर विशिष्ट चिकित्सा माप शामिल थे, जिन्हें सिस्टम ने वास्तव में कभी कैलकुलेट नहीं किया था।

टीम ने यह सुनिश्चित करने के लिए कि अंतिम रिपोर्ट ईमानदार रहे, इस पाइपलाइन का तीन अलग-अलग चरणों में निर्माण किया। पहले, एक न्यूरल नेटवर्क, जो मानव मस्तिष्क की नकल करने वाला एक प्रकार का कंप्यूटर प्रोग्राम है, एक्स-रे को स्कैन करता है और चौदह अलग-अलग प्रकार की छाती की स्थितियों को प्रोबेबिलिटी स्कोर (संभावना स्कोर) प्रदान करता है। दूसरा, एक लोकलाइजेशन टूल उसी छवि को देखता है और एक मोटा नक्शा बनाता है जो दिखाता है कि कंप्यूटर को कहाँ बीमारी का संदेह है, और उस स्थान को "ऊपरी बाएं फेफड़े" जैसे सरल नाम में अनुवादित करता है। तीसरा, एक लैंग्वेज मॉडल केवल बीमारियों की सूची, उनके स्कोर और उनके नामित स्थानों को लेता है ताकि अंतिम मेडिकल रिपोर्ट लिखी जा सके। यहाँ महत्वपूर्ण डिजाइन विकल्प यह है कि लैंग्वेज मॉडल स्वयं एक्स-रे को नहीं देखता है। यह एक सचिव की तरह है जिसे तथ्यों की एक टाइप की हुई सूची दी जाती है और एक कहानी लिखने के लिए कहा जाता है, लेकिन उसे मूल दस्तावेजों को देखने से मना किया गया है। यह सुनिश्चित करता है कि रिपोर्ट में बीमारियों की सूची ठीक वही है जो कंप्यूटर ने पाई है, जिससे सिस्टम को ऐसी स्थिति को गढ़ने से रोका जा सके जो डिटेक्ट नहीं की गई थी।

जब शोधकर्ताओं ने चेस्ट एक्स-रे के एक बड़े संग्रह पर इस सिस्टम का परीक्षण किया, तो परिणामों ने एक जटिल तस्वीर पेश की कि मशीन क्या कर सकती है और क्या नहीं। कंप्यूटर छवियों की संरचना को समझने में आश्चर्यजनक रूप से अच्छा था। वह एक स्वस्थ छाती और एक बीमार छाती के बीच अंतर बता सकता था, और उसने बीमारियों की संभावना को इस तरह से रैंक किया जो रैंडम अनुमान लगाने से कहीं बेहतर था। कुछ स्थितियों, जैसे फेफड़ों में तरल पदार्थ या बढ़े हुए हृदय के लिए, सिस्टम काफी सटीक था। हालाँकि, यह पूछने पर कि क्या कोई बीमारी मौजूद है या अनुपस्थित है, सिस्टम उन चौदह स्थितियों में से ग्यारह पर मौन रहा जिन्हें खोजने के लिए उसे प्रशिक्षित किया गया था। यह अधिकांश के लिए "हाँ" या "ना" कहने के लिए पर्याप्त आश्वस्त नहीं था। यह चुप्पी कोई डिजाइन विकल्प नहीं थी बल्कि परीक्षण में उपयोग किए गए डेटा और कम रिज़ॉल्यूशन वाली छवियों का परिणाम थी। सिस्टम ने पैटर्न को पहचानना सीख लिया था लेकिन उसने नैदानिक निदान के लिए आवश्यक कठिन निर्णय लेना नहीं सीखा था।

शायद सबसे महत्वपूर्ण निष्कर्ष उन रिपोर्टों को देखने से आया जो सिस्टम द्वारा उत्पन्न की गई थीं। क्योंकि सिस्टम का लेखन भाग इतना प्रवाहपूर्ण था, इसने ऐसा टेक्स्ट तैयार किया जो बिल्कुल एक मानव डॉक्टर द्वारा लिखी गई रिपोर्ट जैसा लगता था। हालाँकि, शोधकर्ताओं ने पाया कि इस प्रवाह के साथ एक छिपा हुआ मूल्य (लागत) भी था। एक उदाहरण में, रिपोर्ट में कहा गया कि हृदय का आकार सामान्य है और फेफड़ों के निचले कोण स्पष्ट हैं। सिस्टम ने कभी हृदय के आकार को नहीं मापा था, न ही उसने उन कोणों की जाँच की थी। इसने उन वाक्यों को केवल इसलिए भर दिया क्योंकि वे मेडिकल रिपोर्टों में सामान्य वाक्यांश हैं। सिस्टम उन बीमारियों के बारे में सही था जिन्हें उसने डिटेक्ट किया था, लेकिन वह उनके आसपास के विवरणों को गढ़ रहा था। इसने एक महत्वपूर्ण सीमा को प्रदर्शित किया: सिस्टम यह गारंटी दे सकता था कि बीमारियों की सूची वास्तविक और ऑडिट योग्य है, लेकिन वह उन वाक्यों की गारंटी नहीं दे सकता था जो उनका वर्णन करते हैं। रिपोर्ट उन बीमारियों के साक्ष्यों पर आधारित थी जो उसने पाई थीं, लेकिन उन विवरणों के मामले में अनग्राउंडेड (आधारहीन) थी जिन्हें उसने कहानी को पूरा करने के लिए गढ़ा था।

शोधकर्ताओं ने यह भी दिखाया कि इस आर्किटेक्चर को केवल नामों और शब्दों की सूची बदलकर ब्रेन एमआरआई या हेड सीटी जैसे अन्य प्रकार के मेडिकल स्कैन के लिए अनुकूलित किया जा सकता है, न कि पूरे कंप्यूटर कोड को फिर से लिखकर। यह सुझाव देता है कि डिटेक्शन (पहचान) को राइटिंग (लेखन) से अलग करने की विधि एक लचीला उपकरण है जो विभिन्न चिकित्सा क्षेत्रों में काम कर सकता है। हालाँकि, टीम ने सावधानी बरतते रूप में कहा कि यह एक रिसर्च प्रोटोटाइप है, न कि अस्पतालों के लिए तैयार कोई मेडिकल डिवाइस। इसका परीक्षण वास्तविक रोगियों पर नहीं किया गया है, और शोधकर्ताओं ने अभी तक यह नहीं मापा है कि क्या ये रिपोर्टें होने से डॉक्टरों को बेहतर निर्णय लेने में वास्तव में मदद मिलती है। यह कार्य एक 'प्रूफ ऑफ कॉन्सेप्ट' के रूप में कार्य करता है, जो यह दिखाता है कि एक ऐसा सिस्टम बनाना संभव है जहाँ तथ्य सुरक्षित हों, भले ही उनके आसपास का गद्य (प्रोज़) न हो।

अंत में, इस कार्य का मूल्य इसकी सीमाओं की स्पष्टता में निहित है। सिस्टम यह सिद्ध करता है कि आप एक ऐसी मशीन बना सकते हैं जो जो उसने पाया है उसके बारे में झूठ नहीं बोल सकती, क्योंकि रिपोर्ट लिखने वाला हिस्सा इमेज से कटा हुआ है। लेकिन यह यह भी सिद्ध करता है कि एक मशीन उन चीजों के बारे में भी आत्मविश्वास से बोल सकती है जिन्हें वह नहीं जानती। शोधकर्ता निष्कर्ष निकालते हैं कि चिकित्सा में उच्च-दांव वाले निर्णयों के लिए, हमें इस बात पर बहुत सावधान रहने की आवश्यकता है कि हम किस पर भरोसा करें। यदि सिस्टम इस तरह से बनाया गया है, तो हम निष्कर्षों की सूची पर भरोसा कर सकते हैं, लेकिन हम आसपास के टेक्स्ट पर भरोसा नहीं कर सकते जब तक कि उसकी जांच मानव द्वारा न की जाए। यह सिस्टम डॉक्टर की जगह नहीं लेता है; इसके बजाय, यह हमें यह देखने का एक नया तरीका प्रदान करता है कि मशीन किस मामले में निश्चित है और कहाँ वह केवल अनुमान लगा रही है, जिससे एक 'ब्लैक बॉक्स' एक पारदर्शी प्रक्रिया में बदल जाता है जिसका मानव द्वारा ऑडिट किया जा सके।