AI Benefits and Machine Learning Errors - Neurology, Psychiatry and Neurosurgery
79 अध्येशनों (2018-2026) की यह व्यवस्थित समीक्षा इस बात पर प्रकाश डालती है कि जहाँ एआई (AI) बेहतर निदान और सर्जिकल सटीकता के माध्यम से न्यूरोलॉजी, मनोरोग विज्ञान और न्यूरोसर्जरी को महत्वपूर्ण रूप से उन्नत करता है, वहीं यह गलत निदान और पूर्वाग्रह के पर्याप्त जोखिम भी उत्पन्न करता है—विशेष रूप से कम प्रतिनिधित्व वाले समूहों और विशिष्ट मामलों (edge cases) में—जिसके लिए सुरक्षित नैदानिक कार्यान्वयन सुनिश्चित करने हेतु सख्त त्रुटि ट्रैकिंग, निष्पक्षता ऑडिट और मानवीय निरीक्षण आवश्यक है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि चिकित्सा के क्षेत्र में आर्टिफिशियल इंटेलिजेंस (AI) एक सुपर-पावर्ड, अविश्वसनीय रूप से तेज़ प्रशिक्षु डॉक्टर (apprentice doctor) है। इस प्रशिक्षु ने अस्तित्व में मौजूद हर मेडिकल टेक्स्टबुक को पढ़ लिया है और यह किसी भी इंसान की तुलना में अधिक तेज़ी से ब्रेन स्कैन, EEG और पेशेंट रिकॉर्ड्स में पैटर्न पहचान सकता है। हालाँकि, किसी भी प्रशिक्षु की तरह, इसकी कुछ विशिष्ट "अंध बिंदु" (blind spots) भी हैं जहाँ यह भ्रमित हो जाता है, और यदि हम सावधान नहीं रहे, तो इसकी गलतियाँ मरीजों को नुकसान पहुँचा सकती हैं।
सैफ एम. हसन द्वारा लिखा गया यह शोध पत्र एक सिस्टमैटिक रिव्यू (एक विशाल रिपोर्ट कार्ड) है, जिसने 2018 से 2026 के बीच 79 अलग-अलग अध्येशनों की जांच की। इसने देखा कि इस "प्रशिक्षु" ने चिकित्सा के तीन विशिष्ट क्षेत्रों में कैसा प्रदर्शन किया: न्यूरोलॉजी (मस्तिष्क और तंत्रिका विकार), साइकियाट्री (मानसिक स्वास्थ्य), और न्यूरोसर्जरी (मस्तिष्क या रीढ़ की सर्जरी)।
यहाँ इस शोध पत्र के निष्कर्षों का विवरण दिया गया है, जिसमें सरल उपमाओं (analogies) का उपयोग किया गया है।
1. सुपरपावर्स (लाभ)
यह शोध पत्र स्वीकार करता है कि यह AI प्रशिक्षु कई तरीकों से वास्तव में मददगार है। यह डॉक्टरों के लिए एक हाई-स्पीड टर्बोचार्जर की तरह काम करता है।
न्यूरोलॉजी में (मस्तिष्क और तंत्रिकाएं):
- द स्पीडस्टर (गति का जादूगर): जब किसी मरीज को स्ट्रोक आता है, तो समय ही मस्तिष्क है। AI स्कैन में रक्त वाहिका के अवरुद्ध होने को 2 मिनट में पहचान सकता है, जबकि एक मानव रेडियोलॉजिस्ट को 15 मिनट लगते हैं। इससे सर्जरी से पहले के समय में लगभग 33% की बचत होती है, जिससे मरीज तक मदद तेज़ी से पहुँचती है।
- द पैटर्न हंटर (पैटर्न खोजने वाला): मिर्गी (epilepsy) के लिए, AI मस्तिष्क की तरंगों (EEG) को सुन सकता है और 91% सटीकता के साथ दौरों (seizures) को पहचान सकता है, जो मानव विशेषज्ञों के बराबर है, लेकिन यह काम बहुत अधिक तेज़ी से करता है।
- द टाइम-सेवर (समय बचाने वाला): मल्टीपल स्क्लेरोसिस (MS) के लिए, AI 2 मिनट में मस्तिष्क के क्षतिग्रस्त क्षेत्रों का मानचित्र बना सकता है, जो एक इंसान के लिए 20 मिनट का काम है।
साइकियाट्री में (मानसिक स्वास्थ्य):
- द प्रेडिक्टर (पूर्वानुमान लगाने वाला): AI यह अनुमान लगाने में डॉक्टर के अंतर्ज्ञान (gut feeling) से बेहतर है कि क्या कोई व्यक्ति किसी विशिष्ट दवा के प्रति प्रतिक्रिया देगा। यह मानक क्लिनिकल इंटरव्यू की तुलना में आत्महत्या के जोखिम का बेहतर पूर्वानुमान भी लगा सकता है।
- द डिफरेंशिएटर (अंतर बताने वाला): यह स्किज़ोफ्रेनिया और बाइपोलर डिसऑर्डर के बीच अंतर करने में मानक इंटरव्यू की तुलना में अधिक सटीक रूप से मदद करता है।
न्यूरोसर्जरी में (ऑपरेशन्स):
- द प्रिसिजन टूल (सटीक उपकरण): जब सर्जन मस्तिष्क के ट्यूमर को निकाल रहे होते हैं, तो AI उन्हें ट्यूमर के किनारों को बेहतर ढंग से देखने में मदद करता है, जिससे वे ट्यूमर के अधिक हिस्से को निकाल पाते हैं (AI के बिना 62% सफलता दर के मुकाबले 79% सफलता दर)।
- द गाइड (मार्गदर्शक): रीढ़ में पेंच (screws) लगाते समय, AI एक GPS की तरह काम करता है, जिससे गलत जगह पर पेंच लगने की संख्या 9% से घटकर 4% रह जाती है।
2. ग्लिच (त्रुटियां)
यहाँ एक पेच है: समीक्षित किए गए 44% अध्ययनों ने पाया कि AI ने गलतियाँ कीं। ये केवल छोटी-मोटी गणितीय त्रुटियाँ नहीं थीं; ये वास्तविक दुनिया की विफलताएँ थीं जिन्होंने लोगों को नुकसान पहुँचाया। शोध पत्र इन त्रुटियों की तुलना एक ऐसी कार से करता है जो धूप वाले हाईवे पर तो बेहतरीन चलती है, लेकिन बारिश होने या गड्ढे आने पर दुर्घटनाग्रस्त हो जाती है।
AI सबसे अधिक तब विफल होता है जब इसका सामना ऐसी चीज़ से होता है जिसे इसने अपने "ट्रेनिंग स्कूल" में नहीं देखा है।
- बच्चों के लिए "ब्लाइंड स्पॉट": बाल चिकित्सा मिर्गी (pediatric epilepsy) के मामले में, AI ने बच्चों के मस्तिष्क के घावों (lesions) को 22% बार मिस कर दिया (जबकि इंसानों ने केवल 8% मिस किए)। इस कारण से, तीन बच्चों को आवश्यक सर्जरी के लिए एक साल अधिक इंतजार करना पड़ा क्योंकि AI ने डॉक्टरों को बताया कि उनके स्कैन "सामान्य" दिख रहे हैं।
- "बायस" (पक्षपात) की समस्या:
- नस्ल (Race): पार्किंसंस रोग के निदान के लिए इस्तेमाल किया गया एक AI श्वेत रोगियों के लिए बहुत अच्छा काम करता था, लेकिन अश्वेत रोगियों के लिए पूरी तरह विफल रहा (कुछ मामलों में विशिष्टता शून्य हो गई)।
- जातीयता (Ethnicity): यूरोपीय रोगियों पर प्रशिक्षित एक डिप्रेशन मॉडल टेस्ट के दौरान दक्षिण एशियाई रोगियों पर विफल रहा। इसने कम जोखिम वाले 14% दक्षिण एशियाई रोगियों को गलत तरीके से उच्च जोखिम के रूप में चिह्नित किया, जिससे 7 लोगों को अनावश्यक एंटीडिप्रेसेंट दिए गए जिससे वे बीमार पड़ गए।
- "हार्डवेयर" का भ्रम: यदि कोई AI पुराने MRI मशीनों (1.5T) पर प्रशिक्षित है और फिर उसे एक नई, अधिक शक्तिशाली मशीन (3T) पर उपयोग किया जाता है, तो इसकी सटीकता शून्य के करीब गिर सकती है। यह किसी को सेडान चलाने की शिक्षा देने और फिर बिना किसी सबक के ट्रक चलाने की उम्मीद करने जैसा है।
- "हड्डी" की विफलता: स्पाइन सर्जरी में, AI उन रोगियों के साथ संघर्ष करता है जिनकी हड्डियाँ कमजोर या भंगुर (osteoporosis) होती हैं। इसने इन मामलों में 9% बार पेंचों के मार्ग को गलत पहचाना, जिससे दो रोगियों को तंत्रिका क्षति (nerve damage) को ठीक करने के लिए दूसरी बार सर्जरी (revision surgery) की आवश्यकता पड़ी।
- "आयु" का अंतर: आत्महत्या की भविष्यवाणी करने वाला एक टूल वयस्कों के लिए अच्छा काम करता था लेकिन किशोरों के साथ बुरी तरह विफल रहा, जिससे कई लड़कियों को अनावश्यक संकट हस्तक्षेप (crisis intervention) के लिए फ्लैग किया गया जिसकी उन्हें ज़रूरत नहीं थी।
3. ऐसा क्यों होता है?
शोध पत्र बताता है कि ये त्रुटियाँ इसलिए होती हैं क्योंकि AI को सीमित और "साफ" डेटा पर प्रशिक्षित किया जाता है।
- "क्लासरूम" की उपमा: कल्पना कीजिए कि एक छात्र केवल एक विशिष्ट पाठ्यपुस्तक के प्रश्नों का उपयोग करके परीक्षा के लिए पढ़ाई करता है। वह उस परीक्षा में बहुत अच्छा करेगा। लेकिन यदि आप उसे किसी अलग किताब से या किसी ऐसे विषय के बारे में प्रश्न देते हैं जो पाठ्यपुस्तक में छोड़ दिया गया है (जैसे दुर्लभ बीमारियाँ या विशिष्ट जातीय समूह), तो वह विफल हो जाएगा।
- AI मॉडल मुख्य रूप से विशिष्ट अस्पतालों, विशिष्ट स्कैनर और विशिष्ट आबादी के डेटा पर प्रशिक्षित थे। उन्होंने वास्तविक दुनिया की जटिल और विविध वास्तविकता को नहीं सीखा है।
4. निर्णय और सिफारिशें
शोध पत्र निष्कर्ष निकालता है कि AI एक शक्तिशाली उपकरण है, लेकिन हम इस पर अंधा विश्वास नहीं कर सकते। इसके लाभ वास्तविक हैं, लेकिन इसके जोखिम भी वास्तविक और दस्तावेजीकृत हैं।
"ह्यूमन-इन-द-लूप" (मानव की निगरानी) का नियम:
शोध पत्र का तर्क है कि AI एक सहायक होना चाहिए, बॉस नहीं।
- डॉक्टरों के लिए: आपको पता होना चाहिए कि आपका AI कहाँ कमजोर है। यदि आप मिर्गी वाले बच्चे, डिप्रेशन वाले दक्षिण एशियाई रोगी, या कमजोर हड्डियों वाले बुजुर्ग रोगी का इलाज कर रहे हैं, तो आपको AI के काम की दोबारा जाँच करनी चाहिए।
- शोधकर्ताओं के लिए: केवल अपनी "जीत" को रिपोर्ट करना बंद करें। आपको अपनी "हार" और त्रुटियों को भी प्रकाशित करना चाहिए, विशेष रूप से विभिन्न समूहों के लोगों के लिए।
- नियामकों (Regulators) के लिए: इन उपकरणों को मंजूरी देने से पहले, उन्हें विविध समूहों पर टेस्ट किया जाना चाहिए, न कि केवल "औसत" रोगी पर।
संक्षेप में: AI एक शानदार, तेज़ प्रशिक्षु है जो निदान में तेजी लाकर और सर्जरी का मार्गदर्शन करके जीवन बचा सकता है। लेकिन यदि हम इसे "एज केसेस" (जैसे बच्चे, विभिन्न नस्लें, दुर्लभ स्थितियाँ) को संभालने के लिए प्रशिक्षित नहीं करते हैं और यदि हम एक मानव डॉक्टर को इसकी निगरानी करने के लिए नहीं रखते हैं, तो यह खतरनाक गलतियाँ कर सकता है जो देखभाल में देरी कर सकती हैं या अनावश्यक नुकसान पहुँचा सकती हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।