Use of What-if Scenarios to Help Explain Artificial Intelligence Models for Neonatal Health
यह शोध पत्र AIMEN को प्रस्तुत करता है, जो एक डीप लर्निंग फ्रेमवर्क है जो डेटा ऑग्मेंटेशन के लिए CTGAN और न्यूरल नेटवर्क के एक एंसेम्बल का उपयोग करता है ताकि प्रसव के दौरान नैदानिक निर्णय लेने में सहायता के लिए सटीक, व्याख्यात्मक काउंटरफैक्चुअल स्पष्टीकरण प्रदान करते हुए उच्च सटीकता के साथ प्रतिकूल नवजात परिणामों की भविष्यवाणी की जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक डॉक्टर हैं जो यह अनुमान लगाने की कोशिश कर रहे हैं कि क्या किसी बच्चे का जन्म कठिन होगा। आपके पास सुरागों की एक विशाल सूची है: माँ का स्वास्थ्य, प्रसव (लेबर) कितनी देर चला, बच्चे की हृदय गति, और कई अन्य कारक। अतीत में, डॉक्टरों ने इन सुरागों को सुलझाने में मदद करने के लिए कंप्यूटरों का उपयोग करने की कोशिश की है, लेकिन कंप्यूटर अक्सर "ब्लैक बॉक्स" की तरह काम करते हैं—वे एक उत्तर तो देते हैं, लेकिन यह नहीं बताते कि उन्होंने ऐसा क्यों किया। साथ ही, कंप्यूटर अक्सर संघर्ष करते हैं क्योंकि उनके प्रशिक्षण डेटा (training data) में "कठिन जन्म" के पर्याप्त उदाहरण नहीं होते हैं जिससे वे ठीक से सीख सकें।
यह शोध पत्र एक नए उपकरण को पेश करता है जिसे AIMEN (Artificial Intelligence for Modeling and Explaining Neonatal Health) कहा जाता है। AIMEN को एक स्मार्ट, पारदर्शी सहायक के रूप में समझें जो डॉक्टरों के लिए दो मुख्य काम करता है: यह सटीक रूप से जोखिमों का पूर्वानुमान लगाता है, और अपने तर्क को इस तरह समझाता है जिसे इंसान समझ सकें।
यह इस प्रकार काम करता है, जिसे सरल अवधारणाओं में विभाजित किया गया है:
1. "असंतुलित कक्षा" की समस्या (The "Imbalanced Classroom" Problem)
कल्पना कीजिए कि एक कक्षा है जहाँ 90% छात्र गणित में उत्कृष्ट हैं, लेकिन केवल कुछ ही संघर्ष कर रहे हैं। यदि एक शिक्षक केवल पूरी कक्षा को देखकर संघर्ष करने वाले छात्रों की मदद करने का तरीका सीखने की कोशिश करता है, तो वह उन कुछ छात्रों की विशिष्ट आवश्यकताओं को समझने में चूक सकता है जो संघर्ष कर रहे हैं।
चिकित्सा डेटा में, "सामान्य" जन्म आम होते हैं, लेकिन "उच्च-जोखिम" वाले जन्म दुर्लभ होते हैं। यह AI के लिए यह सीखना कठिन बना देता है कि एक उच्च-जोखिम वाला जन्म कैसा दिखता है।
- समाधान: AIMEN एक विशेष "फोटोकॉपी मशीन" का उपयोग करता है जिसे CTGAN कहा जाता है। यह कोई वास्तविक फोटोकॉपी मशीन नहीं है, बल्कि एक कंप्यूटर प्रोग्राम है जो सिंथेटिक (नकली) डेटा बनाता है। यह उच्च-जोखिम वाले जन्मों के वास्तविक उदाहरणों को देखता है और रिक्तियों को भरने के लिए नए, वास्तविक दिखने वाले उदाहरण बनाता है। यह AI को सीखने के लिए एक बड़ा, अधिक संतुलित "कक्षा" प्रदान करता है।
- ट्विस्ट: लेखकों ने पाया कि इस फोटोकॉपी मशीन को थोड़े अपूर्ण उदाहरण बनाने देने से (जैसे कि एक श्रम अवधि जो थोड़ी नकारात्मक है, जिसका वास्तविक जीवन में कोई अर्थ नहीं है लेकिन गणित में मदद करती है) AI वास्तव में अधिक स्मार्ट बन गया। यह एक थोड़े विकृत दर्पण के साथ अभ्यास करने जैसा है ताकि चेहरा पहचानने के लिए यह सीखा जा सके कि रोशनी अजीब होने पर भी पहचान कैसे की जाए।
2. "जासूसों की टीम" (The "Team of Detectives" - द प्रेडिक्शन इंजन)
एक बार जब डेटा तैयार हो जाता है, तो AIMEN निर्णय लेने के लिए केवल एक कंप्यूटर मस्तिष्क का उपयोग नहीं करता है। इसके बजाय, यह निर्णय लेने के लिए आठ जासूसों की एक टीम (न्यूरल नेटवर्क) का उपयोग करता है।
- प्रत्येक जासूस सुरागों को देखता है और अपना स्वयं का अनुमान लगाता है।
- वे अंतिम उत्तर पर मतदान करते हैं।
- जिन जासूसों ने अभ्यास में सबसे सटीक प्रदर्शन किया है, उन्हें अधिक वोट मिलते हैं।
- यह "टीम दृष्टिकोण" सिस्टम को उन गलतियों से बचने में मदद करता है जो एक अकेला जासूस कर सकता है।
3. "क्या-होता-अगर" वाली स्थितियाँ (The "What-If" Scenarios - द एक्सप्लेनेशन)
यह सबसे अनूठा हिस्सा है। आमतौर पर, एक AI कहता है, "यह बच्चा जोखिम में है।" लेकिन AIMEN आगे बढ़ता है। यह कहता है, "यह बच्चा जोखिम में है, लेकिन यदि हमने केवल दो या तीन चीजें बदल दी होतीं, तो जोखिम समाप्त हो जाता।"
इसे काउंटरफैक्चुअल एक्सप्लेनेशन (Counterfactual Explanation) कहा जाता है।
- उपमा: कल्पना कीजिए कि आप एक वीडियो गेम खेल रहे हैं और आप एक लेवल हार जाते हैं। एक सामान्य AI केवल कहता है, "गेम ओवर।" AIMEN कहता है, "गेम ओवर। लेकिन यदि आपने 2 इंच ऊँची छलांग लगाई होती और उस एक स्पाइक (नुकीली बाधा) से बच गए होते, तो आप जीत जाते।"
- पेपर से वास्तविक उदाहरण: यदि भविष्यवाणी की जाती है कि एक बच्चे का जन्म कठिन होगा क्योंकि हृदय की गति का पैटर्न अजीब है और बच्चे का आकार बहुत बड़ा है, तो AIMEN सुझाव दे सकता है: "यदि हृदय की गति का पैटर्न सामान्य होता और बच्चा थोड़ा छोटा होता, तो परिणाम संभवतः सुरक्षित होता।"
- यह क्यों महत्वपूर्ण है: यह केवल एक डरावना स्कोर नहीं देता; यह डॉक्टरों को उन कुछ कारकों की एक विशिष्ट, कार्रवाई योग्य सूची देता जो परेशानी का कारण बन रहे हैं। औसतन, एक "जोखिम भरी" भविष्यवाणी को "सुरक्षित" में बदलने के लिए केवल 2.5 कारकों को बदलना पड़ता है।
4. क्या यह काम आया? (Did It Work?)
शोधकर्ताओं ने AIMEN का परीक्षण अन्य लोकप्रिय AI उपकरणों (जैसे XGBoost और LightGBM) के मुकाबले किया।
- परिणाम: AIMEN जीत गया। यह अन्य उपकरणों की तुलना में उच्च-जोखिम वाले जन्मों की भविष्यवाणी करने में बेहतर था।
- प्रमाण: उन्होंने केवल उस नकली डेटा को नहीं देखा जिसे उन्होंने बनाया था; उन्होंने सिस्टम का परीक्षण वास्तविक, अनदेखे रोगियों पर किया जिन्हें AI ने पहले कभी नहीं देखा था। इसने लगभग 63% बार जोखिम भरी स्थितियों की सही पहचान की (जो इस कठिन क्षेत्र में एक बड़ा सुधार है) और सुरक्षित स्थितियों की पहचान करने में यह बहुत अच्छा (95% बार) रहा।
5. AI ने क्या सीखा (The "Why")
पेपर ने यह भी देखा कि AI ने किसे सबसे महत्वपूर्ण माना। वास्तव में, AI ने मानव डॉक्टरों के साथ सहमति व्यक्त की।
- सबसे महत्वपूर्ण सुराग असामान्य हृदय दर (बहुत तेज़, बहुत धीमी, या धड़कन का छूटना) और अत्यधिक गर्भाशय गतिविधि थे।
- इसने यह भी नोट किया कि जिन माताओं ने पहले कभी जन्म नहीं दिया है (पहली बार माँ बनने वाली), उनमें जोखिम अधिक होने की प्रवृत्ति होती है, जो डॉक्टरों की मौजूदा जानकारी से मेल खाता है।
सारांश
AIMEN एक नया AI सिस्टम है जिसे प्रसव के दौरान डॉक्टरों की मदद करने के लिए डिज़ाइन किया गया है। यह डेटा की कमी की समस्या को वास्तविक "अभ्यास" उदाहरण बनाकर हल करता है। यह भविष्यवाणियां करने के लिए AI मॉडलों की एक टीम का उपयोग करता है और सबसे महत्वपूर्ण बात यह है कि यह एक सहायक मार्गदर्शक के रूप में कार्य करता है, जो कहता है, "यहाँ जोखिम है, और यहाँ वे विशिष्ट 2 या 3 चीजें हैं, जो यदि अलग होतीं, तो स्थिति सुरक्षित होती।" यह डॉक्टरों को यह समझने में मदद करता है कि कंप्यूटर क्यों चिंतित है और वे इसके बारे में क्या कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।