The fundamental problem of risk prediction for individuals: health AI, uncertainty, and personalized medicine
यह अध्ययन प्रदर्शित करता है कि नैदानिक सेटिंग्स में व्यक्तिगत जोखिम भविष्यवाणियाँ अक्सर अनुमानित धारणा से कहीं अधिक अनिश्चित होती हैं क्योंकि मॉडल और प्रयोज्यता संबंधी अनिश्चितताएं अक्सर अनुमान अनिश्चितता पर हावी रहती हैं, भले ही एल्गोरिदम बेहतर प्रदर्शन कर रहे हों, जिससे यह आवश्यक हो जाता है कि भविष्य कहने वाले उपकरण नैवंशिक निर्णय लेने वालों के बजाय चिकित्सक-रोगी संपर्क के लिए सहायक सहायता के रूप में कार्य करें।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक खेत में खड़े किसी विशिष्ट व्यक्ति के लिए मौसम की भविष्यवाणी करने की कोशिश कर रहे हैं। आपके पास एक सुपर-कंप्यूटर मॉडल है जो पूरे देश के लिए मौसम की भविष्यवाणी करने में अविश्वसनीय रूप से अच्छा है। यदि आप उससे पूछते हैं, "क्या इस क्षेत्र में बारिश होगी?" तो यह लाखों डेटा पॉइंट्स के आधार पर आपको एक बहुत ही सटीक उत्तर देगा।
हालाँकि, आपके द्वारा प्रदान किए गए पेपर में तर्क दिया गया है कि यदि आप उसी सुपर-कंप्यूटर से पूछते हैं, "क्या अभी जॉन के सिर पर बारिश होगी?" तो इसका उत्तर हमारी सोच से कहीं अधिक अनिश्चित होगा। भले ही मॉडल बड़े स्तर पर (big picture) एक जीनियस हो, फिर भी वह व्यक्तिगत स्तर पर काफी गलत अनुमान लगा सकता है।
यहाँ एनालॉजी (उपमाओं) का उपयोग करके पेपर के निष्कर्षों का विवरण दिया गया:
तीन प्रकार की "अनुमान लगाने की प्रक्रिया" (अनिश्चितता)
लेखक बताते हैं कि जब एक डॉक्टर यह अनुमान लगाने के लिए AI का उपयोग करता है कि क्या किसी मरीज को डिम्बग्रंथि का कैंसर (ovarian cancer) है, तो भविष्यवाणी अनिश्चित होने के तीन अलग-अलग कारण होते हैं। वे इन्हें "एस्टिमेशन" (Estimation), "मॉडल" (Model), और "एप्लिकेबिलिटी" (Applicability) अनिश्चितता कहते हैं।
1. एस्टिमेशन अनिश्चितता (Estimation Uncertainty): "छोटा नमूना" वाली समस्या
- एनालॉजी: कल्पना कीजिए कि आप एक शहर के सभी वयस्कों की औसत ऊंचाई का अनुमान लगाने की कोशिश कर रहे हैं। यदि आप केवल 10 लोगों को मापते हैं, तो आपका अनुमान बहुत गलत हो सकता है। यदि आप 10,000 लोगों को मापते हैं, तो आपका अनुमान बहुत सटीक हो जाता है।
- पेपर का दावा: यह उस अनिश्चितता से आता है जो डेटा की कम मात्रा के कारण होती है। पेपर पुष्टि करता है कि यदि आप AI को अधिक डेटा (एक बड़ा ट्रेनिंग सेट) देते हैं, तो इस विशिष्ट प्रकार की त्रुटि कम हो जाती है। लेकिन, यह एकमात्र प्रकार की त्रुटि है जो अधिक डेटा के साथ बेहतर होती है।
2. मॉडल अनिश्चितता (Model Uncertainty): "रेसिपी" वाली समस्या
- एनालॉजी: कल्पना कीजिए कि आप एक केक बनाना चाहते हैं। आपके पास वही सामग्रियां (मरीज का डेटा) हैं, लेकिन आपके पास 50 अलग-अलग शेफ हैं। शेफ A माइक्रोवेव का उपयोग करता है, शेफ B ओवन का, शेफ C अतिरिक्त चीनी डालता है, और शेफ D अंडे छोड़ देता है। भले ही वे सभी एक ही सामग्री का उपयोग करें, वे सभी थोड़े अलग केक बनाएंगे।
- पेपर का दावा: AI में, "मॉडल अनिश्चितता" इसलिए होती है क्योंकि शोधकर्ताओं को कुछ चुनाव करने पड़ते हैं: हमें किस एल्गोरिदम का उपयोग करना चाहिए? कौन से वेरिएबल्स महत्वपूर्ण हैं? हम गायब संख्याओं को कैसे संभालते हैं? पेपर ने पाया कि इन "रेसिपी" संबंधी विकल्पों को बदलने से भारी मात्रा में अनिश्चितता पैदा होती है। भले ही आप शेफ को 10,000 सामग्रियां खिला दें, वे फिर भी अलग-अलग केक बनाएंगे क्योंकि वे अलग-अलग तरीकों का उपयोग कर रहे हैं।
3. एप्लिकेबिलिटी अनिश्चितता (Applicability Uncertainty): "संदर्भ" वाली समस्या
- एनालॉजी: कल्पना कीजिए कि एक रेसिपी जो बेल्जियम के किचन में पूरी तरह से काम करती है, उसे अब स्वीडन के किचन में इस्तेमाल करने की कोशिश की जाती है, जहाँ आटा अलग है, ओवन अलग तरह से गर्म होता है, और पानी अधिक कठोर है। केक पूरी तरह से अलग हो सकता है, भले ही रेसिपी वही हो।
- पेपर का दावा: यह तब होता है जब एक अस्पताल के मरीजों पर प्रशिक्षित मॉडल को दूसरे अस्पताल (या देश) के मरीजों पर उपयोग किया जाता है। डॉक्टर चीजों को कैसे मापते हैं या मरीज कौन हैं, इसमें अंतर अनिश्चितता पैदा करता है। पेपर ने पाया कि केवल अधिक डेटा होने से यह ठीक नहीं होता; "स्थान" और "मापन शैली" अभी भी बहुत मायने रखते हैं।
बड़ी खोज: अधिक डेटा कोई जादुई समाधान नहीं है
इस पेपर की सबसे आश्चर्यजनक खोज यह है कि ये अनिश्चितताएं कितनी महत्वपूर्ण हैं।
- सोचने का पुराना तरीका: हम आमतौर पर सोचते हैं, "यदि हम बस अधिक डेटा प्राप्त कर लें, तो AI हर एक व्यक्ति के लिए एकदम सही हो जाएगा।"
- पेपर का वास्तविकता परीक्षण: लेखकों ने डिम्बग्रंथि के कैंसर के डेटा का उपयोग करके इसका परीक्षण किया। उन्होंने लगभग 60,000 अलग-अलग संस्करणों के साथ एक प्रेडिक्शन मॉडल बनाया (रेसिपी, डेटा स्रोत और नमूना आकार को बदलते हुए)।
- जब उन्होंने "रेसिपी" और "संदर्भ" की समस्याओं (मॉडल और एप्लिकेबिलिटी अनिश्चितता) को देखा, तो अधिक डेटा जोड़ने से बहुत कम मदद मिली।
- एक विशिष्ट रोगी के लिए, मॉडल का एक संस्करण कह सकता है कि कैंसर की संभावना 5% है, और दूसरे संस्करण में यह 95% हो सकती है। दोनों संस्करण आबादी के लिए "सही" हो सकते हैं, लेकिन वे व्यक्ति के लिए विपरीत सलाह देते हैं।
इसका आपके और आपके डॉक्टर के लिए क्या अर्थ है
पेपर एक बहुत ही महत्वपूर्ण संदेश के साथ समाप्त होता है कि हमें इन AI उपकरणों का उपयोग कैसे करना चाहिए:
- AI एक मार्गदर्शक है, तानाशाह नहीं: क्योंकि एक व्यक्ति के लिए भविष्यवाणी इतनी अनिश्चित है, इसलिए AI को कभी भी अकेले अंतिम निर्णय नहीं लेना चाहिए। यह एक मौसम पूर्वानुमान की तरह है जो कहता है "बारिश की 50% संभावना है।" यह आपको अंदर रहने के लिए नहीं कहता; यह केवल आपको जानकारी देता है।
- मानवीय संबंध महत्वपूर्ण है: चूंकि एक व्यक्ति के लिए AI का नंबर संदिग्ध है, इसलिए वास्तविक "पर्सनलाइज्ड मेडिसिन" डॉक्टर और मरीज के बीच की बातचीत से आती है। डॉक्टर को यह समझाना होगा कि AI केवल कई संभावित विचारों में से एक विचार है।
- संख्या पर आँख मूंदकर भरोसा न करें: सिर्फ इसलिए कि एक मॉडल एक समूह के लिए "सटीक" है (जैसे यह कहना कि एक शहर में 30% समय बारिश होती है), इसका मतलब यह नहीं है कि वह नंबर विशेष रूप से आपके लिए भरोसेमंद है।
संक्षेप में: पेपर चेतावनी देता है कि हालांकि AI बड़े समूहों में पैटर्न पहचानने में बहुत अच्छा है, लेकिन जब यह एक अकेले व्यक्ति के सटीक जोखिम को बताने की कोशिश करता है, तो यह वास्तव में काफी "धुंधला" (fuzzy) होता है। हमें यह उम्मीद करना बंद कर देना चाहिए कि AI हमें हर मरीज के लिए एक एकल, सटीक संख्या देगा और इसके बजाय इसे डॉक्टरों और मरीजों को मिलकर निर्णय लेने में मदद करने के लिए एक उपकरण के रूप में उपयोग करना शुरू करना चाहिए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।