What Can Artificial Intelligence Learn from Medicine? Generative Analogies and Reliable Machine Learning Systems

पिछले कुछ वर्षों में, डॉक्टरों और कंप्यूटर वैज्ञानिकों ने मिलकर ऐसे आर्टिफिशियल इंटेलिजेंस (AI) उपकरण बनाने के लिए काम करना शुरू कर दिया है जो बीमारियों का निदान करने, मरीजों के परिणामों की भविष्यवाणी करने और उपचार सुझाने में मदद कर सकें। ये उपकरण, जिन्हें मशीन लर्निंग सिस्टम कहा जाता है, इसलिए शक्तिशाली हैं क्योंकि वे डेटा की विशाल मात्रा में उन पैटर्न को खोज सकते हैं जिन्हें इंसान शायद मिस कर दें। हालांकि, एक बड़ी समस्या बनी हुई है: ये सिस्टम अक्सर 'ब्लैक बॉक्स' की तरह काम करते हैं। वे परिणाम तो देते हैं लेकिन यह नहीं समझाते कि वे उस नतीजे तक कैसे पहुँचे, और वे स्पष्ट सिद्धांतों के बजाय सांख्यिकीय संबंधों (statistical connections) पर निर्भर करते हैं कि कोई उपचार क्यों काम करता है। यह उन डॉक्टरों के लिए एक दुविधा पैदा करता है जिन्हें उन उपकरणों पर भरोसा करने की आवश्यकता होती है जिनका वे उपयोग करते हैं। यदि कोई कंप्यूटर कहता है कि किसी मरीज को बीमारी है, लेकिन कोई नहीं समझता कि उसने ऐसा क्यों कहा, तो एक डॉक्टर कैसे सुनिश्चित हो सकता है कि वह सही है? इस अनिश्चितता ने एक कठिन प्रश्न खड़ा कर दिया है: हम यह कैसे सत्यापित करें कि ये जटिल, अपारदर्शी (opaque) सिस्टम वास्तविक अस्पतालों में उपयोग किए जाने के लिए कितने विश्वसनीय हैं?

दो दार्शनिकों, इमानुएल रट्टी और लीना ज़ुकोव्स्की ने चिकित्सा के क्षेत्र में इसी तरह की अनिश्चितताओं को संभालने के तरीके को देखकर इस समस्या को सोचने का एक नया तरीका प्रस्तावित किया है। उनका सुझाव है कि हमें आर्टिफिशियल इंटेलिजेंस को उस तरह से पारदर्शी या व्याख्या योग्य (explainable) बनाने के लिए मजबूर नहीं करना चाहिए जैसा कि हम आमतौर पर उम्मीद करते हैं। इसके बजाय, वे तर्क देते हैं कि हमें नई दवाओं को मान्य (validate) करने के लंबे इतिहास से सीखना चाहिए। जिस तरह डॉक्टर हमेशा यह नहीं जानते कि शरीर के भीतर एक विशिष्ट गोली वास्तव में कैसे काम करती है, फिर भी वे जानते हैं कि वह सुरक्षित और प्रभावी है क्योंकि इसे परीक्षण की कठोर प्रक्रिया के माध्यम से प्रमाणित किया गया है। शोधकर्ता प्रस्ताव देते हैं कि दवाओं के लिए उपयोग की जाने वाली इसी तरह की कठोर परीक्षण प्रक्रिया को आर्टिफिशियल इंटेलिजेंस पर भरोसा करने के लिए एक नया मानक बनाने हेतु अपनाया जा सकता है।

उनके तर्क का मुख्य आधार दो बहुत अलग प्रक्रियाओं के बीच तुलना है: नई दवाओं का विकास और मशीन लर्निंग सिस्टम का निर्माण। चिकित्सा में, जब एक नई दवा खोजी जाती है, तो वैज्ञानिक अक्सर इसके पीछे के जैविक तंत्र (biological mechanism) को पूरी तरह से नहीं समझते हैं। उन्हें शायद यह सटीक रूप से नहीं पता होता कि अणु (molecule) शरीर की कोशिकाओं के साथ कैसे अंतःक्रिया करता है। इस सैद्धांतिक ज्ञान की कमी के बावजूद, दवा को काम करते हुए सिद्ध किया जा सकता है। यह 'क्लिनिकल ट्रांसलेशन' नामक प्रक्रिया के माध्यम से प्राप्त किया जाता है, जहाँ शोधकर्ता दवा का विभिन्न स्थितियों के तहत व्यवस्थित रूप से परीक्षण करते हैं। वे सही खुराक, उन विशिष्ट प्रकार के रोगियों जिन्हें इससे मदद मिलती है, और उन स्थितियों का पता लगाते हैं जहाँ यह विफल हो सकती है। यह जानकारी एकत्र करके, वे दवा की उपयोगिता का एक विस्तृत प्रोफाइल तैयार करते हैं, भले ही उसके अंतर्निहित "क्यों" का रहस्य बना रहे।

रट्टी और ज़ुकोव्स्की का तर्क है कि मशीन लर्निंग सिस्टम बिल्कुल ऐसी ही स्थिति का सामना करते हैं। ये सिस्टम अक्सर "एथियोरेटिक" (atheoretic) होते हैं, जिसका अर्थ है कि वे मानव-निर्मित सिद्धांतों पर निर्भर नहीं होते; वे "एसोसिएशनिस्ट" (associationist) होते हैं, जिसका अर्थ है कि वे कारण को समझे बिना डेटा बिंदुओं के बीच संबंध पाते हैं; और वे "अपारदर्शी" (opaque) होते हैं, जिसका अर्थ है कि उनका आंतरिक निर्णय लेने की प्रक्रिया छिपी हुई है। इस कारण, AI से खुद को समझाने की मांग करना अक्सर असंभव होता है। इस प्रकृति से लड़ने के बजाय, लेखक सुझाव देते हैं कि हमें चिकित्सा पद्धति की नकल करनी चाहिए। हमें AI से उसके तर्क को समझाने की मांग करना बंद कर देना चाहिए और यह मांगना शुरू करना चाहिए कि वह किन विशिष्ट परिस्थितियों में काम करता है।

इस विचार को ठोस बनाने के लिए, शोधकर्ताओं ने एक नया ढांचा विकसित किया जिसे वे "लर्निंग एनसेम्बल" (learning ensemble) कहते हैं। इसे एक विस्तृत निर्देश पुस्तिका के रूप में समझें जो केवल यह कहने से कहीं अधिक है कि "यह कंप्यूटर प्रोग्राम काम करता है।" चिकित्सा में, एक दवा केवल एक रसायन नहीं है; यह एक रसायन है जिसका उपयोग एक विशिष्ट तरीके से, विशिष्ट लोगों के समूह के लिए किया जाता है, और जिसके विशिष्ट दुष्प्रभाव होते हैं। इसी तरह, एक मशीन लर्निंग सिस्टम केवल कोड का एक टुकड़ा नहीं है; यह एक ऐसा सिस्टम है जो केवल तभी काम करता है जब कुछ शर्तें पूरी होती हैं। 'लर्निंग एनसेम्बल' सूचनाओं का एक संग्रह है जो उन शर्तों को परिभाषित करता है। इसमें उस डेटा का विवरण शामिल है जिसका उपयोग सिस्टम को प्रशिक्षित करने के लिए किया गया था, वह विशिष्ट हार्डवेयर जिस पर यह चलता है, परीक्षण किए गए रोगियों के प्रकार, और इसकी सफलता को मापने के लिए उपयोग किए गए सटीक मेट्रिक्स।

लेखक इस जानकारी को तीन मुख्य श्रेणियों में विभाजित करते हैं। पहला है "विश्वसनीयता की सीमाएं" (boundaries of reliability)। यह उस वातावरण का दस्तावेजीकरण करता है जिसमें सिस्टम बनाया गया था। यह सवाल पूछता है जैसे: क्या डेटा स्वच्छ और विविध था, या यह अव्यवस्थित और सीमित था? क्या सिस्टम का परीक्षण शक्तिशाली कंप्यूटरों पर किया गया था, या इसने बुनियादी हार्डवेयर के साथ संघर्ष किया? यदि डेटा केवल एक अस्पताल से आया था, तो सिस्टम दूसरे अस्पताल में, जहाँ अलग उपकरण हों, विफल हो सकता है। इन सीमाओं का दस्तावेजीकरण करके, उपयोगकर्ता जान सकते हैं कि सिस्टम कहाँ उपयोग करने के लिए सुरक्षित है और कहाँ यह टूट सकता है।

दूसरी श्रेणी है "प्रदर्शन" (performance)। यह केवल एक संख्या नहीं है जो कहती है कि सिस्टम 90% सटीक है। इसके बजाय, इसमें इस बात की विस्तृत रिपोर्ट की आवश्यकता होती है कि सिस्टम विभिन्न स्थितियों में कैसा प्रदर्शन करता है। उदाहरण के लिए, क्या यह युवा और वृद्ध रोगियों के लिए समान रूप से काम करता है, या अलग-अलग लिंग के लोगों के लिए? क्या यह तब अधिक गलतियाँ करता है जब डेटा थोड़ा अलग होता है जिससे इसे प्रशिक्षित किया गया था? शोधकर्ता इस बात पर जोर देते हैं कि यह जानना कि एक सिस्टम कहाँ विफल होता है, उतना ही महत्वपूर्ण है जितना कि यह जानना कि वह कहाँ सफल होता है। यदि कोई सिस्टम एक प्रकार के कैंसर के निदान में उत्कृष्ट है लेकिन दूसरे के मामले में बहुत खराब है, तो उस विशिष्ट विफलता को दर्ज किया जाना चाहिए ताकि डॉक्टर इसका गलत मामलों के लिए उपयोग न करें।

तीसरी श्रेणी "कार्यात्मक आयाम" (functional dimension) है। यह देखता है कि वास्तविक दुनिया में सिस्टम वास्तव में क्या करने के लिए बनाया गया है। एक सिस्टम गणितीय रूप से किसी संख्या की भविष्यवाणी करने में पूर्ण हो सकता है, लेकिन यदि वह नंबर डॉक्टर को बेहतर निर्णय लेने में मदद नहीं करता है, तो वह सिस्टम बेकार है। यह ढांचा यह जांचता है कि क्या सिस्टम का आउटपुट चिकित्सा टीम की जरूरतों से मेल खाता है। उदाहरण के लिए, यदि कोई सिस्टम यह तय करने में मदद करने के लिए डिज़ाइन किया गया है कि किसी मरीज को अस्पताल में भर्ती किया जाए या नहीं, तो इसे यह देखने के लिए परीक्षण किया जाना चाहिए कि क्या यह वास्तव में उस विशिष्ट निर्णय के साथ मदद करता है। यदि सिस्टम का उपयोग उस उद्देश्य के लिए किया जाता है जिसके लिए इसे डिज़ाइन नहीं किया गया था, तो यह अविश्वसनीय हो जाता है, चाहे यह अपने मूल कार्य को कितनी भी अच्छी तरह से क्यों न करे।

शोधकर्ता इस दृष्टिकोण की शक्ति को विफलता के वास्तविक उदाहरणों के माध्यम से स्पष्ट करते हैं। वे एक अध्ययन का उल्लेख करते हैं जहाँ एक आर्टिफिशियल इंटेलिजेंस सिस्टम ने मानव शरीर में बैक्टीरिया की आनुवंशिक संरचना को देखकर कैंसर का पता लगाने का दावा किया। शुरुआत में यह सिस्टम पूरी तरह से काम करता हुआ प्रतीत हुआ, जिसमें बहुत उच्च सटीकता थी। हालाँकि, जब शोधकर्ताओं ने डेटा की बारीकी से जाँच की, तो उन्होंने पाया कि सिस्टम ने वास्तव में कैंसर के बारे में कुछ भी नहीं सीखा था। इसने डेटा संग्रह प्रक्रिया में एक विशिष्ट त्रुटि को पहचान लिया था जो कैंसर के रोगियों में अधिक सामान्य थी। क्योंकि सिस्टम अपारदर्शी था, यह गलती छिपी रही। यदि शोधकर्ताओं ने "लर्निंग एनसेम्बल" ढांचे का उपयोग किया होता, तो उन्हें डेटा स्रोतों और परीक्षण की विशिष्ट स्थितियों का दस्तावेजीकरण करने के लिए बाध्य होना पड़ता। यह दस्तावेजीकरण प्रकट कर देता कि डेटा दोषपूर्ण था और सिस्टम एक वास्तविक जैविक संबंध के बजाय एक शॉर्टकट पर निर्भर था।

एक अन्य उदाहरण एक ऐसे सिस्टम का है जिसे यह अनुमान लगाने के लिए डिज़ाइन किया गया था कि निमोनिया वाले किन रोगियों के मरने का उच्च जोखिम है। सिस्टम ने सीखा कि अस्थमा वाले रोगी वास्तव में कम जोखिम वाले थे। यह विरोधाभासी लगा। इसका कारण यह था कि सिस्टम ने सीखा था कि अस्थमा वाले रोगियों को अस्पताल में बहुत आक्रामक और प्रभावी उपचार मिलता है, जिससे मृत्यु का जोखिम कम हो जाता है। हालाँकि, यदि कोई डॉक्टर इस सिस्टम का उपयोग यह तय करने के लिए करता कि किसे उपचार की आवश्यकता है, तो वे गलती से सोच सकते थे कि अस्थमा वाले रोगियों को देखभाल की आवश्यकता नहीं है। सिस्टम डेटा के आधार पर गणितीय रूप से सही था, लेकिन यह कार्यात्मक रूप से खतरनाक था क्योंकि यह चिकित्सा उपचार के संदर्भ को नहीं समझता था। लर्निंग एनसेम्बल फ्रेमवर्क ने इसे सिस्टम के उद्देश्य की स्पष्ट परिभाषा और वास्तविक चिकित्सा ज्ञान के विरुद्ध जांच करके पकड़ लिया होता।

लेखक सावधानीपूर्वक यह नोट करते हैं कि यह ढांचा इस रहस्य को हल नहीं करता कि मशीन लर्निंग कैसे काम करती है। सिस्टम अभी भी अपारदर्शी रहेंगे, और वे स्पष्ट सिद्धांतों के बजाय सांख्यिकीय पैटर्न पर ही निर्भर रहेंगे। 'लर्निंग एनसेम्बल' का मूल्य AI को पारदर्शी बनाने में नहीं है, बल्कि AI के उपयोग को पारदर्शी बनाने में है। यह ध्यान को "कंप्यूटर कैसे सोचता है?" से हटाकर "किन सटीक परिस्थितियों में हम कंप्यूटर के उत्तर पर भरोसा कर सकते हैं?" पर केंद्रित करता है। यह एक सूक्ष्म लेकिन महत्वपूर्ण बदलाव है। यह डॉक्टरों को शक्तिशाली उपकरणों का उपयोग करने की अनुमति देता है बिना उनके पीछे की जटिल गणित को समझे, बशर्ते उनके पास एक स्पष्ट मानचित्र हो कि वे उपकरण कहाँ सुरक्षित रूप से उपयोग किए जा सकते हैं।

यह दृष्टिकोण चिकित्सा में आर्टिफिशियल इंटेलिजेंस को विनियमित और मूल्यांकन करने का एक नया तरीका सुझाता है। हर एल्गोरिदम को व्याख्या योग्य बनाने की मांग करने के बजाय, नियामकों और अस्पतालों को प्रत्येक सिस्टम के लिए एक पूर्ण "लर्निंग एनसेबल" की मांग करनी चाहिए। यह दस्तावेज़ विश्वसनीयता के प्रमाण पत्र के रूप में कार्य करेगा, जिसमें डेटा, प्रदर्शन और इच्छित उपयोग का विवरण होगा। यदि कोई अस्पताल किसी सिस्टम का उपयोग करना चाहता है, तो वे एनसेबल की जांच कर सकते हैं कि क्या उनकी विशिष्ट स्थिति उन परिस्थितियों से मेल खाती है जहाँ सिस्टम को सफलतापूर्वक सिद्ध किया गया है। यदि स्थितियाँ मेल नहीं खाती हैं, तो सिस्टम का उपयोग नहीं किया जाना चाहिए। यह विधि वर्तमान तकनीक की सीमाओं को स्वीकार करती है और जोखिमों को प्रबंधित करने का एक मजबूत तरीका प्रदान करती है।

लेख समाप्त करते हुए कहता है कि यह ढांचा एक व्यावहारिक कदम है। यह दावा नहीं करता कि इसने आर्टिफिशियल इंटेलिजेंस की सभी समस्याओं को हल कर दिया है, न ही यह वादा करता है कि ये सिस्टम कभी गलती नहीं करेंगे। इसके बजाय, यह विश्वास बनाने का एक संरचित तरीका प्रदान करता है। मशीन लर्निंग सिस्टम को चिकित्सा उपचारों की तरह मानकर—जहाँ ध्यान आंतरिक तंत्र के बजाय उपयोग की स्थितियों पर होता है—हम स्वास्थ्य सेवा में इन तकनीकों को एकीकृत करने के लिए एक सुरक्षित और अधिक विश्वसनीय मार्ग बना सकते हैं। लक्ष्य ब्लैक बॉक्स को पारदर्शी बनाना नहीं है, बल्कि एक विश्वसनीय मार्गदर्शिका बनाना है जो हमें बताती है कि उसके अंदर देखना कब सुरक्षित है।