NAST: Improving Negation Handling in Medical Vision-Language Models through Negation-Aware Selective Training
यह शोध पत्र नेगेशन-अवेयर सिलेक्टिव ट्रेनिंग (NAST) को प्रस्तुत करता है, जो एक व्याख्यात्मकता-निर्देशित फाइन-ट्यूनिंग विधि है जो लेयर-वार अपडेट को चुनिंदा रूप से नियंत्रित करने के लिए कॉज़ल ट्रेसिंग प्रभावों का लाभ उठाती है, जिससे सामान्य संरेखण से समझौता किए बिना चिकित्सा विजन-लैंग्वेज मॉडलों की सकारात्मक और नकारात्मक नैदानिक कथनों के बीच अंतर करने की क्षमता में महत्वपूर्ण सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक चिकित्सा की उच्च-दांव वाली दुनिया में, डॉक्टर जो वे देखते हैं और जो वे पढ़ते हैं, उनके बीच एक नाजुक संतुलन पर निर्भर करते हैं। जब एक रेडियोलॉजिस्ट चेस्ट एक्स-रे की जांच करता है, तो वह केवल बीमारी की उपस्थिति को ही नहीं देख रहा होता; वह उसकी अनुपस्थिति पर भी समान रूप से ध्यान केंद्रित करता है। "निमोनिया नहीं है" (no pneumonia) वाला रिपोर्ट एक महत्वपूर्ण निष्कर्ष है जो मरीज को डिस्चार्ज के लिए क्लियर करता है, जबकि "निमोनिया मौजूद है" (pneumonia is present) तत्काल उपचार को सक्रिय करता है। दशकों से, कंप्यूटर इस अंतर को सीखने के लिए संघर्ष कर रहे हैं। मेडिकल इमेज को पढ़ने और टेक्स्ट समझने के लिए डिज़ाइन किए गए आर्टिफिशियल इंटेलिजेंस सिस्टम, जिन्हें विजन-लैंग्वेज मॉडल कहा जाता है, चित्रों को विवरणों के साथ मिलाने में उल्लेखनीय रूप से कुशल हो गए हैं। वे एक स्कैन को देख सकते हैं और कह सकते, "यह एक टूटी हुई हड्डी दिखाता है।" हालांकि, ये सिस्टम अक्सर तब लड़खड़ा जाते हैं जब भाषा यह बताने के लिए बदल जाती है कि क्या गायब है। वे बीमारी की अनुपस्थिति को इस तरह से देखते हैं जैसे कि वह उसकी उपस्थिति हो, एक ऐसा भ्रम जो खतरनाक चिकित्सा त्रुटियों का कारण बन सकता है। निषेध (negation)—वह भाषाई उपकरण जिसका उपयोग हम यह कहने के लिए करते हैं कि कुछ वहां नहीं है—को समझने में यह कमी मशीनों के लिए एक जिद्दी अंध बिंदु बनी हुई है, भले ही वे अन्य कार्यों में स्मार्ट हो गई हों।
शोधकर्ताओं की एक टीम ने इस विशिष्ट समस्या को हल करने के लक्ष्य के साथ काम शुरू किया, जो इस अहसास से प्रेरित थी कि वर्तमान मेडिकल एआई सिस्टम सकारात्मक कथनों के प्रति व्यवस्थित रूप से पक्षपाती हैं। उन्होंने पाया कि जब इन मॉडलों को एक चेस्ट एक्स-रे दिखाया जाता है और उन्हें एक ऐसे विवरण को चुनने के लिए कहा जाता है जो कहता है "कोई निमोनिया नहीं है" (no pneumonia) और एक जो कहता है "स्वस्थ फेफड़े" (healthy lungs), तो वे अक्सर यह पहचानने में विफल रहते हैं कि क्लिनिकल संदर्भ में इन दोनों वाक्यांशों का अर्थ बिल्कुल एक ही है। इसके बजाय, मॉडल अक्सर निषेध को अनदेखा कर देते हैं और केवल दृश्य विशेषताओं के आधार पर अनुमान लगाते हैं, यह मानकर कि चूंकि छवि एक स्वस्थ फेफड़े जैसी दिखती है, इसलिए टेक्स्ट सकारात्मक होना चाहिए। यह सिद्ध करने के लिए कि यह एक वास्तविक दोष था न कि केवल एक रैंडम त्रुटि, शोधकर्ताओं ने MedNeg-Bench नामक एक विशेष परीक्षण क्षेत्र बनाया। इस बेंचमार्क ने एआई के सामने ऐसे प्रश्नों के जोड़े प्रस्तुत किए जो हर मामले में समान थे सिवाय एक महत्वपूर्ण विवरण के: एक प्रश्न में "कोई एडिमा नहीं" (no edema) जैसा नकारात्मक वाक्यांश था, जबकि उसके साथी प्रश्न में "सामान्य तरल स्तर" (normal fluid levels) जैसा सकारात्मक वाक्यांश था। परिणाम स्पष्ट थे। मौजूदा मेडिकल एआई मॉडलों की एक विस्तृत श्रृंखला में, सिस्टम नकारात्मक प्रश्नों पर काफी खराब प्रदर्शन करते दिखे, जिससे यह पता चला कि मेडिकल इमेज पर "नहीं" (not) की अवधारणा को संसाधित करने में उनकी गहरी अक्षमता है।
समस्या की पहचान करने के बाद, शोधकर्ताओं को समझ आया कि केवल एआई को नकारात्मक वाक्यों के अधिक उदाहरण खिलाना पर्याप्त नहीं होगा। चिकित्सा की जटिल भाषा में, निषेध केवल किसी चीज़ के अनुपस्थित होने के बारे में नहीं होता; यह अक्सर इस बारे में होता है कि वह कहाँ अनुपस्थित है या कितना गंभीर है। एक रिपोर्ट कह सकती है "कोई बड़ा प्लूरल इफ्यूजन नहीं" (no large pleural effusion), जिसका अर्थ है कि एक छोटा सा हो सकता है, या "दाएं फेफड़े में कंसोलिडेशन नहीं है" (no consolidation in the right lung), जिससे बाएं फेफड़े की संभावना बनी रहती है। एआई को यह सूक्ष्मता सिखाने के लिए, टीम ने MedNeg-FT नामक एक नया प्रशिक्षण डेटासेट बनाया। इस डेटासेट का निर्माण संरचित चिकित्सा तथ्यों को लेकर और उन्हें व्यवस्थित रूप से बदलकर "क्या होगा अगर" (what if) परिदृश्यों को बनाने के माध्यम से किया गया था। उन्होंने एक पुष्ट तथ्य लिया, जैसे कि "बाएं फेफड़े में गंभीर एडिमा" (severe edema in the left lung), और विभिन्नताएं उत्पन्न कीं जिन्होंने स्थान, गंभीरता या स्थिति के अस्तित्व को बदल दिया, जिससे लाखों युग्मित उदाहरण बने जहाँ एकमात्र अंतर एक एकल विशेषता का था। इसने एआई को यह सीखने में मदद की कि एक शब्द को "गंभीर" (severe) से "हल्का" (mild) या "मौजूद" (present) से "अनुपस्थित" (absent) में बदलने से मौलिक रूप से अर्थ बदल जाता है, भले ही तस्वीर समान क्यों न दिखे।
हालांकि, अध्ययन का मुख्य नवाचार केवल डेटा नहीं था, बल्कि वह तरीका था जिसका उपयोग एआई को उससे सीखने के लिए सिखाने में किया गया था। शोधकर्ताओं ने Negation-Aware Selective Training, या NAST नामक एक तकनीक विकसित की। पूरे एआई मस्तिष्क को सब कुछ फिर से सीखने के लिए मजबूर करने के बजाय, उन्होंने 'कॉज़ल ट्रेसिंग' (causal tracing) की एक विधि का उपयोग किया ताकि यह पता लगाया जा सके कि मॉडल के आंतरिक प्रसंस्करण का कौन सा हिस्सा निषेध को समझने के लिए जिम्मेदार था। उन्होंने पाया कि "नहीं" या "नॉट" को संसाधित करने की क्षमता मॉडल के टेक्स्ट-प्रोसेसिंग नेटवर्क के विशिष्ट शुरुआती परतों (layers) में केंद्रित थी, न कि पूरे नेटवर्क में समान रूप से फैली हुई थी। इस अंतर्दृष्टि का उपयोग करते हुए, उन्होंने प्रशिक्षण प्रक्रिया को उन विशिष्ट परतों पर ध्यान केंद्रित करने के लिए समायोजित किया। यह एक ऐसे छात्र के समान है जो गणित की किसी विशेष प्रकार की समस्या में संघर्ष कर रहा है; पूरी किताब को फिर से पढ़ने के बजाय, एक ट्यूटर उस विशिष्ट अध्याय की पहचान करता है जहाँ भ्रम है और वहीं अभ्यास पर ध्यान केंद्रित करता है। एआई का ध्यान उन परतों की ओर निर्देशित करके जो निषेध के लिए सबसे महत्वपूर्ण थीं, शोधकर्ता सकारात्मक कथनों को समझने की इसकी क्षमता को बाधित किए बिना नकारात्मक कथनों के प्रति इसकी संवेदनशीलता में सुधार कर सके।
इस लक्षित दृष्टिकोण के परिणाम प्रभावशाली थे। जब नए बेंचमार्क पर परीक्षण किया गया, तो NAST के साथ प्रशिक्षित एआई मॉडल सकारात्मक और नकारात्मक कथनों के बीच अंतर करने में नाटकीय सुधार दिखाते हैं। "निमोनिया मौजूद है" बनाम "कोई निमोनिया नहीं है" को समझने के बीच का अंतर काफी कम हो गया, जो यह दर्शाता है कि मॉडलों ने अंततः उस भाषाई ऑपरेटर का सम्मान करना सीख लिया है जो अर्थ को उलट देता है। महत्वपूर्ण रूप से, यह सुधार उनके सामान्य प्रदर्शन की कीमत पर नहीं आया। मॉडल पहले की तरह ही सकारात्मक विवरणों के साथ छवियों को मिलाने में उतने ही अच्छे रहे, जिससे सिद्ध हुआ कि सीखना सटीक था और इससे उनके समग्र ज्ञान में गिरावट नहीं आई। अध्ययन ने यह भी प्रदर्शित किया कि यह तरीका विभिन्न प्रकार के मेडिकल एआई आर्किटेक्चर पर काम करता है, जो बताता है कि इन मशीनों द्वारा निषेध को संसाधित करने का तरीका एक साझा विशेषता है जिसे सही मार्गदर्शन से ठीक किया जा सकता है।
यह कार्य स्वास्थ्य सेवा में आर्टिफिशियल इंटेलिजेंस के बारे में एक मौलिक सत्य को उजागर करता है: गहरे तर्क संबंधी दोषों को ठीक करने के लिए केवल डेटा को बढ़ाना पर्याप्त नहीं है। शोधकर्ताओं ने दिखाया कि केवल एक प्रशिक्षण सेट में नकारात्मक वाक्यों के अधिक उदाहरण जोड़ने से समस्या उतनी प्रभावी ढंग से हल नहीं हुई जितनी कि यह समझने से होती है कि मॉडल सूचना को कैसे संसाधित करता है। एआई के भीतर कारण-और-प्रभाव संबंधों को मैप करने वाली तकनीक का उपयोग करके, वे सिस्टम के तर्क में एक सर्जिकल सुधार करने में सक्षम रहे। निष्कर्ष यह है कि एआई के लिए चिकित्सा में वास्तव में सुरक्षित और विश्वसनीय होने के लिए, इसे मानव भाषा के सूक्ष्म, महत्वपूर्ण अंतरों को संभालने में सक्षम होना चाहिए, जिसमें एक एकल शब्द की निदान को उलटने की शक्ति भी शामिल है। अध्ययन यह निष्कर्ष निकालता है कि इन आंतरिक संकेतों का लाभ उठाकर, हम मॉडलों को अधिक मजबूत और भरोसेमंद बनाने के लिए निर्देशित कर सकते हैं, यह सुनिश्चित करते हुए कि जब कोई मशीन कहती है कि कोई बीमारी अनुपस्थित है, तो वह वास्तव में समझती है कि उसका क्या अर्थ है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।