Explaining BiomedCLIP with Weighted Banzhaf Interactions Supported by Tree-Gram Parsing
यह शोध पत्र ParseFIxLIP प्रस्तुत करता है, जो एक नवीन व्याख्या ढांचा (explanation framework) है जो खंडित टेक्स्ट टोकन को चिकित्सकीय रूप से सुसंगत चिकित्सा अवधारणाओं में समूहित करने के लिए 'ट्री-ग्राम पार्सिंग' (Tree-Gram Parsing) को 'वेटेड बान्ज़ाफ इंटरैक्शंस' (Weighted Banzhaf interactions) के साथ एकीकृत करता है, जिससे क्लिनिकल परिवेश में BiomedCLIP के निर्णय लेने की व्याख्यात्मकता और सुदृढ़ता में वृद्धि होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक सुपर-स्मार्ट रोबोट को तस्वीरें दिखाकर और उसे कहानियाँ पढ़कर सुनाकर दुनिया को समझना सिखाने की कोशिश कर रहे हैं। यह विज़न-लैंग्वेज मॉडल्स (VLMs) की दुनिया है, जो आर्टिफिशियल इंटेलिजेंस की एक शाखा है जो एक डिजिटल जासूस की तरह काम करती है, जो एक छवि में जो दिखता है उसे उसके कैप्शन में लिखे शब्दों से जोड़ती है। चिकित्सा के क्षेत्र में, इन रोबोटों को एक्स-रे और सीटी स्कैन देखने और डॉक्टरों की रिपोर्ट पढ़ने के लिए प्रशिक्षित किया जा रहा है ताकि मरीजों के निदान में मदद मिल सके। लेकिन यहाँ एक पेंच है: ये रोबॉक्स अक्सर "ब्लैक बॉक्स" होते हैं। वे एक उत्तर तो देते हैं, लेकिन यह नहीं समझाते कि क्यों। यदि कोई रोबोट कहता है, "इस एक्स-रे में टूटी हुई हड्डी दिख रही है," तो डॉक्टर को यह जानने की ज़रूरत है कि इमेज के किस हिस्से और रिपोर्ट के किन विशिष्ट शब्दों ने उसे इस निष्कर्ष तक पहुँचाया। स्पष्ट स्पष्टीकरण के बिना, डॉक्टर जीवन-मृत्यु की स्थितियों में रोबोट पर भरोसा नहीं कर सकते।
इस रहस्य को सुलझाने के लिए, वैज्ञानिक गेम थ्योरी (Game Theory) नामक एक गणितीय उपकरण का उपयोग करते हैं। AI की निर्णय लेने की प्रक्रिया को एक टीम गेम के रूप में सोचें जहाँ सूचना का हर एक टुकड़ा (छवि में एक पिक्सेल या शब्द का एक छोटा सा हिस्सा) एक "खिलाड़ी" है। यह खेल पूछता है: "यदि हम इस खिलाड़ी को हटा दें, तो क्या टीम का स्कोर गिर जाता है?" इस खेल को बार-बार खेलकर, हम पता लगा सकते हैं कि कौन से खिलाड़ी MVP (सबसे मूल्यवान खिलाड़ी) हैं और कौन केवल बेंच पर बैठे हैं। हालाँकि, चिकित्सा में इन खेलों को खेलने के तरीके में एक बड़ी समस्या है। AI शब्दों को "हार्ट" (दिल) या "फ्रैक्चर" (भंग) जैसे पूरे इकाइयों के रूप में नहीं पढ़ता है। इसके बजाय, वह उन्हें छोटे, अर्थहीन टुकड़ों में काट देता है (जैसे "हार्ट" को "ह" और "आर्ट" में तोड़ना)। यह एक जिग्सॉ पहेली को हल करने की कोशिश करने जैसा है जहाँ किसी ने आपके शुरू करने से पहले ही टुकड़ों को धूल में बदल दिया हो। परिणाम एक अराजक, भ्रमित करने वाला स्पष्टीकरण होता है जिसे कोई भी इंसान समझ नहीं सकता।
यहीं पर जकुब रिमार्स्की और उनकी टीम का एक नया अध्ययन आता है। वे इस समस्या से निपटने के लिए काम कर रहे हैं कि कैसे इन AI स्पष्टीकरणों को डॉक्टरों के लिए स्पष्ट और भरोसेमंद बनाया जाए। वे एक चतुर नई विधि पेश करते हैं जिसे ParseFIxLIP कहा जाता है। AI को उन छोटे, टूटे हुए शब्द के टुकड़ों के साथ खेल खेलने देने के बजाय, वे एक भाषाई मानचित्र (जिसे डिपेंडेंसी पार्सर कहा जाता है) का उपयोग करते हैं ताकि खेल शुरू होने से पहले ही उन टुकड़ों को सार्थक हिस्सों में वापस जोड़ा जा सके। कल्पना कीजिए कि उन धूल के कणों को वापस पूरे शब्दों में जोड़ने और फिर उन शब्दों को "सैडल एम्बोलस" (saddle embolus) या "राइट किडनी" (right kidney) जैसे पूर्ण वाक्यांशों में जोड़ने की प्रक्रिया। ऐसा करने से, खेल बहुत सरल हो जाता है और उत्तर बहुत अधिक स्पष्ट हो जाते हैं।
टीम ने अपने विचार का परीक्षण एक मेडिकल AI जिसे BiomedCLIP कहा जाता है, और रेडियोलॉजी छवियों और रिपोर्ट के एक डेटासेट जिसे ROCOv2 कहा जाता है, पर किया। उन्होंने अपने नए "जुड़े हुए" तरीके की तुलना पुराने "टूटे हुए टुकड़ों" वाले तरीके से की। परिणाम चौंकाने वाले थे। जब मेडिकल रिपोर्ट छोटी थीं, तो दोनों तरीके ठीक काम कर रहे थे, लेकिन नया तरीका अधिक स्थिर था। हालाँकि, जब रिपोर्ट लंबी और जटिल (30 शब्दों से अधिक) हो गईं, तो पुराना तरीका पूरी तरह से विफल हो गया। इसने एक साथ बहुत सारे छोटे टुकड़ों को संभालने की कोशिश की, जिससे "डायमेंशनलिटी का अभिशाप" (curse of dimensionality) पैदा हुआ, जहाँ गणित इतना जटिल हो गया कि स्पष्टीकरण बेकार हो गया (यहाँ तक कि नकारात्मक स्कोर भी दिखा, जिसका अर्थ है कि स्पष्टीकरण रैंडम अनुमान लगाने से भी बदतर था)। इसके विपरीत, नए ParseFIxLIP ने अपना धैर्य बनाए रखा। शब्दों को स्मार्ट, सिमेंटिक इकाइयों में समूहित करके (जैसे "सैडल एम्बोलस" को चार टूटे हुए हिस्सों के बजाय एक एकल खिलाड़ी के रूप में मानकर), इसने खेल की जटिलता को कम कर दिया। इसने AI को लंबी, जटिल मेडिकल रिपोर्टों के लिए भी एक स्पष्ट, सांख्यिकीय रूप से मजबूत स्पष्टीकरण देने में सक्षम बनाया।
शोधकर्ताओं ने यह देखने के लिए कुछ मज़ेदार "स्ट्रेस टेस्ट" भी किए कि AI वास्तव में कैसे सोचता है। उन्होंने पाया कि AI आश्चर्यजनक रूप से नाजुक है। यदि आप एक मेडिकल इमेज को उल्टा घुमा देते हैं, तो AI भ्रमित हो जाता है और शरीर रचना (anatomy) को पहचानना बंद कर देता है, भले ही आकार वही हो। यह वास्तविक चिकित्सा स्थिति पर ध्यान केंद्रित करने के बजाय लाल तीरों या इमेज पर टेक्स्ट लेबल जैसे स्पष्ट संकेतों पर बहुत अधिक ध्यान केंद्रित करके "चीटिंग" करने की प्रवृत्ति भी रखता है। ParseFIxLIP इस विचित्रता को स्पष्ट रूप से प्रकट करने में सक्षम था, यह दिखाते हुए कि AI कहाँ देख रहा था और वह क्या अनदेखा कर रहा था।
संक्षेप में, यह पेपर सुझाव देता है कि शब्दों को समूहों में जोड़ने के लिए भाषा की संरचना का उपयोग करके, हम AI को खुद को समझाने के लिए पूछने से पहले बेहतर, अधिक विश्वसनीय उत्तर प्राप्त कर सकते हैं। यह केवल गणित को बेहतर नहीं बनाता है; यह AI के तर्क को इस तरह दिखाता है जैसे कि वह एक मानव डॉक्टर के सोचने के तरीके के समान हो—अर्थात बिखरे हुए टुकड़ों के बजाय पूर्ण अवधारणाओं को समझना। हालाँकि यह तरीका हर समस्या के लिए जादुई समाधान नहीं है (यह अभी भी अंतर्निहित भाषा उपकरणों पर निर्भर करता है, जो कभी-कभी गलतियाँ कर सकते हैं), फिर भी यह हमें यह समझने के लिए एक बहुत स्पष्ट खिड़की प्रदान करता है कि ये शक्तिशाली मेडिकल AI अपने निर्णय कैसे ले रहे हैं, जो वास्तविक अस्पतालों में उन पर भरोसा करने की दिशा में एक बड़ा कदम है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।