← नवीनतम पेपर
🤖 AI

A Geometric Multimodal Foundation Model Integrating Bp-MRI and Clinical Reports in Prostate Cancer Classification

यह शोध पत्र MFM-Geom को प्रस्तुत करता है, जो एक ज्यामितीय मल्टीमॉडल फाउंडेशन मॉडल है जो बेहतर और सुदृढ़ प्रोस्टेट कैंसर वर्गीकरण प्राप्त करने के लिए रिमानियन डीप लर्निंग का उपयोग करके बायो-पैरामीट्रिक एमआरआई और नैदानिक रिपोर्टों को एकीकृत करता है, जिससे प्रशिक्षण डेटा की आवश्यकताओं में काफी कमी आती है।

मूल लेखक: Juan A. Olmos, Antoine Manzanera, Fabio Martínez

प्रकाशित 2026-07-29
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Juan A. Olmos, Antoine Manzanera, Fabio Martínez

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जासूस हैं जो एक रहस्य को सुलझाने की कोशिश कर रहे हैं, लेकिन आपके पास केवल आधे सुराग हैं। चिकित्सा की दुनिया में, विशेष रूप से प्रोस्टेट कैंसर की खोज करते समय, डॉक्टर अक्सर दो मुख्य प्रकार के साक्ष्यों पर भरोसा करते हैं: प्रोस्टेट का एक विशेष प्रकार का 3D चित्र (जिसे bp-MRI कहा जाता है) और एक लिखित रिपोर्ट जिसमें रोगी का इतिहास और रक्त परीक्षण के नंबर होते हैं। लंबे समय तक, डॉक्टरों की मदद करने के लिए डिज़ाइन किए गए कंप्यूटर प्रोग्राम ऐसे जासूसों की तरह रहे हैं जो केवल चित्रों को देखते हैं, लिखित नोट्स को अनदेखा कर देते हैं। वे केवल छवि को घूरकर उत्तर का अनुमान लगाने की कोशिश करते हैं, जो कि मुश्किल हो सकता है क्योंकि चिकित्सा चित्र जटिल होते हैं और अध्ययन करने के लिए हमेशा हजारों उदाहरण उपलब्ध नहीं होते। यहीं पर "फाउंडेशन मॉडल्स" (Foundation Models) काम आते हैं—ये विशाल, पूर्व-प्रशिक्षित AI मस्तिष्क हैं जिन्होंने पहले से ही बहुत कुछ सीखा है, जैसे कि एक छात्र जिसने किसी विशिष्ट परीक्षा से पहले लाइब्रेरी की हर किताब पढ़ ली हो। मुख्य सवाल जो शोधकर्ता पूछ रहे हैं वह यह है: क्या हम एक स्मार्ट जासूस बना सकते हैं जो चित्रों और नोट्स दोनों को एक साथ देखता है, जिसमें एक विशेष प्रकार के गणित का उपयोग किया गया हो जो यह समझता है कि विभिन्न सुराग ज्यामितीय रूप से एक दूसरे में कैसे फिट बैठते हैं?

यह शोध पत्र एक नए जासूस MFM-Geom को पेश करता है। केवल अंत में एक चित्र और एक टेक्स्ट रिपोर्ट को आपस में जोड़ने के बजाय, यह मॉडल "ज्यामितीय शिक्षण" (geometric learning) नामक एक चतुर तकनीक का उपयोग करता है। सोचिए कि कंप्यूटर की चित्र और टेक्स्ट की समझ दो अलग-अलग भाषाएं है। आमतौर पर, AI उन्हें एक एकल, सपाट संख्या सूची में अनुवाद करने की कोशिश करता है। लेकिन MFM-Geom इन सुरागों को एक घुमावदार स्थान (एक "रीमानियन मैनिफोल्ड" या Riemannian manifold) में एक आकार की तरह मानता है, जहाँ चित्र के सुरागों और टेक्स्ट के सुरागों के बीच की दूरी और कोण उतने ही महत्वपूर्ण हैं जितने कि स्वयं सुराग। इस घुमावदार, ज्यामितीय दृष्टिकोण का उपयोग करके, मॉडल चित्र के MRI और क्लिनिकल रिपोर्ट के बीच छिपे हुए संबंधों को खोज सकता है, भले ही उसने सीखने के लिए बहुत कम उदाहरण देखे हों।

शोधकर्ताओं ने प्रोस्टेट कैंसर के मामलों के एक डेटासेट पर इस नए जासूस का परीक्षण किया। उन्होंने पाया कि MFM-Geom, महत्वपूर्ण कैंसर का पता लगाने में अविश्वसनीय रूप से कुशल था, भले ही उन्होंने इसे सीखने के लिए सामान्य डेटा का केवल 10% ही दिया हो। इस "छोटे डेटा" वाले परिदृश्य में, MFM-Geom ने 90.67 का AUC-PR प्राप्त किया, जो कि पुराने तरीकों से काफी बेहतर था जो केवल छवियों को देखते थे या मानक अनुवाद तकनीकों का उपयोग करते थे। उदाहरण के लिए, इसने इस विशिष्ट मीट्रिक में सर्वश्रेष्ठ इमेज-ओनली मॉडल को 8.3% से पीछे छोड़ दिया। शोधकर्ताओं ने यह देखने के लिए कि क्या यह सामान्य हो सकता है, मॉडल का परीक्षण डेटा के एक पूरी तरह से अलग सेट (एक बाहरी डेटासेट जिसे PROSTAT158 कहा जाता है) पर भी किया, और इसने 90.6 का मजबूत AUC-PR बनाए रखा, जिससे सिद्ध हुआ कि यह ज्यामितीय दृष्टिकोण मजबूत है।

यह शोध पत्र स्पष्ट रूप से इस विचार का खंडन करता है कि केवल अंत में इमेज और टेक्स्ट भविष्यवाणियों को जोड़ना (एक "डिसीजन-लेवल फ्यूजन") सबसे अच्छा तरीका है। उनका सुझाव है कि यह पुराना तरीका इमेज के विवरण और क्लिनिकल वेरिएबल्स के बीच के जटिल, शुरुआती संबंधों को चूक जाता है। इसके बजाय, वे प्रस्तावित करते हैं कि इन सुरागों को मॉडल के मस्तिष्क के भीतर गहराई से उनकी ज्यामितिक संरचना का उपयोग करके बुना जाना चाहिए। वे यह भी दिखाते हैं कि सामान्य छवियों (जैसे ImageNet) पर प्री-ट्रेन किया गया मॉडल उपयोग करना उतना प्रभावी नहीं है जितना कि बायोमेडिकल डेटा (BiomedCLIP) पर प्री-ट्रेन किया गया मॉडल, जो यह सुझाव देता है कि पहले से सीखी गई "चिकित्सा शब्दावली" अत्यंत महत्वपूर्ण है।

अपने प्रयोगों में, टीम ने MFM-Geom की तुलना कई अन्य सेटअपों के साथ की: एक मानक इमेज-ओनली मॉडल, एक मॉडल जो इमेज पैचेस का औसत निकालता है, और एक मॉडल जो समान इमेज स्ट्रक्चर का उपयोग करता है लेकिन गैर-चिकित्सा डेटा पर प्री-ट्रेन किया गया है। परिणामों ने दिखाया कि ज्यामितिक हेड (वह हिस्सा जो घुमावदार गणित को संभालता है) ने लगातार अन्य मॉडलों को पछाड़ दिया, विशेष रूप से कैंसर के मध्यम स्तरों से जुड़े कठिन मामलों में। लेखकों ने "अटेंशन मैप्स" (attention maps) का भी अवलोकन किया, जो हीटमैप की तरह होते हैं और दिखाते हैं कि AI किस चीज़ पर ध्यान केंद्रित कर रहा है। उन्होंने पाया कि मॉडल का इमेज वाला हिस्सा वास्तविक लीशन्स (lesions) पर ध्यान केंद्रित कर रहा था, जबकि टेक्स्ट वाले हिस्से ने प्रोस्टेट वॉल्यूम और विशिष्ट ज़ोन जैसे प्रमुख वेरिएबल्स पर ध्यान केंद्रित किया, जिससे पुष्टि हुई कि मॉडल सही चीजें सीख रहा है। हालांकि मॉडल अत्यधिक प्रभावी है, लेखक नोट करते हैं कि इसे चलाने में थोड़ा अधिक समय लगता है (एक सरल मॉडल के 7.6 ms की तुलना में लगभग 14.3 ms प्रति सैंपल) और मॉडल की आंतरिक "सोच प्रक्रिया" को पूरी तरह से समझना अभी भी कठिन हो सकता है, हालांकि अटेंशन मैप्स इसकी एक झलक प्रदान करते हैं। अंततः, यह कार्य बताता है कि चिकित्सा डेटा को एक सपाट संख्या सूची के बजाय एक ज्यामितिक आकार के रूप में मानना कैंसर का पता लगाने के तरीके को बेहतर बनाने का एक शक्तिशाली तरीका हो सकता है, विशेष रूप से तब जब डेटा की कमी हो।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →