💻 computer science

Diffusion MRI Transformer with a Diffusion Space Rotary Positional Embedding (D-RoPE)

यह शोध पत्र एक डिफ्यूजन एमआरआई ट्रांसफार्मर प्रस्तुत करता है जो एक नवीन डिफ्यूजन स्पेस रोटरी पोजीशनल एम्बेडिंग (D-RoPE) से सुसज्जित है जो dMRI डेटा में स्थानिक और दिशात्मक निर्भरताओं को प्रभावी ढंग से कैप्चर करता है, जिससे स्व-पर्यवेक्षित प्रीट्रेनिंग के माध्यम से मजबूत, हस्तांतरणीय निरूपण सक्षम होते हैं जो माइल्ड कॉग्निटिव इम्पेयरमेंट वर्गीकरण और कॉग्निटिव स्कोर प्रेडिक्शन जैसे डाउनस्ट्रीम क्लिनिकल कार्यों में बेसलाइन से बेहतर प्रदर्शन करते हैं।

मूल लेखक: Gustavo Chau Loo Kung, Mohammad Abbasi, Camila Blank, Juze Zhang, Alan Q. Wang, Sophie Ostmeier, Akshay Chaudhari, Kilian Pohl, Ehsan Adeli

प्रकाशित 2026-03-30

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Gustavo Chau Loo Kung, Mohammad Abbasi, Camila Blank, Juze Zhang, Alan Q. Wang, Sophie Ostmeier, Akshay Chaudhari, Kilian Pohl, Ehsan Adeli

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपका मस्तिष्क एक हलचल भरा शहर है। डिफ्यूजन एमआरआई (dMRI) एक विशेष सैटेलाइट की तरह है जो केवल शहर की इमारतों की फोटो नहीं लेता; बल्कि यह ट्रैक करता है कि "पानी का ट्रैफिक" (पानी के अणु) सड़कों पर कैसे बह रहा है। पानी की गति को देखकर, डॉक्टर यह बता सकते हैं कि सड़कें (तंत्रिका तंतु/नर्व फाइबर्स) चिकनी और स्वस्थ हैं या वे जाम और क्षतिग्रस्त हैं, जो उन्हें अल्जाइमर या माइल्ड कॉग्निटिव इम्पेयरमेंट जैसी बीमारियों का निदान करने में मदद करता है।

हालाँकि, इस डेटा को देखना कंप्यूटर के लिए अविश्वसनीय रूप से कठिन है। इसका कारण यहाँ दिया गया है:

यह एक 3D पहेली है: एक सामान्य एमआरआई एक 3D तस्वीर है। लेकिन एक dMRI स्कैन वास्तव में कई 3D तस्वीरें हैं जो एक साथ रखी गई हैं, जिन्हें अलग-अलग कोणों (angles) से लिया गया है (जैसे किसी मूर्ति की हर तरफ से फोटो लेना)।
"प्रोटोकॉल" की समस्या: अलग-अलग अस्पताल इन तस्वीरों को अलग-अलग तरीके से लेते हैं। कोई 30 कोणों से ले सकता है, तो कोई 60। कुछ "मजबूत" चुंबकीय धक्कों का उपयोग करते हैं। यह एक छात्र को बिल्ली पहचानने के लिए सिखाने जैसा है जहाँ एक शिक्षक उसे 10 फोटो दिखाता है और दूसरा 50, और वे सभी अलग-अलग कैमरों से ली गई होती हैं।

पुराने AI के साथ समस्या

पिछले AI मॉडल ऐसे छात्रों की तरह थे जिन्होंने केवल एक विशिष्ट कैमरा एंगल से बिल्लियों को पहचानना सीखा था। यदि आप उन्हें एक नए एंगल से या एक अलग कैमरे से फोटो दिखाते, तो वे भ्रमित हो जाते। वे अलग-अलग कोणों या चुंबकीय धक्के की "शक्ति" के बीच के संबंध को नहीं समझ पाते थे।

नया समाधान: "डिफ्यूजन ट्रांसफॉर्मर"

स्टैनफोर्ड के शोधकर्ताओं ने एक नया AI मॉडल (ट्रांसफॉर्मर) बनाया है जो एक सुपर-स्मार्ट जासूस की तरह काम करता है जो केवल व्यक्तिगत फोटो को नहीं, बल्कि पूरे शहर के मानचित्र को समझता है।

यहाँ वे दो "सुपरपावर्स" हैं जो उन्होंने इस जासूस को दीं:

1. "D-RoPE" कम्पास (गुप्त नुस्खा)

मानक AI में, मॉडल केवल यह जानता है कि "टोकन A, टोकन B के बगल में है।" लेकिन dMRI में, "बगल में" होना जटिल है। क्या यह स्थान (बाएँ/दाएँ) में बगल में है? या दिशा (उत्तर/दक्षिण) में बगल में है?

टीम ने D-RoPE (डिफ्यूजन स्पेस रोटरी पोजीशनल एम्बेडिंग) का आविष्कार किया।

उपमा: कल्पना कीजिए कि आप एक अंधेरे कमरे में टॉर्च पकड़े हुए हैं। मानक AI केवल यह जानता है कि टॉर्च आपके हाथ में है। D-RoPE एक जादुई कम्पास की तरह है जो AI को बताता है कि टॉर्च 3D स्पेस में कहाँ इशारा कर रही है और कमरे में अन्य सभी टॉर्चों के सापेक्ष उसकी रोशनी की चमक कितनी तेज है।
यह क्यों मायने रखता है: यह AI को यह समझने में सक्षम बनाता है कि "उत्तर" दिशा से ली गई फोटो का "दक्षिण" दिशा वाली फोटो से संबंध है, भले ही अस्पताल ने 60 के बजाय केवल 10 फोटो ली हों। यह मॉडल को किसी भी अस्पताल के स्कैनिंग प्रोटोकॉल के अनुकूल बनाने के लिए लचीला बनाता है।

2. "मास्क्ड ऑटोएनकोडर" (खाली स्थान भरने का खेल)

AI डॉक्टरों की मदद करने से पहले, उसे मस्तिष्क के शहर के नियमों को सीखना होगा। शोधकर्ताओं ने मास्क्ड ऑटोएनकोडिंग नामक तकनीक का उपयोग किया।

उपमा: कल्पना कीजिए कि आप AI को एक पहेली दिखाते हैं जिसमें 75% टुकड़े गायब हैं। AI को शेष टुकड़ों को देखना होगा और अनुमान लगाना होगा कि गायब हिस्से कैसे दिखते होंगे।
ट्विस्ट: उन्होंने केवल यादृच्छिक (random) टुकड़े नहीं छिपाए। कभी-कभी उन्होंने पूरी "दिशाएं" ही छिपा दीं (जैसे उत्तर की ओर जाने वाली सभी फोटो छिपा देना)। इसने AI को यह सीखने के लिए मजबूर किया कि विभिन्न कोण एक-दूसरे से कैसे संबंधित हैं, न कि केवल चित्र को रटने के लिए।

जब उन्होंने इसका परीक्षण किया तो क्या हुआ?

उन्होंने इस नए जासूस का परीक्षण वास्तविक दुनिया के कार्यों पर किया:

आयु का अनुमान लगाना: AI ने मस्तिष्क की "सड़कों" को देखा और व्यक्ति की आयु का अनुमान लगाया। यह बहुत सटीक था, लगभग उन मॉडलों के बराबर जिन्हें भारी मात्रा में डेटा से शुरू से प्रशिक्षित किया गया था।
माइल्ड कॉग्निटिव इम्पेयरमेंट (MCI) का पता लगाना: यह अल्जाइमर के लिए "प्रारंभिक चेतावनी" चरण है।
- परिणाम: नया मॉडल, अपने "मस्तिष्क ज्ञान" के प्री-ट्रेंड होने के कारण, पुराने मानक तरीकों की तुलना में MCI का पता लगाने में 6% अधिक सटीक था।
- जादू: यहाँ तक कि जब उन्होंने मॉडल को सीखने के लिए बहुत कम डेटा दिया (फाइन-ट्यूनिंग), तब भी इसने उन मॉडलों को हरा दिया जिन्हें शून्य से सब कुछ सीखना था। यह एक ऐसे छात्र की तरह है जिसने पूरी लाइब्रेरी की किताबें पढ़ी हैं (प्री-ट्रेनिंग) और उसे किसी विशिष्ट परीक्षा में सफल होने के लिए केवल एक त्वरित रिवीजन की आवश्यकता थी।

यह एक बड़ी बात क्यों है

एक मॉडल जो सबको नियंत्रित करे: अस्पतालों को अब अपने स्कैनर को मानकीकृत (standardize) करने की आवश्यकता नहीं है। यह मॉडल एक ऐसे मशीन से डेटा ले सकता है जो 10 दिशाओं में फोटो लेती है या 100 दिशाओं में, और फिर भी यह पूरी तरह से काम करेगा।
बेहतर स्वास्थ्य परिणाम: मस्तिष्क में परिवर्तनों का पहले और अधिक सटीकता से पता लगाकर, डॉक्टर अल्जाइमर जैसी बीमारियों का इलाज इससे पहले कर सकते हैं जब नुकसान अपूरणीय (irreversible) हो जाए।
नींव: यह ब्रेन इमेजिंग के लिए एक "फाउंडेशन मॉडल" की दिशा में एक कदम है—एक सार्वभौमिक ब्रेन AI जो ट्यूमर खोजने से लेकर स्ट्रोक के बाद रिकवरी को ट्रैक करने तक, भविष्य के किसी भी चिकित्सा कार्य के लिए अनुकूलित किया जा सकता है।

संक्षेप में: शोधकर्ताओं ने एक ऐसा AI बनाया है जिसने मस्तिष्क के जल प्रवाह की जटिल, बहु-कोण वाली भाषा को "पढ़ना" सीख लिया है। इसे यह समझाने के बाद कि स्कैन की ज्यामिति (geometry) क्या है (D-RoPE) और इसे गायब हिस्सों को भरने का अभ्यास कराकर, उन्होंने एक ऐसा उपकरण बनाया है जो हमारे पास मौजूद किसी भी चीज़ की तुलना में अधिक स्मार्ट, अधिक लचीला और मस्तिष्क रोग के शुरुआती संकेतों को पकड़ने में बेहतर है।

यहाँ शोध पत्र "Diffusion MRI Transformer with a Diffusion Space Rotary Positional Embedding (D-RoPE)" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

डिफ्यूजन मैग्नेटिक रेजोनेंस इमेजिंग (dMRI) मस्तिष्क की सूक्ष्म संरचना और श्वेत द्रव्य (white matter) की अखंडता के अध्ययन के लिए महत्वपूर्ण है। हालाँकि, सामान्य उद्देश्य वाले डीप लर्निंग रिप्रजेंटेशन विकसित करना कई अनूठी चुनौतियों के कारण सीमित रहा है:

जटिल डेटा संरचना: dMRI डेटा में कई 3D ब्रेन वॉल्यूम शामिल होते हैं, जहाँ प्रत्येक वॉल्यूम एक विशिष्ट डिफ्यूजन ग्रेडिएंट दिशा और स्ट्रेंथ (b-value) के अनुरूप होता है। यह स्थानिक निर्देशांकों $(x, y, z)$ और डिफ्यूजन स्पेस निर्देशांकों (गोलीय निर्देशांक $\rho, \theta, \phi$ ) दोनों पर निर्भरता बनाता है।
प्रोटोकॉल परिवर्तनशीलता: क्लिनिकल अधिग्रहण (acquisitions) डिफ्यूजन दिशाओं और b-values की संख्या में काफी भिन्न होते हैं। पारंपरिक मॉडल अक्सर बिना रीसैंपलिंग या अपसैंपलिंग के इन विविध प्रोटोकॉल के बीच सामान्यीकरण करने में संघर्ष करते हैं।
अपर्याप्त मौजूदा आर्किटेक्चर: मानक कनवल्शनल न्यूरल नेटवर्क (CNNs) और विजन ट्रांसफॉर्मर (ViTs) डिफ्यूजन सिग्नल में निहित संयुक्त स्थानिक और दिशात्मक निर्भरताओं को पकड़ने के लिए अच्छी तरह से उपयुक्त नहीं हैं। मौजूदा पोजीशनल एम्बेडिंग्स (एब्सोल्यूट या मानक रिलेटिव) विभिन्न डिफ्यूजन दिशाओं और b-values के बीच ज्यामितीय संबंधों को प्रभावी ढंग से मॉडल करने में विफल रहते हैं।

2. कार्यप्रणाली (Methodology)

लेखक एक डिफ्यूजन ट्रांसफॉर्मर आर्किटेक्चर प्रस्तावित करते हैं जिसे मजबूत, हस्तांतरणीय (transferable) रिप्रजेंटेशन सीखने के लिए मास्क्ड ऑटोएनकोडिंग (MAE) के माध्यम से प्रशिक्षित किया गया है।

A. मॉडल आर्किटेक्चर

इनपुट प्रोसेसिंग: इनपुट में $(N_x, N_y, N_z)$ आकार के $N_d$ डिफ्यूजन वॉल्यूम होते हैं। इन्हें 3D पैच में विभाजित किया जाता है और टोकन में लीनियर किया जाता है।
हाइब्रिड पोजीशनल एम्बेडिंग्स:
- एब्सोल्यूट पोजीशनल एनकोडिंग: यह स्थानिक जानकारी (3D साइनुसोइडल फंक्शन के माध्यम से एनकोड की गई) और डिफ्यूजन दिशा की जानकारी (गोलीय निर्देशांकों पर एक लर्नबल लीनियर लेयर के माध्यम से एनकोड की गई) को जोड़ता है।
- अल्टरनेटिंग अटेंशन (Alternating Attention): वीडियो ट्रांसफॉर्मर से प्रेरित होकर, अटेंशन ब्लॉक्स स्थानिक आयामों और डिफ्यूजन आयामों में बारी-बारी से ध्यान (attend) देते हैं, जिससे मॉडल दोनों डोमेन में निर्भरताओं को कैप्चर कर पाता है।
D-RoPE (डिफ्यूजन स्पेस रोटरी पोजीशनल एम्बेडिंग):
- अवधारणा: डिफ्यूजन स्पेस की गोलाकार ज्यामिति (spherical geometry) के लिए विशेष रूप से डिज़ाइन किया गया रोटरी पोजीशनल एम्बेडिंग (RoPE) का एक सामान्यीकरण।
- तंत्र: मानक RoPE में रैखिक ऑर्डिनल दूरी ( $m-n$ ) का उपयोग करने के बजाय, D-RoPE दो डिफ्यूजन अधिग्रहणों $(b_m, v_m)$ और $(b_n, v_n)$ के बीच एक ज्यामितीय दूरी $D(m, n)$ को परिभाषित करता है।
- दूरी का सूत्र:
  $D(m, n) = \sqrt{\gamma(b_m - b_n)^2 + \arccos^2(|v_m \cdot v_n|)}$
  जहाँ $\gamma$ b-वैल्यू के अंतर को वेट देता है, और $\arccos$ टर्म यूनिट स्फीयर पर b-वेक्टर्स के बीच कोणीय दूरी को मापता है। एब्सोल्यूट वैल्यू 180° समरूपता (विपरीत ग्रेडिएंट्स को समान मानकर) सुनिश्चित करती है।
- प्रभाव: यह अटेंशन मैकेनिज्म को उनके भौतिक डिफ्यूजन गुणों के आधार पर टोकन के बीच सापेक्ष रोटेशन को एनकोड करने की अनुमति देता है, जिससे मॉडल विभिन्न दिशाओं और b-वैल्यू की संख्या को संभाल सकता है।

B. प्रीट्रेनिंग रणनीति

उद्देश्य: मास्क्ड ऑटोएनकोडिंग (MAE)। टोकन का एक उच्च अनुपात मास्क किया जाता है, और मॉडल डिकोडर का उपयोग करके मूल वॉल्यूम को पुनर्गठित (reconstruct) करता है।
मास्किंग रणनीतियाँ: लेखकों ने तीन रणनीतियों का परीक्षण किया:
1. स्पेशियल (Spatial): 75% स्थानिक पैच को मास्क करना।
2. डिफ्यूजन (Diffusion): संपूर्ण डिफ्यूजन दिशाओं को 50% मास्क करना।
3. अल्टरनेटिंग (Alternating): प्रति एपोक (epoch), स्थानिक और डिफ्यूजन मास्किंग के बीच स्विच करना।
लॉस फंक्शन: मास्क किए गए और अनमास्क्ड पैच के लिए MSE का एक भारित (weighted) संयोजन, जिसमें $\tau$ वेट को 0.05 से 0.95 तक बढ़ाया जाता है।

3. मुख्य योगदान (Key Contributions)

नया आर्किटेक्चर: एक ट्रांसफॉर्मर-आधारित मॉडल जो रीसैंपलिंग के बिना मनमाने डिफ्यूजन अधिग्रहणों (बदलती दिशाओं और b-वैल्यू) को प्रोसेस करने में सक्षम है।
D-RoPE: एक डिफ्यूजन-स्पेस-विशिष्ट रोटरी पोजीशनल एम्बेडिंग का परिचय, जो डिफ्यूजन दिशाओं और b-वैल्यू के बीच परस्पर निर्भरता को मॉडल करता है, जो मानक RoPE की ज्यामितीय सीमाओं को संबोधित करता है।
व्यापक मूल्यांकन: कई डाउनस्ट्रीम कार्यों (आयु प्रतिगमन, लिंग वर्गीकरण, MCI वर्गीकरण, ADAS भविष्यवाणी) पर व्यापक परीक्षण, जो यह प्रदर्शित करते हैं कि प्रीट्रेन किए गए रिप्रजेंटेशन बेसलाइन्स की तुलना में बेहतर हैं, विशेष रूप से कम-डेटा वाले परिदृश्यों में।

4. परिणाम (Results)

मॉडल को HCP Young Adult डेटासेट पर प्रीट्रेन किया गया था और HCP Development, HCP Aging, और ADNI डेटासेट्स पर मूल्यांकित किया गया।

पुनर्गठन गुणवत्ता (Reconstruction Quality):
- D-RoPE और Alternating Masking के संयोजन ने सर्वोत्तम पुनर्निर्माण मेट्रिक्स (उच्चतम PSNR/SSIM, निम्नतम FID) दिए।
- मात्रात्मक विश्लेषण ने दिखाया कि D-RoPE ने बिना D-RoPE वाले मॉडलों की तुलना में सामान्य तीव्रता और दिशाओं के बीच संरचनात्मक संबंधों को पकड़ने की मॉडल की क्षमता में महत्वपूर्ण सुधार किया।
- पुनर्गठित वॉल्यूम ने व्युत्पन्न सूक्ष्म संरचनात्मक मेट्रिक्स (फ्रैक्शनल एनिसोट्रॉपी और मीन डिफ्यूज़िविटी) में उच्च निष्ठा बनाए रखी, जिसमें व्हाइट मैटर ट्रैक्ट्स में त्रुटि दर कम रही।
डाउनस्ट्रीम टास्क प्रदर्शन:
- आयु भविष्यवाणी (Age Prediction): फाइन-ट्यून किए गए प्रीट्रेन मॉडल ने $\rho$ का सहसंबंध गुणांक 0.94 प्राप्त किया, जो 3D ResNet और मानक ViTs जैसे पूर्णतः पर्यवेक्षित (fully supervised) बेसलाइन्स से बेहतर है।
- लिंग वर्गीकरण (Sex Classification): फ्रोजन फीचर्स के साथ एक लीनियर हेड ने 74.6% सटीकता प्राप्त की, जो कई पूर्णतः पर्यवेक्षित बेसलाइन्स से बेहतर है।
- MCI वर्गीकरण (ADNI): फ्रोजन लेटेंट फीचर्स के साथ एक MLP हेड ने सर्वश्रेष्ठ बैलेंस्ड एक्यूरेसी (64.7%) प्राप्त की, जो हैंडक्राफ्टेड फीचर्स और पूर्णतः पर्यवेक्षित मॉडल्स से बेहतर है।
- ADAS-Cog भविष्यवाणी: इस पद्धति ने उच्चतम सहसंबंध गुणांक (0.38) और निम्नतम MSE प्राप्त किया, जो कच्चे dMRI इनपुट के साथ एक मानक ViT से काफी बेहतर है।
सामान्यीकरण (Generalization): मॉडल ने प्रदर्शन में गिरावट के बिना अलग-अलग अधिग्रहण प्रोटोकॉल (प्रत्येक विषय के लिए 12 दिशाओं को रैंडमली सैंपल करना) को सफलतापूर्वक संभाला, जो इसकी प्रोटोकॉल विषमता (heterogeneity) के प्रति मजबूती को सिद्ध करता है।

5. महत्व और भविष्य का प्रभाव (Significance and Future Impact)

फाउंडेशन मॉडल क्षमता: यह कार्य dMRI के लिए एक "फाउंडेशन मॉडल" की ओर एक महत्वपूर्ण कदम है, जो विविध क्लिनिकल प्रोटोकॉल और कोहॉर्ट्स के बीच डेटा को सामंजस्यपूर्ण बनाने में सक्षम है।
डेटा दक्षता: प्रीट्रेन किए गए रिप्रजेंटेशन सीमित डाउनस्ट्रीम प्रशिक्षण डेटा (जैसे, ADNI में) के साथ भी अत्यधिक प्रभावी हैं, जो सुझाव देते हैं कि मॉडल ने पूरे नेटवर्क के कार्य-विशिष्ट फाइन-ट्यूनिंग की आवश्यकता के बिना सार्थक सूक्ष्म संरचनात्मक पैटर्न को आत्मसात कर लिया है।
क्लिनिकल उपयोगिता: सीधे कच्चे dMRI वॉल्यूम से संज्ञानात्मक गिरावट (MCI) और संज्ञानात्मक स्कोर (ADAS) की भविष्यवाणी करने की क्षमता न्यूरोडीजेनेरेटिव रोगों के प्रारंभिक निदान और निगरानी के लिए एक शक्तिशाली उपकरण प्रदान करती है।
सीमाएँ: उल्लेखित प्राथमिक सीमा D-RoPE की कम्प्यूटेशनल लागत है, जो मानक RoPE के $O(lh) $की तुलना में$ O(lh^2)$ है, क्योंकि डिफ्यूजन स्पेस डिस्टेंस मैट्रिक्स नॉन-फैक्टराइज़ेबल (non-factorizable) प्रकृति का है।

निष्कर्षतः, यह शोध पत्र सफलतापूर्वक dMRI डेटा की ज्यामितीय जटिलता और आधुनिक ट्रांसफॉर्मर आर्किटेक्चर के बीच के अंतर को पाटता है, जो विविध क्लिनिकल सेटिंग्स में मस्तिष्क की सूक्ष्म संरचना के विश्लेषण के लिए एक मजबूत, हस्तांतरणीय ढांचा प्रदान करता है।