💻 computer science

MOLAR: Learning Multimodal Molecular Representations from Noisy Labels

MOLAR एक शोर-जागरूक (noise-aware) ढांचा है जो शोर वाले लेबल अवलोकनों से स्वच्छ-गुण अनुमान (clean-property inference) को अलग करके मजबूत मल्टीमॉडल आणविक निरूपण सीखता है, जिससे दूषित एनोटेशन वाले प्रशिक्षण डेटा के होने पर भी विश्वसनीय गुण भविष्यवाणी और व्याख्या योग्य निदान सक्षम होता है।

मूल लेखक: Yingxu Wang, Kunyu Zhang, Nan Yin, Yu Li, Eran Segal

प्रकाशित 2026-06-19

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yingxu Wang, Kunyu Zhang, Nan Yin, Yu Li, Eran Segal

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक कंप्यूटर को विभिन्न प्रकार के अणुओं (molecules) को पहचानना सिखाने की कोशिश कर रहे हैं, जैसे कि कोई शेफ केवल उन्हें देखकर सामग्रियों (ingredients) को पहचानने का हुनर सीखता है। आमतौर पर, आप कंप्यूटर को अणु की एक तस्वीर (एक ग्राफ) और उसका विवरण (एक टेक्स्ट) देते हैं। फिर कंप्यूटर उसके गुणों का अनुमान लगाने की कोशिश करता है, जैसे कि "क्या यह जहरीला है?" या "क्या यह किसी बीमारी को ठीक करेगा?"

समस्या यह है कि आप कंप्यूटर को जो "उत्तर कुंजी" (answer key) देते हैं, वह अक्सर अव्यवस्थित होती है। वास्तविक दुनिया में, वैज्ञानिक इन उत्तरों को लैब परीक्षणों से प्राप्त करते हैं जो असंगत हो सकते हैं, या ऐसे डेटाबेस से जिनमें गलतियाँ (typos) हो सकती हैं, या स्वचालित प्रणालियों से जो गलतियाँ कर सकती हैं। इसे ही पेपर में "नॉइज़ी लेबल्स" (noisy labels) कहा गया है।

यदि आप बस कंप्यूटर को कहते हैं, "इस उत्तर कुंजी पर भरोसा करो," तो वह गलतियों को भी याद कर लेगा। यह एक हानिरहित अणु को जहरीला मान सकता है क्योंकि लैब टेस्ट में कोई गड़बड़ी हुई थी। यह एक ऐसे छात्र की तरह है जो गलतियों से भरी पाठ्यपुस्तक से पढ़ाई कर रहा है; वे अभ्यास प्रश्नों (practice questions) में तो अच्छे अंक प्राप्त करेंगे लेकिन वास्तविक परीक्षा में विफल हो जाएंगे।

समाधान: MOLAR

लेखकों ने एक नई प्रणाली बनाई जिसे MOLAR (Learning Multimodal Molecular Representations from Noisy Labels) कहा जाता है। अव्यवस्थित उत्तर कुंजी पर आँख मूंदकर भरोसा करने के बजाय, MOLAR एक स्मार्ट जासूस की तरह काम करता है जो सत्य (truth) को रिपोर्ट (report) से अलग करता है।

यह कैसे काम करता है, इसके सरल उदाहरण यहाँ दिए गए हैं:

1. "दो गवाहों" की रणनीति
MOLAR अणु को दो तरीकों से देखता है:

ग्राफ गवाह (The Graph Witness): यह अणु की संरचना (परमाणु कैसे जुड़े हैं) को देखता है।
टेक्स्ट गवाह (The Text Witness): यह विवरण और रासायनिक भाषा को पढ़ता है।
आमतौरता पर, ये दोनों गवाह सहमत होते हैं। लेकिन यदि उत्तर कुंजी कहती है "जहरीला" और ग्राफ गवाह कहता है "सुरक्षित" जबकि टेक्स्ट गवाह कहता है "सुरक्षित", तो एक सामान्य कंप्यूटर भ्रमित हो जाता है। MOLAR समझ जाता है कि यदि दोनों गवाह "सुरक्षित" पर सहमत हैं, लेकिन उत्तर कुंजी "जहरीला" कहती है, तो उत्तर कुंजी ही झूठ बोल रही है।

2. "साफ कमरा" बनाम "शोर वाला कमरा"
अधिकांश कंप्यूटर अपनी भविष्यवाणियों को सीधे अव्यवस्थित उत्तर कुंजी के अनुसार ढालने की कोशिश करते हैं। MOLAR कुछ अलग करता है:

यह एक "साफ कमरा" (Clean Room) बनाता है जहाँ यह ग्राफ और टेक्स्ट गवाहों से मिले साक्ष्यों के आधार पर यह पता लगाने की कोशिश करता है कि अणु वास्तव में क्या है।
फिर इसके पास एक "शोर वाला कमरा" (Noisy Room) होता है जहाँ यह अव्यवस्थित उत्तर कुंजी को देखता है।
महत्वपूर्ण बात यह है कि यह दोनों कमरों के बीच एक अनुवादक (जिसे लेबल-ऑब्जर्वेशन चैनल कहा जाता है) बनाता है। यह अनुवादक सीखता है कि "साफ कमरे" का सत्य कैसे "शोर वाले कमरे" की गलतियों में बदल जाता है। यह पूछता है, "यदि सत्य 'सुरक्षित' है, तो लैब रिपोर्ट कितनी बार गलती से 'जहरीला' कहती है?"

3. "ट्रस्ट स्कोर" (विश्वास स्कोर)
चूँकि MOLAR समझता है कि शोर (noise) कैसे काम करता है, इसलिए यह डेटासेट के हर एक उत्तर के लिए एक ट्रस्ट स्कोर असाइन कर सकता है।

यदि ग्राफ और टेक्स्ट गवाह सहमत हैं, और उत्तर कुंजी उनसे मेल खाती है, तो ट्रस्ट स्कोर अधिक होता है।
यदि गवाह एक बात पर सहमत हैं, लेकिन उत्तर कुंजी कुछ बिल्कुल अलग कहती है, तो ट्रस्ट स्कोर गिर जाता है। सिस्टम उस विशिष्ट उत्तर कुंजी प्रविष्टि को अनदेसरा करना सीख जाता है और इसके बजाय गवाहों से मिले साक्ष्यों पर भरोसा करता है।

उन्होंने क्या पाया

शोधकर्ताओं ने MOLAR का परीक्षण दो प्रकार की चुनौतियों पर किया:

वास्तविक दुनिया की अव्यवस्था: उन्होंने एक विशाल डेटासेट का उपयोग किया जहाँ "ट्रेनिंग" लेबल त्वरित, शोर वाले लैब स्क्रीन्स से थे, और "टेस्ट" लेबल सावधानीपूर्वक किए गए महंगे पुष्टिकरण परीक्षणों से थे। MOLAR अन्य तरीकों की तुलना में सावधानीपूर्वक किए गए परीक्षण परिणामों की भविष्यवाणी करने में बहुत बेहतर था, जिससे सिद्ध हुआ कि इसने शोर वाली गलतियों के बजाय वास्तविक रसायन विज्ञान को सीखा।
नकली अव्यवस्था: उन्होंने साफ डेटासेट लिए और जानबूझकर उनके 30% उत्तर बदल दिए (कंप्यूटर को बताया कि एक सुरक्षित अणु जहरीला है, और इसके विपरीत)। इस भारी गड़बड़ी के बावजूद, MOLER अच्छा प्रदर्शन करता रहा, जबकि अन्य तरीके विफल हो गए।

मुख्य निष्कर्ष

MOLAR केवल खराब डेटा को अनदेखा नहीं करता है; यह यह समझने की कोशिश करता है कि डेटा खराब क्यों है। "सत्य" (अणु वास्तव में क्या है) को "अवलोकन" (लैब रिपोर्ट क्या कहती है) से अलग करके, और संरचना (ग्राफ) एवं विवरण (टेक्स्ट) दोनों से मिले साक्ष्यों को तौलकर, यह प्रभावी ढंग से सीख सकता है भले ही शिक्षक अविश्वसनीय हो।

पेपर यह निष्कर्ष निकालता है कि यह दृष्टिकोण न केवल बेहतर भविष्यवाणी करता है, बल्कि वैज्ञानिकों को यह देखने का एक तरीका भी देता है कि कौन से डेटा बिंदु संभवतः गलत हैं और अणु का कौन सा हिस्सा (ग्राफ) या विवरण (टेक्स्ट) सबसे विश्वसनीय साक्ष्य प्रदान कर रहा है।

तकनीकी सारांश: MOLAR – शोर वाले लेबल से मल्टीमॉडल मॉलिक्यूलर रिप्रजेंटेशन सीखना

समस्या विवरण
आणविक गुण भविष्यवाणी (Molecular property prediction) अक्सर हाई-थ्रूपुट परख (assays), क्यूरेटेड डेटाबेस, या कमजोर एनोटेशन पाइपलाइनों से प्राप्त लेबल पर निर्भर करती है, जो अक्सर स्वच्छ जैविक ग्राउंड ट्रुथ के बजाय शोर युक्त (noisy) होते हैं। मल्टीमॉडल मॉलिक्यूलर रिप्रजेंटेशन लर्निंग में, जहाँ मॉडल ग्राफ-आधारित संरचनात्मक डेटा (परमाणु, बंध, टोपोलॉजी) को टेक्स्ट-आधारित सिमेंटिक डेटा (SMILES, विवरण, डिस्क्रिप्टर) के साथ एकीकृत करते हैं, वहाँ इन शोर वाले रिकॉर्ड किए गए लेबलों को विश्वसनीय पर्यवेक्षण (supervision) मानने से मॉडल दूषित अवलोकनों को याद कर सकते हैं। यह समस्या मल्टीमॉडल सेटिंग्स में और अधिक बढ़ जाती है: मानक फ्यूजन या अलाइनमेंट रणनीतियाँ लेबल-प्रेरित त्रुटियों को एक मोडैलिटी से दूसरी में प्रसारित कर सकती हैं, और ग्राफ-टेक्स्ट असहमति को लेबल भ्रष्टाचार, एक मोडैलिटी में अपर्याप्त साक्ष्य, या वास्तविक अनिश्चितता के संकेतक के रूप में व्याख्या करने के बजाय अलाइनमेंट विफलता के रूप में गलत समझा जा सकता है। मौजूदा शोर-लेबल शिक्षण विधियाँ मुख्य रूप से यूनिमोडल वर्गीकरण को संबोधित करती हैं और स्पष्ट रूप से लेटेंट (latent) आणविक गुणों को शोर वाले रिकॉर्ड किए गए लेबलों से अलग नहीं करती हैं, न ही वे अविश्वसनीय पर्यवेक्षण के तहत मोडैलिटी-विशिष्ट साक्ष्य को संभालने के लिए कोई सिद्धांतगत ढांचा प्रदान करती हैं।

कार्यप्रणाली: MOLAR फ्रेमवर्क
लेखकों ने MOLAR का प्रस्ताव दिया है, जो एक नॉइज़-अवेयर (noise-aware) फ्रेमवर्क है जिसे रिकॉर्ड किए गए लेबल अवलोकन से लेटेंट क्लीन-प्रॉपर्टी इन्फरेंस को अलग करने के लिए डिज़ाइन किया गया है। यह फ्रेमवर्क चार प्रमुख मॉड्यूल के माध्यम से संचालित होता है:

मॉलिक्यूलर एविडेंस इनिशियलाइजेशन (Molecular Evidence Initialization):
- ग्राफ व्यू: एक मॉलिक्यूलर ग्राफ $G_i$ को एक ग्राफ एनकोडर (जैसे GIN) का उपयोग करके $z^g_i$ में एनकोड किया जाता है।
- टेक्स्ट व्यू: एक टेक्स्ट-व्युत्पन्न व्यू $T_i$ (जैसे SMILES, विवरण) को एक टेक्स्ट एनकोडर (जैसे BiomedBERT) का उपयोग करके $z^t_i$ में एनकोड किया जाता है।
रेसिड्यूअल नेचुरल-पैरामीटर एविडेंस कंपोजिशन (Residual Natural-Parameter Evidence Composition):
फीचर्स को जोड़ने या अलाइनमेंट को मजबूर करने के बजाय, MOLAR ग्राफ और टेक्स्ट व्यू को एक लेटेंट क्लीन कैटेगोरिकल डिस्ट्रीब्यूशन के लिए रेसिड्यूअल एविडेंस के स्रोतों के रूप में मानता है।
- लर्न करने योग्य फंक्शन (Learnable functions) रिप्रजेंटेशन को क्लास-वाइज रेसिड्यूअल नेचुरल पैरामीटर्स में मैप करते हैं: $u^g_i = C(\phi_g(z^g_i))$ और $u^t_i = C(\phi_t(z^t_i))$ , जहाँ $C$ एक सेंट्रिंग ऑपरेटर है जो सामान्य एडिटिव ऑफसेट्स को हटा देता है।
- एक बेस वेक्टर $b$ क्लास-लेवल प्रायर्स (priors) का प्रतिनिधित्व करता है।
- क्लीन लॉजिट्स (clean logits) को एडिटिव कंपोजिशन द्वारा बनाया जाता है: $\ell_i = C(b + u^g_i + u^t_i)$ ।
- क्लीन पोस्टीरियर $p_i$ को सॉफ्टमैक्स नॉर्मलाइजेशन के माध्यम से प्राप्त किया जाता है। यह फॉर्मूलेशन मॉडल को प्रत्येक मोडैलिटी ( $M^g_i, M^t_i$ ) के सापेक्ष योगदान को मापने और मोडैलिटी-विशिष्ट साक्ष्य की व्याख्या करने की अनुमति देता है।
कैटेगोरिकल लेबल-ऑब्जर्वेशन चैनल (Categorical Label-Observation Channel):
शोर वाले रिकॉर्ड किए गए लेबलों $\tilde{y}_i$ का उपयोग बिना उन्हें ग्राउंड ट्रुथ माने करने के लिए, MOLAR एक प्रोबेबिलिस्टिक चैनल $O$ पेश करता है जो लेटेंट क्लीन क्लास $y_i$ को रिकॉर्ड किए गए लेबल $\tilde{y}_i$ में मैप करता है।
- $O_{ac} = p(\tilde{y}_i = a | y_i = c)$ ।
- चैनल को डायगोनल-डोमिनेंट (diagonal-dominant) होने के लिए पैरामीटराइज किया गया है (जो लेबल ट्रांजिशन की अनुमति देता है लेकिन सही मैपिंग को प्राथमिकता देता है) और इसे प्रशिक्षण के दौरान सीखा जाता है।
- रिकॉर्ड किए गए लेबल का डिस्ट्रीब्यूशन $\tilde{p}_i$ कंप्यूट किया जाता है: $\tilde{p}_i = O p_i$ । मॉडल को $\tilde{y}_i$ के प्रति सीधे फिट होने के बजाय इस डिस्ट्रीब्यूशन के तहत रिकॉर्ड किए गए लेबल की संभावना (likelihood) को अधिकतम करने के लिए प्रशिक्षित किया जाता है।
- यह चैनल स्वाभाविक रूप से एक पोस्टीरियर रिलायबिलिटी स्कोर $\rho_i$ प्रदान करता है, जो इस बात की संभावना है कि रिकॉर्ड किया गया लेबल लेटेंट क्लीन क्लास से मेल खाता है।
नॉइज़-अवेयर लर्निंग ऑब्जेक्टिव (Noise-Aware Learning Objective):
कुल लॉस फंक्शन तीन टर्म्स को जोड़ता है:
- रिकॉर्डेड-लेबल लाइकलीहुड ( $L_{sup}$ ): मार्जिनलाइज्ड डिस्ट्रीब्यूशन $\tilde{p}_i$ के आधार पर रिकॉर्ड किए गए लेबल का नेगेटिव लॉग-लाइकेलीहुड।
- एविडेंस-कॉन्फ्लिक्ट रेगुलराइजेशन ( $L_{conf}$ ): ग्राफ और टेक्स्ट व्यू के बीच विरोधाभासी साक्ष्य को दंडित करता है, जिसे पोस्टीरियर रिलायबिलिटी $\rho_i$ द्वारा भारित (weighted) किया जाता है। उच्च-विश्वास वाले विरोधाभासों को तब अधिक दंडित किया जाता है जब लेबल विश्वसनीय होने की संभावना होती है।
- परटर्बेशन-कंसिस्टेंसी रेगुलराइजेशन ( $L_{pert}$ ): यह सुनिश्चित करने के लिए कि क्लीन पोस्टीरियर लेबल-प्रिजर्विंग मॉलिक्यूलर परटर्बेशन्स (जैसे फीचर मास्किंग) के तहत स्थिर रहे, क्लीन पोस्टीरियर को स्थिर रहने के लिए प्रोत्साहित करता है, जिससे शोर के विरुद्ध मजबूती (robustness) सुनिश्चित होती है।

प्रमुख योगदान

समस्या का सूत्रीकरण (Problem Formulation): पेपर शोर वाले लेबल वाले मल्टीमॉडल मॉलिक्यूलर लर्निंग में तीन मुख्य चुनौतियों की पहचान करता है और उन्हें औपचारिक रूप देता है: (a) लेटेंट प्रॉपर्टीज को शोर वाले लेबलों से अलग करना, (b) एक लेबल-ऑब्जर्वेशन चैनल के माध्यम से शोर वाले लेबलों का उपयोग करना, और (c) अविश्वसनीय पर्यवेक्षण के तहत ग्राफ-टेक्स्ट असहमति की व्याख्या करना।
फ्रेमवर्क डिज़ाइन: MOLAR एक प्रोबेबिलिस्टिक फ्रेमवर्क पेश करता है जो एक क्लीन पोस्टीरियर के लिए रेसिड्यूअल एविडेंस के रूप में मल्टीमॉडल व्यूज को कंपोज़ करता है और इसे एक लर्न करने योग्य ऑब्जर्वेशन चैनल के माध्यम से शोर वाले लेबलों से जोड़ता है, जिससे सीधे दूषित लक्ष्यों (targets) को फिट करने से बचा जा सकता है।
व्याख्यात्मकता (Interpretability): फ्रेमवर्क डायग्नोस्टिक टूल्स प्रदान करता है, जिसमें पोस्टीरियर रिलायबिलिटी स्कोर ( $\rho_i$ ) और मोडैलिटी-विशिष्ट साक्ष्य योगदान शामिल हैं, जो लेबल विश्वसनीयता और मोडैलिटी उपयोगिता की व्याख्या करने की अनुमति देते हैं।
अनुभवजन्य सत्यापन (Empirical Validation): व्यापक प्रयोगों से सिद्ध होता है कि MOLAR स्वाभाविक रूप से शोर वाले बेंचमार्क (MF-PCBA-Noisy7) और नियंत्रित लेबल-फ्लिपिंग बेंचमार्क (MoleculeNet) दोनों पर स्टेट-ऑफ-द-आर्ट प्रदर्शन करता है।

प्रायोगिक परिणाम

डेटासेट: मूल्यांकन MF-PCBA-Noisy7 (सात कार्य जिनमें स्वाभाविक रूप से शोर वाले सिंगल-डोज़ स्क्रीनिंग लेबल और स्वच्छ डोज़-रिस्पॉन्स कन्फर्मेटरी लेबल हैं) और चार MoleculeNet बेंचमार्क (HIV, BACE, BBBP, ClinTox) पर नियंत्रित सिमेट्रिक लेबल फ्लिपिंग (70% तक) के साथ किया गया।
प्रदर्शन: MOLAR ने चार श्रेणियों में प्रतिनिधि बेसलाइन्स को लगातार पछाड़ दिया: सुपरवाइज्ड ग्राफ न्यूरल नेटवर्क (GCN, GAT, GIN), मॉलिक्यूलर प्रीट्रेनिंग मेथड्स (GraphCL, GROVE, Uni-Mol), मल्टीमॉडल फ्यूजन मेथड्स (Tri-SGD, MMSG, ProtoMol), और रोबस्ट/नॉइजी-लेबल लर्निंग मेथड्स (OMG, SPORT, RTGNN)।
- MF-PCBA-Noisy7 पर, MOLAR ने उच्चतम औसत ROC-AUC (71.30%) प्राप्त किया, जो गंभीर लेबल विसंगति वाले कार्यों पर महत्वपूर्ण लाभ दिखाता है।
- 30% लेबल फ्लिपिंग के साथ MoleculeNet पर, MOLAR ने सभी बेसलाइन्स की तुलना में बेहतर प्रदर्शन (78.45% औसत ROC-AUC) बनाए रखा।
- रोबस्टनेस विश्लेषण ने दिखाया कि जबकि बेसलाइन प्रदर्शन शोर के स्तर बढ़ने के साथ तेजी से गिर गया, MOLAR ने स्थिर सटीकता बनाए रखी, विशेष रूप से BBBP और ClinTox पर।
एब्लेशन स्टडीज (Ablation Studies): कॉन्फ्लिक्ट रेगुलराइजेशन, परटर्बेशन कंसिस्टेंसी, या किसी भी मोडैलिटी (ग्राफ/टेक्स्ट) को हटाने से प्रदर्शन में गिरावट आई, जो संयुक्त डिजाइन की आवश्यकता की पुष्टि करता है। साझा चैनल (shared channel) के साथ लर्न किए गए चैनल को बदलने से भी प्रदर्शन कम हो गया।
डायग्नोस्टिक्स:
- रिलायबिलिटी: पोस्टीरियर रिलायबिलिटी $\rho_i$ ने एम्पिरिकल SD–DR एग्रीमेंट रेट्स के साथ एक मजबूत स्पीयरमैन कोरिलेशन (0.98) दिखाया, जो लेबल विसंगतियों का पता लगाने में एंट्रॉपी और कॉन्फ्लिक्ट स्कोर से बेहतर प्रदर्शन करता है।
- विजुअलाइजेशन: फ्लिप किए गए सैंपल्स पर केस स्टडीज ने प्रदर्शित किया कि MOLAR दूषित रिकॉर्ड किए गए लेबलों के बावजूद सही क्लीन लेबल की भविष्यवाणी कर सकता है, और शोर को याद करने के बजाय विशिष्ट आणविक उप-संरचनाओं (substructures) को निर्णय का आधार बनाता है।

महत्व
पेपर का दावा है कि MOLAR शोर वाले पर्यवेक्षण की उपस्थिति में मल्टीमॉडल मॉलिक्यूलर रिप्रजेंटेशन लर्निंग के लिए एक सिद्धांतगत दृष्टिकोण प्रदान करता है। क्लीन प्रॉपर्टी इन्फरेंस को रिकॉर्ड किए गए लेबल अवलोकन से स्पष्ट रूप से अलग करके और मोडैलिटीज और लेबलों के बीच के संबंध को प्रोबेबिलिस्टिक रूप से मॉडल करके, फ्रेमवर्क दूषित डेटा को याद करने के जोखिम को कम करता है। पोस्टीरियर रिलायबिलिटी और मोडैलिटी-विशिष्ट साक्ष्य प्राप्त करने की क्षमता एक डायग्नोस्टिक क्षमता प्रदान करती है जो वास्तविक दुनिया के ड्रग डिस्कवरी परिदृश्यों में अत्यंत महत्वपूर्ण है जहाँ लेबल स्वाभाविक रूप से अनिश्चित होते हैं। परिणाम बताते हैं कि शोर वाले अवलोकनों से लेटेंट प्रॉपर्टीज को अलग करना मॉलिक्यूलर प्रॉपर्टी प्रेडिक्शन में सामान्यीकरण (generalization) और मजबूती (robustness) में सुधार करने के लिए एक महत्वपूर्ण कदम है।

समाधान: MOLAR

उन्होंने क्या पाया

मुख्य निष्कर्ष

इसी तरह के और पेपर