MolEmb: Multimodal Large Language Models Can Be Strong Molecular Embedding Models
यह शोध पत्र MolEmb को प्रस्तुत करता है, जो एक हल्का ढांचा (lightweight framework) है जो मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स को सामान्य, संदर्भ-जागरूक आणविक एम्बेडिंग मॉडल के रूप में कार्य करने के लिए अनुकूलित करता है, जो आणविक प्रोफाइल्स और पाठ्य विवरणों के द्वि-दिशीय कंट्रास्टिव अलाइनमेंट (bidirectional contrastive alignment) के माध्यम से गुण भविष्यवाणी और क्रॉस-मोडल रिट्रीवल के लिए उनकी व्यवहार्यता को प्रदर्शित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कंप्यूटेशनल केमिस्ट्री की शांत प्रयोगशालाओं में, वैज्ञानिक लंबे समय से अणुओं की अदृश्य दुनिया को समझने के लिए एक विशिष्ट प्रकार के डिजिटल फिंगरप्रिंट पर भरोसा करते आए हैं। ये फिंगरप्रिंट, जिन्हें एम्बेडिंग (embeddings) कहा जाता है, गणितीय सारांश हैं जो एक रासायनिक संरचना के सार को पकड़ते हैं, जिससे कंप्यूटर यह अनुमान लगा पाते हैं कि कोई पदार्थ कैसे व्यवहार करेगा, जैसे कि वह पानी में घुलेगा या नहीं, या क्या वह विषाक्त हो सकता है। वर्षों तक, इन फिंगरप्रिंट्स को बनाने के लिए विशेष उपकरणों की आवश्यकता होती थी जो एक ही उद्देश्य के लिए डिज़ाइन किए गए थे: एक अणु की तस्वीर लेना या उसके रासायनिक कोड को पढ़ना और एक निश्चित संख्या बाहर निकालना। यह दृष्टिकोण विशिष्ट कार्यों के लिए अच्छा था, लेकिन इसमें लचीलेपन की कमी थी। यह इस आधार पर अपना ध्यान आसानी से नहीं बदल सकता था कि वैज्ञानिक क्या पूछ रहा है। यदि कोई शोधकर्ता रक्त-मस्तिष्क अवरोध (blood-brain barrier) को पार करने की किसी अणु की क्षमता के बारे में जानना चाहता था, तो उपकरण वही उत्तर देता था जो वह तब देता जब वे तेल में घुलने की क्षमता के बारे में पूछ रहे होते, क्योंकि उपकरण प्रश्न को नहीं समझता था, केवल अणु के आकार को समझता था।
यह सीमा एक बाधा बन गई है क्योंकि यह क्षेत्र जटिल ड्रग डिस्कवरी और सामग्री डिजाइन की ओर बढ़ रहा है। वैज्ञानिकों को इन डिजिटल फिंगरप्रिंट्स से बात करने के तरीके की आवश्यकता थी, ताकि वे उनसे पूछ सकें कि वे जांच के संदर्भ के आधार पर विभिन्न विशेषताओं को कैसे उजागर करें। प्रश्न यह था कि क्या शक्तिशाली, लचीले आर्टिफिशियल इंटेलिजेंस सिस्टम, जो पहले से ही टेक्स्ट पढ़ सकते हैं और चित्र देख सकते हैं, उन्हें अनुकूलनीय रासायनिक फिंगरप्रिंट बनाने के लिए पुनर्गठित किया जा सकता है। हर रासायनिक समस्या के लिए एक नया, संकीर्ण उपकरण बनाने के बजाय, शोधकर्ता यह जानना चाहते थे कि क्या एक एकल, सामान्य-उद्देश्य वाला सिस्टम अणुओं का प्रतिनिधित्व करने का तरीका सीख सकता है जो उनके द्वारा उपयोग की जाने वाली भाषा के आधार पर बदल जाता है।
द चाइनीज यूनिवर्सिटी ऑफ हांगकांग, शेनझेन और द शंघाई आर्टिफिशियल इंटेलिजेंस लेबोरेटरी के शोधकर्ताओं की एक टीम ने एक नए ढांचे के साथ इस प्रश्न का उत्तर देने का प्रयास किया जिसे वे 'MolEmb' कहते हैं। उन्होंने एक प्रकार के आर्टिफिशियल इंटेलिजेंस से शुरुआत की जिसे मल्टीमॉडल लार्ज लैंग्वेज मॉडल (multimodal large language model) कहा जाता है। ये उन्हीं प्रकार के सिस्टम हैं जो एक तस्वीर देख सकते हैं, एक वाक्य पढ़ सकते हैं और दोनों के बीच के संबंध को समझ सकते हैं। शोधकर्ताओं ने महसूस किया कि ये मॉडल अणुओं के विभिन्न विवरणों को संभालने के लिए स्वाभाविक रूप से उपयुक्त थे: एक द्वि-आयामी (2D) ड्राइंग के रूप में, इसके रासायनिक संरचना को दर्शाने वाले टेक्स्ट कैरेक्टर्स की एक स्ट्रिंग के रूप में, या जांच किए जाने वाले गुण के बारे में निर्देशों के एक सेट के रूप में।
टीम ने इन बड़े मॉडलों को आणविक एम्बेडिंग विशेषज्ञों के रूप में कार्य करने के लिए सिखाने हेतु एक हल्का (lightweight) सिस्टम बनाया। उन्होंने मॉडल को नए अणु बनाने या रासायनिक पेपर लिखने के लिए प्रशिक्षित करने की कोशिश नहीं की। इसके बजाय, उन्होंने मॉडल को अणु के दृश्य और टेक्स्ट विवरण को एक विशिष्ट टेक्स्ट निर्देश के साथ संरेखित (align) करने के लिए प्रशिक्षित करने पर ध्यान केंद्रित किया। कल्पना कीजिए कि एक अणु एक जटिल वस्तु है जिसे विभिन्न लेंसों के माध्यम से देखा जा सकता है। शोधकर्ताओं ने मॉडल को एक अणु की तस्वीर और उसका रासायनिक कोड दिखाया, फिर उसे एक टेक्स्ट निर्देश के साथ जोड़ा जैसे कि "विषाक्तता के लिए विश्लेषण करें" या "घुलनशीलता के लिए विश्लेषण करें।" लक्ष्य यह था कि मॉडल उस अणु के लिए एक अद्वितीय डिजिटल फिंगरप्रिंट उत्पन्न करे जो निर्देश के आधार पर थोड़ा बदल जाए। जब निर्देश विषाक्तता के बारे में था, तो फिंगरप्रिंट सुरक्षा से संबंधित अणु के हिस्सों पर जोर देगा। जब निर्देश बदल गया, तो फिंगरप्रिंट उन हिस्सों को उजागर करने के लिए बदल जाएगा जो पानी में घुलने से संबंधित हैं।
यह परीक्षण करने के लिए कि क्या यह दृष्टिकोण काम करता है, शोधकर्ताओं ने कई कठोर प्रयोग चलाए। सबसे पहले, उन्होंने जांचा कि क्या नया सिस्टम वर्तमान में उपयोग किए जाने वाले विशिष्ट उपकरणों की तरह सटीक रूप से रासायनिक गुणों की भविष्यवाणी कर सकता है। उन्होंने पाया कि सिस्टम, बिना किसी विशेष प्रशिक्षण के भी, घुलनशीलता और विषाक्तता जैसे गुणों की भविष्यवाणी उतनी ही सटीकता के साथ कर सकता है जितनी कि सर्वोत्तम मौजूदा विधियाँ। यह एक महत्वपूर्ण खोज थी क्योंकि इसने सुझाव दिया कि सामान्य-उद्देश्य वाले मॉडल ने पहले से ही रासायनिक संरचनाओं के बारे में इतना कुछ सीख लिया है कि वह उपयोगी हो सके, केवल अणु की छवि, उसके टेक्स्ट कोड और विवरण के लिए उपयोग की जाने वाली भाषा के बीच संबंध को समझकर।
इसके बाद, टीम ने परीक्षण किया कि क्या इन फिंगरप्रिंट्स का उपयोग टेक्स्ट का उपयोग करके अणुओं को खोजने के लिए किया जा सकता है। पारंपरिक प्रणालियों में, आप डेटाबेस में अणु खोजने के लिए "मुझे एक ऐसा अणु ढूंढ कर दें जो लिवर कोशिकाओं के लिए विषाक्त है" जैसा वाक्य टाइप करके अपेक्षित परिणाम प्राप्त नहीं कर सकते, क्योंकि रासायनिक डेटा और टेक्स्ट डेटा अलग-अलग दुनिया में रहते हैं। शोधकर्ताओं ने दिखाया कि उनके नए सिस्टम ने एक साझा स्थान बनाया जहाँ अणुओं और टेक्स्ट विवरणों की सीधे तुलना की जा सकती है। जब उन्होंने सिस्टम से एक विशिष्ट विवरण से मेल खाने वाले अणु को खोजने के लिए कहा, तो यह उच्च सटीकता के साथ सफल रहा, जिससे सिद्ध हुआ कि मॉडल ने वास्तव में रसायन विज्ञान के दृश्य और टेक्स्ट पहलुओं को एक एकल, एकीकृत प्रतिनिधित्व में जोड़ना सीख लिया है।
हालाँकि, सबसे महत्वपूर्ण परीक्षण यह देखना था कि क्या सिस्टम वास्तव में संदर्भ के आधार पर अपना निर्णय बदल सकता है। शोधकर्ताओं ने एक नैदानिक बेंचमार्क बनाया जिसे 'MolCAR' कहा गया, यह देखने के लिए कि क्या मॉडल एक ही अणु के विभिन्न वैध विवरणों के बीच अंतर कर सकता है। उन्होंने मॉडल को एक ही अणु प्रस्तुत किया और उससे एक विशिष्ट कार्य, जैसे कि विषाक्तता, के लिए सही विवरण खोजने को कहा, जबकि अन्य वैध विवरणों को अनदेखा करने को कहा, जैसे कि हाइड्रेशन (hydration)। इससे पहले कि वे अंतिम विशिष्ट प्रशिक्षण की परत जोड़ते, मॉडल इस अंतर को करने में संघर्ष करता था। यह अणु को एक निश्चित पहचान के रूप में मानता था, चाहे जो भी प्रश्न पूछा जाए। हालाँकि, जब शोधकर्ताओं ने मॉडल को एक ऐसे डेटासेट पर प्रशिक्षित किया जो विशेष रूप से अणुओं को विभिन्न कार्य-केंद्रित विवरणों के साथ जोड़ने के लिए डिज़ाइन किया गया था, तो सिस्टम ने अपना ध्यान बदलना सीख लिया। यह एक ही अणु के लिए अलग-अलग फिंगरप्रिंट उत्पन्न करने लगा, चाहे प्रश्न विषाक्तता के बारे में हो या घुलनशीलता के बारे में।
परिणाम बताते हैं कि मल्टीमॉडल लार्ज लैंग्वेज मॉडल न केवल रासायनिक विचारों को उत्पन्न करने या प्रश्नों के उत्तर देने के उपकरण हैं; वे एक नए प्रकार के आणविक प्रतिनिधित्व की नींव के रूप में भी कार्य कर सकते हैं। अध्ययन इंगित करता है कि संदर्भ-जागरूक रासायनिक फिंगरप्रिंट बनाने की क्षमता मॉडल की वास्तुकला (architecture) में कोई अंतर्निहित दोष नहीं है, बल्कि यह उस डेटा का मामला है जिस पर इसे प्रशिक्षित किया गया है। जब प्रशिक्षण डेटा में एक ही अणु के विविध उदाहरण विभिन्न वैज्ञानिक लेंसों के तहत शामिल होते हैं, तो मॉडल अनुकूलित होना सीख जाता है। यह निष्कर्ष एक ऐसे भविष्य की ओर इशारा करता है जहाँ एक एकल, सामान्य-उद्देश्य वाला सिस्टम कई संकीर्ण, विशिष्ट उपकरणों की जगह ले सकता है, जिससे वैज्ञानिक रासायनिक डेटा के साथ उसी लचीलेपन के साथ पूछताछ कर सकेंगे जैसा कि वे एक पुस्तकालय में जानकारी खोजने के लिए करते हैं। यह कार्य प्रदर्शित करता है कि आणविक प्रोफाइल को प्राकृतिक भाषा निर्देशों के साथ संरेखित करके, ये शक्तिशाली मॉडल अगली पीढ़ी की ड्रग डिस्कवरी और रासायनिक अनुसंधान के लिए एक बहुमुखी बुनियादी ढांचा बन सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।